Curs Tic Idd

  • View
    35

  • Download
    14

Embed Size (px)

DESCRIPTION

codare

Text of Curs Tic Idd

  • CURS TEORIA INFORMATIEI SI A CODARII

    Prof.dr.ing. Adrian Mihaescu

  • Curs TTI

    1

    Curs TTI EA CUPRINS 1.1.2 Modelul unui sistem de transmisiune a informaiei 1.1.3 Cerinele unui sistem de transmisiune a informaiei 1.1.4 Msura informaiei n cazul semnalelor discrete 1.1.5 Tipuri de surse de informaie 1.1.6 Parametrii surselor de informaie 1.2.1 Terminologie 1.2.2 Entropii condiionate Transinformaia 1.2.3 Capacitatea canalului discret

    1.3 Codarea surselor pentru canale fr perturbaii

    1.3.1 Scopul codrii surselor de informaie 1.3.2 Tipuri de coduri 1.3.3 Lungimea medie a unui cuvnt de cod 1.3.4 Eficiena i redundana unui cod 1.3.5 Prima teorem a lui SHANON (teorema codrii canalelor fr zgomot ) 1.3.6 Metode de codare binar

    Codarea Shannon-Fano

    Cap.2 Codarea pentru canale cu pertubaii 2.1 Scopul codrii pentru protecie

    2.2 Clasificarea codurilor detectoare sau corectoare de erori 2.3 Teorema lui Shanonn II pentru canale cu perturbaii

    2.4 Reguli de decizie 2.5Coduri simple detectoare de erori

    2.5.1 Codul cu repetiie detector de erori 2.5.2 Cod cu pondere constant detector de erori

    2.6 Coduri grup

    2.6.1 Principiul decodrii utiliznd matricea de control 2.6.2 Condiii impuse matricei de control pentru a detecta sau corecta erori 2.6.3 Construcia matricei de control pentru a detecta un numr impar de erori 2.6.4 Construcia matricii de control pentru a detecta dou erori

    2.7 Codul grup Hamming, corector de o eroare

    2.7.1 Descrierea codului grup Hamming 2.7.2 Codarea codului grup Hamming 2.7.3 Decodarea codului grup Hamming

  • Curs TTI

    2

    Codul Hamming corector de o eroare i detector de dou erori

    2.8 Coduri iterate 2.8.1 Coduri iterate cu distana Hamming 2 x 2 2.8.2 Coduri iterate cu distan Hamming 2 x 3

    2.9 Coduri ciclice

    2.9.1 Descrierea codurilor ciclice

    2.9.2 Codarea cuvintelor cu ajutorul polinomului generator g(x) 2.9.3 Codarea cu ajutorul matricii de control :

    TT HGGH =

    2.9.4 Decodarea codurilor ciclice

    2.9.5 Decodor cu registru de deplasare cu reacie

    Cap.3 SEMNALE ALEATOARE

    3.1 Definiia i clasificarea semnalelor aleatoare: 3.2 Variabile aleatoare

    3.2.1 Funcia de repartiie a variabilei aleatoare 3.2.2 Densitatea de probabilitate a unei v.a. 3.2.3 Distribuia uniform 3.2.4 Distribuia normal 3.2.5 Momentele de ordinul k ale v.a.

    3.3 Valori medii ale semnalelor aleatore

    3.3.1 Valori medii statistice ale semnalelor aleatore 3.3.2 Valori medii temporale ale semnalelor aleatoare 3.3.3 Semnale aleatoare staionare

    3.3.4 Semnale aleatoare ergodice

    3.3.5 Semnalul aleator pur

    3.4 Densitatea spectral de putere. Teorema Wiener Hincin

    3.4.1 Densitatea spectral de putere a semnalelor aleatoare staionare

  • Curs TTI

    3

    3.4.2 Teorema Wiener Hincin 3.5 Dezvoltarea Karhunen-Love a semnalelor aleatoare n serie cu coeficieni necorelai

    3.6 Transformri liniare ale semnalelor aleatoare

    Cap.4 Transmiterea discret a semnalelor continue

    4.1. Sisteme cu modulaia impulsurilor

    4.2 Transferul informaiei n sistemele cu modulaie n impuls 4.3Eantionarea. Spectrul semnalelor MIA

    4.3.1 MIAN modulaia impulsurilor n amplitudine natural 4.3.2 MIAV modulaia impulsurilor n amplitudine uniform 4.3.3 Teorema eantionrii

    4.4 Conversia Analog-numeric

    4.4.1 Cuantizarea 4.5 Modulaia delta

    4.5.1 Modulaia delta uniform 4.5.2 Modulaia delta adaptiv

    .

    Cap.5 DETECTIA SEMANALELOR BINARE ACOPERITE DE ZGOMOT

    5.1 CRITERII DE DECIZIE BINARA 5.1.1 Criteriul lui BAYES 5.1.2 Criteriul observatorului ideal 5.1.3 Criteriul probabilitii aposteriori maxime

    5.1.4 Criteriul min-max

    5.1.5 Criteriul Neuman-Pearson 5.2 Detecia discret a semnalului binar

    5.2.1 Calculul raportului de plauzibilitate 5.2.2 Probabilitile deciziilor corecte i false

    5.3 Detecia continuu a unui semnal binar 5.3.1 Descompunerea semnalului recepinat n sum de funcii ortonormate 5.3.2 Calculul raportului de plauzibilitate 5.3.3 Probabilitile deciziilor corecte i false 5.4 Detecia a dou semnale binare observate continuu

  • Curs TTI

    4

    Cap.6 ESTIMAREA PARAMETRILOR 6.1 Introducere

    6.2 Parametrii aleatori: estimatori de tip Bayes 6.2.1 Criteriul de estimare mediu ptratic. 6.2.2 Criteriul de estimare maxim aposteriori.

    6.3 Estimarea discret 6.3.1 Estimarea discret utiliznd criteriul estimrii maximum aposteriori 6.4 Estimarea continu

    6.4.2 Estimarea unui parametru determinat necunoscut

    6.4.3 Estimarea liniar prin observaii continue a unui parametru determinist necunoscut.

    6.5 Criterii de evaluare ale calitii estimailor

  • Curs TTI

    1

    Cap.1 Surse de informaie. Canale de transmisiune

    1.1 Surse de informaie

    1.1.1 Terminologie Noiunile utilizate n teoria transmisiunii informaiei:

    Informaie - Presupunem c ntr-o situaie oarecare pot avea loc N evenimete diferite, egal probabile, probabilitatea de realizare a unui eveniment A fiind p(A)=1/N. Odat ce unul din cele N evenimente au fost realizate se obine o informaie. Aceast informaie este cu att mai mare cu ct evenimentul este mai imprevizibil, respectiv cu ct probabilitatea sa este mai mic. Prin definitie informaia obinut este:

    ( ) ( ) NApApAi 222 loglog1log)( ===

    Ex 1. Aruncarea zarului. Ex 2. Exist 12 monede din care una fals ce poate fi mai uoar sau mai grea. Folosind o balan egal s se determine, utiliznd noiunea de informaie, cte cntriri sunt necesare pentru a determina moneda fals i s se specifice dac este mai uoar sau mai grea.

    A- evenimentul determinrii monedei false; B- evenimentul determinrii dac moneda fals este mai uoar sau mai grea; C- evenimentul compus: A intersectat cu B.

    p(A)= 1/12; p(B)=1/2; p(C)=1/12*1/2= 1/24

    ( ) 24log1log 22 == Cp

    iC

    iC informaie necesar pentru a solva problema. io = log2 3 informaia furnizat de o cntrire (balaa, la o cntrire, poate s se ncline spre dreapta, spre stnga sau s nu se incline 3 posibiliti). kmin se afl punnd condiia ca informaia furnizat de cntriri s fie mai mare dect informaia necesar:

    kmin log23 log224 kmin =3

    Concluzii: - informaia, dup definiia probabilitii, ne d o msur calitativ asupra unui sistem, ne

    spune de cte cntriri avem nevoie; nu spune cum se face msurarea cu balana; - informaia este o msur cantitativ util pentru analiza sistemelor de transmitere a

    informaiei.

  • Curs TTI

    2

    1.1.2 Modelul unui sistem de transmisiune a informaiei Cel mai simplu model al unui sistem de transmisiune a informaiei este:

    Sursa de informaie un mecanism tehnic sau o procedur matematic care poate alege i emite un mesaj dintr-un ansamblu de mesaje posibile, alegerea fcndu-se n mod aleator. Sursa de informaie se caracterizeaz prin setul de mesaje posibil a fi selectate denumite simboluri sau litere.

    Utilizator destinaia final la care trebuie s ajung mesajul transmis. Canal totalitatea mijloacelor destinate transmiterii mesajului; prin mijloace ntelegem

    att aparatura ct i mediul prin care se poate transmite, i include toate sursele de perturbaii. Modulare transformarea unui mesaj ntr-un semnal, cu scopul de a facilita transmisiunea

    printr-un canal dat sau de a realiza transmisiuni multiple prin acelai mediu. Scopul secundar al modulaiei este de a mri eficiena transmisiunii prin micorarea efectului perturbaiilor ce intervin n pocesul de transmisiune.

    Demodulare operaia invers modulrii. Codare- prelucrarea discret a mesajului cu scopul mririi eficienei de transmisie.

    Uneori termenul de codare nglobeaz i modularea. Decodare operaia invers codrii.

    1.1.3 Cerinele unui sistem de transmisiune a informaiei Sarcina unui sistem de transmisiune a informaiei este de a pune la dispoziia

    utilizatorului informaia generat de surs, cu un grad de deteriorare specificat, admis. n tehnicile de comunicaii se obinuiete s se introduc un criteriu de fidelitate, pentru

    aprecierea reproducerii semnalului generat de surs la utilizator. n sistemele de transmisiune analogic, criteriul de fidelitate ales este uneori eroarea

    medie ptratic:

    x(t) mesaj transmis; y(t) mesaj recepionat;

    iar medierea se face n raport cu timpul; alteori se alege drept criteriu de fidelitate raportul semnal/ zgomot.

  • Curs TTI

    3

    n(t) zgomot perturbator; n sistemele de transmisie numeric criteriul de fidelitate l reprezint probabilitatea

    recepionrii unui mesaj eronat, numit rata erorii (BER Bit Error Rate).

    1.1.4 Msura informaiei n cazul semnalelor discrete Informaia este o msur a nedeterminrii asupra unui sistem de evenimente, respectiv o

    msur a incertitudinii asupra rezultatului alegerii printr-un mecanism oarecare aleator, a unui eveniment din mulimea evenimentelor posibile distincte. Aceast msur nu se refer la valoarea subiectiv a informaiei. Ea este o msur obiectiv privind incertitudinea mecanismului prin care se realizeaz un eveniment din mulimea evenimentelor psibile.

    Fie un experiment care are n realizri posibile pe care le organizm n spaiul eantioanelor.

    X={x1, x2,, xn}

    Fiecrui eveniment i se asociaz o probabilitate

    P={p(x1),p(x2),,p(xn)} a.. ( )=

    =

    n

    1ii 1xp

    Ansamblul [x,p] formeaz o surs de informaie discret.

    ( ) ( )

    =

    n1

    n1

    xpxpxx

    X

    Msura incertitudinii asupra realizrii unui eveniment xi este o funcie de probabilitate apriorii de realizare a acestui eveniment F(pi), unde: Pi = p(xi); U(xi) = F(pi) i reprezint