PLH22 OSS4 Slides

8/18/2019 PLH22 OSS4 Slides

1/115

w w w

. l u c e n t . c o m / s e c u r i t y

ΠΛΗ 22: Βασικά Ζητή ατα !ικτ"#$ Η/%

Ελληνικό Ανοικτό Πανεπιστήμιο

Πρόγραμμα, «Πληροφορική»


2/115

w w w

. l u c e n t . c o m / s e c u r i t y

&α$ά'ια ()ικ*ι$#$+α

,ικ*)*+ηση ('- *0 1 ά' ατ*345α ικ*+ &6,ικ73

ΠΛΗ22 : Βασικά Ζητήματα Δικτύων Η/Υ2


3/115

Κανάλια Επικοινωνίας

Διακριτά Κανάλια Επικοινωνίας Χωρίς νήμη!"#σεις Πληροφορίας εισό$ο% & ε'ό$ο%

Αμοι(αία Πληροφορία

Χωρητικότητα $ιακριτ)ν καναλι)ν "ωρίς μνήμη*εμελι)$ες *ε)ρημα Πληροφορίας


4/115

&α$ά'ι 78950 *

Κανάλια Επικοινωνίας + -

Πηγή

Κω$ικοποιητής Αποκω$ικοποιητής

Δ#κτης

ŝ s

t r Κανάλι

Επικοινωνίας

Κω$ικοποιητήςΠηγής.!%μπίεση

Αποκω$ικοποιητήςΠηγής.Αποσ%μπίεση

q̂q

οντ#λο

οντ#λο

οντ#λο

s′

οντ#λο

οντ#λο

s′ˆ

οντ#λο

*όρ%(ος



5/115

Κανάλια Επικοινωνίας +/-

Εί$η Καναλι)ν & Διακριτά Κανάλια0 Χωρίς νήμη

0 ε νήμη

& !%νε"ή Κανάλια

0 Χωρίς νήμη

0 ε νήμη

Ποσότητα πληροφορίας πο% μεταφ#ρεται πάνω από #να κανάλι "ωρίςμνήμη

Χωρητικότητα $ιακριτο1 Καναλιο1, 2, παρο%σία 3ορ1(ο%4/ ο *εμελι)$ες 3ε)ρημα κω$ικοποίησης καναλιο1 το% 5678898

Χωρητικότητα σ%νε"ο1ς Καναλιο1, 2, παρο%σία προσ3ετικο1 3ορ1(ο%



6/115

Κανάλια Επικοινωνίας +:-

;Λ?

@A BCDEiF

.

.

.

.

.

.

%A B GDy HF

EIE2

EnJI

En

yIy2

ynJI

yn

.

.

.

Ei...

y HBiH

Bi2

BiI

BinJIBin

KB G/CDy H /EiFLMKBiHLMKN G/CL

KN GLMKNCL KN G/CL

KNCLMKBCDEI F BCDE2F 444BCDE= F LKN %LMKB %DyI F B %Dy2F 444B %Dy= F L

( ) ( ) N j p x p y p N

iiji X jY ,...,1,

1

==∑=



7/115

Κανάλια Επικοινωνίας +;-

%)7$O" ιση &!%ν$%ασμ#νη Εντροπία

0

0


8/115

Κανάλια Επικοινωνίας +G-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & Δυαδικό κανάλι χωρίς θόρυβο

11

00

1

1

→

→ @A BCDEiF

EI

E2

%A B GDy HF

yI

y2

( ) ( )[ ] ( ) ( )[ ]

( ) ( )( ) ( )11

00

10

011010

xY

xY

x xY Y

p p

p p

p p p p

==

=



9/115

Κανάλια Επικοινωνίας +H-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & Ενθόρυβο κανάλι με μη επικαλυπτόμενες εξόδους

@A BCDEiF

EI

E2

%A B GDy HF

( ) ( ) ( ) ( )[ ] ( ) ( )[ ]

( ) ( ) ( ) ( )

( ) ( ) ( ) ( )2423

1211

214321

32

,31

21

,21

32

3100

0021

21

x p y p x p y p

x p y p x p y p

x p x p y p y p y p y p

xY xY

xY xY

x xY Y Y Y

==

==

=

yI

y2

yR

yS

./

./

.:

/.:



10/115

Κανάλια Επικοινωνίας +I-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & Ενθόρυβη Γραφομηχανή

0 Jα,(,γ,$,444,",K,ωL

α

T

#

.

.

.

α

T

#

.

.

.

I/2

I/2

I/2

I/2I/2

I/2

I/2

I/2I/2

I/2

2/10000002/12/12/1000000

02/12/100000

0002/10000

0002/12/1000

00002/12/100000002/12/10

0000002/12/1

ω ψ

χ

ε δ γ β

α ω ψ χ ε δ γ β α



11/115

Κανάλια Επικοινωνίας +M-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & Δυαδικό συμμετρικό κανάλι

11

00

)1(

)1(

→

→

−

−

f

f

f @A BCDEiF

EI

E2

%A B GDy HF

yI

y2

( ) ( )[ ] ( ) ( )[ ]( ) ( ) ( ) ( )( ) ( ) ( ) ( )1101

1010

1

11010

x xY

x xY

x xY Y

p f fp p

fp p f p

f f

f f p p p p

−+=+−=

−−

=



12/115

Κανάλια Επικοινωνίας +N-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & Δυαδικό κανάλι με αποσβέσεις

@A BCDEiF

EI

E2

%A B GDy HF

( ) ( ) ( )[ ] ( ) ( )[ ]

( ) ( ) ( )( ) ( ) ( )( )

( ) ( ) ( )2221

11

2121

1

,

,110

01

x pa y p

a x p x pae p

x pa y paa

aa x p x p y pe p y p

xY

x xY

xY

x xY Y Y

−==+=

−= −

−=

yI

e

y2

Bα

α

α

Bα



13/115

Κανάλια Επικοινωνίας + O-

Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & ο κανάλι !

11

00

)1(

1

→

→

− f

f @A BCDEiF

EI

E2

%A B GDy HF

yI

y2

( ) ( )[ ] ( ) ( )[ ]( ) ( ) ( )( ) ( ) ( )111

100

1

011010

xY

x xY

x xY Y

p f p

fp p p

f f p p p p

−=+=

−=



14/115

Κανάλια Επικοινωνίας + -Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & "υμμετρικά κανάλια

& #ρισμοί 0 Pνα κανάλι λ#γεται συμμετρικό εάν οι γραμμ#ς το% πίνακα μετά(ασης QR STU>QVD.EU

μπορο1ν να προκ1Kο%ν από σ%ν$%ασμο1ς των στοι"είων της κά3ε γραμμής καιτο ί$ιο να σ%μ(αίνει και για τις στήλες

0 Pνα κανάλι λ#γεται μερικώς συμμετρικό +WX7YZ[ \[]]X^_S`- εάν οι γραμμ#ς το%πίνακα μετά(ασης QR STU>QVD.EU μπορο1ν να προκ1Kο%ν από σ%ν$%ασμο1ς τωνστοι"είων της κά3ε γραμμής και το ά3ροισμα των στοι"είων της κά3ε στήλης ναείναι πάντα το ί$ιο

[ ] [ ]==61

21

31

216131

3.05.02.0

2.03.05.05.02.03.0

ijij p p

> > >

32

32

32

Συμμετρικό Κανάλι Μερικώς Συμμετρικό Κανάλι



15/115

Κανάλια Επικοινωνίας + /-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & "υμμετρικό κανάλι

@A BCDEiF

EI

ES

%A B GDy HF

( ) ( ) ( )[ ] ( ) ( ) ( )[ ]

( ) ( ) ( ) ( )( ) ( ) ( ) ( )( ) ( ) ( ) ( )3213

3212

3211

321321

3.02.05.0

,5.03.02.0

,2.05.03.03.05.02.0

2.03.05.0

5.02.03.0

x p x p x p y p

x p x p x p y p

x p x p x p y p

x p x p x p y p y p y p

x x xY

x x xY

x x xY

x x xY Y Y

++=++=++=

=

yI

y2

yS

E2 [ ]=3.05.02.0

2.03.05.0

5.02.03.0

ij p



16/115

Κανάλια Επικοινωνίας + :-Πα5α,7+ ατα !ιακ5ιτ6$ &α$α'ι6$ & $ερικ%ς "υμμετρικό κανάλι

@A BCDEiF

EI

E2

%A B GDy HF

( ) ( ) ( )[ ] ( ) ( )[ ]

( ) ( ) ( )

( ) ( ) ( )

( ) ( ) ( )213

212

211

21321

61

21

,21

61

,31

31

61

21

31

21

61

31

x p x p y p

x p x p y p

x p x p y p

x p x p y p y p y p

x xY

x xY

x xY

x xY Y Y

+=

+=

+=

=

yI

y2

yS

[ ]=

6

1

2

1

3

121

61

31

ij p



17/115

Κανάλια Επικοινωνίας + ;-ΠιOα$9τητ73 (ισ9,*0 &α$α'ι*" 7ά$ $#5+U*0 7 τη$ -V*,*D&α$9$α3 WXyesF

I. Pστω #να ,0α,ικ9 σ0 7τ5ικ9 κα$ά'ι επικοινωνίας όπο% f >O4 G και VE>JRE+O->O4N,RE+ ->O4 L4 =πο3#τοντας ότι [> τότε είναι $%νατόν να %πολογίσο%με την πι3ανότητα τοσ1μ(ολο πο% μετα$ό3ηκε να ήταν επίσης

&

&

2. Pστω #να κα$ά'ι 7)ικ*ι$#$+α3 Ζ όπο% f >O4 G και VE>JRE+O->O4N, RE+ ->O4 L4=πο3#τοντας ότι [> τότε είναι $%νατόν να %πολογίσο%με την πι3ανότητα το σ1μ(ολοπο% μετα$ό3ηκε να ήταν επίσης

&

∑′

′′=== x

x p x y p x p x y p

y p x p x y p

y p y x p

y x p)()/(

)()/()(

)()/()(),(

)/(

∑=

========

==========

1,0

)()/1()1()1/1(

)1()1()1/1(

)1()1,1(

)1/1(

i

i x pi x y p x p x y p

y p x p x y p

y p y x p

y x p

39.09.085.01.085.0

1.085.0)1/1( =×+×

×=== y x p

0.1085.01.085.0

1.085.0)1/1( =×+×

×=== y x p



18/115

Κανάλια Επικοινωνίας + ;-Π'η5* *5+α η *)*+α 7τα -57ται α)9 τ* κα$ά'ι.

& ε τον όρο πληροφορία πάνω από το κανάλι εννοο1με το ποσοστό τηςπληροφορίας πο% μεταφ#ρεται τελικά "ωρίς λά3ος μ#σα από το κανάλι4

& !τό"ος μας είναι να (ρο1με τρόπο%ς )στε τα aS^\ τα οποία στ#λνο%με ναμπορο1ν να ανακτη3ο1ν +παραληφ3ο1ν- με πολ1 μικρή πι3ανότηταλά3ο%ς4

& ε άλλα λόγια 3#λο%με να μετρήσο%με την πληροφορία η οποίασ"ετίbεται με τη Χ +είσο$ος στο κανάλι- και η οποία εμπερι#"εται στην =+#'ο$ος στο κανάλι- $ηλ4 την αμοι(αία πληροφορία @+ΧA=-

0 YDCQGFMPDCFJPDC/GFMPDGFJPDG/CF

& Πρακτικά α%τό πο% μας εν$ιαφ#ρει είναι να (ρο1με τρόπο%ς #τσι )στε ταaS^\ +η πληροφορία- τα οποία στ#λνονται πάνω από το κανάλι ναμπορο1ν να ανακτη3ο1ν με τ#τοιο τρόπο ο%τοσ)στε η πι3ανότηταλά3ο%ς να είναι αμελητ#α4

& Αντί το% σ%μ(ολισμο1 @+ΧA=- "ρησιμοποιείται και ο σ%μ(ολισμός c καιτότε μιλάμε για 50O 9 7τά,*ση3



19/115

Κανάλια Επικοινωνίας + G-

dρισμ#νες ερμηνείες σ"ετικά με τις ποσότητες τηςπληροφορίας &


20/115

Κανάλια Επικοινωνίας + H-

> *ι α+α Π'η5* *5+α &α$α'ι6$ & I. Pστω #να ,0α,ικ9 σ0 7τ5ικ9 κα$ά'ι επικοινωνίας όπο% f >O4 G & Περίπτωση 1 ηe VE>JRE+O->O4N, RE+ ->O4 L4

0 Εφαρμόbοντας τον τ1πο με το%ς πίνακες είναι $%νατόν να %πολογίσο%μεV=>JR=+O->O4IM, R=+ ->O4//L4

0@+ΧA=->JRE+O->O4G, RE+ ->O4GL40 Εφαρμόbοντας τον τ1πο με το%ς πίνακες είναι $%νατόν να %πολογίσο%με

V=>JR=+O->O4G, R=+ ->O4GL4

0 @+ΧA=->


21/115

Κανάλια Επικοινωνίας + I-> *ι α+α Π'η5* *5+α &α$α'ι6$ & 2. Pστω #να κα$ά'ι 7)ικ*ι$#$+α3 Ζ όπο% f >O4 G & Περίπτωση 1η: VE>JRE+O->O4N, RE+ ->O4 L4

0 dμοίως, V =>JR=+O->O4N G, R=+ ->O4OMGL40 @+ΧA=->O4GL4 0 dμοίως, V =>JR=+O->O4GIG, R=+ ->O4;/GL40 @+ΧA=->


22/115

Κανάλια Επικοινωνίας + M-

Fι πρ#πει λοιπόν να κάνο%με για να μετα$)σο%μεόσο το $%νατόν περισσότερη πληροφορίαA

PDC/GF ?DCQ%F ΗD%/@F

PDGFPD@F

C+Χ,=-PD@A%F Z7 ιστ*)*+ηση> *ι α+α3

Π'η5* *5+α3mXE ?D@Q%F



23/115

Κανάλια Επικοινωνίας + N-Z7 ιστ*)*+ηση > *ι α+α3 Π'η5* *5+α3 & < αμοι(αία πληροφορία παρατηρο1με ότι ε'αρτάται από την

κατανομή V E της τ4μ4 Χ της εισό$ο% στο κανάλι4 & jια να μεγιστοποιήσο%με την ]7f @+ΧA=- 3α πρ#πει να (ρο1με την

καλ1τερη $%νατή κατανομή V E4 &

Pτσι λοιπόν καλήγο%με στο σ%μπ#ρασμα ότι η "ωρητικότητα 2, το%καναλιο1 k, είναιe

0 &'()*+,- .'/01)

0 < κατανομή V Χ η οποία μεγιστοποιεί την παραπάνω σ"#ση λ#γεται(#λτιστη κατανομή4

0 πορεί να %πάρ"ο%ν παραπάνω από μία (#λτιστες κατανομ#ς4 & Από τα παραπάνω είναι φανερό ότι ο τρόπος με τον οποίο ορίσαμε

την "ωρητικότητα καναλιο1 2, αντιστοι"εί σε εκείνο το μ#γε3ος τοοποίο μετρά την ποσότητα της πληροφορίας πο% είναι $%νατόν ναμεταφερ3εί πάνω από #να εν3όρ%(ο $ιακριτό κανάλι "ωρίς μνήμη4

2 /



24/115

Κανάλια Επικοινωνίας +/O-Z7 ιστ*)*+ηση > *ι α+α3 Π'η5* *5+α3 &α$α'ι6$ & I. !0α,ικ9 &α$ά'ι @#5+3 8950 *

0 2+k->]7f l+EAD-> aS^, Προσο"ήe @+Χ,=->]7f l+EAD-> aS^

& S. ($O950 η 5α * η α$ή , RSS>RS,S?> ./, S>α,(,444,K,ω40 Παρατηρο1με ότι κά3ε #να γράμμα είτε λαμ(άνεται σωστά είτε

λαμ(άνεται το επόμενό το% με πι3ανότητα m4 ε $ε$ομ#νο ότι #"ο%με /;$ιαφορετικά σ1μ(ολα εάν μετα$ί$αμε μόνο κά3ε $ε1τερο σ1μ(ολο $ηλ4(,$,b,3,444,",ω, τότε μόνο α%τά τα / σ1μ(ολα από τα /; 3α μπορο1σαν

να μετα$ο3ο1ν και στη σ%ν#"εια να αποκω$ικοποιη3ο1ν "ωρίςσφάλματα4 ε άλλα λόγια η "ωρητικότητα το% καναλιο1 είναι Z9n / aS^\0 !το ί$ιο σ%μπ#ρασμα 3α καταλήγαμε εάν "ρησιμοποιο1σαμε τον ορισμό

& ]7f l+EAD->]7f QC+D-BC+D.E-U>]7f C+D- B >Z9n/;B >Z9n /

2 /

2 /

2 / 2 / 2 /



25/115

Κανάλια Επικοινωνίας +/ -Z7 ιστ*)*+ηση > *ι α+α3 Π'η5* *5+α3 &α$α'ι6$

& !0α,ικ9 σ0 7τ5ικ9 κα$ά'ιA 340 l+EAD->C+D-BC+D.E- >C+D-B∑R+f-C+D.E>f- >C+D-B∑R+f-C+o- >C+D-BC+o-

p BC+o- & !0α,ικ9 κα$ά'ι α)9σ 7ση3A α.

0 ]7f l+EAD->]7f+C+D-BC+D.E-- >]7f+C+D-BC+α-- >]7fC+D-BC+α-

0 *α μπορο1σε να είναι ]7f C+D->Z9n: αλλά α%τή η τιμή $εν είναι εφικτή για καμμίατιμή της R Χ+fS-, S> ,/0 Αν 3#σο%με R E+f, -> Bπ, και R E+f/ ->π, τότε από τα R D+[S-, S> ,X,/ $ίνονται από το%ς

τ1πο%ς +(λ4 $ιαφάνει α- τότε & ]7fC+D->]7f C++ Bα-π,α,+ Bα-+ Bπ-->]7fQ+ Bα-h+ Bα-h]7fC+π-?


26/115

Κανάλια Επικοινωνίας +//-

Z7 ιστ*)*+ηση > *ι α+α3 Π'η5* *5+α3 &α$α'ι6$ & &α$ά'ι ΖA 340 Αν 3#σο%με R E+f, >O-> Bπ, και RE+f/ > ->π, τότε από τα

RD+[S-, S> ,/ $ίνονται από το%ς τ1πο%ς +(λ4 $ιαφάνεια - τότε & C+D->C++ Bo-π- & C+D.E->πh ->πh]7f+C+D-BC+D.E-- >]7f DC++ Bo-π- B πhO4 G μπορο1με να (ρο1με ότι μεγιστοποιείται όταν

π>O4;;G και άρα 2>O4HMG0 Παρατηρείστε ότι R E+f, >O->O4GGG, και RE+f/ > ->O4;;G, πο%

είναι $ιαφορετική από την R E+f, >O->O4G, και RE+f/ > ->O4G, ηοποία μεγιστοποιεί την εντροπία,


27/115

Κανάλια Επικοινωνίας +/:-

5%δικες #μάδων Διόρθωσης 6αθ%ν7 & Αντί να προσ3#το%με πλεονάbο%σα πληροφορία ανά aS^ 3α

προσ3#το%με ανά ομά$ες

&Κ)$ικας dμά$ας ορίbεται το σ1στημα εκείνοκω$ικοποίησης κατά το οποίο μην1ματα πηγής s , μήκο%ςΚ, μετατρ#πονται σε μην1ματα μετά$οσης t, μήκο%ς q,όπο% qrΚ4

&Fα πλεονάbοντα aS^\, qBΚ, ονομάbονται aS^\ ισοτιμίας+R7_S^[-

&Εάν τα πλεονάbοντα aS^\ προκ1πτο%ν ως γραμμικ#ςσ%ναρτήσεις των aS^\ της πηγής s , τότε ο κ)$ικας λ#με ότιείναι γραμμικός4



28/115

Κανάλια Επικοινωνίας +/;-8765η α [\Xnnon ια !ιακ5ιτά &α$ά'ια #5+3 $ή η & jια κά3ε $ιακριτό κανάλι "ωρίς μνήμη, η "ωρητικότητα καναλιο1

#"ει την ακόλο%3η ι$ιότητα0 2>]7f l+EAD-

& jια κά3ε εrO και cs2, για μεγάλα q, %πάρ"ει ομα$ικός κ)$ικας

+για $ιόρ3ωση λα3)ν- μήκο%ς q και ρ%3μο1 ροής πληροφορίαςt c, τ#τοιος )στε η μ#γιστη πι3ανότητα, R uv , λαν3ασμ#νηςλήKης το% κ)$ικα q είναι sε

& jια α%3αίρετες πι3ανότητες λά3ο%ς R a , τότε ο ρ%3μός μετά$οσηςc+Ra- πο% $ίνεται από τη σ"#ση είναι εφικτός

0

& jια κά3ε R a , $εν είναι εφικτός ρ%3μός μετά$οσης μεγαλ1τεροςτο% c+Ra-

)(1)( bb p H

C p R −=



29/115

Κανάλια Επικοινωνίας +/G-

Α%τό πο% μας λ#ει το 3ε)ρημα είναι ότι &Κάθε διακριτό κανάλι αρακτηρί!εται από ένα μέ"εθ#ς π#υ

είναι η ωρητικότητά τ#υ$ %&

&'σ# η πη"( μας μεταδίδει πληρ#)#ρία η #π#ία είναι μικρότερη της ωρητικότητας % τ#υ καναλι#*$ είναι δυνατόννα +ρ#*με #μαδικ#*ς κώδικες ,-$Κ. διόρθωσης λαθών έτσιώστε τ# ενθόρυ+# κανάλι να μεταδίδει πληρ#)#ρία μεαπειρ#ελά ιστη πιθανότητα λάθ#υς& -α συμπερι)έρεταιδηλαδ( σαν κανάλι ωρίς θόρυ+#&



30/115

Παρα$είγματα Καναλι)ν + - ]σκηση & Δίνεται #να $ιακριτό κανάλι "ωρίς μνήμη4 !την είσο$ο το%

καναλιο1 εμφανίbονται τα σ1μ(ολα / 0 , 0 1$ 2$ με πι3ανότηταεμφάνισης το% / 1, ,/ 1 . 3 4 !την #'ο$ο το% καναλιο1λαμ(άνονται τα σ1μ(ολα 4 5 $ 5 1$ 2$ 6$ 7 όπο% οι πι3ανότητες

μετά(ασης 05 ,4 5 8/ 0 . περι#"ονται στον ακόλο%3ο πίνακαμετά(ασης το% καναλιο14

&α- qα %πολογιστεί η ποσότητα πληροφορίας των σ%μ(όλωνε'ό$ο%, 9, . 4 &(- qα %πολογιστεί η α(ε(αιότητα 9, 8;. 4

&γ- qα %πολογιστεί η "ωρητικότητα το% καναλιο14

.1,01,08,00

1,01,008,0= P



31/115

Παρα$είγματα Καναλι)ν +/->)ά$τηση & α- Πρ)τα πρ#πει να %πολογίσο%με τις πι3ανότητες λήKης των κω$ικ)ν

σ%μ(όλων 4 5 $ 5 1$ 2$ 6$ 74 Είναι & ,4 1 . ,4 1$/ 1 .< ,4 1$/ 2 . ,/ 1 . ,4 1 8/ 1 .< ,/ 2 . ,4 1 8/ 2 . 3,=$>.α& & Κατά ανάλογο τρόπο %πολογίbο%με & ,4 2 . ,4 2 $/ 1 .< ,4 2 $/ 2 . ,/ 1 . ,4 2 8/ 1 .< ,/ 2 . ,4 2 8/ 2 . =$>,1?α.$ & ,4 6 . ,4 6$/ 1 .< ,4 6$/ 2 . ,/ 1 . ,4 6 8/ 1 .< ,/ 2 . ,4 6 8/ 2 . α,=$1.


32/115

Παρα$είγματα Καναλι)ν +:-(- Πρ)τα %πολογίbο%με τις σ%ν$%ασμ#νες πι3ανότητες των σ%μ(όλων εισό$ο% καιε'ό$ο% το% καναλιο1 +$είτε και το ερ)τημα -4Είναι ,/ 1$4 1 . ,4 1$/ 1 . ,/ 1 . ,4 1 8/ 1 . =$>α$

,/ 1$4 2 . ,4 2 $/ 1 . ,/ 1 . ,4 2 8/ 1 . =$ ,/ 1$4 6 . ,4 6$/ 1 . ,/ 1 . ,4 6 8/ 1 . =$13$ ,/ 1$4 7 . ,4 7$/ 1 . ,/ 1 . ,4 7 8/ 1 . =$13$

,/ 2 $4 1 . ,4 1$/ 2 . ,/ 2 . ,4 1 8/ 2 . =$ ,/ 2 $4 2 . ,4 2 $/ 2 . ,/ 2 . ,4 2 8/ 2 . =$>,1?3.$ ,/ 2 $4 6 . ,4 6$/ 2 . ,/ 2 . ,4 6 8/ 2 . =$1,1?3.$ ,/ 2 $4 7 . ,4 7$/ 2 . ,/ 2 . ,4 7 8/ 2 . =$1,1?3.&

F)ρα %πολογίbο%με την α(ε(αιότητα το% καναλιο1

@,A8F. ? ,/ 1$4 1 .BCD ,4 1 8/ 1 . ? ,/ 1$4 2 .BCD ,4 2 8/ 1 . ? ,/ 1$4 6 .BCD ,4 6 8/ 1 . ? ,/ 1$4 7 .BCD ,4 7 8/ 1 .? ,/ 2 $4 1 .BCD ,4 1 8/ 2 . ? ,/ 2 $4 2 .BCD ,4 2 8/ 2 . ? ,/ 2$4 6 .BCD ,4 6 8/ 2 . ? ,/ 2 $4 7 .BCD ,4 7 8/ 2 .

?=$>3&BCD=$>,1?3.BCD=$>?=$1,1?3.BCD=$1?=$1,13.BCD=$1 ?=$>BCD=$>?=$1BCD=$1?=$1BCD=$1 =$2GHG


33/115

Παρα$είγματα Καναλι)ν +;-γ- jια τον προσ$ιορισμό της "ωρητικότητας το% καναλιο1 3α πρ#πει να(ρο1με τις πι3ανότητες εμφάνισης των σ%μ(όλων της εισό$ο%, για τιςοποίες μεγιστοποιείται η αμοι(αία πληροφορία μετα'1 της εισό$ο% και τηςε'ό$ο% το% καναλιο1, $ηλα$ή την τιμή α&Είναι

< σ%νάρτηση α%τή μεγιστοποιείται όπως γνωρίbο%με για την τιμή το% 7πο% μη$ενίbει την πρ)τη της παράγωγο4

[ ]

[ ].2575,0))1(8,0log()1(8,0)8,0log(8,0max

)66,02575,0))1(8,0log()1(8,0)8,0log(8,066,0max

)]/()([max);(max

)(

)(

)()(

−−−−−=

−−−−−−=

−==

aaaa

aaaa

X Y H Y H Y X I C

x p

x p

x p x p

ΠΛΗ22 : Βασικά Ζητήματα Δικτύων Η/Υ


34/115

Παρα$είγματα Καναλι)ν +G-Επομ#νως,

*#τοντας ανωτ#ρω την τιμή α%τή το% 3, λαμ(άνο%με τη "ωρητικότητα το%καναλιο1

% =$> I0JK8K4LICB&

[ ]

[ ][ ]

[ ]( )

.2

112

10

1log

018,08,0

log8,0))1(8,0log()8,0log(8,0

log8,0))1(8,0log(8,0log8,0)8,0log(8,0

log1

1)1)(1())1(8,0log()1(8,0log)8,0log(8,0

))1)(log(1())1(8,0log()1(8,0

))8,0(log()8,0log()(8,0

2575,0)1(8,0log()1(8,0)8,0log(8,0);(

0

=⇒==

−⇒=−

⇒=−−=−−−=

+−+−−=−−−+−−−+−=

′−−+−′−−′+′−=

′−−−−−=

aa

a

a

a

aa

aa

eaea

ea

aaa

eaa

aaaa

aaaa

aaaada

Y X dI



35/115

Παρα$είγματα Καναλι)ν +H- Pστω #να $%α$ικό σ%μμετρικό κανάλι "ωρίς μνήμη4 Fο κω$ικό αλφά(ητο

σ%μ(όλων στην είσο$ο το% καναλιο1 $ί$εται από την τ%"αία μετα(λητήΧ>JO, L με πι3ανότητες εμφάνισης V+E>O-> ./, V+E> -> ./, εν) ητ%"αία μετα(λητή =>JO, L σ%μ(ολίbει τις τιμ#ς ε'ό$ο%4 d πίνακαςμετά(ασης το% καναλιο1 είναι

'8) qα %πολογιστεί η α(ε(αιότητα της Χ $ε$ομ#νο% ότι γνωρίbο%με την =4

'88) qα %πολογιστεί η αμοι(αία πληροφορία το% καναλιο14'888) jια ποια τιμή το% wεg, η "ωρητικότητα το% καναλιο1 2 παίρνει τηνμ#γιστη τιμή τηςA'89) jια ποια τιμή το% wεg, η "ωρητικότητα το% καναλιο1 2 παίρνει τηνελά"ιστη τιμή τηςA

1

1

ε ε ε ε

− −



36/115

Παρα$είγματα Καναλι)ν +I-S- jια να (ρο1με την α(ε(αιότητα της Χ $ε$ομ#νο% ότι γνωρίbο%με την =,$ηλα$ή, x+=.Χ-x+Χ- όπο% οιx+=.Χ- είναι οι πι3ανότητες το% πίνακα μετά(ασης4

( ) ( ) ( ) ( )( ) ( ) ( ) ( )( ) ( ) ( ) ( )

( )

( )

10 1 0 1

10 0 1 11 0 1 1

10

2

112

P Y P Y P X P X

P Y P X P X P Y P X P X

P Y

P Y

ε ε

ε ε

ε ε

ε ε

− = = = = = ⇔ −

= = = − + =⇔

= = = + = −

= =

= =



37/115

Παρα$είγματα Καναλι)ν +M- & x+Χ>O,=>O- > x+=>O.Χ>O-x+Χ>O- > + Bε-+ ./-

& x+Χ>O,=> - > x+=> .Χ>O-x+Χ>O- > ε./

& x+Χ> ,=>O- > x+=>O.Χ> -x+Χ> - > ε./

& x+Χ> ,=> - > x+=> .Χ> -x+Χ> - > + Bε-+ ./-

& C+E,D- > B+ Bε- Z9n + Bε- & ε Z9n ε ?

Από τις και / προκ1πτει


38/115

Παρα$είγματα Καναλι)ν +N- Δίνεται #να $ιακριτό κανάλι "ωρίς μνήμη4 !την είσο$ο το% καναλιο1

εμφανίbονται τα σ1μ(ολα / 0 , 0 1$ 2$ με πι3ανότητα εμφάνισης το% / 1, ,/ 1 . 3 4 !την #'ο$ο το% καναλιο1 λαμ(άνονται τα σ1μ(ολα 4 5 $ 5 1$ 2$ 6$ όπο% οι πι3ανότητες μετά(ασης 05 ,4 5 8/ 0 . ,/ 0 84 5 . M 50 περι#"ονται στονακόλο%3ο πίνακα μετά(ασης το% καναλιο14

'8) qα %πολογιστεί η ποσότητα πληροφορίας των σ%μ(όλων ε'ό$ο%, 9, . 4

'88)qα %πολογιστεί η α(ε(αιότητα 9, 8;. 4

'888)qα %πολογιστεί η "ωρητικότητα το% καναλιο14

11 12 13

21 22 23

1/ 2 1/ 2 0 .1/ 2 1/ 4 1/ 4

q q qQq q q = =



39/115

Παρα$είγματα Καναλι)ν + O-iF Πρ)τα πρ#πει να %πολογίσο%με τις πι3ανότητες λήKης των κω$ικ)νσ%μ(όλων 4 5 $ 5 1$ 2$ 64 Είναι

,4 1 . ,4 1$/ 1 .< ,4 1$/ 2 . ,/ 1 . ,4 1 8/ 1 .< ,/ 2 . ,4 1 8/ 2 . 3,182.


40/115

Παρα$είγματα Καναλι)ν + -iiF Πρ)τα %πολογίbο%με τις σ%ν$%ασμ#νες πι3ανότητες των σ%μ(όλωνεισό$ο% και ε'ό$ο% το% καναλιο1 +$είτε και το ερ)τημα -4Είναι ,/ 1$4 1 . ,4 1$/ 1 . ,/ 1 . ,4 1 8/ 1 . α,182.$

,/ 1$4 2 . ,4 2 $/ 1 . ,/ 1 . ,4 2 8/ 1 . α,182.$

,/ 1$4 6 . ,4 6$/ 1 . ,/ 1 . ,4 6 8/ 1 . =$

,/ 2 $4 1 . ,4 1$/ 2 . ,/ 2 . ,4 1 8/ 2 . ,1?3.,182.$ ,/ 2 $4 2 . ,4 2 $/ 2 . ,/ 2 . ,4 2 8/ 2 . ,1?3.,187.$

,/ 2 $4 6 . ,4 6$/ 2 . ,/ 2 . ,4 6 8/ 2 . ,1?3.,187.&

F)ρα %πολογίbο%με την α(ε(αιότητα το% καναλιο1

@,A8F. ? ,/ 1$4 1 .BCD ,4 1 8/ 1 . ? ,/ 1$4 2 BCD ,4 2 8/ 1 . ? ,/ 1$4 6 .BCD ,4 6 8/ 1 . ? ,/ 2 $4 1 .BCD ,4 1 8/ 2 . ? ,/ 2 $4 2 .BCD ,4 2 8/ 2 . ? ,/ 2 $4 6 .BCD ,4 6 8/ 2 .

,382.


41/115

Παρα$είγματα Καναλι)ν + /-iiiF jια τον προσ$ιορισμό της "ωρητικότητας το% καναλιο1 3α πρ#πει να(ρο1με τις πι3ανότητες εμφάνισης των σ%μ(όλων της εισό$ο%, για τιςοποίες μεγιστοποιείται η αμοι(αία πληροφορία μετα'1 της εισό$ο% και τηςε'ό$ο% το% καναλιο1, $ηλα$ή την τιμή α&

Είναι

< σ%νάρτηση α%τή μεγιστοποιείται όπως γνωρίbο%με για την τιμή το% 7 πο%μη$ενίbει την πρ)τη της παράγωγο4 Επομ#νως,

−−−++−=

−−−−−++−=

−==

)1log()1(4

1)1log()1(

4

1

2max

)22

3()1log()1(

41

)1log()1(41

23

max

)]/()([max);(max

)(

)(

)()(

aaaaa

aaaaa

X Y H Y H Y X I C

x p

x p

x p x p



42/115

Παρα$είγματα Καναλι)ν + :-*#τοντας ανωτ#ρω την τιμή α%τή το% 3, λαμ(άνο%με τη "ωρητικότητα το% καναλιο1

&*:; ?8@A&

Παρατηρείστε επίσης ότι "ια α =$G$ ,/ 1 . ,/ 2 . 182$ QR- επιτυ" άνεται η μέ"ιστη ωρητικότητα τ#υ καναλι#*& Sπλά η π#σότητα π#υ μετα)έρεται πάνω από τ# κανάλι είναιη αμ#ι+αία πληρ#)#ρία B'C;D)*:;


43/115

!%μπεράσματα Αμοι(αία Πληροφορία > Ποσό πληροφορίας πο% μεταφ#ρεται πάνωαπό το κανάλι με $ε$ομ#νες τις πι3ανότητες σ%μ(όλων εισό$ο%Χωρητικότητα Καναλιο1 > #γιστο Ποσό πληροφορίας πο% είναι$%νατόν να μεταφερ3εί πάνω από το κανάλι4 & εγιστοποίηση Αμοι(αίας Πληροφορίας ως προς τις πι3ανότητες εισό$ο%

Fα παραπάνω προyπο3#το%ν 1παρ'η 3ορ1(ο% στο κανάλι4

!ε περίπτωση απο%σίας 3ορ1(ο% τότε & Ποσό πληροφορίας πο% μεταφ#ρεται πάνω από το κανάλι με $ε$ομ#νες

τις πι3ανότητες σ%μ(όλων εισό$ο% είναι η


44/115

Ερωτήσεις



45/115

Κω$ικοποίηση Ελ#γ"ο% !φάλματος

Ανί"νε%ση ? Διόρ3ωση !φαλμάτων@σομήκεις Κ)$ικες

jραμμικοί Κ)$ικες

Κ)$ικες C7]]S8n

F#λειοι Κ)$ικες

Δ%zκοί Κ)$ικες


46/115

Εισαγωγή στην Κω$ικοποίηση

Πηγή

Κω$ικοποιητής Αποκω$ικοποιητής

Δ#κτης ŝ s

t r Κανάλι

Επικοινωνίας

Κω$ικοποιητήςΠηγής.!%μπίεση

Αποκω$ικοποιητήςΠηγής.Αποσ%μπίεση

q̂q

οντ#λοοντ#λο

οντ#λο

s′

οντ#λοοντ#λο

s′ˆ

οντ#λο

*όρ%(ος


47/115

Εισαγωγή στην Κω$ικοποίηση< 87#5+α ,ικ*)*+ηση3 είναι η μελ#τη με3ό$ων για τηναποτελεσ{ατική και ορ3ή {εταφορά της πληροφορίας από την πηγή στονπροορισ{ό4|ασικός στό"ος > Sνί νευση ? Qιόρθωση σφαλμάτων4 jια τον σκοπό α%τόπροστί3εται όσος πλεονασμός είναι απαραίτητος για επι3%μητή μείωση τηςπι3ανότητας σφάλματος μετά$οσηςdι κω$ικ#ς λ#'εις είναι ακολο%3ίες $%α$ικ)ν Kηφίων π4"4 2 >JOO, O, O ,

L4 Fο πλή3ος των κω$ικ)ν λ#'εων ενός κ)$ικα 2 σ%{(ολίbεται {ε }2}4 Pνας κ)$ικας ονο{άbεται ισοFήκης κ%δικας +ή κ)$ικας {πλοκ- αν όλεςοι κω$ικ#ς λ#'εις #"ο%ν το ί$ιο {ήκος4

Βασικ-3 Πα5α,* -3

d $#κτης #"ει την $%νατότητα να λά(ει όλες τις λ#'εις πο% μετα$ό3ηκαν, {εή "ωρίς σφάλ{ατα4 Π4"4 εάν σε είσο$ο O OO τότε σε #'ο$ο λαν3ασμ#νηίσως αλλά ισομήκης ακολο%3ία Kηφίων $ηλ4 OO O αλλά ό"ι OO~α σφάλ{ατα, $ηλα$ή ο 3όρ%(ος, ε{φανίbονται $ιασκορπισ{#να κατάτ%"αίο τρόπο και ό"ι σε σ%στά$ες +a•_\^\-4 < πι3ανότητα $ηλ να αλλοιω3εί#να aS^ κατά τη {ετά$οση είναι η ί$ια {ε α%τή οποιο%$ήποτε άλλο% aS^ και

$εν επηρεάbεται από σφάλ{ατα σε γειτονικά $%α$ικά Kηφία4


48/115

Εισαγωγή στην Κω$ικοποίηση Gξιοπιστία ενός $%α$ικο1 σ%μμετρικο1 καναλιο1 είναι ο πραγματικός αρι3μός R,OpRp , όπο% R είναι η πι3ανότητα της ορ3ής μεταφοράς ενός $%α$ικο1 Kηφίο% μ#σωτο% καναλιο14 & Επει$ή κά3ε κανάλι α'ιοπιστίας OpRp ./ μπορεί να μετατραπεί σε #να κανάλι ./pRp , 3α

3εωρο1με ότι ./pRp 4

d 50O^93 )'η5* *5+α3 ενός κ)$ικα είναι το ποσοστό της αρ"ικής πληροφορίας+$ηλ4 τα Kηφία πληροφορίας πριν την κω$ικοποίηση- πο% μεταφ#ρεται από τηνκω$ική λ#'η4 d ρ%3{ός πληροφορίας ενός $%α$ικο1 κ)$ικα 2 μήκο%ς 8 είναι ίσος {ε+ .8-Z9n

/}2} , κείται $ε μετα'1 O +}2}> - και +}2} > / 8-

& π4"4 εάν 2 > JOO, O, O , L, τότε ο ρ%3{ός πληροφορίας είναιe + .8-Z9n / }2 } > + ./-Z9n/ ; >-4

& Εάν 2/ > JOO O, O , O , OL, τότε ο ρ%3{ός πληροφορίας είναιe + .8-Z9n / }2/} > + .:-Z9n / ; >/.:-4

& Pστω ότι μετα$ί$εται το μήν%μα OO O και παραλαμ(άνεται το OO 4 Δεν %πάρ"ει $%νατότηταανί"νε%σης στην περίπτωση το% 2 4

& Αν όμως "ρησιμοποιήσο%με τον 2/ όπο% το τελε%ταίο Kηφίο κά3ε κω$ικής λ#'ης είναι τοKηφίο ελ#γ"ο% ισοτιμίας τότε όταν στείλο%με την κω$ική λ#'η OOO και παραλά(ο%με την λ#'ηOO , α%τή $εν αποτελεί κω$ική λ#'η και #τσι καταλα(αίνο%με ότι παραλά(αμε λά3ος4

& Δεν είναι πάντοτε $%νατή η ανί"νε%ση και ακόμα $%σκολότερη η $ιόρ3ωση

|ασικ#ς Πρά'εις πο% ορίbονται μετα'1 των $%α$ικ)ν λ#'εωνe & +E€c- πρόσ3εση e O ? O > O, O ? > , ? O > και ? > O & + ‚ƒ- πολ.σμόςe O 4 O > O, O 4 > O, 4 O > O και 4 > 4


49/115

Εισαγωγή στην Κω$ικοποίηση_5ισ^93 e Hάρος 'IJ8KL@) M,++8NK ή απλά (άρος, W^+f-, {ιαςλ#'ης f {ήκο%ς 8 Kηφίων ονο{άbεται το πλή3ος των Kηφίων τηςλ#'ης, τα οποία είναι ίσα {ε το « »4 Fο (άρος παίρνει τι{#ς από O #ως8 & Πα5ά,7ι α: jια f > OOOOOO, f/ > OOOO O, f: > OOO W^+f ->O,

W^+f/-> , W^+f:->:

_5ισ^93 e Gπόσταση 'O8A@,NPJ) M,++8NK ή απλά απόσταση, „+f,[-, {ετα'1 $1ο λ#'εων f και [ το% ι$ίο% {ήκο%ς 8 ονο{άbεται τοπλή3ος των 3#σεων, στις οποίες οι $1ο λ#'εις ε{φανίbο%ν ασ%{φωνίατο% $%α$ικο1 Kηφίο%4 < απόσταση παίρνει τι{#ς από O #ως 84

Ε1κολα μπορεί να παρατηρη3εί ότι „+f,[->W^+f?[- & Πα5ά,7ι α e „+f , f/-> W^+f ?f/- > W^+OOOOOO ?OOOO O-> W^+OOOO O->

„+f , f:->W^ +f ?f:->W^+ OOO ->:, „+f/, f:- > W^+ OO ->;


50/115

Εισαγωγή στην Κω$ικοποίηση47$ικά ια κ#,ικ*)*+ηση e

Πρ)τα επιλ#γεται #νας 3ετικός ακ#ραιος Y, το μήκος κά3ε $%α$ικής λ#'ηςπο% αντιστοι"εί σε #να {ήν%{α4 Fο {ήκος των λ#'εων επιλ#γεται / Yt}v},όπο% }v} είναι το πλή3ος των $%νατ)ν {ην%{άτων4Επιπλ#ον, επιλ#γεται το πλή3ος των 8BY $%α$ικ)ν Kηφίων πο% 3απροστε3ο1ν σε κά3ε λ#'η +πλεονασ{ός- #τσι )στε να {πορεί ναανι"νε1εται ή και να $ιορ3)νεται το επι3%{ητό πλή3ος σφαλ{άτων4 Pτσι

προκ1πτο%ν οι κω$ικ#ς λ#'εις πο% αντιστοι"ο1ν στα $%νατά {ην1{ατα,{ήκο%ς 8 Kηφίων, & Fα πλεονάbοντα aS^\, 8BY, ονομάbονται aS^\ ισοτιμίας +R7_S^[- & Εάν τα πλεονάbοντα aS^\ προκ1πτο%ν ως γραμμικ#ς σ%ναρτήσεις των aS^\ της

πηγής \, τότε ο κ)$ικας είναι γραμμικός4

Εάν τα μη κω$ικοποιημ#να Y $%α$ικά Kηφία +Kηφία πληροφορίας-μετα$ί$ονται μαbί με τα +8BY- πλεονάbοντα πο% παράγονται κατά τηνκω$ικοποίηση, τότε ο κ)$ικας ονομάbεται σ%στηματικόςBσε αντί3ετηπερίπτωση είναι μηBσ%στηματικός λ4"4 & Εάν • , •/, •: Kηφία πληροφορίας και η κω$ική λ#'η είναι • ,•/,•:,f; με

f;>aS^ ισοτιμίας>• ?•/?•: ο κ)$ικας είναι σ%στηματικός & Εάν η κω$ικοποιημ#νη λ#'η είναι η f , f/, f: με f > • ?•/, f/>• ?•:,

f:>•/?•: τότε ο κ)$ικας είναι μη σ%στηματικός


51/115

Εισαγωγή στην Κω$ικοποίησηΠ`_a%Π_ 1b>ΛZ>a_1 J >Π_1a>1Η & !?&>

…ς Qρότυπο σφάλFατος , ε ορίbεται το ά3ροισ{α της κω$ικής λ#'ης fπο% {ετα$ό3ηκε {ε τη λ#'η [ πο% ελήφ3η στον απο$#κτη, $ηλα$ή ε > f ?[4†#{ε ότι ο κ)$ικας 2 ανι"νε1ει το πρότ%πο σφάλ{ατος ε, αν και {όνο ανf ? ε > [ $εν είναι κω$ική λ#'η, +για κά3ε- ∀ f ∈ 24…ς Gπόσταση ενός κ%δικα 2 ορίbεται η {ικρότερη από τις +C7]]S8n-αποστάσεις όλων των $%νατ)ν bε%γ)ν κω$ικ)ν λ#'εων το% κ)$ικα4

Δε$ομ#νο% ότι „+f, [- > W^+f ? [-, η απόσταση το% κ)$ικα 2 είναι ίση {ετην ελά"ιστη τι{ή το% (άρο%ς W^+f ? [-, με f, [ ∈ 2 και f ‡ [4Πα5ά,7ι α & Pστω ο 2 > JOOOO, O O, L Εάν η O O μετα$ό3ηκε τρεις φορ#ς και ο

$#κτης #λα(ε {ε τη σειρά τις λ#'εις O OO, OO και O O τότε τα αντίστοι"απρότ%πα σφάλματος είναι O O ? O OO > O, O O ? OO > OO και O O ?O O > OOOO4 < απόσταση $ε το% κ)$ικα είναι ίση {ε „+OOOO, O O- >„+ O O,

- >W^ + O O ? - >W^ +O O - > /4


52/115

Εισαγωγή στην Κω$ικοποίηση47$ικά ια α)*κ#,ικ*)*+ηση:

Pστω f,[ η αποσταλείσα.ληφ3είσα λ#'η4 Εάν [ ‡f και το [ $εν είναι κω$ική λ#'η, [∉

2 +ανί"νε%ση λά3ο%ς-, τότε για λήKη απόφασης "ρησιμοποιείται η>)*κ#,ικ*)*+ηση Z7 +στη3 ΠιOα$9τητα3 D>ZΠF e

Αν %πάρ"ει {όνο {ία κω$ική λ#'η f, η οποία ε{φανίbει την {ικρότερη απόσταση απότη λ#'η [, σε σ1γκριση {ε όλες τις άλλες κω$ικ#ς λ#'εις, τότε η [ αποκω$ικοποιείταιως f ,με"ιστ#π#ίηση της πιθανότητας π,/$4..Εάν %πάρ"ο%ν περισσότερες κω$ικ#ς λ#'εις με ί$ια απόσταση από τη [e

& Είτε ο απο$#κτης αποκω$ικοποιεί α%3αίρετα τη ληφ3είσα λ#'η ως {ία από α%τ#ς τις κω$ικ#ςλ#'εις >r Π'ή5η3 >)*κ#,ικ*)*+ηση Z- ιστη3 ΠιOα$9τητα3 DΠ>ZΠF & Είτε επαναλαμ(άνεται η μετά$οση >r >τ7'ή3 >)*κ#,ικ*)*+ηση Z- ιστη3 ΠιOα$9τητα3

D>>ZΠF. ΕπανάληKη {ετά$οσης {πορεί να bητη3εί και όταν,%πάρ"ει {ια {όνο κω$ική λ#'ηεγγ1τερη στη λ#'η [, με πολ1 μεγάλη απόσταση

Πα5ά,7ι α eΕάν }v}>/, Y > , 8 > : και 2>JOOO, L, (ασιbόμενοι στην ΑΑ Πe & d απο$#κτης αποφασίbει για « », εφόσον είτε [> ή [> «O », « O ή « O», κα3)ς

#"ο%ν {ικρότερη απόσταση προς την « » από ό,τι προς «OOO»4 & !%{περαίνει την κω$ική λ#'η «OOO» σε οποια$ήποτε από τις %πόλοιπες τ#σσερις $%α$ικ#ς

ακολο%3ίες4 < περίπτωση της ίσης απόστασης της ληφ3είσας λ#'ης $εν είναι $%νατή {ε τονκ)$ικα α%τό


53/115

Εισαγωγή στην Κω$ικοποίηση

|ασική %πό3εση ότι #"ομε σ"ε$όν αποκλειστικά $%α$ικό σ%μμετρικό κανάλι+uS87_[ 5[]]X^_S` 26788XZ-

0 Pστω π+f, [- η πι3ανότητα να {ετα$ό3ηκε η λ#'η f και να ελήφ3η απότον παραλήπτη η λ#'η [4

0 Εάν οι λ#'εις f,[ μήκο%ς 8 $ιαφ#ρο%ν κατά „ Kηφία τότε 8B„ Kηφίαμετα$ό3ηκαν σωστά και „ εσφαλμ#να και ισ"1ειe π+f,[->R 8B„+ & R-„4

8765η α*εωρο1{ε #να u52 κανάλι {ε m s R s , $1ο κω$ικ#ς λ#'εις f και f/ και {ίαλ#'η [, όλες {ήκο%ς 8 Kηφίων, κα3)ς και ότι οι f και [ $ιαφ#ρο%ν σε „ Kηφία

και οι f/ και [ σε „/ Kηφία4 Fότε π+f , [- p π+f/, [- αν και {όνο αν „ t „/4 Από$ει'η jια να ισ"1ει η ανισότητα π+f , [- p π+f/, [- αρκεί να ισ"1ειR8 & „ + & R-„ p R 8 & „/ + & R-„/ ή +R.+ & R--„/ & „ p 4 Εφόσον ισ"1ει +R.+ & R--rτότε „/ p „ 4

11

00

1

→

→ −

p

p

p


54/115

Εισαγωγή στην Κω$ικοποίηση>$+ $70ση 1 α' άτ#$:Rε%ρημα Gνίχνευσης "φαλμάτων & Pνας κ)$ικας d α)9σταση3 α$ι $7"7ι 9'α τα ^η η,7$ικά

)59τ0)α σ ά' ατ*3 7 ά5*03 ικ59τ75*0 ή +σ*0 τ*0 f I ,εν) %πάρ"ει το%λά"ιστον #να πρότ%πο ε (άρο%ς „ πο% $ενανι"νε1ει ο κ)$ικας 24

& >)9,7ιVη: Pστω ε με W^+ε- p „B και f ∈2 4 Fότε „+f, f ? ε- > W^+f? f ? ε- > W^+ε- p „ & s „4 ˆρα η λ#'η [ >f ? ε $εν ανήκει στον2 +εφόσον απόσταση 2 >„- και σ%νεπ)ς ανι"νε1σιμη4 Εάνε>f?[ με W^+ε->„ τότε %πάρ"ει το%λά"ιστον #να τ#τοιο ε με [>f?ε∈ 2 και άρα [ μη ανι"νε1σιμο σφάλμα

Πα5ά,7ι α: d κ)$ικας 2 > JOOO, L #"ει απόσταση „>W^+OOO ? - >W^+ ->:4 ˆρα ανι"νε1εται από τον κ)$ικα κά3επρότ%πο σφάλ{ατος ε (άρο%ς ή / +όπως τα O , OO κλπ4-4

Δεν ανι"νε1ει όμως το πρότ%πο σφάλ{ατος « » (άρο%ς : +λ4"4[> OOO?ε> OOO? > ∈ 2-


55/115

Εισαγωγή στην Κω$ικοποίηση!ι95O#ση 1 α' άτ#$_5ισ 93: Pνας κ)$ικας 2 ,ι*5O6$7ι το πρότ%πο σφάλ{ατος ε αν ∀ f ∈ 2, τότε η _ > f ? ε είναι εγγ1τερα στη f από ό,τι σε οποια$ήποτε άλλη λ#'η ‰∈ 24 Pνας κ)$ικας 2 καλείται ( & $ιόρ3ωσης, αν $ιορ3)νει όλα τα ε μεW^+ε- p ( και $εν $ιορ3)νει το%λά"ιστον #να ε (άρο%ς ( ? 4Rε%ρημα Διόρθωσης "φαλμάτων

Pνας κ)$ικας 2 απόστασης „ ,ι*5O6$7ι όλα τα πρότ%πα σφάλ{ατος(άρο%ς t ικ59τ75*0 ή +σ*0 τ*0 D f IF/2⌊ ⌋ DgF και %πάρ"ει το%λά"ιστον #ναπρότ%πο σφάλ{ατος (άρο%ς ? ^ πο% $εν $ιορ3)νει ο κ)$ικας 24 & BσοδSναμη διατSπωση e Pνας κ)$ικας 2 για να μπορεί να $ιορ3)σει ^

σφάλματα 3α πρ#πει να #"ει απόσταση h2t I & >)9,7ιVη: Pστω ε με εrO και W^+ε- p „B και f,[ ∈ 2 , f‡[4 jια το ο σκ#λος αρκεί

να $ει"3εί ότι „+f, f ? ε- s „+[, f ? ε-4 jενικά μετα'1 των αποστάσεων τρι)νλ#'εων ίσο% μήκο%ς, ισ"1ειe „+[, f ? ε- ? „+f ? ε, f- t„+[, f- t„4 †α{(άνοντας%πόKη ότι „+f ? ε, f- > W^+f ? ε ? f- > W^+ε- και W^+ε- p +„ & -./ ή /W^+ε- ? p „,ισ"1ει „+[, f ? ε- ? W^+ε- t„ t /W^+ε- ? και άρα „+[, f ? ε- tW^+ε- ? >„+f, f ? ε-? 4

& Επο{#νως, „+f, f ? ε- s „+[, f ? ε- και προκ1πτει ότι ο κ)$ικας $ιορ3)νει τοπρότ%πο σφάλ{ατος ε4 dμοίως απο$εικν1εται και το /ο σκ#λος

+h- " > με το μεγαλ1τερο ακ#ραιο νp"⌊ ⌋

„+[ , f - ? „+ f , ‰- t„+ [ , ‰-

„+[ , ‰- ? „+ ‰, f - t„+[, ‰-


56/115

Εισαγωγή στην Κω$ικοποίησηjραφική Από$ει'η το% *εωρήματος Διόρ3ωσης !φαλμάτων

!την +α- περίπτωση οι σφαίρες @W<

Y P 8 P U P 8 P U

Y

@ @ @ @


57/115

Εισαγωγή στην Κω$ικοποίησηΠα5ά,7ι α: Ποια πρότ%πα σφάλματος $ιορ3)νονται από 2 > JOOO,

LA!1{φωνα {ε το 3ε)ρη{α, αφο1 η απόσταση το% κ)$ικα είναι „> :,$ιορ3)νει κά3ε πρότ%πο σφάλ{ατος (άρο%ς ̂ p +: & -./ > 4⌊ ⌋

Šπως ε$εί"3η στο προηγο1μενο παρά$ειγ{α, ο απο$#κτης σ%{περαίνειτην κω$ική λ#'η « », εφόσον +λά(ει α%τήν ή λά(ει {ία από τις «O »,« O ή « O», $ηλα$ή $ιορ3)νειe & τα πρότ%πα σφάλ{ατος ε > ? O > OO, ε/> ? O > O O και ε:> ?

O > OO στην περίπτωση {ετά$οσης της λ#'ης « »4

dμοίως ο απο$#κτης σ%{περαίνει την «OOO», εφόσον λά(ει α%τήν ή λά(ει{ία από τις «OO », «O O» ή « OO», $ηλα$ή $ιορ3)νειe & Fα πρότ%πα σφάλ{ατος OOO ? OO > OO, OOO ? O O > O O και OOO ? OO >

OO 4

!%νεπ)ς ο κ)$ικας 2 $ιορ3)νει τα πρότ%πα σφάλ{ατος OO, O O καιOO ,ο 2 $εν $ιορ3)νει πρότ%πα σφάλ{ατος (άρο%ς μεγαλ1τερο% το% 4 & π4"4, κατά τη {ετά$οση της λ#'ης « », αν ε{φανιστεί το πρότ%πο σφάλ{ατος

« O», $ηλα$ή ληφ3εί η λ#'η «OO », ο κ)$ικας τη $ιορ3)νει εσφαλ{#να σε«OOO»4


58/115

jxΑ @Κd@ Κ…Δ@ΚΕ!+‹S8X7_ uZ9`Y 29„X\-


59/115

jραμμικοί Κ)$ικες(ισα # ή J _5ισ *+ J ?,ι9τητ73

Pνας κ)$ικας 2 ονο{άbεται ZραFFικός αν ∀ f,[ ∈2, τότε και +f ? [- ∈24 Π4"4ο 2 > JOO, L είναι γρα{{ικός, εν) ο 2 > JOO, O, L $εν είναι γρα{{ικός,αφο1 η ? O > O $εν είναι κω$ική λ#'η4Κά3ε λ#'η ενός γραμμικο1 κ)$ικα αποτελείται από τα aS^\ το% αρ"ικο1μην1ματος και από #να αρι3μό πλε9ναbόντων aS^\ ισοτιμίας πο%προκ1πτο%ν ως γραμμικ#ς σ%ναρτήσεις των aS^\ το% αρ"ικο1 μην1ματος

Κά3ε γρα{{ικός κ)$ικας περι#"ει τη {η$ενική λ#'η, +προκ1πτο%σα από τοά3ροισ{α {ιας κω$ικής λ#'ης {ε τον εα%τό της-4Πλεονεκτήματα γραμμικ)ν κω$ίκων σε σ"#ση με μη γραμμικο1ς4 & < απόσταση ενός γραμμικο1 κ)$ικα είναι ίση {ε το ελά"ιστο των (αρ)ν των {η

μη$ενικ)ν κω$ικ)ν λ#'εων4 & < κω$ικοποίηση ενός γρα{{ικο1 κ)$ικα είναι πιο απλή και #"ει μικρότερες

απο3ηκε%τικ#ς απαιτήσεις4 & =πάρ"ει {ία πιο απλή $ια$ικασία αποκω$ικοποίησης μ#γιστης πι3ανότητας

+ΠΑ Π ή ΑΑ Π- από ότι #"ει αναφερ3εί #ως τ)ρα & < περιγραφή των σ%νόλων των προτ1πων σφάλ{ατος πο% ανι"νε1ει ή $ιορ3)νει

#νας γραμμικός κ)$ικας είναι πιο ε1κολη από ό,τι στη γενική περίπτωση4


60/115

jραμμικοί Κ)$ικες B α3ηματικό =πό(α3ρο

=πάρ"ει στενή αντιστοι"ία εννοι)ν της γρα{{ικής άλγε(ρας καιεννοι)ν της 3εωρίας κω$ικοποίησης & Απαραίτητη η εμ(ά3%νση στις παρακάτω #ννοιες της γραμμικής άλγε(ρας

για σαφ#στερη κατανόηση των γραμμικ)ν κω$ίκων

j$$*ι73 87#5+α3 ,ικ*)*+ηση3

jρα{{ικός Κ)$ικας

†#'η

jρα{{ικός κ)$ικας 2 > s5r

Κω$ική λ#'η το% 2 > s5r

Œ%zκός κ)$ικας

|άση γρα{{ικο1 κ)$ικα

Œιάσταση γρα{{ικο1 κ)$ικα

j$$*ι73 45α ική3 ]' 7 5α3

Œιαν%σ{ατικός %πο")ρος

Œιάν%σ{α

jρα{{ικό ανάπτ%γ{α %ποσ%νόλο% 5το% $ιαν%σ{ατικο1 ")ρο%, s5r+Œιαν%σ{ατικός %πο")ρος-

Œιάν%σ{α το% s5r

dρ3ογ)νιο σ%{πλήρω{α %ποσ%νόλο%5

|άση $ιαν%σ{ατικο1 %πο")ρο%


61/115

jραμμικοί Κ)$ικεςB α3ηματικό =πό(α3ροd $ιαν%σ{ατικός ")ρος Κ 8 + > JO, L-, απαρτίbεται από τις (α3{ωτ#ςποσότητες +\`7Z7_\- O και και το σ1νολο των $ιαν%σ{άτων +ή λ#'εων-{ήκο%ς 8, κα3)ς και από τις πρά'εις της πρόσ3εσης $ιαν%σ{άτων+λ#'εων- και το% πολ.σ{ο1 (α3{ωτ)ν ποσοτήτων με $ιαν1σματα πο%ικανοποιο1ν μία σειρά ι$ιοτήτωνBδιότητες των πράξεων της πρόσθεσης και του πολλαπλασιασFοSστο 5 N

& όπο% f, [, ‰ $ιαν1σ{ατα +ή λ#'εις το% ι$ίο% {ήκο%ς 8-, α και ( οι (α3{ωτ#ςποσότητες το% $ιαν%σ{ατικο1 ")ρο% Κ 8 και O η {η$ενική λ#'η44+[ ? ‰-∈ Κ8 ,

/4 α [⋅ ∈ Κ8 ,:4 f ? [ > [ ? f,;4 +f ? [- ? ‰ > f ? +[ ? ‰-,G4+α (- [ > α +( [-,⋅ ⋅ ⋅ ⋅H4+α ? (- f > α f ? ( [,⋅ ⋅ ⋅I4 7 +f ? [- > 7 f ? 7 [,⋅ ⋅ ⋅M4+f ? O- > f,N4 f > f,⋅

O4=πάρ"ει λ#'η fŽ ∈ Κ8, τ#τοια )στε f ? fŽ > fŽ ? f > O4


62/115

jραμμικοί Κ)$ικεςB α3ηματικό =πό(α3ρο Pνα {η κενό %ποσ1νολο 5 το% $ιαν%σ{ατικο1 ")ρο% Κ 8 είναι #νας %πο")ρος α%το1, ανγια κά3ε bε1γος $ιαν%σ{άτων +λ#'εων- [, ‰ ∈ 5, ισ"1ει +[ ? ‰- ∈ 5 και α [⋅ ∈ 5 για κά3ε(α3{ωτή ποσότητα α4 ˆρα 2 είναι #νας γρα{{ικός κ)$ικας αν και {όνο αν 2 είναι%πο")ρος το% Κ 84Fο σ1νολο όλων των γρα{{ικ)ν σ%ν$%ασ{)ν των $ιαν%σ{άτων +ή λ#'εων- ενός σ%νόλο%5 > J‰ , ‰/, , ‰YL ονο{άbεται το ZραFFικό ανάπτυZFα του [ και συFβολί\εται Fε X[]4 & ια λ#'η [ είναι γρα{{ικός σ%ν$%ασ{ός των λ#'εων ‰ , , ‰Y αν ∃ (α3{ωτ#ς ποσότητες α , ,

αY τ#τοιες )στεe [ > 7 ‰ ? ? αY ‰Y4⋅ ⋅

Fο γρα{{ικό ανάπτ%γ{α s5r κά3ε %ποσ%νόλο% 5 το% Κ8

είναι %πο")ρος το% Κ8

4 ο X[]καλείται ZραFFικός κ%δικας προκ1πτων εκ το% 54Fο γρα{{ικό ανάπτ%γ{α s5r το% %ποσ%νόλο% 5 το% Κ 8 περι#"ει τη {η$ενική λ#'η, όλες τιςλ#'εις το% 5 και τα επί μ#ρο%ς α3ροίσ{ατά το%ςΠα5ά,7ι α: Fο γρα{{ικό ανάπτ%γ{α το% %ποσ%νόλο% 5 > JOOO , OOL αποτελείταιαπό τις ακόλο%3ες λ#'ειςe OOOOO, OOO , OO, OOO ? OO > 4 Επο{#νως, s5r>JOOOOO, OOO , OO, L4

~9 βαθFωτό ZινόFενο δSο διανυσFάτων f > +α , , α8- και [ > +( ,, , (8- στο Κ 8 ορίbεται ως f [> α ( ? ? α8 (84 Π4"4Fο γινόμενο των f > OOO και [> OO στο Κ⋅ ⋅ ⋅ G είναιe OOO OO > O ?O ?O ? O ? O > O?O?O?O?O>O4⋅ ⋅ ⋅ ⋅ ⋅ ⋅


63/115

jραμμικοί Κ)$ικεςB α3ηματικό =πό(α3ρο ΔSο διανSσFατα 'λέξεις) - και ^ είναι ορθοZ%νια αν - ^ * : ! 4 Pνα $ιάν%σ{α+λ#'η- f "αρακτηρίbεται ορ3ογ)νιο σε #να σ1νολο 5, αν το f είναι ορ3ογ)νιο σεκά3ε $ιάν%σ{α +λ#'η- [ ∈ 54Fο σ1νολο όλων των $ιαν%σ{άτων, πο% είναι ορ3ογ)νια ενός σ%νόλο% 5,σ%{(ολίbεται {ε 5 ⊥ και ονο{άbεται το ορθοZ%νιο συFπλήρωFα το% 54 & jια κά3ε %ποσ1νολο 5 το% $ιαν%σ{ατικο1 ")ρο% Κ 8, το ορ3ογ)νιο σ%{πλήρω{ά το%,

5 ⊥, είναι επίσης %πο")ρος το% Κ 84 &

jια κά3ε $ιαν%σ{ατικό ")ρο Κ8

, αν 2 > s5r, τότε 2⊥

> 5⊥

4 +Δηλ4 το ορ3ογ)νιοσ%{πλήρω{α το% γρα{{ικο1 αναπτ1γ{ατος s5r ισο1ται {ε το ορ3ογ)νιοσ%{πλήρω{α το% 5, 5 ⊥4-

& Fο ορ3ογ)νιο σ%{πλήρω{α 2 ⊥ καλείται δυ_κός κ%δικας το% κ)$ικα 2, όπο% 5%ποσ1νολο το% $ιαν%σ{ατικο1 ")ρο% Κ 8 , 2 > s5r και 2 ⊥ > 5 ⊥

Πα5ά,7ι α e jια να %πολογίσομε το ορ3ογ)νιο σ%{πλήρω{α το% 5 > JOOO ,OOL 2⊥ > 5 ⊥ αρκεί να (ρο1{ε όλα τα f > +α , α/, α:, α;-, με f OOO > O και⋅

f OO > O4⋅ & P"ομε O α ?O α/ ? O α: ? α; > O⋅ ⋅ ⋅ ⋅ ⇒ α; > O4 & Από το $ε1τερο γινό{ενο α ? α/ ? O α: ? O α; > O⋅ ⋅ ⋅ ⋅ ⇒ , α ? α/ > O, ⇒ α > α/ > O

ή α > α/> 4 Fο α: > O ή 4 & !%νεπ)ς, α > α/ > O είτε α > α/ > , α: > O είτε α: > και α; > O4 & dι σ%ν$%ασ{οί των παραπάνω επιλογ)ν ο$ηγο1ν στο ορ3ογ)νιο σ%{πλήρω{α 2 ⊥ >

5 ⊥ > JOOOO, OO O, OO, OL4


64/115

jραμμικοί Κ)$ικεςB α3ηματικό =πό(α3ρο Pνα σ1νολο $ιαν%σ{άτων 5 > J‰ , ‰/, , ‰YL είναι ΓραFFικ%ς Gνεξάρτητο αν

(α3{ωτ#ς ποσότητες α , α/, , αY, {ε το%λά"ιστον {ία ε' α%τ)ν ‡ O, #τσι∌)στεe α ‰ ? ? αY ‰Y4 > O4 Διαφορετικά, 5 > γρα{{ικ)ς ε'αρτη{#νο4⋅ ⋅ & Pνα σ1νολο, 5 πο% περι#"ει τη {η$ενική λ#'η > γρα{{ικ)ς ε'αρτη{#νο4 & Αν 5‡JOL, περι#"ει #να {#γιστης $ιάστασης γρα{4 ανε'άρτητο %ποσ1νολο

Πα5ά,7ι α e Fο 5 > J O, O , O , L >γρα{{ικ)ς ε'αρτη{#νο & @σ"1ει α O ? α/ O ? α: O ? α; > OOO⋅ ⋅ ⋅ ⋅ ⇒ α α O ? O α/ α/ ?α: O α:

? α; α; α; > OOO, ⇒ α ? α: ? α; > O, α ? α/ ? α; > O και α/ ? α:? α; > O4Προσ3#τοντάς τες ⇒ α; > O4 Pτσι, α ? α: > O, α ? α/ > O και α/ ? α: > O, ⇒ α> α/ > α:4 πορο1{ε να επιλ#'ο%{ε λοιπόν α > α/ > α: > και επο{#νως το5>γρα{{ικ)ς ε'αρτη{#νο

jια την ε1ρεση ενός από τα {#γιστης $ιάστασης, γρα{4 ανε'άρτητο%,%ποσ%νόλο% το% 5, αφαιρο1{ε από το 5 το πρ)το $ιάν%σ{α πο% (ρίσκο%{ενα είναι γρα{{4 σ%ν$%ασ{ός των άλλων $ηλ4 το O + O> O ? O - και

ε'ετάbο{ε αν το 5Ž > JO , O , L > γρα{4 ανε'άρτητο4 & Από την O α α ?α/ O α/ ? α: α: α: > OOO, ⇒α/ ? α: > O DIFA α ? α: > O D2F, α? α/ ? α: >O DSF4 Από τις D2F, DSF ⇒ α > O άρα α: > O και α/ > O4 ⇒ (α3{ωτ#ς∌ποσότητες, ‡ O, πο% ικανοποιο1ν την + - ⇒ 5g > #να, {#γιστης $ιάστασης, γρα{{4ανε'άρτητο %ποσ1νολο το% 54


65/115

jραμμικοί Κ)$ικεςB α3ηματικό =πό(α3ρο Pνα {η κενό %ποσ1νολο $ιαν%σ{άτων | ενός $ιαν%σ{ατικο1 %πο")ρο% είναι

{ία Hάση Zια τον υποχ%ρο ` , αν s|r > και το | είναι γρα{{ικ)ς ανε'άρτητοσ1νολο4 & Pνα γρα{{ικ)ς ανε'άρτητο %ποσ1νολο $ιαν%σ{άτων 5 είναι {ία (άση για τον

$ιαν%σ{ατικό %πο")ρο s5r4 & Κά3ε #να από τα {#γιστης $ιάστασης γρα{{ικ)ς ανε'άρτητα %ποσ1νολα ενός

γρα{{ικ)ς ε'αρτη{#νο% σ%νόλο% 5 είναι (άση το% %πο")ρο% s5r44

Πα5ά,7ι α e Ε$εί"3η ότι #να από τα {#γιστης $ιάστασης, γρα{{4ανε'άρτητα

%ποσ1νολα το% 5 > J O, O , O , L, +5> γρα{4 ε'αρτη{#νο- είναι το u > JO ,O , L⇒ |> (άση το% s5r > JOOO,O , O , , O, OO,O O, OO L4 Pνας $ιαν%σ{ατικός +%πο-")ρος #"ει πολλ#ς (άσεις με ί$ιο πλή3ος $ιαν%σμάτωνY με a*καλείται διάσταση του 'υπο)χ%ρου & π4" $ιάσταση το% s5r στο ως άνω παρά$ειγμα>: Επίσης η $ιάσταση το%

$ιαν%σ{ατικο1 ")ρο% Κ 8 είναι 8, επει$ή το σ1νολο των λ#'εων {ήκο%ς 8 και (άρο%ς ,$ηλα$ή το σ1νολο ‘>JO O , O O, , OOL, είναι {ια (άση το% $ιαν%σ{ατικο1 ")ρο%Κ8 +με s‘r> Κ 8 -4

Αν η $ιάσταση ενός γρα{{ικο1 κ)$ικα +ή $ιαν%σ{4 +%πο-")ρο%- 2 είναι Y και {ια(άση το% E > Jf , f/, , fYL, τότε ∀ ` ∈ 2 ισ"1ει ` > α f ? ? αY fY για⋅ ⋅κάποια Fοναδική επιλογή των α , , αY4 Επει$ή αS > O ή , οι $%νατοίσ%ν$%ασ{οί των α , , αY είναι / Y > πλή3ος κω$ικ)ν λ#'εων το% 24

ά $


66/115

Ε1ρεση |άσης jραμμικο1 Κ)$ικα 2a7 $ική ια 7"57ση +α3 άση3 7$93 κ6,ικα d

@σ"1ει ότι για να (ρο1{ε {ια (άση ενός γραμμικο1 κ)$ικα 2 αρκεί να{εταφ#ρο%{ε σε μία ει$ική {ορφή +ΚΔj ή ΠΚΔj- τον πίνακα οιγραμμ#ς το% οποίο% αποτελο1νται από τις λ#'εις το% σ%νόλο% 5 +ήκαι από όλες τις λ#'εις το% 2-, με 2 > s5r

Pνας πίνακας (ρίσκεται σε {ορφή 5λιFακωτής Διάταξης ΓραFF%ν'5ΔΓ ή bcd ePLJfcN gcY+) , αν όλες οι {η$ενικ#ς γρα{{#ς είναι στο

κάτω {#ρος και το πρ)το Kηφίο « » +«ο$ηγός»- {ιας γρα{{ής είναισε στήλη πιο $ε'ιά σε σ"#ση {ε το πρ)το +τον ο$ηγό- « » τωνπροηγο1{ενων γρα{{)ν4 ια στήλη πο% περι#"ει #ναν «ο$ηγό» καλείται στήλη «ο$ηγός»

Pνας πίνακας (ρίσκεται σε {ορφή Π75ι*5ισ -$η3 &'ι^ακ#τή3!ιάταVη3 45α^^6$ DΠ&!4 ή ke uce kow c\elon ormF , εάν

είναι σε μορφή ΚΔj και επιπλ#ον ισ"1ει ότι σε κά3ε στήλη ο$ηγό το%πίνακα +$ηλα$ή στήλη πο% περι#"εται ο ο$ηγός « » μιας γρα{{ής-$εν περι#"ονται άλλα Kηφία « » αλλά {όνο Kηφία «O» & Κά3ε πίνακας {ε O και {πορεί να τε3εί τόσο σε {ορφή ΚΔj όσο και

ΠΚΔj4 & Pνας πίνακας +{ε O και - {πορεί να #"ει πολλ#ς {ορφ#ς ΚΔj αλλά

μόνον μία {ορφή ΠΚΔj


67/115

Ε1ρεση |άσης jραμμικο1 Κ)$ικα 2

Pνας πίνακας τί3εται σε μορφή ΚΔj ή ΠΚΔj με τονμετ.σμό το% σε $ια$ο"ικο1ς ισο$1ναμο%ς πίνακεςμ#σω των ακολο13ων $1ο τ1πων στοι"ειω$)νπρά'εων πο% εφαρμόbονται στις γραμμ#ς το%e & Ανταλλαγή $1ο γραμμ)ν και

& Αντικατάσταση μίας γραμμής από το ά3ροισμα το% εα%το1της με κάποια άλλη

Πα5ά,7ι α

& Pστω ο κ)$ικας 2 > JOOOO, O, O , OO L, το% 9ποίο%οι λ#'εις αποτελο1ν τις γρα{{#ς το% πίνακα V4 Fον μετ.bομεσε {ορφή ΚŒj "ρησιμοποι)ντας τις ως άνω πρά'εις ωςε'ήςe


68/115

Ε1ρεση |άσης jραμμικο1 Κ)$ικα 2Πα5ά,7ι α D10$- 7ιαF

Από τον αρ"ικό πίνακα V ο$ηγο1{αστε στο /ο πίνακα {όνο{ε ανταλλαγή γρα{{)ν4 Από το /ο πίνακα στον :ο {ε τηναντικατάσταση της :ης γρα{{ής {ε το ά3ροισ{α το% εα%το1της και της ης γρα{{ής4 F#λος, αντικα3ιστ)ντας την:ηγρα{{ή το% :ο% πίνακα {ε το ά3ροισ{α το% εα%το1 της καιτης /ης γρα{{ής καταλήγο%{ε στον ;ο πίνακα

Ε1 |ά j 1 Κ)$ 2


69/115

Ε1ρεση |άσης jραμμικο1 Κ)$ικα 2Πα5ά,7ι α D10$- 7ιαF

jια τον μετ.σμό το% Πίνακα V σε ΠΚΔj λαμ(άνεται %πόKη ο επιπρόσ3ετοςπεριορισ{ός, η στήλη πο% περι#"ει τον ο$ηγό « » {ιας γρα{{ής να {ηνπερι#"ει άλλα Kηφία « »4

Από τον αρ"ικό πίνακα V ο$ηγο1{αστε στο /ο πίνακα με ανταλλαγή της ης με την ; η γραμμή και της / ης με την : η4

Από το /ο πίνακα στον :ο {ε την αντικατάσταση της :ης γρα{{ής {ε τοά3ροισ{α το% εα%το1 της και της ης γρα{{ής4F#λος, αντικα3ιστ)ντας την : η γρα{{ή το% :ο% πίνακα {ε το ά3ροισ{α το%εα%το1 της και της /ης γρα{{ής καταλήγο%{ε στον ;ο πίνακαΠράγ{ατι, ο ;ος πίνακας είναι σε {ορφή ΠΚŒj, αφο1 οι $1ο πρ)τες το%στήλες πο% περι#"ο%ν το%ς ο$ηγο1ς « » των $1ο {η μη$ενικ)ν γρα{{)νπερι#"ο%ν μόνο Kηφία «O» στις %πόλοιπες 3#σεις


70/115

Ε1ρεση |άσης jραμμικο1 Κ)$ικα 2>$ακ7 α'αι#τικά 1 9'ια!1{φωνα {ε τον ορισ{ό της (άσης ενός $ιαν%σ{ατικο1 ")ρο%, οποιο$ήποτεαπό τα {#γιστης $ιάστασης γρα{{ικ)ς ανε'άρτητα %ποσ1νολα το%$ιαν%σ{ατικο1 +%πο- ")ρο% 2 +ή το% σ%νόλο% 5, όπο% 2 > s5r- είναι (άση το%4Επίσης, όπως προαναφ#ρ3ηκε, οι {η μη$ενικ#ς γρα{{#ς ενός πίνακα σε {ορφήΚŒj ή ΠΚŒj πο% σ"η{ατίbεται από τις λ#'εις το% σ%νόλο% 5 +ή από τις λ#'ειςτο% 2, όπο% 2 > s5r-, είναι οι λ#'εις ενός {#γιστης $ιάστασης γρα{{ικ)ςανε'άρτητο% %ποσ%νόλο% το% 2 και, επο{#νως, {ία (άση το%4

!%μπερασματικά, για να (ρο1{ε {ία (άση το% κ)$ικα 2 αρκεί να {εταφ#ρο%{εσε {ορφή ΚŒj ή ΠΚŒj τον πίνακα πο% σ"η{ατίbεται από τις λ#'εις το% σ%νόλο%5 +ή και από όλες τις λ#'εις το% 2, 2 > s5r-4π4"4 στο προηγο1μενο Παρά$ειγ{α, το %ποσ1νολο J O, O L είναι {ια (άσητο% κ)$ικα 2 > JOOOO, O, O , OO L, από την οποία προκ1πτο%ν, {εγρα{{ικο1ς σ%ν$%ασ{ο1ς, όλες οι λ#'εις το% 24

dμοίως μπορεί να (ρε3εί και {ία (άση το% $%zκο1 κ)$ικα 2⊥

, "ρησιμοποι)νταςτις λ#'εις πο% τον απαρτίbο%ν ως ανωτ#ρω4 & Εναλλακτικά μπορεί να εφαρμοστεί #νας πιο απλός αλγόρι3μος (ασισμ#νος στην

γν)ση των λ#'εων το% σ%νόλο% 5 ή το% 2, 2 > s5r ο οποίος περιγράφεται στησ%ν#"εια4

Ε1ρεση |άσης Δ%zκο1 κ)$ικα 2 ⊥


71/115

Ε1ρεση |άσης Δ%zκο1 κ)$ικα 2

< $ια$ικασία ε1ρεσης μιας (άσης το% $%zκο1 κ)$ικα 2 ⊥+2 > s5r- μεY>$ιάσταση 2, 8>μήκος λ#'εων 2 $ιακρίνεται στα ακόλο%3α (ή{αταe

4!"η{ατισ{ός το% πίνακα V, το% οποίο% οι γρα{{#ς είναι οι λ#'εις το% 5 +ήτο% 2- και {εταφορά το% V σε {ορφή ΠΚΔj4

/4 !"η{ατισ{ός το% πίνακα ’, ο οποίος αποτελείται από τις {η {η$ενικ#ςγρα{{#ς το% πίνακα V σε {ορφή ΠΚΔj και αποτελεί {ια (άση το% 24 dπίνακας ’ είναι $ιάστασης Y f 8

:4 !"η{ατισ{ός το% πίνακα v, ο οποίος αποτελείται μόνον από εκείνες τιςστήλες το% πίνακα ’ πο% $εν είναι ο$ηγοί, $ηλα$ή από τις στήλες πο% $ενπερι#"ο%ν ο$ηγο1ς « »4 Αφο1 το πλή3ος των στηλ)ν ο$ηγ)ν το% πίνακα’ είναι ίσο {ε το πλή3ος των γρα{{)ν το% τότε η $ιάσταση το% πίνακα vείναι Y f +8BY-

;4 !"η{ατισ{ός το% πίνακα , Q @U F $ιάστασης 8 f +8 & Y-, από τον πίνακα

+Y f +8 & Y-- και τον πίνακα τα%τότητας @ ++8 & Y- f +8 & Y--4G4d πίνακας < +8 f +8 & Y-- σ"η{ατίbεται ως ε'ήςe & !τις πρ)τες Y γρα{{#ς το% C τοπο3ετο1νται {ε τη σειρά οι γρα{{#ς το% 4 & !τις %πόλοιπες +8& Y- γρα{{#ς το% C τοπο3ετο1νται οι γρα{{#ς το% πίνακα

τα%τότητας l $ιάστασης +8 & Y- f +8 &Y-4

H4 ια (άση το% $%zκο1 κ)$ικα 2 ⊥ αποτελείται από τις στήλες το% πίνακα C+ή τις γρα{{#ς το% ανάστροφο% πίνακα < ~- και είναι $ιάστασης 8BY4



72/115

ρ η | ης )$

Πα5ά,7ι α e iητείται {ία (άση το% 2 ⊥ με 5 > J O , O O, O O ,O OL και 2> s5r

!"ηματίbεται ο πίνακας V με γραμμ#ς της λ#'ης το% 5 ο οποίοςμετ.bεται σε ΠΚΔj "ρησιμοποι)ντας ανταλλαγή ή και αντικατάστασηγραμμής από το ά3ροισμά της με άλλη



73/115

ρ η | ης )$

Πα5ά,7ι α Dσ0$- 7ιαF e

Επο{#νως, μια (άση το% $%zκο1 κ)$ικα 2 ⊥ είναι το σ1νολο JO O,O L4

Πα5ατή5ηση e Παρατηρήστε ότι ο ΠΚΔj, ’ > της μορφής ’> Ql vU πο%είναι σ1νη3ες για γραμμικο1ς κ)$ικες

ΒάσηΒάση


74/115

jεννήτορας Πίνακας jραμμικο1 Κ)$ικα 2_5ισ 93: Κά3ε πίνακας, το% οποίο% οι γρα{{#ς αποτελο1ν {ία(άση το% κ)$ικα 2, ονο{άbεται γεννήτορας πίνακας ’ για τον 24 & Fο πλή3ος των γρα{{)ν Y το% ’ > {ε τη $ιάσταση το% 2 ,

$ηλα$ή > με το πλή3ος των λ#'εων πο% απαρτίbο%ν {ία (άσητο%4

& Αν η $ιάσταση ενός κ)$ικα 2 > Y, το μήκος των κω$ικ)ν λ#'εων

> 8 και η απόστασή το% „, τότε ο 2 σ%μ(ολίbεται ως +8, Y, „-γρα{{ικός κ)$ικας4

Αν ’ είναι #νας γεννήτορας πίνακας για #ναν κ)$ικα 2, τότεκά3ε πίνακας ισο$1να{ος το% ’, ως προς τις γρα{{#ς, είναιγεννήτορας πίνακας για τον 24jια την ε1ρεση το% ’ ενός κ)$ικα 2, αρκεί να (ρο1{ε {ια (άσητο%⇒ τις {η {η$ενικ#ς λ#'εις το% πίνακα σε {ορφή ΠΚŒj, πο%σ"η{ατίbεται από τις λ#'εις το% 2 +ή το% 5, όπο% 2 > s5r-, όπως ε$εί"3η προηγο%μ#νως


75/115

jεννήτορας Πίνακας jραμμικο1 Κ)$ικα 2,ικ*)*+ηση ePνας γεννήτορας πίνακας ’ για #να γρα{{ικό κ)$ικα +8,

Y, „-, 2, μπορεί να α'ιοποιη3εί για την κω$ικοποίηση λ#'εων+μην%{άτων- • {ήκο%ς Y Kηφίων ως ε'ήςe2>•4’> Q7 ,7/, 7YU Qn ,n/,444nYU ~ > 7 4n ? 7/4n/? ?7Y4nY > Qa ,a/,444,a8U, & •> Q7 ,7/, 7YU η μη κω$ική λ#'η το% μην1ματος και `>Qa ,a/,444, a8U η κω$ική

λ#'η μήκο%ς 8 Kηφίων και Qn ,n/,444nYU ~ τα $ιαν1σματα λ#'εις +πλή3ο%ς 8- πο%αποτελο1ν την (άση το% 2 και απαρτίbο%ν τον ’

& Fο αποτ#λεσμα ` είναι κω$ική λ#'η το% 2 +εφόσον •4’ > γραμ4 σ%ν$%ασμόςτων γραμμ)ν το% ’, πο% σ"ηματίbεται από τις λ#'εις nS πο% απαρτίbο%ν μία(άση το% κ)$ικα 2-4

Pνας γεννήτορας πίνακας ’, +Yf8-, το% οποίο% οι πρ)τες Y στήλεςσ"η{ατίbο%ν τον πίνακα τα%τότητας Yp, +YfY-, $ηλα$ή ’ > Ql Y , vU, λ#γεταιότι (ρίσκεται σε τ0)ική ^*5 ή DstXn Xr qormF. & π4" d γεννήτορας πίνακας ’, ο οποίος προκ1πτει στο (ή{α / το% σε

προηγο1μενο παρά$ειγμα είναι σε τ%πική {ορφή4 & d κ)$ικας 2, ο οποίος #"ει γεννήτορα πίνακα ’ σε τ%πική {ορφή,

"αρακτηρίbεται σ0στη^ατικ93 κ6,ικα3


76/115

jεννήτορας Πίνακας jραμμικο1 Κ)$ικα 2!ε #να τ#τοιο σ%στηματικό κ)$ικα το μήν%{α • αποτελείται από τα πρ)τα YKηφία το% `, αφο1 ` > •4’ > •4Q@, vU > Q•l, •vU > Q•, •vU4 Fα πρ)τα Y Kηφία των

κω$ικ)ν λ#'εων λ#γονται Kηφία πληροφορίας και τα %πόλοιπα 8 & Y,πλεονασ{ός ή Kηφία ελ#γ"ο% ισοτι{ίας4 Δεν #"ο%ν όλοι οι γρα{{ικοί κ)$ικες γεννήτορες πίνακες σε τ%πική {ορφή Q@, U

& !ε α%τή την περίπτωση και πάλι Y από τα Kηφία των κω$ικ)ν λ#'εων αποτελο1νταιαπό τα αρ"ικά Kηφία το% μην1ματος $εν είναι όμως σ%νε"όμενα αλλά εντοπίbονται σε Yπροκα3ορισμ#νες 3#σεις της κω$ικής λ#'ης πο% ορίbονται από τις αντίστοι"ες 3#σειςτων στηλ)νBο$ηγ)ν το% ’

& Και σε αυτ( την περίπτωση # T μπ#ρεί να μετασ ηματισθεί σε τυπικ( μ#ρ)( μεκατάλληλη εναλλα"( στηλών τ#υ&

Πα5ά,7ι α: dι κω$ικ#ς λ#'εις πο% προκ1πτο%ν εάν το μήν%μα •>Q O O U γιαjεννήτορες Πίνακες ’ , ’/ είναιe

` > •4’ > O + OOO - ? O +O O - ? +OO -> OO ⇒ Q• ,•/,•:UQ• ,•/,•:,•/?•:,• ?•/?•:U και OO Kηφία πληροφορίας, ισοτιμίας⇢

`/> •4’/ > O + OO - ? O +OO O - ? +OOO -> OOO ⇒ Q• ,•/,•:UQ• ,• ,•/,•:,• ?•/?•:U και⇢ OO Kηφία πληροφορίας και O ισοτιμίας

=11100

1101010001

1G =11000

1010010011

2G


77/115

Πίνακας @σοτιμίας jραμμικο1 Κ)$ικα 2Qίνακας ΕλέZχου Bσοτιμίας ενός κ)$ικα 2 καλείται #νας πίνακας < το%οποίο% οι στήλες σ"η{ατίbο%ν {ια (άση το% $%zκο1 κ)$ικα 2 ⊥, και )*57+ $α

5ησι^*)*ιηO7+ ια τη$ α)*κ#,ικ*)*+ηση κ#,ικ*)*ιη^-$#$ η$0^άτ#$ 4 & Šπως εί$α{ε %πάρ"ει αλγόρι3μος, )στε $ο3#ντος το% 2 να μπορο1{ε πάντα να

προσ$ιορίσο%{ε τον πίνακα C

Αν η $ιάσταση το% 2 είναι Y, τότε η $ιάσταση το% 2 ⊥, είναι 8 & Y > με πλή3οςτων στηλ)ν το% C, εν) το πλή3ος των γρα{{)ν το% είναι 8>ίσο {ε το {ήκοςτων κω$ικ)ν λ#'εων το% κ)$ικα 24 & !1{φωνα {ε τα προλε"3#ντα, ο γεννήτορας πίνακας ’ και ο πίνακας ισοτι{ίας C

ενός κ)$ικα 2 είναι γρα{{4 ανε'άρτητοι ως προς τις γρα{{#ς και τις στήλες,αντίστοι"α, αφο1 είναι (άσεις των κω$ίκων 2, 2 ⊥

Fο γινό{ενο των πινάκων ’ και < ισο1ται {ε O, $ηλα$ή ’ C > O4 +μια και 2⋅ ⊥ άρα και μία (άση το% < > ορ3ογ4 σ%μπλήρωμα το% 5 άρα και μίας (άσης το%’ , όπο% 2 > s5r και 2 ⊥ > 5 ⊥- & Ε1κολα επίσης φαίνεται α%τό από το εάν ληφ3εί %πgόKη ότι ’>Q l, vU , C> Qv, lU ~ ⇒

’ C> Ql, vU Qv, lU⋅ ⋅ ~ > ? >O

∀ f ∈ 2 ⇒ f C> +• ’- C> • +’ C-> O⋅ ⋅ ⋅


78/115

Πίνακας @σοτιμίας jραμμικο1 Κ)$ικα 28765η α: < απόσταση „ ενός γραμμικο1 κ)$ικα > με τον ελά"ιστοαρι3μό γραμμ)ν το% Πίνακα @σοτιμίας C των οποίων το ά3ροισμα ισο1ταιμε O +ή ισο$1ναμα 9 ελά"ιστος αρι3μός γραμμ)ν πο% είναι γραμμικάε'αρτημ#νες-4>)9,7ιVη: ∀ f ∈ 2 ⇒ f C> O⋅ ⇒ Qf ,f/, ,f8U Q6 ,6/, ,68U⋅ ~ > O ⇒ Qf6 ?f/ 6/? ?f8 68U > QO,O, OU, 6S> S γραμμή το% C4 †αμ(άνοντας %πόKηότι fS > ή O και W^+f- >“ g\ ⇒ f C > με το ά3ροισμα W^+f- γραμμ)ν το%C4 ˆρα εάν f ]S8 >η f με το ελά"ιστο W^+f- > „ >απόσταση το% κ)$ικα 2, τότε

f ]S8 C > με τον ελά"ιστο αρι3μό γραμμ)ν „ το% C πο% ισο1νται με O4⋅Πα5ά,7ι α: Pστω ο < προηγο1μενο% παρα$είγματος με

Fότε μια και ισ"1ει ότι ή /η ? :η γραμμή > + - ? + - +ή ισο$1ναμα η η

?;η > +O - ? +O - - το% < > +O O- ⇒ η απόσταση το% κ)$ικα είναι „>/


79/115

!%νομά$ες jραμμικο1 Κ)$ικα 210$* ά,α DcosetF > απαραίτητη #ννοια για α)*κ#,ικ*)*+ηση 7$93 κ6,ικαd_5ισ 93: ια σ%νο{ά$α το% 2 προσδιορισFένη από τη λ#'η f ∈ 8 8>μήκος κω$ικής λ#'ης, σ%{(ολίbεται ως 2 ? f και ορίbεται ως το σ1νολο όλωντων λ#'εων της {ορφής ` ? f, όπο% ` ∈ 2 +το f είναι στα3ερό και το `κ%{αίνεται σε όλο το ε1ρος το% 2-4 Œηλα$ή, 2 ? f > J` ? f} ` ∈ 2L4Πα5ά,7ι α: iητο1νται όλες οι σ%νο{ά$ες το% κ)$ικα d M A III , Y> ,8>:, 8BY>/4 & jια f > OO #"ο%{ε 2 ? OO > JOOO ? OO > OO , ? OO > OL4 & 2 ? O O > JO O, O L, & 2 ? OO > J OO, O L, & 2 ? O > JO , OOL,

& 2 ? O > J O , O OL, & 2 ? O > J O, OO L, & d III M d M A III 4 & Παρατηρο1με ότι ο αρι3μός των όλων των σ%νομά$ων είναι / 8BY>/ / >; και κά3ε

σ%νομά$α αποτελείται από / Y>/ >/ λ#'εις όσες ακρι()ς και το πλή3ος των κω$ικ)νλ#'εων το% κ)$ικα 2

& Επίσης παρατηρείστε ότι εάν f,[ ∈ 2?f +ή ισο$1ναμα στο 2?[- τότε f?[ ∈ 2

!% ά$ j 1 Κ)$ 2


80/115

!%νομά$ες jραμμικο1 Κ)$ικα 2 Δεν %πάρ"ο%ν / 8 $ιαφορετικ#ς σ%νο{ά$ες όσες και οι λ#'εις{ήκο%ς 8 το% 8 κα3)ς είναι $%νατό $1ο σ%νο{ά$ες 2 ? f >2 ? [ να τα%τίbονται, ακό{α και αν f ‡ [ όπως π4" ισ"1ει στοπροηγο1μενο παρά$ειγμα4Bδιότητες "υνομάδων e Αν 2 είναι #νας σ%στη{ατικόςγρα{{ικός κ)$ικας +8,Y,„- και f και [ $1ο λ#'εις επίσης{ήκο%ς 8 Kηφίων, τότε ισ"1ο%ν αναφορικά {ε τις σ%νο{ά$εςτα ακόλο%3αe4 Κά3ε λ#'η f περι#"εται στη σ%νο{ά$α 2 ? f +λόγω 1παρ'ης

μη$ενικής κω$ικής λ#'ης σε γραμμικο1ς κ)$ικες-/4 Fο πλή3ος των λ#'εων σε {ια σ%νο{ά$α είναι ίσο {ε το πλή3ος των

λ#'εων το% κ)$ικα 2, $ηλα$ή }2 ? f} > }2} > / Y4:4 Αν μια λ#'η f περι#"εται στη σ%νο{ά$α 2 ? [, τότε ισ"1ει 2 ? f > 2 ?

[, $ηλα$ή κά3ε λ#'η της σ%νο{ά$ας την προσ$ιορίbει4;4 Fο πλή3ος των $ιαφορετικ)ν σ%νο{ά$ων το% κ)$ικα 2, $ιάστασης Y,

ισο1ται {ε / 8 & Y 4 +Από ι$ιότητα G ⇒ πλή3ος στοι"είων όλων τωνσ%νομά$ων> / 8 ⇒ εφόσον από ι$ιότητα /,

}2 ? f} > / Y τότε πλή3ος σ%νομά$ων> / 8 . / Y> / 8 & Y-

!%νομά$ες jραμμικο1 Κ)$ικα 2


81/115

!%νομά$ες jραμμικο1 Κ)$ικα 2Bδιότητες "υνομάδων 'συνέχεια)

G4 dι

Documents

PLH22 OSS4 Slides