‌ای‌ػقثی‌قػی ؽثى01-713-11-13

ترؼ‌پج

داوشگاي شيد بشتیداوشکدي ی مىدسی علم کامپيتر

1394زمستان احمد محمدی ازواي

http://faculties.sbu.ac.ir/~a_mahmoudi/

فزعت‌غاة

‌ای‌رلاتتی• ؽثى‌ی‌ی– ؽثى

‌ی‌ی‌‌پزعپتز• مایغ‌ذرای‌ؽثى‌ی‌‌• feedforwardالی

‌ی‌رلاتتی• ‌recurrent-الی

آسػ‌رلاتتی–ؾىالت‌آسػ‌رلاتتی–

‌ز‌• ‌ای‌ذزعاسا (SOM)ؽثى•LVQ

شبک عصبی2

پیؼ‌فتار

‌ی‌یه‌ح‌تزای• ‌‌اس‌«ا‌تاسؽاذت»‌غأ‌ای ‌ح :وزز‌اعتفاز‌ی‌تا‌تفاتی‌را

– Perceptron

– Hamming network

– Hopfield network

‌‌ای‌زر‌.ؽسی‌آؽا‌رػ‌ا‌اس‌تزذی‌تا‌تاو•.ؽس‌ذای‌آؽا‌«رلاتتی‌یازیزی»‌تا‌ترؼ

شبک عصبی3

ثا

شبک عصبی4

Neural

Network

shape texture weight

SorterSensors

Apples Oranges

weight

texture

shape

p ,

1

1

1

)(

applep

1

1

1

)(orangep

Shape sensor: 1 -- round, –1 -- elliptical.

Texture sensor: 1 -- smooth, –1 -- rough.

Weight sensor: 1 -- > 1 pound, –1 -- < 1 pound. Ming-Feng Yeh

شبک عصبی5

+

a

n

1 b

W

SR

R

p

R1n = Wp + b

a = hardlims(Wp + b)

Single-layer Perceptron/ Instar

Symmetrical Hard Limit

• a = -1, if n 0• a = +1, if n 1• MATLAB function: hardlims

شبک عصبی6

Two-Input / Single-Neuron Perceptron

)(hardlims

, 1211

2

1

na

bn

wwp

p

Wp

Wp11w

12w

1p

2p

n a

1

b

Inner product

‌‌ز‌ت‌را‌رزی‌تززار‌یه‌ی‌تاس‌ر‌یه‌زیسی•‌‌تسی‌ز If Wp.وس‌زعت b,

thena = +1;

otherwise,a = -1.

شبک عصبی7

1p

2p

1

1

1

0n

0n

W

n = 0

)(hardlims

1

1 ,11

21

1211

na

ppbn

bww

Wp

W

Two-Input / Single-Neuron Perceptron

)3(input ldimensiona-three

R

weight

texture

shape

p

)(hardlims , nabn Wp

ؽاعایی‌اا

شبک عصبی8

1

1

1

)(applep

1

1

1

)(orangep 0 ,010 bW

10

1

1

1

010hardlims :

aOrange

10

1

1

1

010hardlims :

aApple

ؽاعایی‌اا

‌‌زلیك‌تقی‌و‌تاؽس‌فرتی‌ت‌رزی‌از‌حا•چیغت؟‌ح‌را‌ززز‌یغز

شبک عصبی9

orange

10

1

1

1

010hardlimsa

weight

texture

shape

p

1

1

1

1

1

1

)(orangep

Hamming Network

ی ميىگ سادي تريه شبک ی رقابتی است .شبک

شبک عصبی10

‌ی• ‌‌تسی‌تزای‌‌Hammingؽثى ‌ای‌زعت ‌ززیی‌زاز.ؽس‌غزح

‌ی‌ی‌ز‌الی‌جز‌زارز• :زر‌ؽثى‌ی‌یه‌– (FeedForward)الی

‌ی‌ز‌– (Recurrent)الی

‌ی‌یه• الی.تقی‌ی‌یزز‌رزی‌ت‌وسا‌تززار‌ؽاع‌شزیه‌تز‌اعت–

‌ی‌ز• الی‌ی‌ز‌یا‌– پایا‌ی‌پذیزز،‌تا‌یه‌ذزجی‌‌recurrentلتی‌الی

‌ی‌رلاتتی‌اعت ‌.غیز‌ففز‌تالی‌ی‌اس،‌‌زر‌الغ‌ای‌الی،‌الی

شبک عصبی11

Hamming Network

Recurrent Network:

‌ای‌اعت‌و‌زر‌آ‌ ‌ی‌رزی‌‌feedbackؽثى جز‌زارز؛‌زر‌آ‌تزذی‌ذزجی‌ا‌ت‌الی‌ی‌فؼی‌اعتفاز‌ی‌ؽز.‌تق‌غتس ‌ی‌لث‌ت‌ػا‌رزی‌زح .ذزجی‌زح

‌تسی‌زر• ‌تسی‌سف‌ی‌عثم ‌‌زر‌رزی‌ا‌زعتSاعت‌تفات‌والط‌.‌ی‌زر• ‌‌غتس‌ؼ‌S‌والط‌ای‌ی‌ؽثى

.(اعت‌ؾرـ‌والط‌ز‌زوش)‌‌جز‌(Prototype)ؽاع‌تززار‌‌Sی‌ؽز‌فزك•

.زارز

‌ی‌ت‌تززاری‌:رزی• .اعت‌‌R×1اساس

شبک عصبی12

1( 1) 2( 1) ( 1), ,........,R R s RP P P تززارای‌ؽاع

1,.....,T

RX x x

Hamming Network

فاف

‌تسی‌زر• ‌ای‌‌ذؽ ‌و‌ؼیاری‌تایس‌رلاتتی‌ؽثى‌ز ‌ی‌تیا ‌‌تاؽس،‌ؽاع‌تززار‌اس‌رزی‌فاف‌‌سیز‌تزتیة‌ت‌تسا‌ؼیار‌ع‌.ؽز‌تؼزیف:غتس

‌ی– :الیسعی‌فاف

‌ضزب‌تز‌تشري‌تز‌:زاذی‌ضزب– ‌‌ؼای‌ت‌زاذی‌حاف‌تز ‌‌ی‌تز‌و .اعت‌زتززار‌سای

‌ی– ‌ایی‌تؼساز‌تا‌تزاتز‌:ی‌فاف ‌‌تا‌و‌اعت‌ؤف.زارس‌تفات‌

شبک عصبی13

2

( , ) [ ( ) ( )]k

d k k X P X P

‌تسی• ‌‌‌Sتا‌رتف‌والط‌‌Sزر‌رزی‌ا‌ز‌زعتؽاع‌تززار‌ی‌ؽاع‌تززارای– ‌اساس .اعت‌رزی‌تززار‌

‌اساس‌‌و‌فرتی‌زر• ‌ا‌ثاؽس‌ ‌اساس‌را‌آ ‌‌(Normalize)‌ی‌وی.

شبک عصبی14

سف

ii j

i

XX P

X

‌ا‌را‌ت‌فرت‌ماط‌ری‌• پظ‌اس‌زاالیش‌وزز،‌‌ی‌تا‌زاز.زر‌ظز‌زفت(‌اتزوز)حیظ‌یه‌زایز

1 1 1. T

S S R R SY W X B

Hamming Network

شبک عصبی15

Hamming Network

a1

S1

n1

S1+

W1

SR

R

p

R1

S

1 b1

S1

W2

SS

S

D

n2(t+1)S1 S1

a2(t+1)

S1

a2(t)

Feedforward Layer Recurrent Layer

n1 = W1p + b1

a1 = purepurelin(n1)

n2(t+1) = W2a2(t)

a2(t+1) = posposlin[n2(t+1)]

a2(0) = a1

‌ی• یه‌الی

‌حاعث‌رزی‌‌ؽاع‌تززارای‌تی‌ثغتی•.ی‌ؽس

‌ؽاع‌تززارای‌اس‌اعتفاز‌تا‌‌W1اتزیظ•.ی‌ؽز‌مسارزی

‌ی‌ت‌را‌تایاط‌• ‌‌ی‌یزی‌ظز‌زر‌(‌R)‌ثثت‌اساس.ززز‌فی‌ذزجی‌و

شبک عصبی16

Feedforward Layer

a1

S1

n1

S1+

W1

SR

R

p

R1

S

1 b1

S1

n1 = W1p + b1

a1 = purepurelin(n1)

connection matrix W1

Hamming Network

‌ی‌ی‌چ‌(‌-1‌‌1)زر‌فرتی‌و‌رزی‌ا‌‌زمساری تاؽس،‌‌تی‌ضزب‌زاذی‌‌فافارتثاعی‌جز‌ذاس‌زاؽت؟

شبک عصبی17

1 1 1. T

S S R R SY W X B

11

. ...

. ..

T

TRS

x RP

Y

x RP

1 01. cos.

..

..

. cos.

T

Ts sS

P RP R

Y

P RP R

xx

xx

[ , ]k kP x

Hamming Network

شبک عصبی18

Recurrent Layer (MaxNet)

n2(t+1) = W2a2(t)

a2(t+1) = posposlin[n2(t+1)]

a2(0) = a1

W2

SS

S

D

n2(t+1)S1 S1

a2(t+1)

S1a2(t)

a1

‌ی‌ا• ‌‌الی‌ای‌زر‌و‌اعت‌”Competitive“‌رلاتتی‌الی‌ا .ی‌پززاسس‌رلاتت‌ت‌‌تا‌تزس‌تؼیی‌تزای‌ر

‌‌یه‌تا‌.زارز‌را‌مسار‌تیؾتزی‌و‌اعت‌ری‌تزس•.ؽس‌ذاس‌تزس‌ر

Hamming Network

Biologically plusibility

شبک عصبی19

1(0)sO y

1 2( 1) ( . ( ))sO n f w O n

0( )

0 .

x xf x

OW

2

( , )

1 1

-1i j

i jW

i j s

2

( , )

1 . .

. 1 . .

. . 1 .

. . 1

i jW

1

21

1

1

( ) ( )( )1 . .

.. 1 . . .

.. . 1 . .

( ). . 1( ) ( )

s

i

i

ss

s i

i

O n O nO n

O nO n O n

‌تزس‌‌kچ‌تمی‌اس‌اعت‌تشري‌تزاس‌k‌‌فزك‌وی‌ذزجی‌ اثز‌تضؼیفی‌و.اسغیز‌ففز‌تالی‌ذاس‌‌kتز‌تمی‌تیؾتز‌اعت‌‌زر‌اتا‌تا‌ی‌ػقز‌

Lateral Inhibition: excites itself and inhibits

all the other neurons

شبک عصبی20

1 1

1 1

-ε

-ε-ε

-ε

-ε -ε

A1

Ai Aj

Am

MAXNET

Lippmann, R. P. (1987). "An introduction to computing with neural

nets." ASSP Magazine, IEEE 4(2): 4-22.

Excitatory Link

Inhibtory Link

تفات‌یا‌ز‌ػقزی‌و‌تشري‌‌وچه‌غتس‌‌•.زر‌ای‌فرت‌افشایؼ‌ی‌یاتس

شبک عصبی21

2

2 2 1

2

2

1 ( ) 1, ( ) , and

1 1( )

a tt

Sa t

W a

)()(

)()(poslin)(poslin)1(

2

1

2

2

2

2

2

1222

tata

tatatt

aWa

15.0

5.015.0let ,

2

4)0(

1

1

1

If 212 Waap

0

3

0

3poslin

2

4

1

1poslin)1(

21

21

2a

0

3

5.1

3poslin

0

3

1

1poslin)2(

21

21

2a

Recurrent Layer‌ا تؼساز‌ر

Hamming Network

ثا

شبک عصبی22

3

3 ,

111

1111

2

11b

p

pW

T

T

3

3

3

3

2

1

2

1111

pp

ppp

p

pbpWa

T

T

T

T

بایاسی ‌ضرب داخلی دي بردار ب عالي

2

4

3

3

1

1

1

111

111

1

1

1111 bpWap

دي بردار ديديیی برابر است با ميىگ ميان ی ‌فاصلتعذاد عىاصری ک در مقایس با یکذیگر متفايتىذ

Output = 2 (R – Hamming distance)

a11 = 2 (3 – 1) = 4, a1

2 = 2 (3 – 2) = 2

‌بو‌الگوریتم‌گوییم‌شود‌یکسان‌تکرار‌دو‌نتیجو‌ی‌ىنگامی‌کو .است‌رسیده‌ىمگرایی

ثا

زر‌یه‌فضای‌ع‌تؼسی‌تززارای‌ؽاع‌اس‌سیز‌‌•:تاؽس‌xاعت‌رزی‌از‌

:اتتسا‌تایاط‌را‌زر‌ظز‌ی‌یزی•:تززار‌رزی‌را‌زایش‌ی‌وی•

شبک عصبی23

1 1 1 1T

p 2 1 1 1T

p

2 3 6T

x

13

3

b

2 2

1 2 3p p 2

49x

2 493newx

a

2 4 9 36newx

a a a

16a

‌ی‌ثا ازا

شبک عصبی24

2 4 9 36newx

a a a

2 3 6, ,newx

a a a

0.5,0.71, 1.5newx

1 1 1

0.5 0.51 1 1 3 1.29

0.71 0.711 1 1 3 2.71

1.5 1.5

x x

a W b

21 1

, 1 1S

W

1(0)sO y

1 2( 1) ( . ( ))sO n f w O n

‌ی‌ثا ازا

‌‌زایی‌عزػت‌ؽز‌زفت‌ظز‌زر‌وچه‌‌‌εاز•.ی‌آیس‌پایی

شبک عصبی25

1(0)sO y

1 2( 1) ( . ( ))sO n f w O n

1 2

1 0.5 1.29 0(1) ( . (0)) ( ) ( )

0.5 1 2.71 2.07sO f w O f f

21 1

, 1 1S

W

Winner-Take-All(WTA)

‌ی‌رلاتتی الی

شبک عصبی26

)(ncompeta

S

T

S

T

T

L

L

L

cos

cos

cos

2

2

2

1

2

2

1

p

w

w

w

Wpn

ii

iiai

,0

,1

}...,,,max{ 21 Sinnnn

A recurrent competitive layer

W11

WRS

W1S

WR1

.

.

.

.

p1

pR

p

y1

ys

ؽثى‌رلاتتی

آسػ‌رلاتتی

‌ا‌تؼساز‌تا• .اعت‌ؾرـ‌زعت‌اس‌ؽاع‌تززارای• .اؽاذت

‌ا‌اتزیظ– .ی‌ؽز‌اتراب‌تقازفی‌س

:سف•تی‌(ؽاع‌تززارای)س‌اتزیظ‌یافت–

‌‌تقازفی‌فرت‌ت‌W‌اتزیظ‌عغز‌ز‌ی‌تا•.وزز‌اتراب

‌ی‌ت‌رزی‌ا– ‌R×1اساس

‌ا‌تؼساز– ‌ی‌ت‌ز ‌Sاساس

شبک عصبی27

Competitive Learning

...(ازا)آسػ‌رلاتتی‌

:زاح‌اریت1)Wiی‌ؽس‌اتراب‌تقازفی‌عر‌ت‌ا‌..ی‌ؽس‌زایش‌مسار‌یه‌ت‌ی(2‌‌اػا‌ؽثى‌ت‌رزی‌یه‌تىزار‌ز‌زر(3

.ی‌ؽز

‌ی‌ذزجی‌زر(4 :ی‌ؽز‌حاعث‌سیز‌راتغ

شبک عصبی28

( ) 1,.....,T

n RP P P

( )( ) ( ) ( ) ( ) ( ).cos

1,2,....,

n

T

i n i n n i n i ny P w P w

i S

...(ازا)آسػ‌رلاتتی‌

‌ت‌تاؽس‌ذزجی‌مسار‌تیؾتزی‌زارای‌و‌احسی‌(5‌‌احس‌ا‌تا‌‌ی‌ؽز‌اتراب‌«تزس»‌ػا

‌ی .ی‌ؽز‌ذاس‌*‌iؽار‌ی‌(6 ‌ا‌تغثیك‌زح :س

تىزار‌‌تؼسی‌رزی‌اػا‌(7تؼس‌ت‌3‌زح

شبک عصبی29

*i iy y

*( 1) *( ) ( ) *( )[ ]i n i n n i nw w P w

* ( 1)i nw

* ( )i nw

( )nP

competitive learning rule(Kohonen rule)

...(ازا)آسػ‌رلاتتی‌

شبک عصبی30

*( 1) *( ) ( ) *( )[ ]i n i n n i nw w P w

*( 1) *( ) ( )1i n i n nw w P

*( 1)i nw

*( )i nw

( )nP

ثا

شبک عصبی31

1

0.19

0.98P

2

0.19

0.98P

3

0.98

0.19P

4

0.98

0.19P

5

0.58

0.81P

6

0.81

0.58P

P1 P2

P3

P4

P6

P5

1

0.7

0.7W

2

0.7

0.7W

3

1

0W

کىيم‌ا را تصادفی اوتخاب می‌مشخص است ک س گري داریم يزن

1

2

3

T

T

T

W

W W

W

0.7 0.7

0.7 0.7

1 0

W

‌ی‌ثا ازا

P2رزی‌•.را‌ت‌ؽثى‌اػا‌ی‌وی‌

:س‌احس‌تزس‌را‌ت‌رس‌ی‌ایی•

شبک عصبی32

2

0.7 0.7 0.550.19

. 0.7 0.7 0.80.98

1 0 0.1

W P

‌ی‌ اعت‌2احس‌تزس‌ؽار

2( 1) 2( ) 2 2( )[ ]n n nw w P w

0.7 0.19 0.7 0.45 0.5[ ]

0.7 0.98 0.7 0.84

0.7 0.7

0.45 0.84

1 0

‌ی‌ثا ازا

‌‌تزس‌احس‌حغة‌تز‌وزز‌اػا‌را‌تؼسی‌رزی•‌ا .ی‌وی‌رس‌ت‌را‌س

‌ذاس‌سیز‌ؽى‌اس‌ؽاع‌تززارای‌ایت‌زر•:ؽس

شبک عصبی33

P1 P2

P3

P4

P6

P5

W3

W2

W1

ؾىالت‌یازیزی‌رلاتتی

‌ηآسػ‌ضزیة‌اتراب•–0→ηرعیس‌اس‌پظ‌ی‌ی‌وس‌وس‌را‌زایی‌رس‌‌‌

.ی‌اس‌پایسار‌حات‌آ‌زر‌ؽاع،‌تززار‌یه‌ت–ηاپایساری‌ی‌عزیغ‌زایی‌ؽز،‌اتراب‌تشري‌‌‌

.زارز‌زر‌تشري‌را‌‌ηاتتسا‌ای،‌حسز‌ت‌رعیس‌تزای‌ؼال–

‌را‌زلت‌افشایؼ‌تزای‌ی‌ی‌یزس،‌ظز ‌‌واؼ‌آ.ی‌زس

‌ؽس،‌رس‌ت‌ار‌رزی‌تززارای‌تاؽس،‌یاس‌و‌فرتی‌زر•.زاؽت‌راس‌وارایی‌ؽی‌ای

شبک عصبی34

...(ازا)ؾىالت‌یازیزی‌رلاتتی‌

‌‌یىسیز،‌ت‌ؽاع‌تززارای‌تز‌شزیه‌فرت‌زر•‌پذیز‌جساعاسی .تز‌راس‌اىا

‌ارز‌یىسیز‌حزی‌ت‌ؽاع‌تززارای‌اعت‌ى–.ؽس

.تز‌ذاس‌اپایسار‌آسػ‌فزآیس‌حات‌ای‌زر–

شبک عصبی35

ر‌زز

زز‌ر•‌‌‌ؽس‌راس‌تزس‌یچ‌ا‌تاؽس‌زر‌ذیی‌ری‌از–

‌‌ر‌را‌ری‌چی‌.زیس‌راس‌آسػ‌تیج‌زر.ی‌یس‌زز

‌‌و‌اعت‌ای‌ؾى‌ای‌تز‌غث‌تزای‌را‌ی–‌ای‌ؽاظ‌و‌ؽز‌زفت‌پیؼ‌زر‌عاسواری ‌ر

‌تز‌زتار‌ؽس‌تزس‌تزای‌تزس .ؽز‌وای‌وار‌تا‌‌افشز‌مسار‌فی‌ت‌تایاط–

‌پذیز‌اعت‌ ‌ا‌اىا ای‌ؽی‌‌.‌آ.ذاس‌ی‌ؽز«‌جسا»

شبک عصبی36

conscience

Dead neuron

...(ازا)ؾىالت‌یازیزی‌رلاتتی‌

زر‌فرتی‌و‌تؼساز‌والط‌ا‌ؾرـ‌ثاؽس،‌ای‌‌•.ؽی‌ت‌وار‌راس‌آس

‌‌لاتیت‌جساعاسی‌والط‌ای‌• غیز‌حسب‌‌ای‌ؽی.را‌سارز(‌ؽا‌احی‌غغت)یا‌غغت‌

شبک عصبی37

‌ی‌رلاتتی (ثا)ؽثى

شبک عصبی38

clear all;

P=rand([2 100]);

net=competlayer(3);

% net = newc([0 1;0 1],3); obsoleted in R2010b NNET 7.0.

net.trainParam.epochs=500;

net = train(net,P);

Y = sim(net,P);

Yc = vec2ind(Y);

plotvec(P,Yc);

title('Input Vectors');

xlabel('P(1)');

ylabel('P(2)');

view(net);

competlayer(numClasses,kohonenLR,conscienceLR);

‌ی‌رلاتتی ‌ی‌ثا)ؽثى (ازا

شبک عصبی39

‌ی‌رلاتتی (ثا)ؽثى

شبک عصبی40

% Create P.

X = [0 1; 0 1]; % Cluster centers to be in these bounds.

clusters = 8; % This many clusters.

points = 10; % Number of points in each cluster.

std_dev = 0.05; % Standard deviation of each cluster.

P = nngenc(X,clusters,points,std_dev);

% Plot P.

plot(P(1,:),P(2,:),'+r');

title('Input Vectors');

xlabel('p(1)');

ylabel('p(2)');

net = newc([0 1;0 1],8,.1);

w = net.IW{1};

plot(P(1,:),P(2,:),'+r');

hold on;

circles = plot(w(:,1),w(:,2),'ob');

net.trainParam.epochs =10;

net = train(net,P);

w = net.IW{1};

delete(circles);

plot(w(:,1),w(:,2),'ob');

p = [0; 0.2];

a = sim(net,p)

‌ی‌رلاتتی ‌ی‌ثا)ؽثى (ازا

41

SOM

شبک عصبی42

شبک عصبی43

Compet. Layers in Biology

ji

jiwij

if,

if,1

0if,

0if,1

ij

ij

ijd

dw

‌ی‌ ‌ی‌ز‌ؽثى ‌ای‌الی ‌ا‌فحثتی‌ؾس،‌س زر‌رز‌عاذتار‌رhammingت‌فرت‌سیز‌اعت‌‌:

Each neuron reinforces itself (center), while

inhibiting all other neurons (surround).

تابع الک مکسیکی

‌ی‌تحزیه‌‌تضؼیف‌زس‌زلیمی‌جز‌ ‌ای‌تیصیىی،‌تی‌احی زر‌عیغت.سارز

On-center/off-surround

‌ی‌اس‌تتز‌تمیس‌فت‌ی‌تا‌ػی‌ت• ‌‌ػقثی‌ؽثى‌ی‌ت‌جز‌اغا، ‌‌‌kohonenتعظ‌‌SOMارائ

.ؽس‌ای‌تزس،‌ر‌تز‌افش‌ؽثى‌ای‌زر• ‌‌ر

‌ی .ی‌تیس‌آسػ‌‌آ‌غای

شبک عصبی44

SOM (SOFM)

Marc M. Van Hulle

‌‌ت‌ؽثى‌تپصی‌آ‌تثغ‌ت‌‌غایی‌تؼزیف•.اعت‌پذیز‌اىا‌رتف‌عزقتؼسی‌یه–(تؼسی‌ز‌ؾثه)‌زتؼسی–تؼسی‌ع–

‌ای‌ااع‌اس‌ؽثى‌ای• .اعت‌تی‌ظارت‌ؽثى

شبک عصبی45

SOM (SOFM)

unsupervised

.ت‌ػی‌سف،‌یافت‌فای‌ؾتزن‌اعت•

شبک عصبی46

Input Pattern 2

Input Pattern 3

SOM (SOFM)

Jing Li Mail: jing.li@lijing.de

شبک عصبی47

SOM – Result Example

‘Poverty map’ based on 39 indicators from World Bank statistics (1992)

Jing Li Mail: jing.li@lijing.de

[Teuvo Kohonen 2001] Self-Organizing Maps; Springer;

Animal names and their attributes

birds

peaceful

hunters

is

has

likes

to

Dove Hen Duck Goose Owl Hawk Eagle Fox Dog Wolf Cat Tiger Lion Horse Zebra Cow

Small 1 1 1 1 1 1 0 0 0 0 1 0 0 0 0 0 Medium 0 0 0 0 0 0 1 1 1 1 0 0 0 0 0 0

Big 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 1

2 legs 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 4 legs 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 Hair 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1

Hooves 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 Mane 0 0 0 0 0 0 0 0 0 1 0 0 1 1 1 0

Feathers 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0

Hunt 0 0 0 0 1 1 1 1 0 1 1 1 1 0 0 0 Run 0 0 0 0 0 0 0 0 1 1 0 1 1 1 1 0 Fly 1 0 0 1 1 1 1 0 0 0 0 0 0 0 0 0

Swim 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0

SOM – Result Example

Jing Li Mail: jing.li@lijing.de

تپصی‌زتؼسی

‌ی‌زر• ‌‌ای‌تز‌فزك‌زتؼسی‌تپصی‌تا‌‌‌SOMؽثى‌ا‌اس‌(Lattice)‌ؾثىی‌و‌اعت ‌‌ت‌ر

‌ای .ی‌زس‌پاعد‌ؽثى‌ت‌رزی‌عیا

شبک عصبی49

2d array of neurons

Set of input signals

Weights

x1 x2 x3 xn...

wj1 wj2 wj3 wjn

jj

Jing Li Mail: jing.li@lijing.de

...(ازا)تپصی‌زتؼسی‌

شبک عصبی50

‌ای‌رز‌اعتفاز‌زر‌ SOMا

‌ی‌اتراب‌اس‌پظ• ‌ا‌ای ‌‌فرت‌ا‌ع‌س:ی‌پذیزز

(competition)رلاتت‌–

(cooperation)ىاری‌–

‌ا‌– (synaptic adaptation)ت‌رسرعای‌س

شبک عصبی51

تپصی‌زتؼسی

.ی‌ؽز‌اتراب‌ؾثه‌اس‌تزس‌تززار•‌‌تا‌غایاؼ‌زا‌ت‌ؽس‌اتراب‌ر•

.ی‌ززز‌فؼا‌ؼیی‌ضزیة‌‌ضزیة‌یشا‌تاؽی‌شزیه‌تز‌تزس‌ر‌ت‌چ‌ز•

.تز‌ذاس‌تاالتز‌آسػ

شبک عصبی52

2d array of neurons

Set of input signals

Weights

x1 x2 x3 xn...

wj1 wj2 wj3 wjn

jj

Jing Li Mail: jing.li@lijing.de

غایی‌زی،‌‌• ‌ی‌ػثارت‌سیز‌ؾا از‌غایی‌را‌ت‌عی

‌تز‌‌ ‌ای‌و ‌ای‌یه‌ر‌زر‌فاف تای‌غای.زر‌ظز‌زفت‌ی‌ؽس‌dیا‌غای‌

شبک عصبی53

},{)( ddjdN iji

‌ای‌چی‌زر• :ساری‌تیؾتز‌الی‌ز‌ؽثى‌ی– رزی‌الی‌ی– ذزجی‌الی

‌‌تا‌را‌ذز‌ذزجی‌احس‌ز• ‌ایی‌ت‌تج ‌‌و‌س.ی‌زس‌ؾا‌اعت‌تق‌تسا‌فرت‌ای‌زر‌ذزجی‌ز‌ؽاذـ‌فت‌ی‌تا–

‌ایؼ .اعت‌س

‌ا‌اتتسا• .ی‌وی‌اتراب‌تقازفی‌فرت‌ت‌را‌س

شبک عصبی54

SOM (SOFM)

اریت‌یازیزی

‌ای• ‌ا‌س ‌‌اتراب‌تقازفی‌فرت‌ت‌ؽاذ.ی‌ؽس

‌‌زر‌‌Nغایی‌ؽؼاع‌یه‌ذزجی‌احس‌ز‌تزای•.ی‌ؽز‌زفت‌ظز

‌‌یا‌‌تززار‌ز‌زاذی‌ضزب‌ی‌تا‌را‌فاف‌ؼیار•‌ی .زفت‌ظز‌زر‌الیسعی‌فاف

‌:ی‌ؽز‌اتراب‌تزس‌احس•شبک عصبی

55

, ( ) 1 1i j nW i R j S ‌ی‌رزی‌اس‌ jتi‌‌س‌ؽاذ

S ‌ا‌ تؼساز‌ز

T

jXW

2

( ) , ( )

1

( )

R

j i n i j n

i

d X W

Max

Min

*j

SOM (SOFM)

اریت‌یازیزی

‌ای‌احس‌تزس‌‌• غایاؼ‌‌ت‌رس‌رعای‌س

یش‌زر‌ای‌حات‌تغیز‌اعت‌تزای‌‌‌‌ηزخ‌آسػ•‌ای‌شزیه‌تزا‌ت‌تزس،‌مسار‌تیؾتزی‌‌ غای

.‌‌‌زارز.‌اثت‌زخ‌آسػ‌ت‌تسریج‌واؼ‌ی‌یاتس•

شبک عصبی56

( 1) ( ) ( ) ( )[ ]ij n ij n i n ij nw w x w

( )for j nj N

تغیز‌اعتز‌زر‌ؽؼاع‌غایی‌ؼال‌زر‌

1)1()(0 nn

SOM (SOFM)

تاتغ‌غایی‌.یىی‌اس‌تزی‌تاتغ‌غایی‌اعی‌اعت•

–di,j‌ی‌ز‌ر‌‌را‌ؾا‌ی‌زس‌از‌‌ یه‌‌‌latticeفاف:تؼسی‌تاؽس

– ‌‌| j - i |

:ز‌تؼسی‌تاؽس‌latticeاز‌–– ‌‌|| rj - ri ||

شبک عصبی57

2

,2, exp

2j i

j i x

dh

SOM (SOFM)

effective width

تاتغ‌غایی‌تاتغ‌غایی‌اس‌ؽؼاع‌غایی‌تشري‌ؽزع‌‌•

وس‌‌ت‌تسریج‌تزوش‌تا‌ری‌احس‌تزس‌تالی‌‌.ی‌اس

شبک عصبی58

0

0.5

1

-10 -8 -6 -4 -2 0 2 4 6 8 10

00.5

1

Time

Time

2

,2, exp

2j i

j i x

dh

تاتغ‌غایی‌

‌رس‌غایا‌تؼساز• .ی‌وس‌تغییز‌‌سا‌تا‌‌ی‌ا‌dij‌تاؽس‌تزس‌i‌ر‌از• ‌‌‌jر‌فاف

.اعت‌(i)تزس‌ر‌اس

‌‌را‌اعی‌تاتغ‌ؼیار‌احزاف‌ظر،‌ای‌تزای•.ی‌ؽز‌زفت‌ظز‌زر‌تغیز

شبک عصبی59

2

,2, ( ) exp

2j i

j i

dh x

01

( ) exp =0,1,2,...nn n

2

,2, ( )( ) exp 0,1,2,...

2 ( )j i

j i x

dh n n

n

‌ا ت‌رسرعای‌س

:تز‌عثك‌راتظ‌ت‌زعت‌آس‌ذای‌زاؽت•

‌‌ظز‌زر‌تغیز‌ایی‌فرت‌ت‌یش‌را‌یازیزی‌زخ•.ی‌ؽز‌زفت

شبک عصبی60

( )( 1) ( ) ( ) ( ) - ( )j j ij x jw n w n n h n x w n

02

( ) exp nn

‌ا ...(ازا)ت‌رسرعای‌س

شبک عصبی61

01

( ) exp 0,1,2,...nn n

2

,2, ( )( ) exp 0,1,2,...

2 ( )j i

j i x

dh n n

n

02

( ) exp 0,1,2,...nn n

( )( 1) ( ) ( ) ( ) - ( )j j ij x jw n w n n h n x w n

‌ا ...(ازا)ت‌رسرعای‌س

شبک عصبی62

1

0

1000

log

‌ای‌زر‌تجزتی‌فرت‌ت‌η0، σ0 ، τ1‌‌τ2‌مازیز ‌‌سیز‌تاس:تز‌ذاس

0 0.1

اما یابذ‌می اکش تذریجی مقذار ایهبد خاذ 0.01 از باالتر وایتا

2 1000

‌ؽؼاع‌تا‌تزاتز‌ی‌ؽز‌زفت‌ظز‌زر‌‌‌σ0تزای‌و‌مساری•.اعت‌ؾثه

‌اعت‌چیسا‌ت‌اتغت‌مسار‌ای‌تاتزای• .ر:ی‌یزس‌ظز‌زر‌را‌سیز‌مسار‌‌‌τ1تزای•

فاسای‌یازیزی‌ای‌تاؽس‌تزس‌و‌تززار‌ز‌‌SOMزر• ‌‌‌ذز‌س

‌‌تظی‌غایی،‌غثت‌ت‌غایاؼ.ی‌ؽس

سف–.ی‌ؽز‌ؾرـ‌احسا‌جغزافیایی‌ىا•‌ی‌ت‌غایی‌ؽؼاع• ‌عپظ‌‌ؽزع‌احسا‌تای‌اساس

‌.ی‌ذارز‌واؼ‌ت‌ر.ی‌ؽز‌زفت‌ظز‌زر‌‌1000حسز‌تىزارا‌تؼساز•.ی‌ؽز‌وچه‌تز‌‌وچه‌‌ηتای‌تىزار‌ای‌عی‌زر•

شبک عصبی63

Ordering‌ای‌فز‌.‌ارز‌جشییات‌ی‌ؽز‌ ‌ ت.را‌ؾا‌ی‌زس‌Coarseسرت‌یا‌

Ordering

...(ازا)فاسای‌یازیزیسف•

‌تسی‌جشییات• ‌ا‌تمغی .ی‌ؽز‌ؾرـ‌ز.ؽس‌ذاس‌حسز‌تزس‌احس‌ذز‌ت‌غایی‌ؽؼاع•.اعت‌ذزجی‌احسای‌تؼساز‌تزاتز‌‌500تىزارا‌تؼساز‌ؼال•

‌‌‌ا‌تؼساز– .زارز‌ایت‌ز

.ی‌ؽز‌زفت‌ظز‌زر‌‌0.01حس‌زر‌‌و‌آسػ‌زخ•‌ا‌‌‌احس‌ز‌جشییات‌حات‌ای‌زر• .زارز‌ایت‌غای

:ىت•.ی‌ؽس‌اتراب‌وچىی‌مازیز‌ای‌س‌تززارای–‌ی‌تاؽس،‌پزاوس‌ذیی‌از– .ی‌آیس‌پیؼ‌زز‌احس‌غأ

شبک عصبی64

Convergence(tuning)

شبک عصبی65

2D topology

initial weight vectors

SOM (SOFM)

شبک عصبی66

250 iterations per diagram

SOM (SOFM)

‌‌ظز‌زر‌تشري‌غایی‌ؽؼاع‌اتتسا‌زر‌و‌ؽس‌فت•‌‌ت‌تج‌تا‌فرت‌ای‌زر‌.ی‌ؽز‌زفت

‌وس‌آسػ‌غتس،‌زریز‌و‌سیازی‌پاراتزای.ؽس‌ذاس

‌‌غایی‌ؽؼاع‌،‌ی‌ؽز‌پیؾاز‌ؽی‌ای‌زر•‌ا‌اا‌ؽز،‌زفت‌ظز‌زر‌ثاتت ‌‌زر‌تسریج‌ت‌ر.ؽس‌زذی‌آسػ‌فزآیس

شبک عصبی67

Renormalized SOM

Luttrell, S. (1989). "Hierarchical vector quantisation (image

compression)." Communications, Speech and Vision, IEE

Proceedings I 136(6): 405-413.

SOMجغ‌تسی‌

‌ای• :ؽز‌اجا‌ی‌تایس‌سیز‌ا

(initialization)‌ای‌مسارزی‌‌‌(1‌ا• ‌تا‌ی‌ؽس،‌اتراب‌تقازفی‌فرت‌ت‌س

‌ا‌و‌اعت‌ای‌حسزیت ‌.تاؽس‌تفات‌تایس‌س‌ی‌ؽس‌اتراب‌مسارای‌اعة‌تز ‌‌زاؽت‌وچىی‌اساس

تاؽس،‌‌تز‌ای‌س‌ػا‌ت‌رزی‌ا‌اس‌ی‌تا‌چی•

.جغت

‌تززاری‌‌‌(2 ‌(sampling).ی‌ؽز‌اػا‌ؽثى‌ت‌رزی‌ای‌یه•

شبک عصبی68

...(ازا)‌SOMجغ‌تسی‌

similarity)‌ؽثات‌تغثیك‌‌‌‌(3 matching).ؽز‌اتراب‌تزس‌ر•

‌رسرعای‌‌‌‌(4 (updating)‌ت‌‌تزس‌ر‌ؽس،‌غزح‌آسػ‌لا‌عثك•

‌ایؼ .ی‌تیس‌آسػ‌غای

5)‌ ‌ ‌‌تا‌ؽس،‌زفت‌عز‌اس‌زاح‌ز‌ا‌اس‌ ‌‌ت‌ؽثى.تزعس‌پایساری

شبک عصبی69

‌تسی‌واراوتز ذؽ

ای‌رزی‌21‌‌‌•.ذؽ‌زر‌ظز‌زفت‌ؽس‌اعت‌25•

واؼ‌زخ‌یازیزی‌ت‌فرت‌•(0.01تا‌‌0.6اس‌)ذغی

اعتفاز‌اس‌ع‌تپصی‌رتف•

زبان ماشيه70

‌تسی‌تس‌عاذتار ذؽ

شبک عصبی71

no topological structure

عاذتار‌ذغی

شبک عصبی72

linear structure (R=1)

بىذی اشتبا‌خش

عاذتار‌سی

شبک عصبی73

diamond structure

بىذی اشتبا‌خش

‌زز ‌ی‌زر فزؽس

زبان ماشيه74

The Traveling Salesman Problem

‌زز ‌ی‌زر فزؽس

زبان ماشيه75

ringتپلشی

SOMزر‌‌Matlab

:تپصی‌ای‌ز‌تؼسی‌رز‌اعتفاز‌ػثارتس‌اس•(Gridtop)غتغیی‌•(hextop)ؽؼ‌ضؼی‌•((randtopتقازفی‌•

زبان ماشيه76

pos = gridtop(16,12);

plotsom(pos);

pos = gridtop(2,3);

تپصیای‌زتؼسی‌رز‌اعتفاز

شبک عصبی77

pos = hextop(8,10);

plotsom(pos);

pos = randtop(16,12);

plotsom(pos);

تاتغ‌فاف

‌ی‌الیسعی• dist:‌فاف

•Boxdist

•linkdist

•mandist‌:sum(abs(x-y))

شبک عصبی78

ثا

شبک عصبی79

angles = 0:0.5*pi/99:0.5*pi;

P1 = [sin(angles); cos(angles)];

P2 = [-sin(angles); cos(angles)];

P=[P1,2.*P2]

plot(P(1,:),P(2,:),'+r')

net=selforgmap([20]);

%net = newsom([0 1;0 1],[20]);

net.trainParam.epochs = 10;

net = train(net,P);

figure;

plotsom(net.iw{1,1},net.layers{1}.distances)

p = [1;0];

a = sim(net,p)

selforgmap(dimensions,coverSteps,initNeighbor,topologyFcn,distanceFcn)

شبک عصبی80

ثا

شبک عصبی81

figure;

plot(P(1,:),P(2,:),'+b')

net = newsom([0 1; 0 1],[5 5],'gridtop');

hold on;

plotsom(net.iw{1,1},net.layers{1}.distances)

net.trainParam.epochs = 10;

net = train(net,P);

figure;

plotsom(net.iw{1,1},net.layers{1}.distances)

p = [0.5;0.3];

a = sim(net,p)

‌ی‌ثا ازا

شبک عصبی82

ثا

شبک عصبی83

شبک عصبی84

SOMیضی‌ای‌

‌ای‌تزعس،‌پایا‌ت‌آسػ‌ای‌اس‌پظ• ‌ت‌س‌ای‌آاری‌ذاؿ‌حای‌ػی‌ت‌آس‌زعت ‌‌زاز.تز‌ذاس‌رزی

.ی‌زس‌ؾا‌را‌«تسیغ‌چای»‌ػی‌ت•

شبک عصبی85

U-matrix representation of the Self-Organizing Map

(...ازا)‌SOMیضی‌ای‌

یش‌لات‌اعتفاز‌‌‌«تززار‌ذقیق»تزای‌اتراب‌•.ذاس‌تز

شبک عصبی86

:H A

شبک عصبی87

The Self-Organizing Desktop:

An Unsupervised Content Classification System for Efficient

Document Browsing

LVQ

شبک عصبی88

شبک عصبی89

Learning Vector Quantization

‌ی‌یه‌ؽثى‌ای• ‌ی‌ز‌ز‌ت‌و‌اعت‌تزویثی‌ؽثى ‌‌ؽیsupervised‌‌unsupervisedی‌تیس‌آسػ‌.

‌ی‌رلاتتی الی

شبک عصبی90

LVQ

)( 11

1

1

2

1

1

111

1

ncompeta

pw

pw

pw

npw

S

iin

‌‌اذار‌ر‌چس‌یا‌یه‌ت‌والط‌ز‌الی،‌رغتی‌زر•.ی‌ؽز

‌ا‌تؼساز• ‌‌تؼساز‌ت‌حسال‌تایس‌الی‌ای‌زر‌ر.تاؽس‌والط‌ا

‌ی‌زر• .زارز‌جز‌ر‌یه‌والط،‌ز‌اسای‌ت‌ز،‌الی‌ا‌تؼساز• .تزاتزعت‌والط‌ا‌تؼساز‌تا‌ر

Ming-Feng Yeh

سیز‌والط‌ا

‌ی‌ا‌ز‌والط‌ت‌یه‌عزی‌‌• ‌تزتیة‌زر‌الی تسی.تمغی‌ی‌ؽز‌«سیزوالط»‌ی‌ا‌ؾرـ‌ی‌وس‌و‌ذزجی‌ت‌‌• ‌ی‌الی تزس

.وسا‌سیزوالط‌تؼك‌زارز

شبک عصبی91

Dynamics and generalization of LVQ , Birmingham , 09-12- 05

...(ازا)سیز‌والط‌ا‌

‌ی‌زر• ‌‌ت‌ؽس‌تزس‌والط‌ا‌سیز‌‌و‌ای‌تؼسی‌الی.ی‌ؽز‌تزرعی‌زارز،‌تؼك‌والط‌وسا

‌ی‌تزذالف‌‌تزتیة‌تسی• ‌‌حات‌ای‌زر‌رلاتتی‌ؽثى‌تز‌والط‌ا‌شرای ‌‌لاتیت‌‌ؽس‌ذاس‌پیچیس‌‌.زاؽت‌ذاس‌را‌غیزحسب‌والط‌ای‌جساعاسی

شبک عصبی92

‌ی‌ذغی الی

شبک عصبی93

12

kiw

01000

10010

001012

W

Subclasses 1 & 3 belong to class 1

Subclasses 2 & 5 belong to class 2

Subclass 4 belongs to class 3

‌‌تیاز‌اتزیظ‌عغزای•‌ا‌‌والط‌ا ‌ز‌عت ‌‌تیا

.غتس‌سیزوالط‌ا‌‌یه‌ػقز‌یه‌فمظ‌عت‌ز‌زر•

.زاؽت‌ذای

.است kبخشی از الکس i ‌زیر الکس

‌ی‌آسػ ؽی

.ی‌ؽز‌زا‌اظز‌تا‌رلاتتی‌آسػ•‌ای• ‌‌والط‌ز‌ت‌ؼال‌ی‌ؽس،‌ؾرـ‌‌W2س

.ی‌ؽز‌زاز‌غثت‌یىغای‌والط‌سیز‌تؼساز‌ای• ‌ی‌س :ی‌تیس‌آسػ‌سیز‌فرت‌ت‌ا‌الی

‌ی‌ر‌از– :تاؽس‌ؽس‌تزس‌زرعتی‌ت‌ا‌الی.ی‌ؽز‌زاز‌حزوت‌(p)‌رزی‌تززار‌عت‌ت•

:ز–.ی‌ؽز‌زر‌رزی‌تززار‌اس•

شبک عصبی94

)1()()1()( 111 qqqqiii

wpww 2if 1k ka t

)1()()1()( 111 qqqqiii

wpww 2if k ka t

‌ی‌آسػ‌ ...(ازا)ؽی

شبک عصبی95

تریه بردار الگ اوتخاب شد‌وسدیک

شوذ‌بردارای الگ مقذاردی ايلي می

شد‌یک يريدی اعمال می

در صرت درست بدن الگ ب بردار يريدی وسدیک شد

در صرتی ک درست ويست از يريدی دير شد

piecewise linear decision boundaries

(t)wξ(t)w1tw *(t)

w

** η

N-dim.feature space

Dynamics and generalization of LVQ , Birmingham , 09-12- 05

ثا

شبک عصبی96

1

1

1

1

1

1

1

1

T0121 tt

T1043 tt

1100

00112

W

249.0

969.0

840.0

543.0

094.0

997.0

954.0

456.0

فزآیس‌آسػ-ثا

شبک عصبی97

0

1

0

0

03.2

09.1

11.2

40.2

)(

1

4

1

3

1

2

1

1

11compet

pw

pw

pw

pw

competncompeta

3

122

1

0

0

1

0

0

1100

0011taWa

453.0

998.0)0(5.0)0()1( 1

33

1

3

1

3 wpww

فزآیس‌آسػ-ثا

شبک عصبی98

تؼس‌اس‌یه‌تىزار تؼس‌اس‌تىزار‌سیاز

تزذی‌ؾىالت‌‌اغ

‌ی‌اس‌تغیاری‌ارز‌زر‌‌LVQو‌ای‌تا• ‌‌ح‌ػس‌ذاس‌اج‌حسزیت‌ایی‌تا‌ی‌آیس،‌تز‌غائ

:تز‌زاؽت‌«زز‌ر»‌یش‌حات‌ای‌زر‌اعت‌ى–

‌‌«جسا‌ىایش»‌اس‌ی‌تا‌یش‌جا‌ای‌زر‌تاؽی،.ز‌اعتفاز

‌ای‌ت‌ر‌یه‌اعت‌الس‌ارز‌تزذی‌زر– ‌‌زیز‌احی‌‌اس‌ذر‌ت‌جثر‌اعت‌ى‌تی‌ای‌زر‌‌وس‌حزوت

‌ای ‌‌ت‌تج‌تا‌.سارز‌تؼك‌ا‌والط‌ت‌و‌تاؽس‌احی‌زر‌‌یافت‌راس‌ػثر‌اىا‌والط‌آ‌تعظ‌زفغ

.زیس‌راس‌آسػ‌زرعتی‌ت‌تیج

شبک عصبی99

تزذی‌ؾىالت‌‌اغ

‌‌ت‌kohonen‌آسػ‌لا‌ؾى‌ای‌رفغ‌تزای•‌ی :ی‌تایس‌تثز‌سیز‌ؽی

‌‌ؽس‌اجا‌زرعتی‌ت‌والط‌تسی‌و‌فرتی‌زر•.ی‌ؽز‌اجا‌لث‌اس‌آسػ‌تاؽس،

‌ی‌اس‌‌ؽس‌اتراب‌سیزوالط‌ز،‌• ‌‌آسؽی‌‌ی‌ت‌والط‌شزیه‌تزی‌‌‌ؽس‌زر ‌‌آسؽی‌‌‌‌LVQ2حاف‌اریت‌.ؽس‌ذاس‌شزیه‌آ‌ت.زارز‌ا

شبک عصبی100

LVQ2

ثا

شبک عصبی101

P = [-3 -2 -2 0 0 0 0 +2 +2 +3;

0 +1 -1 +2 +1 -1 -2 +1 -1 0];

C = [1 1 1 2 2 2 2 1 1 1];

T = ind2vec(C);

colormap(hsv);

plotvec(P,C)

title('Input Vectors');

xlabel('P(1)');

ylabel('P(2)');

net = newlvq(minmax(P),4,[.6 .4],0.1);

hold on

W1 = net.IW{1};

plot(W1(1,1),W1(1,2),'ow')

title('Input/Weight Vectors');

xlabel('P(1), W(1)');

ylabel('P(2), W(3)');

lvqnet(hiddenSize,lvqLR,lvqLF)

‌ی‌ثا ازا

شبک عصبی102

net.trainParam.epochs=150;

net=train(net,P,T);

cla;

plotvec(P,C);

hold on;

plotvec(net.IW{1}',vec2ind(net.LW{2}),'o');

W1 = net.IW{1};

hold on;

voronoi(W1(:,1),W1(:,2))

p = [0.2; 1];

a = vec2ind(sim(net,p))