8/13/2019 Us 5422982

1/12

. US005422982AUlllted States P a t en t [ 1 9 ] [ 1 1 ] P a t e n t N u m b e r : 5 , 4 2 2 , 9 8 2P e r n i s z [ 4 5 ] D a t e o f P a t e n t : J u n . 6 , 1 9 9 5[ 5 4 ] NEURAL NETWORKS CONTAININGVARIABLE RESISTORS AS SYNAPSES OTHER PUBLICATIONS

B u l l o t e t a l . , P h y s i c a S t a t u s S o l i d i , ( a ) 7 1 , Kl-K4[ 7 5 ] Inventor: Udo C. Pernisz, Mi dlan d, M ich . ( 1 9 3 2 ) _ i

_ . _ _ Ansari e t a l . , Journal of Physics, 2 0 , (1987), pp.[ 7 3 ] A s s 1 g n e e : Dow C o r n m g C o r p o r a t i o n , M i d l a n d , 1 0 6 3 4 0 6 6M l c h - Ramesham e t a l . , NASA ech r i e f s , D e c . 1 9 8 9 , p . 2 8 .

. Morgan e t a l . , Thin S o l i d F i l m s , 1 5 ( 1 9 7 3 ) p p . 1 2 3 - 1 3 1 .[ 2 1 ] APPL N 55 S i m m o n s , H a n d b o o k o f T h i n F i l m T e c h n o l o g y , C h a p22 F i l d : _ t e r 14 (1970) p p . 14-38 t o 1 4 - 4 3 . _[ 1 e J a n 6 1 9 9 3 A l - I s m a i l e t a l . , J o u r n a l o f M a t e r i a l S c i e n c e , 2 0 ( 1 9 8 5 )

_ _ pp. 2186-2192.R e l a t e d U - S - A n n h c a h o n D a t a Morgan e t a l . , T h i n S o l i d F i l m s , 2 0 , ( 1 9 7 4 ) , p p . s 7 - s 9 .[ 6 3 ] C o n t i n u a t i o n - i m p a r t o f S e r . N o . 9 1 5 , 5 7 2 , J u l . 2 0 , 1 9 9 2 , B o e 1 1 6 e t 9 1 - , A p p l i e d S u r f a c e 5 6 1 6 1 1 6 9 , 4 6 , ( 1 9 9 0 ) P P

P a t . No. 5 , 2 8 3 , 5 4 5 , which i s a c o n t i n u a t i o n - i n - p a r t o f 200-205S e r . N o . 6 9 4 , 7 2 1 , May , 1 9 9 1 , P a t . N o . 5 , 3 1 2 , 6 8 4 . K l e i n , J o u r n a l o f A p p l i e d P h y s i c s , v o l . 4 0 , No. 7 , J u n .I n 0 1 6 G06F 1 5 / 1 8 6 1 1C 1 1 s o ( 1 9 6 9 ) p p ' 2 7 2 8 _ 2 7 4 0 '51 t. . . . . . . . . . . . . . . . . . . . . . . ' ;[ 1 HOIL 2 9 / / 7 8 P r i m a r y E x a m i n e r - R o b e r t W. Downs

[ 5 2 ] U S . ( : 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 9 5 / 2 4 ; 3 2 6 / 3 5 1 4mm ) A g e n t 0 FimRger 1 3 - Gbrgg[ 5 8 ] F i e l d o f S e a r c h . . . . . . . . . . . . . . . . . . . . 3 0 7 / 2 0 1 ; 3 9 5 / 2 4 , 2 5 ; [ 5 7 ] ABSTRACT

364/807 A y n t h e t i c n e u r a l network having a p l u r a l i t y of neuro[ 5 6 ] R e f e r e n c e s C i t e d n a l e l e m e n t s ar r a n g e d i n a n i n p u t l a y e r , a n o u t p u t l a y e r ,a n d a h i d d e n l a y e r b e t w e e n t h e i n p u t l a y e r a n d t h eU s PATENT DOCUMENTS o u t p u t l a y e r . The n e t w o r k h a s a ? r s t p l u r a l i t y o f s y n a p

3 , 1 4 9 , 3 9 8 9 / 1 9 6 4 S p r a g u e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 9 / 2 5 t i c weighting e l e m e n t s i n t e r c o n n e c t i n g t h e n e u r o n a l3 , 2 7 1 , 5 9 1 9 / 1 9 6 6 , O v s h i n s k y . . . . 3 0 7 / 8 8 e l e m e n t s of t h e i n p u t l a y e r with t h e n e u r o n a l e l e m e n t s3 , 9 4 3 , 5 5 4 3 / 1 9 7 6 R u s s e l l e t a l - a 3 5 7 / 3 4 o f t h e hidden l a y e r , and a second p l u r a l i t y of s y n a p t i c

1 8 ; 2 . 2 8 3 1 1 1 0 - - - - - - - - w e i g h t i n g e l e m e n t s i n t e r c o n n e c t i n g t h e n e u r o n a l e l e, , 1 1 ' 1 oven . . . . . . t s a1 1 t f4 , 7 5 6 , 9 7 7 7 / 1 9 8 8 H a l u s k a . . . . . . . . . . . . . . 4 2 8 / 7 0 4 men ofthe hdde n l a y e r with the 5mm 6 em 4 8 3 9 7 0 0 6 / 1 9 8 9 Ramesham e t a l 3 5 7 / 2 t h e o u t p u t l a y e r . The improvement i n v o l v e s t h e synap4 9 4 5 2 5 7 7 / 1 9 9 0 Manocco m 3 0 7 / 2 0 1 t i c w e i g h t i n g e l e m e n t s i n t h e s y n t h e t i c n e u r a l network5 : 1 5 1 : 3 8 4 9 / 1 9 9 2 W i l l i a m s . . . . . . . . . . . 437/170 being i n the form f a s i l i c o n d i m d d e ?lm der i v ed fmm5,172,204 12/1992 Hartstein . . . . . . . . . . . . 307/201 a hydrogen Silsesquioxane r e s i n - Such a Silicvn dioxide5 , 2 9 3 , 3 3 5 3 / 1 9 9 4 P e r n i s z e t a l . . . . . . . . . . . . . . . . . . . . . . . 3 6 5 / 1 4 8 ?lm s characterized by 11W urve which i n c l u d e s both

FOREIGN PATENTDOCUMENTSWO9000826 l / 1 9 9 0 WIPO

l i n e a r a n d n o n - l i n e a r r e g i o n s .1 3 C l a i m s , 5 D r a w i n g S h e e t s

\\I

I I I////////////\40

JCURRENT i 12 P 3ON

4 1 < 1

I l OFF I IVI I I l7I X Y 5 . 0 2 1 0 . 0

, VOLTAGEI l

8/13/2019 Us 5422982

2/12

US. P a t e n t J u n e 6 , 1 9 9 5 S h e e t 1 o f 5 5,422,982

1 0 204 / / / 3 OL k \ \ \ < \ \ a

8/13/2019 Us 5422982

3/12

US. P a t e n t J u n e 6 , 1 9 9 5 S h e e t 2 o f 5 5,422,982

w u _ m o0H H E G O J1O

PULSE VOLTAGE I N VOLTF I G . 4

3 ..fm

p1 |

F I G . 5

8/13/2019 Us 5422982

4/12

U S . P a t e n t J u n e 6 , 1 9 9 5 S h e e t 3 o f 5 5 , 4 2 2 , 9 8 2

7 0L A Y E R k 7 >

LAYER k

8/13/2019 Us 5422982

5/12

US. P a t e n t J u n e 6 , 1 9 9 5 S h e e t 4 o f 5 5,422,982

WEIGHTSOUTPUT

INPUTS

F I G . 8 AOUTPUT

1

O I lTHRESHOLD INPUT9>0

F I G . 8 BOUTPUT

-- 1

THRESHOLDO=O

I N P U T-~ -1

8/13/2019 Us 5422982

6/12

US. P a t e n t J u n e 6 , 1 9 9 5 S h e e t 5 o f 5 5,422,982

1 1 0 ? 0 5 N E U R O N S C) @ 9 0 0

ADAPTIVE SYNAPTIC WEIGHT N106CONTROL ( S C H E M A T I C ) 1 0 607 o \ Q \ \ Q ( \ I / \ 6 1 0 2

g l/

g Q \ < > \ \ Q \ r \ o E| - l/ DE \\\\\\T\ 0) 0 f l/1 0 4 8 0FIG. 9

90A1 0 0A INPUT LAYER 108 OUTPUT LAYER3 NEURONS ONE 2 NEURONS 003H I D D E N { J /LAYER

8/13/2019 Us 5422982

7/12

5 , 4 2 2 , 9 8 21NEURAL NETWORKS CONTAINING ARIABLERESISTORS AS SYNAPSES

T h i s a p p l i c a t i o n i s a c o n t i n u a t i o n - i n - p a r t o f U . S . S e r .No. 0 7 / 9 1 5 , 5 7 2 , ? l e d J u l . 2 0 , 1 9 9 2 ; n o w U . S . P a t . N o .5 , 2 8 3 , 5 4 5 , which i s a c o n t i n u a t i o n - i n - p a r t o f U . S . S e r .N o . O 7 / 6 9 4 , 7 2 1 , ? l e d Ma y 2 , 1 9 9 1 , now U . S . P a t . N o .5 , 3 1 2 , 6 8 4 .

BACKGROUND OF THE INVENTIONT h i s i n v e n t i o n i s d i r e c t e d t o t h r e s h o l d s w i t c h i n g

d e v i c e s which e x h i b i t n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e(NDR), a n d t o c e r t a i n c e r a m i c t h r e s h o l d s w i t c h i n gd e v i c e s which a r e u s e f u l i n s y n t h e t i c n e u r a l n e t w o r k s .

The b r a i n d i s t r i b u t e s i t s p r o c e s s i n g t a s k s among b i ll i o n s o f r e l a t i v e l y u n i n t e l l i g e n t n e r v e c e l l s c a l l e d n e ur o n s . Neural networks a r e a t t e m p t s t o s i m u l a t e b r a i n l i k ef u n c t i o n s on c o n v e n t i o n a l c o m p u t e r s . T h u s , a s y nt h e t i c neural ne t w o r i s the s t r u c t u r e of a machinemodeled a f t e r t h e b r a i n b u t n o t t h e a c t i o n s t h a t i t p e rf o r m s . Such n e t w o r k s s e e k t o mimic t h e p r o p e r t i e s o fn e u r o n s w i t h e l e c t r o n i c c o m p o n e n t s .A y n a p s e i s t h e c o n t a c t p o i n t between tw o n e u r o n s .A i m p l e network i n c l u d e s a number of such c o n t a c tp o i n t s o r c o n n e c t i o n s between an i n p u t and an o u t p u t .V a l u e s o r w e i g h t s a r e a s s i g n e d t o t h e s e c o n n e c t i o n s .A d d i t i o n a l l a y e r s can b e a d d e d t o t h e network betweent h e i n p u t a n d . t h e o u t p u t i n t h e f o r m o f h i d d e n u n i t s .

I t h a s been found t h a t a d e v i c e i n c l u d i n g a s i l i c o nd i o x i d e t h i n ?lm a n d e l e c t r o d e s , i s c a p a b l e o f f u n c t i o ni n g a s an e l e c t r i c a l component i n t h e c o n s t r u c t i o n o fs u c h a s y n t h e t i c n e u r a l n e t w o r k . The d e v i c e i s u t i l i z e di n t h e network a s a v a r i a b l e r e s i s t i v e e l e m e n t , and i n t h i sc a p a c i t y , t h e d e v i c e o p e r a t e s a s a s y n a p s e w i t hw e i g h t i n g f a c t o r s b e t w e e n a d j a c e n t l a y e r s o f n e u r o n a lp r o c e s s i n g n o d e s .

I n t h i s a p p l i c a t i o n o f t h e d e v i c e , t h e r e s i s t a n c e o fe a c h t w o - t e r m i n a l d e v i c e c a n b e a d j u s t e d by a p p l y i n g av o l t a ge p u l s e o f s u f f i c i e n t m a g n i t u d e t o t h e e l e c t r o d e so f t h e d e v i c e , i n a c c o r d a n c e w i t h a b a c k - p r o p a g a t i o na l g o r i t h m o r o t h e r r e p r e s e n t a t i o n s o f t h e i n t e r n al l e a r ni n g p r o c e s s which a r e u s e d t o c o n t r o l t h e l e a r n i n g f u n ct i o n of a n e u r a l network.

D e v i c e s which e x h i b i t t h r e s h o l d s w i t c h i n g , a n dm e t a l o x i d e d e v i c e s which e x h i b i t t h r e s h o l d s w i t c h i n gw i t h n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e (NDR) a r e knowni n t h e a r t . The s w i t c h i n g a n d n e g a t i v e d i f f e r e n t i a l r e s i st a n c e (NDR) c h a r a c t e r i s t i c s o f s i l i c o n o x i d e ?lms h a sa l s o b e e n d e s c r i b e d i n t h e l i t e r a t u r e .

The u s e o f t h i n ?lm s i l i c a c o a t i n g s d e r i v e d f r o m hyd r o g e n s i l s e s q u i o x a n e r e s i n t o p r o v i d e p r o t e c t i o n a n de l e c t r i c a l i n s u l a t i o n i s n o t new, b u t t h e u s e of t h o s ec o a t i n g s t o form s w i t c h i n g d e v i c e s which a r e u s e f u l a ss y n a p s e s i s b e l i e v e d t o be n o v e l .

C o a t i n g s a n d s w i t c h i n g d e v i c e s f o r m e d b y d e p o s i t i n ga t h i n h y d r o g e n s i l s e s q u i o x a n e d e r i v e d s i l i c o n d i o x i d e?lm between a t l e a s t t w o e l e c t r o d e s and a p p l y i n g av o l t a g e a b o v e a th r e s h o l d v o l t a g e a c r o s s t h e e l e c t r o d e s ,a r e d e s c r i b e d i n d e t a i l i n a p r i o r p a t e n t a p p l i c a t i o n U . S .S e r . N o . 0 7 / 6 9 4 , 7 2 1 ? l e d Ma y 2 , 1 9 9 1 , a n d e n t i t l e d T h r e s h o l d S w i t c h i n g D e v i c e s , n o w U . S . P a t . N o .5 , 3 1 2 , 6 8 4 . The p r e s e n t i n v e n t i o n i n v o l v e s t h e s e a n ds i m i l a r d e v i c e s a n d t h e u t i l i t y o f s u c h v a r i a b l e r e s i s t o r sa s s y n a p s e s i n n e u r a l networks.

1 5

2 0

2 5

3 5

40

45

5 0

5 5

6 5

2SUMMARY OF THE INVENTION

The p r e s e n t i n v e n t i o n r e l a t e s g e n e r a l l y t o a t h r e s h o l ds w i tc h i n g d e v i c e h a v i n g n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e(NDR) w h i c h s made by d e p o s i t i n g a n o n - d e n s e s i l i c o nd i o x i d e ? l m d e r i v e d f r o m h y d r o g e n s i l s e s q u i o x a n e r e s i nbetween a t l e a s t t wo e l e c t r o d e s . A o l t a g e above ac e r t a i n t h r e s h o l d v o l t a g e i s t h e n a p p l i e d a c r o s s t h ee l e c t r o d e s t o c o m p l e t e f o r m a t i o n o f t h e d e v i c e .The d e v i c e formed i n t h i s manner s c h a r a c t e r i z e d i nt h a t ( i ) t h e c o n d u c t i v e s t a t e o f t h e t h i n ?lm can be conv e r t e d t o t h e r e s i s t i v e s t a t e w i t h m em o r y by d e c r e a s i n gt h e a p p l i e d v o l t a g e f r o m a s u f ? c i e n t l y h i g h v a l u e t o av a l u e b e l o w t h e t h r e s h o l d v o l t a g e a t a s u f ? c i e n t l y h i g hr a t e , ( i i ) i t can be converted from a r e s i s t i v e s t a t e t o ac o n d u c t i v e s t a t e w i t h memory by t h e a p p l i c a t i o n o f at h r e s h o l d v o l t a g e , ( i i i ) t h e a p p l i c a t i o n o f v o l t a g e a b o v ea t h r e s h o l d v o l t a g e r e s u l t s i n t h e ?lm e x h i b i t i n g s t a b l en e g a t i v e d i f f e r e n t i a l r e s i s t a n c e , and ( i v ) t h e c o n d u c t i v ea n d r e s i s t i v e s t a t e s have d i f f e r e n t c a p a c i t a n c e v a l u e sa s s o c i a t e d t h e r e w i t h .I t h a s b e e n f o u n d t h a t b e c a u s e o f t h e s e c h a r a c t e r i st i c s , t h e d e v i c e s o f t h e p r e s e n t i n v e n t i o n a r e c a p a b l e o ff u n c t i o n i n g a s s y n a p t i c c o n n e c t i o n s i n s y n t h e t i c n e u r on a l n e t w o r k s a n d s y s t e m s . The s y n a p t i c f u n c t i o n i sp r o v i d e d b y t h e v o l t a g e c o n t r o l l e d r e s i s t a n c e o f t h ed e v i c e . Two i m e n s i o n a l a r r a y s o f t h e d e v i c e s c a n bei n t e r c o n n e c t e d and u s e d a s v a r i a b l e w e i g h t s i n a backp r o p a g a t i o n n e t w o r k .

T h e s e a n d o t h e r f e a t u r e s , o b j e c t s , a n d a d v a n t a g e s , o ft h e p r e s e n t i n v e n t i o n w i l l become more a p p a r e n t froma c o n s i d e r a t i o n o f t h e d e t a i l e d d e s c r i p t i o n o f t h e i n v e nt i o n .

BRIEF DESCRIPTION OF THE DRAWINGSFIG. 1 i s p i c t o r i a l r e p r e s e n t a t i o n and a s i d e view o f a

c r o s s s e c t i o n of a sandwich d e v i c e according t o t h ep r e s e n t i n v e n t i o n . FIG. 1 shows t h e d e v i c e ' i n i t s s i mp l e s t f o r m .

FIG. 2 i s a g r a p h i c a l r e p r e s e n t a t i o n i n t h e form o f ajV p l o t o f t h e c u r r e n t d e n s i t y v e r s u s t h e v o l t a g e o f ad e v i c e o f t h e p r e s e n t i n v e n t i o n i l l u s t r a t i n g t h e t h r e s h o l ds w i t c h i n g b e h a v i o r o f t h e d e v i c e . C u r r e n t d e n s i t y j i sde?ned a s t h e c u r r e n t i n ampere u n i t s d i v i d e d by t h es u r f a c e a r e a of t h e d e v i c e i n s q u a r e c e n t i m e t e r s .

FIG. 3 i s g r a p h i c a l r e p r e s e n t a t i o n o f a p o r t i o n o f t h ejV p l o t o f FIG. 2 i n more d e t a i l .FIG. 4 i s a g r a p h i c a l r e p r e s e n t a t i o n i n a s e m i

l o g a r i t h m i c p o t o f t h e p u l s e v o l t a g e v e r s u s r e s i s t a n c eo f a d e v i c e o f t h e p r e s e n t i n v e n t i o n t o d e p i c t g r a p h ic a l l y t h e f u n c t i o n a l r e l a t i o n s h i p b e t w e e n t h e p u l s e v o l ta g e and t h e r e s i s t a n c e .

FIG. 5 i s a s c h e m a t i c w i r i n g diagram o f a d e v i c ea c c o r d i n g t o t h e p r e s e n t i n v e n t i o n i n a t e s t c i r c u i t f o rm e a s u r i n g a n d c h a n g i n g t h e r e s i s t a n c e o f t h e d e v i c e .

FIGS. 6A and 6B a r e t o p views of a p o r t i o n of at w o - d i m e n s i o n a l m a t r i x o f i n t e r c o n n e c t i o n w e i g h t su t i l i z i n g t h e d e v i c e o f F I G . 1 .

FIG. 7 i s a f u n c t i o n a l r e p r e s e n t a t i o n o f t h e m a t r i x o fFIG. 6B i n i t s i n t e r c o n n e c t i o n w i t h n e u r o n s .

FIG. 8A s an e l e c t r o n i c m o d e l of a neuron.FIGS. 8 B and 8 C a r e g r a p h i c a l r e p r e s e n t a t i o n s o ft r a n s f e r f u n c t i o n s of t h e neuron shown i n FIG. 8A.

FIG. 9 i s a f u n c t i o n a l r e p r e s e n t a t i o n o f a Hop?eldn e u r a l n e t w o r k i n c l u d i n g t h e d e v i c e s o f t h e p r e s e n ti n v e n t i o n .

8/13/2019 Us 5422982

8/12

5 , 4 2 2 , 9 8 23FIG. 1 0 i s a f u n c t i o n al r e p r e s e n t a t i o n o f a f e e d f o rward n e u r a l n e t w o r k i n g a c c o r d i n g t o t h e p r e s e n t i n v e nt i o n .

DETAILED DESCRIPTION OF THEINVENTIONThe p r e s e n t i n v e n t i o n i s b a s e d on t h e d i s c o v e r y t h a tt h i n ? l m s o f s i l i c o n d i o x i d e d e r i v e d f r o m h y d r o g e ns i l s e s q u i o x a n e r e s i n e x h i b i t n o v e l t h r e s h o l d s w i t c h i n g

and n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e (NDR), a s W e l l a ss t a b l e conductive and r e s i s t i v e s t a t e s .A a t r i x o f v a r i a b l e r e s i s t o r s i s formed from a s i n g l el a y e r of a s i l i c a t h i n ?lm sandwiched between t w o a rr a y s o f m u t u a l l y p e r p e n d i c u l a r m e t a l s t r i p e s w h i c hs e r v e a s e l e c t r o d e s t o d e v i c e s a t t h e i r i n t e r s e c t i o n s .T h e s e d e v i c e s e x h i b i t a n o n - l i n e a r c u r r e n t - v o l t a g e c h a ra c t e r i s t i c which makes i t p o s s i b l e t o s w i t c h between ah i g h l y r e s i s t i v e OFF t a t e and a m o r e conductive ONs t a t e and a l s o t o a t t a i n any v a l u e between t h e s e ext r e m e s . The symmetry o f t h e i r c h a r a c te r i s t i c s makes i tp o s s i b l e f o r t h e s e d e v i c e s t o b e u s e d i n b i p o l a r n e tw o r k s .

FIG. l - i s a c r o s s - s e c t i o n a l view o f a r e p r e s e n t a t i v et h r e s h o l d s w i t c h i n g d e v i c e o f t h i s i n v e n t i o n w h e r e i ne l e c t r o d e s 1 0 and 2 0 a r e s e p a r a t e d by t h e t h i n ?lm 3 0 .Although FIG. 1 e x e m p l i ? e s a s a n d w i c h e l e c t r o d e con? g u r a t i o n i n c l u d i n g a g l a s s s u b s t r a t e 4 0 , t h i s a r r a n g ement i s n o t c r i t i c a l a n d any c o n ? g u r a t i o n a p p r o p r i a t ef o r a g i v e n d e v i c e a p p l i c a t i o n m a y b e u s e d . For e xamp l e , s u c h a r r a n g e m e n t s a s c o p l a n a r , t r a n s p l a n a r , c r o s s e dg r i d a r r a y s , a n d t w o - d i m e n s i o n a l c i r c u l a r d o t p a t t e r n sm a y be u s e d .The s h a p e o f t h e e l e c t r o d e s 1 0 a n d 2 0 a n d t h e m a t e r ia l s f r o m which t h e y a r e c o n s t r u c t e d m a y b e a n y s h a p eknown i n t h e a r t . The e l e c t r o d e s can be m a d e of anye l e c t r i c a l l y c o n d u c t i v e o r s e m i c o n d u c t i v e m a t e r i a l s u c ha s g o l d , s i l v e r , a l u m i n u m , p l a t i n u m , c o p p e r , g a l l i u ma r s e n i d e , n i c k e l , a n d s i l i c o n . L i k e w i s e , t h e e l e c t r o d e scan be used i n any shape or form d e s i r e d , such a s a wireo r a c o n v e n t i o n a l l e a d , p r o v i d e d t h e y have a t l e a s tenough d e v i c e a r e a t o e n a b l e t h e d e s i r e d c u r r e n t ?ow.P a r t i c u l a r l y p r e f e r r e d h e r e i n i s t h e u s e o f g o l d e l e ct r o d e s .

C o n t a c t between t h e e l e c t r o d e s 1 0 and 2 0 and t h et h i n ?lm 3 0 c a n b e e s t a b l i s h e d by t e c h n i q u e s w e l lk n o wn i n t h e a r t . The e l e c t r o d e s m a y be formed on t h et h i n ?lm b y e v a p o r a t i ng o r s p u t t e r i n g t h e a p p r o p r i a t ee l e c t r o d e m a t e r i a l i n vacuum. A l t e r n a t i v e l y , t h e t h i n?lm 3 0 ma y b e d e p o s i t e d d i r e c t l y o n t o p r e f o r m e d e l e ct r o d e s t o c r e a t e t h e a p p r o p r i a t e c o n t a c t , o r t h e p r eformed e l e c t r o d e s m a y be a d h e r e d t o t h e t h i n ?lm byc o n v e n t i o n a l t e c h n i q u e s .

The t h i n ?lms 3 0 a r e s i l i c o n d i o x i d e d e r i v e d fromh y d r o g e n s i l s e s q u i o x a n e r e s i n . G e n e r a l l y , t h e s e ? l m s

2 0

2 5

30

3 5

4t a n c e v a l u e s a s lo w a s one ohm while o t h e r s e x h i b i tv a l u e s above t e n megohms. Those w i t h v e r y low r e s i st a n c e o f t e n have s h o r t s between t h e e l e c t r o d e s due t op i n h o l e s a n d o t h e r ? a w s . I f p r e s e n t , s h o r t s may b eblown o u t by a p p l y i n g a v o l t a g e s u f f i c i e n t l y h i g h o fa b o u t l 0 - 2 0 v o l t f r o m . a l ow impedance v o l t a g e s o u r c et o v a p o r i z e t h e e l e c t r o d e a r o u n d t h e s h o r t .A o l t a g e i s t h e n s l o w l y a p p l i e d a c r o s s t h e ?lm o f t h ed e v i c e and i n c r e a s e d u n t i l a t h r e s h o l d v o l t a g e i sr e a c h e d , a t which p o i n t , t h e r e s i s t a n c e o f t h e d e v i c es u d d e n l y f a l l s . U p on s u c h a v o l t a g e a p p l i c a t i o n , t h ed e v i c e i s c o m p l e t e l y formed a n d t w i l l r e m a i n i n i t s l o w _r e s i s t a n c e s t a t e .To o b t a i n l o w e r t h r e s h o l d v o l t a g e s a n d more r e p r od u c i b l e r e s u l t s , t h e d e v i c e s o f t h e i n v e n t i o n may b ep l a c e d i n a n o n - o x i d i z i n g e n v i r o n m e n t . E x a m p l e s o fs u i t a b l e e n v i r o n m e n t s i n c l u d e n i t r o g e n , a r g o n , h e l i u m ,a n d c a r b o n d i o x i d e . A l t e r n a t i v e l y , h o w e v e r , e s t a b l i s hi n g a vacuum or e n c a p s u l a t i n g t h e d e v i c e can a l s o prov i d e t h e d e s i r e d n o n - o x i d i z i n g e n v i r o n m e n t .The f o l l o w i n g d e s c r i b e s t h e c h a r a c t e r i s t i c s o f a t y p ic a l d e v i c e formed i n t h e above m a n n e r , and t h e p r o c ed u r e s t o s w i t c h t h e d e v i c e from t s OFF t a t e t o a n ONs t a t e a n d b a c k a g a i n . A y p i c a l d e v i c e i n c l u d e s a s i l i c at h i n ?lm 30 with a t h i c k n e s s o f a b o u t 200 nanometer anda d e v i c e a r e a o f about 0 . 1 cm2 o r l e s s . A o l t a g e i sa p p l i e d a c r o s s t h e e l e c t r o d e s 1 0 and 2 0 , a n d t h e c u r r e n tt h r o u g h t h e d e v i c e a n d t h e v o l t a g e a c r o s s t h e d e v i c ea r e m e a s u r e d . The c u r r e n t , m e a s u r e d i n ampere ( A ) i sc o n v e r t e d t o a c u r r e n t d e n s i t y and r e p o r t e d a s A/cmz.The r e s u l t s a r e p l o t t e d i n a d i a g r a m o f c u r r e n t d e n s i t yv e r s u s v o l t a g e r e f e r r e d t o a s a jV c u r v e . Th e v a l u e s s e tf o r t h h e r e i n a r e o n l y r e p r e s e n t a t i v e o f a t y p i c a l d e v i c eand a r e not meant t o be l i m i t i n g .

T h r e s h o l d s w i t c h i n g , a s d i s p l a y e d b y t h i s d e v i c e , i ss i m i l a r t o t h a t known i n t h e a r t f o r o t h e r t h i n f i l m s . Asa v o l t a g e l e s s t h a n a t h r e s h o l d v o l t a g e o f a b o u t t h r e ev o l t s i s a p p l i e d t o an e l e c t r o d e , t h e t h i n ?lm e x h i b i t s ah i g h i m p e d a n c e a s w o u l d n o r m a l l y b e a s s o c i a t e d w i t ha n i n s u l a t o r . The e s i s t i v i t y o f t h e d e v i c e i n t h i s OFFs t a t e i s g e n e r a l l y i n t h e range o f between about 1 0 8 ohm

4 5

50

m a y be o f any t h i c k n e s s d e s i r e d . Those i n t h e r a n g e o f 5 5between a b o u t 5 0 and 5 , 0 0 0 nanometer a r e p r e f e r r e dw i t h t h o s e i n t h e r a n g e o f between a b o u t 1 0 0 and 6 0 0n a n o m e t e r b e i n g e s p e c i a l l y p r e f e r r e d . S u c h t h i n ? l m s30 ma y be formed by c o a t i n g a s u b s t r a t e w i t h a s o l u t i o nc o m p r i s i n g a s o l v e n t a n d h y d r o g e n s i l s e s q u i o x a n e r e s i n ,e v a p o r a t i n g t h e s o l v e n t t o f o r m a p r e c e r a m i c c o a t i n g ,a n d t h e n c o n v e r t i n g t h e p r e c e r a m i c c o a t i n g t o a t h i n? l m . IThe t h i n ?lm 3 0 i s formed w i t h t h e n e c e s s a r y e l e ct r o d e s 1 0 and 20 a r r a n g e d s u c h t h a t a v o l t a g e c a n be

- a p p l i e d a c r o s s t h e t h i n f i l m . A e v i c e p r e p a r e d i n t h i smanner i n i t i a l l y e x h i b i t s an unde?ned, n o n - s p e c i ? c r es i s t a n c e . For i n s t a n c e , s ome d e v i c e s m a y e x h i b i t r e s i s

6 0

6 5

cm nd a b o u t 1 0 1 1 ohm cm. W h e n t h e a p p l i e d v o l t a g e i sr a i s e d a b o v e t h e t h r e s h o l d v o l t a g e h o w e v e r , t h e t h i n?lm s r a p i d l y c o n v e r t e d t o a s t a t e o f low e s i s t i v i t y , andt h e d e v i c e s u p p o r t s a h i g h c u r r e n t d e n s i t y . The e s i s t i vi t y i n t h i s ON s t a t e i s t y p i c a l l y i n t h e r a n g e o f b etween about 1 0 4 ohm cm nd about 1 0 7 ohm m.

T h i s t h r e s h o l d s w i t c h i n g b e h a v i o r i s g r a p h i c a l l y d i sp l a y e d i n FIG. 2 . L i n e 1 shows t h a t when t h e d e v i c e i si n t h e OFF t a t e , t h e c u r r e n t d e n s i t y i n c r e a s e s o n l ys l i g h t l y a s t h e a p p l i e d v o l t a g e i s i n c r e a s e d . When t h ea p p l i e d v o l t a g e r e a c h e s t h e t h r e s h o l d v o l t a g e x t h ed e v i c e r a p i d l y s w i t c h e s from t h e OFF t a t e t o t h e ONs t a t e w h e r e i n t h e c u r r e n t d e n s i t y i s s u d d e n l y i n c r e a s e dby two o r t h r e e o r d e r s o f magnitude o r more shown byt h e d o t t e d l i n e . I t i s e s s e n t i a l f o r t h e t r a n s i t i o n t o t h e ONs t a t e t o o c c u r a s d e p i c t e d s c h e m a t i c a l l y i n F I G . . 2 t h a tt h e a m b i e n t o f t h e d e v i c e be f r e e o f oxygen o r o t h e ro x i d i z i n g g a s e o u s s p e c i e s . T h i s c o n d i t i o n p e r t a i n st h r o u g h o u t t h e r e m a i n d e r o f t h e d i s c u s s i o n o f t h e r e s i st i v e p r o p e r t i e s o f d e v i c e s a c c o r d i n g t o t h i s i n v e n t i o n .As can be s e e n i n FIGS. 2 and 3 , jV c u r v e s f o r suchd e v i c e s e x h i b i t b o t h l i n e a r a n d n o n - l i n e a r componentsd e p e n d e n t upon t h e s t a t e o f t h e d e v i c e . Once n t h e ONs t a t e , t h e jV t r a c i n g f o l l o w s l i n e s 2 , 3 a n d 4 w h e r e i n t h ec u r r e n t r i s e s s t e e p l y w i t h v o l t a g e i n t h e ? r s t q u a d r a n t a sshown by l i n e 2 a n d s y m m e t r i c a l l y t o i t i n t h e t h i r dq u a d r a n t u n t i l i t r e a c h e s a m a x i m um c u r r e n t p a t a

8/13/2019 Us 5422982

9/12

5 , 4 2 2 , 9 8 25v o l t a g e y . I n c r e a s i n g t h e v o l t a g e b e y o n d t h i s v a l u er e s u l t s i n a d e c r e a s e i n c u r r e n t d e n s i t y u n t i l a m inimum q i s r e a c h e d a t v o l t a g e 2 , a t which t i m e t h e d e v i c ee x h i b i t s a v o l t a g e - c o n t r o l l e d n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e , o r NDR s shown by l i n e 3 . T y p i c a l l y t h e v a l u e sf o r y r a n g e between 4 - 6 V nd f o r 2 between 8 - 1 0V . At v o l t a g e s a b o v e 2 , t h e jV c u r v e s h o w s t h e h i g hr e s i s t i v i t y c h a r a c t e r i s t i c o f a n i n s u l a t o r which i s showna s l i n e 4 .

One a d v a n t a g e o f a d e v i c e o f h i s i n v e n t i o n i s t h e f a c tt h a t t h e jV c u r v e i s wide and s t a b l e i n t h e NDRr e g i o n , such t h a t no u n c o n t r o l l a b l e t r a n s i t i o n s occur a st h e a p p l i e d v o l t a g e s c h a n g e d , a l t h o u g h t h e jV c u r v e sn o i s i e r i n t h e NDR h a n i n t h e low v o l t a g e p o r t i o nshown a s l i n e 2 . T h u s , any p o i n t on t h e jV curve c a n bei s o l a t e d a n d m a i n t a i n e d , p r o v i d e d t h e s o u r c e i m p e d a n c eo f t h e v o l t a g e s u p p l y i s s m a l l e r b y m a g n i t u d e t h a n t h en e g a t i v e d i f f e r e n t i a l r e s i s t a n c e o f t h e d e v i c e a t t h a tp o i n t .

The jV curve o f t h e d e v i c e i n i t s ON t a t e can bec o m p l e t e l y t r a c e d o u t f o r b o t h i n c r e a s i n g a n d d e c r e a si n g v o l t a g e s , t h r o u g h t h e m a x i m u m , a t a s u f f i c i e n t l yl o w r a t e o f c h a n g e o f t h e a p p l i e d v o l t a g e . I n p a r t i c u l a r ,t h e c u r v e i s c o n t i n u o u s t h r o u g h t h e o r i g i n which means( i ) t h e r e i s no h o l d i n g c u r r e n t n e c e s s a r y t o m a i n t a i n t h eON t a t e , and i i ) t h e d e v i c e h a s a memory o f t h e ONs t a t e even w h en no v o l t a g e i s a p p l i e d .To c o n v e r t t h e d e v i c e from t h e ON t a t e t o t h e OFFs t a t e r e q u i r e s t h a t t h e a p p l i e d v o l t a g e b e removed o rreduced t o a v a l u e o f about z e r o a t a s u f f i c i e n t l y high s l e w r a t e from a v o l t a g e above 2 . As shown i nF I G . 3 , t h e jV c u r v e o f t h e d e v i c e d o e s n o t go t h r o u g ht h e c u r r e n t p e a k p when t h e a p p l i e d v o l t a ge i s r a pi d l y l o w e r e d i n t h i s m a n n e r . R a t h e r , i t f o l l o w s a d i r e c tn e a r l y l i n e a r p a t h shown b y l i n e 5 . S l e w r a t e s f o r e f f ic i e n t l y s w i t c h i n g t h e d e v i c e OFF r e g r e a t e r t h a na b o u t one v o l t p e r m i l l i s e c o n d w i t h r a t e s g r e a t e r t h a na b o u t 1 0 0 0 V / m S b e i n g p r e f e r r e d . I t i s t o b e n o t e d t h a ta d e v i c e i n t h e ON t a t e m a y be t u r n e d OFF y a v o l ta g e p u l s e s t a r t i n g a t z e r o , p r o v i d e d t h e p u l s e v o l t a g e i sl a r g e r , o r a p p r o x i m at e l y e q u a l t o 2 w h e r e i n t h e p u l s er e a c h e s l i n e 4 , a n d t h e f a l l t i m e o f t h e p u l s e m e e t s t h es l e w r a t e r e q u i r e m e n t . T y p i c a l l y , a v o l t a g e o f t e n v o l t sf o r a d u r a t i o n of one microsecond o r l e s s i s a d e q u a t e .When h e d e v i c e i s t u r n e d OFF n t h e above m a n n e r ,i t h a s a h i g h r e s i s t a n c e , t y p i c a l l y t w o o r t h r e e o r d e r s o fm a g n i t u d e h i g h e r t h a n i t s r e s i s t a n c e i n t h e ON t a t e .

The r e s i s t a n c e ' c a n b e d e t e r m i n e d b y m e a s u r i n g t h e jVcurve i n t h e OFF t a t e over a s m a l l r a n g e o f t h e a p p l i e dv o l t a g e up t o t h e t h r e s h o l d v o l t a g e . The d e v i c e w i l lr e m a i n i n t h e OFF t a t e a s l o n g a s t h e a p p l i e d v o l t a g ed o e s n o t exceed t h e t h r e s h o l d v o l t a g e . Such a d e v i c e i nt h e OFF t a t e can be converted t o t h e ON t a t e a sd e s c r i b e d a b o v e .I t h a s b e e n d e t e r m i n e d t h a t t h e a p p l i c a t i o n o f v o l t a g ep u l s e s t h a t v a r y b e t w e e n t h e t h r e s h o l d v o l t a g e x i nFIG. 3 and t h e c u r r e n t minimum a t p o i n t q a t 2 v o l t s i n FIG. 3 r e s u l t s i n d e v i c e r e s i s t a n c e s r a n g i n gb e t w e e n t h e ~ f u l l y ON n d t h e f u l l y OFF t a t e .F I G . 4 d e p i c t s t h e f u n c t i o n a l d e p e n d e n c e o f t h e r e s i st a n c e o f t h e d e v i c e on t h e p u l s e v o l t a g e . The r e s i s t a n c ed a t a a r e p l o t t e d l o g a r i t h m i c a l l y ( b a s e 1 0 ) on t h e o r d in a t e a x i s . FIG. 4 shows t h a t t h e r e s i s t a n c e i n c r e a s e sw i t h i n c r e a s i n g p u l s e v o l t a g e , c o v e r i n g a c o n t i n u o u s

20

2 5

3 5

40

45

5 5

6 0

r a n g e o f r e s i s t a n c e v a l u e s o f mor e t h a n tw o o r d e r s o f 6 5m a g n i t u d e .The d e v i c e o f FIG. 1 can be p l a c e d i n an e l e c t r i c a l

c i r c u i t a s i l l u s t r a t e d i n FIG. 5 t o s h o w i t s f u n c t i o n a s a

6r e s i s t o r . The d e v i c e 21 i s connected t o a v a r i a b l e v o l tage source 22 with a c u r r e n t meter 23 wired i n s e r i e s .he current meter 23 can be a c a l i b r a t e d measurement

r e s i s t o r and a v o l t m e t e r t o measure t h e v o l t a g e d r o p . Av o l t m e t e r 24 connected a c r o s s t h e t w o t e r m i n a l s o f t h ed e v i c e m e a s u r e s t h e v o l t a g e a p p l i e d t o t h e d e v i c e .Th e v a r i a b l e v o l t a g e source 22 provides t w o f u n c -t i o n s . I t s e r v e s a s a v o l t a g e s o u r c e t o which t h e v a r i a b l er e s i s t o r i s connected t o o b t a i n a c u r r e n t according t ot h e d e v i c e r e s i s t a n c e a t v o l t a g e s below t h e t h r e s h o l dv o l t a g e o f t h e d e v i c e . I n t h i s m o d e , t h e jV c u r v e s o f t h er e s i s t o r a t i t s t w o extreme r e s i s t a n c e v a l u e s can be obt a i n e d .

The v o l t a g e source 22 a l s o s e r v e s a s t h e source f o rt h e p u l s e v o l t a g e s w i t h w h i c h t h e r e s i s t a n c e o f t h ev a r i a b l e r e s i s t o r d e v i c e can be a l t e r e d . D a t a p o i n t s canb e o b t a i n e d b y p u l s i n g t h e r e s i s t o r w i t h a v o l t a g e ( a bs c i s s a v a l u e s ) a n d m e a s u r i n g t h e c u r r e n t t h r o u g h t h er e s i s t o r a t a n a p p l i e d v o l t a g e o f one o l t . The r e s i s t a n c ec a l c u l a t e d from t h e measured v a l u e s c a n t h e n be p l o t t e dl o g a r i t h m i c a l l y .The c o m p u t a t i o n a l p r i n c i p l e w h i c h u n d e r l i e s t h eg e n e r a l n e u r a l n e t w o r k m o d e l h a s d e v e l o p e d d i f f e r e n ts y s t e m s : ( i ) p e r c e p t r o n s , ( i i ) H o p t i e l d n e t w o r k s a n dB o l t z m a n n m a c h i n e s w i t h a s s o c i a t e d memory, a n d ( i i i )m u l t i - l a y e r f e e d - f o r w a r d n e t w o r k s u s i n g t h e g e n e r a li z e d d e l t a r u l e w i t h e r r o r b a c k - p r o p a g a t i o n a l g o r i t h m s .The two p r i n c i p a l c o m p o n e n t s o f t h e s e n e u r a l n e t w o r k sa r e a t h r e s h o l d l o g i c u n i t , a l s o c a l l e d n e u r o n . Neur o n s a r e u s u a l l y a r r a n g e d i n l a y e r s a n d a r e f u n c t i o n a l l yi n t e r c o n n e c t e d . M o d i ? a b l e c o n n e c t i o n s o f v a r i a b l es t r e n g t h ( a d a p ti v e w e i g h t s ) a r e p r o v i d e d b e t w e e n t h eo u t p u t of a neuron and t h e i n p u t s o f o t h e r n e u r o n s , a l s o c a l l e d s y n a p s e s . The a d a p t i v e w e i g h t s a r e u s u a l l ya r r a n g e d i n a r r a y s o r m a t r i c e s .

While i t i s p o s s i b l e t o e m u l a t e a n e u r a l network andi t s i n f o r m a t i o n p r o c e s s i n g f e a t u r e s i n s o f t w a r e on ad i g i t a l c o m p u t e r , t h i s s i m u l a t i o n a p p r o a c h t o n e u r a ln e t w o r k s d o e s n o t t a k e a d v a n t a g e o f t h e c a p a b i l i t i e so f f e r e d b y t h e h a r d w a r e i m p l e m e n t a t i o n o f l o g i c u n i t sa n d i n t e r c o n n e c t s a l r e a d y a v a i l a b l e f r o m V S LI t e c h n o lo g y . H o w e v e r , t h e h a r d w a r e i m p l e m e n t a t i o n o f t h ea d a p t i v e s y n a p ti c w e i g h t s a s v a r i a b l e r e s i s t o r s i s d i f f ic u l t . R e s i s t o r s t h a t can have v a r i o u s v a l u e s o f r e s i s t a n c ea r e u s u a l l y r e a l i z e d a s a r r a y s o f u n i t r e s i s t o r s connectedt o t h e summing p o i n t o f a n a m p l i ? e r t h r o u g h b i n a r ys w i t c h e s u n d e r d i g i t a l c o n t r o l . T h i s r e q u i r e s t h e i n t eg r a t i o n o f m u l t i p l e e l e m e n t s a n d m e t a l i z a t i o n l i n e s comb i n e d w i t h a d d r e s s s e l e c t , r e a d / w r i t e , a n d memoryu n i t s f o r e a c h s y n a p s i s w h i c h c o m p l i c a t e s th e l a y - o u t o ft h e d e s i g n a n d l i m i t s t h e i n t e g r a t io n d e n s i t y a s w e l l a s ,f o r y i e l d r e a s o n s , t h e t o t a l number o f a d a p t i v e w e i g h t sa v a i l a b l e f o r a n e u r a l n e t w o r k .The p r o b l e m i s t o d e s i g n a n d f a b r i c a t e a m a t r i x ( t w od i m e n s i o n a l a r r a y ) o f s y n a p t i c r e s i s t o r s ( a d a p t i v ew e i g h t s ) f o r i n t e r c o n n e c t i n g n e u r o n a l l a y e r s w h i c h i ss i m p l e t o i n t e g r a t e i n e x i s t i n g VLSI t e c h n o l o g y , w h i c hc o n s i s t s o f a s m a l l number o f e l e m e n t s p e r a d a p t i v ew e i g h t , e a c h o f w h i c h i s e a s i l y m o d i ? a b l e ( i . e . , e l e c t r ic a l l y a l t e r a b l e ) , h a s a wide dynamic r a n g e , and c a n b eu s e d b i - d i r e c t i o n a l l y and w i t h b i - p o l a r s i g n a l s .

The s o l u t i o n i s t o u s e a s a v a r i a b l e weight s y n a p s i s , an o v e l s i n g l e l a y e r t h i n ?lm s w i t c h i n g d e v i c e t h a t i sb a s e d on n o n - d e n s e s i l i c a m a d e from a h y d r i d o s i l s e s q u ioxane p r e c u r s o r and which h a s a n o n - l i n e a r v o l t a g ec u r r e n t c h a r a c t e r i s t i c w i t h n e g a t i v e d i f f e r e n t i a l cond u c t a n c e r e g i m e . T h i s d e v i c e can be s w i t c h e d from ah i g h l y r e s i s t i v e OFF t a t e t o a more c o n d u c t i n g ON

8/13/2019 Us 5422982

10/12

5 , 4 2 2 , 9 8 27s t a t e or t o any v a l u e between t h e s e t w o e x t r e m e s . Ther a n g e o f r e s i s t a n c e s a c c e s s i b l e i n t h i s w a y e x c e e d s af a c t o r o f 1 0 0 0 w i t h t h e h i g h r e s i s t a n c e v a l u e t y p i c a l l y o ft h e o r d e r o f megohms. Only t h e two d e v i c e e l e c t r o d e sa r e r e q u i r e d f o r s e l e c t i n g t h e d e v i c e a n d a l t e r i n g i t sr e s i s t a n c e ( i n ADDRESS SELECT a n d WEIGHTADJUST ode) s o t h a t t h e two m u t u a l l y p e r p e n d i c ul a r m e t a l s t r i p e a r r a y s which form t h e m a t r i x o f s y n a ps e s between t h e i r c r o s s i n g s a t t h e same time connect t ot h e n e u r o n a l t h r e s h o l d u n i t s ( i n READ ode) w h e r et h e c o n t r i b u t i o n from e a c h s y n a p t i c w e i g h t i s summed.While s i m p l e s y n a p ti c m a t r i c e s do n o t r e q u i r e a n y o t h e ra u x i l i a r y c i r c u i t r y , more c o m p l e x a r r a y s t r u c t u r e s f o rw h i c h t h e number o f s y n ap s e s c o n n e c t i n g t o e a c h i n p u t( o r o u t p u t ) o f a n e u r o n would e x c e e d t h e d y n a m i cr a n g e o f t h e i n d i v i d u a l s y n a p ti c c o n n e c t i o n , c a n b ee q u i p p e d w i th ADDRESS SELECT i r c u i t r y comp r i s i n g word s e l e c t a n d b i t s e l e c t l i n e s , a n d i n d i v i d u a lw e i g h t a c c e s s g a te s ( t r a n s i s t o r s ) a s w e l l a s c i r c u i t r y t od e c o u p l e t h e n e u r o n s from t h e s y n a p s e s d u r i n g t h es w i t c h i n g p r o c e d u r e , which a r e u s e d t o a l t e r t h e s y n a pt i c w e i g h t s ( d e v i c e r e s i s t a n c e s ) .I n FIGS. 6A and 6B t h e r e w i l l b e s e e n t o p v i e w s o fa t w o - d i m e n s i o n a l m a t r i x d e v i c e 1 0 0 which i s formedb e t w e e n t h e c r o s s i n g p o i n t s o f t w o m u t u al l y p e r p e n d i cu l a r a r r a y s o f m e t a l s t r i p e s 70 and 80 which s e r v e a s t h ee l e c t r o d e s and c o n t a c t s f o r each e v i c e . FIG. 6A showsa s i n g l e s i l i c a l a y e r 2 0 d e r i v e d f r o m a h y d r o g e n s i l s e sq u i o x a n e r e s i n comm on t o a l l i n d i v i d u a l d e v i c e s formedbetween t h e h o r i z o n t a l bottom e l e c t r o d e s 7 0 a n d t h ev e r t i c a l t o p e l e c t r o d e s 8 0 . FIG. 6B shows t h e samea r r a y 1 0 0 i n c l u d i n g a s y m b o l i c r e p r e s e n t a t i o n 6 0 o f t h ev a r i a b l e r e s i s t o r s f o r m e d i n t h i s f a s h i o n a n d w h i c h i si n t e n d e d t o f u n c t i o n a s a d a p t i v e w e i g h t W i j

FIG. 7 i l l u s t r a t e s a m a t r i x 1 0 0 o f v a r i a b l e r e s i s t o r s 6 0u s e d a s a d a p t i v e w e i g h t s y n a p s e s i n a t y p i c a l f e e d f o rwa rd c o n n e c t i o n between two l a y e r s o f n e u r o n a lt h r e s h o l d u n i t s 9 0 . The a r r a n g e m e n t p r o v i d e s f o r ac o n n e c t i o n b e t w e e n t h e o u t p u t s j o f e a c h n e u r o n j i none l a y e r k - l t o t h e i n p u t o f e a c h neuron i n t h e n e x tl a y e r k . The a r r a n g e m e n t i n c l u d e s a s y m b o l i c r e p r e s e nt a t i o n 9 0 f o r t h e n e u r o n ( t r a n s - i m p e d a n c e a m p l i ? e r ) .The r e s i s t a n c e of each r e s i s t o r 60 can be d e s c r i b e d a s i t sw e i g h t W i j w i t h which i t a l l o w s n e u r o n j t o c o n t r i b u t et o t h e o u t p u t s i o f n e u r o n i n l a y e r k , i n a c c o r d a n c e w i t ht h e e q u a t i o n s i = 2 j w g s fThe n e u r o n s have a n o n - l i n e a r i n p u t - o u t p u t t r a n s f e rf u n c t i o n a s shown i n FIGS. 8 A-C o r tw o d i f f e r e n tc a s e s . T h i s i s r e a l i z e d w i t h a n o p e r a t i o n a l a m p l i ? e rwhose o u t p u t v o l t a g e e q u a l s t h e sum o f t h e c u r r e n t s? o w i n g i n t o i t s i n p u t ( t r a n s - i m p e d a n c e a m p l i ? e r ) , a n d aS c h m i t t t r i g g e r t o p r o v i d e b o t h a u n i ? e d o u t p u t s i g n a lS j O f e i t h e r +1 o r 0 a s shown i n FIG. 8 B , o r +1 r 1a s shown i n F I G . 8 C , d e p e n d i n g upon t h e p a r t i c u l a rf u n c t i o n d e s i r e d a n d a n i n p u t t h r e s h o l d 0 1 - . I n s t e a d o fr e a l i z i n g t h e t h r e s h o l d by a S c h m i t t t r i g g e r , a b i a s c u rr e n t c a n be f e d i n t o t h e i n p u t o f t h e n e u r o n a l t r a n si m p e d a n c e a m p l i ? e r . T h i s b i a s i s d e r i v e d f r o m a t r u eu n i or b i a s neuron with a constant u n i t y output whichi s p e r m a n e n t l y c o n n e c t e d t o a l l o t h e r n e u r o n s t h r o u g hw e i g h t s w i g . T h u s , FIGS. 8 A-C r o v i d e a n e l e c t r o n i cm o d e l of a neuron with s umm in g c u r r e n t i n p u t andv o l t a g e o u t p u t ( t r a n s - i m p e d a n c e a m p l i ? e r ) , s h o w i n gtwo d i f f e r e n t t r an s f e r f u n c t i o n s , a s i n FIG. 8 B wheret h e o u t p u t r a n g e i s b e t w e e n 0 a n d +1 w i t h t h r e s h o l d0>o e a l i z e d by a S c h m i t t t r i g g e r , a n d F I G . 8 C wheret h e o u t p u t range s between and + without t h r e s ho l d 6:0.

2 0

2 5

4 0

4 5

5 5

6 0

6 5

8The u s e o f an a r r a y 100 o f v a r i a b l e r e s i s t o r s a s adapt

i v e s y n a p t i c w e i g h t s i n a n e u r a l n e t w o r k i s shown i nFIG. 9 f o r t h e c a s e o f a Hop?eld n e t w o r k . T h i s i n c l u d e sa c o l l e c t i o n of neurons a s sh own i n FIG. 7 which a r e a l lconnected t o e a c h o t h e r s o t h a t t h e o u t p u t o f neuronc o n n e c t s t o t h e i n p u t o f n e u r o n i , and t h a t o f n e u r o n - ic o n n e c t s t o neuron j ; w i t h t h e c o n d i t i o n s t h a t i i s n o te q u a l t o , t h a t i s w , - , - = 0 ; a n d w j , ~ = w , j i n which c a s e t h ei n t e r a c t i o n between n e u r o n s i s s y m m e t r i c .

I n FIG. 9 , t h e Hop?eld network c a n be s e e n t o i nc l u d e f o u r neurons and s i x t e e n s y n a p t i c weights 6 0 . Thethreshold of each neuron s a s sumed t o be zero with theo u t p u t r a n g e s b e i n g b e t w e e n 1 a n d + 1 . The o u t p u t o ft h e n e u r o n s i s f e d b a c k t o t h e i n p u t t h r o u g h t h e s y n a p t i cw e i g h t s n t h e a r r a y 1 0 0 w h i c h a r e i m p l e m e n t e d by t h ev a r i a b l e r e s i s t i v e e l e m e n t s 6 0 o f t h e p r e s e n t i n v e n t i o n .The n e t w o r k i s f u l l y c o n n e c t e d w i t h e a c h o u t p u t 1 0 2c o n n e c t e d t o a l l i n p u t s 1 0 4 . The c o n n e c t i o n o f e a c hneuron t o i t s o w n i n p u t i s o p e n , t h a t i s w i , - = 0 . I n as y m m e t r i c a l n e u r a l n e t w o r k f o r e a c h p a i r o f n e u r o n s ia n d j , t h e w e i g h t s a r e e q u a l W j i = W i j - F I G . 9 a l s o i l l u st r a t e s t h e e l e c t r o n i c c i r c u i t r y 1 0 6 f o r c h a n g i n g t h ea d a p t i v e s y n a p t i c w e i g h t s w i t h s u i t a b l e v o l t a g e p u l s e sd u r i n g t h e l e a r n i n g p h a s e when e s i r e d o u t p u t p a t t e r n sa r e matched t o g i v e n i n p u t p a t t e r n s . Once t h e n e u r a lnetwork h a s l e a r n e d a c o n ? g u r a t i o n o f p a t t e r n s , t h ec o n t r o l c i r c u i t r y 1 0 6 i s no l o n g e r n e c e s s a r y .

I n FIG. 1 0 t h e r e i s shown a l a y e r e d f e e d f o r w a r dnetwork n which t h e one h i d d e n l a y e r 1 0 8 i s c o n n e c t e dt o b o t h t h e i n p u t l a y e r a n d t h e o u t p u t l a y e r o f n e u r o n st h r o u g h two a r r a y s 100A a n d 1 0 0 B o f s y n a p s e s i m p l em e n t e d by t h e v a r i a b l e r e s i s t i v e e l e m e n t s 6 0 o f t h e i nv e n t i o n . T h i s n e u r a l n e t w o r k i s c a p a b l e o f l e a r n i n gi n p u t / u t p u t c o r r e l a t i o n s b y a d j u s t i n g t h e r e s i s t a n c e s o ft h e s y n a p t i c c o n n e c t i o n s . T h i s c a n b e a c c o m p l i s h e d byu t i l i z i n g t h e g e n e r a l i z e d d e l t a r u l e w i t h a b a c k - p r o p a g at i o n a l g o r i t h m t o m i n i m i z e t h e d i s c r e p a n c y b e t w e e n t h ea s s o c i a t e d o u t p u t a n d t h e d e s i r e d o u t p u t . T h i s l e a r n i n gscheme c a n b e e q u a l l y a p p l i e d t o l a y e r e d n e t w o r k s w i t hm o r e t h a n one hidden l a y e r , i n which c a s e a s i m i l a ra r r a y o f a d a p t i v e w e i g h t s p r o v i d e s t h e s y n a p t i c c o n n e ct i o n s between e a c h o f t h e s e l a y e r s . Once a c o r r e l a t i o no f i n p u t / u t p u t p a t t e r n s h a s b e e n l e a r n e d , FIG. 1 0 c a nb e employed w i t h o u t t h e b a c k - p r o p a g a t i o n n e t w o r k a sa g e n e r a l p e r c e p t r o n s t r u c t u r e i n which an e x c i t a t i o np a t t e r n p r e s e n t e d t o t h e i n p u t l a y e r r e s u l t s i n a s p e c i ? cresponse a t t h e o u t p u t l a y e r . \As d e p i c t e d i n FIG. 1 0 , t h e f e e d f o r w a r d n e u r a l n e twork i n c l u d e s t h r e e n e u r o n s i n t h e i n p u t l a y e r , ?veneurons i n t h e h i d d e n l a y e r , and t w o neurons i n t h eo u t p u t l a y e r . The n e u r o n s a r e d e p i c t e d s c h e m a t i c a l l y a sc i r c l e s , a n d t h e i r t h r e s h o l d s a r e i m p l i e d ; t h a t i s t h e b i a sn e u r o n s a r e n o t shown e x p l i c i t l y . The n e u r o n a l l a y e r sa r e i n t e r c o n n e c t e d w i t h t wo s y n a p t i c a r r a y s 1 0 0A and1 0 0 B o f a d a p t i v e w e i g h t s i m p l e m e n t e d b y t h e v a r i a b l er e s i s t i v e e l e m e n t s 6 0 o f t h e p r e s e n t i n v e n t i o n . FIG. 1 0i n c l u d e s a p p r o p r i a t e e l e c t r o n i c c i r c u i t r y f o r c h a n g i n gt h e a d a p t i v e s y n a p t i c w e i g h t s w i t h s u i t a b l e v o l t a g ep u l s e s d u r i n g t h e l e a r n i n g p h a s e when d e s i r e d o u t p u tp a t t e r n s a r e m a t c h e d t o g i v e n i n p u t p a t t e r n s . The c i rc u i t r y i n c l u d e s a u x i l i a r y c i r c u i t r y f o r WRITE n d ADDRESS SELECT o n t r o l i n d i c a t e d s c h e m a t i c a l l y a sb o x e s 1 1 0 , 1 1 2 , 1 1 4 , a n d 1 1 6 . Once t h e n e u r a l networkh a s l e a r n e d a c o n ? g u r a t i o n t h e e l e c t r o n i c c o n t r o l c i rc u i t r y i s n o l o n g e r n e c e s s a r y .The a d v a n t a g e s o f t h e p r e s e n t i n v e n t i o n a r e numero u s . T h u s , e a c h v a r i a b l e w e i g h t s y n a p s i s i s c o m p l e t e l yb i - d i r e c t i o n a l and c u r r e n t ?ow a n , t h e r e f o r e , o c c u r i n

8/13/2019 Us 5422982

11/12

5 , 4 2 2 , 9 8 2e i t h e r d i r e c t i o n t h r o u g h a s y n a p s i s . I t i s a l s o c o m p l e t e l yb i - p o l a r , t h a t i s , i t o p e r a t e s u n d e r b o t h p o s i t i v e a n dn e g a t i v e s i g n a l p o l a r i t i e s a n d c a n , t h e r e f o r e , b e u s e d f o rn e u r o n a l o u t p u t s o f e i t h e r p o l a r i t y , e s p e c i a l l y n e u r o n sw i t h s t a n d a r d i z e d o u t p u t o f 1 V q u i e s c e n t ) o r +1V e x c i t e d ) . F o r o p e r a t i o n o f t h e s y n a p t i c m a t r i x ,t h e r e i s no o t h e r e l e c t r i c a l connection or e l e c t r o d er e q u i r e d b e s i d e s t h e rows and columns o f e l e c t r o d e s t ot h e s y n a p t i c w e i g h t s . N e i t h e r a s u p p l y v o l t a g e n o r ah o l d i n g v o l t a g e i s n e c e s s a r y s i n c e e a c h r e s i s t o r e l e m e n tr e t a i n s i t s programmed r e s i s t a n c e v a l u e w i t h o u t e l e c t r ic a l p o w e r . The w i d e d y n a m i c r a n g e o f w e i g h t s ( r e s i st a n c e v a l u e s ) a v a i l a b l e w i t h e a c h s y n a p t i c e l e m e n tmakes i t a l s o p o s s i b l e t o r e p l a c e a l a d d e r o f b i n a r yswitches connected t o an R/2R network a s a v a r i a b l er e s i s t o r w i t h a s i n g l e p r o g r a m m a b l e ( a n d n o n - v o l a t i l e )r e s i s t o r e l e m e n t . Both s p a c e a n d power d i s s i p a t i o n a dv a n t a g e s a r e g a i n e d i n t h i s w a y .

O t h e r a d v a n t a g e s o f t h e u s e o f h y d r o g e n s i l s e s q u i o xa n e r e s i n d e r i v e d s i l i c a v a r i a b l e r e s i s t a n c e s w i t c h i n gd e v i c e s i n t h e s e a p p l i c a t i o n s i n c l u d e a ) s i m p l i c i t y o fs t r u c t u r e - o n e s i l i c a l a y e r p e r d e v i c e w i t h o n l y t woe l e c t r o d e s ; b ) c o m p a t i b i l i t y w i t h s i l i c o n , a n d g e n e r a l l yt h e g r o u p I V , I I I - V , a n d I I - V I s e m i c o n d u c t o r s , i n t h ei n t e g r a t e d c i r c u i t m a n u f a c t u r i n g p r o c e s s o f t h e e l e ct r o n i c i n d u s t r y ; 0 ) s u i t a b i l i t y f o r VSLI i m p l e m e n t a t i o no f n e u r a l n e t w o r k s i n h a r d w a r e ; d ) a b s e n c e o f e l e c t r ol y t e s ( s o l i d s t a t e o r o t h e r w i s e ) ; a n d e ) h i g h s t a b i l i t y .The g e n e r a l s y n a p t i c m a t r i x ( 1 1 r o w s , m o l u m n s )shown i n FIG. 7 c a n b e d i r e c t l y c o n n e c t e d betweenn e u r o n a l l a y e r s i n s u c h a p p l i c a t i o n s a s p e r c e p t r o n swhich c o m p r i s e s e v e r a l s u c h l a y e r s i n a s i m p l e f o r w a r dc o n n e c t i o n m o d e . O t h e r a p p l i c a t i o n s o f t h e s e s y n a p t i cm a t r i c e s i n c l u d e m o d e l s o f b i o l o g i c a l n e u r a l c i r c u i t s f o ra s s o c i a t i v e memory a n d g e n e r a l p a t t e r n r e c o g n i t i o nt a s k s . A q u a r e m a t r i x ( e q u a l number o f rows and c o lumns) c a n b e u s e d i n a H o p ? e l d - t y p e n e u r a l networkw h e r e t h e e l e m e n t s W i j o f t h e ( s q u a r e ) s y n a p t i c m a t r i xa r e c o n n e c t e d b e t w e e n a l l o u t p u t s j a n d i n p u t s i e x c e p tf o r i: , t h a t i s W j j = . S i m i l a r l y , t h e s e s y n a p ti c m a t r i c e sa r e s u i t a b l e f o r u s e i n n e u r a l networks which employe r r o r b a c k - p r o p a g a t i o n a l g o r i t h m s t o a d j u s t t h e s y n a pt i c w e i g h t s between n e u r o n s i n a u t o m a t i c o r s u p e r v i s e dl e a r n i n g .The t h i n ?lm s i l i c a c o a t i n g s d e r i v e d f r o m h y d r o g e ns i l s e s q u i o x a n e r e s i n c a n b e d i s t i n g u i s h e d f r o m t h e manyc o a t i n g s e x i s t i n g i n t h e p r i o r a r t by a c o n s i d e r a t i o n o ft h e i r u n i q u e c h a r a c t e r i s t i c s which a r e m a n i f e s t e d a sf o l l o w s .I n i t i a l l y , a s a v o l t a g e below a t h r e s h o l d v o l t a ge x 3 i sa p p l i e d t o t h e d e v i c e i n t h e OFF t a t e , t h e c u r r e n t f o ll o w s a n e s s e n t i a l l y l i n e a r r e l a t i o n s h i p a l o n g l i n e 1 .Wh e n t h e th r e s h o l d v o l t a g e x i s r e a c h e d h o w e v e r ,l i n e I n i n FIGS. 2 and 3 i n d i c a t e s a r a p i d l i n e a r t r a n s it i o n from t h e OFF t a t e o f t h e d e v i c e t o ON t a t e i nwhich t h e c u r r e n t v a r i e s i n a n o n - l i n e a r f a s h i o n . As t h ev o l t a g e i s i n c r e a s e d b e y o n d t h e t h r e s h o l d v o l t a g e x , ac u r r e n t ma x imu m o r c u r r e n t peak p i s r e a c h e d a tv o l t a g e y .

Once t h e ON h a r a c t e r i s t i c o f t h e d e v i c e i s e s t a bl i s h e d , a d e c r e a s e o f t h e v o l t ag e f r o m y t o z e r o f o re x a m p l e , c a u s e s t h e c u r r e n t t o d e c r e a s e a l o n g l i n e 2r a t h e r t h a n r e t r a c t i n g l i n e s 1 a a n d 1 . On t h e o t h e r h an d ,v o l t a g e i n c r e a s e s beyond y e f f e c t a d e c r e a s e o f c u rr e n t along l i n e 3 t o t h e c u r r e n t m i n i m u m or c u r r e n tv a l l e y q a t v o l t a g e 2 . H o r i z o n t a l t a n g e n t s drawn o nt h e c u r v e a t p o i n t s p a n d q de?ne t h e NDR r t h e

20

2 5

40

4 5

5 5

6 5

10r e g i o n o f n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e a l o n g l i n e 3b e t w e e n t h e t a n g e n t s .U n t i l t h e v o l t a g e e x c e e d s t h e v o l t a g e 2 , t h e d e v i c e

r e m a i n s i n t h e ON t a t e a n d i s f r e e t o c y c l e s l o w l y a l o n gl i n e s 2 and 3 . The d e v i c e m a y be s w i t c h e d t o t h e OFFs t a t e b y i n c r e a s i n g t h e v o l t a g e b e y o n d 2 t o w f o re x a m p l e , a n d r a p i d l y r e m o v i n g t h e a p p l i e d v o l t a g e .This causes t h e current t o decrease t o zero a t a l o w e rc u r r e n t l e v e l and m a n e s s e n t i al l y l i n e a r f a s h i o n fromt h e r e t u r n p o i n t r i n FIG. 3 i n a p a t h a l o n g l i n e s 4 , 5 ,and 1 . The d e v i c e r e m a i n s i n t h e OFF t a t e a s l o n g a st h e m a g n i t u d e o f a n y s u b s e q u e n t l y a p p l i e d v o l t a g e ,e i t h e r p o s i t i v e o r n e g a t i v e , d o e s n o t e x c e e d t h e t h r e s ho l d v o l t a g e x . I f t h e s u b s e q u e n t l y a p p l i e d v o l t a g ed o e s e x c e e d t h e t h r e s h o l d v o l t a g e x , t h e d e v i c e i ss w i t c h e d back t o t h e ON t a t e .The jV c u r v e s a c c o r d i n g t o FIGS. 2 and 3 t h e r e f o r ecan be s e e n t o e x h i b i t both l i n e a r and n o n - l i n e a r r e g i o n sf o r a d e v i c e . The jV c u r v e h a s a ? r s t n o n - l i n e a r r e g i o n2 w h e r e i n i n c r e a s i n g t h e v o l t a g e a p p l i e d t o t h e d e v i c ei n c r e a s e s t h e c u r r e n t t o a c u r r e n t m a x i m um o r peak p ,f o l l o w e d by a s e c o n d n o n ~ l i n e a r r e g i o n o f n e g a t i v ed i f f e r e n t i a l r e s i s t a n c e 3 w h e r e i n i n c r e a s i n g v o l t a g e a pp l i e d t o t h e d e v i c e d e c r e a s e s t h e c u r r e n t t o a c u r r e n tminimum o r v a l l e y q , w h i l e t h e v o l t a g e i s i n c r e a s i n g .The jV c u r v e h a s a t h i r d r e g i o n 5 c a p a b l e o f b e i n ga c t i v a t i n g by a v o l t a g e i n e x c e s s o f t h e v o l t a g e 2 a tt h e c u r r e n t minimum q , a t which t i m e a r a p i d r emoval o f an a p p l i e d v o l t a g e w c a u s e s t h e c u r r e n t t od e c r e a s e f r o m p o i n t r i n a l i n e a r f a s h i o n a l o n g l i n e s 5and 1 .

The jV curve h a s a f o u r t h r e g i o n 1 a wherein an i nc r e a s e o f v o l t a g e a p p l i e d - t o t h e d e v i c e up t o a t h r e s h o l dvoltage x causes a r a p i d t r a n s i t i o n from a l i n e a r c u r - r e n t i n c r e a s e t o a n o n - l i n e a r i n c r e a s e i n r e g i o n 2 up t o ac u r r e n t maximum o r p e a k p , a t which p e a k p r eg i o n s 2 a n d 3 m e r g e .

O t h e r v a r i a t i o n s and m o d i ? c a t i o n s m a y b e ma d e i nt h e c o m p o u n d s , c o m p o s i t i o n s , m e t h o d s , d e v i c e s , a n da r t i c l e s o f m a n u f a c t u r e , d e s c r i b e d h e r e i n w i t h o u t d ep a r t i n g f r o m t h e e s s e n t i a l f e a t u r e s a n d c o n c e p t s o f t h ep r e s e n t i n v e n t i o n . The f o r m s o f t h e i n v e n t i o n d e s c r i b e dh e r e i n a r e exemplary o n l y and a r e n o t i n t e n d e d a s l i m it a t i o n s on t h e scope o f t h e i n v e n t i o n a s de?ned i n t h ea p p e n d e d c l a i m s .

T h a t which i s c l a i m e d i s :1 . I n a s y n t h e t i c n e u r a l network i n c l u d i n g a p l u r a l i t yo f n e u r o n a l e l e m e n t s a r r a n g e d i n a n i n p u t l a y e r , a no u t p u t l a y e r , a n d a h i d d e n l a y e r b e t w e e n t h e i n p u t l a y e ra n d t h e o u t p u t l a y e r , t h e network f u r t h e r i n c l u d i n g a? r s t p l u r a l i t y o f s y n a p t i c w e i g h t i n g e l e m e n t s i n t e r c o nn e c t i n g t h e n e u r o n a l e l e m e n t s o f t h e i n p u t l a y e r w i t ht h e n e u r o n a l e l e m e n t s o f t h e h i d d e n l a y e r , and a s e c o n dp l u r a l i t y o f s y n a p t i c w e i g h t i n g e l e m e n t s i n t e r c o n n e c ti n g t h e n e u r o n a l e l e m e n t s o f t h e h i d d e n l a y e r w i t h t h en e u r o n a l e l e m e n t s o f t h e o u t p u t l a y e r , t h e i m p r o v e m e n tc o m p r i s i n g t h e s y n a p t i c w e i g h t i n g e l e m e n t s i n t h e s y nt h e t i c n e u r a l network b e i n g i n t h e form o f a s i l i c o nd i o x i d e ?lm d e r i v e d from t h e o x i d a t i o n o f a hydrogens i l s e s q u i o x a n e r e s i n , t h e s i l i c o n d i o x i d e ?lm b e i n g c h a ra c t e r i z e d b y a jV ( w h e r e i n jV d e s i g n a t e s c u r r e n t - v o l ta g e ) c u r v e which i n c l u d e s b o t h l i n e a r and n o n ~ l i n e a rr e g i o n s , t h e jV c u r v e o f t h e s i l i c o n d i o x i d e ?lm i n c l u di n g : ( i ) a ? r s t n o n - l i n e a r r e g i o n w h e r e i n i n c r e a s i n g t h ev o l t a g e a p p l i e d t o t h e ?lm i n c r e a s e s t h e c u r r e n t t o ac u r r e n t maximum; f o l l o w e d by i i ) a s e c o n d n o n - l i n e a rr e g i o n o f a n e g a t i v e d i f f e r e n t i a l r e s i s t a n c e w h e r e i n i nc r e a s i n g v o l t a ge a p p l i e d t o t h e ?lm d e c r e a s e s t h e c u r ~

8/13/2019 Us 5422982

12/12

5 , 4 2 2 , 9 8 21 1r e n t t o a c u r r e n t m in i m um w h i l e t h e v o l t a g e i s i n c r e a si n g ; t h e jV c u r v e o f t h e s i l i c o n d i o x i d e ?lm i n c l u d i n g( i i i ) a t h i r d r e g i o n c a p a b l e o f b e i n g a c t i v a t e d b y a v o l ta g e i n e x c e s s o f t h e v o l t a g e a t t h e c u r r e n t minimum, a twhich t i m e a r a p i d removal o f t h e e x c e s s v o l t a g e c a u s e st h e c u r r e n t t o d e c r e a s e i n a l i n e a r f a s h i o n ; and t h e jVc u r v e o f t h e s i l i c o n d i o x i d e ?lm i n c l u d i n g ( i v ) a f o u r t hr e g i o n w h e r e i n a n i n c r e a s e o f v o l t a ge a p p l i e d t o t h e?lm up t o a t h r e s h o l d v o l t a ge c a u s e s a r a p i d t r a n s i t i o nfrom a l i n e a r c u r r e n t i n c r e a s e t o a n o n - l i n e a r currenti n c r e a s e which c o n t i n u e s t o t h e c u r r e n t maximum.2 . The network o f c l a i m 1 w h e r e i n t h e ?lm t h i c k n e s si s between about 5 0 and a b o u t 5000 nm.3 . The network o f c l a i m 2 w h e r e i n t h e ?lm t h i c k n e s si s between about 1 0 0 and a b o u t 600 nm.

4 . The network of clai m 1 wherein one or m o r e m o d if y i n g c e r a m i c o x i d e s a r e i n c o r p o r a t e d i n t h e ? l m .5 . The n e t w o r k o f c l a i m 4 w h e r e i n t h e m o d i f y i n gc e r a m i c o x i d e i s an e l e m e n t s e l e c t e d from t h e groupc o n s i s t i n g o f r o n , t i t a n i u m , z i r c o n i u m , a l u m i n u m , t a n t al u m , v a n a d i u m , n i o b i u m , b o r o n a n d p h o s p h o r o u s , p r e se n t i n an amount such t h a t t h e f i l m c o n t a i n s 0 . 1 t o 30p e r c e n t b y w e i g h t o f t h e m o d i f y i n g c e r a m i c o x i d e .6 . An r r a y c o m p r i s i n g a ? r s t p l u r a l i t y o f n e u r o n a le l e m e n t s a r r a n g e d i n a ? r s t l a y e r and a s e c o n d p l u r a l i t yo f n e u r o n a l e l e m e n t s a r r a n g e d i n a s e c o n d l a y e r , t h e? r s t l a y e r a n d t h e s e c o n d l a y e r o f n e u r o n a l e l e m e n t se a c h h a v i n g i n p u t s a n d o u t p u t s , row e l e c t r o d e s a n dcolumn e l e c t r o d e s c o n n e c t e d t o t h e i n p u t s a n d o u t p u t so f t h e ? r s t a n d s e c o n d l a y e r s o f n e u r o n a l e l e m e n t s , a n da t l e a s t one s y n a p t i c w e i g h t i n g e l e m e n t i n t h e form o f av a r i a b l e r e s i s t i v e e l e m e n t c o n n e c t e d between t h e o u tp u t o f a n e u r o n a l e l e m e n t i n t h e ? r s t l a y e r a n d t h e i n p u to f a n e u r o n a l i n t h e second l a y e r , t h e v a r i a b l e r e s i s t i v ee l e m e n t b e i n g a n o n - f u l l y d e n s i ? e d s i l i c o n d i o x i d e ?lmd e r i v e d from a hydrogen s i l s e s q u i o x a n e r e s i n a n d i nc l u d i n g e l e c t r i c a l c o n t a c t s f o r a p p l y i n g a n e l e c t r i c a lp o t e n t i a l a c r o s s t h e ? l m , t h e s i l i c o n d i o x i d e ?lm b e i n gc h a r a c t e r i z e d by a c o n d u c t i v e and a r e s i s t i v e s t a te between which t r a n s i t i o n s c a n b e i n d u c e d by t h e a p p l i c at i o n o f v o l t a g e p u l s e s , t h e s i l i c o n d i o x i d e ? l m b e i n gf u r t h e r c h a r a c t e r i z e d b y a jV ( w h e r e i n jV d e s i g n a t e sc u r r e n t - v o l t a g e ) c u r v e which i n c l u d e s b o t h l i n e a r a n dn o n - l i n e a r r e g i o n s f o r t h e r e s i s t i v e e l e m e n t , t h e jVc u r v e o f t h e s i l i c o n d i o x i d e ?lm i n c l u d i n g : ( i ) a ? r s tn o n - l i n e a r r e g i o n w h e r e i n i n c r e a s i n g t h e v o l t a ge a p

l 0

1 5

2 0

25

3 0

40

4 5

5 5

6 5

1 2p l i e d t o t h e ?lm i n c r e a s e s t h e c u r r e n t t o a c u r r e n t maximum; t h e f i r s t n o n - l i n e a r r e g i o n b e i n g f o l l o w e d b y i i ) as e c o n d n o n - l i n e a r r e g i o n o f a n e g a t i v e d i f f e r e n t i a l r e s i st a n c e w h e r e i n i n c r e a s i n g t h e v o l t a g e a p p l i e d t o t h e ?lmd e c r e a s e s t h e c u r r e n t t o a c u r r e n t m inimum while t h ev o l t a g e i s i n c r e a s i n g ; t h e jV c u r v e o f t h e s i l i c o n d i o x i d e? l m i n c l u d i n g ( i i i ) a t h i r d r e g i o n c a p a b l e o f b e i n g a c t iv a t e d by a v o l t a g e i n e x c e s s o f t h e v o l t a g e a t t h e c u r r e n tminimum, a t which t i m e a r a p i d removal of t h e e x c e s sv o l t a g e c a u s e s t h e c u r r e n t t o d e c r e a s e i n a l i n e a r f a s hi o n ; a n d t h e jV c u r v e o f t h e s i l i c o n d i o x i d e ?lm i n c l u di n g ( i v ) a f o u r t h r e g i o n w h e r e i n a n i n c r e a s e o f v o l t a g ea p p l i e d t o t h e ?lm up t o a t h r e s h o l d v o l t a g e c a u s e s ar a p i d t r a n s i t i o n from a l i n e a r c u r r e n t i n c r e a s e t o a nonl i n e a r c u r r e n t i n c r e a s e which c o n t i n u e s t o t h e c u r r e n tmaximum.

7 . The a r r a y a c c o r d i n g t o c l a i m 6 i n which t h e v a r ia b l e r e s i s t i v e e l e m e n t i s p l a c e d i n a n o n - o x i d i z i n g e n v ir onmen t.

8 . The a r r a y a c c o r d i n g t o c l a i m 6 i n which t h e r e a r ea p l u r a l i t y o f s a i d v a r i a b l e r e s i s t i v e e l e m e n t s c o n n e c t e db e t w e e n t h e o u t p u t s o f t h e ? r s t l a y e r a n d t h e i n p u t s o ft h e s e c o n d l a y e r .9 . The a r r a y a c c o r d i n g t o c l a i m 6 i n which t h e o u t p u to f e a c h n e u r o n a l e l e m e n t i n t h e a r r a y i s c o n n e c t e d t o i t si n p u t .1 0 . The a r r a y a c c o r d i n g t o c l a i m 9 i n c l u d i n g c o n t r o lc i r c u i t r y c o n n e c t e d t o t h e a r r a y f o r c h a n g i n g t h e a d a p ti v e s y n a p t i c w e i g h t o f t h e s y n a p t i c w e i g h t i n g e l e m e n t si n t h e a r r a y b y t h e a p p l i c a t i o n o f v o l t a g e p u l s e s .

1 1 . The a r r a y a c c o r d i n g t o c l a i m 6 i n t h e form o f anetwork i n which a t h i r d p l u r a l i t y o f n e u r o n a l e l e m e n t sf o r m a h i d d e n l a y e r w i t h t h e h i d d e n l a y e r b e i n g d i sp o s e d b e t w e e n a n d i n t e r c o n n e c t e d w i t h t h e ? r s t l a y e ra n d t h e s e c o n d l a y e r o f n e u r o n a l e l e m e n t s . 1 2 . The n e t w o r k a c c o r d i n g t o c l a i m 1 1 i n c l u d i n gc o n t r o l c i r c u i t r y c o n n e c t e d t o t h e a r r a y f o r c h a n g i n gt h e a d a p t i v e s y n a p t i c w e i g h t o f t h e s y n a p t i c w e i g h t i n ge l e m e n t s i n t h e a r r a y by t h e a p p l i c a t i o n o f v o l t a g ep u l s e s .1 3 . The n e t w o r k a c c o r d i n g t o c l a i m 1 2 i n c l u d i n ga u x i l i a r y c o n t r o l c i r c u i t r y i n t e r c o n n e c t e d w i t h t h ea r r a y f o r t h e c o n t r o l o f WRITE n d ADDRESS ELECT.

*