Java Performance Tips

8/4/2019 Java Performance Tips

1/10

P r a c t i c a l G u i d e l i n e s f o r B o o s t i n g J a v a S e r v e r P e r f o r m a n c e

R e i n h a r d K l e m m

B e l l L a b o r a t o r i e s , L u c e n t T e c h n o l o g i e s

6 0 0 M o u n t a i n A v e . , R m . 2 B - 4 2 0

M u r r a y H i l l , N J 0 7 9 7 4 , U . S . A .

E m a i l : k l e m m @ r e s e a r c h . b e l l - l a b s . c o m

A b s t r a c t

A s J a v a t e c h n o l o g y m a t u r e s , a n i n c r e a s i n g n u m b e r o f

a p p l i c a t i o n s t h a t h a v e t r a d i t i o n a l l y b e e n t h e d o m a i n

o f l a n g u a g e s s u c h a s C + + a r e i m p l e m e n t e d i n J a v a .

M a n y o f t h e s e a p p l i c a t i o n s s u c h a s I n t e r n e t s e r v e r s d e -

m a n d h i g h e x e c u t i o n s p e e d . C u r r e n t l y , i t i s m o s t l y t h e

p r o g r a m m e r ' s r e s p o n s i b i l i t y t o o p t i m i z e J a v a c o d e f o r

s p e e d . T h i s p a p e r p r e s e n t s s e v e r a l s i m p l e y e t e e c -

t i v e s o u r c e c o d e - l e v e l g u i d e l i n e s f o r a c c e l e r a t i n g J a v a

p r o g r a m s . A m o n g t h e p e r f o r m a n c e e n h a n c i n g r u l e s d e -

s c r i b e d i n t h e p a p e r a r e o b j e c t r e u s e , a v o i d i n g J a v a A P I

m e t h o d s w i t h i m p l i c i t o b j e c t a l l o c a t i o n s , s t a t i c a l l y c r e -

a t i n g i m m u t a b l e o b j e c t s , t h r e a d p o o l i n g , a n d a v o i d i n g

d y n a m i c a l l y e x p a n d i n g o b j e c t s . A l l t h e s e r u l e s a i m a t

r e d u c i n g t h e f r e q u e n c y o f o b j e c t a l l o c a t i o n s a n d o b j e c t -

t o - o b j e c t c o p y o p e r a t i o n s . U s i n g e x a m p l e s , t h e p a p e r

d e m o n s t r a t e s u p t o 1 5 - f o l d a c c e l e r a t i o n s b y u s i n g t h e s e

g u i d e l i n e s . W h e n a p p l i e d u n d e r t h e a p p r o p r i a t e c i r -

c u m s t a n c e s e x p l a i n e d i n t h e p a p e r , n o n e o f t h e r u l e s

l e a d s t o p e r f o r m a n c e p e n a l t i e s .

1 I n t r o d u c t i o n

J a v a a l l o w s f a s t a n d c o n v e n i e n t d e v e l o p m e n t o f p o r t a b l e

s o f t w a r e . D e v e l o p m e n t s p e e d a n d c o n v e n i e n c e c o m e a t

t h e e x p e n s e o f e x e c u t i o n s p e e d o f s o m e J a v a p r o g r a m s

c o m p a r e d t o e q u i v a l e n t p r o g r a m s i n m o r e t r a d i t i o n a l

l a n g u a g e s s u c h a s C + + . I m p r o v e m e n t s i n J a v a b y t e -

c o d e c o m p i l e r s , j u s t - i n - t i m e c o m p i l e r s , a n d v i r t u a l m a -

c h i n e s , h o w e v e r , h a v e s i g n i c a n t l y d e c r e a s e d t h e e x e c u -

t i o n s p e e d g a p b e t w e e n J a v a a n d C + + p r o g r a m s s i n c e

t h e i n c e p t i o n o f J a v a . I n t h e f u t u r e , t h e s p e e d d i e r -

e n c e i s l i k e l y t o d e c r e a s e e v e n f u r t h e r . B e c a u s e o f t h e s e

i m p r o v e m e n t s i n J a v a t e c h n o l o g y a n d t h e c o n v e n i e n c e

o f p r o g r a m m i n g i n J a v a , a n i n c r e a s i n g n u m b e r o f a p p l i -

c a t i o n s , e . g . , I n t e r n e t s e r v e r s , w h i c h h a v e t r a d i t i o n a l l y

b e e n t h e d o m a i n o f l a n g u a g e s s u c h a s C + + a r e i m p l e -

m e n t e d i n J a v a .

C u r r e n t l y , i t i s m o s t l y t h e p r o g r a m m e r ' s r e s p o n s i b i l -

i t y t o o p t i m i z e J a v a c o d e f o r s p e e d . T h i s p a p e r p r e s e n t s

s e v e r a l s i m p l e y e t e e c t i v e s o u r c e c o d e - l e v e l g u i d e l i n e s

f o r i m p r o v i n g e x e c u t i o n s p e e d a n d d e c r e a s i n g m e m o r y

c o n s u m p t i o n o f J a v a p r o g r a m s . T h e f o c u s i s o n s o m e

s o u r c e s o f J a v a - s p e c i c e x e c u t i o n s p e e d p r o b l e m s t h a t

c a n b e e a s i l y a v o i d e d o r a l l e v i a t e d b y c a r e f u l p r o g r a m -

m i n g . M o r e s p e c i c a l l y , t h e p r e s e n t e d r u l e s a i m a t r e -

d u c i n g t h e f r e q u e n c y o f o b j e c t a l l o c a t i o n s a n d o b j e c t -

t o - o b j e c t c o p y o p e r a t i o n s . L a n g u a g e - i n d e p e n d e n t a l g o -

r i t h m i c c o m p l e x i t y a s a p o t e n t i a l s o u r c e o f s l o w p r o -

g r a m e x e c u t i o n i s n o t c o n s i d e r e d i n t h i s p a p e r . T h e

g u i d e l i n e s i n t h i s p a p e r c o m p l e m e n t o t h e r o p t i m i z a -

t i o n t e c h n i q u e s d e s c r i b e d e l s e w h e r e ( s e e S e c t i o n 2 ) , e . g . ,

t h o s e t h a t a r e o f t e n p a r t o f a n o p t i m i z i n g c o m p i l e r .

T h e p e r f o r m a n c e e n h a n c i n g s t r a t e g i e s o u t l i n e d i n

t h i s p a p e r c a n a l s o b e i m p o r t a n t f o r p r o g r a m m e r s w h o

d e s i g n t h e i r o w n c l a s s e s o r c l a s s l i b r a r i e s i n f u t u r e v e r -

s i o n s o f J a v a , o n a f u t u r e J a v a e x e c u t i o n p l a t f o r m , o r

i n a m o r e t r a d i t i o n a l o b j e c t - o r i e n t e d l a n g u a g e s u c h a s

C + + . E v e n i n a n e n v i r o n m e n t t h a t i s v e r y d i e r e n t

f r o m t h e c u r r e n t J a v a p l a t f o r m o r i n a l a n g u a g e d i e r -

e n t f r o m J a v a , e l i m i n a t i n g a n o b j e c t c r e a t i o n o r o b j e c t -

t o - o b j e c t c o p y o p e r a t i o n i s l i k e l y t o d e c r e a s e p r o g r a m

e x e c u t i o n t i m e .

W h e n a p p l i e d u n d e r t h e a p p r o p r i a t e c i r c u m s t a n c e s

e x p l a i n e d i n t h e p a p e r , n o n e o f t h e p r e s e n t e d r u l e s l e a d s

t o p e r f o r m a n c e p e n a l t i e s . H o w e v e r , i f t h e a p p r o p r i a t e

c i r c u m s t a n c e s a r e n o t g i v e n , a p p l y i n g t h e g u i d e l i n e s

m i g h t s l o w d o w n p r o g r a m e x e c u t i o n o r e v e n r e s u l t i n

p r o g r a m m i n g b u g s . T h e c l a r i t y a n d m a i n t a i n a b i l i t y o f

t h e c o d e c a n s u e r , a n d a n i n c r e a s e i n c o d e s i z e o c c u r s

i n s o m e c a s e s .

A l t h o u g h t h e s e g u i d e l i n e s a p p l y t o a l l J a v a p r o g r a m s

t h e y a r e p a r t i c u l a r l y i m p o r t a n t f o r p r o g r a m s s u c h a s

s e r v e r s t h a t n e e d t o e x h i b i t s h o r t r e s p o n s e t i m e s a n d / o r

h i g h t h r o u g h p u t . T h e d e c r e a s e i n m e m o r y c o n s u m p -


2/10

t i o n a s a c o n s e q u e n c e o f a p p l y i n g t h e p r e s e n t e d r u l e s

a l s o c o n t r i b u t e s t o t h e l o n g e v i t y o f a p r o g r a m b e c a u s e

i t r e d u c e s t h e r i s k o f m e m o r y e x h a u s t i o n d u e t o a J a v a

p r o g r a m b u g o r a f a u l t y J a v a v i r t u a l m a c h i n e i m p l e m e n -

t a t i o n . T h i s , t o o , i s p a r t i c u l a r l y i m p o r t a n t f o r s e r v e r s

b e c a u s e t h e y u s u a l l y h a v e t o o p e r a t e f o r a l o n g t i m e

w i t h o u t o u t a g e s .

T h e g u i d e l i n e s h a v e b e e n s u c c e s s f u l l y a p p l i e d t o a

W e b p r e f e t c h i n g p r o x y t h a t r e q u i r e s v e r y f a s t r e s p o n s e

t i m e s 8 ] . A f t e r h a v i n g a p p l i e d t h e r u l e s t o t h e p r o x y ,

i t s p e r f o r m a n c e i n c r e a s e d f r o m p r o v i d i n g o n l y s l i g h t l y

f a s t e r W e b a c c e s s o n t h e a v e r a g e t o s p e e d i n g u p W e b

a c c e s s b y m o r e t h a n 5 0 % o n t h e a v e r a g e c o m p a r e d t o

n o t u s i n g t h e p r o x y . M o r e o v e r , a m e m o r y l e a k i n t h e

J a v a v i r t u a l m a c h i n e a e c t e d t h e l i f e s p a n o f t h e i m -

p r o v e d p r o x y d r a m a t i c a l l y l e s s t h a n t h e o r i g i n a l p r o x y .

T h e r e m a i n d e r o f t h i s p a p e r i s o r g a n i z e d a s f o l l o w s .

S e c t i o n 2 c o n t a i n s a n o v e r v i e w o f p r e v i o u s w o r k o n J a v a

p e r f o r m a n c e o p t i m i z a t i o n s . S e c t i o n 3 s t a t e s t h e o r i g i n

o f m a j o r p e r f o r m a n c e p r o b l e m s w i t h J a v a c o d e . T h e

c e n t r a l c o l l e c t i o n o f p e r f o r m a n c e e n h a n c i n g g u i d e l i n e s

a n d c o r r e s p o n d i n g e x a m p l e s f o l l o w s i n S e c t i o n 4 . T h e

p a p e r p r o v i d e s a c o n c l u s i o n i n S e c t i o n 5 .

2 R e l a t e d W o r k

T h e r e i s a m y r i a d o f a r t i c l e s a n d b o o k s t h a t a d d r e s s

J a v a s p e e d o p t i m i z a t i o n i s s u e s . S o m e o f t h e s e r e s o u r c e s

a r e l i s t e d b e l o w . H o w e v e r , t h e r e d o e s n o t s e e m t o b e

a n y p u b l i c a t i o n t h a t d i s c u s s e s t h e J a v a p e r f o r m a n c e

p r o b l e m s a n d s o l u t i o n s o r t h e q u a n t i t a t i v e e v a l u a t i o n s

d e m o n s t r a t e d i n t h i s p a p e r .

T h e J a v a l a n g u a g e i s d e s c r i b e d i n m a n y b o o k s . G o o d

s o u r c e s o f i n f o r m a t i o n o n J a v a a r e 1 ] a n d 5 ] . T h e

l a t t e r b o o k a l s o c o n t a i n s a c h a p t e r d e d i c a t e d t o J a v a

s p e e d c o n s i d e r a t i o n s i n c l u d i n g r e l a t i v e e x e c u t i o n s p e e d

g u r e s f o r v a r i o u s J a v a l a n g u a g e a n d A P I c o n s t r u c t s .

A g o o d b o o k o n g e n e r a l o b j e c t - o r i e n t e d s y s t e m d e v e l -

o p m e n t w i t h i n f o r m a t i o n o n h i g h - l e v e l p e r f o r m a n c e o p -

t i m i z a t i o n s t h a t a r e a l s o a p p l i c a b l e t o J a v a i s 3 ] .

L a r g e - s c a l e p r o g r a m s a r e r a r e l y i m p l e m e n t e d i n a

t r a d i t i o n a l p r o g r a m m i n g l a n g u a g e s u c h a s C + + a n d

t h e n a g a i n i n J a v a . T h e r e f o r e , i t i s h a r d t o g a u g e t h e

r e l a t i v e p e r f o r m a n c e o f J a v a a n d C + + f o r a r e a l i s t i c

s o f t w a r e s o l u t i o n . T h e r e a r e , h o w e v e r , m a n y p u b l i s h e d

s t u d i e s s u c h a s 9 ] a n d 7 ] t h a t u s e m i c r o b e n c h m a r k s

t o c o m p a r e t h e p e r f o r m a n c e o f J a v a a n d C + + . M o s t

o f t h e s e s t u d i e s c o n c l u d e t h a t J a v a w i t h a j u s t - i n - t i m e

c o m p i l e r p e r f o r m s n e a r l y a s f a s t a s C + + . M i c r o b e n c h -

m a r k s , h o w e v e r , d o n o t g i v e C + + c o m p i l e r s t h e o p -

p o r t u n i t y t o l e v e r a g e a l l t h e i r o p t i m i z a t i o n t e c h n i q u e s .

S u c h t e c h n i q u e s a r e l a r g e l y m i s s i n g i n c u r r e n t J a v a c o m -

p i l e r s a n d p u t C + + a t a p e r f o r m a n c e a d v a n t a g e o v e r

J a v a i f t h e p r o g r a m m e r d o e s n o t m a n u a l l y o p t i m i z e t h e

J a v a c o d e .

I n 1 0 ] , t h e r e a d e r w i l l n d p e r f o r m a n c e m e a s u r e -

m e n t s f o r v a r i o u s J a v a l a n g u a g e c o n s t r u c t s ( n o t J a v a

A P I c a l l s ) i n d i e r e n t h a r d w a r e a n d J a v a v i r t u a l m a -

c h i n e e n v i r o n m e n t s . T h e a u t h o r b a s e s g e n e r a l r e c o m -

m e n d a t i o n s o n h i s p e r f o r m a n c e m e a s u r e m e n t s . A n o n -

l i n e c o l l e c t i o n o f g e n e r a l r e c o m m e n d a t i o n s f o r o p t i m i z -

i n g J a v a c o d e f o r s p e e d a n d s i z e i s a v a i l a b l e i n 6 ] . I t

a l s o c o n t a i n s a d e s c r i p t i o n o f J a v a c o m p i l e r o p t i m i z a -

t i o n s a n d p e r f o r m a n c e m e a s u r e m e n t s o f J a v a c o n s t r u c t s

a n d A P I c a l l s . A J a v a p e r f o r m a n c e b e n c h m a r k a p p l e t

i s p r e s e n t e d i n 2 ] . T h e a p p l e t c o m p u t e s t h e e x e c u t i o n

s p e e d o f s e v e r a l J a v a l a n g u a g e c o n s t r u c t s o n a g i v e n

h a r d w a r e , o p e r a t i n g s y s t e m , a n d J a v a v i r t u a l m a c h i n e

p l a t f o r m .

A c a s e s t u d y u s i n g J a v a a s t h e i m p l e m e n t a t i o n l a n -

g u a g e f o r a d i s t r i b u t e d m e d i c a l i m a g i n g s y s t e m w i t h

s t r i n g e n t p e r f o r m a n c e r e q u i r e m e n t s i s d e s c r i b e d i n 7 ] .

T h e a r t i c l e c o n t a i n s a l i s t o f s p e e d o p t i m i z a t i o n t e c h -

n i q u e s t h a t w e r e m a n u a l l y a p p l i e d t o t h e s o f t w a r e . T h e

d e s c r i b e d t e c h n i q u e s a r e n o t J a v a - s p e c i c a n d c a n o f t e n

b e f o u n d i n o p t i m i z i n g c o m p i l e r s . T h e a u t h o r s c o m p a r e

t h e J a v a c o d e s p e e d w i t h t h a t o f e q u i v a l e n t c o m p i l e r -

o p t i m i z e d a n d h a n d - o p t i m i z e d C a n d C + + c o d e .

I n 5 ] , t h e r e a d e r w i l l n d t h e d e s c r i p t i o n o f a t e c h -

n i q u e t h a t a l l o w s J a v a c o d e t o s e l e c t a n a t i v e m e t h o d i f

a v a i l a b l e a n d t o s e l e c t a J a v a m e t h o d o t h e r w i s e , s o t h a t

t h e r e s u l t i n g c o d e r e m a i n s p o r t a b l e . R e p l a c i n g J a v a

c o d e i n p e r f o r m a n c e - c r i t i c a l a r e a s w i t h n a t i v e m e t h o d s

i s a v e r y e e c t i v e w a y o f p e r f o r m a n c e b o o s t i n g . H o w -

e v e r , t h i s p a p e r c o n c e n t r a t e s o n p o r t a b l e s o u r c e c o d e -

l e v e l p e r f o r m a n c e e n h a n c e m e n t s a n d t h u s d o e s n o t d i s -

c u s s n a t i v e m e t h o d s .

O b j e c t r e u s e i s a c e n t r a l t h e m e o f t h i s p a p e r a n d

h a s b e e n m e n t i o n e d i n s e v e r a l o f t h e r e f e r e n c e s l i s t e d

a b o v e . A s o f t w a r e s u p p o r t f o r r e u s i n g c e r t a i n o b j e c t s i s

d e s c r i b e d i n 4 ] , a l b e i t w i t h o u t a s y s t e m a t i c q u a n t i c a -

t i o n o f t h e p e r f o r m a n c e a d v a n t a g e s .

3 S o u r c e s o f J a v a C o d e P e r f o r m a n c e P r o b l e m s

J a v a s o u r c e p r o g r a m s a r e c o m p i l e d i n t o p r o g r a m s i n

J a v a b y t e c o d e f o r m a t b e f o r e e x e c u t i o n . E x e c u t i n g a

J a v a p r o g r a m m e a n s i n t e r p r e t a t i o n o f t h e b y t e c o d e

p r o g r a m b y a n o t h e r s o f t w a r e l a y e r , t h e J a v a v i r t u a l m a -

c h i n e . S i n c e t h e J a v a v i r t u a l m a c h i n e i s a s o f t w a r e p r o -

g r a m , t h e e x e c u t i o n o f J a v a c o d e c a n b e s l o w e r t h a n t h e

e x e c u t i o n o f n a t i v e c o d e o n a p h y s i c a l m a c h i n e . M o r e -

o v e r , n o t b e i n g a b l e t o c o n t r o l d e t a i l s o f m e m o r y m a n -

a g e m e n t i n a J a v a a p p l i c a t i o n c a n c r e a t e p e r f o r m a n c e

p r o b l e m s . I n J a v a v i r t u a l m a c h i n e s , a l l o b j e c t s a r e a l l o -

c a t e d o n t h e h e a p . H e a p a l l o c a t i o n m e a n s n d i n g s p a c e

f o r a n o b j e c t o n t h e h e a p , u p d a t i n g h e a p b o o k k e e p -

i n g d a t a , a n d l a t e r d e a l l o c a t i o n ( g a r b a g e c o l l e c t i o n ) o f

t h e o b j e c t w h e n i t i s n o l o n g e r n e e d e d . T h i s i s g e n e r -

a l l y m o r e t i m e - c o n s u m i n g t h a n a l l o c a t i o n o n t h e s t a c k ,


3/10

w h i c h i s p o s s i b l e i n C + + i n a d d i t i o n t o h e a p a l l o c a t i o n .

T o i l l u s t r a t e t h i s , c o n s i d e r t h e c a s e o f a s t a c k a l l o c a t i o n

o f a J a v a d o u b l e a s o p p o s e d t o t h e h e a p a l l o c a t i o n o f

a J a v a O b j e c t . O n t h e r e f e r e n c e p l a t f o r m d e s c r i b e d

i n S e c t i o n 4 , t h e d o u b l e i s c r e a t e d i n 5 n s w h e r e a s t h e

O b j e c t c r e a t i o n t a k e s 8 9 0 n s a n d i s t h u s m o r e t h a n 1 7 5

t i m e s s l o w e r .

A s t h e e x a m p l e s i n t h e r e m a i n d e r o f t h i s p a p e r s h o w ,

a l i b e r a l u s e o f J a v a c o n s t r u c t s l e a d s t o t h e c r e a t i o n o f

m a n y o b j e c t s a n d a h i g h f r e q u e n c y o f t i m e - c o n s u m i n g

o b j e c t - t o - o b j e c t c o p y o p e r a t i o n s . T h e l a t t e r a r e t y p i -

c a l l y c o p i e s o f l a r g e p a r t s o f t h e s t a t e o f o b j e c t s i n t o

o t h e r o b j e c t s , e i t h e r b y p e r f o r m i n g a n e x a c t c o p y o r b y

t r a n s f o r m i n g t h e d a t a t y p e o f o b j e c t s t a t e s . A n e x a m -

p l e o f a n e x a c t c o p y i s t h e B y t e A r r a y O u t p u t S t r e a m . -

t o B y t e A r r a y ( ) m e t h o d t h a t r e t u r n s a c o p y o f t h e i n t e r -

n a l b y t e ] b u e r i n t h e B y t e A r r a y O u t p u t S t r e a m o b -

j e c t . A n e x a m p l e o f a c o p y o p e r a t i o n t h a t c h a n g e s t h e

d a t a t y p e o f t h e c o p i e d o b j e c t s t a t e i s t h e S t r i n g . -

g e t B y t e s ( ) m e t h o d . T h e J a v a A P I g e n e r a l l y p r e f e r s

c o p i e s o f o b j e c t s t o o b j e c t r e f e r e n c e s a s m e t h o d r e t u r n

v a l u e s a n d w h e n d e a l i n g w i t h m e t h o d p a r a m e t e r s . A n

i n c r e a s e i n t h e n u m b e r o f a l l o c a t e d o b j e c t s a l s o l e a d s

t o a n i n c r e a s e i n t h e w o r k t h a t t h e g a r b a g e c o l l e c t o r

h a s t o a c c o m p l i s h . S i n c e a J a v a a p p l i c a t i o n h a s l i t t l e

c o n t r o l o v e r t h e t i m e s w h e n g a r b a g e a l l o c a t i o n o c c u r s ,

t h i s c a n h a v e a d d i t i o n a l n e g a t i v e r e p e r c u s s i o n s f o r t h e

p e r f o r m a n c e o f J a v a c o d e .

M a n y J a v a A P I o b j e c t s c o n t a i n a r r a y s a c t i n g a s i n -

t e r n a l b u e r s . A r r a y s a r e o b j e c t s i n J a v a a n d t h e r e f o r e

a r e a l l o c a t e d o n t h e h e a p a s w e l l . M o r e o v e r , e a c h a r -

r a y e l e m e n t i s i n i t i a l i z e d u p o n a r r a y c r e a t i o n , w h i c h

m e a n s t h a t t h e t i m e f o r c r e a t i n g a n a r r a y g r o w s w i t h

t h e a r r a y s i z e . F o r e x a m p l e , i n i t i a l i z i n g a B y t e A r r a y -

O u t p u t S t r e a m w i t h v a r y i n g i n t e r n a l b u e r s i z e s t a k e s

a b o u t 1 6 4 m i c r o s e c o n d s p e r k i l o b y t e o f b u e r s p a c e o n

t h e r e f e r e n c e p l a t f o r m d e s c r i b e d i n S e c t i o n 4 .

S i n c e t h e a d v e n t o f m o r e s o p h i s t i c a t e d J a v a j u s t - i n -

t i m e c o m p i l e r s a n d v i r t u a l m a c h i n e s , m u c h o f t h e s p e e d

g a p b e t w e e n C + + a n d J a v a p r o g r a m s c a n n o w b e a t -

t r i b u t e d t o t h e m e m o r y m a n a g e m e n t i n J a v a v i r t u a l

m a c h i n e s a n d t o c e r t a i n m e t h o d s i n t h e J a v a A P I . T h i s

a e c t s m o s t l y p r o g r a m s t h a t c r e a t e a l a r g e a n d q u i c k l y

c h a n g i n g p o o l o f o b j e c t s . I n t h e s e c a s e s a n d i f a J a v a

p r o g r a m i s C P U - b o u n d , a s l o w e r e x e c u t i o n c o m p a r e d

t o f u n c t i o n a l l y e q u i v a l e n t C + + c o d e c a n o f t e n b e o b -

s e r v e d . I n a d d i t i o n , c u r r e n t J a v a j u s t - i n - t i m e c o m p i l -

e r s a v o i d t i m e - c o n s u m i n g c o d e o p t i m i z a t i o n t e c h n i q u e s

t h a t a r e p a r t o f m o s t C + + c o m p i l e r s . J a v a a l s o h a s

m a n y p o r t a b l e s a f e t y a n d s e c u r i t y f e a t u r e s t h a t s l o w

d o w n J a v a e x e c u t i o n c o m p a r e d t o C + + w i t h o u t t h e s e

f e a t u r e s . P e r f o r m a n c e o p t i m i z a t i o n s o f C P U - b o u n d J a -

v a p r o g r a m s w i l l h e l p n a r r o w t h e p e r f o r m a n c e g a p b e -

t w e e n J a v a a n d C + + p r o g r a m s b u t p r o b a b l y n o t e l i m -

i n a t e i t a n y t i m e s o o n . P e r f o r m a n c e - o p t i m i z e d I / O -

b o u n d J a v a p r o g r a m s , h o w e v e r , s h o u l d e x e c u t e n e a r l y

a s f a s t o r a s f a s t a s c o m p a r a b l e C + + p r o g r a m s .

4 R e d u c i n g O b j e c t A l l o c a t i o n a n d C o p y O p e r a t i o n F r e -

q u e n c i e s

F o r t h e r e a s o n s o u t l i n e d i n t h e p r e v i o u s s e c t i o n , t h e

n u m b e r a n d f r e q u e n c y o f o b j e c t c r e a t i o n s a n d o b j e c t -

t o - o b j e c t c o p y o p e r a t i o n s t h r o u g h o u t t h e e x e c u t i o n o f a

J a v a p r o g r a m s h o u l d b e d e c r e a s e d a s m u c h a s p o s s i b l e

i f e x e c u t i o n s p e e d i s i m p o r t a n t . T h i s p a p e r d i s c u s s e s

o b j e c t r e u s e ,

a v o i d i n g A P I m e t h o d s w i t h i m p l i c i t o b j e c t a l l o c a -

t i o n s ,

s t a t i c a l l y c r e a t i n g i m m u t a b l e o b j e c t s ,

a v o i d i n g d y n a m i c a l l y e x p a n d i n g o b j e c t s ,

a d e q u a t e o b j e c t i n i t i a l i z a t i o n , a n d

o b j e c t p o o l i n g a n d , i n p a r t i c u l a r , t h r e a d p o o l i n g ,

a s p o s s i b l e t e c h n i q u e s t o a t t a i n t h i s g o a l . B e l o w a r e

e x p l a n a t i o n s a n d s o m e e x a m p l e s f o r t h e s e g u i d e l i n e s .

T h e e x a m p l e s s h o w c o d e f r a g m e n t s t h a t w o u l d t y p i c a l l y

a p p e a r i n a n I n t e r n e t s e r v e r .

M a n y o f t h e e x a m p l e s a r e i l l u s t r a t e d w i t h p e r f o r -

m a n c e c o m p a r i s o n s b e t w e e n d i e r e n t v e r s i o n s o f c l a s s e s

( u n o p t i m i z e d / l e s s o p t i m i z e d v e r s u s o p t i m i z e d / m o r e o p -

t i m i z e d c l a s s v e r s i o n s ) . O b j e c t s o f t h e s e c l a s s e s w e r e

c r e a t e d i n t e s t p r o g r a m s o n a 4 0 0 M H z P e n t i u m - I I c o m -

p u t e r r u n n i n g M i c r o s o f t W i n d o w s N T 4 . 0 a n d w i t h 1 2 8

M B o f m a i n m e m o r y . T h e J a v a J D K u s e d w a s J a v a -

S o f t ' s J D K 1 . 1 . 7 w i t h a j u s t - i n - t i m e c o m p i l e r . A l l J a v a

A P I i m p l e m e n t a t i o n d e t a i l s i n t h i s p a p e r a r e b a s e d o n

t h i s J D K . I n t h e r e m a i n d e r o f t h e p a p e r , t h e t e r m r e f -

e r e n c e p l a t f o r m w i l l r e f e r t o t h i s h a r d w a r e , o p e r a t i n g

s y s t e m , a n d J a v a J D K c o m b i n a t i o n . T o e n s u r e t h a t

t h e e x p e r i m e n t a l r e s u l t s a r e n o t d u e t o r e f e r e n c e p l a t -

f o r m i d i o s y n c r a s i e s , a l l e x p e r i m e n t s w e r e r e p e a t e d w i t h

t h e s a m e J D K o n a l o w - e n d 1 3 3 M H z P e n t i u m l a p t o p

w i t h 3 2 M B o f m e m o r y a n d M i c r o s o f t W i n d o w s 9 5 . A l -

t h o u g h t h e m e a s u r e d p e r f o r m a n c e w a s v e r y d i e r e n t o n

t h e l a p t o p , t h e r e l a t i v e p e r f o r m a n c e o f t h e d i e r e n t e x -

p e r i m e n t a l c l a s s v e r s i o n s w a s v e r y s i m i l a r t o t h a t o n t h e

r e f e r e n c e p l a t f o r m .

4 . 1 O b j e c t R e u s e

O b j e c t r e u s e r e f e r s t o a l i f e c y c l e o f a n o b j e c t t h a t d o e s

n o t e n d w i t h t h e r s t u s e o f t h e o b j e c t . I n s t e a d , t h e

o b j e c t ' s i n t e r n a l s t a t e i s c l e a n e d u p a f t e r e a c h u s e i n

s u c h a w a y t h a t t h e o b j e c t c a n b e u s e d a g a i n a s i f i t h a d

n e v e r b e e n u s e d b e f o r e . C l e a n i n g u p a n o b j e c t ' s i n t e r n a l

s t a t e i s o f t e n m u c h l e s s t i m e - c o n s u m i n g t h a n d i s c a r d i n g

t h e o b j e c t a n d t h e n r e a l l o c a t i n g a n o t h e r o b j e c t o f t h e

s a m e c l a s s i n c l u d i n g t i m e f o r g a r b a g e c o l l e c t i o n .

C o n s i d e r t h e c o d e f r a g m e n t o f c l a s s F r a g m e n t 1 1

i n F i g u r e 1 . I n e a c h c a l l t o m e t h o d r e a d I n t o B u f -


4/10

c l a s s F r a g m e n t 1 _ 1 {

p u b l i c b y t e ] r e a d I n t o B u f f e r ( I n p u t S t r e a m i n )

t h r o w s I O E x c e p t i o n {

b y t e ] b u f f e r = n e w b y t e 5 0 0 0 ] ;

B y t e A r r a y O u t p u t S t r e a m b y t e S t r e a m

= n e w B y t e A r r a y O u t p u t S t r e a m ( ) ;

i n t b y t e s R e a d ;

d o {

b y t e s R e a d = i n . r e a d ( b u f f e r ) ;

b y t e S t r e a m . w r i t e ( b u f f e r , 0 , b y t e s R e a d ) ;

} w h i l e ( b y t e s R e a d > 0 ) ;

r e t u r n b y t e S t r e a m . t o B y t e A r r a y ( ) ;

}

. . .

}

F i g u r e 1 : C l a s s F r a g m e n t 1 1

f e r , a n a l l o c a t i o n o f t h e b u f f e r a r r a y t a k e s p l a c e o n

t h e h e a p a n d t h e e n t i r e b u e r i s i n i t i a l i z e d w i t h 0 .

T h i s c a n b e t i m e - c o n s u m i n g . F r o m a p e r f o r m a n c e p o i n t

o f v i e w , a m u c h b e t t e r a l t e r n a t i v e t o F r a g m e n t 1 1 i s

c l a s s F r a g m e n t 1 2 s h o w n i n F i g u r e 2 , p r o v i d e d o n l y

o n e t h r e a d c a l l s r e a d I n t o B u f f e r s i m u l t a n e o u s l y . I n

c l a s s F r a g m e n t 1 _ 2 {

p r i v a t e b y t e ] b u f f e r = n e w b y t e 5 0 0 0 ] ;






d o {



} w h i l e ( b y t e s R e a d > 0 ) ;


}

. . .

}


F r a g m e n t 1 2 , a b u e r i s a l l o c a t e d o n l y o n c e , w h e n a

F r a g m e n t 1 2 o b j e c t i s d e n e d . T h e b u e r i s r e u s e d d u r -

i n g e a c h c a l l t o r e a d I n t o B u f f e r . W i t h F r a g m e n t 1 1 ,

m a n y c o p i e s o f t h e b u e r m a y e x i s t b e t w e e n s u b s e -

q u e n t g a r b a g e a l l o c a t i o n s , t h u s i n c r e a s i n g t h e m e m -

o r y r e q u i r e m e n t s o f t h e p r o g r a m a n d p o s s i b l y t h e t i m e

n e e d e d t o p e r f o r m t h e g a r b a g e c o l l e c t i o n . I f a t h r e a d -

s a f e v e r s i o n o f F r a g m e n t 1 2 i s n e e d e d

1

, e a c h t h r e a d

u s i n g F r a g m e n t 1 2 c a n p r o v i d e a c l a s s m e m b e r v a r i -

a b l e p r i v a t e b y t e ] b u f f e r = n e w b y t e 5 0 0 0 ] a n d

p a s s b u f f e r t o r e a d I n t o B u f f e r i n a m o d i e d c l a s s

F r a g m e n t 1 2 a s s h o w n i n F i g u r e 3 .

T h e o n l y c h a n g e a e c t i n g e x e c u t i o n s p e e d i n t h e

t h r e a d - s a f e v e r s i o n c o m p a r e d t o t h e t h r e a d - u n s a f e v e r -

s i o n i s t h e p r e s e n c e o f a s e c o n d p a r a m e t e r i n r e a d I n t o -

B u f f e r a n d t h e d e n i t i o n o f b u f f e r i n e a c h t h r e a d i n -

s t e a d o f i n o b j e c t s o f c l a s s F r a g m e n t 1 2 . I f t h e t h r e a d s

1

A t h r e a d - s a f e v e r s i o n c a n b e u s e d b y s e v e r a l t h r e a d s s i m u l t a -

n e o u s l y a n d p r o d u c e s t h e s a m e r e s u l t a s i f a l l t h r e a d s h a d u s e d i t

s e q u e n t i a l l y i n s o m e o r d e r .

c l a s s F r a g m e n t 1 _ 2 {

p u b l i c b y t e ] r e a d I n t o B u f f e r ( I n p u t S t r e a m i n ,

b y t e ] b u f f e r )





d o {



} w h i l e ( b y t e s R e a d > 0 ) ;


}

. . .

}

F i g u r e 3 : A t h r e a d - s a f e v e r s i o n o f c l a s s F r a g m e n t 1 2

a r e c r e a t e d m o r e o f t e n t h a n F r a g m e n t 1 2 o b j e c t s , t h e

t h r e a d - s a f e v e r s i o n w i l l b e s l o w e r t h a n t h e t h r e a d - u n s a f e

v e r s i o n . O t h e r w i s e , i t w i l l a c t u a l l y b e f a s t e r ( S e c t i o n 4 . 6

s h o w s h o w t h e t h r e a d c r e a t i o n f r e q u e n c y c a n b e l o w e r e d

i n m a n y c a s e s ) .

I n c l a s s F r a g m e n t 1 2 , t h e r e i s s t i l l a n e x p e n s i v e o b -

j e c t a l l o c a t i o n . E a c h t i m e r e a d I n t o B u f f e r i s c a l l e d a

B y t e A r r a y O u t p u t S t r e a m i s c r e a t e d . T h i s i m p l i e s t h e

a l l o c a t i o n o f a n i n t e r n a l b y t e ] a r r a y i n b y t e S t r e a m

t h a t c a n d y n a m i c a l l y g r o w i n l e n g t h d u r i n g s u b s e q u e n t

b y t e S t r e a m . w r i t e c a l l s ( s e e S e c t i o n 4 . 4 f o r a n a n a l y -

s i s o f t h e t i m e a n d m e m o r y c o s t o f d y n a m i c g r o w t h ) .

T h e r e i s a w a y t o a v o i d t h e r e p e a t e d c r e a t i o n o f t h i s

B y t e A r r a y O u t p u t S t r e a m . M a n y J a v a A P I c l a s s e s s u c h

a s B y t e A r r a y O u t p u t S t r e a m p r o v i d e a r e s e t ( ) m e t h o d

t h a t a l l o w s t h e r e u s e o f t h e o b j e c t , a n d s p e c i c a l l y o f

t h e i n t e r n a l b u e r a s i t w a s i m m e d i a t e l y b e f o r e t h e

r e s e t ( ) c a l l . F i g u r e 4 s h o w s h o w c l a s s F r a g m e n t 1 2

c a n b e c h a n g e d t o c l a s s F r a g m e n t 1 3 a c c o r d i n g l y . T h e

c l a s s F r a g m e n t 1 _ 3 {


p r i v a t e B y t e A r r a y O u t p u t S t r e a m

b y t e S t r e a m = n e w B y t e A r r a y O u t p u t S t r e a m ( ) ;




b y t e S t r e a m . r e s e t ( ) ;

d o {



} w h i l e ( b y t e s R e a d > 0 ) ;


}

. . .

}


p e r f o r m a n c e o f a l l F r a g m e n t 1 x c l a s s e s i s c o m p a r e d i n

S e c t i o n 4 . 2 .

S o m e c l a s s e s d o n o t p r o v i d e a r e s e t ( ) o r s i m i l a r

m e t h o d a l l o w i n g o b j e c t r e u s e . E x a m p l e s o f p o p u l a r

n o n - r e u s a b l e o b j e c t s w i t h p o t e n t i a l l y l a r g e i n t e r n a l d a t a


5/10

s t r u c t u r e s a r e S t r i n g T o k e n i z e r s , S t r i n g B u f f e r s , a n d

S t r i n g s . I n t h e s e c a s e s , t h e p r o g r a m m e r m a y w a n t t o

i n v e s t t h e t i m e a n d e o r t t o d e s i g n a s i m i l a r c l a s s v e r -

s i o n f r o m g r o u n d u p t h a t a l l o w s t h e c r e a t i o n a n d l a t e r

r e u s e o f o b j e c t s . T h e m e a n s f o r o b j e c t r e u s e a r e m e t h -

o d s f o r r e s e t t i n g t h e i n t e r n a l s t a t e o f a n o b j e c t t o a

p r e d e n e d v a l u e a n d t h e n e n a b l i n g s u b s e q u e n t o b j e c t

s t a t e c h a n g e s .

4 . 2 A v o i d i n g J a v a A P I M e t h o d s w i t h I m p l i c i t O b j e c t A l -

l o c a t i o n s

I m p l i c i t o b j e c t a l l o c a t i o n r e f e r s t o t h e c r e a t i o n o f a n

o b j e c t w i t h i n a n A P I m e t h o d a n d w i t h o u t e x p l i c i t a l l o -

c a t i o n b y t h e c a l l i n g m e t h o d . F o r e x a m p l e , B y t e A r r a y -

O u t p u t S t r e a m . t o B y t e A r r a y ( ) r e t u r n s a n e w l y c r e a t e d

c o p y o f t h e i n t e r n a l b y t e ] b u e r i n t h e B y t e A r r a y -

O u t p u t S t r e a m o b j e c t . C l a s s F r a g m e n t 1 3 c o n t a i n s i m -

p l i c i t o b j e c t a l l o c a t i o n s t h a t m a y s l o w d o w n t h e e x e c u -

t i o n . S u p p o s e t h e c o n t e n t s o f t h e b y t e ] a r r a y r e t u r n e d

b y r e a d I n t o B u f f e r w e r e n o t u s e d a f t e r t h e n e x t i n v o -

c a t i o n o f r e a d I n t o B u f f e r a n d t h e r e i s o n l y o n e t h r e a d

c a l l i n g r e a d I n t o B u f f e r s i m u l t a n e o u s l y . I n t h e s e c a s e s ,

t h e b y t e S t r e a m . t o B y t e A r r a y ( ) m e t h o d c a l l i s w a s t e -

f u l b e c a u s e i t w i l l a l l o c a t e a n e w b y t e ] a r r a y a n d t h e n

c o p y t h e c o n t e n t s o f t h e B y t e A r r a y O u t p u t S t r e a m ' s i n -

t e r n a l b u e r i n t o t h e n e w l y a l l o c a t e d b y t e ] a r r a y .

T h e a r r a y a l l o c a t i o n a n d t h e c o p y o p e r a t i o n c a n b e

a v o i d e d b y u s i n g a s i m p l e m o d i c a t i o n o f t h e B y t e -

A r r a y O u t p u t S t r e a m c l a s s s h o w n i n F i g u r e 5 . T h e m a i n

c l a s s M y B y t e A r r a y O u t p u t S t r e a m

e x t e n d s B y t e A r r a y O u t p u t S t r e a m {

p u b l i c M y B y t e A r r a y O u t p u t S t r e a m ( ) {

s u p e r ( ) ;

}

p u b l i c M y B y t e A r r a y O u t p u t S t r e a m ( i n t c a p a c i t y ) {

s u p e r ( c a p a c i t y ) ;

}

p u b l i c b y t e ] g e t B y t e A r r a y ( ) {

r e t u r n b u f ;

}

}

F i g u r e 5 : S u b c l a s s i n g B y t e A r r a y O u t p u t S t r e a m t o g a i n

a c c e s s t o i t s i n t e r n a l b u e r

d i e r e n c e b e t w e e n t h e n e w c l a s s M y B y t e A r r a y O u t p u t -

S t r e a m s h o w n i n F i g u r e 5 a n d B y t e A r r a y O u t p u t S t r e a m

i s t h e p u b l i c a c c e s s i b i l i t y o f t h e i n t e r n a l b u e r b u f i n

t h e n e w c l a s s v i a g e t B y t e A r r a y . T h e b u e r i s a p r o -

t e c t e d v a r i a b l e i n B y t e A r r a y O u t p u t S t r e a m , a n d t h u s

e v e r y s u b c l a s s h a s t h e r i g h t t o g i v e c l a s s u s e r s a c c e s s

t o b u f . B y t a k i n g a d v a n t a g e o f M y B y t e A r r a y O u t p u t -

S t r e a m ' s f e a t u r e s , c l a s s F r a g m e n t 1 3 c a n b e r e w r i t t e n

a s F r a g m e n t 1 4 l i s t e d i n F i g u r e 6 . F i g u r e 7 s h o w s a n

e x a m p l e o f h o w c l a s s F r a g m e n t 1 4 c a n b e u s e d .

T a b l e 1 c o m p a r e s t h e e x e c u t i o n t i m e s o f a l l F r a g -

m e n t 1 x c l a s s e s p e r i n v o c a t i o n o f r e a d I n t o B u f f e r . I t

c l a s s F r a g m e n t 1 _ 4 {


p r i v a t e M y B y t e A r r a y O u t p u t S t r e a m

b y t e S t r e a m = n e w M y B y t e A r r a y O u t p u t S t r e a m ( ) ;

p u b l i c M y B y t e A r r a y O u t p u t S t r e a m

r e a d I n t o B u f f e r ( I n p u t S t r e a m i n )




d o {



} w h i l e ( b y t e s R e a d > 0 ) ;

r e t u r n b y t e S t r e a m ;

}

. . .

}


F r a g m e n t 1 _ 4 s t r e a m = n e w F r a g m e n t 1 _ 4 ( ) ;

M y B y t e A r r a y O u t p u t S t r e a m t e m p = s t r e a m . r e a d I n t o B u f f e r ( ) ;

b y t e ] b u f f e r = t e m p . g e t B y t e A r r a y ( ) ;

i n t l e n g t h = t e m p . s i z e ( ) ;

f o r ( i n t i = 0 ; i < l e n g t h ; i + + )

i f ( b u f f e r i ] = = ' \ n ' )

S y s t e m . o u t . p r i n t l n ( " N e w L i n e F o u n d . " ) ;

F i g u r e 7 : A n e x a m p l e o f c o d e u s i n g c l a s s F r a g m e n t 1 4

i s c l e a r t h a t e a c h t e c h n i q u e p r e s e n t e d a b o v e y i e l d s a s i g -

n i c a n t e x e c u t i o n t i m e d e c r e a s e . I n f a c t , F r a g m e n t 1 4

i s m o r e t h a n 1 5 t i m e s f a s t e r t h a n F r a g m e n t 1 1 . T h e

t e s t p r o g r a m c a l l s r e a d I n t o B u f f e r t o r e a d t h e c o n -

t e n t s o f a 5 k B b u e r t h a t i s w r a p p e d i n a n i n p u t s t r e a m

o b j e c t . T h e n u m b e r s i n t h e t a b l e a r e a v e r a g e d o v e r

1 0 0 0 0 i n v o c a t i o n s o f m e t h o d r e a d I n t o B u f f e r o n t h e

s a m e F r a g m e n t 1 x o b j e c t .

T h e J a v a A P I c o n t a i n s m a n y m e t h o d s t h a t c o p y a n

o b j e c t - i n t e r n a l b u e r i n t o a n e w l y c r e a t e d o b j e c t b e f o r e

r e t u r n i n g t h e c o p y t o t h e c a l l i n g m e t h o d . T h e c o p y o p -

e r a t i o n c a n b e a n e x a c t c o p y o r a c o n v e r s i o n o f t h e c o n -

t e n t s o f t h e o b j e c t - i n t e r n a l b u e r i n t o a d i e r e n t r e p r e -

s e n t a t i o n . E x a m p l e s o f s u c h m e t h o d s a r e t o S t r i n g ( ) ,

g e t B y t e s ( ) , a n d t o B y t e A r r a y ( ) . I n m a n y c a s e s , t h e r e

i s n o n e e d f o r o p e r a t i n g o n a c o p y o f a n i n t e r n a l b u e r

i n s t e a d o f o n t h e b u e r i t s e l f . I n s t e a d , t h e t e c h n i q u e

d e m o n s t r a t e d w i t h M y B y t e A r r a y O u t p u t S t r e a m o r d e -

s i g n i n g t h e d e s i r e d c l a s s f r o m g r o u n d u p a r e b e t t e r a l -

t e r n a t i v e s f r o m a p e r f o r m a n c e p o i n t o f v i e w t h a n t h e

J a v a A P I c l a s s e s .

4 . 3 S t a t i c a l l y C r e a t i n g I m m u t a b l e O b j e c t s

A n o t h e r w a y o f r e u s i n g o b j e c t s i s t o s t a t i c a l l y c r e a t e

i m m u t a b l e o b j e c t s t h a t a r e u s e d r e p e a t e d l y . S t a t i c c r e -

a t i o n m e a n s a l l o c a t i o n o f t h e c o r r e s p o n d i n g o b j e c t s a s

m e m b e r v a r i a b l e s i n c l a s s e s a n d d e c l a r i n g t h e m s t a t i c .

S u c h o b j e c t s a r e c r e a t e d o n c e a c r o s s a l l o b j e c t s o f t h e

s a m e c l a s s a n d n o t e a c h t i m e b e f o r e t h e y a r e u s e d .


6/10

F r a g m e n t 1 1 F r a g m e n t 1 2 F r a g m e n t 1 3 F r a g m e n t 1 4

E x e c u t i o n T i m e i n s 4 7 8 3 9 9 1 4 1 3 2

N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 8 3 : 6 3 2 9 : 4 2 6 : 6 4

T a b l e 1 : C o m p a r i n g t h e p e r f o r m a n c e o f a l l F r a g m e n t 1 x c l a s s e s

E x a m p l e s o f i m m u t a b l e o b j e c t s a r e c e r t a i n e r r o r m e s -

s a g e s , n o t i c a t i o n s , a n d e x c e p t i o n s w h o s e c o n t e n t i s i n -

d e p e n d e n t o f t h e c o n t e x t i n w h i c h t h e y a r e u s e d . C o n -

s i d e r t h e e x c e r p t o f c l a s s F r a g m e n t 2 1 s h o w n i n F i g u r e

8 . S u p p o s e w e e x p e c t t h e I O E x c e p t i o n t o b e t h r o w n

c l a s s F r a g m e n t 2 _ 1 {





r e a d I n t o B u f f e r ( I n p u t S t r e a m i n ,

O u t p u t S t r e a m o u t ) {



t r y {

d o {



i f ( b y t e s R e a d > 5 1 2 )

t h r o w n e w I O E x c e p t i o n ( ) ;

} w h i l e ( b y t e s R e a d > 0 ) ;

o u t . w r i t e ( " \ r M e s s a g e s u c c e s s f u l l y r e a d

i n r e a d I n t o B u f f e r " . g e t B y t e s ( ) ) ;

} c a t c h ( I O E x c e p t i o n e ) {

t r y {

o u t . w r i t e ( " \ r M a x i m u m m e s s a g e l e n g t h e x c e e d e d

i n r e a d I n t o B u f f e r " . g e t B y t e s ( ) ) ;

} c a t c h ( I O E x c e p t i o n e 1 )

{ }

}


}

. . .

}


f r e q u e n t l y i n s i d e t h e r e a d I n t o B u f f e r m e t h o d . N o -

t i c e t h a t t h e I O E x c e p t i o n a n d b o t h S t r i n g s t h a t c a n

b e w r i t t e n t o o u t n e v e r c h a n g e a n d y e t a r e d y n a m -

i c a l l y c r e a t e d e a c h t i m e t h e c o r r e s p o n d i n g s t a t e m e n t

i s e x e c u t e d . T h u s , b y s t a t i c a l l y c r e a t i n g t h e S t r i n g s

a n d t h e I O E x c e p t i o n , c l a s s F r a g m e n t 2 1 c a n b e c o d e d

m o r e e c i e n t l y a s c l a s s F r a g m e n t 2 2 l i s t e d i n F i g u r e 9 .

C r e a t i n g a n e x c e p t i o n a l s o m e a n s c a p t u r i n g t h e s t a c k

a t t h i s p o i n t i n t i m e . C o n s e q u e n t l y , i f a n e x c e p t i o n

i s c r e a t e d s t a t i c a l l y a s i n F r a g m e n t 2 2 , r e t r i e v i n g t h e

s t a c k c o n t e n t s a s s o c i a t e d w i t h t h i s e x c e p t i o n i n a c a t c h

c l a u s e m e a n s o b t a i n i n g t h e s t a c k c o n t e n t s a t t h e t i m e o f

e x c e p t i o n c r e a t i o n a n d n o t t h e t i m e w h e n t h e e x c e p t i o n

w a s t h r o w n .

T a b l e 2 c o m p a r e s t h e e x e c u t i o n t i m e o f c l a s s F r a g -

m e n t 2 1 w i t h t h a t o f F r a g m e n t 2 2 p e r i n v o c a t i o n o f

r e a d I n t o B u f f e r . T h e t e s t p r o g r a m c a l l s r e a d I n t o -

c l a s s F r a g m e n t 2 _ 2 {




p r i v a t e s t a t i c b y t e ]

s u c c e s s M s g = " \ r M e s s a g e s u c c e s s f u l l y r e a d

i n r e a d I n t o B u f f e r " . g e t B y t e s ( ) ,

e r r o r M s g = " \ r M a x i m u m m e s s a g e l e n g t h e x c e e d e d

i n r e a d I n t o B u f f e r " . g e t B y t e s ( ) ;

p r i v a t e s t a t i c I O E x c e p t i o n l e n g t h E x c e e d e d

= n e w I O E x c e p t i o n ( ) ;


r e a d I n t o B u f f e r ( I n p u t S t r e a m i n ,

O u t p u t S t r e a m o u t ) {



t r y {

d o {



i f ( b y t e s R e a d > 5 1 2 )

t h r o w l e n g t h E x c e e d e d ;

} w h i l e ( b y t e s R e a d > 0 ) ;

o u t . w r i t e ( s u c c e s s M s g ) ;

} c a t c h ( I O E x c e p t i o n e ) {

t r y {

o u t . w r i t e ( e r r o r M s g ) ;

} c a t c h ( I O E x c e p t i o n e 1 )

{ }

}


}

. . .

}


B u f f e r t o r e a d t h e c o n t e n t s o f a 5 k B b u e r t h a t i s

w r a p p e d i n a n i n p u t s t r e a m o b j e c t . T h e o u t p u t i s w r i t -

t e n t o a l e . T h e p e r f o r m a n c e g u r e s f o r t h i s c a s e c a n

b e f o u n d i n t h e t o p p o r t i o n o f T a b l e 2 . T h e n u m -

b e r s i n t h e t a b l e a r e a v e r a g e d o v e r 1 0 0 0 0 i n v o c a t i o n s

o f r e a d I n t o B u f f e r o n t h e s a m e F r a g m e n t 2 x o b j e c t .

M e t h o d r e a d I n t o B u f f e r i s s e t u p i n s u c h a w a y t h a t

a n I O E x c e p t i o n i s t h r o w n i n o n e q u a r t e r o f a l l c a l l s .

I f t h e o u t p u t o f F r a g m e n t 2 2 i s w r i t t e n t o t h e c o m -

p u t e r s c r e e n i n s t e a d o f a l e , t h e e x e c u t i o n t i m e s o f t h e

d i e r e n t v e r s i o n s o f r e a d I n t o B u f f e r i n F r a g m e n t 2 1

a n d F r a g m e n t 2 2 a r e m u c h c l o s e r t o t h e s a m e v a l u e ,

i . e . , l e s s t i m e c a n b e s a v e d b y s t a t i c a l l y c r e a t i n g i m -

m u t a b l e o b j e c t s . T h i s i s s h o w n i n t h e m i d d l e o f T a b l e

2 . A p p a r e n t l y , b u e r e d o u t p u t t o a l e i s m u c h f a s t e r

h e r e t h a n o u t p u t t o a s c r e e n , a n d s c r e e n o u t p u t d o m i -

n a t e s t h e e x e c u t i o n t i m e .

F r a g m e n t 2 x u s e s S y s t e m . o u t . w r i t e f o r s c r e e n o u t -


7/10

F r a g m e n t 2 1 F r a g m e n t 2 2

F i l e O u t p u t E x e c u t i o n T i m e i n s 9 1 4 1

( b u e r e d ) N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 4 5 : 0 5

S c r e e n O u t p u t E x e c u t i o n T i m e i n s 2 1 3 1 6 3

( S y s t e m . o u t . w r i t e ) N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 7 6 : 5 3

S c r e e n O u t p u t E x e c u t i o n T i m e i n s 1 9 6 1 9 1

( S y s t e m . o u t . p r i n t ) N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 9 7 : 4 5

T a b l e 2 : C o m p a r i n g t h e e x e c u t i o n t i m e s o f F r a g m e n t 2 1 a n d F r a g m e n t 2 2 p e r i n v o c a t i o n o f r e a d I n t o B u f f e r

p u t i n s t e a d o f S y s t e m . o u t . p r i n t . T h e n a i v e w a y o f

s t a t i c a l l y c r e a t i n g t h e e r r o r a n d s u c c e s s m e s s a g e s a n d

t o w r i t e t h e m t o t h e s c r e e n w o u l d b e t o d e c l a r e

p r i v a t e s t a t i c S t r i n g

s u c c e s s M s g = " \ r M e s s a g e s u c c e s s f u l l y r e a d

i n r e a d I n t o B u f f e r " ,

e r r o r M s g = " \ r M a x i m u m m e s s a g e l e n g t h

e x c e e d e d i n r e a d I n t o B u f f e r " ;

a n d t o o u t p u t t h e s e m e s s a g e s b y c a l l i n g S y s t e m . o u t . -

p r i n t . H e r e , t h e c o n v e r s i o n o f t h e S t r i n g s t o b y t e ]

a r r a y s w o u l d h a p p e n d u r i n g e a c h i n v o c a t i o n o f t h e S y s -

t e m . o u t . p r i n t m e t h o d a n d n o t d u r i n g t h e o n e - t i m e

c r e a t i o n o f t h e e r r o r a n d s u c c e s s m e s s a g e s . T h e b o t -

t o m p o r t i o n o f T a b l e 2 s h o w s h o w t h e e x e c u t i o n t i m e

o f r e a d I n t o B u f f e r i n F r a g m e n t 2 1 w o u l d c o m p a r e t o

t h a t i n F r a g m e n t 2 2 i f F r a g m e n t 2 2 u s e d t h e n a i v e w a y

o f c r e a t i n g a n d d i s p l a y i n g t h e s u c c e s s a n d e r r o r m e s -

s a g e s . C l e a r l y , F r a g m e n t 2

2 n o w s a v e s h a r d l y a n y t i m e

c o m p a r e d t o F r a g m e n t 2 1 .

4 . 4 A v o i d i n g D y n a m i c a l l y E x p a n d i n g O b j e c t s

M a n y i n s t a n t i a t i o n s o f J a v a A P I c l a s s e s c o n t a i n b u e r s

t h a t e x p a n d d y n a m i c a l l y a s m o r e d a t a i s a d d e d t o t h e m .

E x a m p l e s o f s u c h c l a s s e s a r e B y t e A r r a y O u t p u t S t r e a m ,

S t r i n g B u f f e r , V e c t o r , a n d H a s h t a b l e . W h e n e v e r t h e

i n t e r n a l b u e r h a s r e a c h e d i t s c a p a c i t y a n d n e w d a t a i s

a d d e d , a n e w b u e r w i t h t w i c e t h e s i z e o f t h e p r e v i o u s

b u e r o r m o r e , i f n e c e s s a r y , i s a l l o c a t e d . T h e c o n t e n t

o f t h e o l d b u e r i s t h e n c o p i e d i n t o t h e n e w b u e r a n d

n e w d a t a i s a d d e d t o t h e l a r g e r i n t e r n a l b u e r . T h e s e

a l l o c a t i o n s a n d c o p y o p e r a t i o n s a n d s u b s e q u e n t g a r b a g e

c o l l e c t i o n c a n b e v e r y t i m e - c o n s u m i n g . S u p p o s e t h e

i n i t i a l s i z e o f t h e i n t e r n a l b u e r i s 1 d a t a u n i t , t h e n a l

s i z e i s n d a t a u n i t s , a n d a c e r t a i n m a x i m u m n u m b e r o f

d a t a c h u n k s i s a d d e d s e v e r a l t i m e s i n b e t w e e n ( 1 d a t a

u n i t d u r i n g t h e r s t a n d s e c o n d a d d i t i o n o f d a t a a n d

n o t m o r e t h a n 2

i ? 2

d a t a u n i t s d u r i n g t h e i t h a d d i t i o n o f

d a t a , f o r i > 2 ) . T h e t o t a l c o s t o f t h e b u e r e x p a n s i o n

i s

d l o g

2

n e + 1 b u e r a l l o c a t i o n s o n t h e h e a p ,

d l o g

2

n e c o p y o p e r a t i o n s w i t h a t o t a l c o p y v o l u m e

o f a t l e a s t 2 n ? 1 d a t a u n i t s , a n d

a t o t a l d a t a v o l u m e o f a t l e a s t 4 n ? 1 d a t a u n i t s

i n a l l a l l o c a t e d b u e r s .

A l t h o u g h a l l t h e s e f u n c t i o n s a r e a t m o s t l i n e a r i n n ,

t h e y c a n c o n s i d e r a b l y s l o w d o w n a J a v a s e r v e r u n d e r

h e a v y l o a d t h a t h a s t o p e r f o r m t h e s e o p e r a t i o n s m a n y

h u n d r e d s o r t h o u s a n d s o f t i m e s e a c h s e c o n d .

T h e r e a r e m a n y w a y s o f a v o i d i n g o b j e c t s w i t h d y -

n a m i c a l l y e x p a n d i n g b u e r s , n o n e o f w h i c h , h o w e v e r ,

o e r s t h e c o n v e n i e n c e o f u s i n g t h e c o r r e s p o n d i n g J a v a

A P I c l a s s e s . O n e t e c h n i q u e o f a v o i d i n g t h e f r e q u e n t

c r e a t i o n o f d y n a m i c a l l y e x p a n d i n g o b j e c t s i s d e m o n -

s t r a t e d h e r e . S u p p o s e c l a s s F r a g m e n t 1 4 w e r e u s e d i n a

W e b p r o x y a n d h a d t h e t a s k o f r e a d i n g i n H T M L d o c -

u m e n t s . S u p p o s e a l s o t h a t r e a d I n t o B u f f e r i s c a l l e d

o n l y o n c e o r a f e w t i m e s o n e a c h F r a g m e n t 1 4 o b j e c t .

W e k n o w t h a t c u r r e n t l y f e w H T M L d o c u m e n t s e x c e e d

1 5 0 0 0 b y t e s i n s i z e . F r a g m e n t 1 4 c a n b e m o d i e d t o

F r a g m e n t 1 5 a s s h o w n i n F i g u r e 1 0 t o a v o i d t h e o v e r -

h e a d o f i n t e r n a l b u e r a l l o c a t i o n a n d c o p y o p e r a t i o n s

i n M y B y t e A r r a y O u t p u t S t r e a m i n m o s t c a s e s .

N o t i c e t h a t i n c l a s s F r a g m e n t 1 5 t h e r e i s n o n e e d

f o r c o p y i n g d a t a f r o m t h e b u f f e r i n t o t h e b y t e S t r e a m

u n l e s s t h e a m o u n t o f d a t a r e a d e x c e e d s b u f f e r L e n g t h .

T h i s i s a n o t h e r s i g n i c a n t p e r f o r m a n c e i m p r o v e m e n t .

P r e v i o u s e x a m p l e s s h o w e d t h a t c o p y i n g a n i n t e r n a l o b -

j e c t b u e r b e f o r e r e t u r n i n g i t s c o n t e n t s t o a c a l l i n g

m e t h o d c a n h a v e a s i g n i c a n t i m p a c t o n t h e e x e c u t i o n

s p e e d . N a t u r a l l y , c o p y i n g d a t a f r o m a s o u r c e ( s u c h a s

a b u e r ) i n t o a n o t h e r o b j e c t f o r i n i t i a l i z a t i o n o r t o e x -

p a n d t h e c o n t e n t o f t h e d e s t i n a t i o n o b j e c t c a n h a v e a n

e q u a l l y s e r i o u s i m p a c t o n p r o g r a m p e r f o r m a n c e a s t h i s

e x a m p l e a n d t h e p e r f o r m a n c e m e a s u r e m e n t s i n T a b l e

3 s h o w . T h i s t a b l e c o m p a r e s t h e e x e c u t i o n t i m e s o f

c l a s s e s F r a g m e n t 1 4 a n d F r a g m e n t 1 5 p e r i n v o c a t i o n

o f m e t h o d r e a d I n t o B u f f e r . T h e t o p p a r t o f t h e t a b l e

( 1 0 0 0 0 B y t e I n p u t ) r e f e r s t o a t e s t p r o g r a m t h a t c a l l s

r e a d I n t o B u f f e r t o r e a d t h e c o n t e n t s o f a 1 0 0 0 0 b y t e

b u e r 5 1 2 b y t e s a t a t i m e .

I n t h i s t e s t e n v i r o n m e n t , c l a s s e s F r a g m e n t 1 2 a n d

F r a g m e n t 1 3 c a n n o t c a p i t a l i z e o n o b j e c t r e u s e t e c h -

n i q u e s ( s e e S e c t i o n s 4 . 1 a n d 4 . 2 ) b e c a u s e r e a d I n t o -

B u f f e r i s c a l l e d o n l y o n c e . T h e r e f o r e , F r a g m e n t 1 2

a n d F r a g m e n t 1 3 d o n o t p r o v i d e p e r f o r m a n c e g a i n s o v e r


8/10

F r a g m e n t 1 4 F r a g m e n t 1 5

1 0 0 0 0 B y t e I n p u t E x e c u t i o n T i m e i n s 6 9 2 3 1 8

N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 4 5 : 9

2 0 0 0 0 B y t e I n p u t E x e c u t i o n T i m e i n s 1 3 9 0 9 7 0

N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 6 9 : 6 4

T a b l e 3 : C o m p a r i n g t h e p e r f o r m a n c e o f c l a s s e s F r a g m e n t 1 4 a n d F r a g m e n t 1 5 u s i n g a 1 0 0 0 0 / 2 0 0 0 0 b y t e i n p u t

F r a g m e n t 1 1 . F r a g m e n t 1 4 i s a p p r o x i m a t e l y 2 5 % f a s t e r

t h a n F r a g m e n t 1 1 , F r a g m e n t 1 2 , a n d F r a g m e n t 1 3 b e -

c a u s e i t a v o i d s c o p y i n g t h e i n t e r n a l b u e r o f t h e B y t e -

A r r a y O u t p u t S t r e a m b e f o r e r e t u r n i n g f r o m t h e m e t h o d .

F r a g m e n t 1 5 i s m o r e t h a n t w i c e a s f a s t a s F r a g m e n t 1 4 .

I f t h e r e w e r e a n a - p r i o r i k n o w n l i m i t o f 1 5 0 0 0 b y t e s

o n t h e s i z e o f a d o c u m e n t r e a d b y r e a d I n t o B u f f e r ,

t h e r e w o u l d n o t b e a n y n e e d f o r t h e v a r i a b l e b y t e -

S t r e a m , a n d t h e d e s i g n o f F r a g m e n t 1 5 w o u l d b e m u c h

s i m p l e r . I n a n y c a s e , a p p l y i n g t h e a b o v e t e c h n i q u e h a s

t o b e w e i g h e d c a r e f u l l y b e c a u s e t h e r e i s a t r a d e - o b e -

t w e e n t i m e a n d m e m o r y r e q u i r e m e n t s . I f a d o c u m e n t i s

u s u a l l y v e r y s m a l l , c r e a t i n g a s t a t i c b u e r o f s i z e 1 5 0 0 0

b y t e s l e a d s t o f a s t e x e c u t i o n b u t a l s o c o n s u m e s u n n e c -

e s s a r y m e m o r y .

T h e a b o v e t e s t f a v o r e d F r a g m e n t 1 5 b e c a u s e l e s s

t h a n 1 5 0 0 0 b y t e s o f d a t a w e r e r e a d i n r e a d I n t o B u f -

f e r . T a b l e 3 a l s o s h o w s t h e p e r f o r m a n c e c o m p a r i s o n

b e t w e e n c l a s s e s F r a g m e n t 1 4 a n d F r a g m e n t 1 5 i f 2 0 0 0 0

b y t e s o f d a t a a r e r e a d . A l l o t h e r p a r a m e t e r s a r e u n -

c h a n g e d f r o m t h e t e s t w i t h a 1 0 0 0 0 b y t e i n p u t . S i n c e

F r a g m e n t 1 5 p r o c e s s e s t h e r s t 1 5 0 0 0 b y t e s m o r e e f -

c i e n t l y t h a n F r a g m e n t 1 4 a n d a f t e r w a r d s s w i t c h e s t o

t h e s a m e a l g o r i t h m t h a t F r a g m e n t 1 4 u s e s , i t s t i l l p e r -

f o r m s c o n s i d e r a b l y f a s t e r t h a n F r a g m e n t 1 4 i n t h i s c a s e .

4 . 5 A d e q u a t e O b j e c t I n i t i a l i z a t i o n

I f a d y n a m i c a l l y e x p a n d i n g o b j e c t i s u s e d i n a J a v a p r o -

g r a m , m u c h o f t h e i n t e r n a l b u e r e x p a n s i o n e x p l a i n e d

i n S e c t i o n 4 . 2 c a n b e a v o i d e d b y u s i n g a c o n s t r u c t o r

t h a t a p p r o p r i a t e l y i n i t i a l i z e s t h e i n t e r n a l b u e r . M o s t

J a v a A P I c l a s s e s w i t h i n t e r n a l b u e r s s u c h a s B y t e -

A r r a y O u t p u t S t r e a m p r o v i d e a c o n s t r u c t o r t h a t a l l o w s

t h e p r o g r a m m e r t o s e t a n i n i t i a l s i z e f o r t h e i n t e r n a l

d a t a s t r u c t u r e . T h e d e f a u l t c o n s t r u c t o r f o r B y t e A r r a y -

O u t p u t S t r e a m u s e s a n i n i t i a l c a p a c i t y o f 3 2 b y t e s i n t h e

J a v a S o f t J a v a 1 . 1 . 7 A P I . I f t h e p r o g r a m m e r e x p e c t s a

l a r g e n u m b e r o f b y t e s t o b e r e a d i n s m a l l c h u n k s d u r -

i n g t h e a v e r a g e e x e c u t i o n o f r e a d I n t o B u f f e r , u s i n g

B y t e A r r a y O u t p u t S t r e a m ( n ) w i t h a n a d e q u a t e n s a v e s

t i m e - c o n s u m i n g m e m o r y a l l o c a t i o n s a n d c o p y o p e r a -

t i o n s o v e r u s i n g t h e d e f a u l t c o n s t r u c t o r . O n t h e o t h e r

h a n d , a n o v e r l y l a r g e n c o u l d w a s t e m e m o r y a n d t h e

t i m e f o r a l l o c a t i n g a l a r g e b u e r c a n b e s i g n i c a n t l y

l o n g e r t h a n f o r c r e a t i n g a s m a l l b u e r ( s e e S e c t i o n 3 ) .

C l a s s F r a g m e n t 1 4 i n S e c t i o n 4 . 2 u s e s t h e d e f a u l t

s i z e ( 3 2 b y t e s ) f o r t h e i n t e r n a l b u e r o f c l a s s M y B y t e -

A r r a y O u t p u t S t r e a m . T a b l e 4 ( S c e n a r i o 1 ) c o m p a r e s

t h e e x e c u t i o n t i m e p e r i n v o c a t i o n o f m e t h o d r e a d I n -

t o B u f f e r i n c l a s s F r a g m e n t 1 4 w i t h t h a t o f a m o d i -

e d v e r s i o n o f F r a g m e n t 1 4 , w h e r e t h e i n t e r n a l b u e r

o f M y B y t e A r r a y O u t p u t S t r e a m i s i n i t i a l i z e d w i t h 1 0 0 0 0

b y t e s . A c a l l t o m e t h o d r e a d I n t o B u f f e r r e a d s t h e c o n -

t e n t s o f a 5 k B b u e r , 5 0 0 0 b y t e s a t a t i m e . T h e n u m -

b e r s i n t h e t a b l e a r e a v e r a g e d o v e r 1 0 0 0 0 i n v o c a t i o n s

o f r e a d I n t o B u f f e r f o r t h e s a m e F r a g m e n t 1 4 o b j e c t .

A p p a r e n t l y , u s i n g a n i n t e r n a l b u e r w i t h a n i n i t i a l s i z e

o f 1 0 0 0 0 b y t e s a c t u a l l y r e s u l t s i n a s l i g h t p e r f o r m a n c e

p e n a l t y . T h e r e a s o n i s t h a t a l l i n v o c a t i o n s o f r e a d I n -

t o B u f f e r r e u s e t h e i n t e r n a l b u e r , a n d t h e r e f o r e t h e

b u e r d o e s n o t g r o w a s m o r e d a t a i s r e a d i n t o i t . A l -

l o c a t i n g a l a r g e i n t e r n a l b u e r , h o w e v e r , i s m o r e t i m e -

c o n s u m i n g t h a n a l l o c a t i n g a b u e r w i t h t h e d e f a u l t s i z e

a s e x p l a i n e d a b o v e .

L e t u s l o o k a t a d i e r e n t s c e n a r i o . I f r e a d I n t o B u f -

f e r i s c a l l e d o n l y o n c e a n d r e a d s i n a t o t a l o f 5 k B , 1 0 0

b y t e s a t a t i m e , a n i n i t i a l b u e r s i z e o f 1 0 0 0 0 b y t e s i n -

s t e a d o f t h e d e f a u l t s i z e ( a s s u m i n g t h a t t h e a c t u a l s i z e

o f t h e i n p u t i s n o t k n o w n e x a c t l y a h e a d o f t i m e ) s a v e s

c o n s i d e r a b l e t i m e . T h i s i s s h o w n i n T a b l e 4 ( S c e n a r i o

2 ) . I n t h e c a s e w h e r e t h e d e f a u l t b u e r s i z e i s u s e d i n -

s t e a d , t h e t i m e s a v e d b y n o t a l l o c a t i n g t h e l a r g e r i n i t i a l

b u e r i s m o r e t h a n o s e t b y t h e a m o u n t o f t i m e s p e n t i n

d y n a m i c a l l y e x p a n d i n g t h e i n t e r n a l b u e r a s m o r e d a t a

i s b e i n g r e a d i n d u r i n g e a c h c a l l t o r e a d I n t o B u f f e r .

4 . 6 T h r e a d P o o l i n g

A w e l l - k n o w n t e c h n i q u e f o r r e u s i n g o b j e c t s i s o b j e c t

p o o l i n g a n d s p e c i c a l l y t h r e a d p o o l i n g . T h r e a d c r e a t i o n

i s t i m e - c o n s u m i n g n o t o n l y b e c a u s e a J a v a t h r e a d i s a n

o b j e c t b u t a l s o b e c a u s e i t r e q u i r e s b e h i n d - t h e - s c e n e s

b o o k k e e p i n g a n d c o n t e x t s w i t c h i n g a s a p a r a l l e l u n i t

o f e x e c u t i o n . T h r e a d s u s u a l l y c o n t a i n o b j e c t s a s m e m -

b e r v a r i a b l e s t h a t h a v e t o b e a l l o c a t e d a n d i n i t i a l i z e d

e a c h t i m e a t h r e a d i s s p a w n e d . T h e r e f o r e , i f a m e t h o d

s o l v e s t h e p r o b l e m a t h a n d j u s t a s e a s i l y a n d c o n v e -

n i e n t l y a s a t h r e a d , t h e n a m e t h o d s h o u l d b e u s e d . I f

n o t , t h r e a d p o o l i n g c a n p r o v i d e t h e m e a n s t o r e d u c e

t h e o v e r h e a d a s s o c i a t e d w i t h f r e q u e n t t h r e a d c r e a t i o n ,

f o r i n s t a n c e i n a s e r v e r ( t i m e r s , r e q u e s t h a n d l e r s , e t c . ) .


9/10

D e f a u l t S i z e W i t h 1 0 0 0 0 B y t e B u e r

S c e n a r i o 1 E x e c u t i o n T i m e i n s 3 1 : 8 3 2 : 8

N o r m a l i z e d E x e c u t i o n T i m e 1 0 0 1 0 3 : 4

S c e n a r i o 2 E x e c u t i o n T i m e i n s 3 5 7 2 2 1


T a b l e 4 : C o m p a r i n g t h e p e r f o r m a n c e o f c l a s s F r a g m e n t 1 4 w i t h a 3 2 b y t e a n d a 1 0 0 0 0 b y t e b u e r i n i t i a l i z a t i o n i n

t w o s c e n a r i o s

T h r e a d p o o l i n g r e f e r s t o t h e s t a t i c c r e a t i o n o f a s u -

c i e n t n u m b e r o f t h r e a d o b j e c t s b e f o r e t h e i r a c t u a l u s e .

E a c h t h r e a d t h e n e n t e r s a w a i t s t a t e a n d w a i t s u n t i l i t

i s u n l o c k e d b y a n o t h e r t h r e a d o r b y s o m e e v e n t . O n c e

a t h r e a d h a s c o m p l e t e d i t s c o m p u t a t i o n , i t r e t u r n s t o

t h e w a i t s t a t e . F o r e x a m p l e , c o n s i d e r t h e e x c e r p t f r o m

c l a s s D y n a m i c T h r e a d i n F i g u r e 1 1 . T h i s c l a s s c a n b e

r e w r i t t e n t o e s t a b l i s h t h r e a d p o o l s i n s t e a d o f d y n a m i -

c a l l y s p a w n e d t h r e a d s a s s h o w n i n F i g u r e 1 2 .

T a b l e 5 s h o w s h o w t h e p e r f o r m a n c e o f t h r e a d p o o l i n g

c a n c o m p a r e t o t h a t o f d y n a m i c a l l y s p a w n i n g t h r e a d s

p e r o n e e x e c u t i o n o f t h e b o d y o f t h e r u n ( ) m e t h o d . F o r

t h e p e r f o r m a n c e c o m p a r i s o n , o n e v e r s i o n o f a t e s t I n t e r -

n e t s e r v e r e m b e d d e d D y n a m i c T h r e a d s a n d a n o t h e r v e r -

s i o n u s e d P o o l T h r e a d s . A t e s t c l i e n t s e n t o 1 0 0 0 0 r e -

q u e s t s t o t h e s e r v e r . T h e s e r v e r u s i n g D y n a m i c T h r e a d s

s p a w n e d a n e w D y n a m i c T h r e a d f o r e a c h i n c o m i n g r e -

q u e s t , a n d t h e s e r v e r u s i n g P o o l T h r e a d s c r e a t e d o n e

P o o l T h r e a d i n t h e b e g i n n i n g a n d r e u s e d t h i s t h r e a d

f o r e a c h r e q u e s t . A n e x e c u t i o n o f t h e b o d y o f t h e r u n

m e t h o d t h e r e f o r e c o r r e s p o n d s t o p r o c e s s i n g a c l i e n t r e -

q u e s t . T h e t a b l e s h o w s t h a t , i n c l u d i n g t h e t i m e i t t a k e s

t o s t a r t a t h r e a d , a t h r e a d t h a t i s p a r t o f a p o o l c a n p r o -

c e s s a r e q u e s t m o r e t h a n 4 0 % f a s t e r t h a n a d y n a m i c a l l y

c r e a t e d t h r e a d .

5 S u m m a r y

J a v a a n d t h e J a v a A P I o e r m a n y o p e r a t i o n s t h a t a r e

c o n v e n i e n t f o r t h e p r o g r a m m e r b u t n e e d t o b e u s e d

w i t h c a u t i o n b e c a u s e o f p o t e n t i a l p e r f o r m a n c e p e n a l -

t i e s . T h i s p a p e r c o n c e n t r a t e s o n o b j e c t a l l o c a t i o n s a n d

o b j e c t - t o - o b j e c t c o p y o p e r a t i o n s d u e t o J a v a A P I m e t h -

o d c a l l s a s a m a j o r s o u r c e o f s p e e d i n e c i e n c i e s u n d e r

c e r t a i n c i r c u m s t a n c e s . T h e p a p e r d e m o n s t r a t e s h o w t o

a v o i d t h e e n s u i n g s p e e d p r o b l e m s w h i l e a t t h e s a m e

t i m e d e c r e a s i n g t h e m e m o r y f o o t p r i n t o f a J a v a p r o -

g r a m .

T h e p a p e r a l s o s h o w s t h a t p e r f o r m a n c e e n h a n c e -

m e n t s c a n i n c r e a s e t h e r i s k o f i n t r o d u c i n g b u g s t o t h e

g i v e n J a v a p r o g r a m b e c a u s e t h e y w o r k o n l y i f t h e g i v e n

p r o g r a m s a t i s e s t h e p r e c o n d i t i o n s f o r t h e i r a p p l i c a t i o n .

F o r e x a m p l e , s o m e o f t h e p r e s e n t e d g u i d e l i n e s t u r n a

t h r e a d - s a f e c l a s s i n t o a t h r e a d - u n s a f e c l a s s . I n a n o t h e r

c a s e d e s c r i b e d i n t h i s p a p e r , a t e c h n i q u e t h a t s p e e d s u p

p r o g r a m e x e c u t i o n w h e n t h e p r e c o n d i t i o n s f o r i t s a p -

p l i c a t i o n a r e s a t i s e d s l o w d o w n t h e e x e c u t i o n i n o t h e r

s i t u a t i o n s . T h e r e a d a b i l i t y a n d m a i n t a i n a b i l i t y o f t h e

c o d e c a n a l s o s u e r . I n a d d i t i o n , t h e t e x t u a l v o l u m e o f

t h e c o d e c a n i n c r e a s e . T h i s m a y n o t b e o f c o n c e r n f o r a

s t a n d a l o n e J a v a a p p l i c a t i o n b u t i t m a y v e r y w e l l b e f o r

a J a v a a p p l e t t h a t i s d o w n l o a d e d t o a c l i e n t v i a a l i n k

w i t h s m a l l b a n d w i d t h .

R e f e r e n c e s

1 ] K e n A r n o l d a n d J a m e s G o s l i n g . T h e J a v a P r o -

g r a m m i n g L a n g u a g e . A d d i s o n - W e s l e y P u b l i s h i n g

C o m p a n y , R e a d i n g , M A , 1 9 9 8 .

2 ] D o u g B e l l . M a k e J a v a f a s t : O p t i m i z e ! J a v a W o r l d ,

A p r i l 1 9 9 7 .

3 ] D e n n i s C h a m p e a u x , D o u g L e a , a n d P e n e l o p e

F a u r e . O b j e c t - O r i e n t e d S y s t e m D e v e l o p m e n t .

A d d i s o n - W e s l e y P u b l i s h i n g C o m p a n y , R e a d i n g ,

M A , 1 9 9 3 .

4 ] T h o m a s D a v i s . B u i l d y o u r o w n O b j e c t P o o l i n J a v a

t o b o o s t a p p s p e e d . J a v a W o r l d , J u n e 1 9 9 8 .

5 ] B r u c e E c k e l . T h i n k i n g i n J a v a . P r e n t i c e H a l l P T R ,

U p p e r S a d d l e R i v e r , N J , 1 9 9 8 .

6 ] J o n a t h a n H a r d w i c k . J a v a O p t i m i z a t i o n . h t t p : = =

w w w . c s . c m u . e d u /

~

j c h / j a v a / o p t i m i z a t i o n . h t m l .

7 ] P r a s h a n t J a i n , S e t h W i d o , a n d D o u g l a s C .

S c h m i d t . T h e d e s i g n a n d p e r f o r m a n c e o f M e d J a v a .

I n P r o c e e d i n g s 4 t h U S E N I X C o n f e r e n c e o n O b j e c t -

O r i e n t e d T e c h n o l o g i e s a n d S y s t e m s , A p r i l 1 9 9 8 .

8 ] R e i n h a r d K l e m m . W e b C o m p a n i o n : A F r i e n d l y

C l i e n t - S i d e W e b P r e f e t c h i n g A g e n t . T o a p p e a r i n

I E E E T r a n s a c t i o n s o n K n o w l e d g e a n d D a t a E n g i -

n e e r i n g , 1 9 9 9 .

9 ] C a r m i n e M a n g i o n e . P e r f o r m a n c e t e s t s s h o w J a v a

a s f a s t a s C + + . J a v a W o r l d , F e b r u a r y 1 9 9 8 .

1 0 ] M a r k R o u l o . A c c e l e r a t e y o u r J a v a a p p s ! J a v a -

W o r l d , S e p t e m b e r 1 9 9 8 .


10/10

D y n a m i c T h r e a d P o o l T h r e a d

E x e c u t i o n T i m e i n m s 5 : 1 3 2 : 9 4


T a b l e 5 : C o m p a r i n g t h e p e r f o r m a n c e o f D y n a m i c T h r e a d s a n d P o o l T h r e a d s

c l a s s F r a g m e n t 1 _ 5 {

p r i v a t e s t a t i c f i n a l i n t m i n = 1 5 0 ,

b u f f e r L e n g t h = 1 5 0 0 0 ;

p r i v a t e b y t e ] b u f f e r = n e w b y t e b u f f e r L e n g t h ] ;

p u b l i c b y t e ] r e a d I n t o B u f f e r ( I n p u t S t r e a m i n ,

I n t e g e r r e t u r n L e n g t h )


i n t t o t a l = 0 ,

b y t e s R e a d ;

M y B y t e A r r a y O u t p u t S t r e a m b y t e S t r e a m = n u l l ;

/ / o v e r f l o w i f > 1 5 0 0 0 b y t e s h a v e b e e n r e a d

b o o l e a n o v e r f l o w = f a l s e ;

w h i l e ( t r u e ) {

b y t e s R e a d = i n . r e a d ( b u f f e r , t o t a l ,

b u f f e r L e n g t h - t o t a l ) ;

t o t a l + = b y t e s R e a d ;

i f ( b y t e s R e a d < = 0 )

b r e a k ;

i f ( b u f f e r L e n g t h - t o t a l < m i n & & ! o v e r f l o w ) {

/ / i f b u f f e r i s n e a r l y f u l l ,

/ / s t a r t u s i n g b y t e S t r e a m

b y t e S t r e a m = n e w

M y B y t e A r r a y O u t p u t S t r e a m ( 2 * b u f f e r L e n g t h ) ;

/ / c o p y e n t i r e b u f f e r i n t o b y t e S t r e a m

b y t e S t r e a m . w r i t e ( b u f f e r , 0 , t o t a l ) ;

o v e r f l o w = t r u e ;

t o t a l = 0 ;

}

e l s e i f ( o v e r f l o w ) {

/ / t o t a l n u m b e r o f b y t e s > 1 5 0 0 0


t o t a l = 0 ;

}

}

i f ( o v e r f l o w ) {

r e t u r n L e n g t h = n e w I n t e g e r ( b y t e S t r e a m . s i z e ( ) ) ;

r e t u r n b y t e S t r e a m . g e t B y t e A r r a y ( ) ;

}

e l s e {

r e t u r n L e n g t h = n e w I n t e g e r ( t o t a l ) ;

r e t u r n b u f f e r ;

}

}

. . .

}

F i g u r e 1 0 : C l a s s F r a g m e n t 1 5

c l a s s D y n a m i c T h r e a d e x t e n d s T h r e a d {

p r i v a t e s t a t i c S t r i n g w e b P r o x y ;

p r i v a t e s t a t i c i n t p r o x y P o r t ;

p r i v a t e S o c k e t w e b S e r v e r ;

p r i v a t e s t a t i c H a s h t a b l e d o c u m e n t C a c h e ;

p u b l i c D y n a m i c T h r e a d ( S t r i n g p r o x y ,

i n t p o r t ,

S o c k e t s e r v e r ,

H a s h t a b l e c a c h e ) {

w e b P r o x y = p r o x y ;

p r o x y P o r t = p o r t ;

w e b S e r v e r = s e r v e r ;

d o c u m e n t C a c h e = c a c h e ;

}

p u b l i c v o i d r u n ( ) {

S t r i n g i d = " C o n n e c t i o n H a n d l e r " ;

b y t e ] b u f f e r = n e w b y t e 2 0 4 8 ] ;

B y t e A r r a y O u t p u t S t r e a m

w e b D o c = n e w B y t e A r r a y O u t p u t S t r e a m ( 8 0 0 0 ) ;

H a s h t a b l e d o c u m e n t L i n k s = n e w H a s h t a b l e ( 5 0 , . 8 f ) ;

. . . / / r e a d i n d o c u m e n t f r o m s e r v e r

/ / a n d p r e f e t c h l i n k s h e r e

}

. . .

}

F i g u r e 1 1 : C l a s s D y n a m i c T h r e a d

c l a s s P o o l T h r e a d e x t e n d s T h r e a d {

p r i v a t e s t a t i c S t r i n g

w e b P r o x y = " h t t p : / / w e b p r o x y . b e l l - l a b s . c o m " ;

p r i v a t e s t a t i c i n t p r o x y P o r t = 8 8 8 8 ;

p r i v a t e s t a t i c H a s h t a b l e d o c u m e n t C a c h e ;

p r i v a t e s t a t i c S t r i n g i d = " C o n n e c t i o n H a n d l e r " ;


p r i v a t e B y t e A r r a y O u t p u t S t r e a m

w e b D o c = n e w B y t e A r r a y O u t p u t S t r e a m ( 8 0 0 0 ) ;

p r i v a t e H a s h t a b l e d o c u m e n t L i n k s

= n e w H a s h t a b l e ( 5 0 , . 8 f ) ;

p r i v a t e s t a t i c S e r v e r S o c k e t s e r v e r ;

p u b l i c P o o l T h r e a d ( H a s h t a b l e c a c h e ,

S e r v e r S o c k e t t h i s H o s t ) {

d o c u m e n t C a c h e = c a c h e ;

s e r v e r = t h i s H o s t ;

}

p u b l i c v o i d r u n ( ) {

S o c k e t w e b S e r v e r ;

w h i l e ( t r u e ) {

t r y {

/ / w a i t f o r c o n n e c t i o n r e q u e s t ( w a i t s t a t e )

w e b S e r v e r = s e r v e r . a c c e p t ( ) ;

. . . / / r e a d i n d o c u m e n t

/ / a n d p r e f e t c h l i n k s h e r e

} c a t c h ( . . . )

{ . . . }

}

}

. . .

}

F i g u r e 1 2 : C l a s s P o o l T h r e a d

Documents

Java Performance Tips