Parralle Algorithms for Dynamically Partitioning Unstructured Graphs

8/9/2019 Parralle Algorithms for Dynamically Partitioning Unstructured Graphs

1/6

P a r a l l e l A l g o r i t h m s f o r D y n a m i c a l l y P a r t i t i o n i n g

U n s t r u c t u r e d G r i d s

P e d r o D i n i z

y

S t e v e P l i m p t o n

z

B r u c e H e n d r i c k s o n

z

R o b e r t L e l a n d

z

A b s t r a c t

G r i d p a r t i t i o n i n g i s t h e m e t h o d o f c h o i c e f o r d e c o m p o s i n g a w i d e v a r i e t y o f c o m p u -

t a t i o n a l p r o b l e m s i n t o n a t u r a l l y p a r a l l e l p i e c e s . I n p r o b l e m s w h e r e c o m p u t a t i o n a l l o a d

o n t h e g r i d o r t h e g r i d i t s e l f c h a n g e s a s t h e s i m u l a t i o n p r o g r e s s e s , t h e a b i l i t y t o r e p a r -

t i t i o n d y n a m i c a l l y a n d i n p a r a l l e l i s a t t r a c t i v e f o r a c h i e v i n g h i g h e r p e r f o r m a n c e . W e

d e s c r i b e t h r e e a l g o r i t h m s s u i t a b l e f o r p a r a l l e l d y n a m i c l o a d { b a l a n c i n g w h i c h a t t e m p t

t o p a r t i t i o n u n s t r u c t u r e d g r i d s s o t h a t c o m p u t a t i o n a l l o a d i s b a l a n c e d a n d c o m m u -

n i c a t i o n i s m i n i m i z e d . T h e e x e c u t i o n t i m e o f t h e a l g o r i t h m s a n d t h e q u a l i t y o f t h e

p a r t i t i o n s t h e y g e n e r a t e a r e c o m p a r e d t o r e s u l t s f r o m s e r i a l p a r t i t i o n e r s f o r t w o l a r g e

g r i d s . T h e i n t e g r a t i o n o f t h e a l g o r i t h m s i n t o a p a r a l l e l p a r t i c l e s i m u l a t i o n i s a l s o b r i e y

d i s c u s s e d .

1 I n t r o d u c t i o n

C o n s i d e r a b l e e o r t h a s b e e n e x p e n d e d t o d e v e l o p f a s t , e e c t i v e a l g o r i t h m s t h a t s p l i t

u n s t r u c t u r e d g r i d s i n t o e q u a l { s i z e d p a r t i t i o n s s o a s t o m i n i m i z e c o m m u n i c a t i o n o v e r h e a d

o n p a r a l l e l m a c h i n e s . T h e t y p i c a l a p p r o a c h o f p e r f o r m i n g p a r t i t i o n i n g a s a s e q u e n t i a l

p r e { p r o c e s s i n g s t e p m a y b e u n s u i t a b l e i n a t l e a s t t h r e e s e t t i n g s . T h e r s t i s w h e n t h e

g r i d i s s o l a r g e t h a t p r e { p r o c e s s i n g o n a s e r i a l m a c h i n e i s n o t f e a s i b l e d u e t o m e m o r y

o r t i m e c o n s t r a i n t s . T h e s e c o n d i s i n s i m u l a t i o n s t h a t u s e a d a p t i v e g r i d d i n g t o a d j u s t

t h e s c a l e o f r e s o l u t i o n a s t h e s i m u l a t i o n p r o g r e s s e s . A c l a s s i c e x a m p l e i s t h e m o d e l i n g o f

s h o c k p r o p a g a t i o n w h e r e a d a p t i v e g r i d d i n g e n s u r e s t h a t t h e d o m a i n i s s a m p l e d o n a n e

s c a l e w h e r e n e c e s s a r y b u t m o r e c o a r s e l y i n o t h e r r e g i o n s a n d h e n c e o v e r a l l c o m p u t a t i o n a l

e o r t i s r e d u c e d . T h i r d , i n s o m e p r o b l e m s c o m p u t a t i o n a l e o r t i n e a c h g r i d c e l l c h a n g e s

o v e r t i m e . F o r e x a m p l e , i n m a n y c o d e s t h a t a d v e c t p a r t i c l e s t h r o u g h a g r i d ( P I C ,

D S M C ) l a r g e t e m p o r a l a n d s p a t i a l v a r i a t i o n s i n p a r t i c l e d e n s i t y c a n i n d u c e s u b s t a n t i a l l o a d

i m b a l a n c e . I n a l l o f t h e s e c a s e s r e p a r t i t i o n i n g t h e g r i d i n p a r a l l e l a s t h e s i m u l a t i o n r u n s

c a n b o o s t p a r a l l e l p e r f o r m a n c e . U n f o r t u n a t e l y , m a n y o f t h e b e s t s e q u e n t i a l p a r t i t i o n i n g

a l g o r i t h m s a r e d i c u l t t o p a r a l l e l i z e a n d h a v e n o t b e e n d e s i g n e d s o a s t o t a k e a d v a n t a g e o f

f r e q u e n t r e a p p l i c a t i o n . F u r t h e r m o r e , s i n c e t h e p a r t i t i o n i n g i s n o w e m b e d d e d i n t h e p a r a l l e l

s i m u l a t i o n i t m u s t b e k e p t e c o n o m i c a l r e l a t i v e t o t h e t o t a l c o m p u t a t i o n .

T h e p a r a l l e l p a r t i t i o n i n g a l g o r i t h m s w e d e s c r i b e i n t h i s p a p e r a r e c o n s t r u c t e d f r o m

p a r a l l e l i m p l e m e n t a t i o n s o f t w o c o m m o n l y u s e d s e r i a l p a r t i t i o n e r s . T h e r s t c o m p o n e n t i s

t h e I n e r t i a l m e t h o d 9 ] w h i c h i s f a s t a n d s t r a i g h t f o r w a r d l y p a r a l l e l , b u t t y p i c a l l y p r o d u c e s

T h i s w o r k w a s s u p p o r t e d b y t h e A p p l i e d M a t h e m a t i c a l S c i e n c e s p r o g r a m , U . S . D O E , O c e o f E n e r g y

R e s e a r c h , a n d w a s p e r f o r m e d a t S a n d i a N a t i o n a l L a b s , o p e r a t e d f o r t h e U . S . D O E u n d e r c o n t r a c t N o .

D E - A C 0 4 - 7 6 D P 0 0 7 8 9 .

A p p e a r e d i n P r o c . 7 t h S I A M C o n f . P a r a l l e l P r o c . S c i . C o m p u t . , F e b r u a r y , 1 9 9 5

y

D e p a r t m e n t o f C o m p u t e r S c i e n c e , U n i v e r s i t y o f C a l i f o r n i a a t S a n t a B a r b a r a ; p e d r o @ c s . u c s b . e d u

z

S a n d i a N a t i o n a l L a b s ; f s j p l i m p , b a h e n d r , l e l a n d g @ c s . s a n d i a . g o v .

1


2/6

2 D i n i z e t a l .

p a r t i t i o n s o f o n l y m o d e r a t e q u a l i t y 7 ] . I t i s d e s c r i b e d i n S e c t i o n 2 . 1 . T h e s e c o n d c o m p o n e n t

i s a p a r a l l e l v a r i a n t o f a l o c a l g r e e d y h e u r i s t i c d u e t o F i d u c c i a a n d M a t t h e y s e s ( F M ) 3 ]

w h i c h i s c l o s e l y r e l a t e d t o t h e t h e w e l l { k n o w n m e t h o d o f K e r n i g h a n a n d L i n 5 ] . T h i s

a l g o r i t h m g r e e d i l y i m p r o v e s a n e x i s t i n g p a r t i t i o n b y m o v i n g g r i d p o i n t s b e t w e e n s e t s . T h e

m o t i v a t i o n f o r u s i n g F M i s t h a t i n s e q u e n t i a l a l g o r i t h m s i t h a s b e e n o b s e r v e d t h a t c o m b i n i n g

t h e i n e r t i a l m e t h o d w i t h F M u s u a l l y g e n e r a t e s h i g h q u a l i t y p a r t i t i o n s v e r y q u i c k l y 7 ] .

U n f o r t u n a t e l y , a t r u e p a r a l l e l i m p l e m e n t a t i o n o f F M i s k n o w n t o b e P { c o m p l e t e 1 0 ] , w h i c h

m e a n s a p a r a l l e l i m p l e m e n t a t i o n i s d i c u l t i n a t h e o r e t i c a l s e n s e . H e n c e w e u s e a m o r e

c o n v e n i e n t b u t w e a k e r v a r i a n t w h i c h w e d e s c r i b e i n S e c t i o n 2 . 2

O u r p a r a l l e l p a r t i t i o n e r s c o m b i n e t h e i n e r t i a l a l g o r i t h m w i t h t h e F M h e u r i s t i c i m p r o v e -

m e n t i n t w o w a y s . F i r s t , i n a n a l g o r i t h m w e c a l l I n e r t i a l I n t e r l e a v e d F M ( I I F M ) , t h e F M

i m p r o v e m e n t s a r e p e r f o r m e d a f t e r e v e r y c u t i n t h e r e c u r s i v e a p p l i c a t i o n o f I n e r t i a l . I n t h e

s e c o n d a l g o r i t h m , t h e I n e r t i a l C o l o r e d F M ( I C F M ) , t h e F M r e n e m e n t s a r e p o s t p o n e d u n t i l

a l l I n e r t i a l c u t s a r e p e r f o r m e d . T h e I I F M a n d I C F M a l g o r i t h m s a r e p r e s e n t e d i n S e c t i o n s

2 . 2 a n d 2 . 3 . P e r f o r m a n c e r e s u l t s f o r t h e p a r a l l e l p a r t i t i o n i n g a l g o r i t h m s o n a n n C U B E 2

a n d a n I n t e l P a r a g o n f o r t w o l a r g e u n s t r u c t u r e d g r i d s a r e p r e s e n t e d i n S e c t i o n 3 a l o n g w i t h

a c o m p a r i s o n o f t h e p a r t i t i o n i n g q u a l i t y t o t h a t p r o d u c e d b y s e r i a l p a r t i t i o n i n g a l g o r i t h m s .

F i n a l l y , i n S e c t i o n 4 w e h i g h l i g h t t h e e e c t o f t h e a l g o r i t h m s i n a p a r t i c l e s i m u l a t i o n t h a t

i s a l a r g e u s e r o f C P U t i m e o n S a n d i a ' s p a r a l l e l s u p e r c o m p u t e r s .

2 A l g o r i t h m s

W e r e p r e s e n t a c o m p u t a t i o n a s a n u n d i r e c t e d , w e i g h t e d g r a p h i n w h i c h v e r t i c e s c o r r e s p o n d

t o c o m p u t a t i o n a n d e d g e s r e e c t d a t a d e p e n d e n c i e s . W e i g h t s c a n b e a s s i g n e d t o v e r t i c e s

o r e d g e s t o e n c o d e h e t e r o g e n e o u s c o m p u t a t i o n o r c o m m u n i c a t i o n r e q u i r e m e n t s . M a n y

s c i e n t i c c o m p u t i n g p r o b l e m s i n c l u d i n g n i t e e l e m e n t , n i t e d i e r e n c e , a n d p a r t i c l e

c a l c u l a t i o n s c a n b e p h r a s e d t h i s w a y . T h e g o a l o f p a r t i t i o n i n g c a n n o w b e d e s c r i b e d a s

d i v i d i n g t h e v e r t i c e s i n t o s e t s o f e q u a l w e i g h t i n s u c h a w a y t h a t t h e w e i g h t o f e d g e s

c r o s s i n g b e t w e e n s e t s i s m i n i m i z e d . T h i s p r o b l e m i s k n o w n t o b e N P h a r d , s o w e a r e f o r c e d

t o r e l y o n h e u r i s t i c s . A l l o f o u r h e u r i s t i c s r e l y o n a r e c u r s i v e b i s e c t i o n a p p r o a c h .

2 . 1 P a r a l l e l I n e r t i a l

T h e I n e r t i a l m e t h o d 9 ] e m p l o y s a p h y s i c a l a n a l o g y i n w h i c h t h e g r i d c e l l s a r e t r e a t e d a s

p o i n t m a s s e s a n d t h e g r i d i s c u t w i t h a p l a n e o r t h o g o n a l t o t h e p r i n c i p a l i n e r t i a l a x i s ( t h e

a x i s a b o u t w h i c h t h e r e i s a m i n i m a l m o m e n t o f i n e r t i a ) o f t h e m a s s d i s t r i b u t i o n .

A t e a c h b i s e c t i o n s t e p t h e i n v o l v e d p r o c e s s o r s c o m p u t e t h e i n e r t i a l a x i s o f t h e a s s i g n e d

s u b g r a p h . C o l l e c t i v e l y t h e y n d a p o i n t a l o n g t h i s a x i s s u c h t h a t t h e w e i g h t s o f t h e g r a p h

v e r t i c e s o n b o t h s i d e s a r e a p p r o x i m a t e l y e q u a l . T h e t w o v e r t e x s e t s a r e t h e n a s s i g n e d t o

t h e t w o p r o c e s s o r s e t s .

F i g u r e 1 ( a ) i l l u s t r a t e s t h i s a l g o r i t h m f o r a f o u r p r o c e s s o r m a c h i n e . I n t h e r s t s t e p

a l l f o u r p r o c e s s o r s c o o p e r a t e n d i n g t h e i n e r t i a a x i s A 1 a n d t h e c o r r e s p o n d i n g c u t C 1

P r o c e s s o r s a r e a l s o s p l i t i n t o t w o s e t s , e . g . f p 0 ; p 1 g a n d f p 2 ; p 3 g , w h e r e p

i

o w n s s e t S

i

P r o c e s s o r s p 0 a n d p 1 s e n d t h e g r a p h v e r t i c e s t h e y o w n o n t h e l e f t s i d e o f t h i s c u t t o

p r o c e s s o r s p 2 a n d p 3 r e s p e c t i v e l y , w h o p r o c e e d c o n v e r s e l y . W e s a y t h a t p 0 p a i r s w i t h p 2

a n d p 1 p a i r s w i t h p 3 . I n t h e n e x t s t e p p 0 a n d p 1 n d t h e n e x t i n e r t i a a x i s A 2 a , t h e

c o r r e s p o n d i n g c u t C 2 a a n d s w a p g r a p h n o d e s o n e a c h s i d e o f t h e c u t . S i m u l t a n e o u s l y p 2

a n d p 3 a r e n d i n g i n e r t i a a x i s A 2 b , c u t C 2 b , a n d s w a p p i n g t h e i r n o d e s a c r o s s t h e i r c u t .


3/6

P a r a l l e l D y n a m i c P a r t i t i o n i n g 3

S0

S1

S2

(b)

S3

(a)

A 1

C 2b

A 2b

C 1

C 2a

A 2a

S1

S0

S2

S3

F i g . 1 . I n e r t i a l m e t h o d e x a m p l e f o r 4 p r o c e s s o r s .

2 . 2 I n e r t i a l I n t e r l e a v e d F M ( I I F M )

I n t h i s a l g o r i t h m e a c h g r a p h b i s e c t i o n p e r f o r m e d b y t h e p a r a l l e l I n e r t i a l m e t h o d i s f o l l o w e d

b y F M h e u r i s t i c r e n e m e n t . T h i s F M r e n e m e n t g r e e d i l y i m p r o v e s t h e b i s e c t i o n b y m o v i n g

v e r t i c e s b e t w e e n t h e t w o p a r t i t i o n s s o a s t o m i n i m i z e a g r i d m e t r i c , e . g . c u t s { t h e n u m b e r o f

e d g e s c o n n e c t i n g v e r t i c e s o n e a c h p a r t i t i o n . T h i s i s a c h i e v e d b y a s s o c i a t i n g w i t h e a c h v e r t e x

a m i g r a t i o n p r e f e r e n c e v a l u e c o r r e s p o n d i n g t o e a c h p a r t i t i o n a n d s e l e c t i n g a t e a c h s t e p o f t h e

i m p r o v e m e n t t h e v e r t e x w i t h t h e l a r g e s t c o n t r i b u t i o n t o t h e m e t r i c m i n i m i z a t i o n . P a r t i t i o n

w e i g h t s c a n b e b a l a n c e d b y a l w a y s m o v i n g v e r t i c e s f r o m t h e \ l i g h t e s t " t o t h e \ h e a v i e s t "

p a r t i t i o n . T h i s g r e e d y s t r a t e g y p r o c e e d s u n t i l n o f u r t h e r i m p r o v e m e n t i s p o s s i b l e .

U n f o r t u n a t e l y , F M i s i n h e r e n t l y s e q u e n t i a l a n d i n a f o r m a l s e n s e h a s b e e n p r o v e n d i -

c u l t t o p a r a l l e l i z e 1 0 ] . O u r a p p r o a c h d i e r s f r o m t h a t i n s t a n d a r d s e r i a l i m p l e m e n t a t i o n s .

W e b u i l d o n a n i d e a d e s c r i b e d b y H a m m o n d 4 ] a n d a p p l y F M i n a p a i r w i s e f a s h i o n ; t h a t

i s , t w o p r o c e s s o r s p e r f o r m F M o n t h e s u b p i e c e s o f t h e p a r t i t i o n t h e y o w n . W h e n o n l y t w o

p r o c e s s o r s a r e i n v o l v e d , F M c a n b e q u i t e e c i e n t .

I n o u r a p p r o a c h m a n y d i e r e n t p a i r s o f p r o c e s s o r s w o r k s i m u l t a n e o u s l y f o l l o w i n g e a c h

I n e r t i a l b i s e c t i o n . T h e p a i r i n g p r o c e s s o r s c o n s t r u c t a s e q u e n c e o f p o s s i b l e v e r t e x e x c h a n g e s

i n a n e o r t t o r e d u c e t h e n u m b e r o f e d g e s c u t b y t h e p a r t i t i o n . A t e a c h s t e p i n t h i s

c o n s t r u c t i o n , t h e v e r t e x m o v e w i t h t h e h i g h e s t m i g r a t i o n p r e f e r e n c e a m o n g t h o s e w h i c h

w o u l d n o t a e c t l o a d b a l a n c e t o o a d v e r s e l y i s i d e n t i e d . T h e q u a l i t y o f t h e p a r t i t i o n w h i c h

w o u l d b e o b s e r v e d i f t h e m o v e s s p e c i e d b y t h e s e q u e n c e t o t h i s p o i n t w e r e a c t u a l l y m a d e

i s a l s o r e c o r d e d . W h e n t h e s e q u e n c e c o n s t r u c t i o n i s c o m p l e t e w e r e t u r n a n d m a k e t h e

s p e c i e d m o v e s u p t h r o u g h t h e p o i n t w h e r e t h e b e s t p a r t i t i o n w a s o b s e r v e d . T h i s t w o -

p h a s e a p p r o a c h a l l o w s c o u n t e r { p r o d u c t i v e m o v e s i n o r d e r t o o v e r c o m e l o c a l m i n i m a i n t h e

c o s t m e t r i c . A h a l t i n g c r i t e r i o n i s i m p o s e d o n t h e n u m b e r o f c o u n t e r { p r o d u c t i v e m o v e s t o

t e r m i n a t e e x p e n s i v e a n d p r o b a b l y u n h e l p f u l s e q u e n c e s .

I n t h e e x a m p l e a b o v e p r o c e s s o r s p 0 a n d p 2 ( a n d a l s o p 1 a n d p 3 ) w o u l d p a i r u p a f t e r t h e

r s t I n e r t i a l c u t t o i m p r o v e t h e q u a l i t y o f t h e i r s e t s , t y p i c a l l y b y m o d i f y i n g t h e b o u n d a r y

b e t w e e n t h e m s l i g h t l y . A f t e r t h e s e c o n d I n e r t i a l c u t w e w o u l d o b s e r v e p a i r i n g b e t w e e n

p r o c e s s o r s p 0 a n d p 1 a s w e l l a s b e t w e e n p 2 a n d p 3

2 . 3 I n e r t i a l C o l o r e d F M ( I C F M )

T h i s a l g o r i t h m i s c o m p o s e d o f t w o p h a s e s . F i r s t t h e g r i d i s p a r t i t i o n e d u s i n g t h e p a r a l l e l

I n e r t i a l a l g o r i t h m . T h e n t h e p a r t i t i o n r e s u l t i n g f r o m t h e r s t s t e p i s i m p r o v e d u s i n g t h e F M

h e u r i s t i c i n a p a i r w i s e f a s h i o n , i . e . a l l p a i r s o f p r o c e s s o r s w h o s e p a r t i t i o n s s h a r e c o m m o n


4/6


e d g e s c o o p e r a t e t o i m p r o v e t h e p a r t i t i o n s t h e y j o i n t l y o w n .

N o t e t h a t p r o c e s s o r p a i r s w h o s e g r i d p a r t i t i o n s a r e n o t c o n t i g u o u s m a y w o r k c o n c u r -

r e n t l y . T o e x p l o i t t h i s w e c o n s t r u c t a q u o t i e n t g r a p h , G , o f t h e p a r t i t i o n o b t a i n e d i n t h e r s t

p h a s e . E a c h v e r t e x o f G c o r r e s p o n d s t o a p a r t i t i o n , a n d v e r t i c e s a r e j o i n e d b y a n e d g e i f t h e

c o r r e s p o n d i n g p a r t i t i o n s h a v e g r i d v e r t i c e s j o i n e d b y a n e d g e . T h e q u o t i e n t g r a p h i s t h e n

e d g e { c o l o r e d s o t h a t p a i r w i s e F M c a n b e a p p l i e d t o a l l e d g e s o f a c o l o r s i m u l t a n e o u s l y . T h e

c o l o r i n g t h u s d e t e r m i n e s t h e s c h e d u l i n g o f t h e p a i r w i s e i m p r o v e m e n t b e t w e e n p a r t i t i o n s .

I n F i g . 1 ( b ) w e s h o w t h e q u o t i e n t g r a p h c o r r e s p o n d i n g t o t h e p a r t i t i o n i n F i g . 1 ( a ) . A

p o s s i b l e c o l o r i n g a n d r e s u l t i n g p a i r w i s e s c h e d u l i n g w o u l d b e f ( 0 ; 1 ) ; ( 2 ; 3 ) g ; f ( 0 ; 2 ) g ; f 0 ; 3 g

I n t h e c u r r e n t i m p l e m e n t a t i o n w e p e r f o r m o n l y o n e s w e e p t h r o u g h t h e c o l o r s , a n d u s e a

s i m p l e e d g e c o l o r i n g h e u r i s t i c t o k e e p t h e n u m b e r o f c o l o r s s m a l l s i n c e t h e g e n e r a l c o l o r

m i n i m i z a t i o n p r o b l e m i s N P - c o m p l e t e .

3 R e s u l t s

W e t e s t e d t h e p a r a l l e l a l g o r i t h m s d e s c r i b e d h e r e o n a v a r i e t y o f g r i d s a n d p r e s e n t t y p i c a l

r e s u l t s f o r t w o o f t h e m . T h e r s t i s t h e W A V E m e s h f r o m R I A C S

1

, a t e t r a h e d r a l n i t e

e l e m e n t g r i d o f a 3 D a i r p l a n e w i t h a b o u t 1 5 7 K v e r t i c e s a n d 1 M e d g e s . T h e s e c o n d i s t h e

C V D m e s h g e n e r a t e d b y H e n n i g a n a t S a n d i a , a h e x a h e d r a l n i t e e l e m e n t g r i d o f a 3 D

c h e m i c a l v a p o r d e p o s i t i o n r e a c t o r w i t h a b o u t 1 5 8 K v e r t i c e s a n d 1 . 9 M e d g e s .

I n a d d i t i o n t o m e a s u r i n g e x e c u t i o n t i m e , w e a l s o e v a l u a t e d t h e q u a l i t y o f t h e

p a r t i t i o n s p r o d u c e d b y e a c h m e t h o d . W e u s e d t w o q u a l i t y m e t r i c s , c u t s { t h e n u m b e r

o f e d g e s c o n n e c t i n g v e r t i c e s i n d i e r e n t p a r t i t i o n s a n d h e n c e a m e a s u r e o f t h e v o l u m e

o f c o m m u n i c a t i o n , a n d s t a r t u p s { t h e n u m b e r o f p a r t i t i o n c o n n e c t i o n s ( a l s o t h e n u m b e r

o f e d g e s i n t h e q u o t i e n t g r a p h ) a n d h e n c e t h e n u m b e r o f i n t e r p r o c e s s o r m e s s a g e s . F o r

c o m p a r i s o n , w e a l s o p a r t i t i o n e d t h e t w o g r i d s w i t h s e v e r a l s e r i a l a l g o r i t h m s u s i n g C h a c o 8 ] ,

a s t a t i c l o a d b a l a n c i n g t o o l . T w o o f t h e s e r i a l a l g o r i t h m s u s e d w e r e I n e r t i a l a n d I n e r t i a l

c o u p l e d w i t h F M ( I n e r t i a l + F M ) w h i c h a r e s i m i l a r t o t h e i r p a r a l l e l c o u n t e r p a r t s ; t h e t h i r d

s e r i a l m e t h o d u s e d w a s a m o r e s o p h i s t i c a t e d M u l t i l e v e l m e t h o d 6 ] .

T h e p a r a l l e l a l g o r i t h m s w e r e r u n o n a n n C U B E 2 h y p e r c u b e a n d o n a n I n t e l P a r a g o n

l o c a t e d a t S a n d i a N a t i o n a l L a b s . T h e C h a c o r u n s w e r e p e r f o r m e d o n a n S G I O n y x w i t h

a 1 2 5 M H z c l o c k . T a b l e 1 p r e s e n t s t h e r e s u l t s f o r 6 4 a n d 1 0 2 4 p a r t i t i o n s f o r b o t h g r i d s

w h i l e F i g . 2 p l o t s t h e p a r a l l e l r u n t i m e s f o r t h e C V D g r i d f o r 6 4 t h r o u g h 1 0 2 4 p a r t i t i o n s .

T h e p a r a l l e l r u n s w e r e p e r f o r m e d o n t h e s a m e n u m b e r o f p r o c e s s o r s a s p a r t i t i o n s , t y p i c a l

o f h o w t h e y w o u l d b e r u n w h e n e m b e d d e d i n a n a p p l i c a t i o n . T h u s a r u n o n 1 2 8 p r o c e s s o r s

w i l l n o t b e t w i c e a s f a s t a s o n e o n 6 4 p r o c e s s o r s , s i n c e m o r e p a r t i t i o n s a r e c r e a t e d .

T h e t a b l e s s h o w t h e I C F M a l g o r i t h m o u t p e r f o r m s t h e I I F M a l g o r i t h m b o t h i n q u a l i t y

a n d p a r t i t i o n t i m e , a t t a i n i n g a r e d u c t i o n i n c u t s o f a b o u t 1 0 % o v e r p u r e I n e r t i a l b u t w i t h

a s l i g h t i n c r e a s e ( l e s s t h a n 2 % ) i n s t a r t u p s . F o r l a r g e n u m b e r o f p a r t i t i o n s , b o t h I I F M a n d

I C F M a r e a n o r d e r o f m a g n i t u d e s l o w e r t h a n p a r a l l e l I n e r t i a l . T h u s f o r p r o b l e m s w h e r e t h e

c o s t o f p a r t i t i o n i n g i s c r i t i c a l , t h e p a r a l l e l I n e r t i a l m e t h o d i s a t t r a c t i v e , w h i l e i n s e t t i n g s

w h e r e t h e u s e r i s w i l l i n g t o s p e n d m o r e t i m e t o g e t a b e t t e r p a r t i t i o n , t h e I C F M t e c h n i q u e

w o u l d b e b e t t e r .

T h e t a b l e s a l s o s h o w t h a t t h e I n e r t i a l + F M a l g o r i t h m i n C h a c o i s s i g n i c a n t l y m o r e

e e c t i v e t h a n i t s p a r a l l e l c o u n t e r p a r t { t h e I I F M . T h i s i s d u e t o t h e p a i r w i s e p a r a l l e l

a p p r o a c h t h a t a l l o w s e x c h a n g e s o n l y b e t w e e n s u b p i e c e s o f t h e f u l l v e r t e x s e t . C h a c o ' s

M u l t i l e v e l F M i s t h e m o s t e e c t i v e m e t h o d , p r o v i d i n g u p t o a 2 5 % r e d u c t i o n i n b o t h g r i d

1

A v a i l a b l e t h r o u g h a n o n y m o u s f t p t o r i a c s . e d u i n t h e l e / p u b / g r i d s / w a v e . g r i d


5/6

P a r a l l e l D y n a m i c P a r t i t i o n i n g 5

6 4 p a r t i t i o n s

W A V E C V D

M e t h o d T i m e ( s e c s ) C u t s S t a r t u p s T i m e ( s e c s ) C u t s S t a r t u p s

n C U B E P a r a g o n n C U B E P a r a g o n

I n e r t i a l 7 . 7 0 1 . 1 4 1 2 1 0 8 1 7 2 8 1 2 . 8 1 . 5 1 3 2 4 0 2 0 6 7 4

I I F M 3 4 . 7 4 . 4 8 1 1 5 8 2 7 7 6 2 7 2 . 2 8 . 1 3 3 1 7 2 0 5 6 7 8

I C F M 1 4 . 4 2 . 2 3 1 1 0 8 9 9 7 1 4 2 1 . 3 2 . 9 9 3 1 0 2 6 6 6 8 0

I n e r t i a l + F M 4 1 . 6 9 8 6 2 6 7 1 6 5 1 . 3 2 8 6 6 0 8 6 1 8

M u l t i l e v e l 1 0 2 . 8 9 6 7 4 6 7 3 2 1 4 7 . 0 2 4 0 6 9 7 5 8 8

1 0 2 4 p a r t i t i o n s

W A V E C V D

M e t h o d T i m e ( s e c s ) C u t s S t a r t u p s T i m e ( s e c s ) C u t s S t a r t u p s

n C U B E P a r a g o n n C U B E P a r a g o n

I n e r t i a l 3 . 9 2 0 . 6 7 3 4 7 8 0 1 1 5 7 4 8 4 . 3 6 0 . 7 1 8 4 2 5 4 7 1 6 9 7 8

I I F M 1 0 0 5 . 2 5 3 3 1 6 4 3 1 5 7 8 2 1 5 8 7 . 7 8 7 7 3 1 0 4 1 7 1 1 2

I C F M 1 4 . 9 1 . 9 3 3 1 5 5 8 7 1 5 8 0 8 1 7 . 3 3 . 3 6 7 3 2 5 4 8 1 6 9 9 8

I n e r t i a l + F M 9 6 . 7 2 8 5 3 4 5 1 4 4 7 8 1 1 8 . 0 6 5 6 1 8 3 1 4 8 9 2

M u l t i l e v e l 2 1 8 . 4 2 8 5 3 3 0 1 4 4 7 2 2 9 7 . 9 6 5 0 9 3 7 1 4 7 7 4

T a b l e 1

P e r f o r m a n c e r e s u l t s o n n C U B E 2 a n d P a r a g o n m u l t i p r o c e s s o r s .

64 128 256 512 10240.0

1.0

2.0

3.0

4.0

5.0

6.0

7.0

8.0

9.0

Number of Partitions and Processors

CPU

Time(seconds)

Inertial

ICFM

IIFM

F i g . 2 . P a r t i t i o n t i m e f o r t h e C V D g r i d o n t h e P a r a g o n .

p a r t i t i o n m e t r i c s c o n s i d e r e d . H o w e v e r , e v e n o n a v e r y f a s t s i n g l e p r o c e s s o r , i t i s t w o o r d e r s

o f m a g n i t u d e s l o w e r t h a n p a r a l l e l I n e r t i a l a n d 1 0 t o 5 0 t i m e s s l o w e r t h a n I C F M a n d I I F M

r e s p e c t i v e l y , r u n n i n g o n a l a r g e p a r a l l e l m a c h i n e .

4 A p p l i c a t i o n

W e t e s t e d t h e p a r a l l e l l o a d { b a l a n c i n g a l g o r i t h m s i n a p a r a l l e l p a r t i c l e c o d e u s e d a t S a n d i a

f o r s i m u l a t i n g v e r y l o w { d e n s i t y u i d o w s 1 ] . B e c a u s e c o n t i n u u m a p p r o a c h e s s u c h a s t h e

N a v i e r S t o k e s e q u a t i o n s b r e a k d o w n i n t h i s r e g i m e , t h e c o d e u s e s D i r e c t S i m u l a t i o n M o n t e


6/6


C a r l o ( D S M C ) t e c h n i q u e s 2 ] t o r e p r e s e n t t h e u i d a s a c o l l e c t i o n o f p a r t i c l e s . G r i d s a r e

u s e d i n t h e D S M C c o m p u t a t i o n t o l o c a t e n e a r b y c o l l i s i o n p a r t n e r s . T h e n a t u r a l p a r a l l e l i s m

i s t o h a v e e a c h p r o c e s s o r o w n a s u b s e t o f g r i d c e l l s a n d t h e p a r t i c l e s i n t h o s e c e l l s . T h e

c o m p u t a t i o n s f o r p a r t i c l e c o l l i s i o n s a n d m o v e s c a n t h e n b e p e r f o r m e d i n d e p e n d e n t l y b y

e a c h p r o c e s s o r . I n t e r { p r o c e s s o r c o m m u n i c a t i o n i s p e r f o r m e d a t e a c h t i m e s t e p a s p a r t i c l e s

m o v e t o n e w c e l l s .

L o a d { i m b a l a n c e i s a s e r i o u s c o n c e r n i n D S M C s i m u l a t i o n s b e c a u s e p a r t i c l e d e n s i t i e s o n

t h e g r i d c a n v a r y b y o r d e r s o f m a g n i t u d e b o t h s p a t i a l l y a n d i n t i m e . I n t h e p a s t w e h a v e u s e d

a s t a t i c s c a t t e r e d d e c o m p o s i t i o n o f c e l l s t o p r o c e s s o r s s o t h a t e a c h p r o c e s s o r , o n a v e r a g e ,

o w n s a m i x o f \ c o s t l y " a n d \ c h e a p " c e l l s . H o w e v e r t h i s m a x i m i z e s t h e c o m m u n i c a t i o n

s i n c e a c e l l ' s n e i g h b o r s a r e n o t o w n e d b y t h e s a m e p r o c e s s o r . T h e p a r a l l e l b a l a n c e r s c a n

a s s i g n c l u s t e r s o f c e l l s t o e a c h p r o c e s s o r t o m i n i m i z e c o m m u n i c a t i o n w h i l e s t i l l k e e p i n g t h e

c o m p u t a t i o n a l l o a d d y n a m i c a l l y b a l a n c e d .

U s i n g t h e p a r a l l e l b a l a n c e r s i n o u r D S M C c o d e r e q u i r e s t w o s t e p s . F i r s t , a n e w

a s s i g n m e n t o f c e l l s t o p r o c e s s o r s i s c o m p u t e d b y t h e l o a d { b a l a n c e r u s i n g t h e C P U t i m e

l o g g e d i n p r e v i o u s t i m e s t e p s f o r p a r t i c l e m o v e s a n d c o l l i s i o n s i n e a c h g r i d c e l l a s t h e c e l l ' s

\ w e i g h t " . T h e n a l l o f t h e a p p r o p r i a t e p a r t i c l e a n d c e l l d a t a a r e s e n t t o t h e n e w p r o c e s s o r s

w h o n o w o w n t h o s e g r i d c e l l s . F o r a p r o t o t y p i c a l s i m u l a t i o n o f a n o z z l e e j e c t i n g g a s i n t o

a v a c u u m ( 1 7 3 0 0 g r i d c e l l s , 1 . 5 m i l l i o n p a r t i c l e s ) , w e f o u n d t h e p a r a l l e l i n e r t i a l b a l a n c e r

w o r k e d b e s t w h e n r u n o n c e e v e r y 2 0 0 t i m e s t e p s . T h e t o t a l c o s t o f o n e c a l l t o t h e b a l a n c e r

( b a l a n c e p l u s d a t a { s e n d ) w a s a b o u t e q u a l t o t h e c o s t o f 2 { 4 t i m e s t e p s . U s i n g t h e p u r e

I n e r t i a l b a l a n c e r , t h e o v e r a l l r u n t i m e o f a 1 0 0 0 0 t i m e s t e p s i m u l a t i o n w a s r e d u c e d f r o m

2 1 1 6 s e c o n d s ( w i t h a s t a t i c s c a t t e r e d d e c o m p o s i t i o n ) t o 1 6 4 2 s e c o n d s o n 5 1 2 p r o c e s s o r s o f

t h e I n t e l P a r a g o n , a s a v i n g s o f 2 2 % . W e a r e s t i l l w o r k i n g t o i n t e g r a t e t h e f u l l I I F M a n d

I C F M b a l a n c e r s i n t o t h e D S M C s i m u l a t i o n a n d w i l l r e p o r t o n t h e i r e c a c y a t a l a t e r t i m e .

R e f e r e n c e s

1 T . J . B a r t e l a n d S . J . P l i m p t o n D S M C S i m u l a t i o n o f R a r e e d G a s D y n a m i c s o n a L a r g e

H y p e r c u b e S u p e r c o m p u t e r , i n P r o c . A I A A 2 7 t h T h e r m o p h y s i c s C o n f e r e n c e , A I A A 9 2 - 2 8 6 0 .

2 G . A . B i r d M o l e c u l a r G a s D y n a m i c s , C l a r e n d o n P r e s s , O x f o r d ( 1 9 7 6 ) .

3 C . M . F i d u c c i a a n d R . M . M a t t h e y s e s A l i n e a r t i m e h e u r i s t i c f o r i m p r o v i n g n e t w o r k

p a r t i t i o n s , i n P r o c . 1 9 t h I E E E D e s i g n A u t o m a t i o n C o n f e r e n c e , I E E E , 1 9 8 2 , p p . 1 7 5 { 1 8 1 .

4 S . H a m m o n d M a p p i n g u n s t r u c t u r e d g r i d c o m p u t a t i o n s t o m a s s i v e l y p a r a l l e l c o m p u t e r s , P h D

t h e s i s , R e n s s e l a e r P o l y t e c h n i c I n s t i t u t e , D e p t . o f C o m p u t e r S c i e n c e , T r o y , N Y , 1 9 9 2 .

5 B . K e r n i g h a n a n d S . L i n A n e c i e n t h e u r i s t i c p r o c e d u r e f o r p a r t i t i o n i n g g r a p h s , B e l l

S y s t e m T e c h n i c a l J o u r n a l , 2 9 ( 1 9 7 0 ) , p p . 2 9 1 { 3 0 7 .

6 R . L e l a n d a n d B . H e n d r i c k s o n A m u l t i l e v e l a l g o r i t h m f o r p a r t i t i o n i n g g r a p h s , T e c h n i c a l

R e p o r t S A N D 9 3 - 1 3 0 1 , S a n d i a N a t i o n a l L a b o r a t o r i e s , A l b u q u e r q u e , N M 8 7 1 1 5 , O c t o b e r 1 9 9 3 .

7 ] , A n e m p i r i c a l s t u d y o f s t a t i c l o a d b a l a n c i n g a l g o r i t h m s , i n P r o c . S c a l a b l e H i g h P e r f o r -

m a n c e C o m p u t i n g C o n f . , K n o x v i l l e , T N , J u n e , 1 9 9 4 .

8 ] , C h a c o u s e r ' s g u i d e - V e r s i o n 1 . 0 T e c h n i c a l R e p o r t S A N D 9 3 - 2 3 3 9 , S a n d i a N a t i o n a l

L a b o r a t o r i e s , A l b u q u e r q u e , N M 8 7 1 1 5 , N o v e m b e r 1 9 9 3 .

9 B . N o u r - O m i d , A . R a e f s k y , a n d G . L y z e n g a S o l v i n g n i t e e l e m e n t e q u a t i o n s o n

c o n c u r r e n t c o m p u t e r s , i n P a r a l l e l c o m p u t a t i o n s a n d t h e i r i m p a c t o n m e c h a n i c s , A . K . N o o r ,

e d . , A m e r i c a n S o c . M e c h . E n g . , N e w Y o r k , 1 9 8 6 , p p . 2 0 9 { 2 2 7 .

1 0 ] J . S a v a g e a n d M . W l o k a P a r a l l e l i s m i n g r a p h p a r t i t i o n i n g , J . P a r . D i s t . C o m p u t . , 1 3

( 1 9 9 1 ) , p p . 2 5 7 { 2 7 2 .

Documents

Parralle Algorithms for Dynamically Partitioning Unstructured Graphs