64
HPC Cluster & Cloud Computing กตตรักษ์ ม่วงม่งสุข (Kittirak Moungmingsuk) [email protected] Feb 9, 2010 @ NIDA

HPC Cluster & Cloud Computing

Embed Size (px)

DESCRIPTION

 

Citation preview

Page 1: HPC Cluster & Cloud Computing

HPC Cluster & Cloud Computing

กิตติรักษ์ มว่งมิ่งสุข(Kittirak Moungmingsuk)

[email protected]

Feb 9, 2010 @ NIDA

Page 2: HPC Cluster & Cloud Computing

2

What's ?

E=mc2

Page 3: HPC Cluster & Cloud Computing

3

Mass–energy equivalence

E : Energy (พลังงาน)

m : mass (มวล)

c : ความเร็วแสง (มาจากภาษาละตนิคำาว่า celeritas แปลว่า อัตราเร็ว)

Page 4: HPC Cluster & Cloud Computing

4

ไอน์สไตนน์ับถือพุทธ

คุณคิดอย่างไร ?

Page 5: HPC Cluster & Cloud Computing

5

แปลจากตอนหนึ่งใน “The Human Side”

"ศาสนา ในอนาคต จะต้องเปน็ศาสนาสากล ศาสนาน้ันควรอยู่เหนือพระเจ้าทีม่ีตัวตน และควรจะเว้นคำาสอนแบบสิทธันต์ (คือเปน็แบบสำาเร็จรูปที่ใหเ้ชื่อตามเพียงอย่างเดยีว) และแบบเทววิทยา(คือพึง่เทวดาเป็นหลักใหญ่) ศาสนาน้ัน เมื่อครอบคลุมทั้งธรรมชาติและจิตใจ จึงควรมีรากฐานอยู่บนสามัญสำานึกทางศาสนา ที่เกิดขึน้จากประสบการณ์ตอ่สิ่งทัง้ปวง คือ ทั้งธรรมชาติและจิตใจอย่างเป็นหน่วยรวมที่มีความหมาย พระพทุธศาสนาตอบข้อกำาหนดน้ีได.้... ถ้าจะมีศาสนาใดทีร่ับมือได้กับความตอ้งการทางวิทยาศาสตร์สมัยใหม่ปัจจุบนั ศาสนาน้ันก็ควรเป็นพระพทุธศาสนา"อ้างอิง : http://www.watnai.org/einstein/The%20Human%20Side%20_st.html

Page 6: HPC Cluster & Cloud Computing

6

หัวใจนักปราชญ์

สุ : สตุะ (ฟัง)

จิ : จินตะ (คิด)

ปุ : ปุจฉา (ถาม)

ลิ : ลขิิต (เขยีน)

สุ จิ ปุ ลิ

Page 7: HPC Cluster & Cloud Computing

7

Large Hadron Collider (LHC)

Page 8: HPC Cluster & Cloud Computing

8

คุณลกัษณะของ LHC

ลึกลงไปใตด้ิน 175 เมตร

มีลักษณะเป็นท่อวงกลมระยะทางยาว 27 กิโลเมตร

superconducting electromagnets น้ันถูกทำาให้มีความเย็นอยู่ที่ -271 องศาเซลเซียส เพือ่ทำาให้มันเป็นตวันำายิ่งยวด ก่อนที่จะเริ่มทำาการทดสอบ

LHC ใช้ระบบ “Grid Computing” ในการคำานวณข้อมูลทีม่ีปริมาณมากถงึ 15 Peta Byte (PB) ต่อปี

Page 9: HPC Cluster & Cloud Computing

9

Avatar Movie

Page 10: HPC Cluster & Cloud Computing

10

Challenge of Avatar Movie

One frame of certain shots, it's 24 frames per second, took 100 computer hours to render. Just one second was 2,400 hours.

Weta operates a 10,000-square-foot facility that uses HP BL2x220c blades to process the effects for AVATAR and other films. The computing core contains some 40,000 processors and 104 terabytes of RAM.

Page 11: HPC Cluster & Cloud Computing

11

Page 12: HPC Cluster & Cloud Computing

12

References

Shrek the Third

http://www.linuxjournal.com/print/9653

Kung Fu Panda digs grids

http://www.isgtw.org/?pid=1000931

Avatar

Google Keyword "avatar movie render"

Page 13: HPC Cluster & Cloud Computing

13

Introduction to Computer Cluster

Page 14: HPC Cluster & Cloud Computing

14

High Performance Computing

Supercomputers

Computer Cluster

Grid Computing

Cloud Computing

Page 15: HPC Cluster & Cloud Computing

15

Difference type of Cluster

High Availability (HA)

Load Balancing

High Throughput Computing

High Performance Computing

Page 16: HPC Cluster & Cloud Computing

16

High-availability clustering

Make more reliable computer system by having many computers working together and takeover when any of them fail

Page 17: HPC Cluster & Cloud Computing

17

Computer Cluster Concept

Cluster computing is a technology related to the building of high performance scalable computing system from a collection of small computing system and high speed interconnection network

Page 18: HPC Cluster & Cloud Computing

18

High Throughput Computing

Jobs Queue

Page 19: HPC Cluster & Cloud Computing

19

High Performance Computing

Sub task 1 Sub task 2

Sub task 3 Sub task 4

Big job

Page 20: HPC Cluster & Cloud Computing

20

Why Cluster ?

One man show not work but Team Work!

Research

More complex and more amount data.

Simulation.

Technical

Can't scale

heat problem

hard to design

price

Page 21: HPC Cluster & Cloud Computing

21

Benefit of Cluster

Low startup cost

Scalability

Rapid response, technology tracking

More user-driven configuration

Order of magnitude price-performance advantage

Page 22: HPC Cluster & Cloud Computing

22

What Cluster do ?

Sciences & Engineering

Aerodynamics

Bioinformatics

Chemistry

Oil and gas

Weather prediction

CFD

Business

Financial analysis

Animation

Graphic Rendering

Page 23: HPC Cluster & Cloud Computing

23

Data from http://www.top500.orgon 11/2009

HPC World

Cluster 410 (83.4%)

Constellation 2 ( 0.4%)

MPP 88 (16.20%)

Page 24: HPC Cluster & Cloud Computing

24

Top500 : Architecture share 1993-2009

Page 25: HPC Cluster & Cloud Computing

25

Top500 : 11/2009 Application Share

Page 26: HPC Cluster & Cloud Computing

26

Top 10 on 11/2009

Page 27: HPC Cluster & Cloud Computing

27

Today and Tomorrow

Page 28: HPC Cluster & Cloud Computing

28

Page 29: HPC Cluster & Cloud Computing

29

48 Core chip

Page 30: HPC Cluster & Cloud Computing

30

Gain Performance with Multi-core

Multi-thread Programming

Pthread

OpenMP

Message Passing

PVM

MPI

Virtualization

Page 31: HPC Cluster & Cloud Computing

31

OpenMP with Visual C++

Page 32: HPC Cluster & Cloud Computing

32

Example : OpenMP code.

compile with “gcc -fopenmp source.c -o output”

Page 33: HPC Cluster & Cloud Computing

33

Another Introduce,

BI : Data Mining

Machine Vision

Page 34: HPC Cluster & Cloud Computing

34

Cloud Computing

Page 35: HPC Cluster & Cloud Computing

35

Hot Issue

Green Computing

Virtualization

On-Demand Computing

Multi-threads / Parallel Programming

Page 36: HPC Cluster & Cloud Computing

36

What's Cloud Computing

Cloud computing is Internet-based ("cloud") development and use of computer technology ("computing")

Page 37: HPC Cluster & Cloud Computing

37

Page 38: HPC Cluster & Cloud Computing

38

Everything as a Service

PaaS : Platform as a Service

SaaS : Software as a Service

IaaS : Infrastructure as a Service

Page 39: HPC Cluster & Cloud Computing

39

Players

Page 40: HPC Cluster & Cloud Computing

40

Page 41: HPC Cluster & Cloud Computing

41

Amazon EC2 Pricing

Page 42: HPC Cluster & Cloud Computing

42

Amazon EC2 Pricing (cont.)

Page 43: HPC Cluster & Cloud Computing

43

Cloud Hosting

Page 44: HPC Cluster & Cloud Computing

44

Variety of Service

Page 45: HPC Cluster & Cloud Computing

45

Page 46: HPC Cluster & Cloud Computing

46

Weakness

Reliability and security

Outage (ไฟดับ)

Cost (ต้นทุน)

Page 47: HPC Cluster & Cloud Computing

47

Public / Private Cloud

Page 48: HPC Cluster & Cloud Computing

48

Solution

Usage public cloud with lower-priority applications such as absence reporting and expense reporting.

Usage private cloud for privacy and security

where companies will do some of their computing internally, possibly in a private cloud, while other tasks will be offloaded to the public cloud

Page 49: HPC Cluster & Cloud Computing

49

อย่ายุ่งจนขนาดนี้

Page 50: HPC Cluster & Cloud Computing

50

บางครั้งลองเปลี่ยนงานดูบา้งอาจจะดี

Page 51: HPC Cluster & Cloud Computing

51

Software Lists.

Rocks Cluster (http://www.rocksclusters.org/)

VirtualBox (http://www.virtualbox.org/)

Ubuntu (http://www.ubuntu.com/)

OpenMP (http://www.openmp.org/)

Cloud Middleware

Eucalyptus (http://www.eucalyptus.com/)

OpenNebula (http://www.opennebula.org/)

Page 52: HPC Cluster & Cloud Computing

52

About ClusterKit

Page 53: HPC Cluster & Cloud Computing

53

Cluster Kit Co.,Ltd.

Cluster Kit setting up on January 2007 (พ.ศ. 2550), that have professional and experience team for design, implement and Training in Computer Cluster System and Grid Computing.

Page 54: HPC Cluster & Cloud Computing

54

Strong Technical Skills

Design

High Performance System

Load Balancing System

High Availability System

Application Software

Web Load balancing

MySQL Cluster

Lustre File System

{Linux, Windows} Cluster

Rendering Farm

Page 55: HPC Cluster & Cloud Computing

55

Our proudly success

Thai National Grid Center (TNGC)

“TERA” Cluster 800 cores

Windows Cluster 33 nodes

Ramkhamhaeng University

“Sila” Cluster

286 cores

BIOTEC

“Eclipse” Cluster

704 cores

Page 56: HPC Cluster & Cloud Computing

56

Our proudly success (contd.)

Geo-Informatics and Space Technology Development Agency (GISTDA)

Digital Thailand Project

Web Load Balancing + Lustre

Virgin Radio Thailand

7 Nodes Web Load Balancing

Page 57: HPC Cluster & Cloud Computing

57

ClusterKit Timeline

Page 58: HPC Cluster & Cloud Computing

58

พ.ศ.2547 (2004)

Asia Pacific Science & Technology Facility (APSTF)

A Research collaboration between Kasetsart University & Sun Microsystems

Page 59: HPC Cluster & Cloud Computing

59

พ.ศ.2548 (2005)

PAKSA Cluster for medical research– Avian Flu– HIV

44 Sun Fire V20Z nodes (88 Cores)

Page 60: HPC Cluster & Cloud Computing

60

พ.ศ.2548 (2005)

GISTDA

6 nodes Pilot Project

Geo-Informatics and Space Technology Development Agency (Public Organization)

Page 61: HPC Cluster & Cloud Computing

61

พ.ศ.2550 (2007)

Cluster Kit Startup

Installed the TERA Cluster @ ThaiGrid

Page 62: HPC Cluster & Cloud Computing

62

พ.ศ. 2551 (2008)

Full service at RU. (Sila Cluster)

Page 63: HPC Cluster & Cloud Computing

63

พ.ศ.2552 (2009)

Setup “Eclipse” Cluster at BIOTEC

Page 64: HPC Cluster & Cloud Computing

64

The EndQ & A