Soft layer IBM Cloud platform and GPU

© 2016 IBM Corporation 1

Presented by:

Artem NosenkoCloud Cervices Certified IT Architect2016

Softlayer – IBM Cloud Platform and GPU


43 Дата центра сейчас в 17 странах на 5 континентах и планируется больше!!! Ключевые элементы дизайна

Контроль и прозрачность Высочайшая производительность Суверенность данных Безопасность

IPv4/IPv6 поддержка двойной адресации Глобальный DNS Глобальные точки обмена траффика и

пиринговые соглашения

Softlayer – глобальная сеть облачных ЦОД-ов


Server Racks

PowerBattery Backup

Generators

Security

Network

Storage

Environmental Controls

Server Racks

PowerBattery Backup

Generators

Security

Network

Storage


Server Racks

PowerBattery Backup

Generators

Security

Network

Storage


Server Racks

PowerBattery Backup

Generators

Security

Network

Storage


Data center pod design

Каждый ЦОД состоит из одного или более модульных мини ЦОД-ов

Серверные стойки

Батареи и резервные генераторы

Безопасность

Сеть

СХД

Контроль за окружающей

средой

Каждый мини ЦОД:

• 3000 м2

изолированная зона

• 2 МВт(n+1 линий)

• 150 стоек

• 4,000 физических узла

• Файрволлы,Балансировщики,и хранилища


Серверные Стойки

Батареи и резервные генераторы

Безопасность

Сеть

СХД

Контроль за окружающей

средой

Global footprint

ЦОДМашинный зал - POD

Ряд типовых стоек

Типовая стойка

Сквозная стандартизация


Softlayer предлагает полную прозрачность от топологии сети до физического оборудования.

У Других провайдеров Вы обычно можете знать только:

Страну и место расположение Дата центра или регион.

С SoftLayer,Вы знаете:

• ЦОД• Машинный зал• Стойка• Номер в

стойке• Порт питания

• Сетевой порт• сервер• Контролеры

сетевых карт • прошивку• Серийные

номераИ еще:

Журнал аудита всех действий относительно вашей инр-ры.

В результате такая прозрачность дает вам больше контроля над вашим приложением и его производительностью, а также безопасностью и соответствовать требо-ваниям регуляторов.


Архитектура ЦОД-а

Network POP

BBR DAR

FCR

Load Balancer

SLR

VPNMBR

BCR

Servers Servers Servers

FirewallsFirewallsFirewalls

PUBLIC

PRIVATE

ВажноBlock

StorageFile

StorageObject

StorageOS

UpdateAPI

ServersDNS Transcoding Images

Public

Private

Optional

Management

ЦОД

Пользователи Транзит/пиринг

К PoP Softlayer

Уникальная особенность:• Сетевой дизайн архитектуры с 3-мя физически

раздельными сегментам и поддержкой ipv4/ipv6 • ЦОД в ЦОД дизайн• Глобальный частный бэкбон соединяющий все

ЦОД


Перечень услуг

7

Различные варианты хранения данныхВиртуальные и выделенные сервераОбъектное хранилищеБлочные и файловые LUN (Performance/Endurance)FTP/NASFile storageMass Storage ServersBackupCDN

Сетевые сервисыБалансировщики нагрузки;VPN и DNS;Интеллектуальные шлюзы;Выделенные линии;Content Delivery Network

Операционные системыCentOSDebianFreeBSDRed HatUbuntuVyatta NetworkCloud LinuxMicrosoft

ВиртуализацияVMWare ESX and ESXiCitrix XenserverCitrix CloudPlatformParallels Cloud ServerMicrosoft Hyper-V

БезопасностьMcAfee Total ProtectionMcAfee Anti-VirusMicrosoft Windows FirewallMcAfee Host Intrusion ProtectionNimsoft MonitoringAPF Software Firewall

Базы данныхMicrosoft SQL Server MySQLCloudera HadoopMongoDBBasho Riak

Панели управленияcPanel/WHM with Fantastico, RVSkin and Softaculous.Parallels Plesk Panel


Что такое Bare Metal (BM) сервера в Softlayer

Время предоставления…• Менее 4 часов для специализированных конфигураций Bare Metal• 20-30 минут для фиксированных конфигураций• С лицензионной ОС/гипервизором или просто консолью, для

собственной установки ОС• Controlled in the cloud

1U 4 Диска

2U12 Дисков

3U6 Дисков

4U36 Дисков

Один ЦПУ Два ЦПУ Четыре ЦПУ

• Выделенное физическое устройство/хост

• 1, 2 ,4 сокета для ЦПУ (Broadwell уже доступен)

• 4,12, 6, 36 слотов для HDD дисков (SATA, SAS, SSD)


Виртуальные серверы

Public Node– Много VM на один хост

Private Node– Одна VM на один физический хост

Public Node Private Node

1 – 16 Core 1 – 8 Core

1 – 64 GB 1 – 64 GB

New Public Nodes16 Core / 128 GB RAM

32 Core / 32 GB RAM

32 Core / 48 GB RAM

32 Core / 64 GB RAM

32 Core / 128 GB RAM




New Private Nodes

16 Core

32 Core

56 Core

Любой размер ОЗУ

1 – 242 GB

На SSD


Блочный и файловыйEndurance: скорость, надежность и возможности требуемые корпорациями

Performance: полный контроль быстродействия и затрат

Mass Storage Servers: изолированные, выделенный SAN/NAS

Backup: автоматические резервные копии на СХД корпоративного класса и катастрофоустойчивые решения. (Evault и R1Soft)

ОбъектныйObject Storage: недорогое, масштабируемое, отказоустойчивое хранилище для

огромных объемов неструктурированных данных.

Content Delivery Network (CDN): доступ к глобальной сети доставки контента с низкими уровнями задержек и оплатой по мере использования по траффику

Передача данных Data Transfer Service: отправка USB носителей, CD, или которые напрямую

подключают к сети SoftLayer для высокоскоростной передачи без затрат на траффик

Aspera: безопасная передача данных напрямую в облако на облачное хранилище с линейной скоростью по высокоскоростному протоколу передачи

Типы облачных хранилищ


Виды GPU доступных на SL

General Purpose GPU для HPC (Высокопроизводительные вычисления) позволяют ускорить вычисления в приложениях ориентированных на такого рода задачи с помощью NVIDIA Tesla Graphics Processing Units (GPUs). GPUs могут использоваться для ускорения обработки данных и непараллельных задач как data mining, выполнение численных и сейсмических аналитических расчетов или обработка и рендеринг 3D видео.

Закакзчики SoftLayer могут выбирать между графическими картами NVIDIA Tesla или GRID в соответствии с их задачами. NVIDIA Tesla разработана для HPC в научной сфере и аналитических задач а NVIDIA GRID разработана для визуализации графики. Начиная с поколения 2.0 - платформа Maxwell можно использовать оба режима на одних и тех же картах.

NVIDIA Tesla M60 Tesla- 2x Maxwell GPUs (GM204)- 4096NVIDIA Cores (2048 per GPU)- 16GB GDDR5 Memory- Use Cases – Virtualization of GPU

Functionality, Network delivered GPU acceleration for Virtual Desktop, Remote Visualization/ 3D Rendering

- GRID functionality requires additional software licenses

http://www.softlayer.com/gpu

NVIDIA Tesla K80- 2x Kepler GPUs (GK210)- 4992 NVIDIA Cores (2496 per GPU)

- 24GB GDDR5 Memory- Use Cases - General Purpose GPU – HPC, Hundreds of applications accelerated

NVIDIA GRID K2- 2x Kepler GPUs (GK104)- 3072 NVidia Cores (1536 per

GPU)- 8 GB GDDR5- Use Cases: Virtualization of

GPU Functionality, Network delivered GPU acceleration for Virtual Desktop, Remote Visualization/ 3D Rendering

NVIDIA GRID K10- 2x Kepler GPUs (GK104)- 3072 NVidia Cores (1536 per

GPU)- 24 GB GDDR5- 2,5 GHz Clock Speed- Memory Bandwidth 2x 160

Gb/sec- Use-case: General Purpose

GPU (GPGPU) – HPC, Hundreds of applications accelerated




Улучшенная виртуализация графики с помощью GRID

Технология GRID позволяет нескольким пользователям одновременно использовать мощности одного GPU без потерь в производительности

Пользователь подключается к удаленной сессии на сервере под управлением GRID

Такой подход позволяет получить высокую производительность на слабом локальном устройстве

– Также можно и спользовать тонкий клиент


Виртуализация рабочих мест

Применение Виртуализация рабочего места (VDI)

ТребованияКонкурентное подключение многих пользователей

Рекомендуемая GPU K2, M60


Высокопроизводительные вычисления

Применение HPC

ТребованияБыстродействие при вычислениях с двойной точностью (double)

Рекомендуемая GPU K10, K80


Нефте и газодобыча

ПрименениеМоделирование для нефтяных и газодобывающих компаний

Требования Большая пропускная способность памяти

Рекомендуемая GPU K10, K80


Глубокое обучение (нейросистемы)

Применение Глубокое обучение

Требования

Объем памяти на один GPU,Быстродействие при вычислениях с одинарной точностью на один GPU

Рекомендуемая GPU K10, K80, M60


Доступные опции VMware для ежемесячной аренды

Название ВерсияvSphere Enterprise Plus 6.x

vCenter Server Appliance Standard 6.х

Virtual SAN Standard/Adv Tier I 0 - 20 6.x

Virtual SAN Standard/Adv Tier I 21 - 64 6.x

Virtual SAN Standard/Adv III 64 - 124 6.x

VMware NSX 6.х

VMware Site Recovery Manager 6.х

VMware vRealize Automation Enterprise 7.0

VMware vRealize Log Insight 3.0

VMware vRealize Operations Enterprise Edition 6.0

Integrated OpenStack 2.x

Информация о стоимости*

*Ссылка http://www.softlayer.com/vmware-solutions?dsk=true&cm_mc_uid=76406363711014555352522&cm_mc_sid_50200000=1464267643

Посмотрите сами тут:

http://www.softlayer.com/vmware-solutions?dsk=true&cm_mc_uid=76406363711014555352522&cm_mc_sid_50200000=1464267643




Что получает клиент на облачной платформе IBM с BM сервером

• Использование инфраструктуры ЦОД Tier 3+• Портал самообслуживания• Стандартный набор услуг и компонент во всех 40+ ЦОД-ах • Выделенный сервер, выбранной конфигурации с 1-й или 2-мя GPU предоставленный за 4

часа для помесячной аренды• 1 Публичный и один Частный IP адрес• 500 GB публичного исходящего трафика• Неограниченный трафик между ЦОД-ами IBM по частному сегменту сети• Доступ к консоли сервера • Использование API для автоматизации• Возможность использовать коммутацию 1 или 10 Гбит/c• Предустановленный гипервизор с лицензией (опция) или ОС с лицензией (опция)• Замена неисправных компонентов сервера в течении 2-4 часов по заявке• Неограниченная тех. поддержка 24х7 через портал (тикет), телефон, email• Отсутствие штрафов при отказе от аренды


Сравнение с AWS

g2.2xlarge AWS 0,702 в час для региона Ирландии0,702 х 24 ч х 16 потоков х 30 дней = 8087,04 USD/month

=16х 1 Bare Metal Server 2x2690 V3 c 2хМ60 GPU 128 GB RAM 2x1TB HDD 4x10Gbps Uplinks =2 845.44USD в месяц

Пример в сценарии Video Streaming:

Ограничения:Типы инстансов на примере региона Ирландия:

Конфигурации на примере региона Ирландия:


Сравнение с Azure


Azure

VDI HPC Clusters

https://azure.microsoft.com/en-us/pricing/details/virtual-machines/windows/https://azure.microsoft.com/en-us/documentation/videos/azurecon-2015-applications-that-scale-using-gpu-compute/

Пока публичн

о недосту

пны!

https://azure.microsoft.com/en-us/pricing/details/virtual-machines/windows/

https://azure.microsoft.com/en-us/pricing/details/virtual-machines/windows/

https://azure.microsoft.com/en-us/documentation/videos/azurecon-2015-applications-that-scale-using-gpu-compute/

https://azure.microsoft.com/en-us/documentation/videos/azurecon-2015-applications-that-scale-using-gpu-compute/


Зона ответственности платформы IBM Softlayer

SLA Softlayer включает следующие сервисы:

Публичная сеть: SoftLayer прилагает все возможные усилия для обеспечения100% доступности Public Network.

Частная сеть: SoftLayer прилагает все возможные усилия для обеспечения100% доступности Private Network.

Портал пользователя: SoftLayer прилагает все возможные усилия для обеспечения100% доступности Customer Portal.

Отказоустойчивая инфраструктура: SoftLayer прилагает все возможные усилия для обеспечения100%

доступности питания и HVAC сервисов предоставляемых заказчикам.

Замену отказавшего оборудования в течении 2 часов после выявления неполадки

Запланированные обновления аппаратных компонентов в течении 2 часов в согласованное сервисное окно

Добавление новых серверов : в течении 2 – 4 часов в согласованное сервисное окно

Служба поддержки включает хорошо тренированных и сертифицированных инженеров на площадках для решения любых возможных проблем в зоне ответственности Softlayer . Специалисты поддержки могут выполнить своевременную замену неисправного оборудования по открытой заявке.

http://www.softlayer.com/LEGAL

http://www.softlayer.com/LEGAL


Сертификация и безопасностьhttp://www.softlayer.com/compliance

Сертификации общие:• ISO 27001 и ISO 27018• SOC 1, SOC 2, SOC 3• Соответствие Cloud Security alliance• Поддержка процесса EU Model Clauses

Сертификации специальные:• PCI DSS• HIPAA• Поддержка Intel® Trusted Execution Technology (TXT) для bare-metal серверов

http://www.softlayer.com/intel-txt• FISMA и FedRAMP ( для американского гос. сегмента)

Сертификация ЦОД• TIER 3 + (Uptime Institute)• Соблюдение директив ЕС 95/46/EC

9

http://www.softlayer.com/compliance

http://www.softlayer.com/intel-txt


Контакты

Спасибо!

Артем НосенкоIBM Certified Cloud Services Architect

[email protected]+7(985) 9706751

Азад МухуровIBM Cloud Services Sales Leader

[email protected]+79119230912

mailto:[email protected]

mailto:[email protected]