Windows Azure : Plongée en eaux profondes

2

Windows Azure : Plongée en eaux profondes8 février 2011Bernard OurghanlianCTO, CSO & DPE LeadMicrosoft France

CLO302

3

Sommaire

• Introduction au Cloud• Les fondamentaux de Windows Azure• Le fonctionnement interne du Fabric Controller• Mettre à jour un service• Mises à jour du système d’exploitation hôte• La réparation d’un service

4

Les fondamentaux du Cloud

• Infrastructure as a Service (IaaS) : ressources de calcul et de stockage de base– Serveurs à la demande– Ex : Amazon EC2, VMware vCloud

• Platform as a Service (PaaS): infrastructure applicative du Cloud– Environnement d’hébergement d’applications à la demande– Ex : Google AppEngine, Salesforce.com, Windows Azure

• Software as a Service (SaaS): applications cloud– Applications à la demande– Ex : GMail, Microsoft Office Web Companions/O365

5

Les bénéfices du Cloud• Le Cloud permet de fournir de la capacité à bas

coût, à la demande

= Géré pour vous Serveurs isolés

IaaS PaaS SaaS

Applications

Runtimes

Base de données

Système d’exploitation

Virtualisation

Serveur

Stockage

Réseau

Windows Azure

6

Windows Azure• Windows Azure est un système d’exploitation pour le Datacenter

• Modèle : traiter le Datacenter comme une machine• Traite la gestion des ressources, le provisionnement et la

surveillance• Gère le cycle de vie des applications• Permet aux développeurs de se concentrer sur la logique

métier• Fournit un réservoir partagé de ressources de calcul, de stockage

et de réseau• Stockage, calcul et réseau virtualisés• Illusion de ressources sans limites

• Fournit des blocs de base communs pour construire des applications distribuées• File d’attente fiable, stockage structuré simple, stockage SQL• Des services applicatifs comme contrôle d’accès et connectivité

7

Composants de Windows Azure

PaaS - Windows Azure

Applications Modèle de Service Windows Azure

Runtimes .NET 3.5/4, ASP .NET, PHP

Système d’exploitation

Système d’exploitation compatible Windows Server 2008 ou 2008 R2

Virtualisation Hyperviseur Windows Azure

Serveur Blades/Containers Microsoft

Base de données

SQL Azure

Stockage Stockage Windows Azure (Blob, Queue, Table)

Réseau Réseau configuré pour Windows Azure

8

Sommaire


9

Fonctionnalités de base de Windows Azure• Configuration et déploiement :

• Gestion de certificats (par exemple SSL)• Points de terminaison (endpoints) publics à

équilibrage de charge• Configuration et découverte des endpoints

internes• Opérations :

• Gestion de l’accès aux bureaux distants• Mises à jour automatisées des systèmes

d’exploitation et des runtimes• Mises à jour coordonnées

• Disponibilité : • Surveillance de la santé de l’environnement• Disponibilité garantie par SLA

10

Modéliser des Applications Cloud • Une application Cloud est typiquement construite à l’aide de divers

composants• Front End : par exemple : des serveurs Web à équilibre de charge

stateless• Middle tier : par exemple : traitement des commandes, encodage• Stockage Back End : par exemple : tables SQL ou fichiers• Plusieurs instances de chacun pour des raisons de passage à l’échelle

et pour la disponibilité

Front-End

Application Cloud

Front-End

HTTP/HTTPSWindows

AzureStorage,

SQL Azure

Equilibrage de charge Middle-

Tier

11

Le modèle de service Windows Azure• Une application Windows Azure est appelée un « service »

• Information de définition• Information de configuration• Au moins un « rôle »

• Les rôles sont comme des DLL au sein du « processus » d’un service• Collection de code avec un point d’entrée qui s’exécute dans sa

propre machine virtuelle• Il y a aujourd’hui trois types de rôles :

• Web Role : IIS7 et ASP.NET dans un système d’exploitation fourni par Windows Azure• IIS 7.5 maintenant

• Worker Role : code arbitraire dans un système d’exploitation fourni par Windows Azure• Middle tier

• VM Role : VHD téléchargé avec le système d’exploitation fourni par le client

12

Contenu du rôle• Définition : – Nom du rôle– Type du rôle– Taille de VM (par exemple

small, medium, etc.)– Endpoints réseau

• Code : – Web/Worker Role : DLL

hébergée et autres exécutables– VM Role : VHD

• Configuration :– Nombre d’instances– Nombre d’update et fault domains

ServiceRole: Front-End

DefinitionType: WebVM Size: SmallEndpoints: External-1ConfigurationInstances: 2Update Domains: 2Fault Domains: 2

Role: Middle-Tier

DefinitionType: WorkerVM Size: LargeEndpoints: Internal-1ConfigurationInstances: 3Update Domains: 2Fault Domains: 2

13

Fichiers de modèle de service• La définition du Service est dans

ServiceDefinition.csdef• La configuration du Service est dans

ServiceConfiguration.cscfg• Le programme CSPack compresse

(Zip) les binaires du service et la définition dans un fichier empaquetant le service (service.cscfg)

14

Disponibilité : Update Domains• Objectif : Assurer que le service reste

disponible pendant qu’on le met à jour et que le système d’exploitation Windows Azure se met à jour

• Le système prend en compte la notion d’update domains quand il met à jour un service– 1/update domains = pourcentage du

service qui sera hors service– Défaut et max : 5, mais vous pouvez

outrepasser avec la propriété de définition du service upgradeDomainCount

• Le SLA de Windows Azure est basé sur au moins 2 update domains et deux instances de rôle dans chaque rôle

Front-End-1

Front-End-2

Update Domain 1

Update Domain 2

Middle Tier-1

Middle Tier-2

Middle Tier-3

Update Domain 3

Middle Tier-3

Front-End-2Front-End-1

Middle Tier-2Middle Tier-1

15

Disponibilité : Fault Domains

• Objectifs : éviter les points de défaillance unique– Concept semblable aux update domains– Mais vous ne contrôlez pas les mises à

jour• Unité de défaillance basé sur la

topologie du Datacenter– Par exemple : un switch situé au-dessus

d’un rack de machines• Windows Azure considère les fault

domains lors de l’allocation des service roles– 2 fault domains par service– Essaye de répartir les rôles au maximum– Par exemple, ne place pas tous les rôles

dans le même rack

Front-End-1

Fault Domain

1

Fault Domain

2

Front-End-2

Middle Tier-2

Middle Tier-1

Fault Domain

3

Middle Tier-3

16

Services RDFE

Portail de Service

Datacenter de Dublin

Déployer un Service dans le Cloud :vue d’avion• Le package correspondant au Service

est téléchargé sur le portail– Le Windows Azure Portal Service passe

le package de service au service Azure « Red Dog Front End » (RDFE)

– RDFE convertit le package de service en version native « RD »

• RDFE envoie le service au Fabric Controller (FC) en fonction de la région cible

• Le FC stocke l’image dans le référentiel , déploie et active le service

FC

Service

17

Sommaire


18

Le Fabric Controller (FC)• Le « noyau » du système d’exploitation du Cloud

• Gère le hardware du Datacenter• Gère les services Windows Azure

• 4 principales responsabilités :• Affectation des ressources du

Datacenter• Provisionnement des

ressources du Datacenter• Gestion du cycle de vie

du Service• Gestion de l’état de santé

du Service• Entrées :

• Description des ressources hardware et réseau qu’il contrôlera

• Modèle de Service et binaires pour les applications Cloud

ServeurNoyauProcessus

DatacenterFabric ControllerService

Windows Kernel

Server

Word SQL Server

Fabric Controller

Datacenter

ExchangeOnline

SQL Azure

19

Pour être clair avec les « Fabrics »…• Le Fabric Controller de Windows Azure n’a

absolument rien à voir avec AppFabric• AppFabric est une marque qui comprend :

• Windows Server AppFabric : un ensemble de composants pour construire des applications composites fondées sur Windows Communication Foundation et Windows Workflow Foundation

• Windows Azure AppFabric : Services Cloud pour connecter des applications Cloud et en interne• AppFabric Access Control Server • AppFabric Service Bus• AppFabric Cache• Construits comme des services Windows Azure

20

Datacenter Architecture

TOR

LB LBAgg

PDU

LB LBAgg

LB LBAgg

LB LBAgg

LB LBAgg

LB LBAgg

Racks

Datacenter Routers

Aggregation Routers et

Load Balancers

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

TOR

PDU

……… … …

Top of RackSwitches

Power Distribution

Units

…

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

s

Nœud

sNœ

uds

Nœud

s

21

Datacenters Windows Azure

22

Architecture FC haut niveau• FC est une application distribuée, stateful qui s’exécute sur les nœuds

(blades) répartie au travers des fault domains • Installé par l’ « utilitaire » Fabric Controller• Un d’entre eux agit comme « primaire » et maintient une vue synchronisée du

reste du monde par les autres• Choix d’un nouveau primaire si celui-ci tombe grâce un algorithme de

consensus de Paxos• Supporte les rolling upgrades et les services continuent de s’exécuter même si un

FC tombe entièrement

TOR

FC1

… …

TOR

FC2

… …

TOR

FC3

… …FC3

TOR

FC4

… …

TOR

FC5

… …

LB

LB AGG LBLB LB

Nœuds

Rack

23

Provisionner un nœud • Mettre sous tension le

nœud en parlant au PDU• Amorçage PXE d’un OS

de maintenance • L’agent formate le disque

et télécharge le système d’exploitation hôte

• Le système d’exploitation hôte démarre, exécute Sysprep /specialize et redémarre

• FC se connecte avec le « Host Agent »

Fabric ControllerImages

des rôles

Images des

rôles

Images des

rôles

Images des

rôles

Référentiel d’images

OS de maintenance OS Parent

Nœud

Serveur PXE

OS de maintenance

OS Windows Azure

OS Windows Azure

FC Host

Agent

Hyperviseur Windows Azure

24

Sommaire


25

Les étapes de déploiement d’un Service• Traitement des fichiers du modèle de service

• Déterminer les besoins en ressources (taille de VM, nombre d’instances,…)

• Créer les images des rôles• Allouer les ressources de calcul et de réseau• Préparer les nœuds

• Placer les images des rôles sur les nœuds • Créer les machines virtuelles• Démarrer les machines virtuelles et les rôles

• Configurer le réseau• Adresses IP dynamiques (DIP) affectées aux blades

• Internes• Adresses IP virtuelles (VIP) affectées et mappées vers les

ensembles de DIP• Visibles à l’extérieur

• Programmer les load balancers pour permettre le trafic

26

Allocation des ressources d’un service• Objectif : allouer les composants du service en direction des

ressources disponibles tout en satisfaisant toutes les contraintes dures• Besoin de passage à l’échelle : nombre d’instances• Besoins hardware : CPU, Mémoire, Stockage, Réseau• Besoins de l’environnement d’hébergement (OS, VM)• Fault domains• Update domains

• Objectif secondaire : satisfaire les autres contraintes • Préférer les allocations qui simplifient le service de l’OS hôte/de

l’hyperviseur• Optimiser la proximité réseau (ex : front-end, middle-tier, back-end)

• L’allocation du Service produit l’état de l’objectif pour chacune des ressources affectées aux composants du Service• Configuration nœud et VM (OS, environnement d’hébergement)• Fichiers images et configuration à déployer• Processus à démarrer

• L’allocation du Service alloue aussi les ressources réseau telles que LB et VIP

27

Exemple d’une allocation de service Role B

Count: 2Update Domains:

2Fault Domains: 2

Size: Medium

Role ACount: 3

Update Domains: 2

Fault Domains: 2Size: Large

Fault Domain 1 Fault Domain 2 Fault Domain 3

LoadBalancer

10.100.0.36

10.100.0.122

10.100.0.185

www.mycloudapp.net

www.mycloudapp.net

28

Provisionner une instance de rôle• Le FC pousse les fichiers de rôle et les informations de

configuration en direction du host agent du nœud cible• Le host agent crée trois VHD :

• Un VHD différentiel pour l’image de l’OS (D:\)• Le host agent injecte un guest agent pour le FC au sein du VHD pour les

Web/Worker roles• Un VHD ressource pour les fichiers temporaires (C:\)• Un VHD Role pour les fichiers rôle (la première lettre disponible

ensuite, par exemple E:\, F:\)• Le host agent crée les VM, y attache les VHD et démarre les

VM• Le guest agent démarre le hôte du rôle, qui appelle alors le

point d’entrée du rôle• Démarre le health heartbeat et accepte des commandes en

provenance du host agent• Le load balancer ne route seulement que vers les points de

terminaison externes quand il répond à un simple HTTP GET (sonde du LB)

29

Provisioner les instances de VM Role• Le VHD de base et le VHD différentiel d’un VM Role sont stockés

dans des Windows Azure storage blobs• Des versions miroirs sont créées quand les originaux sont téléchargés• Les lectures depuis le VHD sont toutes réalisées à travers un service de

caching de VHD• Les lectures sont effectuées à la demande depuis le cache

(comme la pagination)• Les écritures vont en direction d’un second VHD différentiel

• Une opération de « Reimage » le supprime simplement et redémarre

Windows Azure Blob StorageVHD original de base

VHD différentiel original

Miroir du VHD de base

VHD différentiel miroir

RDFEService de

caching VHD

VHD de base

VHD différentiel miroir

VHD différentiel secondaire

Nœud

30

A sein d’une VM de Rôle

Volume de ressource

Volume de l’OS

Volume pour le Rôle

Guest Agent

Hôte du Rôle

Point d’entrée du Rôle

31

La sécurité du Fabric Controller• La machine virtuelle est la frontière de sécurité à

partir de laquelle est basée la sécurité de Windows• L’OS de l’hôte et le host agent du FC sont

considérés comme dignes de confiance• Le guest agent est indigne de confiance• Le host agent du FC assure que la VM peut

seulement accéder aux adresses IP affectées aux VM du même service• Permet l’accès aux adresses Internet

• Le FC utilise des certificats et la sécurité réseau pour autoriser l’accès aux ressources du Datacenter

32

Sommaire


33

Types de mises à jour• Il y a deux types de mises à jour :

• In-place• VIP swap

• Mise à jour In-place :• Supporte les changements de la

configuration ou des binaires mais pas de la définition du service

• Les instances de Rôle sont mis à jour un update domain après l’autre

• Deux modes : automatique et manuel• Mise à jour VIP swap :

• La définition du service peut changer mais les points de terminaison externes doivent rester les mêmes

• La nouvelle version du service déployée, le nouveau mappage externe VIP/DIP est échangé avec l’ancien

• Les changements du nombre de points de terminaux externes nécessitent un nouveau déploiement

Role A

UD 1

Role A

UD 2Role

BUD 1

Role B

UD 2

Role A

UD 1Role

BUD 1

Role A

UD 2Role

BUD 2

Role A

UD 1

Role A

UD 2Role

BUD 1

Role B

UD 2

Role A

UD 1

Role A

UD 2Role

BUD 1

Role B

UD 2

LB

Mise à jour In-Place

Mis à jour VIP Swap

34

Détails de la mise à jour In-Place• Le FC déploie les fichiers mis à jour du rôle et de la

configuration sur tous les nœuds en parallèle• Prépare les nouvelles instance du rôle :

• Le host agent du FC crée un nouveau VHD pour le rôle• Attache et monte le nouveau VHD pour le rôle

• Stoppe l’ancienne instance du rôle :• Le FC charge le guest agent de stopper l’instance du rôle• Démonte et détache l’ancien VDD du rôle

• Démarre les nouvelles instances du rôle :• Appelle le nouveau point d’entrée du rôle• Considère que la mise à jour de l’instance du rôle a été

couronnée de succès quand le code du rôle signale « ready »• A noter le fait que le volume de ressource est préservé

lors de la mise à jour de l’instance du rôle

35

Sommaire


36

Mettre à jour l’OS de l’hôte• Lancé par l’équipe Windows Azure

• Typiquement pas plus qu’une fois par mois• Objectif : mettre à jour toutes les machines le plus rapidement

possible• Contrainte : ne doit pas violer le SLA

• Un service a besoin d’au moins deux update domains et deux instances de rôle pour respecter le SLA

• On ne peut pas permettre à plus d’un update domain de n’importe quel service d’être hors service à un instant donné

• Note : votre instance de rôle garde la même VM et les mêmes VHD, préservant ainsi les données cachées dans le volume de ressource

• Essentiellement un problème de coloriage de graphe• Des arrêtes existent entre des sommets (nœuds) si les deux nœuds

hébergeant les deux instances de hôtes pour le même rôle de service sont dans des update domains différents

• Les nœuds qui n’ont pas d’arrêtes entre eux peuvent être mis à jour en parallèle

37

Exemple d’allocations

• Les deux allocations sont valides du point de vue des services• Allocation 1 permet

à 2 nœuds de rebooter simultanément

• Allocation 2 ne permet qu’à un seul nœud d’être arrêté à n’importe quel moment

• Une mise à jour de l’OS hôte avec l’allocation 1 est 2 fois plus rapide

Allocation 1

Allocation 2

Service ARole A-1

UD 1

Service BRole A-1

UD 1

Service ARole B-1

UD 1

Service BRole B-1

UD 1

Service ARole A-1

UD 2

Service BRole A-1

UD 2

Service ARole B-2

UD 2

Service BRole B-2

UD 2

Service ARole A-1

UD 1

Service ARole B-1

UD 1

Service BRole B-1

UD 1

Service ARole A-1

UD 2

Service ARole B-2

UD 2

Service BRole B-2

UD 2

Service BRole A-1

UD 2

Service BRole A-1

UD 1

38

Sommaire


39

Maintenance de la santé des nœuds et des rôles• Le FC maintient la disponibilité du service

en surveillant la santé du software et du hardware• Basée principalement sur des

heartbeats • « Répare » automatiquement les rôles

affectésProblème Détection Réponse de la Fabric

Crash d’une instance de rôle

Le guest agent du FC surveille la fin d’un rôle

Le FC redémarre le rôle

Une VM invitée ou un agent crashe

Le host agent du FC remarque les heartbeats manquant du guest agent

Le FC redémarre la VM et le rôle hébergé

L’OS hôte ou l’agent crashe

Le FC remarque les heartbeats manquant du host agent

Tentative de récupérer le nœud. Le FC réalloue les rôles à d’autres nœuds

Détection d’un problème hardware sur le nœud

Le host agent en informe le FC Le FC migre les rôles vers d’autres nœuds Marque le nœud « out for repair »

40

Node Health Index• Les timeouts varient en fonction de l’état du

nœud et des opérations• Basés sur des heartbeats, qui sont

typiquement de 15 secondes• Utilisés pour statut et récupération• L’échantillonneur d’état de santé fait un reset de

l’index après un échantillonnage couronné de succès

• Une fois que l’index tombe en dessous de 0 le FC tente de réparer le nœud

• Par exemple, le timeout du host agent est de 10 minutes

• Le temps de réaction dans le pire cas est de : intervalle de timeout + intervalle de heartbeat

NodeHealthIndex

Heartbeatsmanqués

Intervalle deHeartbeat

Heartbeatmanqué

Récupérationinitiée

Timeout de Heartbeat

Timeout de santé

En bonne santé

41

Déplacer une instance de rôle

• Déplacer une instance de rôle ressemble à une mise à jour de service

• Sur le nœud source :• Les instances du rôle sont stoppées• Les VM sont stoppées• Le nœud est re-provisionné

• Sur le nœud destination :• Mêmes étapes que lors du déploiement initial du

rôle• Attention : le VHD ressource n’est pas déplacé

42

Conclusion

• La mise en place d’une solution de type Platform as a Service a pour but essentiel de réduire le surcoût lié au management et aux opérations

• Le Fabric Controller Windows Azure est la fondation de la plateforme Windows Azure• Provisionnement des machines• Déploiement des services• Configuration du hardware pour les services• Surveillance de la santé du service et du

hardware• Réparation du service

• Le Fabric Controller continue d’évoluer…

43

Remerciements

• Merci à Mark Russinovich pour une large part de cette présentation !

44

Questions ?

Documents

Windows Azure : Plongée en eaux profondes