Embed Size (px)
DESCRIPTION
Séminaire de l’Instituto de Territorio y Patrimonio Historico, University of Granada, Spain May, 30th, 2005
Citation preview
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Modélisation de la dynamique d’occupation dusol par réseau de neurones
Nathalie Villaen collaboration avec Louis Ferré
Université Toulouse Le Mirail, Équipe [email protected]
Exposé Grenade, Juin 2005
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones biologiques
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones biologiques
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones biologiques
∑
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones biologiques
Si∑
> Seuil d’activation alors
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones biologiques
Si∑
< Seuil d’activation alors
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones artificiels : le perceptron multi-couche
Ent
rées
2
1.5
11
Variable N
Variable 2
Variable 1
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones artificiels : le perceptron multi-couche
Ent
rées
2
1.5
11
Variable N
Variable 2
Variable 1 × Poids
0.5
-1
0.2
∑= 4.4
Fonction de lien f
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones artificiels : le perceptron multi-couche
Ent
rées
2
1.5
11
Variable N
Variable 2
Variable 1 × Poids
0.5
-1
0.2
∑= 4.4
Fonction de lien f
∑+f
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Neurones artificiels : le perceptron multi-couche
Ent
rées
2
1.5
11
Variable N
Variable 2
Variable 1 × Poids
0.5
-1
0.2
∑= 4.4
Fonction de lien f
∑+f
× Poids
∑+f
Sorties
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Comment choisir les poids ?
Échantillon d’apprentissageOn dispose d’exemples pour lesquels on connaît :
les variables explicatives (les entrées) ;la sortie souhaitée : la cible.
Exemple : Les pixels du passé dont on connaît l’évolution :Entrées : végétation à la date t, altitude, exposition,. . . ;Cible : végétation à la date t + 1.
Minisation de l’erreur quadratiqueOn cherche les poids tels que :∑
exemples
(cible− sortie du réseau︸ ︷︷ ︸dépend du poids
)2
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Comment choisir les poids ?
Échantillon d’apprentissageOn dispose d’exemples pour lesquels on connaît :
les variables explicatives (les entrées) ;la sortie souhaitée : la cible.
Exemple : Les pixels du passé dont on connaît l’évolution :Entrées : végétation à la date t, altitude, exposition,. . . ;Cible : végétation à la date t + 1.
Minisation de l’erreur quadratiqueOn cherche les poids tels que :∑
exemples
(cible− sortie du réseau︸ ︷︷ ︸dépend du poids
)2
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Intérêts des réseaux de neurones
Jolies propriétésApproximateur universel : approchent avec la précisiondésirée n’importe quelle fonction suffisamment régulière ;"Boîte noire" : faciles d’utilisation (bibliothèques déjàprogrammées).
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Désintérêts des réseaux de neurones
DésavantagesLa fonction d’erreur n’est pas facile à optimiser :
Erreur
Poids
problèmes de minima locaux ;le temps de calcul croît très vite avec le nombre d’exempleset le nombre de poids.
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Modèle
Variables explicatives :Pixel Date t
010000000
⇒ Cible : Pixel Date t + 1 0 0 0 0 1 0 0 0 0
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Modèle
Variables explicatives :Pixel Date t Voisinage Date t
010000000
0.20.60.10.0500
0.0500
Pixeld
Fréquencepondérée par
e−d/2
⇒ Cible : Pixel Date t + 1 0 0 0 0 1 0 0 0 0
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Modèle
Variables explicatives :Pixel Date t Voisinage Date t Autres (17)
010000000
0.20.60.10.0500
0.0500
altitudepente
expositiondistance aux villages
distance aux irrigationsnature du sol (× 7). . .
Pixeld
Fréquencepondérée par
e−d/2
⇒ Cible : Pixel Date t + 1 0 0 0 0 1 0 0 0 0
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Modèle
Variables explicatives :Pixel Date t Voisinage Date t Autres (17)
010000000
0.20.60.10.0500
0.0500
altitudepente
expositiondistance aux villages
distance aux irrigationsnature du sol (× 7). . .
Pixeld
Fréquencepondérée par
e−d/2
⇒ Cible : Pixel Date t + 1 0 0 0 0 1 0 0 0 0
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Échantillon d’apprentissage
Dates utilisées pour l’apprentissage1957 → 1974 et 1974 → 1987
Pixels utilisés pour l’apprentissagePixels "frontières" :
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Échantillon d’apprentissage
Dates utilisées pour l’apprentissage1957 → 1974 et 1974 → 1987
Pixels utilisés pour l’apprentissagePixels "frontières" :
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Procédure d’apprentissage
Pixels d’apprentissage NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...NN1z (xx neurones, taille yy)
10 fois. . .
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Procédure d’apprentissage
Pixels d’apprentissage NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...NN1z (xx neurones, taille yy)
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...NN1z (xx neurones, taille yy)
10 fois. . .
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Procédure d’apprentissage
Pixels d’apprentissage NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...NN1z (xx neurones, taille yy)
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...NN1z (xx neurones, taille yy)
10 fois. . .
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Validation
Comment choisir le nombre de neurones, la taille duvoisinage,. . . ? ? ?
NN1aNN1bNN1cNN1d
...NN2a
...NN10z
Pixels
1987−−−−−→
Carte 1aCarte 1bCarte 1cCarte 1d
...Carte 2a
...Carte 10z
Réalité
2001−−−−−−→
Erreur 1aErreur 1bErreur 1cErreur 1d
...Erreur 2a
...Erreur 10z
Sélection optimale
Erreur minimale ⇒ Modèle optimal (Réseau de neuronesoptimal, taille de voisinage optimale, . . . )
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Validation
Comment choisir le nombre de neurones, la taille duvoisinage,. . . ? ? ?
NN1aNN1bNN1cNN1d
...NN2a
...NN10z
Pixels
1987−−−−−→
Carte 1aCarte 1bCarte 1cCarte 1d
...Carte 2a
...Carte 10z
Réalité
2001−−−−−−→
Erreur 1aErreur 1bErreur 1cErreur 1d
...Erreur 2a
...Erreur 10z
Sélection optimale
Erreur minimale ⇒ Modèle optimal (Réseau de neuronesoptimal, taille de voisinage optimale, . . . )
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Validation
Comment choisir le nombre de neurones, la taille duvoisinage,. . . ? ? ?
NN1aNN1bNN1cNN1d
...NN2a
...NN10z
Pixels
1987−−−−−→
Carte 1aCarte 1bCarte 1cCarte 1d
...Carte 2a
...Carte 10z
Réalité
2001−−−−−−→
Erreur 1aErreur 1bErreur 1cErreur 1d
...Erreur 2a
...Erreur 10z
Sélection optimale
Erreur minimale ⇒ Modèle optimal (Réseau de neuronesoptimal, taille de voisinage optimale, . . . )
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Validation
Comment choisir le nombre de neurones, la taille duvoisinage,. . . ? ? ?
NN1aNN1bNN1cNN1d
...NN2a
...NN10z
Pixels
1987−−−−−→
Carte 1aCarte 1bCarte 1cCarte 1d
...Carte 2a
...Carte 10z
Réalité
2001−−−−−−→
Erreur 1aErreur 1bErreur 1cErreur 1d
...Erreur 2a
...Erreur 10z
Sélection optimale
Erreur minimale ⇒ Modèle optimal (Réseau de neuronesoptimal, taille de voisinage optimale, . . . )
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Résultats (Stage J. Mendiboure)
Modèle optimal20 neurones sur la couche cachée ;taille de voisinage : 4.
Taux d’erreurTaux d’erreur global en 2001 : 10,71 % (23,49 % sur les pixelsfrontières).
Répartition des occupations du sol réelles / préditesOcc. du sol Feuillus Brouss. Pâtur. Conif.
Réel 10,86 % 32,96 % 20,75 % 9,23 %Prédit 10,63 % 33,14 % 20,75 % 6,20 %
Cult. aband. Cult. irri. Cult. non irri. Irri. & non irri. Urbain19,78 % 5,78 % 1,05 % 0,25 % 0,35 %17,19 % 10,90 % 0,82 % 0,07 % 0,30 %
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Résultats (Stage J. Mendiboure)
Modèle optimal20 neurones sur la couche cachée ;taille de voisinage : 4.
Taux d’erreurTaux d’erreur global en 2001 : 10,71 % (23,49 % sur les pixelsfrontières).
Répartition des occupations du sol réelles / préditesOcc. du sol Feuillus Brouss. Pâtur. Conif.
Réel 10,86 % 32,96 % 20,75 % 9,23 %Prédit 10,63 % 33,14 % 20,75 % 6,20 %
Cult. aband. Cult. irri. Cult. non irri. Irri. & non irri. Urbain19,78 % 5,78 % 1,05 % 0,25 % 0,35 %17,19 % 10,90 % 0,82 % 0,07 % 0,30 %
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Comparaison des cartes réelle / prédite (1)
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Comparaison des cartes réelle / prédite (1)
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Comparaison des cartes réelle / prédite (2)
Répartition des prédictions (par ligne) par rapport à la végétationréelle
Feuillus Brouss. Pâtur. Conif. Aband.Feuil. 0,9741 0,0028 0 0 0,0051Brous. 0,0000 0,9860 0 0,0034 0,0106Pât. 0 0 1 0 0
Conif. 0,0010 0,0217 0 0,6420 0,3353Aband. 0,0002 0,0019 0 0,0013 0,7056
Irri. 0,0050 0,0341 0 0,0044 0,0125Non Irri. 0 0,1664 0 0,0499 0,1628
Mos. 0.0128 0.0107 0 0 0.6614Urbain 0.0056 0.0081 0 0.1836 0.1017
Irri. Non irri. Mos. UrbainFeuil. 0,0179 0 0 0Brous. 0 0 0 0Pât. 0 0 0 0
Conif. 0 0 0 0,0001Aband. 0,2831 0,0047 0,0011 0,0020
Irri. 0,9256 0,0146 0 0,0038Non Irri. 0,0002 0,6208 0 0
Mos. 0.1276 0 0.1875 0Urbain 0.0157 0 0 0.6854
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Limites et perspectives
LimitesL’utilisation de la carte de 2001 pour la validation (choix de lataille du voisinage, du nombre de neurones sur la couchecachée, . . . ) introduit un biais : le taux d’erreur du modèle estsous-estimé.
PerspectivesPrévoir une procédure de validation qui ne tienne pas comptede la carte de 2001.Problème : Le manque de dates ! ! ! Faire l’apprentissage avecseulement une transition (1957 → 1974) et la validation sur lacarte de 1987 est sans doute un peu juste. . .
NN pourprédiction del’occupation
du sol
Grenade,Juin 2005
NathalieVilla
Principe desréseaux deneurones
Méthodologiesur la zonede la SierraNevada
Résultats,conclusion etouverture
Limites et perspectives
LimitesL’utilisation de la carte de 2001 pour la validation (choix de lataille du voisinage, du nombre de neurones sur la couchecachée, . . . ) introduit un biais : le taux d’erreur du modèle estsous-estimé.
PerspectivesPrévoir une procédure de validation qui ne tienne pas comptede la carte de 2001.Problème : Le manque de dates ! ! ! Faire l’apprentissage avecseulement une transition (1957 → 1974) et la validation sur lacarte de 1987 est sans doute un peu juste. . .
