Julien Diard LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » 2012 1 Cours 4 Julien Diard Laboratoire de Psychologie

Julien Diard — LPNC-CNRSCours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 1

Cours 4

Julien DiardLaboratoire de Psychologie et NeuroCognition – CNRS

UE Cognition bayésienne16/01/2012 (& 19/01/2012)

http://diard.wordpress.com [email protected]


Plan des cours

1. Introduction à la Programmation Bayésienne : incomplétude, incertitude

2. Programmation bayésienne : exemple détaillé3. Classes de modèles probabilistes, distributions

usuelles, Programmation bayésienne des robots4. Modélisation bayésienne de la perception et de

l’action5. Comparaison bayésienne de modèles6. Compléments : inférence, apprentissage,

principe d’entropie


Plan• Résumé + questions !• Modélisation bayésienne de la perception

– Introduction à la perception multi-– Perception visuo-haptique : (Ernst & Banks, 02) détaillé– Causal Inference– Questions ouvertes

• Modélisation bayésienne de l’action– Introduction au contrôle moteur, Modèle de minimum variance

• Modélisation de la perception et de l’action– Exemple : modèles sensoriels et moteurs de la perception et de la

production de la parole


Bayesian Program = Description + Question

Inference

Des

crip

tion

Que

stio

n

Pro

gram

SpecificationSpecification

IdentificationIdentification

• Variables

• Parametrical Forms or Recursive Question

• Decomposition

Preliminary Knowledge

Experimental Data


Learning Reactive Behaviors

Khepera Robot

• Avoiding Obstacle• Contour Following• Piano mover• Phototaxy• etc.

Lebeltel, O., Bessière, P., Diard, J. & Mazer, E. (2004) Bayesian Robot Programming; Autonomous Robots, Vol. 16, p. 49-79Lebeltel, O. (1999) Programmation bayésienne des robots; Thèse INPG


• Joystick Remote Control Experimental Data

Des

crip

tion

Des

crip

tion

Que

stio

nQ

uest

ion

Pro

gram

Pro

gram



• Variables

Reactive behaviours

rot

- +

0

1

2 3

5

4

67

dir

prox

dir =+10

dir =0

dir =-10

Preliminary Knowledge

• Decomposition

€

P Dir∧Prox∧Vrot |δ1∧π( )

€

P Vrot | Dir = d[ ]∧ Prox = p[ ]∧δ1∧π( )

• Parametrical Forms

€

P Dir∧Prox |δ∧π( ) ← Uniform

P Vrot |Dir∧Prox∧δ∧π( ) ← Gaussians€

P Dir∧Prox∧Vrot |δ∧π( )

= P Dir |δ∧π( ) × P Prox |δ∧π( ) × P Vrot |Dir∧Prox∧δ∧π( )€

Dir∧Prox∧Vrot

Utilization

1 pushing obstacles2 contour following3 obstacle avoidance


Sensor Fusion Model

– No free parameters

Utilization

Des

crip

tion

Des

crip

tion

Que

stio

nQ

uest

ion

Pro

gram

Pro

gram



– Variables

– Decomposition (Conditional Independance Hypothesis)

€

P ThetaL∧DistL∧Lm0∧...∧Lm7 |π Fusion( )

= P ThetaL∧DistL |π Fusion( ) × P Lmi |ThetaL∧DistL∧π Fusion( )i= 0

7

∏

€

P ThetaL | lm0∧...∧lm7∧π Fusion( ),P Lm3 | lm2∧lm4∧ThetaL∧π Fusion( )

– Parametrical Forms

€

P ThetaL∧DistL |π Fusion( ) ← Uniform

P Lmi |ThetaL∧DistL∧π Fusion( ) ← P Lmi |ThetaL∧DistL∧δ i∧π Sensor( )

ThetaL, DistL, Lm0, …, Lm7


L m 2 = 3 9 1 ( c a p t e u r l u m - 1 0 ° )

P ( T h e t a L | L m 2 C p _ l 2 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 3 = 3 7 9 ( c a p t e u r l u m 1 0 ° )

P ( T h e t a L | L m 3 C p _ l 3 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 1 = 4 8 0 ( c a p t e u r l u m - 5 0 ° )

P ( T h e t a L | L m 1 C p _ l 1 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 4 = 4 3 0 ( c a p t e u r l u m 5 0 ° )

P ( T h e t a L | L m 4 C p _ l 4 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 0 = 5 0 9 ( c a p t e u r l u m - 9 0 ° )

P ( T h e t a L | L m 0 C p _ l 0 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 5 = 5 0 3 ( c a p t e u r l u m 9 0 ° )

P ( T h e t a L | L m 5 C p _ l 5 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 7 = 5 1 1 ( c a p t e u r l u m - 1 7 0 ° )

P ( T h e t a L | L m 7 C p _ l 7 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

L m 6 = 5 1 1 ( c a p t e u r l u m 1 7 0 ° )

P ( T h e t a L | L m 6 C p _ l 6 )

0 . 0 0

0 . 1 2

0 . 2 5

0 . 3 7

0 . 5 0

- 1 8 0 - 9 0 - 4 5 0 4 5 9 0 1 7 0

T e t h a = 1 0 , D i s t = 2 0

P ( T h e t a L | L m 0 . . L m 7 C p _ S o u r c e L )

0 . 0 0

0 . 2 5

0 . 5 0

0 . 7 5

1 . 0 0

- 1 8 0 - 9 0 - 5 0 - 1 01 0 5 0 9 0 1 7 0

€

P ThetaL Lm0...Lm7 Cp_SL( ) =1

ZP Lmi ThetaL DistL Cp_li( )

i= 0

7

∏DistL

∑ .


Object Recognition (Model)

• Identification of the Laplace succession laws and Gaussians

Utilization

Des

crip

tion

Des

crip

tion

Que

stio

nQ

uest

ion

Pro

gram

Pro

gram



• Variables

• Decomposition (Conditional Independance Hypothesis)

• Parametrical Forms

Nlt, Nrt, Per, Llsl, O = {0, 1, 2, …}

€

P O∧Nrt∧Nlt∧Per∧Llsl |δ∧π( )

= P O |δ∧π( ) × P Nrt |O∧δ∧π( ) × P Nlt |O∧δ∧π( )

× P Per |O∧δ∧π( ) × P Llsl |O∧δ∧π( )

€

P O |δ∧C( ) = Uniform

€

P O | nlt∧nrt∧per∧llsl∧δ⊗π( )


Bayesian BotSpecificationP

rogr

am

Des

crip

tion

Que

stio

n

Utilization

Identification

• Variables

• Decomposition

• Parametric Forms

• Playing: P(St+1 |St L W FW N FN PW PL)

• Perception: L Life, W Weapon, FW Foe Weapon, N Noise, FN Foe Number, PW Proximity Weapon, PL Proximity Life

• State: St, St+1 {Attack, Weapon Search, Life Search, Exploration, Escape, Danger Detection}

P(St St+1 L W FW N FN PW PL) = P(St) P(St+1 | St) P(L | St+1) P(W | St+1) P(FW | St+1) P(N | St+1) P(FN | St+1) P(PW | St+1) P(PL | St+1)

Tables


P Vrot Vtrans px0..px7 lm0..lm7 veille feu obj? eng tach_t -1 td_t -1 tempo tour dir prox dirG proxG vtrans_c dnv mnv mld per

πWatchman

⎛

⎝ ⎜ ⎜

⎞

⎠ ⎟ ⎟

=1Z

P Td Tach

td_t - 1 tempo tour πMoove

⎛

⎝ ⎜

⎞

⎠ ⎟

P Tach

Base

veille feu obj?

eng tach_t - 1

πTask

⎛

⎝

⎜ ⎜ ⎜

⎞

⎠

⎟ ⎟ ⎟

P Base px0...px7

lm0...lm7 πBase

⎛

⎝ ⎜

⎞

⎠ ⎟

⎛

⎝

⎜ ⎜ ⎜ ⎜ ⎜ ⎜

⎞

⎠

⎟ ⎟ ⎟ ⎟ ⎟ ⎟

Base∑

⎛

⎝

⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜

⎞

⎠

⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟

Tach∑

P ThetaL DistL lm0..lm7 πFusion( )DistL∑

P H prox πHoming( )

P Vrot Vtrans H Td ThetaL

dir prox dirG proxG vtrans_c πWatchman

⎛

⎝ ⎜

⎞

⎠ ⎟

⎛

⎝

⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜

⎞

⎠

⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟

TdThetaL H

∑ .

• Inférence exacte – sommation, propagation

des incertitudes

• Inférence approximée– décisions intermédiaires

(tirage de points), propagation d’une partie des incertitudes








Pour aller plus loin…• Reviews, introductions, …

– Numéro spécial Trends in Cognitive Sciences 2006, 10(7)– l’édito : N. Chater, J. B. Tenenbaum, and A. Yuille. Probabilistic models of cognition:

Conceptual foundations. Trends in Cognitive Sciences, 10(7):287–291, 2006.

– F. Colas, J. Diard, and P. Bessière. Common bayesian models for common cognitive issues. Acta Biotheoretica, 58(2-3):191–216, 2010.

• ambiguities, fusion, multimodality, conflicts, modularity, hierarchies and loops

– N. Chater, M. Oaksford, U. Hahn, and E. Heit. Bayesian models of cognition. WIREs Cognitive Science, 1(6), 2010.

• plus « cognitif » : categorization, learning and causality, language processing, inductive and deductive reasoning, argumentation

– R.A. Jacobs and J.K. Kruschke. Bayesian learning theory applied to human cognition. WIREs Cognitive Science, 2010.

– M. Jones and B. Love. Bayesian fundamentalism or enlightenment? on the explanatory status and theoretical contributions of bayesian models of cognition. Behavioral and Brain Sciences, 34:169–231, 2011.

• Article cible BBS, suivi de commentaires


Pour aller plus loin…

• Modèles sensori-moteurs en robotique– O. Lebeltel, P. Bessière, J. Diard, and E. Mazer. Bayesian robot

programming. Autonomous Robots, 16(1):49–79, 2004.

• Modèles sensoriels et moteurs en sciences du vivant– D. Kersten, P. Mamassian, and A. Yuille. Object perception as bayesian

inference. annu Rev Psychol, 55:271–304, 2004.– D. M. Wolpert. Probabilistic models in human sensorimotor control. Human

Movement Science, 26:511–524, 2007.

• Statistiques bayésiennes– J. K. Kruschke. Bayesian data analysis. WIREs Cognitive Science, 1:658–676,

2010.– J. K. Kruschke. What to believe: Bayesian methods for data analysis. Trends

in Cognitive Science, 14:293–300, 2010.








Modélisation de la perception multi-

• Multi-?– Intramodale : multi-indice– Multimodale : multi-sensorielle

• Modèle de pondération linéaire

(Lambrey, 2005)


Modèle de pondération sensorielle


Modélisation de la

perception• Perception

– Un problème inverse (Poggio, 1984)

• Modèle bayésien– Inversion + hypothèse

d’indépendance conditionnelle–

S1

S2

Sn

V

S1S2Sn

V?

stimulus

sensations

perception

€

P S1S2...SnV |C( )

= P V |C( )P S1 |VC( )P S2 |VC( )...P Sn |VC( )


€

P S1S2...SnV |C( )


• Vision– Perception des plans : préférence pour des

plans rigides, stationnaires (Colas, 06)– Perception des formes (Kersten et al., 04) :

• préférence pour les objets convexes• préférence pour des lumières venant du haut,

stationnaires• préférence pour un point de vue situé au dessus

de la scène


Ambigüités

• P(V | S) – inversion de P(S

| V)– Distribution à

plusieurs pics : ambigüité

• Cas classique– image rétinienne

2 D objet réel en 3D

Cube de Necker


Forme tirée du mouvement

MPI-BC


Forme tirée du mouvement

MPI-BC


Forme tirée des ombres


€

P S1S2...SnV |C( )


• Proprioception (Laurens, 07)


€

P S1S2K SnV |C( )

= P V |C( )P S1 |VC( )P S2 |VC( )K P Sn |VC( )

• Fusion multi-indices– Haptique : géométrie et force (Drewing &

Ernst, 06)– Vision (Kersten et al., 04)

• Fusion multi-sensorielle– Visuo-acoustique

• Localisation de sources (Alais and Burr, 04, Battaglia et al., 03; Körding et al., 07, Sato et al., 07)

• Reconnaissance de voyelles (Gilet, 06)

– Visuo-haptique (Ernst & Banks, 02)


Fusion visuo-acoustique :effet McGurk


Effet McGurk

• Audio : ba– Lèvres fermées

• Vidéo : /ga/– Lèvres ouvertes

• Situation de conflit : perception /da/


Fusion trimodale

• Stimuli audio, visuels et tactiles• Tâche : compter dans chaque

modalité

(Wozny, Beierholm and Shams, 2008)


Fusion trimodale








Nature, 429–433, 2002


Humans integrate visual and haptic information in a

statistically optimal fashion

• Mécanisme d’integration visuo-haptique par fusion de gaussiennes

• Utilisé par les humains


Plan

• Protocole expérimental• Modèle bayésien de fusion

capteurs• Comparaison du modèle au

données


Matériel expérimental


Stimuli visuels


Stimuli et tâche

• 4 niveaux de bruit visuel : 0% 67% 133% 200%

• 1 niveau haptique

• 1 s de présentation

• Tâche de choix forcé– laquelle de ces deux

barres est la plus grande ?


Cas mono-modal

• 2 barres en séquence– L’une à 55 mm (standard stimulus)– L’autre de taille variable, entre 47 et

63 mm (comparison stimulus)


Cas mono-modal


Cas multi-modal• 2 barres en séquence

– L’une composée d’une taille visuelle SV et d’une taille haptique SH

• | SH - SV | = = 0, 3 ou 6 mm

• (SH + SV) / 2 = 55 mm

standard stimulus– L’autre de taille variable

entre 47 et 63 mm comparison stimulus


Integration visuo-haptique

0%


0%67%



0%67%

133%



0%67%

133%200%



Plan



données


Modèle bayésien de fusion « naïve »





• Estimateur de maximum de vraisemblance– – Par opposition à Bayésien

• « Statistiquement optimal »– Moindre variance :


Plan



données


Quelles gaussiennes ?

• Choix d’une gaussienne parmi 2– L’inversion est une

sigmoïde…

• Point d’égalité subjective– PSE : moyenne

• Seuil de discrimination–

T = 0.085 x 55 mm

0.04 x 55 mm



• Comparison stimulus – visual and haptic

heights equal– vary in 47-63 mm

• Standard stimulus– visual and haptic

heights differ– Δ = {±6 mm, ±3

mm, 0}– mean is 55 mm



0%67%

133%200%


0%67%

133%200%

Comparaison modèle - données


Moyennes prédites - observées


JND

Variances prédites - observées


Questions, critiques ?








Perception audio-visuelle

• Effet ventriloque

(Alais and Burr, 2004)


Causal inference (Körding et al., 07; Sato et al., 07)

• Y a-t-il une source unique, ou deux sources distinctes ?


Données expérimentales



Modèle ségrégation totaleC=2

Modèle intégration totaleC=1

Modèle « causal inference »C variable inconnue sommation sur C

Modèle « causal inference »sans propagation tirage sur C / max sur C


Sommation / tirage• P(A B C) = P(A) P(B | A) P(C | B)• Inférence de P(C | A)

A

B

C

Inférence exacte : sommation

Inférence approximée: tirage

Tirer b selon P(B | [A=a])Tirer c selon P(C | [B=b])

Propagation des incertitudesSommation « dictée » par le formalisme, pas par le modèle !


Pour chaque sujet– Calcul des

paramètres sur la moitié des données : R2 = 0.98

– Validation croisée sur l’autre moitié : R2 = 0.96








Question ouverte

• De nombreux exemples d’application du modèle probabiliste de fusion


Cerveau bayésien ?

• Comment montrer que le traitement est « bayésien » ?

• Les modèles bayésien sont sous-contraints !– Extension de la logique, on

peut donc tout exprimer– Valeur d’un modèle qui

s’applique partout ?

• L’inférence bayésienne est contrainte !– Si on suppose des

gaussiennes, leur fusion est…

– L’inférence implique des marginalisations








Modélisation du contrôle

• Mouvements de pointage, volontaire, chez l’humain

• Etude des régularités– Lois du mouvement

• Isochronie, loi de Fitts, loi de la puissance 2/3

• Hypothèses sur les mécanismes – Modèles (neuro)cognitifs


Modèles de planification de mouvements

Planification de mouvement =Sélection d’une trajectoire selon un coût


Espaces de contrôle

• Planification intrinsèque– Espace articulaire

• Planification extrinsèque– Espace cartésien


Observations

• Trajectoires de la main – invariantes et quasiment

rectilignes dans l’espace cartésien

– quelles que soit les positions initiales et terminales du mouvement

– profil de vitesse en cloche

• Dans l’espace articulaire– grande variabilité


Trajectoire observéeChangement angulaire des articulations

D’après Hollerbach & Atkeson (1986)

Modèle d’interpolation linéaire dans l’espace

articulaire


Modèle d’interpolation linéaire dans l’espace

articulaire

βα


Quelle grandeur manipulée par le système

de contrôle ?

+ free energy principle(Friston 10)+ inactivation principle(Berret 08)+ …


Espace de travail

• Minimisation des dérivées de l’endpoint

– n=2 minimum acceleration– n=3 minimum jerk– n=4 minimum snap


Minimum jerk

• Prédit des segments droits• Pas observés pour des

mouvements de grande amplitude

Lacquaniti et al. (1986)


Espace des couples moteurs

• Minimisation des couples zi générés à chaque articulation


Minimum variance

• Bruit dépendant du signal (signal dependent noise SDN)


Bayesian Decision Theory

• Modèle probabiliste + modèle de coût (reward, cost, loss function)

Prior

Posterior

Likelihood

Cost function

X

X

Bayes theorem Bayesian

decision theory

outputobservation i








• Modélisation bayésienne de la perception et de la production de la parole


• Modélisation bayésienne d’une boucle sensorimotrice : application à l’écriture


Merci de votre attention !

Questions ?

Documents

Julien Diard LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » 2012 1 Cours 4 Julien Diard Laboratoire de Psychologie