28
Tracciamento Automatico Tracciamento Automatico dei Movimenti del Volto dei Movimenti del Volto Umano Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco Fratarcangeli Candidato: Gabriele Fanelli

Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Embed Size (px)

Citation preview

Page 1: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Tracciamento Automatico dei Tracciamento Automatico dei Movimenti del Volto UmanoMovimenti del Volto Umano

Tesi di laurea in

Ingegneria Informatica V.O.

Relatore: Prof. Marco Schaerf

Correlatore: Ing. Marco Fratarcangeli

Candidato: Gabriele Fanelli

Page 2: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Sommario

Obiettivi

Descrizione del metodo: Active Appearance Models

Costruzione

Adattamento

Risultati

Conclusioni

Page 3: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Obiettivi

Sistema capace di determinare:Posizione e forma di un volto generico da immagini statiche

Movimenti globali e deformazioni in un volto specifico da sequenze video

Immagini provenienti da telecamere di fascia bassa (webcam)

Page 4: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Active Appearance ModelsModelli generativi e parametrici del volto

FormaApparenza

Costruiti statisticamente da immagini esempio (training)

Apprendimento delle variazioni permesse

Algoritmo di adattamentoRicerca dei parametri che rendono il modello simile ad una nuova immagine

Page 5: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Sommario

Obiettivi

Active Appearance Models

Costruzione

Adattamento

Risultati

Conclusioni

Page 6: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

AAM generici - specifici

Set espressivo

Set identità

Page 7: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

FormaDef.: Maglia triangolata

Vettore delle coordinate dei vertici

Modellazione:Collezione dei vettori

Allineamento

Principal Component Analysis: Calcolo media

Calcolo matrice di covarianza

Selezione degli autovettori corrispondenti agli autovalori maggiori

Page 8: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Modello lineare di forma

Nuova forma

Forma media(base)

Vettori di forma

Parametri di controllo

Page 9: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Apparenza

• Intensità dei pixel all’interno della forma base

• Le immagini di training vanno normalizzate rispetto alla forma

Page 10: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Modello lineare di apparenza

Eigenfaces

Parametri di apparenza

Texture media

Nuova texture

Page 11: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Istanza completa

Immagine: cortesia di Simon Baker

Page 12: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Sommario

Obiettivi

Active Appearance ModelsCostruzione

Adattamento

Risultati

Conclusioni

Page 13: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Algoritmo di adattamento

Minimizzare la differenza tra:Immagine in ingresso mappata sulla forma base

Istanza del modello (apparenza)

Utilizzato l’Inverse Compositional Algorithm

Page 14: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Algoritmo di adattamento

Immagine in ingresso

Texturedeformata

Apparenzacorrente

Forma corrente

Immagine

differenza

sottrazione

Page 15: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Algoritmo di adattamento

Apparenzacorrente

Forma corrente

Immagine

differenza

∆p

∆λ

Page 16: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Inizializzazione

Punto d’inizio adeguato per la ricerca

Localizzatore di facce - OpenCV

Page 17: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Adattamento

Page 18: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Sommario

Obiettivi

Active Appearance ModelsCostruzione

Adattamento

Risultati

Conclusioni

Page 19: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 1: immagini “viste”

Entrambi i modelli adattati a immagini presenti nel training set

Oggetto:Qualità dell’algoritmo

Dipendenza dalla traslazione iniziale

Misura: errore RMSDisponibili le coordinate selezionate manualmente

Page 20: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 1: immagini “viste”

Distanza iniziale dal centro della faccia in % dell’altezza dell’immagine

Errore

RMS

Page 21: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 1: immagini “viste”

Page 22: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 2 : Immagini “non viste”

Immagini non presenti nel training set

Oggetto:Qualità algoritmo

Capacità del modello generico di descrivere nuove facce

Giudizio visivo60% di risultati positivi

Page 23: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Immagini “non viste” - successo

Page 24: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Immagini “non viste” - fallimento

Page 25: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 3: video

Page 26: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 3: video

Page 27: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Test 3: video

Page 28: Tracciamento Automatico dei Movimenti del Volto Umano Tesi di laurea in Ingegneria Informatica V.O. Relatore: Prof. Marco Schaerf Correlatore: Ing. Marco

Conclusioni

Sistema implementato:Migliorabile per caso generico

Buoni risultati nello specifico

Sviluppi futuri:Ampliamento training

Tempo reale

3D