Upload
others
View
9
Download
0
Embed Size (px)
Citation preview
Estado del Arte de las Técnicas de Machine Learning:
Mitos y Realidades
Santiago Zazo
Centro de I+D+i en Procesado de la Información y las Telecomunicaciones (IPTC)
Universidad Politécnica de Madrid
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Contenidos
⚫ Fundamentos y conceptos esenciales
⚫ Mitos y Realidades
− Las realidades están ya al alcance de cualquiera
− Los mitos se están convirtiendo en retos cada vez más próximos
⚫ Caso de Análisis: Acciones coordinadas de elementos
robóticos gestionados por IA. ¿Realidad o ficción?
− Redes cognitivas seguras
− Percepción y extracción del conocimiento. Conciencia situacional
− Navegación autónoma coordinada
− Toma de decisiones individuales
⚫ Aprendizaje por refuerzo
− Toma de decisiones coordinadas
⚫ Teoría de Juegos. Inteligencia distribuida
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Contexto
⚫ El procesado digital supuso una revolución en la teoría de la señal.
− Dadas una señales se obtenían otras señales
⚫ Machine Learning (ML) aunque comparte la formulación matemática
basada en análisis estadístico supone un planteamiento muy diferente
− Dados unos datos se infieren reglas, modelos y toma de decisiones.
− Capacidad de aprender a resolver ciertos problemas sin haber sido
explícitamente programado para ello
− Las Redes Neuronales Profundas (DNNs) constituyen el marco para abordar
este reto
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Tipos de aprendizaje
- Aprendizaje supervisado
- Aprendizaje no supervisado
- Aprendizaje por refuerzo
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Tipos de aprendizaje
- Aprendizaje supervisado.
- Procesos discriminativos (clasificación)
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Tipos de aprendizaje
- Aprendizaje supervisado.
- Procesos discriminativos (clasificación)
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Tipos de aprendizaje
- Aprendizaje no
supervisado
(Procesos
generativos)
Variational Autoencoders (VAEs)Extracción de características
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Tipos de aprendizaje
- Aprendizaje por refuerzo (RL)
- Sistemas dinámicos. Procesos de decisión de Markov (MDP)
- Utilizar DNN para representar la función valor / la política
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y Realidades (1)
- Mito: las DNN resuelven cualquier problema
- Realidad: las DNN tienen una capacidad de expresividad completa (aproximadores universales). Ahora bien…
- Dimensión adecuada
- Arquitectura apropiada
- Naturaleza no convexa
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
DNN
- NN densas
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
DNN
- NN convolucionales. Explotar la correlación espacial
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
DNN
- NN convolucionales. Explotar la correlación espacial
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
DNN
- NN recurrentes (LSTM): explotar la correlación temporal
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
DNN
- NN recurrentes (RNN): explotar la correlación temporal
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y Realidades (2)
⚫ Mito: estas herramientas las puede usar cualquiera con formación superficial. Los algoritmos pueden interpretarse como cajas negras
⚫ Realidad: la experiencia y el conocimiento marcan la diferencia
⚫ Un algoritmo es tan bueno como su programador
⚫ Papel clave del entrenamiento: ¿qué pasa si un algoritmo se enfrenta a un escenario no previsto?
⚫ Hay que entender que la clave de las prestaciones está en la disponibilidad de estos datos y en su capacidad para representar todos los escenarios de interés
⚫ Las soluciones no tienen por qué ser siempre mejores que las obtenidas por sistemas clásicos. Dependerá de la complejidad del problema y del conocimiento que podamos aportar
⚫ Por tanto hay que conocer sus limitaciones, saber explotar sus posibilidades e interpretar adecuadamente el resultado
⚫ Escoger la arquitectura y el mecanismo de entrenamiento más adecuados
⚫ Función de coste, regularizador. Evitar el sobreajuste
⚫ Algoritmo de gradiente (tamaño del bloque), evitar regiones gradiente casi nulo, puntos de ensilladura, mínimos / máximos locales
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y Realidades (3)
⚫ Mito: Las soluciones
generalizan mal…
⚫ Realidad: transfer learning⚫ Se puede usar eficientemente el
conocimiento de ciertas tareas para facilitar
el aprendizaje de otras
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y realidades (4)
⚫ Mito: la IA no puede reproducir las expresiones más abstractas del ser
humano como es la belleza de la pintura, escritura, música..
⚫ Realidad: actualmente, a través de los modelos generativos las
máquinas pueden extraer los rasgos de un pintor o escritor o compositor
y generar nuevas obras siguiendo esos perfiles
Evolución de los modelos generativos en estos últimos años
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y realidades (4)
⚫ Mito: la IA no puede reproducir las expresiones más abstractas del ser
humano como es la belleza de la pintura, escritura, música..
⚫ Realidad: actualmente, a través de los modelos generativos las
máquinas pueden extraer los rasgos de un pintor o escritor o compositor
y generar nuevas obras siguiendo esos perfiles
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y realidades (4)
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Mitos y realidades (4)
⚫ Redes Generativas Adversarias (GANs)
ProblemasEstabilidad de la soluciónDominación de una red frente a la otraGradiente despreciable
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Caso de estudio
⚫ Acciones coordinadas de
elementos robóticos gestionados
por IA. ¿Realidad o ficción?
− Redes cognitivas seguras
− Percepción y extracción del
conocimiento. Conciencia
situacional
− Navegación autónoma coordinada
− Toma de decisiones individuales
⚫ Sistemas dinámicos. Control óptimo
⚫ Aprendizaje por refuerzo
− Toma de decisiones coordinadas
⚫ Teoría de Juegos
⚫ Inteligencia distribuida
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Redes cognitivas seguras
⚫ Aparte de las técnicas habituales de ‘jamming’ ahora surgen otras amenazas como es la incorporación en la red de nodos maliciosos
⚫ Planteamiento según la teoría de juegos.
⚫ Implementación mediante DNN: ataque óptimo / defensa óptima
CamuflajeReputación
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Visión artificial. Conciencia situacional
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Visión artificial. Conciencia situacional
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Sistemas de ayuda a la toma de decisiones
⚫ Toma de decisiones óptima en sistemas
dinámicos
− MDP / RL
− Representación de la función valor o de la
función política mediante NNs
• Toma de decisiones óptima con observabilidad
parcial• POMDP
• Representación de la historia. Redes recurrentes
• Extensión al caso multiagente. Teoría de juegos
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Navegación autónoma
⚫ Sistema dinámico que implica tomar cierto tipo de
decisiones acerca de la gestión de los actuadores
del sistema de guiado
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
¿Mito o realidad?
⚫ Realidad
⚫ Tenemos todas las piezas del puzzle
⚫ La tecnología nos aporta soluciones individuales
⚫ Mito (muy pronto va a dejar de serlo)
− Entrenamiento meticuloso y exhaustivo
− Gestión de la inteligencia de forma distribuida
− Extraer la información relevante (rasgos – características) de cada elemento de la red.
− Fusión óptima de la información heterogénea
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Gestión de la inteligenciade forma distribuida
FeaturesBW limitado
FeaturesBW limitado
FeaturesBW limitado
FeaturesBW limitado
Features BW limitado
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Extracción de rasgos (Variational Autoencoders VAEs)
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Fusión óptima de
información heterogénea
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad
Conclusiones
⚫ No cabe ninguna duda de que IA (ML es una parte de IA) es una tecnología disruptiva.
• No sólo es cuestión de tener capacidad operativa más
eficaz sino que habrá que dar respuesta a amenazas
cada vez más sofisticadas
• … pero la clave del éxito sigue siendo la misma que en
el resto de las revoluciones tecnológicas de la
humanidad: el conocimiento
Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad