35
Was kann Künstliche Intelligenz - was nicht? Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz Nachdenk-Veranstaltung der Arbeitsgruppe Ethik der Initiative D21, Berlin, 15.02.2018

Was kann Künstliche Intelligenz - was nicht? · Was kann Künstliche Intelligenz - was nicht? Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz Nachdenk-Veranstaltung

Embed Size (px)

Citation preview

Was kann Künstliche Intelligenz - was nicht?

Dr. Aljoscha Burchardt

Deutsches Forschungszentrum für Künstliche Intelligenz

Nachdenk-Veranstaltung der Arbeitsgruppe Ethik der Initiative D21,

Berlin, 15.02.2018

Denkimpulse: The human factor

• Ethische Baustellen– Wissenschaft/Recht (Rassengesetze, Todesstrafe), Diskriminierung (Hausfrauenehe,

Bildung), Generationengerechtigkeit (Energieverbrauch, Fleischkonsum)

• Mensch-Technik– Titanic, Tschernobyl, Flugzeugabstürze

• „Man kann nicht reinschauen“– Gerichtsgutachten

– Wohnungsvergabe

– Finanzamt

• Fazit: Menschen sind beschränkt und machen Fehler

• Aber: Im Großen und Ganzen vertrauen wir unseren Mitmenschen

• ... und haben Spaß miteinander.

15.02.2018 D21 2

Die Maschine als Übermensch?

15.02.2018 D21 3

AI Engine

Das DFKI

• Das DFKI ist das weltweit größte Zentrum für Forschung und Anwendung der Künstliche Intelligenz

• 1988 als Public-Private-Partnership gegründet

• Eingetragen als gemeinnützige GmbH nach deutschem Recht

• Verbunden mit sechs Universitäten

• Geschäftsführer: Prof. Dr. Dr. h.c. mult. Wolfgang Wahlster

• Von einem Aufsichtsrat geleitet

• Basisfakten

– 938 Beschäftigte (740 FTE)

– 41,4 Mio. € Umsatz (2016)

– 19 Forschungsbereiche (Labs) und Forschungsgruppen

– 334 laufende Projekte

15.02.2018 D21 4

5 x DFKI

Saarbrücken

Berlin

Bremen

Osnabrück

Kaiserslautern

Die Gesellschafter des DFKI

Saarland

BremenRheinland-Pfalz

15.02.2018 D21 6

Die Forschungsbereiche und -gruppen des DFKI

MultilingualeTechnologien

PlanbasierteRoboter-

steuerung

DigitaleWirtschaft

IntelligenteAnalytik für

Massendaten

IntelligenteNetze

RoboticsInnovation

Center

15.02.2018 D21 7

Heute

• Zweck: Die 2. Welle der Digitalisierung

• Mittel: Künstliche Intelligenz

• Methode: Maschinelles Lernen

15.02.2018 D21 8

DIGITALISIERUNG

D21 915.02.2018

Erste Welle:Daten digital

- Erfassen

- Speichern

- Übertragen

- Verarbeiten

Zweite Welle:Daten digital

- Verstehen

- Veredeln

- Aktiv nutzen

- Monetarisieren

Maschinenlesbare Daten: Internet- und

Cloudtechnologien

Maschinenverstehbare Daten: Künstliche Intelligenz und Maschinelles Lernen

Künstliche Intelligenz für die zweite

Welle der Digitalisierung

15.02.2018 D21 10

KÜNSTLICHE INTELLIGENZ

D21 1115.02.2018

15.02.2018 D21 12

Arbeitsdefinition

Künstliche Intelligenz (KI) ist die Eigenschaft eines IT-Systems, eine der

menschlichen Kognition ähnliche Fähigkeit zu zeigen. Diese Fähigkeit kann

ansatzweise erkennbar sein, wie etwa die Dialogfähigkeit heutiger

Smartphones. Sie kann aber auch über die menschliche Leistungsfähigkeit

hinausgehen, wie etwa bei der Auswertung zehntausender MRT-Scans. KI-

Systeme verfügen in unterschiedlichen Anteilen über bestimmte

Kernfähigkeiten wie situatives Wahrnehmen, Verstehen, Kommunizieren,

Handeln, Schlussfolgern oder Lernen.

15.02.2018 D21 13

Theorie

• Starke KI zielt auf den Homunculus, den künstlichen Menschen. Dieser

Ansatz trägt in sich die Fragen nach dem maschinellen Bewußtsein, dem

Willen zur Macht und das Konzept der Singulariät.

• Schwache KI konzentriert sich auf einzelne konkrete Wissensfähigkeiten.

– Ziel sind Technologien, die den Menschen in seinen jeweiligen Handlungskontexten

optimal dabei unterstützen, seine Ziele besser, leichter oder mit einer höheren Qualität

zu erreichen.

– Es geht nicht um das künstliche Bewusstsein, nicht um die Simulation des menschlichen

Denkens, nicht um Konkurrenz, sondern um smarte Mensch-Maschine-Interaktion

und -Kollaboration.

15.02.2018 D21 14

Kerngebiete und Einsatzfelder der KI

15.02.2018 D21 15

Sprachver-

stehende

Systeme

Bild-

verstehende

Systeme

Autonome

System

Kollaborative

Roboter

Multi-

Agenten

Systeme

Intelligente

Trainings-

-und Lernsystem

Bots, Chatbots

und virtuelle

Charaktere

Ambiente

Intelligenz

Subsymbolische Musterkennung

Wissensrepräsentation

Wissensverarbeitung

- Suchen

- Inferieren

- Planen

Wissenspräsentation

Lern- und Inferenzbibliotheken

Wissensrepräsentationssprachen

On

tolo

gie

n

KI-

Ha

rdw

areLernen

Assistenzsysteme für die Unterstützung von

körperlicher und geistiger Arbeit durch KI

15.02.2018 D21 16

Assistenz bei körperlicher Arbeit durch kollaborative KI-Roboter

Assistenz bei geistiger Arbeit durch kognitive KI-Systeme

z.B.: LEVERTON mit Deep LearningIn Legal Tech als DFKI Spin-Off

Bankberatung, Rechtsberatung, Personalberatung

z.B.: AILA als kollaborativer DFKI Roboter

Mensch-Roboter-Kollaboration, Stand-byRoboter, Team-Robotik

Digitalisierung vs. KI

„Ich möchte nie meine

Entscheidung von einer

Maschine dominiert wissen.“

15.02.2018 D21 17

Von Information zu Wissen: Wer ist Wolfgang Dauner?

15.02.2018 D21 18

MASCHINELLES LERNEN

D21 1915.02.2018

Von programmierten Systemen zu selbst-

lernenden Systemen

15.02.2018 D21 20

Flaschenhals: Programmierer hoher Entwicklungsaufwand aufwändige Adaption geringe Erklärungsfähigkeit

Flaschenhals: Wissensbasishoher Entwicklungsaufwandhoher Pflegeaufwandgute Erklärungsfähigkeit

Flaschenhals: Trainingsdatengeringer Entwicklungsaufwandleichte Anpassbarkeitschlechte Erklärungsfähigkeit

Computer-

programmAlgorithmus,

Heuristik

Wissens-

verarbeitungSuche,

Inferenz,

Planung

Program-mierer erstellt

Software

Ausgabe

Eingabe Eingabe

Ausgabe Ausgabe

Eingabe

Wissens-basis

Daten-basis

Fakten,Regeln,Modelle

MaschinellesLernen

Merkmalsextraktion,Mustererkennung,

Merkmalsabbildung

Trainingsdaten,Metadaten,Testdaten

1. Einprogrammieren

15.02.2018 D21 21

Flaschenhals: Programmierer hoher Entwicklungsaufwand aufwändige Adaption geringe Erklärungsfähigkeit

Computer-

programmAlgorithmus,

Heuristik

Program-mierererstellt

Software

Ausgabe

Eingabe

Bild: www.connox.at

2. Expertenwissen aufbauen

15.02.2018 D21 22

Wissens-

verarbeitungSuche,

Inferenz,

Planung

Eingabe

Ausgabe

Wissens-basis

Fakten,Regeln,Modelle

Flaschenhals: Wissensbasishoher Entwicklungsaufwandhoher Pflegeaufwandgute Erklärungsfähigkeit

https://gearpatrol.com/2017/07/19/how-does-a-virtual-assistant-work/

3. Maschinelles Lernen

15.02.2018 D21 23

Flaschenhals: Trainingsdatengeringer Entwicklungsaufwandleichte Anpassbarkeitschlechte Erklärungsfähigkeit

Ausgabe

Eingabe

Daten-basisMaschinelles

LernenMerkmalsextraktion,Mustererkennung,

Merkmalsabbildung

Trainingsdaten,Metadaten,Testdaten

• Automatisches Clustering für Empfehlungen• Maschinelles Übersetzen• Auto steuern• Go Spielen• Komponieren wie Bach

Lernen vom Menschen

15.02.2018 D21 24

“flower”

Let’s make that moveso that I win the game

Drive carefully dueto the traffic situation

Tiefes Maschinelles Lernen

15.02.2018 D21 25

Drive carefully dueto the traffic situation

Let’s make that moveso that I win the game

“flower”

A Neural Algorithm of Artistic Style, L. Gatys, A. Ecker, M.Bethge, Universität Tübingen, 2015

Maschinelles Lernen – Stilimitation

15.02.2018 D21 26

• Overfitting

• No Extinction Learning

• Weak Explanation Capabilities

• Architecture Alchemy

• False Alarms by False Positives

Open Problems for the New Wave of Bots Based on

Machine Learning

15.02.2018 D21 27

Hintergrund: Prozesse in KI-Systemen

Wahr-nehmen/ Erkennen

Verstehen/ Wissen

Planen/ Handeln

15.02.2018 D21 28

Hintergrund: Maschinelles Lernen heute

Wahr-nehmen/ Erkennen

Verstehen/ Wissen

Planen/ Handeln

MaschinellesLernen

15.02.2018 D21 29

Ziel: Maschinelles Lernen in allen

Prozess-Schritten

Wahr-nehmen/ Erkennen

Verstehen/ Wissen

Planen/ Handeln

Maschinelles

Lernen

15.02.2018 D21 30

... bezogen auf Ethik

• Expertensysteme, regelbasiert– Eher normativ

– Formalisierbarkeit der Fragestellung

– Zielkonflikte

• Maschinelles Lernen– Eher deskriptiv (ehrlicher: grob intuitiv)

– Lernbarkeit der Handlungen

– Hohe Anforderungen an die Daten

• Digitalisierung zwingt uns, über unsere Praktiken nachzudenken– Was sind unsere Regeln?

– Wollen wir alle Regeln strikt anwenden?

– Welche Erklärungen brauchen/fordern wir?

• Grundfrage: Unter welchen Bedingungen wollen wir Maschinen trauen?

• Ehrlicher: Wann haben wir Lust, mit Maschinen zu kooperieren?

15.02.2018 D21 31

Next Generation AI Systems: A Research Roadmap

• Emergent Machine Learning Systems

• Immersive Assistance Based on Ultra-Connectivity

• Self-Controlled Systems for Long-Term Autonomy

• Hybrid Teamwork with Human and Machine Intelligence

• Wearable Artificial Intelligence Systems

15.02.2018 D21 32

HYSOCIATEA: Developing Team Spirit

1. Distributed problem analysis and task allocation based on skills, knowledge and experience

1. Sharing goals, plans as well as intentions and coordinating plan execution

2. Understanding of all physical and communicative interactions of all team members

3. Developing social group behavior and emotional coherence

4. Building mutual trust and demonstrating accountability for the assigned subtasks

5. Compensating weaknesses of individual members by empathetic help

humans

robots

virtual agents

softbots

15.02.2018 D21 33

Zentrale Begriffe

• Digitalisierung

– Zweite Welle: Vom Informationsspeicher zur Wissensquelle

• Künstliche Intelligenz

– Lernen, Sprachverstehen, Planen, Inferenzen, Situationsbezogenheit

• Maschinelles Lernen

– Merkmale und Muster erkennen

– Oft auf manuell bearbeiteten/erzeugten Trainingsdaten (supervised)

– Mächtig, aber „reaktiv“, keine Erklärungen/Entscheidungsunterstützung, keine

dynamische Interaktion

15.02.2018 D21 34

Danke!

15.02.2018 D21 35

Dr. Aljoscha BurchardtDFKI, Language Technology LabAlt-Moabit 91c, 10559 [email protected]. +49-30-23895-1838