26
V13: K¨ unstliche Neuronale Netze 18.01.2019 Hydroinformatik I - WiSe 2018/2019 V13: K¨ unstliche Neuronale Netze Prof. Dr.-Ing. habil. Olaf Kolditz 1 Helmholtz Centre for Environmental Research – UFZ, Leipzig 2 Technische Universit¨ at Dresden – TUD, Dresden 3 Center for Advanced Water Research – CAWR Dresden, 18.01.2019 1/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

Hydroinformatik I - WiSe 2018/2019 [1.0ex] V13: Künstliche ... · V13: K unstliche Neuronale Netze 18.01.2019 Hydrologische Modelle De nition "Die deterministischen Modelle werden

  • Upload
    others

  • View
    2

  • Download
    0

Embed Size (px)

Citation preview

V13: Kunstliche Neuronale Netze 18.01.2019

Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze

Prof. Dr.-Ing. habil. Olaf Kolditz

1Helmholtz Centre for Environmental Research – UFZ, Leipzig

2Technische Universitat Dresden – TUD, Dresden

3Center for Advanced Water Research – CAWR

Dresden, 18.01.2019

1/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Ubersicht

1. Hydrologische Modelle: Definition

2. Kunstliche Neuronale Netzwerke (ANN)

3. Kunstliche Neuronale Netzwerke in der Hydrologie

4. Mesoskalige Hydrologische Modellierung (mHM)

5. Anwendungen

2/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Modell-Begriff

3/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModelleDefinition

”Hydrologisches Modell: Vereinfachte Beschreibung der in einemhydrologischen System ablaufenden physikalischen, chemischen undbiologischen Prozesse (hydrologischer Prozeß) oder Teilprozessemit Hilfe mathematischer Gleichungen. Diese werden zeitlich undraumlich so miteinander verknupft, wie sie in der Natur ablaufen.”

Source: http://www.spektrum.de/lexikon/geowissenschaften/hydrologisches-modell/7239

4/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModelleDefinition

I ”Je nach Berucksichtigung des zeitlichen Verhaltens wirdzwischen stationaren und instationaren Modellenunterschieden.

I Weitere Unterscheidungen erfolgen nach denLosungsverfahren der mathematischen Gleichungen inanalytische und numerische Modelle,

I nach Berucksichtigung zufallsbedingter Systemanderungen instochastische und deterministische Modelle,

I nach der Abhangigkeit der Modellparameter vom momentanenSystemzustand in lineare und nichtlineare Modelle.”

Source: http://www.spektrum.de/lexikon/geowissenschaften/hydrologisches-modell/7239

5/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModelleDefinition

”Die deterministischen Modelle werden in drei Hauptgruppenunterteilt, wobei der Grad der Kausalitat in Form derUrsachen-Wirkungs-Beziehung Beachtung findet:

1. physikalische Modelle (White-Box-Modelle), die auf denGrundgesetzen der Physik, insbesondere der Hydro- undThermodynamik, der Chemie und der Biologie beruhen,

2. konzeptionelle Modelle (Grey-Box-Modelle), die sich auf diephysikalischen Gesetze in vereinfachter Naherung stutzen undein gewisses Maß an Empirie enthalten und

3. Modelle der Black-Box, die unter Vernachlassigung derphysikalischen Grundgesetze nurUrsachen-Wirkungsbeziehungen zwischen den Systemein- undSystemausgaben betrachten.”

Source: http://www.spektrum.de/lexikon/geowissenschaften/hydrologisches-modell/7239

6/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale Netzwerke

ANN

7/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeDefinition

”Kunstliche neuronale Netze, auch kunstliche neuronaleNetzwerke, kurz: KNN (engl. artificial neural network, ANN), sindNetze aus kunstlichen Neuronen. Sie sind Forschungsgegenstandder Neuroinformatik und stellen einen Zweig der kunstlichenIntelligenz dar. Die kunstlichen neuronalen Netze haben, ebensowie kunstliche Neuronen, ein biologisches Vorbild. Man stellt sieden naturlichen neuronalen Netzen gegenuber, welcheNervenzellvernetzungen im Gehirn und im Ruckenmark bilden.Doch geht es mehr um eine Abstraktion (Modellbildung) vonInformationsverarbeitung und weniger um das Nachbildenbiologischer neuronaler Netze, was eher Gegenstand derComputational Neuroscience ist.”

Source: https://de.wikipedia.org/wiki/K\protect\unhbox\voidb@x\bgroup\U@D1ex\setbox\z@\hbox\char127\[email protected]\advance\dimen@\ht\z@\fontdimen5\font\dimen@\accent127\fontdimen5\

font\U@Du\egroupnstliches_neuronales_Netz

8/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeDefinition

In kunstlichen neuronalen Netzen bezeichnet die Topologie dieStruktur des Netzes. Damit ist im Allgemeinen gemeint, wie vielekunstliche Neuronen sich auf wie vielen Schichten befinden, undwie diese miteinander verbunden sind. Kunstliche Neuronen konnenauf vielfaltige Weise zu einem kunstlichen neuronalen Netzverbunden werden. Dabei werden Neuronen bei vielen Modellen inhintereinander liegenden Schichten (englisch layers) angeordnet;bei einem Netz mit nur einer trainierbaren Neuronenschicht sprichtman von einem einschichtigen Netz.

Source: https://de.wikipedia.org/wiki/K\protect\unhbox\voidb@x\bgroup\U@D1ex\setbox\z@\hbox\char127\[email protected]\advance\dimen@\ht\z@\fontdimen5\font\dimen@\accent127\fontdimen5\

font\U@Du\egroupnstliches_neuronales_Netz

9/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeDefinition

Unter Verwendung eines Graphenkonnen die Neuronen als Knoten undihre Verbindungen als Kanten dargestelltwerden. Die Eingaben werdengelegentlich auch als Knoten dargestellt.

Die hinterste Schicht des Netzes, deren Neuronenausgaben meistals einzige außerhalb des Netzes sichtbar sind, wird Ausgabeschicht(engl. output layer) genannt. Davorliegende Schichten werdenentsprechend als verdeckte Schicht (engl. hidden layer) bezeichnet.Source: https://de.wikipedia.org/wiki/K\protect\unhbox\voidb@x\bgroup\U@D1ex\setbox\z@\hbox\char127\[email protected]\advance\dimen@\ht\z@\fontdimen5\font\dimen@\accent127\fontdimen5\

font\U@Du\egroupnstliches_neuronales_Netz

10/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeDefinition

Source: https://www.lfi.rwth-aachen.de/index.php?page=kunstl-neuronale-netze

11/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeDefinition

Abb. 11 zeigt ein typisches, aus drei Schichten bestehendes KNN(eine Eingangsschicht, eine versteckte Schicht und eineAusgangsschicht). Jedes Neuron des Netzes verarbeitet dieankommenden Eingaben zu einer Ausgabe. Diese Ausgabe wirddann mit anderen Neuronen verknupft. Die Informationen gelangenuber die Eingangsschicht in das Netz hinein. Alle Schichten desNetzes verarbeiten diese Signale, bis sie die Ausgangsschichterreichen. Bei der Entwicklung von Neuronalen Netzen werden zweiHauptphasen betrachtet:

Source: https://www.lfi.rwth-aachen.de/index.php?page=kunstl-neuronale-netze

12/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeBeispiel

Source: Vorlesung 12.01.2018

13/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeDefinition

Lernphase Diese Phase umfasst den Prozess, bei dem dem Netzmit Hilfe von Trainingsets (z.B. historische Daten)und Trainingsalgorithmen eine gewunschteVerhaltensweise beigebracht wird.

Arbeitsphase Nach dem Lernprozess ist das KNN bereit, in dieArbeitsphase einzutreten. Das Netz gibtAusgangswerte aus, die denen im Beispieldatensatzahneln, wenn die Eingangswerte zu denen einesTrainingsbeispiels passen.

Source: https://www.lfi.rwth-aachen.de/index.php?page=kunstl-neuronale-netze

14/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeHydrologie

Ronny Peters

KUNSTLICHE NEURONALE NETZE ZUR BESCHREIBUNGDER HYDRODYNAMISCHEN PROZESSE FUR DENHOCHWASSERFALL UNTER BERUCKSICHTIGUNG DERNIEDERSCHLAGS-ABFLUSS-PROZESSE IMZWISCHENEINZUGSGEBIET

Dresden, Juli 2008

Source:https://www.baufachinformation.de/dissertation/K\protect\unhbox\voidb@x\bgroup\U@D1ex\setbox\z@

\hbox\char127\[email protected]\advance\dimen@\ht\z@\fontdimen5\font\dimen@\accent127\fontdimen5\

font\U@Du\egroupnstliche-neuronale-Netze-zur-Beschreibung-der-hydrodynamischen-Prozess

15/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeHydrologie

Abbildung: Aus dem Defizit an Trainingsdaten abgeleitete allgemeineMethodik

Source: Peters,2008

16/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeHydrologie (Peters, 2008)

Abbildung: Freiberger Mulde: Hohen und Gefalle im Untersuchungsgebiet

17/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeHydrologie (Peters, 2008)

Abbildung: Darstellung einzelner Szenarien fur Durchfluß undWasserstand18/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Kunstliche Neuronale NetzwerkeHydrologie - Anwendungen - Hochwasservorhersage

Nutzung kunstlicher neuronaler Netze zur Bereitstellung vonEntscheidungsgrundlagen fur operative und planerischewasserwirtschaftliche Maßnahmen

Eine neue Methodik, die zuverlassigeHochwasservorhersagemodelle auf dem aktuellsten Wissensstandeiner Echtzeitanwendung fur den operativen Einsatz zuganglichmacht, wird entwickelt, getestet und angewendet. Sie basiert aufdetaillierter Niederschlags-Abfluss-Modellierung in Kopplung mithydrodynamischen Wellenablaufmodellen. Diese Modelle werdendann durch ein neuronales Netz ”gekoppelt”, mit welchem dieHochwasservorhersage gestellt werden kann.

BMBF Projekt (2012-2016), Lehrstuhl fur Hydrologie undMeteorologie, TU Dresden, Michael WagnerSource:https://tu-dresden.de/bu/umwelt/hydro/ihm/hydrologie/forschung/projekte/hochwasservorhersage-ann

19/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

mesoskalige HydrologischeModellierung

mHM

20/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModellemHM

Abbildung: Landsurface Hydrology - das Modell mHM

Source: Rakovec, O., Kumar, R., Mai, J., Cuntz, M., Thober, S., Zink, M., Attinger, S., Schafer, D., Schron, M.,Samaniego, L., 2016. Multiscale and Multivariate Evaluation of Water Fluxes and States over European RiverBasins. J. Hydrometeor 17, 287–307. doi:10.1175/jhm-d-15-0054.1

21/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModellemHM

Abbildung: Landsurface Hydrology - das Modell mHM22/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModellemHM

Abbildung: Mehrskalen-Verification mHM

23/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModellemHM

Abbildung: Mehrskalen-Verifikation mHM in der Pan-EU

24/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Fragen ?

25/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019

V13: Kunstliche Neuronale Netze 18.01.2019

Hydrologische ModelleFragen

1. Zu welchem hydrologischen Modelltyp gehoren die kunstlichenneuronalen Netzwerke?

2. Was ist der englische Begriff fur ”Kunstliche NeuronaleNetzwerke”?

3. Skizzieren sie ein ANN-Konzept fur eineHochwasservorhersage. Benennen sie Einflussfaktoren furverschiedene Layer des ANN (d.h. die Kette vonAbhangigkeiten).

4. ...

26/26 Prof. Dr.-Ing. habil. Olaf Kolditz Hydroinformatik I - WiSe 2018/2019