SVEUČILIŠTE U SPLITU FAKULTET ELEKTROTEHNIKE, STROJARSTVA I BRODOGRADNJE

Petar Matić

Kratkoročno predviđanje hidrološkog dotoka pomoću umjetne neuronske mreže

DOKTORSKA DISERTACIJA

Split, 2014.

ii

Doktorska disertacija je izrađena na Zavodu za Elektroenergetiku,

Fakulteta elektrotehnike, strojarstva i brodogradnje u Splitu

Znanstveno područje: Tehničke znanosti

Znanstveno polje: Elektrotehnika

Znanstvena grana: Automatizacija i robotika

Mentor: doc. dr. sc. Ozren Bego

Ukupan broj numeriranih stranica: 116

Ukupan broj slika: 46

Ukupan broj tablica: 27

Ukupan broj jednadžbi: 41

Ukupan broj korištenih bibliografskih jedinica: 94

Disertacija broj: 117

iii

Povjerenstvo za ocjenu doktorske disertacije:

1. Prof. dr. sc. Božo Terzić, FESB, Sveučilište u Splitu – predsjednik povjerenstva

2. Doc. dr. sc. Ozren Bego, FESB, Sveučilište u Splitu – mentor

3. Prof. dr. sc. Slavko Krajcar, FER, Sveučilište u Zagrebu – član

4. Prof. dr. sc. Dinko Vukadinović, FESB, Sveučilište u Splitu – član

5. Izv. prof. dr. sc. Ranko Goić, FESB, Sveučilište u Splitu – član

Povjerenstvo za obranu doktorske disertacije:

1. Prof. dr. sc. Božo Terzić, FESB, Sveučilište u Splitu – predsjednik povjerenstva

2. Doc. dr. sc. Ozren Bego, FESB, Sveučilište u Splitu – mentor

3. Prof. dr. sc. Slavko Krajcar, FER, Sveučilište u Zagrebu – član

4. Prof. dr. sc. Vladan Papić, FESB, Sveučilište u Splitu – član

5. Izv. prof. dr. sc. Ranko Goić, FESB, Sveučilište u Splitu – član

Disertacija obranjena:

U Splitu, 12.12.2014.

iv

SAŽETAK i KLJUČNE RIJEČI:

Kratkoročno predviđanje hidrološkog dotoka pomoću umjetne neuronske mreže

Sažetak: Modeliranje hidroloških sustava se općenito temelji na vremenskim serijama, a umjesto ranije korištenih linearnih statističkih modela, u posljednje vrijeme se sve više koriste umjetne neuronske mreže. Kod modela za predviđanje hidrološkog dotoka, pregledom dostupne literature uočen je problem kašnjenja odziva modela za stvarnim događajem, koje značajno umanjuje korisnost predviđanja modela. Isti problem potvrđen je i kod modela formiranog klasičnim metodama za sliv rijeke Cetine. Problem pravovremenog predviđanja u ovoj disertaciji se uspješno rješava uvođenjem varijable „učestalosti prognozirane oborine“ i podešavanjem koraka računanja. Točnost predviđanja se unaprjeđuje formiranjem optimiziranog adaptivnog neuronskog modela (OANM-a) koji se temelji na podjeli modela na specijalizirane podmodele, koji predstavljaju posebno trenirane mreže za predviđanje u određeno doba godine. Svaki podmodel formiran je prema načelima o sustavnom pristupu formiranja neuronskog modela za hidrološka predviđanja. To znači da su kroz posebno formirane eksperimente određene optimalne ulazne varijable, broj neurona skrivenog sloja, algoritam za treniranje mreže i funkcija cilja, a određen je i skup optimalnih mjera za procjenu modela. Za formiranje svih modela korištena je statička unaprijedna neuronska mreža, višeslojni perceptron, zbog svog dokazanog svojstva mogućnosti aproksimacije nelinearne funkcije. Za sva istraživanja, kao i konačno formiranje OANM-a, korišten je program MATLAB, a podaci su osim u Matlab-u obrađivani i u Microsoft Excel-u. Rezultati simulacije potvrđuju uspješnost predložene metode u rješavanju problema pravovremenog i pouzdanog predviđanja hidrološkog dotjecanja, što znači da predložena metoda uspješno eliminira kašnjenje predviđanja modela. Ključne riječi: hidrološki dotok, kratkoročno predviđanje, umjetne neuronske mreže, sustavni pristup, učestalost prognozirane oborine, korak računanja, adaptivni model, optimizacija, hidroenergetski sustav.

v

ABSTRACT AND KEY WORDS:

Short-term Inflow Prediction Using Artificial Neural Network

Abstract: Hydrological systems are usually modelled using time series and lately, instead of using linear statistical models, artificial neural networks are used. In case of inflow prediction, literature analysis indicated an existence of the prediction lag effect which is a problem that excessively undermines the value of a prediction model. Efforts to predict river Cetina’s inflow to accumulation Peruća confirmed a lagged prediction problem for the case study of river Cetina’s basin. In this dissertation the problem is solved by introducing a variable “forecasted rainfall frequency” and by adjusting the model’s calculation step size. Prediction accuracy is increased by forming an Optimized Adaptive Neural Model (OANM) which is based on the idea of dividing the “job of inflow prediction” to the multiple models, i.e. sub-models specialized for making predictions only in a designated domain of a predicted variable, which corresponds to the predictions made in a designated time of the year. To form every sub-model, a different artificial neural network is trained with an appropriate set of data, while complying with a set of rules for hydrological system modelling, i.e. systematic approach. Introducing a systematic approach to a hydrological inflow modelling procedure represents conducting an experiment and/or using a method to determine an appropriate set of inputs, number of hidden neurons, training algorithm and performance function, as well as determining a set of appropriate measures for model evaluation. To form a neural model, MLP neural network was used in all cases, due to its proven ability to model any nonlinear function to a certain degree of accuracy. Mathworks MATLAB was used for all experiments, including a final solution of a defined problem (OANM). Besides Matlab, Microsoft Excel was used for data processing. Simulation results indicate effectiveness of the proposed method for solving a problem of inaccurate, lagged short-term inflow predictions for the case of river Cetina’s basin.

Key words: inflow, short-term prediction, artificial neural networks, systematic approach, forecasted rainfall frequency, calculation step size, adaptive model, optimization, hydro-power system.

vi

Svima koji svoj doprinos mogu prepoznati u ovoj disertaciji iskreno zahvaljujem, a

posebno zahvaljujem svojoj obitelji i mentoru.

Izričito zahvaljujem supruzi Olgi na predanom lektoriranju rada.

Također, posebno se zahvaljujem zaposlenicima Državnog hidrometeorološkog zavoda na ustupljenim podacima bez kojih ovaj rad ne bi bio moguć.

vii

Sadržaj

1. Uvod .................................................................................................................................1

1.1. Motivacija ...............................................................................................................1

1.2. Dosadašnji razvoj ..................................................................................................2

1.3. Hipoteza .................................................................................................................5

1.4. Opis sadržaja disertacije ......................................................................................7

2. Umjetne neuronske mreže ...........................................................................................9

2.1. Biološka osnova i razvoj umjetnih neuronskih mreža ....................................9

2.2. Svojstva umjetnih neuronskih mreža .............................................................. 12

2.3. Vrste umjetnih neuronskih mreža ................................................................... 14

2.3.1. Višeslojni perceptron .................................................................................. 14

2.4. Treniranje umjetnih neuronskih mreža .......................................................... 16

2.4.1. Lokalni algoritmi prvog reda – algoritam propagacije greške unatrag17

2.4.2. Unaprjeđenja izvornog BP algoritma ........................................................ 20

2.4.3. Lokalni algoritmi drugog reda ................................................................... 21

2.4.4. Levenberg-Marquardt algoritam za treniranje MLP mreže ................... 21

2.4.5. Bayesova regularizacija za treniranje UNM-e .......................................... 23

2.5. Primjena umjetnih neuronskih mreža u hidrologiji ...................................... 24

3. Predviđanje hidrološkog dotjecanja ......................................................................... 26

3.1. Opis hidrološkog sustava ................................................................................... 27

3.2. Modeliranje i predviđanje varijable hidrološkog dotoka ............................. 28

3.3. Predviđanje hidrološkog dotjecanja pomoću umjetne neuronske mreže .. 30

3.4. Ocjenjivanje predviđanja hidrološkog dotjecanja ......................................... 32

3.4.1. Apsolutne mjere kvalitete modela............................................................. 33

3.4.2. Relativne mjere kvalitete modela .............................................................. 34

3.5. Sustavni pristup formiranju neuronskog modela za predviđanje hidrološkog dotjecanja....................................................................................... 37

3.5.1. Prvi korak: selektiranje podataka – određivanje izlazne varijable i koraka računanja ......................................................................................... 39

3.5.2. Drugi korak: izbor ulaznih varijabli .......................................................... 39

3.5.3. Treći korak: obrada podataka .................................................................... 40

3.5.4. Četvrti korak: podjela podataka ................................................................ 41

viii

3.5.5. Peti korak: izbor arhitekture mreže ......................................................... 42

3.5.6. Šesti korak: identifikacija sustava pomoću neuronske mreže .............. 42

3.5.7. Sedmi korak: ocjena kvalitete modela ...................................................... 44

3.6. Primjena predviđanja hidrološkog dotjecanja u planiranju proizvodnje električne energije .............................................................................................. 45

3.6.1. Planiranje rada EES-a .................................................................................. 46

3.6.2. Primjer operativnog planiranja hidroenergetskog sustava Cetine ...... 48

4. Neuronski model za kratkoročno predviđanje hidrološkog dotjecanja .............. 50

4.1. Predmet istraživanja: modeliranje dotjecanja rijeke Cetine u akumulaciju Peruća za potrebe kratkoročnog predviđanja dotoka................................... 51

4.1.1. Osnovna obilježja sliva rijeke Cetine......................................................... 51

4.1.2. Hidroenergetski sustav Cetine ................................................................... 54

4.1.3. Dostupni podaci ........................................................................................... 55

4.1.4. Hidrološko dotjecanje u Vinaliću ............................................................... 57

4.1.5. Zabilježene oborine ..................................................................................... 60

4.1.6. Prognozirane oborine ................................................................................. 62

4.1.7. Temperatura ................................................................................................. 62

4.2. Uvjeti formiranja modela po načelima sustavnog pristupa .......................... 63

4.3. Preliminarna istraživanja .................................................................................. 65

4.3.1. Prva faza istraživanja – formiranje modela vremenske serije za predviđanje dotjecanja jedan dan unaprijed ........................................... 65

4.3.2. Druga faza istraživanja – predviđanje dotjecanja k-dana unaprijed .... 67

4.3.3. Treća, četvrta i peta faza istraživanja – proširivanje skupa ulaznih varijabli modela ........................................................................................... 70

4.4. Neuronski model za kratkoročno predviđanje hidrološkog dotoka ........... 74

4.5. Adaptivni neuronski model ............................................................................... 78

4.6. Optimizacija adaptivnog neuronskog modela ................................................ 81

4.6.1. Optimizacija podmodela A .......................................................................... 83

4.6.2. Optimizacija podmodela B .......................................................................... 84

4.6.3. Optimizacija podmodela C .......................................................................... 85

4.6.4. Optimizacija podmodela D .......................................................................... 89

4.6.5. Optimizacija cjelogodišnjeg modela .......................................................... 90

4.7. Optimizirani adaptivni neuronski model (OANM) za kratkoročno predviđanje hidrološkog dotoka ...................................................................... 92

ix

5. Analiza rezultata simulacije: ocjena predviđanja optimiziranog adaptivnog neuronskog modela (OANM)........................................................................................ 95

5.1. Numerička ocjena kvalitete predviđanja OANM-a ......................................... 96

5.1.1. Ocjena apsolutne točnosti predviđanja OANM-a ..................................... 96

5.1.2. Ocjena relativne točnosti predviđanja OANM-a ....................................... 97

5.1.3. Analiza uspješnosti OANM-a i prikladnosti korištenih kriterija kvalitete ......................................................................................................... 98

5.2. Grafička ocjena kvalitete predviđanja OANM-a ............................................ 100

6. Zaključak ..................................................................................................................... 106

LITERATURA.................................................................................................................... 110

ŽIVOTOPIS

BIOGRAPHY

x

Popis tablica

Tablica 3.1. Klasifikacija modela po kvaliteti predviđanja…………………………………………………. 37

Tablica 4.1. Statistička analiza varijable hidrološkog dotjecanja mjerenog u Vinaliću………. 58

Tablica 4.2. Ocjena kvalitete predviđanja modela vremenske serije jedan dan unaprijed………………………………………………………………………………………………………..

67

Tablica 4.3. Usporedba numeričkih ocjena rezultata predviđanja hidrološkog dotjecanja k-dana unaprijed pomoću direktne i indirektne metode………………………………….

68

Tablica 4.4. Usporedba modela vremenske serije i modela oborine-otjecanje………………….. 71

Tablica 4.5 Rezultati predviđanja dotoka od prvog do devetog dana unaprijed pomoću modela formiranih preliminarnim istraživanjem…………………………………………….

72

Tablica 4.6. Parametri modela za provođenje istraživanja optimalnog koraka računanja………………………………………………………………………………………………………..

74

Tablica 4.7. Usporedba kvalitete predviđanja uz primjenu učestalosti prognozirane (a) i stvarne (b) oborine, za različite korake računanja (k)……………………………………..

76

Tablica 4.8. Kriterij odabira podmodela u ovisnosti o dobu godine F(t)…………………………….. 78

Tablica 4.9. Potencijalne ulazne varijable članova adaptivnog neuronskog modela………….. 81

Tablica 4.10. Organizacija eksperimenta za određivanje ulaznih varijabli…………………………… 82

Tablica 4.11. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela A (NiA)………………………………………………………………………………………………………………..

83

Tablica 4.12. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona (NhA), optimalnog algoritma i odgovarajuće funkcije cilja podmodela A……….

83

Tablica 4.13. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela B (NiB)………………………………………………………………………………………………………………

84

Tablica 4.14. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona (NhB), optimalnog algoritma i odgovarajuće funkcije cilja podmodela B…………

85

Tablica 4.15. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela C (NiC)………………………………………………………………………………………………………………

86

xi

Tablica 4.16. Rezultati eksperimenta za određivanje optimalnog broja neurona skrivenog sloja (NhC), optimalnog algoritma i odgovarajuće funkcije cilja podmodela C

86

Tablica 4.17. Rezultati metode „usrednjavanja odziva“ modela C…………………………………….... 87

Tablica 4.18. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela D (NiD)…………………………………………………………………………………………………………….

89

Tablica 4.19. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona (NhD), optimalnog algoritma i odgovarajuće funkcije cilja podmodela D…………

89

Tablica 4.20. Rezultati eksperimenta za određivanje optimalnog broja ulaza cjelogodišnjeg modela (Ni)…………………………………………………………………………………………………….

91

Tablica 4.21. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona Nh, optimalnog algoritma i odgovarajuće funkcije cilja CG modela…………………

91

Tablica 4.22. Ulazne varijable OANM-a………………………………………………………………………………. 92

Tablica 4.23. Kriterij odabira podmodela OANM-a ovisno o dobu godine…………………………… 94

Tablica 5.1. Rezultati apsolutne ocjene točnosti predviđanja OANM-a ……………………………. 96

Tablica 5.2. Relativne mjere kvalitete……………………………………………………………………………….. 97

Tablica 5.3. Usporedba rezultata predviđanja modela vremenske serije (a) i optimiziranog adaptivnog neuronskog modela (b) posredstvom najinformativnijih kriterija……………………………………………………………………………

98

xii

Popis ilustracija

Slika 2.1. Model umjetnog neurona………………………………………………………………………………. 15

Slika 2.2. Višeslojni perceptron………………………………………………………………………………………. 15

Slika 2.3. Aktivacijske funkcije: (a) linearna, (b) ograničena linearna, (c) unipolarna sigmoidalna, (d) bipolarna sigmoidalna…………………………………………………………

16

Slika 2.4. Rasprostiranje signala kroz mrežu unaprijed…………………………………………………… 18

Slika 2.5. Rasprostiranje greške kroz mrežu unatrag……………………………………………………… 19

Slika 2.6. (a) i (b) utjecaj momenta α na promjenu težinskih koeficijenata ∆wk …………….. 20

Slika 3.1. Hidrološki ciklus……………………………………………………………………………………………… 27

Slika 3.2. Postupak formiranja neuronskog modela za predviđanje……………………………….. 38

Slika 3.3. Problem lokalnih minimuma…………………………………………………………………………… 44

Slika 4.1. Područje sliva rijeke Cetine…………………………………………………………………………….. 52

Slika 4.2. Pojedinačni doprinos HE-a godišnjoj proizvodnji električne energije na HES-u Cetine………………………………………………………………………………………………………………

55

Slika 4.3. Gornji dio sliva rijeke Cetine……………………………………………………………………………. 56

Slika 4.4. Srednji dnevni protok mjeren u Vinaliću, za period od 2007. do 2012. godine…. 57

Slika 4.5. Prosječna srednja vrijednost dnevnog dotok rijeke Cetine u akumulaciju Peruća za period od 2007. do 2012. godine…………………………………………………….

58

Slika 4.6. Vrijednosti autokorelacijskih koeficijenata za prvih 28 članova vremenske serije……………………………………………………………………………………………………………….

59

Slika 4.7. Godišnja količina oborina mjerenih u Vinaliću, Vrlici, Kijevu i Kosovu za period od 2007. do 2012. godine………………………………………………………………………………..

60

Slika 4.8. Rezultati analize podataka dobiveni linearnom korelacijom između oborina i protoka…………………………………………………………………………………………………………

61

Slika 4.9. Vremenska serija varijable temperature mjerene u Drnišu za period od 2007. do 2012., prikazana kao funkcija vremena……………………………………………………..

62

xiii

Slika 4.10. Rezultati korelacijske analize između temperature mjerene u Drnišu i protoka mjerenog u Vinaliću za podatke iz perioda od 2007. do 2012. godine……………..

63

Slika 4.11. Neuronski model MLP arhitekture univerzalnog aproksimatora kreiran u Matlab-u pomoću naredbe newff……………………………………………………………………

65

Slika 4.12a. Usporedba odziva modela vremenske serije za predviđanje dotoka dan unaprijed sa stvarnim vrijednostima hidrološkog dotoka mjerenog u Vinaliću, za 2012. godinu……………………………………………………………………………………………….

66

Slika 4.12b. Uvećani prikaz usporedbe odziva modela vremenske serije za predviđanje dotoka dan unaprijed sa stvarnim vrijednostima hidrološkog dotoka mjerenog u Vinaliću………………………………………………………………………………………

66

Slika 4.13. Shema NM za predviđanje k-dana unaprijed po načelu direktne metode………. 67

Slika 4.14. Shema NM za predviđanje k-dana unaprijed po načelu indirektne metode……. 68

Slika 4.15. Predviđanje dotjecanja više dana unaprijed pomoću direktne metode i usporedba sa stvarnim dotokom mjerenim u Vinaliću, za period od 255. do 290. dana 2012. godine………………………………………………………………………………….

69

Slika 4.16. Usporedba odziva RR modela s odzivom TS modela i sa stvarnim vrijednostima dotoka mjerenog u Vinaliću za period od 290. do 335. dana 2012. godine…………………………………………………………………………………………………

71

Slika 4.17. Vizualna ocjena prediktivnih sposobnosti neuronskih modela (a), (b) i (c), dobivenih preliminarnim istraživanjem………………………………………………………….

73

Slika 4.18. Načelna shema modela za istraživanje koraka računanja (k)…………………………. 74

Slika 4.19. Korelacijska analiza stvarne i prognozirane učestalosti oborina…………………….. 75

Slika 4.20. Usporedba dnevnog predviđanja dotoka uz primjenu stvarne i prognozirane učestalosti oborina za k = 7, za cijelu 2012. godinu…………………………………………

77

Slika 4.21. Usporedba dnevnog predviđanja dotoka uz primjenu stvarne i prognozirane učestalosti oborina za k = 7, uvećani prikaz (jesen – 2012.)…………………………….

77

Slika 4.22. Načelna inicijalna shema adaptivnog neuronskog modela (ANM)…………………. 80

Slika 4.23. Usporedba odziva optimalnog modela A s mjerenim vrijednostima dotoka…… 84

Slika 4.24. Usporedba odziva optimalnog modela B s mjerenim vrijednostima dotoka…… 85

xiv

Slika 4.25. Usporedba odziva optimalnog modela C s mjerenim vrijednostima dotoka…… 86

Slika 4.26. Usporedba predviđanja modela C sa i bez usrednjavanja odziva sa stvarnim vrijednostima hidrološkog dotoka………………………………………………………………….

88

Slika 4.27. Usporedba odziva cjelogodišnjeg modela s usrednjavanjem odziva sa stvarnim vrijednostima hidrološkog dotoka za period predviđanja od 1. do 59. dana…………………………………………………………………………………………………………

88

Slika 4.28. Usporedba odziva optimalnog modela D s mjerenim vrijednostima dotoka…. 90

Slika 4.29. Usporedba odziva optimiziranog CG modela s mjerenim vrijednostima dotoka……………………………………………………………………………………………………………

92

Slika 4.30. Strukturni prikaz optimiziranog adaptivnog neuronskog modela (OANM)……… 93

Slika 5.1. Grafička ocjena predviđanja OANM-a; usporedba odziva modela sa stvarnim vrijednostima dotoka rijeke Cetine u ak. Peruća, za prvih jedanaest mjeseci 2012. godine……………………………………………………………………………………

101

Slika 5.2. Grafički prikaz (trenutne) pogreške predviđanja OANM-a za prvih jedanaest mjeseci 2012. godine……………………………………………………………………………………

101

Slika 5.3. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za prvih 90 dana 2012. godine…………………………………..

102

Slika 5.4. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za period od 90. do 180. dana 2012. godine………………

103

Slika 5.5. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za period od 180. do 280. dana 2012. godine…………….

103

Slika 5.6. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za period od 280. do 335. dana 2012. godine…………….

104

xv

Popis kratica i simbola

Kratica Opis

(N)DC (Nacionalni) dispečerski centar

A srednja vrijednost, prosjek (engl. average)

ANM adaptivni neuronski model

BP algoritam propagacije greške unatrag (engl. back propagation)

BR Bayesova regularizacija za treniranje UNM (engl. Bayesian regularisation)

CC međukorelacija (engl. cross-correlation)

CE koeficijent učinkovitosti (engl. coefficient of efficiency)

CG cjelogodišnji model

D indeks podudarnosti (engl. index of agreement)

DHMZ Državni hidrometeorološki zavod

ECMWF engl. European Center for Medium-Range Weather Forecasting

EES elektroenergetski sustav

FFNN unaprijedne neuronske mreže (engl. feed forward neural networks)

FLK funkcija linearne korelacije

GRNN engl. generalized regression neural networks

HE hidroelektrana

HES hidroenergetski sustav

IDNN engl. input delayed neural networks

LM Levenberg-Marquardt algoritam za treniranje UNM-a

MA klizne srednje vrijednosti (engl. moving averages)

MAE srednja apsolutna pogreška (engl. mean absolute error)

MLP višeslojni perceptron (engl. multi-layered perceptron)

MSE srednja kvadratna pogreška (engl. mean squared error)

NH broj neurona skrivenog sloja UNM-e

NI broj neurona ulaznog sloja UNM-e

NhA broj skrivenih neurona podmodela A

NhB broj skrivenih neurona podmodela B

xvi

NhC broj skrivenih neurona podmodela C

NhD broj skrivenih neurona podmodela D

NiA broj ulaznih neurona podmodela A

NiB broj ulaznih neurona podmodela B

NiC broj ulaznih neurona podmodela C

NiD broj ulaznih neurona podmodela D

NM neuronski model

OANM optimizirani adaptivni neuronski model

PBIAS pristranost modela u postocima (engl. percent bias)

PE potencijalna pogreške (engl. potencial error)

PI indeks dosljednosti (engl. persistence indeks)

RBFN mreža s radijalnom bazom (engl. radial basis function network)

RMSE korijen srednje kvadratne pogreške (engl. root mean squared error)

RNN engl. recurrent neural networks

RR model oborine-otjecanje (engl. rainfall-runoff)

RSR omjer korijena srednje kvadratne pogreške i standardne devijacije

SOM samo-organizirajuće mape (engl. self-organising maps)

SSE suma kvadratne pogreške (engl. sum of squared error)

STDEV standardna devijacija

SVM engl. support vector machines

TDNN engl. time lagged neural networks

TNN engl. temporal neural networks

TS model vremenske serije (engl. time series)

UNM umjetna neuronska mreža (engl. artificial neural network, ANN)

UTC koordinirano svjetsko vrijeme (engl. coordinated universal time)

Simbol Opis

∂ oznaka parcijalne derivacije

α Bayesov hiperparametar, težinski koeficijent funkcije Ew

β Bayesov hiperparametar, težinski koeficijent funkcije Ee

c konstanta, ARMA modela

xvii

∆ promjena

δ lokalni gradijent umjetnog neurona

d željena vrijednost varijable

E ukupna pogreška UNM-e, odstupanje odziva mreže od željenih vrijednosti

e pojedinačna pogreška umjetnog neurona

Ee suma kvadrata pogreške (SSE)

Ew suma kvadrata podesivih parametara mreže

f funkcija

f30 učestalost oborina u proteklih 30 dana

Fc funkcija cilja

fImotski učestalost prognozirane oborine za područje Imotskog u periodu od k dana

fk učestalost prognozirane oborine za područje sliva Cetine u periodu od k dana

fKnin učestalost prognozirane oborine za područje Knina u periodu od k dana

fSinj učestalost prognozirane oborine za područje Sinja u periodu od k dana

γ optimalni broj podesivih parametara mreže iz BR algoritma

η intezitet podešavanja parametara UNM-e, „brzina učenja“

H Hessian matrica

I Jedinična matrica

ϕ aktivacijska funkcija umjetnog neurona

J Jakobijan matrica

κ multiplikator kombinacijskog koeficijenta µ

k korak računanja

µ kombinacijski koeficijent iz LM algoritma

m dimenzija prostora (engl. embedding dimension)

N ukupan broj podataka

∇ Hamiltonov diferencijalni operator

Ns broj uzoraka za treniranje UNM-e

Nw broj podesivih parametara mreže

o odziv (neurona, mreže, modela)

p pobuda umjetnog neurona

P varijabla oborine, vremenska serija

xviii

p trenutna vrijednost oborine

Puk_30 ukupna količina oborina u proteklih 30 dana

q trenutni hidrološki dotok, protok (m3/s)

Q varijabla hidrološkog dotoka, vremenska serija

r Pearsonov koeficijent, linearni korelacijski koeficijent

r2 koeficijent određenosti (engl. coefficient of determination)

θ trenutna temperature

τ vremenska konstanta sustava (engl. embedding delay)

T varijabla temperature, vremenska serija

t vrijeme (dan)

u ukupna (otežana) vrijednost ulaznog signala umjetnog neurona

v red AR dijela, ARMA modela

w podesivi parametri UNM-e, težinski koeficijenti međuneuronskih veza

x proizvoljna varijabla

ψ moment, inercija promjene težinskih koeficijenata UNM-e

z red MA dijela, ARMA modela

ε bijeli šum

λ, θ parametri dobiveni identifikacijom ARMA modela

1

1. Uvod

Cilj disertacije je rješavanje problema kratkoročnog predviđanja hidrološkog dotjecanja pomoću umjetne neuronske mreže u uvjetima ograničenog skupa dostupnih podataka s naglaskom na otklanjanje kašnjenja predviđanja modela i povećanje točnosti predviđanja. U uvodnom poglavlju izneseni su u sljedećem redoslijedu: motivacija za istraživanje definiranog problema i pisanje ove disertacije, postojeći načini i metode rješavanja sličnih problema upoznati putem dostupne literature, razvoj hipoteze kroz definiranje problema i ideje o njegovom rješavanju. Na samom kraju uvoda predstavljen je i kratak opis sadržaja disertacije po poglavljima.

1.1. Motivacija

Voda i vodni tokovi predstavljaju lako dostupne, samoobnovljive izvore energije koje se na relativno jednostavan način može iskoristiti za dobivanje energije nekog drugog oblika, poput električne energije iz hidroelektrane. Prilikom iskorištavanja energije vode jedan od problema je kruženje vode u prirodi [85] tako da njena dostupnost nije uvijek jednaka. Štoviše, pojava otjecanja sa sliva funkcija je različitih zemljopisnih, geoloških, bioloških, klimatoloških i antropoloških čimbenika [86], odnosno različitih varijabli čiji su odnosi pritom najčešće nelinearni [72]. Dodatan problem, posebno izražen u krškim područjima, je i taj što pojedine osobine sustava, poput podzemnih tokova i akumulacija, često nisu poznate. Spomenuta svojstva sustava predstavljaju problem u modeliranju, naročito ukoliko se radi o modeliranju za potrebe predviđanja.

Svojstvo ograničenosti vodenog resursa po pitanju mjesta i količine pojave uvjetuje njegovo racionalno korištenje bez obzira radi li se o proizvodnji električne energije ili

2

vodoopskrbi, a optimizacija je moguća i s aspekta izbjegavanja, odnosno ublažavanja posljedica elementarnih nepogoda i slično. Općenito, kako bi se optimiziralo uporabu vodenih resursa, koriste se hidrološka predviđanja koja se temelje na hidrološkim modelima. U konkretnom slučaju planiranja i vođenja procesa proizvodnje električne energije u hidroelektranama, cijeli se postupak oslanja na vođenje vodenih resursa. Razlog tome leži u činjenici da se proizvod, električna energija, ne može jednostavno pohraniti kako bi bila dostupna u određenom trenutku. Stoga je puno jednostavnije pohraniti vodu, prirodni resurs iz kojeg se električna energija proizvodi. Kao što je objašnjeno u trećem poglavlju ove disertacije, u odjeljku 3.6.1., predviđeni dotoci te stanja u akumulacijama igraju važnu ulogu u kratkoročnom i srednjoročnom planiranju rada hidroenergetskog sustava.

U ovoj doktorskoj disertaciji istraživana je mogućnost kratkoročnog predviđanja dotjecanja vode u akumulaciju u izrazito krškom području i to pomoću statičke umjetne neuronske mreže. Kao predmet istraživanja poslužio je sliv rijeke Cetine, najznačajniji i tehnoekonomski najvažniji sliv u Hrvatskoj prema godišnjoj proizvodnji energije te raspoloživoj snazi i odgovarajućim regulacijskim mogućnostima [32]. U cijelom sustavu najosjetljivija na velike dotoke je akumulacija Peruća, čiji je ukupni akumulacijski volumen dovoljan da prihvati velike vodne valove bez preljeva, osim u iznimnim slučajevima velikih dotoka koji su dočekani sa visokom kotom akumulacije. Primjenom hidroloških prognoza dotoka moglo bi se izbjeći negativne utjecaje pojave velikih vodenih valova i pomoći u rješavanju osnovnih problema dnevnog planiranja rada sliva.

1.2. Dosadašnji razvoj

U prošlosti su se za hidrološka predviđanja najčešće koristili statistički modeli vremenske serije, poseban oblik eksperimentalnih modela. Međutim, klasični modeli vremenske serije pretpostavljaju linearne odnose ulaznih i izlaznih varijabli, a s obzirom da je hidrološki sustav izrazito nelinearan [72], pogreška koja nastaje korištenjem spomenutih modela je neizbježna. Pored statističkih, zabilježeni su i pokušaji formiranja fizikalnih modela. Međutim, zbog izrazite složenosti hidroloških sustava fizikalni modeli su također složeni, a usto nužno obiluju aproksimacijama. Navedena svojstva uvjetuju rjeđu primjenu fizikalnih modela za modeliranje cijelog sustava i češće ih se koristi za modeliranje dijela sustava. U tom slučaju fizikalni modeli predstavljaju nadopunu statističkog modela te se može reći kako se tada radi o hibridnom modelu hidrološkog sustava.

Umjetne neuronske mreže (UNM), čije se detaljni opis može pronaći u [9], [14], [37], [38], [40], [51], [69], [70], predstavljaju alternativno rješenje koje je slično statističkim modelima jer za modeliranje sustava koriste samo izmjerene vrijednosti ulaznih i izlaznih varijabli. S obzirom da su se UNM-e pokazale dobrim alatom za aproksimaciju nelinearnih funkcija u različitim područjima primjene, kao što se može vidjeti iz [12], [14], [23] i [38],

3

ideja o njihovoj primjeni za hidrološka predviđanja djelovala je sasvim opravdano, kao što pokazuju i rezultati radova [1], [2], [3], [4], [16], [21], [54] i [55].

Intenzivnija primjena UNM-a u hidrologiji počinje 90-ih godina 20. stoljeća, dok se u posljednjem desetljeću istraživanja na tu temu intenziviraju. Najveću pozornost istraživača privlači prognoziranje kvantitativnih varijabli hidrološkog sustava, pri čemu se prema analizi provedenoj u [55], najveći broj radova bavi prognoziranjem toka. U radovima [10], [27], [31], [42], [48], [59], [67], [73] i [81] napravljena je usporedba neuronskih i statističkih modela, a u radovima [18] i [25] neuronskih, statističkih i fizikalnih modela, dok se usporedba neuronskih i fizikalnih modela može pronaći u [8], [13], [43] i [58]. U većini slučajeva može se zaključiti superiornost predviđanja pomoću UNM-a u odnosu na tradicionalne fizikalne i statističke modele.

Predviđanje dotoka pomoću UNM-a se temelji na prethodno izmjerenim vrijednostima različitih fizikalnih varijabli i upravo prema varijablama koje se koriste moguće je razlikovati: modele vremenske serije (engl. time series, TS), modele oborine-otjecanje (engl. rainfall-runoff, RR) te viševeličinske modele. Neuronski modeli vremenske serije (TS) vrše predviđanje na temelju vremenske serije zabilježenih vrijednosti samo jedne varijable, u ovom slučaju hidrološkog dotoka. Neuronski modeli oborine-otjecanje (RR) pored vremenske serije izmjerenog protoka koriste kao ulaznu varijablu i vremenske serije zabilježene oborine i prema količini dostupnih radova može se donijeti grubi zaključak kako se radi i o najčešće korištenom načinu modeliranja dotoka. U najsloženijem slučaju primjene neuronskih viševeličinskih modela koriste se različite varijable sustava, poput oborina, temperature, vlažnosti zemlje, vlažnosti zraka, godišnjeg doba, doba dana, kako bi se ostvarilo što točnije predviđanje hidrološkog dotoka.

Za modeliranje hidroloških sustava najčešće se primjenjuje arhitektura višeslojnog perceptrona (engl. multi-layer perceptron, MLP), odnosno unaprijedna dvoslojna neuronska mreža sa svojstvom univerzalnog aproksimatora. Mogućnosti primjene ove statičke strukture, ali i prednosti u odnosu na dinamičku pri modeliranju dinamičkih sustava diskutirane su u radu [65]. Pored MLP neuronske mreže, za modeliranje hidrološkog dotoka još se koriste i mreže s radijalnom bazom (engl. radial basis function neural networks, RBFNN) kao što se može pronaći u radovima [20], [22], [28], [71], [76]. Uz to, koriste se i temporalne neuronske mreže različitih tipova kao što su: RNN (engl. recurrent neural networks), opisano u knjizi [57] i TDNN (engl. time delayed neural networks), kao što je opisano u [82], odnosno TLNN (engl. time lagged neural networks) kao u [61] ili IDNN (engl. input delayed neural networks) kao u [19].

Jedno od značajnijih ograničenja dosad izrađenih modela je kratkoročnost predviđanja od svega nekoliko koraka računanja unaprijed pa je produljenje predikcijskog horizonta neizbježan predmet istraživanja i konstantan izazov. Općenito, metode za predviđanje više koraka unaprijed se mogu podijeliti na direktne, čija se primjena može pronaći u radovima [20], [35], [61], [63], [77] i [83] i indirektne metode, kao u radovima [18], [19], [26], [78],

4

[79], [81] i [84]. U preliminarnim istraživanjima ovog rada korištene su obje metode, opisane u odjeljku 4.3.2. četvrtog poglavlja ove disertacije, a napravljena je i usporedba uspješnosti iz koje se može zaključiti kako obje metode vrše predviđanja podjednake točnosti. Do istog zaključka se može doći i pregledom dostupne literature, odnosno radova [11], [24] i [80] u kojima su korištene obje metode. Za primijetiti je pritom veću sklonost autora navedenih radova direktnoj metodi i to, kao što se navodi, prvenstveno zbog jednostavnijeg postupka formiranja modela.

U svrhu produženja predikcijskog horizonta zabilježeni su pokušaji korištenja meteoroloških prognoza. Uključivanjem odziva modela za predviđanje, na primjer oborina, u skup ulaznih varijabli bavili su se autori radova [63], [77] i [83]. Podaci dobiveni meteorološkom prognozom, predstavljeni u odjeljku 4.1.6. ovog rada, odnosno derivati tih podataka, korišteni su i u ovom radu u vidu učestalosti prognozirane oborine. Varijabla učestalosti prognozirane oborine predstavljena je u potpoglavlju 4.4.

Kao alternativa produženju predikcijskog horizonta za dnevno prognoziranje moguće je koristiti tjedno, odnosno mjesečno predviđanje koje se temelji na srednjim vrijednostima varijabli za izabrani korak računanja, u tom slučaju jedan tjedan ili jedan mjesec.

Jedan od uočenih nedostataka modela za predviđanje hidrološkog dotoka je i pojava kašnjenja predviđanja modela za stvarnim događajem. Pojava kašnjenja predviđanja modela uočena je u radovima [20], [48], [49], [67] i [78], ali nije posebno komentirana, odnosno nije joj posvećena veća pozornost. U knjizi [1], odnosno radu [3] se ovaj problem vezuje isključivo uz predviđanje dotoka temeljem vremenske serije, a pojava kašnjenja se objašnjava nepostojanjem informacije koja bi nagovijestila naglu promjenu te se sugerira proširivanje ulaznog vektora varijablom oborine. Međutim, problem kašnjenja uočen je i kod modela koji koriste oborinu kao ulaznu varijablu. Takav slučaj analiziran je u radu [24] u kojem autor rada problem pripisuje dominaciji podataka o dotoku u odnosu na podatke o oborinama, što dokazuje usporedbom koeficijenata korelacije između dotoka i oborina s koeficijentima autokorelacije vremenske serije dotoka. Pretpostavlja se kako mreža prilikom treniranja zanemaruje podatke s manjim korelacijskim koeficijentima, odnosno kako zanemaruje oborine i tako ne uspijeva iskoristiti informaciju koju ti podaci nose. U istom je radu istaknuto kako problem kašnjenja predviđanja modela za stvarnim događajem još nije adekvatno riješen. Postojanje ovog problema te nemogućnost da ga se otkloni uvođenjem varijable oborine potvrđeno je i preliminarnim istraživanjima ove disertacije. Ovaj problem se pokazao ključnim nedostatkom neuronskih modela za predviđanje hidrološkog dotoka, koji posebno dolazi do izražaja u slučaju predviđanja više koraka unaprijed.

Pored ograničenosti predikcijskog horizonta i problema kašnjenja, uočen je i niz nedostataka u samom postupku formiranja neuronskih modela za predviđanje varijabli hidrološkog sustava, kojeg ističu i dostupni pregledni radovi. Prema [54] i [55], izražen je općeniti nedostatak sustavnog pristupa formiranju neuronskog modela hidrološkog sustava, koji se prvenstveno očituje u proizvoljnom odabiru ulaznih varijabli sustava, strukture mreže,

5

nasumičnoj podjeli podataka prilikom treniranja mreže i nemogućnosti pouzdanog određivanja globalnog minimuma prilikom treniranja mreže, a zabilježena je i uporaba neprimjerenih mjera kvalitete pri ocjenjivanju modela.

1.3. Hipoteza

Definicija problema, čijem je rješavanju posvećena ova disertacija, proizlazi iz pokušaja da se ostvari kratkoročno predviđanje hidrološkog dotoka pomoću umjetne neuronske mreže. Inicijalna istraživanja provedena u svrhu formiranja modela sposobnog za takva predviđanja poznatim metodama nazivaju se preliminarnim. Preliminarna istraživanja ukazala su na nemogućnost pouzdanog višednevnog predviđanja hidrološkog dotoka na temelju postojećih mjerenih vrijednosti hidroloških i meteoroloških varijabli sustava. Rezultati preliminarnih istraživanja potvrdili su osnovne nedostatke ovakvog načina predviđanja, a radi se o ograničenosti predikcijskog horizonta i izraženom kašnjenju predviđanja modela. Isti nedostaci uočeni su i u dijelu radova iz dostupne literature, a kako se poznati postupci rješavanja problema nisu pokazali uspješnim može se zaključiti nužnost daljnjih istraživanja.

Kao predmet istraživanja ove disertacije poslužio je sliv rijeke Cetine, a kao varijabla hidrološkog dotjecanja modelirano je dotjecanje rijeke Cetine u akumulaciju Peruća s ciljem kratkoročnog dnevnog predviđanja pomoću umjetne neuronske mreže. Istraživane su mogućnosti modeliranja sustava na temelju mjerenog protoka u prvom slučaju, zatim protoka i oborina u drugom slučaju, da bi u trećem slučaju bila uključena i informacija o temperaturi. Dakle, istraživana je mogućnost rješenja problema pomoću modela vremenske serije, modela oborine-otjecanje i viševeličinskog modela. Ostvareni rezultati istraživanja ukazuju na konstantno opadanje kvalitete modela s povećanjem koraka predviđanja (k) koje rezultira gotovo neupotrebljivim modelom1 za predviđanja iznad dva koraka računanja, odnosno predviđanja dva dana unaprijed. Pored toga, uočeno je kašnjenje odziva modela za točno onaj broj koraka za koji se radi predviđanje. Uočeno kašnjenje predstavlja i ključni nedostatak modela i navodi na zaključak kako niti jedan od modela dobivenih preliminarnim istraživanjem ne posjeduje nikakve prediktivne sposobnosti s obzirom da model ne uspijeva predvidjeti promjenu prije no što se ona dogodi. Model kao najvjerojatniju buduću vrijednost izlazne varijable dotoka predviđa vrijednost blisku njenoj prethodnoj vrijednosti. Problem je posebno izražen kod naglih promjena predviđane varijable hidrološkog dotoka.

S obzirom na činjenicu da se u razmatranom slučaju radi o krškom reljefu, čiji podzemni tokovi i akumulacije sustav čine izrazito nelinearnim te zahtjevnim za modeliranje, loši rezultati predviđanja su donekle očekivani. Međutim, izrazito loši rezultati predviđanja te

1 Prema [60] neupotrebljivim modelom se definira model ocijenjen s koeficijentima CE ≤ 0,5 i RSR > 0,7.

Detaljan opis korištenih mjera kvalitete dan se u poglavlju 3.4.

6

nemogućnost da se model unaprijedi uobičajenim postupcima, kao što je proširivanje skupa ulaznih varijabli predloženo u [3], navode na pretpostavku o specifičnom problemu nepodudaranja vremenske konstante sustava s nametnutim korakom računanja u iznosu od jednog dana.

Naime, modeli za hidrološka predviđanja temeljeni su na vremenskim serijama, a vremenska serija varijable se može interpretirati kao jednodimenzionalna projekcija m-dimenzionalnog prostora u vremenu. Prema teoremu Florisa Takensa (engl. delay embedding theorem) uz ispravno odabranu dimenziju prostora m moguće je rekonstruirati fazni prostor sustava, a time i predvidjeti buduće vrijednosti varijabli sustava [30] i [64]. Prema spomenutom teoremu vremenska serija mjerene varijable se može opisati kao vremenski slijed vrijednosti varijable xt definiran izrazom (1.1),

( )2 ( 1), , ... ,t t t t mx f x x xτ τ τ− − − −= (1.1)

gdje su: m spomenuta dimenzija prostora (engl. embedding dimension), a τ zaostajanje (engl. embedding delay). S obzirom da i sam teorem ne spominje zaostajanje kao parametar koji uvjetuje rekonstrukciju faznog prostora, razmatranje ovog problema se u praksi često pojednostavljuje i svodi na određivanje dimenzije m, odnosno uzima se τ = 1. Pri tom se problem često naziva određivanje kašnjenja vremenske serije (engl. time series lag), a u kontekstu modeliranja sustava ga se može interpretirati kao vremensku konstantu sustava ili jednostavno kao korak računanja (k).

Osnovna ideja rješenja problema točnog i pravovremenog kratkoročnog predviđanja hidrološkog dotoka koja se predlaže u ovom radu temelji se na određivanju optimalnog koraka računanja (k) i detekciji ključnih varijabli sustava koji bi takva predviđanja učinili mogućim. Odnosno, cilj je smanjenjem rezolucije modela povećati vjerojatnost točnog predviđanja. Pri tome je ključno detektirati varijable koje bi omogućile takvo predviđanje, naravno uz pretpostavku da takve varijable postoje.

Za kratkoročno predviđanje hidrološkog dotoka u ovoj disertaciji razvijen je adaptivni neuronski model koji se sastoji od više umjetnih neuronskih mreža specijaliziranih za predviđanja u različitim godišnjim dobima. Cjelokupni model, ali i njegovi podmodeli se potom optimiziraju, pri čemu se traže optimalan broj podmodela, a za svaki podmodel optimalan skup ulaznih varijabli, broj neurona, trening algoritam i funkcija cilja, kao što je objašnjeno u potpoglavlju 4.6. Prilikom formiranja svih neuronskih modela u ovoj disertaciji slijede se pravila o sustavnom pristupu formiranju neuronskih modela za hidrološka predviđanja.

7

1.4. Opis sadržaja disertacije

Cjelokupni sadržaj disertacije je predstavljen kroz šest numeriranih poglavlja, koje slijedi popis literature s ukupno devedeset i jednim referentnim izvorom te kratak životopis autora na hrvatskom i engleskom jeziku. Na samom početku rada dan je sažetak disertacije, ključne riječi na hrvatskom i na engleskom jeziku, popis dvadeset sedam tablica, četrdeset šest ilustracija te pedeset jedna kratica i pedeset četiri simbola korištenih u ovom radu.

Pored kratkog opisa sadržaja doktorske disertacije, cilj uvodnog poglavlja je predstaviti motivaciju autora za provođenje istraživanja i pisanje disertacije te navesti postojeće načine i metode rješavanja sličnih problema s kojima se bilo moguće upoznati putem dostupne literature. U uvodnom poglavlju iznesena je hipoteza, odnosno definiran je problem i predstavljena je ideja o njegovom rješavanju.

U drugom poglavlju opisan je alat korišten za rješavanje definiranog problema, umjetna neuronska mreža (UNM). Dan je kratak pregled razvoja UNM-a, a predstavljena je i biološka osnova na temelju koje su UNM-e razvijene. Ukratko su navedena osnovna svojstva, a detaljnije je predstavljena samo korištena arhitektura mreže za formiranje modela iz ovog rada, višeslojni perceptron. Također, predstavljeni su i oni algoritmi za treniranje takve mreže korišteni prilikom formiranja modela u ovoj disertaciji i to: algoritam propagacije greške unatrag, Levenberg-Marquardt algoritam i Bayesova regularizacija. Na kraju drugog poglavlja je diskutirana i mogućnost primjene UNM-a za predviđanje varijabli hidrološkog sustava.

U trećem poglavlju je prvo opisan hidrološki sustav općenito, a potom su opisane i mogućnosti modeliranja hidrološkog sustava s naglaskom na predviđanje hidrološkog dotjecanja. Objašnjena je potreba za predviđanjem hidrološkog dotjecanja, a posebno su diskutirani i razlozi primjene upravo UNM-a kao alata za modeliranje hidrološkog dotjecanja. Analiziran je i veći broj mjera, odnosno kriterija kvalitete za ocjenjivanje točnosti predviđanja modela, a posebna pažnja je posvećena sustavnom pristupu formiranja neuronskog modela čiji se izostanak tretira kao jedan od osnovnih propusta u modeliranju hidroloških sustava, prema izvještajima iz [54] i [55]. Na kraju trećeg poglavlja opisano je planiranje proizvodnje električne energije kako bi se objasnila moguća korisnost informacije koju nudi razvijeni model.

U četvrtom poglavlju prikazano je i detaljno opisano formiranje optimiziranog adaptivnog neuronskog modela (OANM) za kratkoročno predviđanje hidrološkog dotjecanja i to na primjeru predviđanja dotjecanja rijeke Cetine u akumulaciju Peruća. Prvo je opisan sam predmet istraživanja, odnosno navedena su osnovana geografska, klimatološka i hidrološka obilježja sliva rijeke Cetine, a ukratko je opisan i hidroenergetski sustav Cetine. Također u potpoglavlju 4.1. predstavljeni su i podaci prikupljeni na slivu Cetine za potrebe formiranja modela iz ove disertacije. U potpoglavlju 4.2. definirani su uvjeti formiranja modela uz

8

uvažavanje osnovnih načela sustavnog pristupa, čime su dane smjernice za razvoj svih modela formiranih za potrebe istraživanja iz ove disertacije. U potpoglavlju 4.3. opisana su preliminarna istraživanja koja su ukazala na postojanje problema nemogućnosti točnog i pravovremenog kratkoročnog predviđanja hidrološkog dotjecanja za specifičan slučaj sliva rijeke Cetine. U potpoglavlju 4.4. prikazano je rješenje problema, najprije u vidu jednostavnog neuronskog modela s podešenim korakom računanja i skupom pretpostavljenih ključnih ulaznih varijabli, dok se u petom potpoglavlju razvija unaprjeđenje osnovnog modela u vidu adaptivnog neuronskog modela. U šestom potpoglavlju se model optimizira, pri čemu se određuje optimalan broj podmodela, odnosno optimalan broj članova adaptivnog modela, a optimizira se i svaki član zasebno i to po pitanju ulaza, broja neurona, algoritma za treniranje i funkcije cilja. U potpoglavlju 4.7. predstavlja se konačno rješenje u vidu optimiziranog adaptivnog neuronskog modela za kratkoročno predviđanje dotjecanja formirano i ispitano na slučaju predviđanja dotjecanja rijeke Cetine u akumulaciju Peruća.

U petom poglavlju predstavljeni su rezultati simulacije koji služe za ocjenjivanje modela i donošenje konačnog zaključka o njegovoj kvaliteti. Rezultati simulacije predstavljaju predviđanje modela za 2012. godinu, pri čemu je važno napomenuti kako podaci iz 2012. godine predstavljaju nove i nepoznate uvjete za formirani model s obzirom da ti podaci nisu predstavljani modelu za vrijeme treniranja, odnosno kalibracije. Rezultati simulacije, odnosno odziv modela uspoređivan je sa stvarnim vrijednostima dotoka i to numerički, posredstvom različitih apsolutnih i relativnih kriterija kvalitete te grafički, iscrtavanjem odziva i stvarnih vrijednosti na istom grafu, kao i iscrtavanjem trenutne pogreške određene na temelju razlike ove dvije vrijednosti. S obzirom na veći broj različitih mjera kvalitete korištenih u ovom radu, analizirana je prikladnost korištenih mjera kvalitete. Također, napravljena je i analiza uspješnosti predloženog rješenja kroz usporedbu vrijednosti kriterija kvalitete koje ostvaruje obični neuronski model i OANM.

U šestom poglavlju iznesen je zaključak koji proizlazi iz rezultata simulacije prikazanih u petom poglavlju. S obzirom da rezultati simulacije dokazuju tezu iznesenu u drugom poglavlju disertacije, u okviru zaključka se može jasno definirati izvorni znanstveni doprinos disertacije. U zaključku su iznesena sva osnovna svojstva formiranog modela, istaknute su prednosti, ali i nedostaci predloženog rješenja, a dane su i smjernice za daljnji rad, odnosno daljnja istraživanja. U okviru zaključka, iznesena su i zapažanja vezana uz ocjenjivanje modela i korištene kriterije kvalitete na temelju čega je donesena i preporuka o članovima optimalnog skupa kriterija kvalitete.

9

2. Umjetne neuronske mreže

Umjetne neuronske mreže, UNM (engl. Artificial Neural Networks, ANN) predstavljaju umjetnu tvorevinu, alat, za obradu i pohranu informacije s ciljem stjecanja znanja i njegovog iskorištavanja, što se opisuje svojstvima učenja i generalizacije koja predstavljaju osnovna svojstva UNM-e. UNM-e su razvijene po uzoru na biološke neuronske mreže, odnosno mozak živih bića i kao takve predstavljaju alternativno rješenje klasičnim matematičkim i računalnim metodama. UNM-e potječu iz različitih grana znanosti kao što su neurologija, matematika, statistika, fizika, računarstvo, a nalaze primjenu u modeliranju, raspoznavanju uzoraka, obradi signala, vođenju sustava i drugdje. Kao što se navodi u [65], istraživanja i razvoj umjetnih neuronskih mreža imaju dva osnovna cilja, od kojih je prvi svakako razvoj novih, ali i unaprjeđenje postojećih struktura UNM-a. Drugi cilj je primjena UNM-a kao alata za rješavanje različitih praktičnih problema i upravo to je predmet istraživanja ove disertacije. Naime, s obzirom na svojstva i dokazane sposobnosti UNM-a te svojstva hidroloških sustava, cilj ove disertacije je iskoristiti UNM-e za kratkoročno predviđanje dotoka specifičnog hidrološkog sustava. Specifičnost sustava se očituje u krškom reljefu i ograničenoj dostupnosti podataka.

2.1. Biološka osnova i razvoj umjetnih neuronskih mreža

Mozak živih bića se može interpretirati kao izrazito složen, nelinearan, paralelan sustav za obradu informacija koji složene funkcije može obavljati mnogo brže od najbržeg digitalnog računala [40]. Iako je ova konstatacija izrečena prije više od jednog desetljeća, a digitalna računala u međuvremenu znatno napredovala, u malo blažoj varijanti vrijedi i danas. Obavljanje jednostavnih aritmetičko-logičkih zadataka za digitalno računalo ne predstavlja problem, ali brzinu obavljanja relativno složenih funkcija poput vizualizacije objekta i/ili

10

interakcije s okolinom, koje mozak živih bića obrađuje u milisekundi, digitalno računalo ne može nadmašiti.

S obzirom da tehnologija uglavnom nastaje iz čovjekove potreba oponašanja prirodne tvorevine, zadivljujuća svojstva bioloških neuronskih mreža potakla su znanstvenike na formiranje umjetnog neuronskog sustava koji bi bio sposoban za slične pothvate. Naime, mozak živih bića se sastoji od velikog broja živčanih stanica, neurona koji se povezuju na temelju informacija koje pristižu u mozak, odnosno na temelju podražaja te nastaju biološke neuronske mreže. Uspostavljanjem međuneuronskih veza mozak pohranjuje informaciju na temelju koje može generalizirati, odnosno razlučiti pravila koja povezuju uzrok i posljedicu te dati odgovore i na nepoznata pitanja. Dakle, mozak formira model okoline na temelju primjera koje je imao priliku upoznati, nakon čega taj model može i primijeniti u bilo kojem trenutku, odnosno novoj situaciji. Ovaj proces se naziva stjecanje iskustva, učenje ili treniranje i kod živih bića se najintenzivnije odvija u najranijoj životnoj fazi, ali se nastavlja i kasnije kroz cijeli život. Biološke neuronske mreže se jačanjem međuneuronskih veza specijaliziraju za obavljanje određenih funkcija, oblikuju se, a mogućnost oblikovanja prema okolini je ono što neuronski sustav čini adaptivnim.

Po uzoru na biološke neuronske mreže nastale su umjetne neuronske mreže koje se sastoje od određenog broja međusobno povezanih umjetnih neurona, osposobljenih za obavljanje određene funkcije. Umjetni neuroni su vrlo jednostavna aproksimacija bioloških neurona koji se mogu izraditi kao elementi računalnog programa ili kao fizički elementi od silicija [38], odnosno elektroničke komponente [40]. U nastojanju da se što preciznije, ali i što jednostavnije opiše umjetna neuronska mreža, možda bi najbolje bilo prenijeti definiciju Aleksandera i Mortona iz 1990, prema kojima je:

„Umjetna neuronska mreža je masivni paralelni distribuirani sustav za obradu podataka koji se sastoji od jednostavnih elemenata i ima prirodnu sklonost pohranjivanja iskustvenog znanja koje potom može i koristiti, a sličan je mozgu prema načinu na koji stječe i pohranjuje znanje. Mreža znanje stiče kroz proces učenja, a pohranjuje ga posredstvom intenziteta međuneuronskih veza.“ [40]

Dakle, UNM-e predstavljaju pojednostavljeni matematički model procesa koje obavljaju mreže živčanih stanica, odnosno biološke neuronske mreže, a sastoji se od skupa međusobno povezanih umjetnih neurona čiji se konačan oblik formira nakon završenog procesa učenja kojim mreža stječe znanje o rješavanju određenog problema. Znanje koje mreža posjeduje sadržano je u intenzitetu međuneuronskih veza.

Razvoj umjetnih neuronskih mreža se odvijao u valovima, skokovito i popraćen je fazama izrazitog entuzijazma, ali i fazama gotovo potpunog odbacivanja. Ipak, ukupni trend razvoja UNM-a je itekako pozitivan. Ono što vjerojatno predstavlja začetak ideje o umjetnim neuronskim mrežama je interdisciplinarni rad sa kraja 19. i početka 20. stoljeća znanstvenika iz područja fizike, psihologije i neuropsihologije. Tada su se Hermann von Helmholtz, Ernst

11

Mach i Ivan Pavlov, bavili općenitim teorijama učenja, razmišljanja, uvjetnog donošenja odluke i sličnim problemima [38]. Suvremen model UNM-e nastaje ipak nešto kasnije, 1940-ih godina, kada znanstvenici Warren McCulloch i Walter Pitts, objavljuju radove o mogućnosti rješavanja bilo koje logičke ili aritmetičke funkcije pomoću umjetne neuronske mreže. Njihove radove prate i drugi znanstvenici pa tako Donald Hebb 1949. definira učenje biološkog neurona, poznato kao Hebbianovo pravilo.

Prva praktična primjena UNM-a bilježi se kasnih 1950-ih godina i vezuje uz Franka Rosenblatta, izumitelja perceptrona i pripadajućeg pravila za treniranje takve mreže (engl. perceptron network). Rosenblatt je zajedno sa svojim kolegama razvio prvi perceptron sa sposobnošću raspoznavanja uzoraka (engl. pattern recognition) i time potakao interes šire znanstvene zajednice za istraživanjem neuronskih mreža. Ispostavilo se kako osnovni model perceptrona posjeduje niz ograničenja, a 1969. Marvin Minsky i Seymour Papert objavljuju knjigu u kojoj opisuju ograničene mogućnosti ovog tipa umjetnih neuronskih mreža. Ova je knjiga imala snažan utjecaj na znanstvenike koji su se bavili istraživanjem UNM-a i potakla mnoge da napuste to područje. Opisani razvoj situacije, ali i nepostojanje odgovarajuće opreme za napredna istraživanja značajno su usporila razvoj UNM-a.

Iako su cijelo desetljeće umjetne neuronske mreže bile zapostavljene, upravo u tom periodu, 70-ih godina 20. stoljeća, nastaju neka važna otkrića u ovom području. U tom periodu nastaju samoorganiziajuće mape (engl. self-organizing maps, SOM) poznate još kao Kohonenove mape ili Kohonenove mreže, a svojim radovima, pored tvorca SOM mreže Teuvo Kohenena, ističu se i James Anderson te Stephen Grossberg.

1980-e godine obilježene su razvojem naprednih i lako dostupnih digitalnih računala koja su zasigurno označila prekretnicu u mnogim područjima znanosti. Napredak računalne tehnologije označio je početak novog doba i za neuronske mreže koje su u PC računalima dobile dovoljno dobre, sveprisutne platforme za svoj razvoj.

Ključan trenutak u povijesti umjetnih neuronskih mreža predstavlja razvoj algoritma propagacije greške unatrag (engl. error back propagation algorithm) za treniranje unaprijedne neuronske mreže, odnosno razvoj BPNN neuronske mreže (engl. back propagation neural network). BPNN je nastajala postepeno, nizom pokušaja različitih znanstvenika u različitim stupnjevima razvoja i dostupnosti tehnologije pa je teško imenovati jednu osobu kao utemeljitelja. Pojam rasprostiranja unatrag (engl. back propagation) prvi put koristi Frank Rosenblat, 1962. godine prilikom pokušaja formiranja općenitog pravila za treniranje perceptrona s više slojeva, odnosno višeslojnog perceptrona (engl. multi-layered perceptron, MLP). Osnovnu ideju suvremenog BP algoritma prvi je primijenio Paul Werbos, 1974. u svojoj disertaciji „Beyond Regresion“. U istom smjeru, gotovo paralelno rade i David Parker, David Rumelhart te James McClelland, a konačnu formu i primjere primjene BP algoritma za treniranje neuronske mreže objavljuju Rumelhart, Hinton i Williams 1986. godine u knjizi Back Propagation: Theory, Architectures and Applications. BP algoritam objašnjen je u odjeljku 2.4.1 ovog rada, a detaljno se može pronaći predstavljenu u cijelom

12

nizu dostupne literature poput [9], [12], [23] i [37] među kojima se posebno ističu [38], [39], [40] i [69], sve pisane na engleskom, a postoje i dostupni izvori i na hrvatskom jeziku [65] i [62].

Daljnji napredak računalne tehnologije te sve intenzivnija komunikacija koju uvelike pomaže i sve veća dostupnost Interneta, olakšala je proces integracije znanja, općenitog, ali i znanja iz područja UNM-a. Tijekom 1990-ih godina nastaju i neki od najiscrpnijih izvora informacije o ideji, razvoju i primjeni umjetnih neuronskih mreža. Među primarnim izvorima ističu se radovi autora Simona Haykina, Jamesa Andersona, Christophera Bishopa, Laurene Fausett, Raula Rojasa. Grupa autora Hagan, Demuth i Beale surađuje s tvrtkom MathWorks, Inc. i sustavno od 1992. do danas radi na razvoju alata i pripadajuće literature za kreiranje UNM-a, a osim priručnika za formiranje neuronskih mreža u MATLAB-u ista grupa autora objavljuje i knjigu Neural Networks Design, 1996. godine, koja kasnije doživljava i niz reizdanja. Programski paket MATLAB i pripadajuća literatura omogućili su i istraživanja potrebna za formiranje modela, a u konačnom i nastajanje ovog rada.

Doprinos razvoju neuronskih mreža su u 20. stoljeću dali mnogi fizičari, matematičari, biolozi, psiholozi, neurolozi, elektrotehničari, automatičari, računarci, ekonomisti i drugi znanstvenici. U 21. stoljeću neuronskim mrežama se bave znanstvenici gotovo svih znanstvenih područja, polja i grana, širom svijeta. Rezultat toga je veliki broj radova s različitim primjenama umjetnih neuronskih mreža u rješavanju specifičnih problema iz različitih znanstvenih područja.

Konačno, može se reći kako su zapravo dva ključna faktora, algoritam propagacije greške unatrag i razvoj digitalnih računala, usmjerila razvoj neuronskih mreža prema onome što UNM-e jesu danas, fleksibilan i lako primjenjiv alat za rješavanje problema kod kojih uobičajeni matematički i računalni postupci ne daju najbolje rezultate. Također, za očekivati je da umjetne neuronske mreže nastave profitirati razvojem tehnologije pa se može zaključiti kako se radi o bogatom izvoru koje mogu ponuditi dobra rješenja, ako ne danas, onda možda već sutra.

2.2. Svojstva umjetnih neuronskih mreža

Neuronske mreže općenito posjeduju niz svojstava koja ih čine prihvatljivim rješenjem za čitav niz problema, a najvažnija svojstva navedena su u daljnjem tekstu.

• Učenje na temelju predstavljanja ulazno-izlaznih parova (engl. input-output mapping). S obzirom da su poznate ulazne vrijednosti i željene izlazne vrijednosti moguće je odrediti pogrešku, odnosno razliku između odziva mreže i željenog odziva te obaviti korekciju parametara mreže kako bi se u slijedećoj iteraciji postigla što

13

manja pogreška. Ovaj postupak podešavanja parametara mreže s ciljem minimizacije pogreške zove se učenje pod nadzorom2 (engl. supervised learning).

• Adaptivnost slijedi izravno iz svojstva učenja i označava sposobnost mreže da se prilagodi okolini, odnosno sposobnost da se oblikuje za rješavanje zadanog problema.

• Univerzalni aproksimator se naziva svojstvo koje omogućava mreži da aproksimira bilo koju funkciju s relativnim stupnjem točnosti.

• Nelinearnost je definirana svojstvom neurona, odnosno aktivacijske funkcije koju neuron koristi. Mreža sastavljena od neurona koji koriste nelinearnu aktivacijsku funkciju može aproksimirati nelinearne kontinuirane funkcije.

• Generalizacija se može interpretirati kao sposobnost mreže da iz predloženih primjera izvuče opće, generalno pravilo, odnosno zapamti funkciju po kojoj se ulaz preslikava u izlaz i tako bude u stanju riješiti primjere koje nije upoznala za vrijeme treniranja.

Navedena svojstva međusobno su usko povezana i predstavljaju izravnu posljedicu masivne paralelne distribuirane strukture umjetne neuronske mreže što većina autora i navodi kao osnovno svojstvo neuronskih mreža. Naime, prednost UNM-a u odnosu na konvencionalna računala i jest upravo u paralelnom prihvaćanju informacija s više ulaza i njihovoj raspodijeljenoj obradi (engl. parallel distributed processing). Informacija se u UNM-i nalazi raspodijeljena, za razliku od koncentriranog načina na koji računala spremaju informaciju u memoriju. Svojstvo raspodijeljene pohrane informacije daje neuronskim mrežama više prednosti od kojih je najvažnija redudandnost [65], odnosno otpornost na kvar (engl. fault tolerance), zbog koje UNM-a može raditi čak i ako se jedan njen dio pokvari [40]. Na temelju osnovnih svojstava može se zaključiti kako se modeliranje sustava pomoću UNM-e temelji na podacima (engl. data driven technique) što omogućava modeliranje sustava kod kojih nisu točno poznati svi odnosi među pojedinim varijablama, ali je moguće definirati ulazne i izlazne varijable te provesti njihova mjerenja. U početnom trenutku, neuronska mreža nema informacije o načinu rada sustava koji modelira i ne poznaje odnose među varijablama. Ona upoznaje sustav kroz postupak učenja, prilikom kojeg se, kroz iterativno podešavanje intenziteta međuneuronskih veza s ciljem smanjenja pogreške, određuje funkcijska povezanost ulaznih i izlaznih varijabli. S obzirom na navedena svojstva, za očekivati je da UNM-e budu koristan alat za modeliranje hidrološkog sustava razmatranog u ovom radu.

2 Pored učenja pod nadzorom postoji i učenje bez nadzora (engl. unsupervised learning), a mreže koje koriste takav način učenja ili treniranja se zovu samo-organizirajuće mape (engl. self-organizing maps, SOM) i spadaju u posebnu skupinu UNM-a.

14

2.3. Vrste umjetnih neuronskih mreža

Istraživanjem umjetnih neuronskih mreža danas se bavi veliki broj znanstvenika iz raznih znanstvenih područja, a rezultat njihovog rada je veliki broj različitih arhitektura UNM-a koji se mogu razlikovati prema tipu neurona od kojih su građene, po načinu na koji su neuroni povezani i/ili po algoritmu koji se koristi za podešavanje međuneuronskih veza. Najpoznatiji i najčešće korišteni tip umjetne neuronske mreže je višeslojni perceptron (MLP), a slijede ga neuronske mreže s prijenosnom funkcijom radijalne baze (engl. radial basis function, RBF), samoorganiziajuće mape (SOM), GRNN (engl. generalized regression neural networks), RNN (engl. recurrent neural networks), SVM (engl. support vector machines), TNN (engl. temporal neural networks), neuro-fuzzy i druge.

Bez obzira na mnoštvo postojećih struktura sve se one u osnovi mogu svrstati u statičke i dinamičke neuronske mreže [65]. Za razliku od statičkih, dinamičke mreže imaju unutarnje povratne veze koje im omogućavaju modeliranje efekta kašnjenja ili akumulacije energije što ih jasno čini prikladnijim za identifikaciju prirodnih procesa. Međutim, unutarnje povratne veze uvjetuju dokazivanje stabilnosti mreže, odnosno mogućnost pojave nestabilnog rada formiranog modela, što ih čini kompliciranijim za primjenu. U radu [65] ispitana je i dokazana mogućnost primjene statičkih neuronskih mreža u identifikaciji dinamičkih procesa. Kako statičke neuronske mreže ne sadrže dinamičke članove tako vrijednost na njihovom izlazu ovisi o trenutnim vrijednostima na ulazu mreže pa je za njihovu primjenu u modeliranju dinamičkih procesa potrebna i određena prilagodba. Statičke neuronske mreže se mogu koristiti za modeliranje dinamičkih procesa ako im se doda vanjske dinamičke članove ili ako se kao ulazne varijable koriste vremenske serije pomoću kojih je tada predstavljena dinamika procesa.

U narednom odjeljku ovog potpoglavlja detaljnije je predstavljena UNM arhitekture višeslojnog perceptrona (MLP) ili unaprijedna neuronska mreža (engl. feedforward neural network, FFNN), kako se u literaturi često naziva, a radi se o statičkoj neuronskoj mreži koja se koristi za modeliranje hidrološkog sustava u ovom radu.

2.3.1. Višeslojni perceptron

Osnovna sastavna komponenta svake umjetne neuronske mreže je umjetni neuron, čiji se model, za MLP arhitekturu UNM-e, nalazi prikazan na slici 2.1. Umjetni neuron u k-tom koraku računa odziv ok prema (2.1), gdje pk označava sumu otežanih m-ulaza definiranu izrazom (2.2), a φ označava aktivacijsku funkciju dotičnog neurona. Izrazi (2.1) i (2.2) predstavljaju matematički model umjetnog neurona čiji su ulazi označeni s uk, a vrijednosti težinskih koeficijenata su označene s wk.

15

u1

w1u2 w2

um

wm

p φ(p)o

w0u0

Slika 2.1. Model umjetnog neurona

Višeslojni perceptron (MLP) je statička unaprijedna neuronska mreža koja se sastoji od najmanje tri sloja neurona: ulaznog, skrivenog i izlaznog sloja, odnosno dva sloja s obzirom da se prvi, ulazni sloj ne broji ukoliko broj ulaznih neurona odgovara broju ulaznih varijabli, što je zapravo čest slučaj. U općem slučaju, svaki neuron jednog sloja je povezan sa svakim neuronom slijedećeg sloja, kao što je prikazano na slici 2.2. na primjeru troslojne MLP mreže s tri ulaza i tri izlaza.

( )k ko pϕ= (2.1)

( )0

m

k k k nn

p w u=

= ⋅∑ (2.2)

Svojstva mreže ovise o svojstvima neurona, odnosno tipu aktivacijske funkcije pa ukoliko se mreža koristi kao univerzalni aproksimator tada ona mora koristiti nelinearne aktivacijske funkcije u skrivenom sloju kako bi bila u stanju aproksimirati nelinearne odnose između ulaznih i izlaznih varijabli [39].

Slika 2.2. Višeslojni perceptron

16

Najčešće korištene aktivacijske funkcije prikazane su na slici 2.3. Izlazni sloj neurona najčešće koristi linearnu aktivacijsku funkciju, osim u slučaju postojanja maksimalne i minimalne vrijednosti izlazne varijable kada se pored ograničene linearne može koristiti i sigmoidalna aktivacijska funkcija.

(a)

( )p pϕ =

(b)

[ ]1 za 1

( ) za 1,11 za 1

pp p p

pϕ

− < −= ∈ − >

(c)

1( )1 pp

eϕ −=

+

(d)

2( ) 11 pp

eϕ −= −

+

Slika 2.3. Aktivacijske funkcije: (a) linearna, (b) ograničena linearna, (c) unipolarna sigmoidalna, (d) bipolarna sigmoidalna

2.4. Treniranje umjetnih neuronskih mreža

Neuroni i međuneuronske veze odgovorni su za sve biološke neuronske funkcije. Međuneuronske veze su posebno odgovorne za pamćenje pa se može reći kako znanje nastaje kao posljedica procesa uspostavljanja novih veza između neurona ili modifikacije postojećih veza. Ovaj proces se u prirodi naziva treniranje ili učenje.

Slično kao i kod bioloških neuronskih mreža, učenje se može ostvariti i kod UNM-a. Potrebno je pritom definirati skup pravila po kojima se takav postupak provodi i skup uzoraka ulazno-izlaznih parova, odnosno parova pobuda i željenih odziva. Ovi parovi predstavljaju primjere uzroka i posljedice koje je mreži potrebno predstaviti kako bi stekla određeno znanje.

17

Kada se netrenirana mreža pobudi, najvjerojatnije će dati odziv koji se razlikuje od željenog, odnosno dat će pogrešku (E) koja se može opisati kao funkcija podesivih parametara mreže. Naime, kao što se vidi iz izraza (2.1) i (2.2), odziv mreže ovisi o trenutnim vrijednostima podesivih parametara mreže (w). Iznesena tvrdnja se može jednostavno opisati izrazom (2.3) koji predstavlja ishodište ideje o treniranju UNM-e.

( )E f w= (2.3)

Prema unaprijed definiranom algoritmu za učenje može se obaviti korekcija podesivih parametara mreže (w) te u odgovarajućem broju iteracija podesiti mrežu kako bi davala željeni odziv. Algoritam za funkciju cilja ima postavljeno minimalno ili nulto odstupanje odziva mreže od željene vrijednosti, odnosno minimalnu ili nultu vrijednost pogreške. Pogreška, odnosno odstupanje mreže od željenog odziva se izražava preko funkcije cilja (E), a u tu svrhu se može koristiti različite izraze poput ukupne kvadratne pogreške (engl. sum of squared error, SSE), srednje kvadratne pogreške (engl. mean squared error, MSE), njenog korijena (engl. root mean squared error, RMSE), srednje apsolutne pogreške (engl. mean absolute error, MAE) ili neke druge funkcije koje u sebi nose informaciju o pogrešci. Navedene funkcije opisane su u potpoglavlju 3.4. ovog rada. Parametri mreže koji se podešavaju (w) predstavljaju pragove odlučivanja svakog neurona (engl. bias ili threshold, u ovom radu označen s w0,) i težinske koeficijente koji definiraju intenzitet međuneuronskih veza (engl. synaptic weights, u ovom radu označen s w1 do wn). S obzirom da se prilikom treniranja UNM-e oba parametra jednako tretiraju, u ovom radu nije pravljena posebna razlika pa se zbog jednostavnosti jedni i drugi ubrajaju u podesive parametre mreže (w).

Dakle, postupak treniranja neuronske mreže se može definirati kao iterativni postupak podešavanja parametara mreže (w), koji se odvija prema određenom algoritmu i ima za cilj određivanje vrijednosti parametara mreže za koje će pogreška, odnosno funkcija cilja, biti minimalna.

Algoritmi za podešavanje parametara mreže mogu se općenito podijeliti na lokalne i globalne algoritme, među kojima se lokalni algoritmi, korišteni u ovom radu, dalje dijele na lokalne algoritme prvog i drugog reda.

2.4.1. Lokalni algoritmi prvog reda – algoritam propagacije greške unatrag

Lokalni algoritmi za optimizaciju parametara mreže su iterativni postupci koji se u osnovi provode prema izrazu (2.4), a razlikuju se po načinu na koji se određuje mjera promjene ∆w [38].

1k k kw w w+ = +∆ (2.4)

18

Podešavanje parametara prema izrazu (2.4) može se provoditi u postepenom (engl. incremental/on-line) ili grupnom (engl. batch) režimu. U postepenom, inkrementalnom režimu, podešavanje parametara mreže se provodi na temelju pogreške koja se računa nakon svakog ulazno-izlaznog para koji se predstavi mreži, a u grupnom režimu se mreži predstave svi ulazno-izlazni parovi u jednoj epohi, a pogreška cijele epohe se koristi za podešavanje parametara, kao što je to opisano u [23].

Osnovni lokalni algoritam za podešavanje parametara unaprijedne neuronske MLP mreže je propagacija greške unatrag (engl. error back propagation, BP). Kako bi se odredilo smjer i intenzitet promjene podesivih parametara mreže, BP algoritam se koristi gradijentom funkcije pogreške, odnosno parcijalnom derivacijom funkcije cilja po podesivim parametrima mreže, kao što je definirano izrazom (2.5). Zbog toga se postupci optimizacije temeljeni na linearnoj aproksimaciji funkcije pogreške nazivaju još i gradijentni postupci. Parametar η je bezdimenzionalna veličina koja definira intenzitet promjene parametara mreže i naziva se brzina učenja.

kk

k

Eww

η ∂∆ = −

∂ (2.5)

Metoda propagacije greške unatrag ili učenje povratnim rasprostiranjem greške (BP) predstavlja najčešće korištenu metodu za optimizaciju parametara MLP mreža, a njena prednost se očituje u relativno jednostavnom određivanju parcijalne derivacije iz (2.5). BP metoda koristi rasprostiranje signala u dva smjera, od ulaza prema izlazu te od izlaza prema ulazu. Za vrijeme rasprostiranja signala od ulaza prema izlazu, svaki neuron računa svoj izlaz na temelju trenutnih vrijednosti ulaza i parametara mreže, kao što je definirano izrazima (2.1) i (2.2). Rasprostiranje signala kroz mrežu unaprijed prikazano je na slici 2.4., gdje su slovima r, i, j označeni slojevi neurona.

Slika 2.4. Rasprostiranje signala kroz mrežu unaprijed

Propagacija greške unatrag započinje u izlaznom sloju neurona (j) izračunavanjem pogreške ej

k u k-tom koraku računanja. S obzirom da je željeni odziv mreže poznat, pogrešku izlaznog (j-tog) neurona je jednostavno izračunati kao razliku odziva izlaznog neurona oj

k i željenog odziva dj

k , prema (2.6).

j j jk k ke d o= − (2.6)

19

Parcijalnu derivaciju iz (2.5) moguće je odrediti pomoću BP algoritma prema izrazu (2.7), gdje je uk izlaz iz neurona prethodnog sloja, a δk je lokalni gradijent koji se za j-ti neuron izlaznog sloja u k-tom koraku računanja može izračunati prema izrazu (2.8), a za i-ti neuron skrivenog sloja prema izrazu (2.9). Detaljno objašnjenje metode propagacije greške unatrag te postupka kojim se dolazi do izraza (2.7), (2.8) i (2.9) može se pronaći u [40].

kk k

k

E uw

δ∂= ⋅

∂ (2.7)

( )j j j jk k ke pδ ϕ′= ⋅ (2.8)

( ) ( )i i i j jik k k k l

lp wδ ϕ δ′= ⋅ ⋅∑ (2.9)

Kao što se vidi iz (2.8) lokalni gradijent izlaznog j-tog neurona u k-tom koraku računanja predstavlja umnožak pogreške ej

k i derivacije pripadajuće aktivacijske funkcije φ'j(pjk) pa je

lokalni gradijent izlaznog j-tog neurona jednostavno izračunati. Pri tom aktivacijska funkcija očito mora biti derivabilna. Međutim, pogrešku skrivenog neurona, na primjer sloja r ili i, nije jednostavno izračunati jer nije poznat željeni odziv neurona skrivenog sloja. Kao što se vidi iz (2.9), a kao što je pokazano u [40], lokalni gradijent i-tog neurona može se izračunati kao umnožak derivacije pripadajuće aktivacijske funkcije i otežane sume l-lokalnih gradijenata izlaznih j-tih neurona prema izrazu (2.9). Zahvaljujući izračunu lokalnog gradijenta izlaznog sloja moguće je odrediti lokalni gradijent skrivenog sloja pa ako se prati tok informacije o pogrešci, ona očito putuje kroz mrežu unatrag posredstvom lokalnog gradijenta, kao što je prikazano na slici 2.5., zbog čega se ova metoda i naziva propagacija greške unatrag.

Slika 2.5. Rasprostiranje greške kroz mrežu unatrag

Ukoliko se iskoriste prethodno navedeni izrazi od (2.5) do (2.9), tada se podešavanje parametara mreže pomoću metode propagacije greške unatrag može opisati izrazom (2.10) koji se često naziva i delta pravilo (engl. delta rule).

k k kw uη δ∆ =− ⋅ ⋅ (2.10)

20

2.4.2. Unaprjeđenja izvornog BP algoritma

Jednostavan način za kontrolirano povećanje brzine učenja, bez mogućnosti uzrokovanja nestabilnosti mreže, je generalizirano delta pravilo definirano izrazom (2.11), koje koristi moment ψ kako bi se smanjilo ili povećalo iznos promjene težinskih koeficijenata (∆wk) u odnosu na promjenu iz prethodnog koraka (∆wk-1).

1k k k kw w uψ η δ−∆ = ⋅∆ − ⋅ ⋅ (2.11)

Moment ψ je broj koji smije poprimiti vrijednosti iz skupa (-1, 1), pri čemu je praktična uporaba negativnih vrijednosti manje vjerojatna [40]. Moment ψ ostvaruje efekt inercije što omogućava brži spust ka minimumu preko područja s malim gradijentom, kao na slici 2.6b između točaka A i B, ili izbjegavanje oscilacija i postepeno spuštanje ka minimalnoj vrijednosti u slučaju promjene smjera ∆w, kao na slici 2.6a [47].

Slika 2.6. (a) i (b) utjecaj momenta α na promjenu težinskih koeficijenata ∆wk

Drugi način za unaprjeđenje treniranja koji se temelji na promjenjivoj brzini učenja koristi promjenjivi parametar brzine učenja η. Promjenjivi parametar brzine učenja se dobije optimizacijom funkcije pogreške po parametru brzine učenja što se zove minimiziranje duž linije (engl. minimizing along line), kao što je objašnjeno u [38]. U svakom slučaju, algoritmi za ubrzanje promjenjivom brzinom učenja spadaju u skupinu lokalnih algoritama prvog reda, odnosno gradijentnih metoda, baš kao i izvorni BP algoritam. Međutim, izračunati gradijent ne upućuje izravno na minimum funkcije pogreške pa je pronalazak globalnog minimuma potpuno neizvjestan, a konvergencija ka jednom od potencijalnih minimuma spora [14]. Izravniju potragu za minimumom funkcije pogreške omogućavaju algoritmi drugog reda.

21

2.4.3. Lokalni algoritmi drugog reda

Lokalni algoritmi drugog reda se temelje na kvadratnoj aproksimaciji funkcije pogreške kako bi se odredio izravniji i brži put ka minimumu. Vrijednosti podesivih parametara mreže u slijedećem koraku računaju se prema općenitom izrazu (2.4), kao i kod algoritama prvog reda. Razlika je u određivanju vektora ∆wk, za što algoritmi drugog reda koriste Hessian matricu (H), kao što je definirano izrazom (2.12).

1k

Eww

− ∂∆ = − ⋅

∂H (2.12)

Hessian matrica daje informaciju o zakrivljenosti površine prostora pogreške, a sastoji se od drugih parcijalnih derivacija funkcije pogreške i računa se prema izrazu (2.13).

2 2 2

21 1 2 12 2 2

22

2 1 2 22

2 2 2

21 2

n

n

n n n

E E Ew w w w w

E E EE w w w w w

w

E E Ew w w w w

∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂

= = ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂

H

L

L

M O M

L

(2.13)

Uvrštavanjem (2.12) i (2.13), u (2.4) dobije se izraz (2.14), poznat kao Newtonov algoritam. Ipak, Newtonov algoritam je često neuporabljiv za treniranje neuronske MLP mreže jer povlači niz uvjeta koji najčešće nisu zadovoljeni, poput Hessianove matrice koja nije singularna ili nije dovoljnog ranga, zbog čega se savjetuje uporaba quasi-Newton algoritma [40]. Quasi-Newton ili Secant metode, umjesto Hessianove matrice računaju njenu aproksimaciju, a najuspješnijima su se pokazale Broyden, Fletcher, Goldfarb, Shanno (BFGS) metode [23].

( ) 121 ( ) ( )k kw w E w E w

−

+ = − ∇ ⋅∇ (2.14)

Pored quasi-Newton algoritama moguće je koristiti neku od metoda konjugiranog gradijenta (engl. conjugate gradient) ili Levenberg-Marquardt algoritam, također lokalne algoritme drugog reda koji izbjegavaju računanje Hessian matrice.

2.4.4. Levenberg-Marquardt algoritam za treniranje MLP mreže

Općenito, ukoliko je funkcija cilja poznata moguće je razviti učinkovitije, specijalizirane algoritme za podešavanje parametara mreže [37] pa je tako razvijen i Levenberg-Marquardt algoritam (LM), posebno za treniranje unaprijednih MLP mreža koje koriste kvadratne

22

funkcije pogreške kao funkcije cilja. LM algoritam se pokazao kao najbrži i najprikladniji algoritam za treniranje mreža skromnijih struktura koje sadrže do nekoliko stotina podesivih parametara [23].

Dakle, ukoliko funkcija cilja za treniranje neuronske mreže ima oblik kvadratne sume (SSE), vrijede aproksimacije (2.15) koje se temelje na Jakobijanovoj matrici [37].

2

T

T

EE S

∇ = ⋅

∇ = ⋅ +

J eJ J

(2.15)

Jakobijanova matrica (J) se može opisati izrazom (2.16), a sastoji se od prvih derivacija pogreške (e), definirane izrazom (2.6), po podesivim parametrima mreže.

1 1 1

1 2

2 2 2

1 2

1 2

n

n

N N N

n

w w w

w w ww

w w w

∂ ∂ ∂ ∂ ∂ ∂

∂ ∂ ∂ ∂ ∂ ∂ ∂= = ∂

∂ ∂ ∂ ∂ ∂ ∂

e e e

e e eeJ

e e e

L

L

M O M

L

(2.16)

Kako za Gauss-Newtonowu (GN) metodu vrijedi S ≈ 0, izraz (2.14) može pisati kao (2.17) koji predstavlja GN algoritam.

( ) 1

1T T

k kw w−

+ = − ⋅ ⋅ ⋅J J J e (2.17)

Levenberg-Marquardt (LM) algoritam je poseban slučaj GN algoritma koji se u općem obliku može predstaviti izrazom (2.18).

( ) 1

1T T

k kw w µ−

+ = − ⋅ + ⋅ ⋅ ⋅J J I J e (2.18)

Ukratko, kao što je opisano i detaljno objašnjeno u radu [37], Marquardtova prilagođena izvedba BP algoritma se provodi u pet koraka.

1. Mreža se pobuđuje vrijednostima ulaznih varijabli za koje se računa odziv prema izrazima (2.1) i (2.2), nakon čega se računa pogreška (e) i suma kvadratne pogreške (SSE), u ovom radu definirana izrazom (3.2) u odjeljku 3.4.1.

2. Na temelju izračunate pogreške računa se Jakobijan matrica prema izrazu (2.16).

3. Prema izrazu (2.18) računaju se nove vrijednosti podesivih parametara mreže i ponovo se računa SSE.

4. Ukoliko je nova vrijednost SSE veća od one izračunate u koraku 1, parametar μ se množi faktorom konstantnog iznosa, na primjer κ. U slučaju kada korak u

23

postupku treniranja rezultira smanjenjem SSE, parametar μ se dijeli faktorom κ. Zbog toga LM algoritam za uvećane iznose parametra μ postaje sve sličniji gradijentnom algoritmu, a za slučajeve smanjenog iznosa parametra μ postaje sve sličniji GN metodi pa se LM algoritam može smatrati modifikacijom GN metode s ograničenim područjem djelovanja [37]. Ideja na kojoj se temelji ovaj postupak ima za cilj LM metodu pretvoriti u GN u blizini minimuma jer Newtonova metoda brže i točnije konvergira [23], a u slučaju divergencije cilj je pretvoriti LM u gradijentnu metodu i tako usporiti postupak treniranja, odnosno smanjiti vjerojatnost konvergencije ka „krivom“ minimumu.

5. Koraci 1 do 4 se ciklički ponavljaju sve dok funkcija cilja ne postigne definirani minimum ili dok napredovanje smanjenja pogreške ne postane zanemarivo malo. Kao funkcija cilja obično se uzima srednja vrijednost kvadrata pogreške (MSE) iako je moguće odabrati i SSE, ali i MAE, obije definirane u poglavlju 3.4. ovog rada.

Lokalni algoritmi prvog i drugog reda imaju jedan zajednički problem, a to je ovisnost o početnim uvjetima, odnosno inicijalizaciji parametara mreže pa je određivanje globalnog minimuma poprilično neizvjesno. Postoje različite globalne optimizacijske metode za izbjegavanje lokalnih minimuma koje se mogu iskoristiti za treniranje neuronskih mreža, a kao alternativa može se koristiti višestruko uzastopno treniranje mreže s različitim parametrima (engl. multi-start) te uzeti najbolji slučaj kao optimalno rješenje.

Pored problema određivanja globalnog minimuma funkcije (2.3), kod formiranja neuronskog modela postoje i problemi interpolacije podataka s visokim udjelom šuma kao i problem određivanja optimalnog broja neurona. Oba problema mogu se donekle riješiti primjenom Bayesove regularizacije, koja se može primijeniti kao nadogradnja LM algoritma, kao što je to predložio David MacKay 1992. godine te kao što je ukratko objašnjeno u narednom odjeljku ovog potpoglavlja.

2.4.5. Bayesova regularizacija za treniranje UNM-e

Bayesova regularizacija se temelji na proširenju funkcije cilja (Fc) prema izrazu (2.19), gdje je Ee suma kvadrata pogreške (SSE), definirana u ovom radu izrazom (3.2) u odjeljku 3.4.1., a Ew je suma kvadrata podesivih parametara mreže (w). Na ovaj način algoritam ne minimizira samo pogrešku, nego traži i minimalni broj podesivih parametara mreže potrebnih za ostvarenje minimalne pogreške.

c e wF E Eβ α= ⋅ + ⋅ (2.19)

Algoritam se pritom koristi s dva Bayesova hiperparametra (engl. Bayesian hyperparameters), α i β, koji definiraju prioritet postupka podešavanja parametara, odnosno

24

određuju koliko će se prilikom treniranja mreže važnosti dani minimiziranju pogreške, a koliko minimiziranju parametara mreže. Ovi hiperparametri se podešavaju prilikom svakog obilaženja petlje algoritma za podešavanje parametara mreže.

( ) 12

2

2

w

w

e

N tr H

EN

E

γ αγα

γβ

−= − ⋅

=

−=

(2.20)

Što se tiče praktične realizacije, odnosno implementacije Bayesove regularizacije, može je se predstaviti kao nadogradnju Levenberg-Marquardt algoritma koja se temelji na funkciji cilja (2.19). Parametri α i β se osvježavaju nakon četvrtog koraka LM algoritma, opisanog u poglavlju 2.4.4., a dobiju se iz sustava jednadžbi (2.20), gdje je γ optimalni broj podesivih parametara mreže, Nw je stvarni broj podesivih parametara mreže, N je ukupni broj uzoraka za treniranje mreže, a tr(H) je trag Hessianove matrice, pri čemu se Hessianova matrica (H) može izračunati pomoću GN aproksimacije iz LM algoritma prema izrazu (2.21).

2 2TH JJ Iβ α≈ + (2.21)

Nakon proračunavanja novih vrijednosti parametara α i β, računa se nova vrijednost funkcije cilja (2.19), a ostatak algoritma istovjetan je Levenberg-Marquardtovom pomoću kojeg se dobivaju vrijednosti za podešavanje parametara mreže. Detaljan opis Bayesove metode za adaptivne modele se može pronaći u [53], dok se opis praktične implementacije u sklopu LM algoritma nalazi opisan u [29].

S obzirom da algoritam minimizira i broj podesivih parametara mreže (w), može se koristiti i kao pomoć u određivanju optimalnog broja neurona skrivenog sloja.

2.5. Primjena umjetnih neuronskih mreža u hidrologiji

Prvi radovi na temu modeliranja hidroloških sustava pomoću UNM-a datiraju s početka 90-ih godina 20. stoljeća, a prve primjere predstavljaju radovi koji se bave modeliranjem i prognoziranjem procesa oborine-otjecanje (engl. rainfall-runoff), vjerojatno zbog prikladnosti procesa, ali i dostupnosti dovoljno velikih baza podataka mjerenih vrijednosti utjecajnih varijabli [1]. U posljednjih nekoliko godina broj objavljenih radova raste, a najveću pozornost istraživača privlači prognoziranje kvantitativnih varijabli hidrološkog sustava, pri čemu se prema analizi provedenoj u [55], 90% objavljenih radova bavi prognoziranjem dotoka, među kojima na prognoziranje dnevnog dotoka otpada 50% radova, a slijede ga satno s 23% i tjedno prognoziranje sa 16%.

25

Za modeliranje hidroloških sustava istraživana je i mogućnost primjene različitih arhitektura (MLP, RBFN, SOM, GRNN, SVM, neuro-fuzzy) kako bi se odredilo optimalnu arhitekturu. U konačnom slučaju su ispitivane i kombinirane, odnosno hibridne izvedbe, kako bi se smanjili nedostaci, a naglasile prednosti pojedine vrste UNM-e. Ipak, uzevši u obzir veliki broj istraživanih modela teško je izvući zaključak o idealnoj vrsti mreže, odnosno idealnoj arhitekturi pa je prema zaključku iz [55], ovo je i dalje područje koje treba istraživati. Mreže koje su se do sada najčešće koristile za predviđanje varijabli hidrološkog sustava su unaprijedne neuronske mreže (engl. feed forward neural networks, FFNN), odnosno mreže sa strukturom višeslojnog perceptrona (MLP) trenirane algoritmom propagacije greške unatrag (BP), a potom i neuronske mreže s radijalnom aktivacijskom funkcijom (RBF) te samoorganiziajuće mape (SOM) [1].

Prednost uporabe neuronskih mreža očituje se u jednostavnosti primjene [54], a iz usporedbe s fizikalnim i statističkim modelima zabilježena je i veća točnost predviđanja, kao što je pokazano u radovima [8], [10], [13], [18], [25], [31], [42], [43], [48], [58], [59], [67], [68], [73], [81]. Bolje performanse, u odnosu na ranije korištene linearne statističke modele, neuronski modeli duguju mogućnosti aproksimacije nelinearne funkcije, odnosno sposobnosti modeliranja nelinearnog sustava. S obzirom da je nelinearnost istaknuto obilježje hidroloških sustava [72] ovo svojstvo ih čini vrijednim alatom za modeliranje hidroloških sustava.

Druga bitna karakteristika je sposobnost modeliranja sustava na temelju zabilježenih podataka pa detaljno poznavanje sustava koji se modelira nije nužno. UNM samo uči aproksimirati funkciju po kojoj se odvija preslikavanje ulaznih varijabli u izlaznu, bez poznavanja karakteristika sustava. Ipak, važno je napomenuti kako UNM-e nisu „čarobne crne kutije“ [1] već samo jedan od alata za modeliranje sustava koji su na raspolaganju projektantu pa iako sama UNM ne mora imati informacije o karakteristikama sustava, projektantu su specifična znanja o sustavu nužna za izradu neuronskog modela sustava [27].

Jedno od značajnijih ograničenja u primjeni UNM-a za predviđanje vrijednosti varijabli hidroloških sustava, a posebno dotoka, nalazi se u činjenici da je na temelju mjerenih iznosa varijabli moguće napraviti predviđanja ograničenog predikcijskog horizonta koji je različit za svaki pojedini predmet istraživanja. Dakle, predikcijski horizont predstavlja problem koji se posebno mora istražiti za pojedini predmet istraživanja, a njegovo produljenje uvijek predstavlja dodatni izazov.

Osnovni nedostatak do sad razvijenih neuronskih modela za predviđanje varijabli hidrološkog sustava, prema izvještajima iz [54] i [55] je općeniti nedostatak sustavnog pristupa formiranju neuronskog modela sustava. Osnovne zamjerke podrazumijevaju proizvoljan odabir ulaznih varijabli sustava, strukture mreže, nasumičnu podjelu podataka prilikom treniranja mreže i nemogućnost pouzdanog određivanja globalnog minimuma prilikom treniranja mreže. Takav pristup po svim preporukama treba izbjegavati.

26

3. Predviđanje hidrološkog dotjecanja

Hidrološki sustavi su izrazito složeni sustavi koje opisuje veliki broj različitih varijabli. Prilikom analiziranja hidroloških sustava najčešće razmatrana varijabla je hidrološko otjecanje na čije formiranje utječe veliki broj različitih varijabli, pri čemu su odnosi među varijablama najčešće nelinearni. Nelinearnost, zajedno s teško dostupnim cjelovitim podacima o samom sustavu predstavljaju problem u modeliranju, naročito ukoliko se radi o modeliranju za potrebe predviđanja. Ipak, postojanje hidroloških modela i to naročito za potrebe predviđanja, predstavlja nužnost, bilo da se radi o optimiranju rada hidroelektrana, vodoopskrbi ili nekoj drugoj primjeni. Iako UNM-e, kao alat koji se koristi u ovom radu za modeliranje hidrološkog sustava, ne zahtijevaju poznavanje sustava kojeg se modelira, osoba koja formira model mora biti upoznata s osnovnim svojstvima sustava kako bi ispravno odabrala ulazne varijable sustava, ali i jednostavnije otklonila poteškoće koje se mogu javiti prilikom formiranja modela te bolje znala protumačiti rezultate, odnosno ocijeniti kvalitetu predviđanja modela. Zbog toga su u sklopu ovog poglavlja ukratko iznesena osnovna obilježja hidroloških sustava s naglaskom na modeliranje i predviđanje hidrološkog dotoka, a opisane su i mjere kvalitete koje se koriste kao funkcije cilja prilikom kalibracije modela te kojima se u konačnici ocjenjuje uspješnost modela. Kroz opis sustavnog pristupa formiranju neuronskog modela za predviđanje hidrološkog dotoka dane su smjernice za razvoj jednog takvog modela, a mogućnost primjene i potreba postojanja takvog modela u slučaju planiranja rada hidroenergetskog sustava diskutirana je na samom kraju ovog poglavlja.

27

3.1. Opis hidrološkog sustava

Slika 3.1. Hidrološki ciklus

Voda u prirodi kruži u zatvorenom ciklusu, kao što to prikazuje slika 3.1. iz [85]. Voda isparava i u višim dijelovima atmosfere se formiraju oblaci. Pod odgovarajućim uvjetima dolazi do oborina, koje ovisno o temperaturi mogu biti kiša ili snijeg, uz iznimnu pojavu tuče, odnosno leda. Ako pada snijeg, akumulira se na zemlji, a akumulirana količina snijega se promatra kao spremnik određenog vodenog ekvivalenta. Vodeni ekvivalent snijega je promjenjivog iznosa i ovisi o koeficijentu vlažnosti snijega. Voda koja nastaje padanjem kiše ili otapanjem snijega povećava koncentraciju vode u zemlji i uzrokuje nadzemne i podzemne tokove koji čine dotok vode u akumulacije, odnosno oceane, mora i jezera. Dio vode koji padne u obliku kiše se gubi kroz isparavanje (evaporaciju), pri čemu se u hidrologiji često koristi termin evapotranspiracije koji obuhvaća osnovno isparavanje vode iz zemlje i isparavanje sa biljaka. Intenzitet isparavanja ovisi o temperaturi, snazi vjetra, vlažnosti zemlje i vlažnosti zraka. Pored isparavanja, dio vode se može izgubiti i kroz podzemne tokove. Kod krškog reljefa gubitak vode uslijed isparavanja je znatno manji, zbog relativno brzog poniranja vode u zemlju, ali je zato gubitak vode zbog poniranja dodatno izražen.

Krš je osobit reljef s posebnim, pretežno podzemnim tokom vode kroz topljive stijene: vapnenac, dolomit, sadru (gips), kredu i halit. Na Zemlji se 20 - 25 posto kopna nalazi pod kršem. Krš u Hrvatskoj obuhvaća površinu od oko 26.000 km2, gotovo cijeli južni dio Hrvatske, odnosno oko polovice njezinog ukupna teritorija [86].

28

Hidrološka razmatranja najčešće se odnose na razmatranje površinskog otjecanje vode (engl. runoff). Općenito, otjecanjem se može nazvati onaj dio oborina koji se pojavljuje kao vodotok, a dio kopnene površine s koje se voda slijeva prema glavnome vodotoku te potom ulazi u oceane, mora ili jezera, zove se sliv [86]. Otjecanje je promjenjivo u vremenu i na njega utječu razni čimbenici, poput:

• klimatskih, kao što su: oborine, isparavanja, temperature, vjetrovi, vlažnost zraka, vlažnost zemlje i slično,

• geografskih, pod koje spadaju: veličina i oblik slivova, reljef, gustoća riječne mreže, zalihe snijega, jezera, močvare, ledenjaci i slično,

• geoloških, što podrazumijeva geološke značajke terena kao što je propusnost terena,

• bioloških, što podrazumijeva količinu i vrstu i biljnog pokrivača, • antropogenih, što podrazumijeva čovjekove radove kao što su poljoprivredne

aktivnosti, izgradnju i slično.

Upravo zbog vrlo velikog broja različitih utjecaja na postanak otjecanja, prema navodu iz [60], hidrološki dotok se može prihvatiti kao slučajna varijabla. Ipak, nije sve u vezi hidroloških varijabli „slučajno“ pa je tako jedno od osnovnih svojstava cikličnost, odnosno ponavljanje u ciklusima ili serijama i posebno je važno za predviđanje vrijednosti varijabli hidrološkog sustava. Razvojem hidrometrijskih instrumenata te metoda i načina mjerenja došlo se do vrlo velikog broja osnovnih hidroloških podataka, koji se u novije vrijeme sustavno pohranjuju u baze podataka na računalu. Ti podaci predstavljaju temelj za formiranje modela hidroloških sustava. Hidrološka veličina koja mjeri otjecanje naziva se protok, a označava količinu protekle vode u jedinici vremena. Prema odabranoj jedinici vremena razlikuju se sekundni, minutni, satni i dnevni protok. Za veće količine vode obično se rabi jedinica (m3/s).

3.2. Modeliranje i predviđanje varijable hidrološkog dotoka

Modeli općenito mogu biti kvalitativni i kvantitativni [56], pri čemu su za područje prirodnih i tehničkih znanosti od posebnog značaja kvantitativni, matematički modeli, a moguće je razlikovati fizikalne i eksperimentalne prema načinu na koji su formirani. Teoretska analiza se provodi kako bi se odredio skup jednadžbi koje opisuju osnovne fizikalne procese koji se odvijaju u razmatranom sustavu pa se takav model naziva fizikalni model sustava. Eksperimentalno određivanje matematičkog modela provodi se identifikacijom, na temelju skupa mjerenih vrijednosti ulaznih i izlaznih signala sustava. Model dobiven identifikacijom sustava, iako ne daje uvid u fizikalna zbivanja u sustavu, jednostavniji je od fizikalnog modela i bolje opisuje ulazno-izlazno ponašanje sustava, što ga

29

čini prikladnim za različite tehničke primjene poput vođenja i predviđanja vrijednosti modeliranih varijabli sustava.

U modeliranju hidrološkog dotjecanja zabilježeni su pokušaji formiranja i primjene fizikalnih, eksperimentalnih, ali i hibridnih modela. U slučaju kombinacije fizikalnog i eksperimentalnog modela, fizikalni model se koristi najčešće za generiranje vrijednosti neke od teško mjerljivih varijabli hidrološkog sustava, a njegov izlaz tada predstavlja jednu od ulaznih varijabli eksperimentalnog modela.

Što se tiče predviđanja varijable hidrološkog dotjecanja, moguće je općenito razlikovati kratkoročno i dugoročno predviđanje. Velike akumulacije ili sustavi akumulacija s visokim stupnjem mogućnosti izravnavanja voda zahtijevaju dugoročne prognoze. Sustavi s manjim akumulacijama koje omogućavaju dnevno ili tjedno izravnavanje voda posebno su zainteresirani za kratkoročne prognoze koje najčešće podrazumijevaju generiranje informacije o očekivanom dotoku do 7 dana unaprijed.

Za hidrološka predviđanja najčešće se koriste modeli vremenske serije3 i to autoregresivni (AR), integracijski (I) i modeli klizne srednje vrijednosti (engl. moving average, MA), kao i njihove kombinacije. Na temelju izmjerenih podataka moguće je formirati statistički model vremenske serije koji prema uzorku ponašanja varijable u prošlom vremenu mogu predvidjeti njene buduće vrijednosti s relativnom točnošću. U nastojanju da se unaprijede prognostičke sposobnosti modela, odnosno poveća točnost i domet predviđanja (predikcijski horizont), model formiran na temelju mjerenih vrijednosti hidrološke varijable, na primjer hidrološkog dotoka, može se proširiti mjerenim vrijednostima meteoroloških i/ili drugih fizikalnih varijabli pa tako nastaju ARMAX (engl. auto-regressive moving average exogenous) modeli. Najčešće korišteni modeli u hidrologiji koji se koriste za predviđanje dotoka su ARMA (ili Box–Jenkins model) i mogu se opisati izrazom (3.1). Ovi modeli se identificiraju zabilježenim podacima o protoku (q) s korakom uzorkovanja k. Pritom se kao korak uzorkovanja, odnosno koraka računanja (k), ovisno o potrebama za koje se predviđanje radi, može uzeti sat, dan, tjedan, mjesec, godina i slično.

1 1

v z

k k i k i j k ji j

q c qε λ ϑ ε− −= =

= + + +∑ ∑ (3.1)

Model se označava sa ARMA (v, z), gdje je v red AR dijela, a z je red MA dijela. Sa q su označeni članovi vremenske serije dotoka, c je konstanta, ε predstavlja bijeli šum, λi i θj su parametri dobiveni identifikacijom. Nedostatak ovih modela je pretpostavljeni linearni odnos među varijablama. Primjena umjetne neuronske mreže za modeliranje vremenske serije hidrološke varijable dotoka bi takav nedostatak otklonila.

3 Vremenska serija (engl. time series) predstavlja niz mjerenja ili opažanja koja su napravljena u određenom

nizu vremenskih intervala. Model vremenske serije (engl. time series model) predstavlja model kojim se predviđaju vrijednosti u budućnosti na bazi vrijednosti u prošlosti.

30

3.3. Predviđanje hidrološkog dotjecanja pomoću umjetne neuronske mreže

Problem aproksimacije nelinearne funkcije do sada se u velikom broju slučajeva uspješno rješavao primjenom umjetnih neuronskih mreža [23] pa se pokušaj modeliranja hidrološkog sustava pomoću neuronskog modela činio sasvim opravdanim. Neuronske mreže predstavljaju alternativno rješenje koje je zapravo slično statističkim modelima jer za modeliranje sustava koriste samo izmjerene vrijednosti ulaznih i izlaznih varijabli. Neuronska mreža, kroz proces treniranja podešava svoje parametre kako bi se ulazne varijable ispravno preslikale u izlazne. Kada proračun izlazne varijable postane dovoljno točan, treniranje se zaustavlja i smatra se da je mreža naučila uzorak ponašanja sustava samo iz predloženih podataka, bez ikakve specifične informacije o samom sustavu. S obzirom na svojstva hidroloških sustava, nelinearnost, složenost i čest slučaj nepoznavanja određenog dijela sustava, jasno je da postupak formiranja modela pomoću umjetne neuronske mreže može predstavljati značajan doprinos modeliranju hidroloških sustava [1].

Predviđanje dotoka pomoću umjetne neuronske mreže se prema varijablama koje se koriste može podijeliti na:

• modele vremenske serije (TS, engl. time series), • modele oborine-otjecanje (RR, engl. rainfall-runoff), • viševeličinske modele.

Neuronski modeli vremenske serije (TS modeli) vrše predviđanje na temelju vremenske serije zabilježenih vrijednosti samo jedne varijable, u ovom slučaju hidrološkog dotoka. Hidrološki modeli vremenske serije za predviđanje dotoka pomoću umjetne neuronske mreže s rezultatima istraživanja za neke specifične slučajeve prikazani su u radovima [10], [11], [15], [17], [26], [28], [41], [48], [49], [78], [79], [80]. Prednost ovakvih modela je prije svega jednostavnost formiranja modela, s obzirom da je potrebno raspolagati vrijednostima samo jedne varijable, a od interesa je njena što duža, kontinuirana vremenska serija. Iako ovi modeli najčešće ostvaruju dobre rezultate prilikom numeričke ocjene kvalitete modela, grafičkom analizom moguće je uočiti nedostatak koji nije penaliziran od strane niti jedne mjere kvalitete. Spomenuti nedostatak se očituje u kašnjenju predviđanja modela za stvarnim događajem, kao što vidi iz rezultata simulacije prikazanih u radovima [20], [48], [49], [67] i [78]. U knjizi [1], odnosno radu [3], ovaj se problem vezuje isključivo uz predviđanje dotoka temeljem vremenske serije, a pojava kašnjenja se objašnjava nepostojanjem informacije koja bi nagovijestila naglu promjenu te se sugerira proširivanje ulaznog vektora varijablom oborine.

Neuronski modeli oborine-otjecanje (RR modeli), pored vremenske serije zabilježenih vrijednosti dotoka, koriste i vremenske serije zabilježenih oborina kako bi mogli predvidjeti buduće vrijednosti dotoka. RR neuronski modeli te rezultati istraživanja za neke specifične

31

slučajeve prikazani su u radovima [3], [5], [8], [13], [20], [35], [44], [46], [58], [63], [67], [68], [71], [74], [76], [77], [83]. Uloga oborine na ulazu modela je nagovijestiti naglu promjenu izlazne varijable dotoka. Međutim, informacija o izmjerenim oborinama može unaprijediti predviđanje modela za onaj predikcijski horizont koji je ekvivalentan vremenskoj konstanti sustava, odnosno vremenu potrebnom da oborine rezultiraju otjecanjem.

Neuronski modeli koji koriste različite varijable sustava, poput oborina, temperature, vlažnosti zemlje, vlažnosti zraka, godišnjeg doba, doba dana, kako bi ostvarile što točnije predviđanje hidrološkog dotoka, mogu se nazvati viševeličinskim neuronskim modelima. Tako se u radovima [7] i [43] pored dotoka i oborina uključuje i evapotranspiracija (isparavanje), u radovima [31], [42], [73] i [84] dodatnu varijablu predstavlja temperatura, a u radovima [18] i [59] se koriste procijenjene vrijednosti otopljenog snijega. U radovima [25], [45] i [75] se uključuju i podaci o vremenu, odnosno godišnjem i dnevnom dobu koji se kodiraju pomoću sinus i kosinus funkcija. U radu [24] se koristi odziv dodatnog, jednostavnog fizikalnog modela kako bi se dobila informacija o vlažnosti tla koja se potom koristi kao ulazna varijabla neuronskog modela.

Postupak formiranja neuronskog modela najbolje je provoditi sustavno, kroz slijed dobro definiranih koraka koji su detaljno opisani u poglavlju 3.5 ovog rada. Osnovni zadatak u postupku formiranja neuronskog modela predstavlja određivanje arhitekture mreže koja će biti korištena, nakon čega slijedi određivanje optimalne strukture mreže i algoritma za treniranje mreže te funkcije cilja koja se minimizira za vrijeme treniranja.

Za modeliranje hidroloških sustava najčešće se primjenjuje MLP (multi-layer perceptron), unaprijedna dvoslojna neuronska mreža sa svojstvom univerzalnog aproksimatora pa je ista korištena i za formiranje svih modela ove disertacije. U tom slučaju odrediti optimalnu strukturu znači odrediti optimalan broj neurona. Prvo je potrebno odrediti broj ulaznih neurona, što znači odrediti optimalan broj članova ulaznog vektora. Kod formiranja modela vremenske serije određivanje optimalnog broja članova ulaznog vektora podrazumijeva određivanje broja članova vremenske serije ulazne varijable. Kod modela koji koriste više od jedne ulazne varijable, potrebno je ispitati utjecaj svake od ulaznih na izlaznu varijablu, a potom i odrediti optimalan broj članova vremenske serije svake varijable. Ispitivanje utjecaja ulaznih na izlaznu varijablu provodi se analizom podataka, a rezultate analize treba uzeti s oprezom te prije donošenja konačne odluke o članovima ulaznog vektora provesti i eksperimentalnu provjeru istraživanjima nad samim modelom. Pored određivanja optimalnog broja ulaza, odrediti optimalnu strukturu mreže znači i odrediti optimalan broj skrivenih neurona. Iako postoje napredne metode za treniranje mreže koje prilikom treniranja osim pogreške minimiziraju i broj neurona, poput Bayesove regularizacije opisane u poglavlju 2.4.5. ovog rada, postupak određivanja optimalnog broja skrivenih neurona i dalje se uglavnom temelji na eksperimentu nad samim modelom. Broj izlaznih neurona ovisi o broju koraka za koji se radi predviđanje, a najčešće se koristi jedan neuron, čak i u slučaju predviđanja više koraka unaprijed.

32

3.4. Ocjenjivanje predviđanja hidrološkog dotjecanja

Za ispitivanje valjanosti modela općenito se koriste grafičke i numeričke metode. Grafičke metode omogućavaju vizualnu usporedbu odziva modela i mjerenih vrijednosti kako bi se stekao prvi dojam o općenitoj kvaliteti modela, a koristi se i iscrtavanje grafova pogreške. Numeričke metode kvantiziraju odstupanje modela od stvarnih, željenih vrijednosti, posredstvom statističkih mjera kvalitete koje se u osnovi mogu podijeliti na apsolutne i relativne. Legates i McCabe u radu [52] iznose pregled najčešće korištenih mjera kvalitete u hidrologiji te donose i prijedlog o načinu ocjenjivanja modela. U spomenutom radu modeli su ocjenjivani na temelju grafičke analize, apsolutnim i relativnim numeričkim mjerama kvalitete, a napravljena je i usporedba standardne devijacije i srednje vrijednosti podataka dobivenih mjerenjem te iz odziva modela.

Za razliku od grafičkih metoda koje na nekoliko jednostavnih načina omogućavaju vizualnu ocjenu kvalitete modela, kod numeričkog ocjenjivanja nailazi se na problem usuglašavanja optimalnih mjera za ocjenu modela. Naime, pregledom većeg broja radova iz područja modeliranja hidrološkog dotoka za potrebe predviđanja evidentirana je uporaba 37 različitih kriterija kvalitete za ocjenjivanje modela. Razlog za uporabu većeg broja različitih kriterija leži u činjenici da različite mjere naglašavaju različita odstupanja pa ne postoji univerzalna numerička mjera kvalitete što podrazumijeva nužnost primjene većeg broja ovih mjera. Ova činjenica otvorila je vrata kreativnosti autorima koji su nastojali formirati bolje i preciznije mjere pa je s vremenom broj korištenih mjera narastao. Ipak, primjena velikog broja mjera kvalitete onemogućava jednoznačnu usporedbu modela pa je nužno definirati koji su od postojećih kriterija najprikladniji za ocjenjivanje modela razmatranog tipa.

Prilikom formiranja modela za potrebe ovog rada razmatrana je primjena 14 mjera kvalitete i to:

• pet apsolutnih mjera: srednja kvadratna pogreška (engl. mean squared error, MSE), korijen srednje kvadratne pogreške (engl. root mean squared error, RMSE), suma kvadratne pogreške (engl. sum squared error, SSE), srednja apsolutna pogreška (engl. mean absolute error, MAE) i potencijalna pogreška (engl. potencial error, PE);

• šest relativnih mjera: Pearsonov koeficijent (r) i koeficijent određenosti (engl. coefficient of determination, r2) te koeficijent učinkovitosti (engl. coefficient of efficiency, CE) i indeks podudarnosti (engl. index of agreement, D) kao i njihove modifikacije D1 i CE1;

• tri posebne mjere: PI (engl. persistence index), odnosno PME (engl. persistence model efficiency) kako se u nekim radovima još naziva, zatim PBIAS (engl. percent bias) i RSR (engl. RMSE to standard deviation ratio).

33

3.4.1. Apsolutne mjere kvalitete modela

Apsolutne mjere kvalitete računaju razliku između odziva modela i stvarnih vrijednosti s rezultatom izraženim u jedinicama modelirane varijable i na taj način precizno govore o odstupanju modela, a moguće su ocjene prosječnog odstupanja ili ukupnog odstupanja. U oba slučaja bi zbrajanje pojedinačnih vrijednosti pogreške s pozitivnim i negativnim predznakom rezultiralo njihovim poništavanjem i time dalo krivu informaciju o kvaliteti modela, zbog čega se najprije računaju apsolutne ili kvadratne vrijednosti pojedinačnih pogrešaka, a potom se one zbrajaju ili usrednjavaju. Najčešće korištene apsolutne mjere kvalitete u hidrologiji su srednja kvadratna pogreška (MSE), korijen srednje kvadratne pogreške (RMSE), suma kvadratne pogreške (SSE) te srednja apsolutna pogreška (MAE), dok je u ovom radu istraživana i korisnost potencijalne pogreške (PE).

Suma kvadratne pogreške (SSE), definirana izrazom (3.2), mjeri ukupno odstupanje odziva modela u odnosu na mjerene podatke, računajući prvo pojedinačnu pogrešku za svaki uzorak (s) kao razliku između stvarne, mjerene, odnosno željene vrijednosti (ds) i odziva modela (os), a potom sumirajući kvadrate pojedinačne pogreške za cijeli skup raspoloživih podataka (N).

( )2

1

N

s ss

SSE d o=

= −∑ (3.2)

Srednja kvadratna pogreška (MSE), definirana izrazom (3.3), također se temelji na kvadratu pogreške, a računa prosječnu pogrešku za skup raspoloživih N članova.

( )2

1

1 N

s ss

MSE d oN =

= −∑ (3.3)

SSE i MSE mjere kvalitete, s obzirom da izražavaju odstupanje kvadratom jedinice modelirane varijable, češće se koriste kao funkcije cilja nego za ocjenjivanje modela, a za ocjenjivanje modela hidrološkog sustava najčešće se koriste korijen srednje kvadratne pogreške (RMSE), definiran izrazom (3.4) i srednja apsolutna pogreška (MAE), definirana izrazom (3.5), koje rezultat izražavaju u jedinicama modelirane varijable.

( )2

1

1 N

s ss

RMSE d oN =

= −∑ (3.4)

1

1 N

s ss

MAE d oN =

= −∑ (3.5)

Općenito, nedostatak mjera kvalitete koje se koriste kvadriranjem pojedinačne pogreške, kao u slučaju SSE, MSE i RMSE, je upravo u kvadriranju zbog kojeg veće vrijednosti pojedinačne pogreške poprimaju veći udio u ukupnim rezultatima pa time većim

34

odstupanjima daju veću važnost. Suprotno ovome, MAE računa srednju vrijednost apsolutne pogreške prema (3.5) i time podjednaku važnost daje pogreškama svih vrijednosti. Sukladno iznesenom, može se zaključiti kako je u slučaju potrebe predviđanja vršnih vrijednosti, prilikom treniranja, ali i prilikom ocjenjivanja modela, prikladnije koristiti neku od mjera koje se temelje na kvadratu pogreške, dok je u slučaju formiranja modela koji ima za cilj podjednaku točnost na cijelom području definicije izlazne varijable prikladnije koristiti MAE.

Apsolutnim mjerama kvalitete može se precizno ocijeniti kvaliteta modela i dobiti točnu informaciju koliko model odstupa od stvarnih vrijednosti varijable koju modelira, odnosno čiju vrijednost predviđa. Iznosi ovih mjera ovise o području vrijednosti unutar kojeg se kreće vrijednost varijable, a u slučajevima primjene MSE, RMSE i MAE mjera i o broju uzoraka (N) na temelju kojeg se ocjenjuje model. Ovaj zaključak povlači za sobom i mjeru opreza o kojoj je potrebno voditi računa prilikom uspoređivanja kvalitete modela i donošenja zaključaka o uspješnosti predviđanja. Naime, ukoliko se apsolutne mjere koriste za usporedbu točnosti predviđanja različitih modela, tada se mogu uspoređivati samo modeli testirani u istim uvjetima, odnosno na istom skupu podataka. Također, na temelju apsolutnih mjera kvalitete nije moguće postaviti opće granice prihvatljive i neprihvatljive točnosti predviđanja, odnosno napraviti klasifikaciju modela pa se u tu svrhu koriste relativne mjere kvalitete.

3.4.2. Relativne mjere kvalitete modela

Kako bi se mogli postaviti opći uvjeti prihvatljive i neprihvatljive kvalitete modela koriste se relativne mjere kvalitete, pri čemu je izrazito raširena uporaba mjera koje se temelje na korelaciji, poput Pearsonovog koeficijenta (r) i koeficijenta određenosti (r2) te koeficijenta učinkovitosti (CE). Vrijednosti r2, definiranog izrazom (3.6), kreću se od minimalnog 0 do idealnog iznosa 1 i predstavljaju mjeru povezanosti između mjerenih vrijednosti (ds) i odziva modela, odnosno predviđenih vrijednosti (os). U izrazima (3.6) do (3.14) „d potez“ ima značenje srednje vrijednosti mjerenih podataka, a „o potez“ značenje srednje vrijednosti odziva modela.

( )( ) ( ) ( )2 1

2 22

1 1

N N

s s s ss s

r d d o o d d o o−

= =

= − − ⋅ − −

∑ ∑ (3.6)

Često se umjesto koeficijenta određenosti (r2) koristi Pearsonov linearni korelacijski koeficijent (r) koji je jednak drugom korijenu koeficijenta r2. Vrijednosti linearnog korelacijskog koeficijenta (r) kreću se od -1 do +1, pri čemu pozitivne vrijednosti impliciraju postojanje pozitivne korelacije između razmatranih varijabli i označavaju njihovu proporcionalnu promjenu, odnosno kad pada (ili raste) vrijednost jedne varijable isto se događa i s drugom varijablom. Negativne vrijednosti koeficijenta korelacije impliciraju postojanje negativne korelacije između razmatranih varijabli, što znači da je promjena vrijednosti varijabli obrnuto proporcionalna, odnosno kad vrijednost jedne varijable raste, vrijednost druge pada i obrnuto. Vrijednosti korelacijskog koeficijenta iznad ±0.75 upućuju

35

na dobru povezanost dvaju varijabli, iznosi iz intervala (±0.5, ±0.75] upućuju na umjerenu povezanost, iznosi iz intervala (±0.25, ±0.5] upućuju na slabu povezanost, a vrijednosti manje od ±0.25 impliciraju kako se radi o varijablama koje nisu povezane, barem ne linearno. Koeficijenti temeljeni na linearnoj korelaciji predstavljaju često korištene mjere za ocjenu kvalitete hidroloških modela, s obzirom da je njihova primjena uočena u 47% pregledanih radova. Međutim, uočena je nedosljednost ovih mjera u ocjenjivanju točnosti predviđanja pa je model s jako lošim sposobnostima predviđanja znao biti dobro ocijenjen ovim mjerama [52]. Također, prilikom ocjenjivanja modela formiranih u okviru ove disertacije, primijećeno je neslaganje ovih mjera s većinom ostalih korištenih mjera kvalitete pa se može zaključiti njihova neprikladnost u ocjenjivanju modela za predviđanje hidrološkog dotoka. Ipak, kako se linearna korelacija često i jednostavno koristi u određivanju povezanosti dvaju varijabli tako je uvelike korištena i u istraživanjima ove disertacije i to za potrebe analize podataka.

Zbog uočenih nedostataka r i r2 mjera kvalitete predlaže se uporaba alternativnih relativnih mjera [52] i to prije svega koeficijenta učinkovitosti (engl. coefficient of efficiency, CE), definiranog izrazom (3.7) i indeksa podudarnosti (engl. index of agreement, D).

( )

( )

2

1

2

1

1

N

s ssN

ss

d oCE

d d

=

=

−= −

−

∑

∑ (3.7)

Vrijednosti CE koeficijenta se kreću od –∞ u najgorem, do +1 u najboljem slučaju, a uveli su ga Nash i Sutcliffe 1970. godine pa se često i naziva Nash-Sutcliffe koeficijent (NSC). Fizikalno gledano, radi se o omjeru srednje kvadratne pogreške (MSE) i varijance koji se oduzima od jedinične vrijednosti. Ukoliko je MSE jednaka varijanci, koeficijent je jednak nuli, ukoliko je MSE puno manji od varijance, model biva jako dobro ocijenjen, a za MSE veći od varijance, model se ocjenjuje negativnim vrijednostima koeficijenta CE. Prema istraživanjima provedenim u [53], nedostatak CE mjere kvalitete je nedovoljna osjetljivost na sustavno podbacivanja predviđanja, odnosno nedovoljna osjetljivost na sustavno predviđanje vrijednosti manjih od željenih vrijednosti.

Indeks podudarnosti (engl. index of agreement, D) je definiran izrazom (3.8), gdje je s PE označena potencijalna pogreška (engl. potential error) definirana izrazom (3.9) i predstavlja najveću moguću pogrešku koja se može dogoditi za jedan par (s) predviđanja modela i stvarne vrijednosti modelirane varijable. Indeks podudarnosti (D) poprima vrijednosti na skupu [0, 1], pri čemu veće vrijednosti upućuju na bolje slaganje odziva modela sa stvarnim vrijednostima [52].

( )

( )

2

12

1

1 1

N

s ss

N

s ss

d oMSED NPEo d d d

=

=

−= − = − ⋅

− + −

∑

∑ (3.8)

36

( )2

1

N

s ss

PE o d d d=

= − + −∑ (3.9)

Iako oba koeficijenta (CE i D) predstavljaju unaprjeđenje u odnosu na r i r2, kvadrat pogreške ih i dalje čini osjetljivim na veće vrijednosti. Kako bi se ovo svojstvo zaobišlo može se definirati modificirana verzija koeficijenata (Db i CEb) koji se definiraju izrazima (3.10) i (3.11). Ovi izrazi se koriste apsolutnim vrijednostima pogreške umjesto kvadratima, a u općem obliku se mogu definirati uz proizvoljnu potenciju (b), pri čemu je b prirodan broj [52].

( )

1

1

1

Nb

s ss

b N b

s ss

d oD

o d d d

=

=

−= −

− + −

∑

∑ (3.10)

1

1

1

Nb

s ss

b N b

ss

d oCE

d d

=

=

−= −

−

∑

∑ (3.11)

S ciljem razlučivanja upotrebljivog i neupotrebljivog modela u radu [36] se pored uporabe CE kriterija savjetuje i primjena kriterija PI (engl. persistence index) odnosno, kako se u nekim radovima još naziva, PME (engl. persistence model efficiency), koji je definiran izrazom (3.12).

( )

( )

2

1

21

1

1

N

s ssN

s ss

d oPI

d d

=

−=

−= −

−

∑

∑ (3.12)

PI kriterij kvalitete spada u bezdimenzionalne, relativne mjere kvalitete, a može imati vrijednost od -∞ do 1, pri čemu se u radu [36] zadovoljavajućim definira model koji ostvaruje pozitivne vrijednosti ovog koeficijenta.

Među bezdimenzionalnim mjerama kvalitete moguće je još izdvojiti PBIAS (engl. percent bias) te RSR (engl. RMSE to standard deviation ratio), definirane izrazima (3.13) i (3.14). PBIAS mjeri prosječnu sklonost modela ka predviđanju vrijednosti koje su po iznosu manje ili veće od mjerenih vrijednosti [90]. Vrijednosti ovog kriterija se kreću u intervalu od 0 do ±100% i u idealnom slučaju vrijedi PBIAS = 0%. Negativne vrijednosti impliciraju pretjerivanje modela u predviđanju (prebačaj), dok vrijednosti veće od nula znače da je model sklon predvidjeti vrijednost varijable koja je po iznosu manja od stvarne vrijednosti (podbačaj). Optimalna vrijednost RSR mjere kvalitete je iznos blizak nuli što znači da je RMSE jako malog iznosa ili barem da je udio RMSE u omjeru s standardnom devijacijom jako malen.

37

( ) ( )1

1 1100%

N N

k k kk k

PBIAS d o d−

= =

= − ⋅ ⋅

∑ ∑ (3.13)

( ) ( )1

22

1 1

N N

k k kk k

RMSERSR d o d dSTDEV

−

= =

= = − ⋅ −∑ ∑ (3.14)

Nepostojanje standardne mjere za ocjenjivanje kvalitete neuronskog modela može uzrokovati nedostatak dosljednosti i objektivnosti [21] pa bi bilo dobro dogovoriti skup mjera za procjenu modela. Legates i McCabe (1999) predlažu da taj skup uključuje barem jednu relativnu i jednu apsolutnu mjeru pogreške. Kao najinformativnije mjere kvalitete u istraživanjima provedenim za potrebe ove disertacije pokazale su se RMSE, MAE, CE, PI i RSR pa njihova primjena prednjači u prikazivanju rezultata eksperimenata što je u skladu s preporukom iz [52] o obveznoj uporabi najmanje jedne apsolutne i jedne relativne mjere kvalitete.

Dok prilikom određivanja skupa mjera za ocjenu modela vlada određeno suglasje, granične vrijednosti za prihvaćanje modela često nisu definirane, a ukoliko i postoje, različiti izvori navode različite granice prihvatljive i neprihvatljive točnosti modela. Najpreciznija ocjena kvalitete se može pronaći u radu [60], gdje se kvaliteta modela definira preko graničnih vrijednosti CE, RSR i PBIAS mjera kvalitete, kao što je prikazano u tablici 3.1., dok se najjednostavnija ocjena modela, pronađena u [21], temelji samo na vrijednosti kriterija CE, a zadovoljavajućim se ocjenjuje model koji ostvaruje CE ≥ 0.8. Najstroži kriterij za prihvaćanje modela pokazao se onaj iz rada [36] koji prihvatljivim definira model koji ostvaruje PI > 0.

Tablica 3.1. Klasifikacija modela po kvaliteti predviđanja

Kvaliteta predviđanja CE RSR PBIAS vrlo dobra (0.75, 1.00] [0.00, 0.50] < ±10%

dobra (0.65, 0.75] (0.50, 0.60] [±10, ±15) % dovoljna (0.5, 0.65] (0.6, 0.70] [±15, ±25) %

nedovoljna ≤ 0.5 > 0.7 ≥ ±25 %

3.5. Sustavni pristup formiranju neuronskog modela za predviđanje hidrološkog dotjecanja

Pregledni radovi [2], [54] i [55] ističu dobra prediktivna svojstva umjetnih neuronskih mreža, ali i naglašavaju nedostatak sustavnog pristupa formiranju neuronskog modela za hidrološka predviđanja. Iako je ovaj problem naznačen prije više od deset godina u [54], još uvijek postoji potreba za razvojem robusnog pristupa, kao što se navodi u [55].

38

Slika 3.2. Postupak formiranja neuronskog modela za predviđanje

Naime, neki važni koraci u postupku formiranja modela, poput određivanja broja ulaza, podjele podataka, izbora strukture mreže, odnosno broja neurona, određuju se bez jasno naznačene metode ili u potpunosti proizvoljno, slučajnim odabirom. Također, postoji i problem nedosljednosti u postupku vrednovanja modela, pri čemu se često koriste neprikladne mjere kvalitete. Sustavni pristup, kao što je to prikazano dijagramom na slici 3.2, podrazumijeva podjelu postupka formiranja modela u određen broj dobro definiranih koraka. Pri tom je svaki korak moguće provesti na više različitih načina, odnosno moguće je primijeniti različite metode. Postojanje više metoda za rješavanje jednog koraka postupka čini postupak fleksibilnim, ali i složenim jer je potrebno odrediti optimalnu metodu za svaki korak postupka.

39

U slijedećem odjeljku ovog potpoglavlja objašnjeni su pojedini koraci sustavnog pristupa postupku formiranja neuronskog modela za hidrološka predviđanja, čime su dane općenite smjernice za razvoj modela koji će biti formirani u sklopu istraživanja iz ove disertacije.

3.5.1. Prvi korak: selektiranje podataka – određivanje izlazne varijable i koraka računanja

Skup raspoloživih podataka se sastoji od diskretnih mjerenih vrijednosti jedne ili više varijabli sustava koje su zabilježene u određenom vremenskom periodu s određenom frekvencijom prikupljanja uzoraka. Stoga je odmah u prvom koraku, pored izbora odgovarajućeg izlaza, potrebno odrediti vremensko razdoblje predviđanja, odnosno odrediti korak računanja modela, a mogući izbori predstavljaju dnevno, tjedno, mjesečno i slično predviđanje. Korak računanja ovisi o frekvenciji prikupljanja uzoraka i ne može biti manji od perioda uzorkovanja, pri čemu se pod pojmom perioda uzorkovanja misli na vremenski period između dva uzastopna mjerenja.

Kako bi se pravilno selektirali podaci iz skupa raspoloživih podataka i u konačnici formirao neuronski model najprije je potrebno odrediti cilj modela. Odrediti cilj modela znači odrediti koja se varijabla sustava želi, ali i može predviđati s obzirom na raspoložive podatke. Ona varijabla sustava koja je od posebnog značaja, a može se definirati kao funkcija ostalih varijabli iz skupa raspoloživih podataka, postavlja se kao izlazna varijabla neuronskog modela. U svim slučajevima formiranja modela iz ove disertacije izlaznu varijablu predstavlja buduća vrijednost hidrološkog dotoka.

Općenito, model može imati jedan ili više izlaza. To mogu biti trenutne vrijednosti jedne ili više varijabli, ali i njihove vremenske serije, kao u slučaju predviđanja hidrološkog dotoka više koraka unaprijed izravnom (direktnom) metodom, kada model koristi n-izlaza za predviđanje dotoka n-koraka unaprijed.

3.5.2. Drugi korak: izbor ulaznih varijabli

Ulazne varijable modela se biraju prema tipu modela koji se formira. Na primjer, u slučaju formiranja modela vremenske serije (TS), ulazne varijable su članovi vremenske serije jedne varijable, a u slučaju formiranja modela oborine-otjecanje (RR), ulazne varijable su članovi vremenske serije oborina, ili oborina i otjecanja.

U općem slučaju, različite hidrološke i meteorološke varijable mjerene na različitim lokacijama mogu u većoj ili manjoj mjeri utjecati na promatranu, izlaznu varijablu modela pa je potrebno iz skupa svih varijabli čije se vrijednosti daju mjeriti odrediti one koje najznačajnije utječu na vrijednost izlazne varijable. Ranije se smatralo da su UNM-e u stanju samostalno odrediti važnost pojedinih varijabli zbog čega se izboru optimalnih ulaznih varijabli nije posvećivalo puno pozornosti [54]. Međutim, pokazalo se kako uporaba velikog

40

broja ulaznih varijabli rezultira većim i složenijim modelom. Dakle, uključivanje nepotrebnih varijabli je nepoželjno jer opterećuje i „zbunjuje“ model te otežava njegovo kalibriranje. S druge strane, površnom selekcijom je moguće iz skupa ulaznih varijabli isključiti i one koje značajno utječu na promatranu izlaznu varijablu i time uskratiti modelu vrijedne informacije o ulazno-izlaznom preslikavanju i u konačnici smanjiti kvalitetu modela. Također, s obzirom da se predviđanje vrijednosti varijable hidrološkog sustava pomoću neuronskog modela najčešće temelji na vremenskoj seriji, potrebno je odrediti odgovarajuća vremenska zaostajanja ulaznih varijabli (engl. lags), odnosno odgovarajući broj uzastopnih uzoraka ulaznih varijabli koji imaju značajan utjecaj na trenutnu vrijednost izlazne varijable.

Općenito, postoji više metoda za određivanje optimalnih ulaznih varijabli, a u osnovi se mogu podijeliti na metode koje koriste model sustava (engl. model-based) i one koje ne koriste model sustava (engl. model-free) već se međusobna ovisnost varijabli ispituje određenim metodama za analizu podataka. Ove metode, s obzirom da se ne temelje na modelu, ne ovise o kvaliteti modela pa su jednostavnije za uporabu. Najčešće korištena metoda za određivanje međusobne ovisnosti varijabli je linearna korelacija, korištena i u ovom radu. Međutim, ne postoji metoda analize podataka koja može garantirati uspješnost predviđanja modela za selektirane ulazne varijable pa je konačnu uspješnost ipak nužno provjeriti na samom modelu sustava.

3.5.3. Treći korak: obrada podataka

Obrađivanje podataka u razmatranom kontekstu podrazumijeva transformaciju podataka u oblik prikladan za rad s neuronskom mrežom, a provodi se s ciljem unaprjeđenja neuronskog modela. Najjednostavniji i najčešće korišteni način obrade podataka za formiranje neuronskog modela je linearna transformacija [47], kojom je moguće podatke skalirati unutar željenih granica ili standardizirati prema nekoj vrijednosti. Naime, različite varijable se kreću unutar različitih granica vrijednosti pa mreža prilikom treniranja može dobiti krivi dojam o važnosti varijable samo na temelju njene trenutne vrijednosti. Dakle, standardizacija ili skaliranje podataka se vrši kako bi se osigurala početna ravnopravnost svih ulaznih varijabli.

Linearnom transformacijom se proizvoljna varijabla xi može skalirati tako da njene vrijednosti iz intervala [xmin, xmax] budu prebačene u interval [xlow, xhigh], pri čemu se skalirane vrijednosti varijable x'i može izračunati prema izrazu (3.15). Skaliranje ulaznih varijabli potrebno je provesti ukoliko se želi osigurati ravnopravnost svih ulaznih varijabli [54], s obzirom da se vrijednosti različitih varijabli nalaze unutar različitih opsega različitih redova veličine, a apsolutni iznosi često nisu ekvivalentni stvarnom utjecaju dotične varijable na izlaznu varijablu.

max min'

max min max min

high low low highi i

x x x x x xx x

x x x x− ⋅ − ⋅

= ⋅ +− −

(3.15)

41

Druga opcija predstavlja standardizaciju vrijednosti oko srednje vrijednosti. Linearnom transformacijom se varijabla xi, prema izrazu (3.16), može standardizirati prema srednjoj vrijednosti xmean, uz standardnu devijaciju xstdev kao mjeru skale.

' i meani

stdev

x xxx−

= (3.16)

Općenito, preporuča se skaliranje podataka na interval [-1, 1] ili standardiziranje prema nultoj srednjoj vrijednosti uz jediničnu standardnu devijaciju [70].

Podatke izlaznog, ciljanog vektora je također potrebno skalirati, pogotovo u slučaju uporabe aktivacijske funkcije s ograničenjem u izlaznom sloju neurona. Pri tom se preporuča skalirati podatke u interval s graničnim vrijednostima manjim od granica aktivacijske funkcije [54]. Na primjer, za slučaj aktivacijske funkcije s granicama (-1, 1) potrebno je skalirati podatke ciljanog vektora u interval s granicama (-0.8, 0.8) ili (-0.9, 0.9) [47].

Važno je napomenuti da se provođenjem nepotrebnih ili krivo odabranih operacija nad podacima mogu uništiti značajne informacije o odnosu ulaznih varijabli i izlazne varijable pa je nužno biti oprezan u provođenju obrade podataka i provoditi samo transformacije s jasnim ciljem i namjenom [2], [47], [64]. U ovom radu se prilikom treniranja neuronske mreže provodi automatsko skaliranje podataka ulaznih varijabli, dok se izlazna varijabla ne skalira.

3.5.4. Četvrti korak: podjela podataka

Nakon što se odrede i obrade ulazni i izlazni podaci za formiranje modela potrebno je podijeliti te podatke na skup za treniranje i skup za procjenu modela. Naime, podaci pomoću kojih se provodi ispitivanje modela ne smiju biti prezentirani mreži za vrijeme treniranja kako bi se mogla ispitati generalizacijska svojstva mreže. Također, sam skup podataka za treniranje se dijeli na podskupove podataka za kalibraciju, testiranje i validaciju. Ovakva podjela je nužna ukoliko se primjenjuje metoda ranog zaustavljanja kao mjera zaštitite od pretreniranosti [23].

Iako je važnost ispravne podjele podataka zbog izravnog utjecaja na kvalitetu modela naglašavana i ranije, prema izvještaju [54] podjela podataka najčešće se provodila proizvoljnom ili slučajnom razdiobom, ne vodeći računa o statističkim svojstvima podskupova nastalih podjelom. Ta praksa se nije uvelike promijenila ni u posljednjem desetljeću, kao što se može vidjeti iz [55].

Kako bi se osigurala dobra generalizacijska svojstva mreže, skup podataka za treniranje mora sadržavati reprezentativne uzorke sustava koji se modelira [47]. S obzirom da mreža može predviđati samo unutar opsega vrijednosti koje su joj predstavljene za vrijeme treniranja [58], skup podataka za provjeru modela mora sadržavati podatke istih statističkih

42

svojstava kao i skup podataka za treniranje [54]. To znači da je prilikom podjele podataka potrebno izračunati srednju vrijednost i standardnu devijaciju te odrediti minimalnu i maksimalnu vrijednost iz oba skupa, odnosno skupa podataka za treniranje i skupa podataka za ocjenjivanje modela te osigurati ravnomjernu podjelu s obzirom na navedene statističke parametre.

Za potrebe formiranja modela iz ove disertacije rađena su dvije podjele ukupnih raspoloživih podataka. Podaci se prvo dijele na podatke za treniranje i podatke za ocjenjivanje modela uz uvažavanje ravnopravnosti statističkih svojstava skupova. Druga podjela se provodi automatski, metodom slučajnog odabira za vrijeme treniranja mreže, a podaci se pritom dijele na podskupove za treniranje, testiranje i validaciju.

3.5.5. Peti korak: izbor arhitekture mreže

Odrediti arhitekturu neuronske mreže znači odrediti tip mreže koja će se koristiti za formiranje neuronskog modela. Ovaj korak vjerojatno predstavlja i najvažniji korak u postupku formiranja neuronskog modela, jer će o ovom izboru ovisiti i ostali koraci pa je dobro odmah na početku odlučiti koja će arhitektura biti korištena.

MLP dvoslojna neuronska mreža sa svojstvom univerzalnog aproksimatora, koja koristi nelinearnu (sigmoidalnu) aktivacijsku funkciju u skrivenom sloju i linearnu aktivacijsku funkciju u izlaznom sloju, predstavlja najčešće korištenu arhitekturu za modeliranje hidroloških sustava pa je stoga korištena i u ovom radu.

Iako prema [47] postoje navodi o isplativosti uporabe više skrivenih slojeva zbog veće fleksibilnosti modela i manjeg ukupnog broja parametara, postoje i izvještaji o otežanom treniranju mreža s dva skrivena sloja zbog izraženijeg problema lokalnog minimuma [70] pa se ipak predlaže uporaba MLP neuronske mreže s jednim skrivenim slojem.

3.5.6. Šesti korak: identifikacija sustava pomoću neuronske mreže

Postupak identifikacije sustava pomoću umjetne neuronske mreže se može podijeliti u tri dijela, a to su: podešavanje strukture, kalibracija modela i validacija modela. Ovaj postupak se ciklički ponavlja dok se ne odredi model koji najbolje zadovoljava postavljeni kriterij kvalitete ili više njih.

Kako je broj ulaznih neurona određen dimenzijama ulaznog vektora u trećem koraku, a broj izlaznih neurona dimenzijom izlaznog vektora još u prvom koraku, ukoliko se koristi MLP arhitektura sa svojstvom univerzalnog aproksimatora, određivanje strukture mreže se svodi na određivanje broja neurona skrivenog sloja. Optimalan broj neurona skrivenog sloja je jako bitan za ispravan rad modela jer izravno utječe na generalizacijska svojstva. Prevelikim brojem neurona formirat će se mreža s prevelikim brojem parametara koja će biti sklona

43

pretreniranju (engl. overfitting). Suprotno tome, mreža s premalim brojem neurona, odnosno parametara, neće biti u stanju aproksimirati zadane nelinearne odnose na ispravan način pa postoji problem koji se naziva podtreniranost (engl. underfitting). Općenito, optimalan broj neurona skrivenog sloja je najmanji broj neurona koji omogućava mreži da ispravno modelira odnose između ulaznih i izlaznih podataka. Međutim, metoda za precizno i pouzdano određivanje najmanjeg potrebnog broja neurona još nije određena. Ono što je donekle moguće odrediti je gornja granica, odnosno maksimalni broj neurona skrivenog sloja koji se može koristiti za modeliranje sustava predstavljenog određenim skupom podataka. Predlaže se uvažavanje manjeg iznosa NH iz sustava nejednakosti (3.17), gdje NI označava broj ulaza neuronske mreže, a NS označava broj uzoraka za treniranje.

2 1

1

H I

SH

I

N NNN

N

≤ +

≤+

(3.17)

Prvu nejednadžbu je predložio Nielsen, 1987. godine, kako bi odredio broj neurona mreže koja će sigurno aproksimirati željenu funkciju, dok drugu nejednadžbu uvode Rogers i Dowla, 1994. godine, kako bi se odredio broj neurona mreže koja neće biti sklona pretreniranju [47].

Određivanje optimalnog broja neurona skrivenog sloja se i dalje najčešće provodi eksperimentalno, metodom pokušaja i pogreške (engl. trial-and-error) [54]. U tom slučaju je najbolje početi od minimalne strukture, odnosno mreže s jednim neuronom u skrivenom sloju, a potom postepeno povećavati broj neurona i ispitivati postignute rezultate, pri čemu je rezultat sustava nejednadžbi (3.17) moguće koristiti kao orijentaciju po pitanju gornje granice. Nedostatak ove metode je prije svega u velikom broju mreža koje je potrebno istrenirati i testirati te pri tom svaki put uvažiti sva pravila o formiranju neuronskog modela, što uz napredna računala ne predstavlja nepremostivu prepreku.

Dakle, za svaki model formiran za potrebe ove disertacije proveden je eksperiment za određivanje optimalnog broja skrivenih neurona, pri čemu nejednadžbe (3.17) služe za postavljanje gornje granice područja mogućih rješenja koje se pretražuje eksperimentom. U konačnom se optimalan broj skrivenih neurona određuje usporedbom rezultata koje ostvaruju modeli s različitim brojem skrivenih neurona.

Kalibracija modela je postupak podešavanja parametara modela odnosno treniranje mreže i u ovom radu se provodi jednim od algoritama koji su opisani u potpoglavlju 2.4. ove disertacije. Ukratko, cilj treniranja je pronaći skup vrijednosti podesivih parametara mreže za koje je pogreška, odnosno funkcija cilja, minimalna. Kao funkcije cilja mogu se koristiti različiti kriteriji kvalitete opisani u poglavlju 3.4. ovog rada, a ovom radu se koriste MSE, MAE i SSE.

44

Ono što je važno istaknuti je potreba postavljanja inicijalnih vrijednosti podesivih parametara mreže o kojima ovisi i konačan ishod treniranja mreže. Naime, najčešće korišteni algoritmi za treniranje mreže, lokalni algoritmi, kao polazište uzimaju skup nasumično odabranih početnih vrijednosti parametara mreže. Kako je funkcija cilja nelinearna funkcija parametara mreže, tako postoji vjerojatnost da iz te polazišne točke algoritam neće doći do globalnog minimuma funkcije cilja. Primjeri zaglavljivanja algoritma prikazani su na slici 3.3. iz [47] i to za slučaj zaglavljenja u lokalnim minimumima A, B ili „sedlu“ D. Zbog toga se za slučaj uporabe lokalnih algoritama savjetuje ponavljanje postupka kalibracije iz nekoliko različitih početnih uvjeta [23], a u ovom radu svaka mreža je trenirana 10 puta uzastopno. Broj od deset uzastopnih treniranja svake mreže je određen kao optimalan prema [24].

Slika 3.3. Problem lokalnih minimuma

Kada se govori o ispitivanju modela treba razlikovati validaciju i procjenu modela. Validacija predstavlja ispitivanje modela za vrijeme provođenja postupka identifikacije, a procjena modela predstavlja neovisno ispitivanje nakon provedenog postupka identifikacije. Ispitivanje modela za vrijeme identifikacije, validacija, najčešće se provodi pomoću jednog kriterija kvalitete i to one mjere koja se koristi kao funkcija cilja za potrebe kalibracije modela, dok se za procjenu modela može i mora koristiti više različitih mjera. Mjere kvalitete koje se najčešće koriste u hidrologiji za procjenu i validaciju modela opisane su u potpoglavlju 3.4. ovog rada.

3.5.7. Sedmi korak: ocjena kvalitete modela

Iako UNM-e imaju svojstvo univerzalnog aproksimatora, što znači da su sposobne aproksimirati bilo kakvo preslikavanje ulaznih u izlaznu vrijednost s relativnom točnošću [39], tu relativnu točnost svakako treba provjeriti i to na skupu podataka koji mreži nisu predstavljani za vrijeme kalibracije. Na ovaj način se ispituju generalizacijska svojstva mreže prije njenog konačnog prihvaćanja kao neuronskog modela sustava te se daje konačna ocjena kvalitete modela. Kao što je objašnjeno u potpoglavlju 3.4. ne postoji univerzalna

45

mjera kvalitete koja bi ocijenila podjednako dobro sve aspekte točnosti modela zbog čega se za konačnu ocjenu kvalitete modela koristi više različitih apsolutnih i relativnih numeričkih mjera kvalitete. Također, pored numeričkih ocjena potrebno je provesti i grafičku analizu odziva modela koja se provodi izravnom usporedbom sa stvarnim vrijednostima predviđane varijable i iscrtavanjem grafa trenutne pogreške. Obje metode, grafička i numerička korištene su pri ocjenjivanju modela iz ovog rada.

3.6. Primjena predviđanja hidrološkog dotjecanja u planiranju proizvodnje električne energije

Kao što se može zaključiti na osnovi navoda iz radova [32], [33] i [34], informacije o predviđenom dotoku predstavljaju bitan podatak u procesu planiranja rada elektroenergetskog sustava (EES-a) i to na svim vremenskim nivoima, dugoročnom, srednjoročnom i kratkoročnom, a mogu se koristiti i za kratkoročnu optimizaciju rada EES-a.

Dugoročno planiranje rada hidroelektrana uvjetovano je dotocima kao stohastičkim parametrima koje je na mjesečnom i godišnjem nivou teško predvidjeti. Stoga se umjesto preciznih informacija o hidrološkom dotoku u praksi utvrđuje mogući raspon ukupno raspoloživog dotoka na mjesečnom i/ili godišnjem nivou i to na temelju ostvarenja prethodnih godina. Preciznije rečeno, određuje se krivulja trajanja raspoloživih dotoka preko koje se može doći do statistički definirane vjerojatnosti pojave određenog iznosa dotoka u promatranom periodu. U EES-u Hrvatske, varijacije raspoloživih dotoka na mjesečnom nivou vrlo su velike, a na godišnjem nivou taj omjer iznosi približno 2:1. Takve varijacije dotoka bitno otežavaju godišnje planiranje rada hidroelektrana, a time i EES-a u cjelini.

Drugi bitan parametar koji uvjetuje način korištenja hidroelektrana na godišnjem nivou je strategija korištenja akumulacija za sezonsko i godišnje izravnanje, koja osim zadovoljenja energetsko-ekonomskih ciljeva rada EES-a4, mora uvažiti ograničenja uvjetovana zahtjevima ostalih korisnika akumulacija te zahtjeve obrane od poplava. Sve to usko je povezano i ovisno o rasponu mogućih dotoka. Također, informacija o predviđenom hidrološkom dotoku igra važnu ulogu i u održavanju EES-a pa se tako remont hidroelektrana provodi u terminu u kojemu su očekivani dotoci najmanji, što je posebno važno za jednoagregatne HE-e.

Pored godišnje i mjesečne prognoze dotoka od posebne je važnosti dnevna prognoza, s obzirom da se dnevno planiranje koristi za izradu dnevnog voznog reda kojim se definira proizvodnja svih elektrana u sustavu te razmjena električne energije po satima. Osnovni pripremni dio dnevnog plana rada EES-a obuhvaća prognozu potrošnje, prognozu dotoka, poznavanje stanja proizvodnih objekata i prijenosne mreže te informacije o mogućim kratkoročnim aranžmanima razmjene električne energije.

4 Energetsko-ekonomski ciljevi rada EES-a podrazumijevaju maksimalnu proizvodnju električne energije uz minimalne troškove rada EES-a i sigurnost.

46

U radu [33] su kroz sažeti pregled jednog integralnog modela operativnog planiranja na svim vremenskim nivoima, prezentirana iskustva u konkretnoj operativnoj primjeni i mogućem daljnjem razvoju procesa operativnog planiranja rada EES-a Hrvatske, uz uvažavanje suvremenih i provjerenih svjetskih iskustava na ovom području te prilagodbu istih brojnim specifičnostima rada EES-a Hrvatske. U slijedeća dva odjeljka ovog potpoglavlja sažeto su predstavljene osnovne pojedinosti planiranja rada EES-a s naglaskom na planiranje rada HES-a Cetine.

3.6.1. Planiranje rada EES-a

Operativno planiranje jedna je od važnijih komponenti sustava upravljanja EES-om pomoću koje se može bitno utjecati na povećanje efikasnosti, ekonomičnosti i sigurnosti rada EES-a. Planiranje rada EES-a uvijek provodi dispečerska služba uz osnovni cilj optimizacije korištenja postojećih resursa.

Prema vremenskom razdoblju za koje se vrši planiranje, ono može biti:

• dugoročno, u okviru planiranja godišnje elektroenergetske bilance; • srednjoročno, za jedan ili više mjeseci; • kratkoročno, na tjednom i dnevnom nivou.

Dugoročno planiranje rada EES-a izvodi se u okviru godišnje elektroenergetske bilance, a

za jedan mješoviti sustav koji se sastoji od hidroelektrane, termoelektrane i nuklearne elektrane mogu se definirati slijedeće osnovne komponente godišnjeg plana rada EES-a:

• plan potrošnje električne energije po mjesecima/tjednima, • plan remonta svih elektrana u cjelini ili po agregatima, • plan rada termoelektrana, nuklearnih elektrana i razmjene električne energije, • plan korištenja akumulacija i proizvodnje hidroelektrana.

Godišnji plan rada ovakvog sustava mora biti podesiv, u prvom redu s obzirom na

moguću proizvodnju HE-a ovisno o hidrološkim uvjetima, ali i s obzirom na mogućnosti razmjene električne energije odnosno veličine angažiranja vlastitih termoelektrana, ovisno o cijenama goriva i nabave te eventualno raspoloživosti pojedinih elektrana. Posebno detaljna strategija korištenja akumulacija u EES-u Hrvatske mora biti definirana za dvije najveće i najznačajnije akumulacije, Peruću i Buško Blato, koje, s obzirom na odgovarajući doprinos u energiji i snazi nizvodnih hidroelektrana i značenje za sigurnost rada EES-a Hrvatske, predstavljaju ključne objekte u EES-u Hrvatske. Rezultat godišnjeg plana rada EES-a je godišnja elektroenergetska bilanca koja obuhvaća sve bitne energetske i ekonomske pokazatelje rada EES-a, kao i osnovne pokazatelje nivoa sigurnosti rada EES-a. Planiranje rada termoelektrana i razmjene električne energije izvodi se u pravilu nakon izrade plana remonta elektrana te plana rada akumulacija i proizvodnje hidroelektrana. Međutim, takav

47

redoslijed nije fiksan, već ih je redovito potrebno iterativno kombinirati u cilju optimiranja rada EES-a kao cjeline.

Srednjoročno planiranje rada EES-a radi se na vremenskom nivou od jednog do nekoliko mjeseci, a na određeni način predstavlja revidiranje godišnjeg plana rada u slučaju izmijenjenih uvjeta rada EES-a s obzirom na slijedeće bitne parametre:

• raspoloživost i cijene goriva za termoelektrane, • mogućnosti razmjene električne energije, • ostvarenje hidrologije i stanja većih akumulacija.

Kratkoročno planiranje rada najčešće se izvodi u dvije faze, a to su tjedno planiranje i dnevno planiranje. Za EES Hrvatske, najprimjereniji odabir metode tjednog planiranja je korištenje dnevnog modela, uz odgovarajuće bilanciranje na tjednom nivou. Dnevno planiranje rada EES-a koristi se prvenstveno za izradu dnevnog voznog reda kojim se definira proizvodnja svih elektrana u sustavu te razmjena električne energije po satima. Samo planiranje rada izvodi se posebno za svaku grupu elektrana uz odgovarajuću iterativnu hidro-termo koordinaciju koja za konačni cilj ima zatvaranje elektroenergetske bilance. Također, cilj je ostvariti pritom minimalne troškove rada sustava te pridržavati se srednjoročnog, odnosno dugoročnog plana korištenja akumulacija u najvećoj mogućoj mjeri, uvažavajući trenutno stanje u sustavu. Prilikom izrade dnevnog plana rada EES-a također je potrebno osigurati i potreban iznos rezerve prema definiranim kriterijima sigurnosti rada EES-a.

Režim rada termoelektrana-toplana i nuklearnih elektrana uglavnom je unaprijed zadan srednjoročnim planom rada, tako da su u dnevnom planu rada moguće samo manje izmjene. Plan rada klasičnih termoelektrana vrši se prema pravilima ekonomskog dispečinga, tj. sa funkcijom cilja kojom se traže minimalni troškovi za gorivo, uvažavajući tehnička ograničenja samih termoelektrana, ali i ograničenja i zahtjeve prijenosne mreže. Rad protočnih hidroelektrana planira se s ciljem maksimalnog iskorištenja raspoloživog dotoka, uz djelomično prilagođavanje dnevnom dijagramu potrošnje. Angažiranje akumulacijskih hidroelektrana i ostalih hidroelektrana na slivovima izvodi se na način da svaka hidroelektrana, u granicama svojih tehničkih mogućnosti te u skladu s predviđenim dotocima u akumulacije i međudotocima, prilagođava svoju proizvodnju obliku nepokrivenog dijela dnevnog dijagrama potrošnje, tako da ukupna proizvodnja svih hidroelektrana po satima omogući što ravnomjerniji rad angažiranih termoelektrana tijekom dana. Dnevno izravnanje proizvodnje termoelektrana jedan je od osnovnih ciljeva hidro-termo koordinacije čime se postižu najmanji troškovi rada termoelektrana. Pri tome se svaki sliv mora posebno modelirati kako bi se plan rada hidroelektrana na slivu mogao izvršiti uz uvažavanje svih hidroenergetskih ograničenja te kako bi se kontrolirao dnevni režim punjenja/pražnjenja kompenzacijskih bazena, odnosno izračunale odgovarajuće kote. Za raspodjelu ukupne proizvodnje hidroelektrana na pojedinom slivu mogu se koristiti i posebni modeli kojima se najčešće optimizira rad sliva u smislu minimalnog utroška vode.

48

Tijekom izrade dnevnog plana rada EES-a, potrebno je izvršiti i analizu mogućih energetsko-ekonomskih efekata kratkoročnog ugovaranja uvoza/izvoza električne energije ukoliko za to postoji mogućnost dogovora sa susjednim EES-ima. Takve kratkoročne ugovore treba nastojati realizirati ukoliko je cijena nabave električne energije manja od marginalnih troškova rada vlastitih elektrana odnosno ako je cijena prodaje veća od njih. Posebno se promatra mogućnost izvoza/uvoza preljevne energije za koju uglavnom ne vrijedi kriterij usporedbe sa marginalnim troškovima. U izradi dnevnog plana rada treba uključiti i mogućnost rada reverzibilnih hidroelektrana u dnevnom ciklusu pumpanja/turbiniranja u slučaju preljeva ili ako takav ciklus smanjuje ukupne dnevne troškove goriva angažiranih termoelektrana.

Konačan rezultat dnevnog plana rada je u prvom redu zatvorena elektroenergetska bilanca, tj. izjednačavanje potrošnje, proizvodnje i razmjene po satima. Osim toga, računaju se ekonomske bilance (potrošak goriva, troškovi goriva, troškovi nabave, ukupni i specifični troškovi rada EES-a itd.) i vodne bilance (energetska vrijednost dotoka, bilance bazena, preljevi itd.) te formiraju odgovarajući izvještaji odnosno nalozi pojedinim proizvodnim objektima o planiranom voznom redu za slijedeći dan. Nakon izrade voznog reda, potrebno je izvršiti i odgovarajuće analize rada mreže, kao što su tokovi snaga, naponske prilike, analiza N-1, analiza gubitaka i slično.

Proces operativnog planiranja može se ukratko opisati na primjeru planiranja rada hidroelektrana na slivu rijeke Cetine koje provodi Nacionalni dispečerski centar (NDC) i Dispečerski centar Split, a detaljniji opis se može pronaći u radu [32].

3.6.2. Primjer operativnog planiranja hidroenergetskog sustava Cetine

Na nivou NDC-a provodi se kompletan postupak godišnjeg planiranja rada sliva i to u sklopu godišnje elektroenergetske bilance koja se trenutno radi na osnovu 70%-tne vjerojatnosti dotoka te daje okvirni plan rada elektrana po mjesecima i poželjna stanja akumulacijskih bazena. S obzirom na ostvarene dotoke i konkretna stanja u akumulacijama, te eventualne važnije promjene prilika u EES-u, godišnji plan se revidira po potrebi, a prema odluci NDC-a.

Na osnovu godišnjeg plana, eventualno revidiranog, predviđenih dotoka i konkretnog stanja EES-a, u NDC-u se pripremaju odgovarajući tjedni planovi rada sliva Cetine u sklopu tjednih planova rada cijelog sustava. Tjednim se planom rada određuje okvirna dinamika korištenja akumulacijskih bazena Peruča i Buško Blato, odnosno ukupni energetski doprinosi pojedinih elektrana u slivu po danima.

Kratkoročno planiranje rada HE-a na Cetini, tj. izrada voznog reda, radi se svakodnevno u DC-u Split u koordinaciji sa NDC-om. Voznim redom definira se proizvodnja svake HE-e na slivu po satima. Prvo dispečer, planer iz NDC-a, postavlja zahtjev za ukupnom potrebnom energijom koju treba dobiti iz sliva Cetine za slijedeći dan te potrebnu snagu po satima koju

49

treba dobiti iz sliva s obzirom na potrebe sustava. Na osnovu tog zahtjeva i raspoloživih dotoka i međudotoka, u DC-u Split se radi raspored snaga po elektranama u slivu. Za takav raspored rada vrši se potom i hidrološka simulacija, tj. računaju se dnevne promjene kota kompenzacijskih bazena, protoci, eventualni preljevi i sl. Ukoliko je tako isplanirani vozni red ostvariv u okviru mogućnosti sliva, rezultat se šalje u NDC, te se kao takav uklapa u ukupni vozni red EES-a Hrvatske. Ako se iz bilo kojih razloga ne može udovoljiti traženom zahtjevu, DC Split traži od NDC-a korekciju globalnog plana u smislu smanjenja/povećanja ukupne snage u problematičnim satima. Za izvršenje opisanog procesa u DC-u Split koristi se nekoliko jednostavnih simulacijskih modela koji omogućavaju varijantno planiranje rada sliva.

Poseban problem kod planiranja rada HES-a Cetine je činjenica kako većina dotoka pripada podzemnom dijelu sliva pa tako površinskim dotjecanjem u vidu toka rijeke Cetine na primjeru dotjecanja u akumulaciju Peruća pripada svega 30% od ukupnog dotoka, prema izvorima [92], [93] i [94]. Ova činjenica ide u prilog tezi o složenosti sustava koji je odabran kao predmet razmatranja ove disertacije.

50

4. Neuronski model za kratkoročno predviđanje hidrološkog dotjecanja

Cjelokupno istraživanje provedeno za potrebe rješavanja problema kratkoročnog predviđanja hidrološkog dotjecanja pomoću neuronskog modela može se predstaviti u osam faza. Prvih pet faza provedeno je u nastojanju formiranja neuronskog modela korištenjem poznatih metoda, pri čemu su istraživane različite mogućnosti primjene UNM-e za predviđanje hidrološkog dotoka prema preporukama iz dostupne literature. Međutim, kako provedena istraživanja nisu rezultirala modelom sposobnim za pravovremeno i pouzdano predviđanje hidrološkog dotoka, istraživanja prvih pet faza se mogu nazvati preliminarnim, a poslužila su konačnom definiranju problema. Kao što je izneseno u hipotezi ove disertacije, u uvodnom poglavlju, problem koji se rješava nije stoga samo modeliranje hidrološkog dotoka, već otklanjanje ograničenosti predikcijskog horizonta od svega nekoliko koraka te pogotovo otklanjanje pojave kašnjenja predviđanja koje model čini gotovo neupotrebljivim za potrebe predviđanja. Ideja o rješenju problema definiranog u potpoglavlju 1.3. temelji se na određivanju koraka računanja i odgovarajućih ulaznih varijabli koji omogućavaju točno predviđanje. Sam postupak rješavanja problema podijeljen je u tri faze, a to su: formiranje jednostavnog neuronskog modela (NM), formiranje adaptivnog neuronskog modela (ANM) i optimizacija adaptivnog neuronskog modela. Optimizacija ANM-a se očituje u određivanju optimalnog broja članova adaptivnog modela te optimizaciji svakog podmodela. Naime, kao što je objašnjeno u potpoglavlju 4.5., ANM se sastoji od više podmodela, odnosno više neuronskih mreža specijaliziranih za predviđanje u određeno doba godine. Optimizacija podmodela predstavlja određivanje skupa ulaznih varijabli, odnosno broja ulaznih neurona, određivanje optimalnog broja skrivenih neurona i određivanje optimalnog algoritma za treniranje mreže kao i funkcije cilja. Pobliže objašnjeno, uloga jednostavnog NM-a, formiranog u šestoj fazi istraživanja iz ove disertacije, je dokazati tezu o rješenju problema podešavanjem koraka računanja i definiranjem skupa ulaznih varijabli koje omogućavaju

51

pravovremeno predviđanje hidrološkog dotoka. Cilj formiranja ANM-a i njegove optimizacije u vidu optimiziranog adaptivnog neuronskog modela (OANM) je unaprjeđenje točnosti predviđanja. Prilikom formiranja svih modela slijeđena su pravila o sustavnom pristupu postupku formiranja neuronskog modela za hidrološka predviđanja, predstavljena u poglavlju 3.5. U potpoglavlju 4.1. predstavljen je predmet istraživanja, sliv rijeke Cetine, zajedno s podacima prikupljenim na slivu. Iz predstavljanja predmeta istraživanja može se uočiti i jedno od značajnijih ograničenja, a odnosi se na kvalitetu i dostupnost podataka pa se može istaknuti kako su modeli u ovoj disertaciji formirani u uvjetima ograničenog skupa podataka.

4.1. Predmet istraživanja: modeliranje dotjecanja rijeke Cetine u akumulaciju Peruća za potrebe kratkoročnog predviđanja dotoka

Kao predmet istraživanja na kojem se ispituje postavljena hipoteza ove doktorske disertacije poslužio je sliv rijeke Cetine. Preciznije, radi se o kratkoročnom predviđanju dotjecanja rijeke Cetine u akumulaciju Peruća pomoću statičke umjetne neuronske mreže. Razlozi za izbor predmeta istraživanja su činjenica da se radi o krškom slivu, koji svojim karakteristikama predstavlja izrazito složen, nelinearan sustav, zahtjevan za modeliranje, zbog svih razloga navedenih i objašnjenih u ovom potpoglavlju. Uz to, radi se o tehnoekonomski najvažnijem slivu u Hrvatskoj prema godišnjoj proizvodnji energije te raspoloživoj snazi i odgovarajućim regulacijskim mogućnostima [32]. Detaljan opis sliva predstavljen kroz sedam dijelova koji zasebno opisuju geografski smještaj sliva rijeke Cetine, reljef, klimu, geologiju, hidrologiju, slivno područje i iskorištavanje energetskog potencijala rijeke Cetine, može se pronaći u [66]. Također, analiza sliva rijeke Cetine s naglaskom na bosansko-hercegovački dio može se pronaći u [87]. U ovom radu izdvojena su osnovna obilježja sliva potrebna za bolje razumijevanje teme rada, odnosno postupka formiranja neuronskog modela za kratkoročno predviđanje hidrološkog dotoka te bolje razumijevanje specifičnosti i ograničenja koja povlači za sobom odabrani predmet istraživanja.

4.1.1. Osnovna obilježja sliva rijeke Cetine

Sliv rijeke Cetine, prikazan na slici 4.1. iz [88], je drugi po veličini sliv koji s dinarskog krškog područja pritječe u Jadransko more i time predstavlja dio dalmatinsko-jadranskog sliva. Cijeli je sliv ovalnog oblika, izdužen u smjeru sjeverozapad-jugoistok [66], a radi se o jednom od najznačajnijih vodotoka u srednjem kršnom obalnom području Republike Hrvatske. Cetina izvire na jugozapadnim obroncima Dinare, u sjeverozapadnim dijelu Cetinskog polja, blizu sela Cetina po kojem je i dobila ime. Izvor je na oko 385 m n.m. Dužina ove rijeke je oko 105 km, a ulijeva se u Jadransko more kod grada Omiša. Tok Cetine je zbog

52

relativno velikog pada u nadmorskoj visini iskorišten za izgradnju nekoliko značajnih hidroelektrana: HE Peruča, HE Orlovac, HE Đale, HE Zakučac i HE Kraljevac [87].

Slika 4.1. Područje sliva rijeke Cetine

Dominantno obilježje sliva rijeke Cetine je krški reljef. Karbonatne stijene, pretežito vapnenci, te brojni rasjedi i boranja nastali uslijed jakih tektonskih pokreta, uvjetovali su nastanak sliva kojim dominiraju česta poniranja vode, a jedini površinski vodotok predstavlja rijeka Cetina. Rijeka Cetina ima brojne pritoke i vrela pa se tako sa desne strane nalaze: Vrlika, Vojskava i Karakašica, a s lijeve Ćorići, Dragović, Dabar, Majdan, Zasiok, Crno vrelo, Peruća, V. i M. Rumin, Malin, Kosinac, Ruda i Grab. Ipak, najveću količinu vode Cetina dobiva podzemnim tokovima s polja u kršu jugozapadne Bosne. Poslije Drugog svjetskog rata izvršena su temeljna hidrološka istraživanja, gdje je voda bojana na mnogim ponorima i

53

potvrđeno je da do korita Cetine dotječe glavnina voda s orografskih5 slivova Livanjskog polja, Buškog Blata, Duvanjskog polja i djelomično Glamočkog i Kupreškog polja. To pokazuje da orografski slivovi polja u kršu jugozapadne Bosne i orografski sliv Cetine čine jedinstveni hidrološki sliv [66].

Dakle, iako se izvor rijeke Cetine, kao i sama rijeka cijelim svojim tokom nalazi na teritoriju Republike Hrvatske, cjelokupno slivno područje se proteže preko dvije države, Republike Hrvatske i Bosne i Hercegovine, pri čemu na hrvatski dio sliva otpada 1531 km2 od ukupne površine sliva u iznosu od 4145 km2 [89]. Desni, zapadni dio uz Cetinu predstavlja izravni ili topografski (orografski) dio sliva, a lijevi, istočni dio predstavlja neizravni dio sliva čije vode podzemnim tokovima dotječu u izravni dio sliva, odnosno u samu rijeku Cetinu. S obzirom na izneseno može se reći kako rijeka Cetina predstavlja tipičan krški vodotok čiji se sliv i korito oblikovalo u prostoru izrazito razvijenog dinarskog krša.

Drugi bitan faktor su dva, odnosno tri usko povezana obilježja sliva rijeke Cetine, a to su reljef, geografski položaj i klimatološki uvjeti.

Reljef je na cijelom slivu izrazito razvijen, s brojnim planinama, poljima i prijevojima. Reljef visinski raste vrlo strmo i brzo od obale do prvog platoa u zaleđu, a zatim stepenasto preko krških polja do kraja sliva. Takvo stanje uvjetuje i stvara posebne hidrološke značajke sustava. Nadalje, takav reljef te geografski smještaj sliva uvjetuju susretanje i sukobljavanje mediteranske i kontinentalne klime na području sliva, a zahvaljujući prosječnoj nadmorskoj visini od 700 do 1200 m n.m. te visokim planinama i preko 2.000 m n.m., može se reći da se sliv djelomično nalazi i u pojasu planinske klime pa je s klimatološke točke gledišta također riječ o dosta složenom sustavu.

Opće karakteristike prisutnog tipa klime su oštre zime, sa minimalnim temperaturama koje se spuštaju i niže od ‐30°C, dok su ljeta topla s maksimalnim temperaturama iznad 35°C. Prosječne godišnje temperature se kreću od 6,9°C u dijelu kojim dominira utjecaj kontinentalne klime do 12,4°C u dijelu kojim dominira utjecaj mediteranske klima. Prosječna godišnja količina oborina na slivu iznosi 1380 mm, pri čemu je topliji dio godine sušan pa tako od lipnja do kolovoza padne samo 17% godišnjih oborina. Od siječnja do travnja, a ponekad i do svibnja, ovisno o oborinskom režimu, česte su poplave u krškim poljima na što utječe i zadržavanje, odnosno otapanje snijega sa viših dijelova sliva [66]. Za napomenuti je kako se uloga snijega u akumulaciji vode na planinama s vremenom smanjuje zbog uočenog porasta temperaturnih oscilacija koje dovode do prijevremenog topljenja snijega, odnosno smanjenja stabilnosti snježnog pokrivača [87].

Utjecaj susjednih klimatskih područja se ne odražava toliko na srednjim vrijednostima klimatoloških pokazatelja, koliko dolazi do izražaja u slučaju iznenadnih prodora toplih i hladnih zračnih masa. Tada u kratkom vremenskom intervalu dolazi do brzih promjena

5 Orografski, uži ili neposredni sliv je područje s kojeg oborinske vode, u odnosu na nagib zemljišta, mogu

površinski pritjecati u neki tok.

54

temperature, vlažnosti zraka i ostalih klimatoloških pokazatelja, uz to praćenih jakim vjetrovima. Također, sudar toplih zračnih struja s visokim planinama ovog pojasa dovodi do velikih količina oborina u kratkim vremenskim razdobljima, a u konačnom i do relativno velikih mjesečnih i godišnjih suma oborina [87].

U konačnom, može se reći da je sliv rijeke Cetine klimatološki i hidrološki složen sustav s obilježjem krša kod kojeg se površinsko otjecanje formira kao rezultat izravnog dotjecanja vode koja potiče iz oborina s izravnog (orografskog) i neizravnog dijela sliva, ali i kao posljedica topljenja snijega s okolnih planina. Također, valja napomenuti da na razmatrano hidrološko dotjecanje utječe i relativno razvijen reljef, ali i širok raspon i česte intenzivne promjene temperature. Sve navedeno čini sliv rijeke Cetine iznimno zahtjevnim sustavom za modeliranje.

4.1.2. Hidroenergetski sustav Cetine

Rijeka Cetina s ukupnim padom od izvora do ušća u iznosu od 385 m predstavlja značajan vodni i energetski potencijal koji se pored proizvodnje električne energije koristi i za vodoopskrbu šireg područja, ali i u turizmu te za odvod otpadnih voda na području sliva.

Gradnja postojećih hidroelektrana počela je krajem 19. stoljeća, a prva je sagrađena HE Kraljevac 21 km uzvodno od ušća. Radi se o derivacijskoj hidroelektrani s padom od 110 m i ukupnim protokom od 55 m3/s, ukupne snage 46,4 MW te prosječne godišnje proizvodnje 65,84 GWh. HE Peruća izgrađena je 14 km uzvodno od Sinja, a radi se o pribranskom postrojenju s akumulacijom za sezonsko izravnavanje. Protok joj iznosi 120 m3/s, ukupna snaga 60 MW, a prosječna godišnja proizvodnja 136,98 GWh. Voda iz akumulacije Peruća koju koristi istoimena HE nakon otprilike 7 sati dolazi do kompenzacijskog bazena Đale. HE Orlovac predstavlja hidroenergetski sustav koji se sastoji od sustava za prikupljanje, transport i prihvaćanje vode sa livanjskog polja, odnosno akumulacije Buškog Blata. Ukupni protok na turbinama je 70 m3/s, ukupna snaga 237 MW i prosječna godišnja proizvodnja 408,28 GWh. Dakle, HE Orlovac vodu dobiva iz kompenzacijskog bazena Lipa, povezanog reverzibilnim kanalom s akumulacijom Buško Blato. Voda propuštena kroz HE-u Orlovac također završava, nakon prosječno 2 sata kašnjenja, u kompenzacijskom bazenu Đale. HE Đale je pribranska elektrana koja je posljednja izgrađena u sustavu hidroenergetskih objekata na slivu Cetine. Elektrana se nalazi 5,8 km nizvodno od mosta u Trilju, a za proizvodnju električne energije koristi radne vode HE-e Orlovac i HE-e Peruća te prirodne dotoke Cetine nizvodno od brane Peruća i strojarnice HE-e Orlovac. Hidroenergetski potencijal koristi na padu od Sinjskog polja do bazena Prančevići. Instalirani protok HE-e Đale iznosi 220 m3/s, ukupna snaga 40,8 MW, a prosječna godišnja proizvodnja oko 135,75 GWh. Voda koju preradi HE Đale ispušta se u kompenzacijski bazen Prančevići. Iz Prančevića, u normalnoj situaciji, veći dio vode se ispušta u derivacijsku HE-u Zakučac, dok se jedan dio ispušta dalje u Cetinu radi održavanja biološkog minimuma. Taj dio vode kasnije preradi HE Kraljevac s agregatom biološkog minimuma. U slučaju velikih dotoka, kad HE Zakučac ne

55

može primiti svu vodu koja pristigne u Prančeviće, višak se ispušta prema HE-i Kraljevac. HE Zakučac raspolaže instaliranim protokom od 220 m3/s, ukupne snage od 486 MW i prosječne godišnje proizvodnje od 1649,12 GWh.

Dakle, na slivu rijeke Cetine je u pogonu 5 hidroelektrana koje koriste vodu iz dvije velike akumulacije (Peruća i Buško Blato), te 3 kompenzacijska bazena (Lipa, Đale i Prančevići). Pojedinačni doprinos hidroelektrana na slivu ukupnoj godišnjoj proizvedenoj energije sliva prikazan je na slici 4.2., a prosječna proizvodnja računata na temelju proizvodnje prethodnih pet godina i to u periodu od 2009. do 2013. godine. Izgradnja hidroelektrana na rijeci Cetini potpuno je izmijenila prirodno otjecanje voda i uzrokovala višemjesečno do višegodišnje izravnavanje protoka, odnosno smanjenje zimskih i povećanje ljetnih protoka.

Slika 4.2. Pojedinačni doprinos HE-a godišnjoj proizvodnji električne energije na HES-u Cetine

Na osnovu godišnjeg plana, predviđenih dotoka i konkretnog stanja elektroenergetskog sustava (EES), u Nacionalnom dispečerskom centru (NDC) se pripremaju odgovarajući tjedni planovi rada sliva Cetine u sklopu tjednih planova rada cijelog sustava. Tjednim se planom rada određuje okvirna dinamika korištenja akumulacijskih bazena Peruća i Buško Blato odnosno ukupni energetski doprinosi pojedinih elektrana u slivu po danima. U cijelom sustavu HES-a Cetine najosjetljivija je akumulacija Peruća jer je njen ukupni akumulacijski volumen nedovoljan da obuhvati sve vode u prosječnoj hidrološkoj godini. Primjenom kratkoročnih hidroloških prognoza dotoka u realnom vremenu, osiguravanjem dovoljnog zališnog prostora unutar akumulacije za prihvaćanje prognoziranog vodenog vala i pravilnim upravljanjem HE-om Peruća u okviru HES-a Cetine moglo bi se izbjeći negativne utjecaje pojave velikih vodenih valova [34].

4.1.3. Dostupni podaci

Općenito, prema [66], sliv rijeke Cetine pripada dalmatinskom dijelu Jadranskog sliva i može se podijeliti na gornji dio, koji obuhvaća područje do brane Peruća, središnji dio, koji obuhvaća područje od brane Peruća do Trilja i donji dio, koji obuhvaća područje od Trilja do ušća u Jadransko more.

56

Za slučaj modeliranja dotjecanja rijeke Cetine u akumulaciju Peruća od posebnog je interesa gornji dio sliva koji obuhvaća područje do brane Peruća. Na slici 4.3. prikazan je gornji dio sliva s označenim mjernim postajama s kojih su prikupljeni podaci potrebni za formiranje modela. Izbor postaja uvjetovan je više kriterijem dostupnosti nego što predstavlja optimalan izbor s obzirom na prethodno iznesena svojstva sliva u poglavlju 4.1.1.

Slika 4.3. Gornji dio sliva rijeke Cetine

Plavim oznakama na slici 4.3. označene su kišomjerne postaje, crvenom oznakom je označeno mjesto mjerenja hidrološkog dotjecanja, a zelenom oznakom je prikazano mjesto mjerenja temperature. Za potrebe istraživanja prikupljeni su podaci o dnevnom protoku rijeke Cetine mjerenom u postaji Vinalić, količini dnevnih oborina mjerenih u postajama Vinalić, Vrlika, Kijevo i Kosovo te srednjim dnevnim temperaturama mjerenim u postaji Drniš. Svi podaci su dobiveni iz Državnog hidrometeorološkog zavoda (DHMZ) isključivo za potrebe istraživanja, a predstavljaju vremenske serije navedenih varijabli protoka (Q), oborina (P) i temperature (T) za vremenski period od 1.1.2007. do 1.1.2013.

S obzirom da je dio sliva koji ima izravni utjecaj na formiranje hidrološkog dotjecanja u razmatranoj točki (Vinalić) znatno veći od područja pokrivenog mjernim postajama, a naročito s obzirom na činjenicu kako većina voda koja utječe na formiranje dotjecanja dolazi podzemnim tokovima iz susjedne Republike BiH, očito je da bi mreža postaja za mjerenje oborina morala biti bolje postavljena. Također, bilo bi dobro mjeriti temperaturu na istim mjestima na kojima se mjere oborine. Za pretpostaviti je da postoji jaka korelacijska veza između temperature mjerene u blizini kišomjernih postaja, čak i da apsolutna odstupanja temperature nisu velika. Međutim, u ovom slučaju, zbog nedostatak podataka, takav

57

zaključak može ostati samo u domeni pretpostavke. Nadalje, s obzirom na iznesena osnovna obilježja sliva u odjeljku 4.1.1., jasno je kako podzemno stanje sliva zasigurno utječe na stanje površinskog otjecanja. Međutim, prilikom istraživanja dostupnosti podataka takva mjerenja nisu bila dostupna.

S obzirom na navedeno može se reći kako su istraživanja za formiranje modela u ovoj disertaciji rađena u uvjetima ograničenog skupa podataka pa bi se u slučaju dostupnosti većeg broja i boljeg rasporeda mjernih postaja kao i dostupnosti specifičnih mjerenja stanja u podzemnom dijelu sliva mogli pretpostaviti i bolji konačni rezultati predviđanja modela.

4.1.4. Hidrološko dotjecanje u Vinaliću

Za modeliranje sustava s ciljem predviđanja varijable hidrološkog dotjecanja potrebni su cjeloviti, višegodišnji podaci dotoka mjereni u istoj mjernoj postaji. Podaci za potrebe ove disertacije dobiveni su iz Državnog hidrometeorološkog zavoda (DHMZ), a radi se o 2192 vrijednosti srednjeg dnevnog protoka rijeke Cetine mjerenog u postaji Vinalić za vremensko razdoblje od 1.1.2007. do 1.1.2013. godine. Slika 4.4. grafički prikazuje vremensku seriju prikupljenih vrijednosti protoka izražene u m3/s.

Slika 4.4. Srednji dnevni protok mjeren u Vinaliću, za period od 2007. do 2012. godine

Općenito, može se reći kako se tok kreće u granicama vrijednosti od 1,45 m3/s (zabilježeno 28. i 29.10.2008.) do 104 m3/s (zabilježeno 2.12.2010.), da srednja vrijednost toka za period od 2007. do 2012. iznosi 9,8 m3/s, a standardna devijacija 12,8 m3/s. Osnovni statistički parametri: prosječna vrijednost, standardna devijacija, minimalna i maksimalna vrijednost varijable hidrološkog dotjecanja mjerenog u Vinaliću prikazani su u tablici 4.1. po godinama i za ukupni period od 2007. do 2012. godine.

58

Tablica 4.1. Statistička analiza varijable hidrološkog dotjecanja mjerenog u Vinaliću

2007. 2008. 2009. 2010. 2011. 2012. uk Srednja vrijednost 6,41 10,09 11,59 18,07 5,43 7,11 9,78 st_dev 6,25 12,56 12,75 20,82 5,20 7,22 12,78 max 45,5 83,9 72,1 104 45,4 55,8 104 min 1,73 1,45 1,83 2,04 1,44 1,7 1,44

Na slici 4.5. prikazane su srednje vrijednosti dobivene računanjem prosjeka srednjih dnevnih vrijednosti na godišnjoj osnovi, što znači da se za računanje dnevne vrijednosti toka koriste podaci protoka ostvarenih na taj dan za pet uzastopnih godina od 2007. do 2012. Ovaj prikaz bi trebao poslužiti jasnijem uočavanju sezonskih obilježja varijable te se mogu uočiti svojstva oscilatornosti i trenda. Pritom, na slici 4.5. dan 1 odgovara datumu 1. siječnja, dok dan 365 odgovara datumu 31. prosinca.

Slika 4.5. Prosječna srednja vrijednost dnevnog dotok rijeke Cetine u akumulaciju Peruća za period od 2007. do 2012. godine

Vizualnim pregledom podataka sa slika 4.4. i 4.5, moguće je uočiti periode dominantno stacionarnog i dominantno promjenjivog toka. Dominantno stacionarni protok, odnosno duže vremensko razdoblje s manjim i blažim promjenama dotoka mogu se uočiti u ljetnom periodu, dok se periodi s većim oscilacijama vrijednosti varijable mogu uočiti u proljeće i jesen. Također, sa slike 4.5. može se primijetiti izrazita oscilatornost kao posljedica „nepredvidivosti“ varijable dotoka u zimsko doba godine. Naime, kao što se vidi sa slike 4.4., postoje godine koje karakteriziraju nagli porasti i padovi protoka u zimskom periodu, koji su vjerojatno posljedica obilnih oborina i nedovoljno niske temperature. Međutim, postoje i godine kod kojih je protok u to doba dominantno stacionaran pa se može zaključiti kako je protok u zimsko doba godine teže predvidjeti. Što se tiče trenda, na slikama 4.4. i 4.5. moguće je uočiti periode s dominantnim trendom porasta protoka, većinom u jesenskim

59

mjesecima, kao i periode s dominantnim trendom opadanja protoka, svojstvom koje se može primijetiti u proljetnim mjesecima. Na temelju uočenih sezonskih obilježja, odnosno svojstava oscilatornosti i trenda koji se razlikuju prema dobu godine, nastala je ideja o podjeli zadatka predviđanja na više modela specijaliziranih za predviđanje u određeno doba godine. Ideja je iskorištena za unaprjeđenje neuronskog modela, a realizirana je u vidu adaptivnog neuronskog modela (ANM) koji je opisan u potpoglavlju 4.5. ovog rada.

Kako bi se ispitala povezanost članova vremenske serije varijable hidrološkog dotoka provedena je autokorelacija s rezultatima prikazanim na slici 4.6. Općenito, autokorelacijski koeficijenti pokazuju stupanj linearne povezanosti članova vremenske serije jedne varijable, u ovom slučaju protoka. ACC vrijednosti se mogu protumačiti kao količina informacije koju prethodni članovi vremenske serije nose o trenutnoj, odnosno budućoj vrijednosti.

Slika 4.6. Vrijednosti autokorelacijskih koeficijenata za prvih 28 članova vremenske serije

U skladu s klasifikacijom iznesenom u odjeljku 3.4.2., analizom rezultata prikazanih na slici 4.6. može se doći do zaključka kako prva tri člana vremenske serije imaju jak utjecaj na trenutnu vrijednost varijable hidrološkog dotoka. Nadalje, članovi od četvrtog do dvanaestog imaju umjeren utjecaj, dok članovi od trinaestog do dvadeset petog imaju slab utjecaj na trenutnu vrijednost analizirane varijable. Prema provedenoj korelacijskoj analizi članovi ispod dvadeset i petog nemaju utjecaj na trenutnu vrijednost dotoka.

Na temelju provedene analize moguće je donijeti dvije pretpostavke, od kojih se prva odnosi na broj ulaza modela, a druga na predikcijski horizont. Dakle, s obzirom da prva tri člana vremenske serije ukazuju na jaku povezanost s trenutnom vrijednosti dotoka za pretpostaviti je kako je njihovo uključivanje u skup ulaznih varijabli nužno, dok je isplativost uključivanja članova iznad trinaestog manje vjerojatna. Stoga je za pretpostaviti kako optimalan broj članova vremenske serije koje treba uzeti kao članove ulaznog skupa varijabli leži između četvrtog i dvanaestog člana. Identična pretpostavka može se postaviti i za

60

predikcijski horizont pa je tako za očekivati kako je predviđanje dotoka tri dana unaprijed ostvarivo, dok je smisleno predviđanje iznad trinaestog dana manje vjerojatno. Optimalni predikcijski horizont očekuje se dakle između četvrtog i dvanaestog dana unaprijed.

4.1.5. Zabilježene oborine

Na slici 4.7. prikazane su godišnje količine oborina izražene u mm, mjerene u četiri različite postaje: Vinalić, Vrlika, Kijevo i Kosovo za vremenski period od 2007. do 2012. godine. Iz prikazanih podataka može se uočiti značajna razlika u količini oborina koje padnu na području gornjeg dijela sliva ovisno o godini u kojoj su zabilježene pa se može razlikovati kišna, kao što je na primjer 2010. i sušna godina kao što je to 2011. Također, može se primijetiti značajna razlika zabilježenih oborina ovisno o položaju mjerenja pa je tako prema mjerenjima u Vinaliću u 2007. godini palo manje kiše na području sliva nego prema mjerenjima provedenima u Kosovu, dok je na primjer 2009. odnos padalina obrnut, odnosno više je zabilježeno u Vinaliću, a manje u Kosovu.

Slika 4.7. Godišnja količina oborina mjerenih u Vinaliću, Vrlici, Kijevu i Kosovu za period od 2007. do 2012. godine

Različito zabilježene vrijednosti padalina na različitim mjestima sliva mogu biti posljedica slučajnog događaja, karakteristika sliva ili pak pogrešnog mjerenja. U svakom slučaju potrebno je ispitati utjecaj oborina na formiranje hidrološkog dotjecanja te odrediti koja od informacija dobivenih s različitih mjernih postaja ima najveći utjecaj na promatrani dotok. Najjednostavnija metoda kojom se može ispitati ovisnost dviju varijabli je linearna korelacija, čiji su rezultati prikazani na slici 4.8.

61

Slika 4.8. Rezultati analize podataka dobiveni linearnom korelacijom između oborina i protoka

Slika 4.8. prikazuje utjecaju deset članova vremenske serije oborina (P)t…t-10, dobivenih mjerenjima u različitim mjernim postajama na trenutnu vrijednost varijable hidrološkog dotoka qt. Ovisnost je izražena posredstvom korelacijskog koeficijenta čiji se iznos općenito kreće u skupu vrijednost ± [0, 1]. Iako se u razmatranom slučaju radi o nelinearnom sustavu, analizom rezultata linearne korelacije prikazanih na slici 4.8. ipak se može doći do zanimljivih zaključaka. Kao prvo, može se primijetiti izrazito slaba korelacija između dostupnih podataka i promatranog dotoka, na što upućuju vrijednosti među-korelacijskog koeficijenta (engl. cross-correlation coefficient, CC) < 0,5 i time definiraju slabu povezanost varijabli. Može se zaključiti kako dostupni podaci očito nisu većinski čimbenik u formiranju otjecanja, što je u skladu s poznatim svojstvom sustava koje kaže kako rijeka Cetina većinu svojih voda prima iz podzemnog dijela sliva. Za apsolutno potvrđivanje ove tvrdnje bilo bi potrebno analizirati podatke o oborinama sa područja sliva koji se nalazi na teritoriju BiH. Druga spoznaja o odnosu oborina i dotjecanja koja proizlazi iz rezultata korelacijske analize prikazane na slici 4.8. odnosi se na informativnost podataka i kaže kako na formiranje dotjecanja u Vinaliću najveći utjecaj imaju oborine prethodnog dana pt-1 zabilježene u Vrlici, što je definirano najvećim iznosom CC koeficijenta od 0,42. Zanimljivo je primijetiti kako podaci prikupljeni u Vrlici, ali i u Kijevu, imaju veći utjecaj na varijablu hidrološkog dotjecanja u Vinaliću nego oborine mjerene u samom Vinaliću. Također, iz rezultata prikazanih na slici 4.8. može se primijetiti kašnjenje utjecaja oborina na otjecanje koje je očito povezano s geografskim položajem mjesta mjerenja oborina u odnosu na mjesto mjerenja protoka pa se tako vidi da trenutne oborine zabilježene u Kosovu najveći utjecaj na dotjecanje u Vinaliću ostvaruju tek za dva dana.

62

4.1.6. Prognozirane oborine

Za potrebe izrade doktorske disertacije su prikupljeni i podaci o prognoziranim vrijednostima oborina za područje Knina, Sinja i Imotskog do deset dana unaprijed. Prognozirane vrijednosti su dobivene simulacijski, pomoću modela ECMWF6 iz Državnog hidrometeorološkog zavoda (DHMZ), za prvih jedanaest mjeseci 2012. godine. Pritom su dostupne četiri vrijednosti i to u 6, 12, 18 i 24 sata za prva tri dana unaprijed, tri vrijednosti i to u 6, 12 i 24 sata četvrtog dana, dvije vrijednosti u 12 i 24 sata za peti, šesti, sedmi i osmi dan te jedna vrijednost za deveti dan unaprijed.

4.1.7. Temperatura

Raspoloživa vremenska serija varijable temperature mjerene u Drnišu prikazana je na slici 4.9. Na temelju grafičkog prikaza dostupnih mjerenja može se zaključiti periodičnost varijable s konstantnim oscilacijama, pri čemu se ekstremne vrijednosti kreću od nekoliko stupnjeva Celzija ispod nule do otprilike 30°C. Također, daju se primijetiti i takozvana sezonska obilježja, pri čemu se više temperature javljaju u ljetnim mjesecima, a niže temperature u zimskim mjesecima.

Slika 4.9. Vremenska serija varijable temperature mjerene u Drnišu za period od 2007. do 2012., prikazana kao funkcija vremena

6 ECMWF (European Center for Medium Range Weather Forecasting) je europski centar za srednjoročne

prognoze, a njihov ECMWF model je globalni prognostički model u horizontalnoj rezoluciji od 25km, na devedeset i jednoj vertikalnoj razini. Prognostičke karte se ažuriraju u 10 UTC i 23 UTC. Deterministička prognoza se u visokoj rezoluciji (25km i 91 razina) izračunava za 10 dana unaprijed [91].

63

Kako bi se ispitao utjecaj temperature mjerene u Drnišu na hidrološki dotok mjeren u Vinaliću, provedena je korelacijska analiza gdje su računati CC koeficijenti između vremenske serije temperature i trenutne vrijednosti protoka mjerenog u Vinaliću. Na slici 4.10. prikazane su apsolutne vrijednosti iznosa korelacijskih koeficijenata između prvih 49 članova vremenske serije temperature mjerene u Drnišu i trenutnog protoka mjerenog u Vinaliću. Apsolutne vrijednosti su korištene zbog jasnijeg prikaza, dok stvarne vrijednosti koeficijenata imaju negativnu vrijednost, što indicira negativnu korelaciju, odnosno ukazuje na odnos u kojem porast vrijednosti varijable temperature uvjetuje pad varijable hidrološkog dotjecanja. Na temelju iznosa koeficijenata može se zaključiti da je povezanost između varijabli slaba, ali da ipak postoji, pri čemu najveći korelacijski koeficijent s trenutnim protokom ostvaruje temperatura mjerena prije 25 dana i iznosi -0,397.

Slika 4.10. Rezultati korelacijske analize između temperature mjerene u Drnišu i protoka mjerenog u Vinaliću za podatke iz perioda od 2007. do 2012. godine

4.2. Uvjeti formiranja modela po načelima sustavnog pristupa

Iz perspektive sustavnog pristupa formiranju neuronskog modela, opisanog u potpoglavlju 3.5., a na temelju uvida u dostupne podatke i poznati cilj kratkoročnog predviđanja hidrološkog dotoka, može se definirati slijedeće uvjete formiranja modela za potrebe istraživanja iz ove disertacije, odnosno dati smjernice za razvoj modela. Ove smjernice predstavljaju konkretizaciju koraka sustavnog pristupa za razmatrani predmet istraživanja.

• Izlazna varijabla sustava je hidrološki dotok, a korak računanja jedan dan, što znači da se formira model za kratkoročno dnevno predviđanje hidrološkog dotoka.

• Kao ulazne varijable istražuju se mogućnost uporabe vremenskih serija dotoka (Q), oborina (P) i temperature (T), a dostupne su i vremenske prognoze oborina

64

dobivene simulacijski za deset dana unaprijed. Na temelju dostupnih podataka formiraju se vremenske serije trenutnih vrijednosti varijabli, ali i vremenske serije njihovih srednjih vrijednosti, kao i klizne srednje vrijednosti (engl. moving averages, MA), varijabla učestalosti stvarnih oborina, varijabla učestalosti prognoziranih oborina, ukupne količine oborine i vremenska varijabla ekvivalentnog dana godine. Analizom podataka, ali i istraživanjima nad samim modelom se u kasnijim fazama formiranja modela određuje skup optimalnih ulaznih varijabli.

• Za potrebe treniranja UNM-e koriste se podaci iz perioda od 2007. do 2011. godine, a podaci iz 2012. godine se koriste za ocjenu kvalitete modela. Statističkom analizom ispitana su svojstva podataka iz oba skupa, a utvrđeno je kako su ekstremne vrijednosti skupa podataka za ocjenu modela manje od ekstremnih vrijednosti skupa podataka za treniranje podataka, što je bitno s obzirom da neuronski model može obavljati predviđanja unutar opsega vrijednosti koje su mu predstavljene za vrijeme treniranja. Također, podaci o srednjoj vrijednosti protoka i standardna devijacija podataka iz skupa za treniranja približno odgovaraju vrijednostima podataka iz skupa za ocjenjivanje modela, kao što se vidi pregledom podataka prikazanih u tablici 4.1.

• Za formiranje modela koristi se dvoslojna statička unaprijedna UNM, arhitekture MLP univerzalnog aproksimatora, što znači da mreža koristi sigmoidalnu aktivacijsku funkciju u skrivenom sloju i linearnu aktivacijsku funkciju u izlaznom sloju, kao što je prikazano na slici 4.11.

• Iz dostupnih podataka ulaznih varijabli i izlazne varijable, uvažavajući pritom podjelu podataka na skup za treniranje i procjenu, formiraju se ulazni vektori i izlazni ili ciljani (engl. target) vektori.

• Neuronski modeli se formiraju u Matlab-u7, pomoću naredbe newff, uz prethodno definirani ulazni i izlazni vektor, broj neurona skrivenog sloja, trening algoritam i uvjet zaustavljanja, odnosno iznos funkcije cilja. Istražuje se mogućnost treniranja mreže pomoću osnovnog algoritma propagacije greške unatrag (engl. gradient descent, Gd), njegovog unaprjeđenja (engl. gradient descent with momentum, Gdm), Levenberg-Marquardt (LM) i Bayesian regularization (BR) algoritma, uz MSE,

7 MATLAB (engl. Matrix Laboratory) je računalni program za rješavanje različitih matematičkih problema, analizu podataka, modeliranje i simuliranje, vizualni prikaz rezultata izračuna ili simulacije i slično. Razvijen je krajem 1970. na University of New Mexico i Stanford University dostupan komercijalno od 1984. godine kao proizvod tvrtke Mathworks Incorporation. Danas svojstva MATLAB-a daleko prelaze originalni “matrični laboratorij”. Radi se o interaktivnom sustavu i programskom jeziku za opća tehnička i znanstvena izračunavanja koji pored osnovnog programa obiluje specijaliziranim alatima (engl. toolbox), od kojih je u ovom radu korištenalat za izradu neuronskih mreža (engl. neural networks tollbox). Postojanje takvog specijaliziranog alata uvelike olakšava postupak formiranja modela, a pored korištenja postojećih arhitektura i algoritama postoji i mogućnost formiranja novih. U ovom radu korištene su isključivo postojeće arhitekture i algoritmi pozivanjem odgovarajućih naredbi.

65

SSE i MAE funkcije cilja i metodu ranog zaustavljanja kao prevenciju pretreniranja mreže. Prilikom treniranja, podaci ciljanog vektora se obrađuju pomoću naredbi: removeconstantrows, mapminmax, dok se podaci ulaznog vektora uz navedeno obrađuju i pomoću naredbe fixunknowns.

• Procjena modela se obavlja numerički, posredstvom različitih apsolutnih i relativnih mjera kvalitete te grafičkom usporedbom odziva modela sa stvarnim vrijednostima i grafičkim prikazom pogreške.

Slika 4.11. Neuronski model MLP arhitekture univerzalnog aproksimatora kreiran u Matlab-u pomoću naredbe newff

4.3. Preliminarna istraživanja

Cilj preliminarnih istraživanja je provjeriti funkcionalnost metoda predloženih u literaturi za formiranje neuronskog modela i to za jedan složen, nelinearan sustav kao što je to sliv rijeke Cetine, uz dodatnu otežavajuću okolnost osiromašenog skupa ulaznih podataka. Kao što je spomenuto u uvodu poglavlja 4, preliminarna istraživanja se mogu prikazati kroz pet faza. Inicijalno se formira model vremenske serije jedne varijable, hidrološkog dotjecanja, da bi se potom model proširivao varijablama oborine i temperature. Također, početno je formiran model za predviđanje jednog dana unaprijed, nakon čega se broj dana predviđanja povećavao kako bi se istražio mogući domet predviđanja ili takozvani predikcijski horizont.

4.3.1. Prva faza istraživanja – formiranje modela vremenske serije za predviđanje dotjecanja jedan dan unaprijed

U prvoj fazi istraživanja ispitane su mogućnosti formiranja modela vremenske serije za predviđanje dotoka rijeke Cetine u akumulaciju Peruća jedan dan unaprijed za što su korišteni podaci o izmjerenom protoku u postaji Vinalić, predstavljeni u poglavlju 4.1.2. Istraživanjima prve faze ustanovljena je mogućnost predviđanja dotoka jedan dan unaprijed pri čemu najbolje rezultate ostvaruje model koji koristi šest članova vremenske serije protoka na svom ulazu (qt-1, … , qt-6), odnosno šest ulaznih neurona te jedan skriveni neuron i jedan izlazni neuron. U svim istraživanjima prve faze korištena je MLP mreža sa svojstvom univerzalnog aproksimatora, trenirana LM algoritmom uz MSE funkciju cilja. Odziv najbolje

66

ocijenjenog modela u usporedbi sa stvarnim vrijednostima dotoka za 2012. godinu prikazan je na slici 4.12a., dok je uvećani prikaz za zimski period dat na slici 4.12b.

Slika 4.12a. Usporedba odziva modela vremenske serije za predviđanje dotoka dan unaprijed sa stvarnim vrijednostima hidrološkog dotoka mjerenog u Vinaliću, za 2012. godinu

Slika 4.12b. Uvećani prikaz usporedbe odziva modela vremenske serije za predviđanje dotoka dan unaprijed sa stvarnim vrijednostima hidrološkog dotoka mjerenog u Vinaliću

Rezultati istraživanja prikazani u tablici 4.2. definiraju predviđanje modela vrlo dobrim prema kriterijima definiranim u tablici 3.1. iz poglavlja 3.4., što potvrđuje i vizualni pregled odziva prikazan na slici 4.12a. Međutim, detaljnijom analizom odziva, odnosno pregledom uvećanog prikaza sa slike 4.12b. može se primijetiti kašnjenje predviđanja za stvarnim

67

događajem. Dakle, uvidom u rezultate istraživanja može se zaključiti kako model dobiven u prvoj fazi istraživanja, iako ostvaruje vrlo dobre rezultate prema svim korištenim kriterijima kvalitete za ocjenu modela ipak ne posjeduje dobra predikcijska svojstva jer nije sposoban predvidjeti promjenu dotoka prije nego što se ona zapravo dogodi.

Tablica 4.2. Ocjena kvalitete predviđanja modela vremenske serije jedan dan unaprijed

RMSE MAE CE PI RSR Model vremenske serije 1,287 0,639 0,918 0,103 0,288

4.3.2. Druga faza istraživanja – predviđanje dotjecanja k-dana unaprijed

U drugoj fazi istraživanja formirani su modeli vremenske serije za predviđanje dotoka više dana unaprijed i to primjenom direktne i indirektne metode s ciljem određivanja optimalne metode, prilikom čega je istraživan i domet predviđanja. Načelo predviđanja više koraka unaprijed primjenom direktne metode prikazano je na slici 4.13., dok je na slici 4.14. prikazano načelo predviđanja indirektnom metodom.

Slika 4.13. Shema NM za predviđanje k-dana unaprijed po načelu direktne metode

Kao što se vidi prikazano na slici 4.13., direktna metoda koristi jednu mrežu za predviđanje k-koraka unaprijed. Postupak formiranja modela istovjetan je onome za predviđanje jednog koraka unaprijed, samo što u ovom slučaju mreža ima k-izlaznih neurona, a osnovni zadatak je odrediti optimalni broj ulaznih NI i skrivenih NH neurona. Mreža trenirana za predviđanje k-koraka unaprijed ne može biti korištena za predviđanje nekog drugog (većeg) broja koraka unaprijed pa je to ujedno i osnovni nedostatak ove metode. U slučaju potrebe predviđanja većeg broja koraka unaprijed cijeli postupak formiranja modela potrebno je provesti ponovo. Za potrebe formiranja modela u ovom slučaju je korištena MLP neuronska mreža sa svojstvom univerzalnog aproksimatora, trenirana LM algoritmom uz MSE funkciju cilja.

Indirektna metoda se temelji na uzastopnoj uporabi modela za predviđanje jednog koraka unaprijed, kao što je prikazano na slici 4.14. Kako bi se ostvarilo predviđanje svakog

68

slijedećeg koraka, odziv prethodnog modela se koristi kao član ulaznog vektora modela za predviđanje slijedećeg koraka. Ova metoda omogućava jednostavnu konstrukciju modela za predviđanje proizvoljnog broja koraka unaprijed slijednim povezivanjem modela, a nedostatak joj je taj što prosljeđivanjem predviđene vrijednosti iz prethodnog na ulaz slijedećeg koraka prosljeđuje i pogrešku što uvjetuje njezin nagli rast. Za potrebe predviđanja hidrološkog dotoka više koraka unaprijed po načelu indirektne, odnosno neizravne metode koristi se model formiran za predviđanje jednog koraka unaprijed, predstavljen u odjeljku 4.2.1.

Slika 4.14. Shema NM za predviđanje k-dana unaprijed po načelu indirektne metode

Kao što se vidi iz rezultata prikazanih u tablici 4.3., ni jedna od istraživanih metoda nije pokazala izrazitu prednost u odnosu na drugu metodu pa se izbor metode prepušta kriteriju jednostavnosti formiranja modela za pojedini slučaj.

Tablica 4.3. Usporedba numeričkih ocjena predviđanja hidrološkog dotjecanja k-dana unaprijed pomoću direktne i indirektne metode

korak Indirektna metoda Direktna metoda k RMSE MAE CE PI RSR RMSE MAE CE PI RSR 1 1,287 0,639 0,918 0,103 0,288 1,302 0,630 0,917 0,083 0,284 2 2,679 1,375 0,643 -2,953 0,584 2,161 1,235 0,768 -1,573 0,469 3 3,205 1,914 0,487 -4,713 0,739 2,689 1,745 0,639 -3,021 0,590 4 3,368 2,186 0,432 -5,345 0,839 3,016 2,089 0,545 -4,090 0,664 5 3,389 2,372 0,425 -5,446 0,899 3,260 2,348 0,468 -4,963 0,717 6 3,592 2,726 0,353 -6,250 1,040 3,446 2,588 0,405 -5,674 0,822 7 3,755 2,805 0,293 -6,929 1,087 3,651 2,726 0,332 -6,493 0,872 8 3,766 2,827 0,247 -7,455 1,127 3,734 2,770 0,260 -7,311 0,889 9 4,064 3,183 0,173 -8,293 1,252 4,061 3,210 0,174 -8,276 0,981

Kao optimalan izbor bira se model dobiven direktnom metodom, formiran pomoću MLP neuronske mreže sa svojstvom univerzalnog aproksimatora, s tri ulazna neurona, dva

69

neurona u skrivenom sloju i devet izlaznih neurona. Mreža je trenirana LM algoritmom uz MSE funkciju cilja.

Numerički izražene ocjene modela prikazane u tablici 4.3. ukazuju na opadanje točnosti predviđanja s porastom broja dana unaprijed za koje se vrši predviđanje. Na temelju kriterija diskutiranih u potpoglavlju 3.4., prema najstrožem kriteriju model je dovoljno dobar za predviđanje samo jedan dan unaprijed, dok se prema najblažem kriteriju model dobiven direktnom metodom može koristiti za predviđanje do tri koraka, odnosno do tri dana unaprijed.

Nadalje, ono što se iz numeričkih ocjena ne može vidjeti je problem kašnjenja koji zapravo predstavlja osnovni nedostatak modela. Slika 4.15. prikazuje odziv modela dobivenog pomoću direktne metode za tri, šest i devet dana unaprijed u usporedbi sa stvarnim dotokom trećeg, šestog i devetog dana unaprijed. Stvarne vrijednosti prikazane su punom, a predviđene vrijednosti isprekidanom linijom, pri čemu u oba slučaja plava boja označava dotok devetog dana, crvena boja dotok šestog i zelena boja dotok trećeg dana. Ono što je bilo očekivano je da se odzivi iste boje prate po pitanju trenutka promjene, što bi značilo da je model sposoban predviđati promjenu dotoka. Međutim, pregledom slike može se jasno uočiti kašnjenje odziva modela za točno onaj broj koraka za koji se vrši predviđanje. Uočeno kašnjenje implicira nemogućnost predviđanja promjene varijable prije nego što se ona dogodi, a takvo svojstvo upućuje na zaključak o izrazito lošim prediktivnim sposobnostima modela. Uočeni nedostatak se prema preporukama iz literature rješava uvođenjem dodatne ulazne varijable koja bi mogla nagovijestiti promjenu modelirane varijable.

Slika 4.15. Predviđanje dotjecanja više dana unaprijed pomoću direktne metode i usporedba sa stvarnim dotokom mjerenim u Vinaliću, za period od 255. do 290. dana 2012. godine

70

4.3.3. Treća, četvrta i peta faza istraživanja – proširivanje skupa ulaznih varijabli modela

Treća faza istraživanja je posvećena modeliranju procesa oborine-otjecanje (engl. rainfall-runoff, RR). Cilj ove faze istraživanja je ispitati mogućnost predviđanja dotoka kao posljedice oborina, pri čemu se pretpostavlja da takav model neće pokazivati svojstva kašnjenja. Dakle, formiran je model koji koristi samo vremensku seriju oborine na svom ulazu kako bi predvidio dotok jedan dan unaprijed. S obzirom da su dostupna mjerenja iz različitih postaja, osnovni cilj istraživanja je odrediti oborine koji imaju najizraženiji utjecaj na izlaznu varijablu hidrološkog dotjecanja, ali i odrediti optimalan broj članova vremenske serije ulazne varijable. Pored rezultata analize podataka linearnom korelacijom, prikazanih u odjeljku 4.1.4., provedeno je i istraživanje nad samim modelom. Provedena korelacijska analiza, kao i rezultati eksperimenta nad modelom, najinformativnijim definiraju podatke dobivene s postaje u Vrlici. Intenzivno je istraživana i mogućnost istovremene uporabe podataka s više mjernih postaja, kao i mogućnost integracije svih podataka o oborinama s raspoloživih postaja, i to sa i bez uvažavanja različitih udaljenosti kišomjernih postaja. Naime, zbog različite udaljenosti kišomjernih postaja od mjesta mjerenja protoka pretpostavljeno je kako utjecaj oborina na protok s različitih postaja neće biti istovremen. Međutim, sve istraživane opcije nisu dale bolji rezultat od onog dobivenog samo primjenom oborina zabilježenih u Vrlici pa je to uzeto i kao optimalan slučaj.

Rezultati analize podataka prikazani na slici 4.8. ukazuju na nepovezanost članova vremenske serije oborina iznad petog člana s trenutnom vrijednosti dotoka i time sugeriraju zanemarivanje članova iznad petog prilikom formiranja ulaznog vektora. Ipak, eksperimentalna provjera nad samim modelom daje drugačije rezultate i najboljim definira model formiran na temelju 26 članova vremenske serije oborina dobivenih sa postaje Vrlika (pt-1, … , pt-26). Dakle, može se zaključiti kako linearna korelacija u ovom slučaju nije pomogla u određivanju optimalnog broja ulaza, a za pretpostaviti je kako je razlog neuspješnosti ove metode izrazita nelinearnost procesa oborine-otjecanje.

Prilikom formiranja modela iz četvrte faze istraživanja optimalnim rješenjem se pokazala MLP mreža sa svojstvom univerzalnog aproksimatora s dva skrivena neurona, trenirana BR algoritmom, uz SSE funkciju cilja, s rezultatima predviđanja prikazanim na slici 4.16. Predviđanja koja su rađena za jedan dan unaprijed ukazuju na određeno unaprjeđenje po pitanju predviđanja trenutka naglih promjena, čime se donekle otklanja nedostatak kašnjenja predviđanja, kao što se vidi iz uvećanog prikaza odziva modela oborine-otjecanje prikazanog na slici 4.16.

71

Slika 4.16. Usporedba odziva RR modela s odzivom TS modela i sa stvarnim vrijednostima dotoka mjerenog u Vinaliću za period od 290. do 335. dana 2012. godine

Međutim, ukupna točnost predviđanja u odnosu na model vremenske serije koji koristi samo protok kao ulaznu varijablu značajno je umanjena, kao što se vidi iz usporedbe prikazane u tablici 4.4. Za primijetiti je kako kriteriji prikazani u tablici 3.1 model dobiven istraživanjima treće faze definiraju nezadovoljavajućim.

Tablica 4.4. Usporedba modela vremenske serije i modela oborine-otjecanje

Model RMSE MAE CE PI RSR Model vremenske serije 1,287 0,639 0,918 0,103 0,288 Model oborine-otjecanje 7,141 4,450 -1,508 -26,597 0,902

U četvrtoj je fazi istraživana mogućnost integracije oborina i protoka za formiranje ulaznog vektora. Ideja se temelji na pretpostavci zadržavanja točnosti predviđanja svojstvenog modelima vremenske serije dotoka, uz iskorištavanje informacije o oborinama kao vjesnika naglih promjena dotoka. Pored vremenskih serija, korištene su i klizne srednje vrijednosti8 (engl. moving averages, MA) s ciljem izjednačavanja informativnosti oborina i

8 Klizne srednje vrijednosti (engl. moving averages, MA) se općenito koriste za zaglađivanje podataka (engl. smoothing), odnosno otklanjanje neželjenih oscilacija računanjem srednje vrijednosti k-uzastopnih članova vremenske serije i to za svaki član serije. Na taj način MA omogućava rad sa srednjim vrijednostima uz zadržavanje postojeće količine podataka, što je posebno bitno u radu s neuronskim mrežama. Istraživanjima u sklopu ove disertacije pokazano je kako se primjenom MA povećava informativnost podataka s obzirom da podaci oborina nakon usrednjavanja pomoću MA ostvaruju znatno veće vrijednosti korelacijskih koeficijenata s varijablom dotoka. Najveće ostvareno povećanje korelacijskog koeficijenta se dobije usrednjavanjem 16 prethodnih članova vremenske serije i iznosi CC = 0.75.

72

dotoka. Naime, korelacijski koeficijenti između trenutnog dotoka i vremenske serije oborina dvostruko su manji od iznosa autokorelacijskih koeficijenata dotoka. Slična ideja je primijenjena i u radu [24] i to temeljem pretpostavke kako mreža za vrijeme treniranja zanemaruje one varijable s manjim koeficijentima korelacije, u ovom slučaju oborine. Mogućnost primjene ove ideje istraživana je u svim kombinacijama trenutnih vrijednosti varijabli i MA vrijednosti varijabli protoka i oborina, međutim pozitivan efekt uključivanja oborina nije ostvaren. Odziv najbolje ocjenjenog modela gotovo je identičan odzivu modela vremenske serije, što znači da model efektivno ne koristi podatke o oborinama bez obzira na način na koji mu ih se prezentira. Iako je željeni efekt izostao, mogućnost primjene podataka o oborinama se u potpunosti ne odbacuje, s obzirom na činjenicu da dotok jest posljedica oborina te da je dokazana povezanost varijabli metodom linearne korelacije. Međutim, može se zaključiti kako je potrebno pronaći bolji način kojim bi se ti podaci mogli iskoristiti.

U petoj fazi istraživanja ulazni vektor modela je proširen za još jednu varijablu, temperaturu mjerenu u Drnišu koja je predstavljena u odjeljku 4.1.6. Međutim, rezultat ovog proširenja također nije donio napredak po pitanju točnosti predviđanja. Štoviše, ako se analiziraju rezultati prikazani u tablici 4.5., može se reći kako je uključivanje temperature značajnije unazadilo prediktivne sposobnosti modela. Ipak, za pretpostaviti je kako su loši rezultati iz pete faze istraživanja vjerojatno više posljedica prevelikog broja ulaza, odnosno pretjerane složenosti modela, nego rezultat izrazito lošeg utjecaja temperature pa se ne savjetuje odbaciti mogućnost uporabe ove varijable u daljnjem istraživanju.

Pregled svih rezultata predviđanja dotoka od prvog do devetog dana unaprijed dobiven pomoću modela formiranih preliminarnim istraživanjem, prikazan je u tablici 4.5., dok su na slici 4.17. prikazani odzivi modela u usporedbi s stvarnim vrijednostima hidrološkog dotoka.

Tablica 4.5. Rezultati predviđanja dotoka od prvog do devetog dana unaprijed pomoću modela formiranih preliminarnim istraživanjem

k Model vremenske serije (a) Model oborine-otjecanje (b) Viševeličinski model (c)

RMSE CE PI RSR RMSE CE PI RSR RMSE CE PI RSR t+1 1,30 0,92 0,08 0,28 2,07 0,79 -1,31 0,43 2,20 0,76 -1,61 0,45 t+2 2,16 0,77 -1,57 0,47 2,98 0,56 -3,89 0,64 2,95 0,57 -3,78 0,65 t+3 2,69 0,64 -3,02 0,59 3,30 0,46 -5,04 0,79 3,94 0,22 -7,63 0,88 t+4 3,02 0,55 -4,09 0,66 3,47 0,40 -5,72 0,89 4,77 -0,14 -11,7 1,00 t+5 3,26 0,47 -4,96 0,72 3,46 0,40 -5,73 0,96 5,36 -0,44 -15,1 1,06 t+6 3,45 0,41 -5,67 0,82 3,67 0,32 -6,57 1,07 5,68 -0,61 -17,1 1,04 t+7 3,65 0,33 -6,49 0,87 3,85 0,26 -7,34 1,12 5,78 -0,67 -17,8 1,06 t+8 3,73 0,26 -7,31 0,89 3,91 0,19 -8,12 1,12 5,97 -0,89 -20,2 1,03 t+9 4,06 0,17 -8,28 0,98 4,12 0,15 -8,56 1,26 6,54 -1,14 -23,1 1,08

Rezultati prikazani u tablici 4.5. ukazuju na izrazito opadajući trend kvalitete predviđanja s povećanjem predikcijskog horizonta, kao i nemogućnost da se dodavanjem varijabli, poput

73

oborine i temperature, unaprijedi kvaliteta predviđanja i otkloni osnovni nedostatak koji se očituje u kašnjenju odziva modela. Pri tom je potrebno naglasiti kako niti jedan od korištenih numeričkih kriterija nije sposoban detektirati osnovni nedostatak modela, kašnjenje predviđanja, što se jasno vidi iz grafičkog prikaza odziva modela sa slike 4.17.

Slika 4.17. Vizualna ocjena prediktivnih sposobnosti neuronskih modela (a), (b) i (c), dobivenih preliminarnim istraživanjem

Dakle, rezultati preliminarnih faza istraživanja ukazali su na postojanje problema nemogućnosti formiranja modela za točno i pravovremeno predviđanje dotoka rijeke Cetine u akumulaciju Peruća na temelju zabilježenih vremenskih serija varijabli dotoka, oborina i temperature. S obzirom da su zaključci doneseni na temelju istraživanja nad modelom, valja istaknuti kako su neuronski modeli uspješno trenirani, odnosno kako je prilikom treniranja neuronskih mreža moguće postići relativno niske iznose funkcije cilja (MSE, MAE ili SSE). Međutim, u fazi ispitivanja modeli očito pokazuju svojstva kašnjenja predviđanja i odstupanja od željene (stvarne) vrijednosti hidrološkog dotoka.

U slijedećoj (šestoj) fazi istraživana je mogućnost rješavanja problema podešavanjem koraka računanja i detektiranjem ključnih varijabli koje bi omogućile točno i pravovremeno predviđanje hidrološkog dotjecanja. U sedmoj fazi je istraživana mogućnost unaprjeđivanja osnovne ideje u vidu adaptivnog neuronskog modela, a u osmoj fazi je obavljena optimizacija adaptivnog neuronskog modela po načelima sustavnog pristupa, opisanog u potpoglavlju 3.5.

74

4.4. Neuronski model za kratkoročno predviđanje hidrološkog dotoka

Kako bi se formirao neuronski model sposoban za točno i pravovremeno predviđanje hidrološkog dotjecanja, provode se eksperimenti s ciljem određivanja ulaznih varijabli i optimalnog koraka računanja. Samo rješenje bi se moglo ukratko opisati kao reducirana direktna metoda, s obzirom da se za predviđanje dotoka k-tog dana unaprijed koristi jedna mreža sa samo jednim izlazom. Načelo rada modela prikazano je shemom na slici 4.18.

Slika 4.18. Načelna shema modela za istraživanje koraka računanja (k)

Istraživanje koje se provodi s ciljem određivanja optimalnog koraka računanja (k) sastoji se od niza eksperimenata prilikom kojih se formiraju modeli za predviđanje hidrološkog dotoka uz različite korake računanja, k ∈ [3, 9]. Za vrijeme provođenja eksperimenta broj parametara mreže, odnosno broj ulaznih neurona (Ni) i broj skrivenih neurona (Nh), drže se konstantnim kako bi se osigurala regularnost eksperimenta, a optimalne vrijednosti navedenih parametara se određuju posebnim, naknadnim istraživanjem. Eksperiment se provodi nad modelom koji vrši predviđanje za cijelu godinu i to uz skup ulaznih varijabli prikazan u tablici 4.6. U prvom koraku se koriste sve navedene varijable, a njihov pojedinačni utjecaj se kasnije istražuje kroz fazu optimizacije modela, kao što je opisano u potpoglavlju 4.5.

Tablica 4.6. Parametri modela za provođenje istraživanja optimalnog koraka računanja

Parametar Vrijednost parametra Broj skrivenih neurona (NH) 10 Broj ulaza (NI):

- Q: (qt-1, … , t-6) - f30 - Puk_30 - fk prognozirano

10

75

Prve u skupu od deset ulaznih varijabli čini 6 članova vremenske serije hidrološkog dotoka (qt-1, … , t-6). Broj od šest članova vremenske serije dotoka određen je optimalnim u preliminarnim istraživanjima prilikom formiranja modela vremenske serije. Sljedeći članovi ulaznog vektora su ukupna količina oborina u proteklih 30 dana (Puk_30) i varijabla učestalost oborina u proteklih 30 dana (f30), koje bi trebale donijeti informaciju o zasićenosti tla vodom. Posljednja varijabla navedena u tablici 4.6. je varijabla prognozirane učestalosti oborina za period predviđanja od k-dana (fk) za koju se pretpostavlja da može odigrati ulogu vjesnika naglih promjena izlazne varijable dotoka. Za vrijednost prognozirane učestalosti oborina (fk) uzima se minimum skupa prognoziranih vrijednosti sa područja sliva, izračunatih prema izrazu (4.1) iz dostupnih podataka predstavljenih u odjeljku 4.1.6.

{ }Knin Sinj Imotskimin , ,kf f f f= (4.1)

gdje su:

fKnin = prognozirana učestalost oborina za Knin, fSinj = prognozirana učestalost oborina za Sinj, fImotski = prognozirana učestalost oborina za Imotski.

S ciljem ispitivanja pouzdanosti varijable učestalosti prognozirane oborine (fk) provedena je korelacijska analiza s rezultatima prikazanim na slici 4.19. Rezultati analize svjedoče o visokoj povezanosti učestalosti prognozirane oborine definirane izrazom (4.1) i varijable učestalosti stvarne oborine za korake računanja k ≥ 7, pri čemu se najveća vrijednost korelacijskog koeficijenta (CC = 0,77) postiže za k = 8. S obzirom na navedeno, može se zaključiti pouzdanost primjene učestalosti prognozirane oborine kao ulazne varijable modela za korake računanja k ≥ 7.

Slika 4.19. Korelacijska analiza stvarne i prognozirane učestalosti oborina

S ciljem potvrđivanja rezultata korelacijske analize provedeno je istraživanje nad modelom, prilikom kojeg je formirano više neuronskih modela s različitim korakom

76

računanja k. Rezultati istraživanja prikazani su u tablici 4.7. u kojoj se uspoređuju rezultati modela koji koriste učestalost prognozirane oborine (a) i rezultati modela koji koriste učestalost stvarne oborine (b). Iako je provedeno istraživanje s ciljem dokazivanja učestalosti prognozirane oborine kao dovoljno dobre varijable, rezultati eksperimenta ističu prednost uporabe prognozirane u odnosu na učestalost stvarne oborine, kao što se može zaključiti pregledom rezultata prikazanih u tablici 4.7.

Tablica 4.7. Usporedba kvalitete predviđanja uz primjenu učestalosti prognozirane (a) i stvarne (b) oborine, za različite korake računanja (k)

k (a) (b)

RMSE CE RMSE CE 3 4,9 0,52 4,68 0,56 4 5,15 0,47 5,06 0,48 5 4,96 0,51 5,2 0,46 6 4,82 0,53 5,17 0,46 7 4,82 0,53 5,2 0,46 8 5,28 0,44 5,5 0,4 9 5,73 0,36 5,5 0,41

Na temelju rezultata prikazanih u tablici 4.7. može se definirati i optimalan korak računanja (k). Kao optimalan korak računanja uzima se onaj korak za koji model postiže najbolje rezultate prema korištenim kriterijima za ocjenjivanje modela, a kako je cilj što veći domet predviđanja, može se zaključiti kako je optimalan korak računanja k = 7. Dakle, neuronski model za kratkoročno predviđanje hidrološkog dotoka formira se za predviđanje dotoka sedam dana unaprijed.

Na slici 4.20. prikazani su odzivi modela koji koriste skup ulaznih varijabli iz tablice 4.6., pri čemu je crvenom je označen odziv modela koji koristi učestalost prognozirane oborine, a zelenom je bojom prikazan odziv modela koji koristi učestalost stvarne oborine, dok je vrijednost dotoka mjerenog u Vinaliću prikazana plavom bojom. Uvećani prikaza usporedbe odziva modela sa stvarnim vrijednostima dotoka prikazan je na slici 4.21. radi bolje ocjene točnosti predviđanja modela.

77

Slika 4.20. Usporedba dnevnog predviđanja dotoka uz primjenu stvarne i prognozirane učestalosti oborina za k = 7, za cijelu 2012. godinu

Slika 4.21. Usporedba dnevnog predviđanja dotoka uz primjenu stvarne i prognozirane učestalosti oborina za k = 7, uvećani prikaz (jesen – 2012.)

Analizom rezultata sa slika 4.20. i 4.21. može se zaključiti kako se primjenom skupa ulaznih varijabli iz tablice 4.6. uz korak računanja k = 7 uspješno rješava problem kašnjenja predviđanja modela. Pritom se može primijetiti kako varijabla učestalosti prognoziranih oborina (fk) izravno utječe na iznos optimalnog koraka računanja, što je očekivano s obzirom da je njena pouzdanost veća za veće korake računanja. Također, može se i potvrditi rezultate numeričke analize prikazane u tablici 4.7., odnosno zaključiti kako je odziv model koji koristi učestalost prognozirane oborine bolji od modela koji koristi učestalost stvarne oborine.

78

Prednost modela koji koristi učestalost prognozirane oborine ističe se kod predviđanja trenutka promjene dotoka. Iako je model koji koristi učestalost prognozirane oborine i numerički i grafički bolje ocijenjen ipak se mora istaknuti uočena pretjerana oscilatornost odziva modela. Otklanjanje ovog nedostatka i općenito povećanje točnosti predviđanja modela predstavljaju predmet istraživanja narednih potpoglavlja.

Valja napomenuti kako su svi modeli trenirani vrijednostima stvarne učestalosti oborina, a prognozirane vrijednosti su korištene samo u fazi ispitivanja modela (za 2012. godinu), što je prvenstveno uvjetovano težom dostupnosti prognoziranih vrijednosti.

4.5. Adaptivni neuronski model

Iako je optimizacijom koraka računanja uz primjenu skupa ulaznih varijabli iz tablice 4.6. riješen problem kašnjenja odziva modela, za pretpostaviti je kako se točnost predviđanja može povećati. Ideja za povećanje točnosti predviđanja se temelji na činjenici kako se varijabla hidrološkog dotjecanja različito mijenja u različitim godišnjim dobima pa je moguće da se iste vrijednosti ulaznih varijabli različito odraze na prognoziranu varijablu u različitim godišnjim dobima. Primjeri ulazno-izlaznih parova iz jednog doba godine mogu, dakle, „zbuniti“ model i rezultirati krivim predviđanjem u nekom drugom dijelu godine, ukoliko se mreža trenira primjerima iz cijele godine. Za pretpostaviti je kako bi model koji se sastoji od više specijaliziranih neuronskih mreža, treniranih samo podacima iz određenog dijela godine, osigurao točnije predviđanje od modela koji je treniran primjerima iz cijele godine. Takav model se može nazvati adaptivni neuronski model (ANM), a prije njegovog formiranja ključno je još odrediti i kriterij prema kojem će se obaviti podjela, odnosno kriteriji prema kojima će se prvo trenirati, a potom i koristiti pojedini podmodeli. U svom inicijalnom obliku ANM se sastoji od četiri neuronske mreže, koje se mogu nazvati podmodelima A, B, C, D, kao što je prikazano na slici 4.22. Raspored primjene pojedinog podmodela, odnosno kriterij selekcije signala podmodela A, B, C i D definiran je u tablici 4.8.

Tablica 4.8. Kriterij odabira podmodela u ovisnosti o dobu godine F(t)

Podmodel Dan (t)

Svojstva dotoka (oscilatornost/trend) F(t)

A 150 – 239 manja / padajući 1 B 240 – 329 manja / rastući 2 C (330 – 366) & (1 – 59) veća / padajući 3 D 60 - 149 promjenjivo 4

Ako se dani u godini označe varijablom t ∈ [1, 366], tada se doba godine može označiti funkcijom F(t) ∈ [1, 4], pri čemu je brojem t = 1 označen dan 1. siječnja, a brojem t = 366 dan 31. prosinca (2012. godina ima 366 dana). Funkcijom F(t), koju generira Generator signala za

79

izbor modela, određuje se koji se model koristi ovisno o vrijednosti dana t pa se tako u prvom periodu od 150. do 239. dana, za F(t) = 1 koristi model A, u drugom periodu, za F(t) = 2 se koristi model B, u trećem periodu za F(t) = 3 koristi se model C i za F(t) = 4 koristi se model D. Analizom podataka o hidrološkom dotjecanju mjerenom u postaji Vinalić, prikazanom na u odjeljku 4.1.4., uočeno je kako se svojstva varijable dotjecanja mogu vezati uz godišnje doba. Pri tom se pod svojstvima varijable dotoka misli prvenstveno na oscilatornost, koja može biti veća ili manja te trend, koji može biti rastući ili padajući. Pored kriterija oscilatornosti i trenda, prilikom podjele na podmodel korišten je i treći kriterij koji nije eksplicitno prikazan u tablici 4.8., a radi se o ravnomjernosti podjele podataka. Ravnomjerna podjela podataka se koristi kako bi se osigurala dovoljna količina podataka i ravnopravni uvjeti treniranja mreža za svaki podmodel. Dakle, način na koji su podmodeli podijeljeni ne odgovara u potpunosti kalendarskoj podjeli godišnjih doba, nego se temelji na analizi dotoka iz odjeljka 4.1.4. uz uvažavanje ravnomjerne podjele podataka. Adaptivni neuronski model također vrši predviđanja hidrološkog dotoka sedam dana unaprijed (qt+6).

80

Slika 4.22. Načelna inicijalna shema adaptivnog neuronskog modela (ANM)

81

4.6. Optimizacija adaptivnog neuronskog modela

Istraživanja za optimizaciju adaptivnog neuronskog modela polaze od pretpostavke da je optimalan broj članova adaptivnog neuronskog modela četiri, a konačan broj članova rezultat je procesa optimizacije. Pored određivanja optimalnog broja članova adaptivnog modela, osnovni zadatak ove faze istraživanja je optimizacija svakog podmodela, što znači određivanje skupa ulaznih varijabli, odnosno broja ulaznih neurona, određivanje optimalnog broja skrivenih neurona i određivanje optimalnog algoritma za treniranje mreže kao i funkcije cilja pa se u tu svrhu provedena istraživanja predstavljena u narednim odjeljcima ovog potpoglavlja.

Prvo istraživanje se provodi kako bi se odredili optimalni članovi ulaznog vektora pri čemu se istražuje utjecaj različitih varijabli na izlaznu varijablu dotoka i to za svaki od podmodela zasebno. Naime, pretpostavlja se da će modeli specijalizirani za predviđanje u različita godišnja doba imati različitu korist od različitih varijabli. Kao potencijalne članove ulaznog vektora istražuju se varijable prikazane u tablici 4.9. Varijable su formirane iz dostupnih podataka prikazanih u potpoglavlju 4.1.

Tablica 4.9. Potencijalne ulazne varijable članova adaptivnog neuronskog modela

R.Br. Varijabla Oznaka 1. vremenska serija varijable protoka (Vinalić) (Q)t-i 2. vremenska serija srednjih vrijednosti k-članova protoka (Vinalić) A(Q)k-j 3. vremenska serija varijable oborina (Vrlika) (P)t-n 4. vremenska serija srednjih vrijednosti k-članova oborina (Vrlika) A(P)k-m 5. vremenska serija varijable temperature (Drniš) (T)t-p 6. vremenska serija srednjih vrijednosti k-članova temperature (Drniš) A(T)k-r 7. učestalosti oborina (Vrlika) u proteklih mjesec dana fP30 8. učestalosti predviđene oborine (simulacija) za period predviđanja fk 9. ukupna količina oborine (Vrlika) u proteklih mjesec dana P30

Eksperiment za određivanje članova ulaznog vektora, odnosno ulaznih varijabli modela, služi ujedno i za određivanje broja ulaznih neurona i provodi se na slijedeći način:

1. broj skrivenih neurona i algoritam za treniranje se drže konstantnim, pri čemu se koriste: broj skrivenih neurona Nh = 10, BR algoritam za treniranje mreže i SSE funkcija cilja;

2. provodi se niz eksperimenta od (a) do (g) pri čemu se mijenjaju članovi ulaznog vektora prema tablici 4.10.;

3. ocjenjuje se kvaliteta predviđanja modela dobivenog u svakom eksperimentu i to pomoću RMSE, MAE, CE i PI kriterija kvalitete;

82

4. najbolje ocijenjen model definira optimalne članove ulaznog vektora, odnosno optimalni broj ulaznih neurona (Ni).

Tablica 4.10. Organizacija eksperimenta za određivanje ulaznih varijabli

(a) (b) (c) (d) (e) (f) (g) OPTI (Q)t-i 6 i∈[1,6] iopti iopti iopti iopti iopti iopti A(Q)t-j 0 0 j∈[1,3] jopti jopti jopti jopti jopti (P)t-n 0 0 0 n∈[1,3] nopti nopti nopti nopti A(P)t-m 0 0 0 0 m∈[1,3] mopti mopti mopti (T)t-p 0 0 0 0 0 p∈[1,3] popti popti A(T)t-r 0 0 0 0 0 0 r∈[1,3] ropti fP30 0/1 fP30_opti fP30_opti fP30_opti fP30_opti fP30_opti fP30_opti fP30_opti fk 0/1 fk_opti fk_opti fk_opti fk_opti fk_opti fk_opti fk_opti P30 0/1 P30_opti P30_opti P30_opti P30_opti P30_opti P30_opti P30_opti

Pobliže objašnjeno, eksperiment (a) iz tablice 4.10. se provodi kako bi se ispitao pojedinačni utjecaj varijabli fP30, P30 i fk na kvalitetu predviđanja hidrološkog dotoka s korakom k. Eksperimentima (b), (d) i (f) se istražuje utjecaj varijabli dotoka, oborine i temperature na predviđanje dotoka. Eksperimentima (b), (d) i (f) se određuje optimalan broj članova vremenske serije dotoka (Q)t-i, oborine (P)t-n i temperature (T)t-p, pri čemu se „i“, „n“, i „p“ mijenjaju od 1 do 6. Eksperimentima (c), (e) i (g) se istražuje utjecaj na varijablu dotoka i određuje optimalan broj članova vremenske serije srednjih vrijednosti varijabli dotoka A(Q)k-j, oborine A(P)k-m i temperature A(T)k-r, pri čemu se „j“, „m“ i „r“ mijenjaju od 1 do 3, što znači da se ispituje utjecaj srednjih tjednih vrijednosti varijabli protoka, oborine i temperature od jednog do tri prethodna tjedna. Eksperimenti (a) do (g) predstavljaju postepeno proširivanje skupa ulaznih varijabli, s obzirom da se varijable iz svakog prethodnog eksperimenta zadržavaju ukoliko se ustanovi njen doprinos po pitanju točnosti predviđanja izlazne varijable. Može se napomenuti kako se ovaj poopćeni zapis može i konkretizirati te umjesto k pisati broj 7, s obzirom da je u potpoglavlju 4.3. već određen optimalni koraka računanja.

Drugo, skupina istraživanja se provodi s ciljem određivanja optimalnog broja neurona skrivenog sloja, optimalnog algoritma za treniranje mreže i funkcije cilja. Za određivanje optimalnog broja skrivenih neurona pretražuje se područje mogućih rješenja Nh ∈ [1,20] i to za svaki algoritam treniranja mreže. Pritom se koriste: osnovni algoritam propagacije greške unatrag (engl. gradient descent, GD), njegovo unaprjeđenje (engl. gradient descent with momentum, GDm), te Levenberg-Marquardt (LM) i Bayesian Regularization (BR) algoritmi. Na kraju ovog opsežnog eksperimenta se istražuje i utjecaj različitih funkcija cilja na kvalitetu predviđanja i to MSE, MAE i SSE, gdje se ponovno provodi eksperiment mijenjajući broj skrivenih neurona uz prethodno određeni optimalni algoritam treniranja.

Opisani eksperimenti provode se za svaki podmodel adaptivnog neuronskog modela (ANM) zasebno, a zaključak o optimalnom broju članova ANM-a donosi se na temelju

83

uspješnosti podmodela te se u slučaju neuspješnog predviđanje odgovarajuće područje dodatno dijeli. Svi podmodeli su formirani s obzirom na optimalan korak k = 7, određen u potpoglavlju 4.4., što znači da svi modeli vrše predviđanje dotoka sedam dana unaprijed (qt+6).

4.6.1. Optimizacija podmodela A

Iz rezultata prikazanih u tablici 4.11. vidi se kako najbolje rezultate prema RMSE, CE i PI kriteriju kvalitete ostvaruje model dobiven nakon eksperimenta (g), što znači da optimalni model koristi tri člana vremenske serije protoka ((Q)t-3), učestalost prognozirane oborine za period predviđanja od sedam dana (f7) i srednju vrijednost temperature prethodnih sedam dana (A(T)k-1). Dakle, može se zaključiti kako je optimalan broj ulaza modela A jednak pet (NiA = 5).

Tablica 4.11. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela A (NiA)

(a) (b) (c) (d) (e) (f) (g) RMSE 0,545 0,434 0,503 0,53 0,562 0,57 0,403 MAE 0,293 0,215 0,24 0,294 0,33 0,391 0,234 CE 0,864 0,914 0,884 0,873 0,856 0,851 0,926 PI 0,502 0,686 0,578 0,535 0,473 0,456 0,728

Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona, optimalnog algoritma za treniranje mreže te odgovarajuće funkcije cilja, prikazani u tablici 4.12., optimalnim definiraju mrežu sa sedam neurona skrivenog sloja (NhA = 7), treniranu LM algoritmom uz MAE funkciju cilja.

Tablica 4.12. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona (NhA), optimalnog algoritma i odgovarajuće funkcije cilja podmodela A

Gd + MSE (Nh = 7) Gdm + MSE (Nh = 7) LM + MAE (Nh = 7) BR + SSE (Nh = 7) RMSE 0,46 0,56 0,32 0,38 MAE 0,28 0,29 0,21 0,19 CE 0,90 0,86 0,95 0,94 PI 0,64 0,47 0,83 0,76

U konačnom se može zaključiti kako se optimalan model A dobije treniranjem MLP

neuronske mreže s pet ulaznih, sedam skrivenih i jednim izlaznim neuronom, pomoću LM algoritma, uz MAE funkciju cilja. Grafička ocjena kvalitete predviđanja optimalnog modela A za područje predviđanja od 150. do 239. dana u godini prikazana je na slici 4.23. Iz prikazanih rezultata može se zaključiti uspješnost formiranja podmodela A.

84

Slika 4.23. Usporedba odziva optimalnog modela A s mjerenim vrijednostima dotoka

4.6.2. Optimizacija podmodela B

Iz rezultata prikazanih u tablici 4.13. vidi se kako najbolje rezultate prema svim korištenim kriterijima kvalitete ostvaruje model dobiven nakon eksperimenta (f). To znači da optimalni model koristi šest članova vremenske serije protoka ((Q)t-6), učestalost prognozirane oborine (f7) i jedan član vremenske serije varijable temperature, odnosno temperaturu prethodnog dana (θt-1), Dakle, optimalan model B ima osam ulaza (NiB = 8).

Tablica 4.13. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela B (NiB)

(a) (b) (c) (d) (e) (f) (g) RMSE 2,64 2,67 2,67 3,00 2,86 2,48 2,63 MAE 1,95 1,96 2,0 1,9 2,05 1,68 1,7 CE 0,51 0,50 0,51 0,371 0,43 0,57 0,52 PI -0,9 -0,93 -0,93 -1,45 -1,21 -0,67 -0,87

Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona, optimalnog algoritma za treniranje mreže te odgovarajuće funkcije cilja, prikazani su u tablici 4.14. Na temelju rezultata prikazanih u tablicama 4.13. i 4.14. može se zaključiti kako se optimalan model B dobije treniranjem MLP neuronske mreže s osam ulaznih, devetnaest skrivenih i jednim izlaznim neuronom, pomoću BR algoritma te uz SSE funkciju cilja.

85

Tablica 4.14. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona (NhB), optimalnog algoritma i odgovarajuće funkcije cilja podmodela B

Gd + MSE (Nh = 12) Gdm + MSE (Nh = 4) LM + MAE (Nh = 3) BR + SSE (Nh = 19)

RMSE 2,70 2,48 2,39 2,39 MAE 1,90 1,57 1,59 1,48 CE 0,49 0,57 0,60 0,60 PI -0,97 -0,67 -0,55 -0,54

Odziv optimalnog modela B u usporedbi sa stvarnim vrijednostima dotoka za područje predviđanja od 240. do 329. dana u godini prikazana je na slici 4.24. Na temelju prikazanih rezultata može se zaključiti uspješnost formiranja podmodela B koji uglavnom ispravno predviđa trenutak nagle promjene dotoka.

Slika 4.24. Usporedba odziva optimalnog modela B s mjerenim vrijednostima dotoka

4.6.3. Optimizacija podmodela C

Iz rezultata prikazanih u tablici 4.15. vidi se kako najbolje rezultate prema svim korištenim kriterijima kvalitete ostvaruje model dobiven nakon eksperimenta (a). To znači da optimalni model koristi šest članova vremenske serije protoka ((Q)t-6) i učestalost prognoziranih oborina (f7), odnosno da optimalan broj ulaza modela C iznosi sedam (NiC = 7). Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona, prikazani u tablici 4.16., optimalnim definiraju mrežu s trinaest neurona skrivenog sloja (NhC = 13), treniranu LM algoritmom uz MAE funkciju cilja.

86

Tablica 4.15. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela C (NiC)

(a) (b) (c) (d) (e) (f) (g) RMSE 6,49 8,59 8,62 7,60 7,64 9,22 10,13 MAE 5,12 6,32 5,98 5,55 5,85 6,85 6,69 CE 0,38 -0,09 -0,10 0,14 0,13 -0,26 -0,52 PI -1,07 -2,62 -2,65 -1,84 -1,87 -3,18 -4,04

Tablica 4.16. Rezultati eksperimenta za određivanje optimalnog broja neurona skrivenog sloja (NhC), optimalnog algoritma i odgovarajuće funkcije cilja podmodela C

Gd + MAE (Nh = 10) Gdm + MAE (Nh = 17) LM + MAE (Nh = 13) BR + SSE (Nh = 10)

RMSE 4,35 4,65 3,95 6,49 MAE 3,06 3,01 2,83 5,12 CE 0,72 0,68 0,77 0,38 PI 0,07 -0,06 0,23 -1,07

Rezultati istraživanja optimalnim podmodelom C definiraju model dobiven treniranjem MLP neuronske mreže sa sedam ulaznih, trinaest skrivenih i jednim izlaznim neuronom, pomoću LM algoritma te uz MAE funkciju cilja. Međutim, odziv optimalnog podmodela C, prikazan na slici 4.25., ukazuje na lošiju kvalitetu predviđanja u periodu od 1. do 59. dana, koja se očituje u pojavi neželjenih oscilacija.

Slika 4.25. Usporedba odziva optimalnog modela C s mjerenim vrijednostima dotoka

Za pretpostaviti je kako su uočene oscilacije vjerojatno posljedica netočnih prognoza oborina, odnosno posljedica utjecaja učestalosti prognozirane oborine s obzirom da je

87

upravo ta varijabla „okidač“ za predviđanje naglih promjena dotoka. U prilog ovoj pretpostavci ide i prikaz odziva sa slike 4.20. iz potpoglavlja 4.4. na kojoj su uspoređeni odzivi modela sa stvarnim i prognoziranim vrijednostima učestalosti oborina, gdje su također izražene oscilacije odziva modela koji koristi prognoziranu učestalost oborine. Osim utjecaja varijable f7, lošem predviđanju modela zasigurno pridonose i različiti scenariji koji su mogući u godišnjem dobu koje modelira podmodel C. Naime, kao što se vidi prikazano na slici 4.4. dotok iz 2009. i 2010. se u razmatranom dobu godine drastično razlikuje od dotoka iz 2007., 2008., 2011. Međutim, model je treniran primjerima iz jedne i druge skupine pa se pogrešno predviđanje modela možda može objasniti loše izabranim primjerima.

Optimalno rješenje uočenog problema bi bilo uvođenje novog kriterija, koji bi se mogao nazvati „kriterijem kišne i sušne godine“ te razviti jednu grupu modela za predviđanje u slučaju kišne, a drugu grupu za predviđanje u slučaju sušne godine. Cijeli postupak formiranja modela bi tada postao složeniji i barem dvostruko obimniji. Uz to, takva bi istraživanja zahtijevala puno veći broj primjera, odnosno dostupnost puno veće baze podataka pa se prvenstveno zbog ograničene dostupnosti podataka u ovom radu predlaže drugačije rješenje problema, pri čemu su istraživane dvije ideje.

Prva ideja se temelji na računanju klizne srednje vrijednosti zadnja tri člana (MA3) vremenske serije predviđanog dotoka. Kao što je već objašnjeno u odjeljku 4.3.3., klizne srednje vrijednosti se koristi kako bi se „izgladilo“ vremensku seriju pa su iz istog razloga korištene i u ovom radu kako bi se smanjilo uočene oscilacije odziva. Druga ideja se temelji na primjeni cjelogodišnjeg (CG) modela za predviđanje u periodu u kojem ANM ne daje zadovoljavajući odziv. Pretpostavlja se da će model koji nije specijaliziran biti robusniji, odnosno manje osjetljiv pa će i manje griješiti. Rezultati eksperimenta unaprjeđenja predviđanja modela C metodom „usrednjavanja odziva“, za period predviđanja od 1. do 59. dana, prikazani su u tablici 4.17. te na slici 4.26. Rezultati uspješnosti primjene cjelogodišnjeg modela za predviđanje sa i bez usrednjavanja odziva prikazani su također u tablici 4.17. te na slici 4.27.

Tablica 4.17. Rezultati metode „usrednjavanja odziva“ modela C

Model RMSE MAE CE PI Model_C || qt+6 3,211 2,441 -4,335 -22,385 Model_C_MA3 || qt+5 2,106 1,686 -1,237 -7,417 CG model || qt+6 2,362 1,369 -1,887 -11,651 CG model_MA3 || qt+5 1,794 1,309 -0,624 -5,110

U tablici 4.17. prikazani su rezultati ocjenjivanja modela u usporedbi s dotokom sedmog (qt+6), ali i šestog dana unaprijed (qt+5). Naime, s obzirom da se usrednjavanje provodi računanjem srednje vrijednosti posljednja tri člana vremenske serije odziva modela (qt+4, qt+5, qt+6), ispravno bi bilo tretirati usrednjenu vrijednost odziva modela kao predviđanje

88

dotoka šestog dana unaprijed (qt+5). Jasno je da se u tom slučaju predikcijski horizont smanjuje za jedan dan, ali ako se analiziraju rezultati iz tablice 4.17. moguće je uočiti značajan napredak po pitanju točnosti predviđanja pa se smanjenje dometa predviđanja može opravdati povećanjem točnosti.

Slika 4.26. Usporedba predviđanja modela C sa i bez usrednjavanja odziva sa stvarnim vrijednostima hidrološkog dotoka

Slika 4.27. Usporedba odziva cjelogodišnjeg modela s usrednjavanjem odziva sa stvarnim vrijednostima hidrološkog dotoka za period predviđanja od 1. do 59. dana

89

Na temelju rezultata iz tablice 4.17. te slika 4.26. i 4.27. može se zaključiti korisnost primjene cjelogodišnjeg (CG) modela kao i metode usrednjavanja odziva, koji doprinose povećanju točnosti predviđanja i općenitom smanjenju oscilacija odziva. Izneseni zaključak sugerira proširenje broja članova adaptivnog modela sa četiri na pet. Dakle, model C se koristi samo za predviđanje u periodu od 330. do 366. dana u godini, dok se za predviđanja od 1. do 59. dana koristi CG model. Za napomenuti je kako je u provedenom istraživanju korišten osnovni cjelogodišnji model čija se optimizacija provodi na način prikazan u odjeljku 4.6.5. Također, metoda usrednjavanja odziva primjenom kliznih srednjih vrijednosti (MA) bit će primijenjena na cijeli model, ne samo na podmodel C, što podrazumijeva i uvođenje dodatnog člana za obradu signala na izlazu modela, kao što je detaljnije objašnjeno u potpoglavlju 4.7.

4.6.4. Optimizacija podmodela D

Iz rezultata prikazanih u tablici 4.18. vidi se kako najbolje rezultate prema svim razmatranim kriterijima kvalitete ostvaruje model dobiven nakon provođenja eksperimenta (g), što znači da je optimalno rješenje model koji koristi dva člana vremenske serije protoka ((Q)t-2), učestalost prognozirane oborine za period predviđanja od sedam dana (f7), tri člana vremenske serije oborina ((P)t-3), jedan član vremenske serije temperature, odnosno temperaturu prethodnog dana (θt-1) i tri uzastopne srednje sedmodnevne vrijednosti temperature (A(T)k-3). S obzirom na navedeno zaključuje se kako je optimalan broj ulaza modela D, NiD = 10. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona, optimalnog algoritma za treniranje mreže te odgovarajuće funkcije cilja prikazani su u tablici 4.19.

Tablica 4.18. Rezultati eksperimenta za određivanje optimalnog broja ulaza modela D (NiD)

(a) (b) (c) (d) (e) (f) (g) RMSE 3,99 3,96 3,98 3,44 3,98 3,35 3,04 MAE 3,24 3,12 3,10 2,75 3,01 2,69 2,28 CE 0,50 0,50 0,50 0,62 0,50 0,64 0,71 PI -2,45 -2,40 -2,43 -1,57 -2,43 -1,43 -1,01

Tablica 4.19. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona (NhD), optimalnog algoritma i odgovarajuće funkcije cilja podmodela D

Gd + MSE (Nh = 6) Gdm + MAE (Nh = 7) LM + MAE (Nh = 2) BR + SSE (Nh = 8)

RMSE 3,15 3,08 2,70 2,77 MAE 2,47 2,11 1,91 2,16 CE 0,68 0,70 0,77 0,76 PI -1,16 -1,06 -0,59 -0,66

90

Rezultati eksperimenta iz tablice 4.19., optimalnim definiraju mrežu s dva neurona skrivenog sloja (NhD = 2), treniranu LM algoritmom, uz MAE funkciju cilja. U konačnom se može zaključiti kako se optimalan model D dobije treniranjem MLP neuronske mreže s deset ulaznih, dva skrivena i jednim izlaznim neuronom pomoću LM algoritma, uz MAE funkciju cilja. Odziv optimalnog podmodela D u usporedbi sa stvarnim vrijednostima dotoka za period predviđanja od 60. do 149. dana 2012. godine prikazan je na slici 4.28. Na temelju prikazane usporedbe može se primijetiti kako podmodel D ispravno predviđa promjene modelirane varijable hidrološkog dotoka bez naznaka kašnjenja za stvarnim vrijednostima.

Slika 4.28. Usporedba odziva optimalnog modela D s mjerenim vrijednostima dotoka

4.6.5. Optimizacija cjelogodišnjeg modela

Iz odjeljka 4.6.3. o optimizaciji podmodela C proizlazi zaključak o prednosti uporabe cjelogodišnjeg (CG) modela u odnosu na podmodel C za predviđanja hidrološkog dotoka u periodu od 1. do 59. dana u godini. Prilikom usporedbe iznesene u odjeljku 4.6.3. korišten je osnovni neuronski model, formiran prema uvjetima opisanim u potpoglavlju 4.4., stoga je u ovom odjeljku provedena optimizacija CG modela na isti način na koji su optimizirani i ostali podmodeli. Za napomenuti je kako je model optimiziran za predviđanja u periodu od 1. do 59. dana, s obzirom da se koristi kao sastavni dio adaptivnog modela upravo za predviđanja u tom periodu.

Iz rezultata prikazanih u tablici 4.20. vidi se kako najbolje rezultate prema svim razmatranim kriterijima kvalitete ostvaruje model dobiven nakon provođenja eksperimenta (c), što znači da optimalni model koristi pet članova vremenske serije protoka ((Q)t-5),

91

učestalost oborina u prethodnih trideset dana (fP30), učestalost prognoziranih oborina za period predviđanja od sedam dana (f7) i jednu srednju sedmodnevnu vrijednost protoka (A(Q)k-1). Optimalan broj ulaza ukupnog cjelogodišnjeg modela je osam (Ni = 8).

Tablica 4.20. Rezultati eksperimenta za određivanje optimalnog broja ulaza cjelogodišnjeg modela (Ni)

(a) (b) (c) (d) (e) (f) (g) RMSE 2,39 2,25 1,83 2,56 2,38 5,41 6,21 MAE 1,87 1,90 1,46 2,03 1,82 4,09 5,19 CE -1,92 -1,59 -0,72 -2,36 -1,90 -14,02 -18,79 PI -34,20 -30,26 -19,67 -39,43 -33,91 -179,91 -237,34

Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona, optimalnog algoritma za treniranje mreže te odgovarajuće funkcije cilja, prikazani u tablici 4.21., optimalnim definiraju mrežu s dvanaest neurona skrivenog sloja (Nh = 12), treniranu Gdm algoritmom uz MAE funkciju cilja.

Tablica 4.21. Rezultati eksperimenta za određivanje optimalnog broja skrivenih neurona Nh, optimalnog algoritma i odgovarajuće funkcije cilja CG modela

Gd + MAE (Nh = 11) Gdm + MAE (Nh = 12) LM + MAE (Nh = 16) BR + SSE (Nh = 10)

RMSE 1,42 1,23 1,56 1,83 MAE 1,12 0,96 1,16 1,46 CE -0,03 0,23 -0,26 -0,72 PI -11,44 -8,29 -14,13 -19,67

U konačnom se može zaključiti kako se optimalan cjelogodišnji model za predviđanje u početnom dijelu godine dobije treniranjem MLP neuronske mreže s osam ulaznih, dvanaest skrivenih i jednim izlaznim neuronom, pomoću Gdm algoritma uz MAE funkciju cilja. Odziv optimalnog modela, odnosno vizualna ocjena njegove kvalitete predviđanja prikazana je na slici 4.29. Iz prikazane usporedbe odziva sa stvarnim dotokom može se primijetiti kako CG model ispravno predviđa promjene dotoka, ali i daje pretjerano oscilatoran odziv. Pretjerana oscilatornost odziva otklanja se usrednjavanjem pomoću kliznih srednjih vrijednosti MA, kao što je objašnjeno u odjeljku 4.6.3. te prikazano u slijedećem potpoglavlju 4.7.

92

Slika 4.29. Usporedba odziva optimiziranog CG modela s mjerenim vrijednostima dotoka

4.7. Optimizirani adaptivni neuronski model (OANM) za kratkoročno predviđanje hidrološkog dotoka

Optimizirani adaptivni neuronski model sastoji se od pet podmodela, odnosno pet UNM-a specijaliziranih za predviđanje u različito doba godine i služi za predviđanje hidrološke varijable dotoka rijeke Cetine u akumulaciju Peruća šestog dana unaprijed (qt+5). Za predviđanje model koristi ukupno 16 varijabli koje se nalaze prikazane u tablici 4.22.

Tablica 4.22. Ulazne varijable OANM-a

R.Br. Varijabla Oznaka Količina 1. vremenska serija varijable dotoka (Vinalić) (Q)t-i 6 2. serija srednjih vrijednosti k-članova serije dotoka (Vinalić) A(Q)k-j 1 3. vremenska serija varijable oborina (Vrlika) (P)t-n 3 4. vremenska serija varijable temperature (Drniš) (T)t-p 1 5. serija srednjih vrijednosti k-članova serije temp.(Drniš) A(T)k-r 3 6. učestalosti oborina (Vrlika) u proteklih mjesec dana fP30 1 7. učestalost predviđene oborine za narednih 7 dana f7 1

UKUPAN BROJ ULAZNIH VARIJABLI 16

Strukturna shema optimiziranog adaptivnog neuronskog modela (OANM-a) nalazi se prikazana na slici 4.30., a rezultati predviđanja kao i ocjena kvalitete predviđanja modela prikazani su i komentirani u slijedećem poglavlju.

93

Slika 4.30. Strukturni prikaz optimiziranog adaptivnog neuronskog modela (OANM)

94

OANM funkcionira na način da svaki podmodel generira odziv na temelju vrijednosti ulaznih varijabli prikazanih u tablici 4.22. Odzivi podmodela se koriste prema rasporedu prikazanom u tablici 4.23., tako što selektor signala, ovisno o vrijednosti funkcije F(t) ∈ {1,2,3,4,5}, vrši izbor signala podmodela sa svog ulaza.

Tablica 4.23. Kriterij odabira podmodela OANM-a ovisno o dobu godine

Podmodel t F(t) A 150 – 239 1 B 240 – 329 2 C 330 – 366 3

CG 1 – 59 4 D 60 - 149 5

Konačno predviđanje hidrološkog dotoka šestog dana unaprijed se dobije računanjem klizne srednje vrijednosti posljednja tri člana vremenske serije predviđenog dotoka, prema izrazu (4.2). Usrednjavanje vremenske serije odziva modela koristi se kako bi se smanjile nepoželjne oscilacije odziva, kao što je objašnjeno u odjeljku 4.6.3.

( )6

4 5 65 3

4

13 3

t t tt t j

j

q q qq MA Q q + + ++ +

=

+ += = =∑% (4.2)

95

5. Analiza rezultata simulacije: ocjena predviđanja optimiziranog adaptivnog neuronskog modela (OANM-a)

Kvaliteta modela za predviđanje vrijednosti varijable se općenito ocjenjuje numerički, pomoću različitih kriterija odnosno mjera kvalitete, i grafički, vizualnom ocjenom. Numeričke mjere se koriste kako bi se brojčano izrazila pogreška, odnosno kako bi se kvantiziralo odstupanje odziva modela od stvarne vrijednosti predviđane varijable, dok se grafička ocjena provodi iscrtavanjem grafova s ciljem vizualne usporedbe odziva modela sa stvarnim vrijednostima predviđane varijable. I dok su numeričke mjere preciznije, grafička analiza otkriva nedostatke koji se najčešće ne vide pregledavanjem iznosa korištenih numeričkih mjera. Kako bi se stekao pravi dojam o kvaliteti predviđanja modela nužno je koristiti oba načina ocjenjivanja, što je i preporuka pronađena u radovima koji obrađuju temu ispravnog ocjenjivanja modela [52] i [60], ali i uobičajena praksa u ocjenjivanju modela za predviđanje hidrološkog dotoka uočena u gotovo svim pregledanim radovima. Također, pored grafičke usporedbe odziva modela sa stvarnim vrijednostima predviđane varijable, usporedno se koristi i grafički prikaz pogreške, kako bi se stekao bolji dojam o trenutku pojave i trendu kretanja, ali i o vrijednosti trenutne pogreške. Na temelju numeričke i grafičke ocjene moguće je napraviti analizu rezultata, odnosno komentirati značenje dobivenih rezultata simulacije. U konkretnom slučaju ocjenjivanja kvalitete predviđanja OANM-a za kratkoročno predviđanje dotoka rijeke Cetine u akumulaciju Peruća, model se ispituje na skupu od 335 primjera iz 2012. godine, a ocjenjuje se grafičkom usporedbom odziva sa stvarnim vrijednostima dotoka uz izdvojeno prikazivanje pogreške te numerički, apsolutnim i relativnim kriterijima kvalitete. Za napomenuti je kako skup podataka korišten za ocjenjivanje modela predstavlja nepoznate uvjete rada s obzirom da ti podaci nisu predstavljani mrežama za vrijeme treniranja. Korišteni skup od 335 primjera na kojima se ocjenjuje kvaliteta modela predstavlja skup vrijednosti varijabli navedenih u tablici 4.22. za

96

prvih jedanaest mjeseci 2012. godine i uvjetovan je težom dostupnosti podataka, prvenstveno podataka o predviđenim oborinama do kojih se najteže dolazi.

5.1. Numerička ocjena kvalitete predviđanja OANM-a

Za ocjenjivanje kvalitete predviđanja modela korišteno je ukupno 11 različitih kriterija kvalitete, čije su definicije predstavljene u potpoglavlju 3.4., a koje se u osnovi mogu podijeliti na apsolutne i relativne mjere. Model je formiran za predviđanje dotoka rijeke Cetine u akumulaciju Peruća šestog dana unaprijed od trenutka predviđanja pa su sve ocjene i usporedbe rađene samo za taj predikcijski horizont.

5.1.1. Ocjena apsolutne točnosti predviđanja OANM-a

Apsolutne mjere kvalitete računaju razliku između odziva modela i stvarnih vrijednosti s rezultatom izraženim u jedinicama modelirane varijable i na taj način precizno govore o odstupanju modela, a moguće su ocjene prosječnog odstupanja ili ukupnog odstupanja. Vrijednosti četiri apsolutne mjere kvalitete: srednje kvadratne pogreška (MSE), korijena srednje kvadratne pogreške (RMSE), sume kvadratne pogreške (SSE) i srednje apsolutne pogreške (MAE) prikazane su u tablici 5.1. Iako je za ocjenu modela najprikladnije koristiti one mjere koje rezultat izražavaju u jedinicama predviđane varijable, u ovom slučaju RMSE i MAE, vrijednosti MSE i SSE kriterija izražene kvadratima jedinice također su prikazane u tablici 5.1., s obzirom da su korištene kao funkcije cilja prilikom treniranja mreža.

Tablica 5.1. Rezultati apsolutne ocjene točnosti predviđanja OANM-a

Mjera kvalitete 2012. Jedinica MSE 4,43 (m3/s)2 SSE 741,99 (m3/s)2

RMSE 2,11 m3/s MAE 1,21 m3/s

Na temelju MAE vrijednosti prikazane u tablici 5.1. vidi se kako model u prosjeku pravi grešku od 1,21 m3/s prilikom predviđanja dotoka rijeke Cetine u akumulaciju Peruća šestog dana unaprijed. Značenje RMSE vrijednosti je sukladno MAE vrijednosti, uz razliku naglašenog utjecaja većih pogrešaka na konačan iznos RMSE vrijednosti, zbog čega je RMSE općenito većeg iznosa od MAE. Naime, izračun RMSE vrijednosti temelji se na kvadratu pogreške, čime ova mjera većim pogreškama daje veću važnost. Na temelju iznosa ovih kriterija, ali i međusobne usporedbe RMSE i MAE vrijednosti, može se zaključiti kako umjerene pogreške prevladavaju. Kako je RMSE vrijednost veća svega 1,74 puta od MAE vrijednosti, može se zaključiti kako model povremeno radi i veće pogreške, ali i kako to nije

97

dominantno svojstvo modela. Prevladavanje umjerenih pogrešaka svjedoči o pouzdanom i stabilnom predviđanju modela. Ipak, prije donošenja takvog zaključka iznesenu pretpostavku je nužno provjeriti i grafičkom ocjenom modela.

Iako apsolutne mjere kvalitete precizno ocjenjuju odstupanje modela od stvarnih vrijednosti varijable, ovim mjerama je teško definirati opću klasifikaciju modela, s obzirom da iznosi ovise o području vrijednosti unutar kojeg se kreće vrijednost predviđane varijable, a neke mjere, kao na primjer SSE, ovise i o broju uzoraka na temelju kojeg se model ocjenjuje.

5.1.2. Ocjena relativne točnosti predviđanja OANM-a

Za potrebe klasifikacije modela, odnosno definiranja prihvatljive i neprihvatljive kvalitete koriste se relativne mjere. Među većim brojem različitih relativnih mjera pronađenih u dostupnoj literaturu i mjera istraživanih u sklopu ove disertacije, kao najinformativnije su se pokazale: indeks podudarnosti (D), koeficijent učinkovitosti (CE), kao i njihove modifikacije D1 i CE1 te PI (persistance index), PBIAS (percent bias) i RSR (RMSE to standard deviation ratio). Vrijednosti navedenih bezdimenzionalnih kriterija za slučaj ocjenjivanja OANM-a u predviđanju dotoka rijeke Cetine u akumulaciju Peruća šestog dana unaprijed prikazane su u tablici 5.2. Za svaku mjeru je prikazan i referentni interval, koji predstavlja granice unutar kojih se općenito kreće vrijednost promatranog kriterija.

Tablica 5.2. Relativne mjere kvalitete

Mjera kvalitete Iznos Referentni interval KOMENTAR CE 0,863 [-∞, 1.0] veći iznos = bolji model D 0,966 [0.0, 1.0] veći iznos = bolji model

CE1 0,674 [-∞, 1.0] veći iznos = bolji model D1 0,840 [0.0, 1.0] veći iznos = bolji model

PI (PME) -0,13 [-∞, 1.0] veći iznos = bolji model PBIAS -3,51 % ≤ ± 10% veći iznos = lošiji model RSR 0,35 [0.0, 0.5] veći iznos = lošiji model

Ostvarena vrijednost CE kriterija u iznosu od 0,863, prema izvoru [60], svrstava model u referentni interval [0.75, 1.0] i time predviđanje modela definira vrlo dobrim. Inače, područje vrijednosti CE kriterija kreće se od -∞ do 1. S obzirom da za: indeks podudarnosti (D), njegovu modifikaciju D1, ali i CE1, u dostupnoj literaturi nije pronađena klasifikacija ocjena prema vrijednosti indeksa, za ocjenu modela koristi se područje definicije kriterija, koje se za indekse D i D1 kreće od 0 do 1, a za CE1 od -∞ do 1, pri čemu 1 označava savršeno podudaranje odziva modela sa stvarnim vrijednostima. Izrazito visoka vrijednost indeksa D od 0,966 upućuje na zaključak o jako dobrim predikcijskim svojstvima modela. Ipak, zaključak donesen na temelju ove mjere zbog njene izrazito visoke vrijednosti treba uzeti s relativnim

98

oprezom, a može se i pretpostaviti kako ova mjera nije dovoljno osjetljiva na nedostatke koje iskazuje predloženi model. Modificirane verzije D1 i CE1 općenito strože ocjenjuje modele, a kako je i njihova vrijednost relativno visoka (0,84 i 0,674, u odgovarajućem redoslijedu), može se zaključiti da su prediktivna svojstva modela dobra. Ostvarena vrijednost PBIAS kriterija u iznosu od -3,51% svrstava model u referentni interval [0, ±10]% pa se prema izvoru [60] predviđanje modela definira vrlo dobrim. Inače, mala negativna vrijednost PBIAS kriterija znači da su podbačaj i prebačaj podjednako zastupljeni u predviđanju modela, uz nešto učestaliji prebačaj, što znači da model prilikom predviđanja češće generira vrijednost veću od stvarne vrijednosti. Prema izvoru [60], RSR kriterij također definira predviđanje modela vrlo dobrim, s obzirom da ga ostvareni iznos od 0,35 svrstava u interval [0.0, 0.5]. Vrijednosti PI kriterija se općenito kreću od -∞ do 1, gdje je s 1 označen najbolji mogući ishod. Za vrijeme istraživanja provedenih u ovoj doktorskoj disertaciji primijećena je velika osjetljivost ovog kriterija, odnosno širok opseg kretanja njegovih vrijednosti od nekoliko desetica negativnog predznaka do nekoliko desetinki pozitivnog predznaka. S obzirom na navedeno, rezultat PI kriterija koji ostvaruje OANM u predviđanju dotoka šestog dana u iznosu od -0,13 može se smatrati zadovoljavajućim.

5.1.3. Analiza uspješnosti OANM-a i prikladnosti korištenih kriterija kvalitete

U tablici 5.3. prikazana je usporedba rezultata dobivenih simulacijom modela vremenske serije koji se formira klasičnom metodom i rezultata koje ostvaruje optimizirani adaptivni neuronski model (OANM) formiran u ovom radu. Oba modela su ocjenjivana u predviđanju dotoka šestog dana unaprijed, posredstvom najinformativnijih apsolutnih i relativnih kriterija kvalitete (RMSE, MAE, CE, D, CE1, D1, PI, RSR i PBIAS) pa se pored analize uspješnosti predloženog rješenja ocjenjuje i prikladnost korištenih kriterija.

Tablica 5.3. Usporedba rezultata predviđanja klasičnog neuronskog modela vremenske serije (a) i optimiziranog adaptivnog neuronskog modela (b)

Kriterij kvalitete (a) (b) Rezultati usporedbe (%) RMSE (m3/s) 3,446 2,11 63,32 MAE (m3/s) 2,588 1,21 113,88 CE 0,405 0,863 53,07 D 0,917 0,966 5,07 CE1 0,172 0,674 74,48 D1 0,749 0,840 10,83 PI -5,674 -0,13 4264,62 PBIAS (%) -25,918 -3,51 638,40 RSR 0,822 0,35 134,86

99

Kao što se vidi iz rezultata usporedbe prikazanih u tablici 5.3., napredak po pitanju točnosti predviđanja je ostvaren predloženim rješenjem prema svim korištenim kriterijima, a kreće se od nekoliko postotaka do nekoliko tisuća postotaka. Gruba slika o ostvarenom napretku po pitanju točnosti predviđanja bi se mogla izraziti računanjem srednje vrijednosti ostvarenih napredaka prema pojedinačnim kriterijima. Dakle, ukoliko se isključi najbolji i najlošiji rezultat, prosječni napredak prema korištenim mjerama kvalitete iznosi 180%.

Na temelju provedene analize može se donijeti i zaključak o korištenim mjerama kvalitete. Apsolutne mjere kvalitete RMSE i MAE su korisne kao precizni pokazatelji odstupanja modela s obzirom da rezultat iskazuju u jedinicama predviđane varijable. Općenito, ove mjere ne govore ništa o relativnoj točnosti predviđanja, odnosno koliko je model dobar ili loš. Međutim, ukoliko se vrijednosti ovih kriterija koriste za usporedbu modela (a) i modela (b) tada njihov odnos izražen u postocima može predstavljati indikativnu vrijednost o ostvarenom napretku. Također, iz prikazanih rezultata vidi se veći napredak prema MAE kriteriju što znači da je ostvaren i veći napredak u predviđanju umjerenih vrijednosti, nego u predviđanju vršnih vrijednosti. S obzirom da je vršne vrijednosti, koje nastaju u trenucima nagle promjene predviđane varijable, općenito teže predvidjeti, može se stoga zaključiti kako je usporedba RMSE kriterija bolji pokazatelj ostvarenog napretka.

Među analiziranim relativnim mjerama najinformativnijom se pokazala CE mjera, dok njena modifikacija CE1 još strože ocjenjuje model pa se može pretpostaviti kako relativno visoka vrijednost ovog kriterija (CE1) gotovo sigurno definira model visoke kvalitete predviđanja. Mjere D i D1 općenito daju visoke vrijednosti, čak i za modele za koje se zna da ne posjeduju dobra prediktivna svojstva i kao takve ne predstavljaju relevantan kriterij za donošenje ocjene o kvaliteti modela. Mjera kvalitete PI ima najširi opseg kretanja vrijednosti što je čini najindikativnijom mjerom kvalitete među mjerama istraživanim u ovom radu. Međutim, pretjerano visoki iznos napretka PI mjere izražen u postocima govori i o njenoj pretjeranoj osjetljivosti. Mjera PBIAS predstavlja korisnu informaciju koja govori o sklonostima modela ka prebačaju ili podbačaju prilikom predviđanja i kao takva predstavlja „opipljiv“ brojčani pokazatelj kvalitete modela. Kao što se može primijetiti iz prikazane usporedbe u tablici 5.3. prema ovoj mjeri kvalitete također je ostvaren značajan napredak. Mjera RSR zajedno s CE i PBIAS mjerom omogućava klasifikaciju modela prema definiciji iz rada [60], a kao što se vidi iz prikazane usporedbe sve mjere ističu značajan napredak po pitanju točnosti predviđanja modela.

Na temelju istraživanja provedenih u ovom radu može se donijeti preporuka o primjeni kriterija za ocjenu kvalitete hidrološkog modela formiranog za potrebe kratkoročnog predviđanja dotoka, prema kojoj bi u ocjenjivanje modela trebalo uključiti:

• apsolutne mjere kvalitete: RMSE i MAE • relativne, bezdimenzionalne mjere kvalitete: CE, CE1, PI, RSR i PBIAS

100

Pojedinačni iznosi navedenih mjera kvalitete daju sliku o kvaliteti predviđanja modela, dok se usporedbom vrijednosti navedenih mjera prije i poslije primijenjenih preinaka na modelima mogu dobiti dodatne informacije o ostvarenim napredcima koje te preinake donose.

Vrijednosti prikazane u tablicama 5.1., 5.2. i 5.3. dobivene su na temelju rezultata simulacije, iz odziva modela i podataka dobivenih mjerenjem, a računaju se prema izrazima (3.1) do (3.13) iz poglavlja 3.4.

5.2. Grafička ocjena kvalitete predviđanja OANM-a

Kao ključni problem u predviđanju dotoka pomoću neuronskog modela za razmatrani slučaj predviđanja dotoka rijeke Cetine u akumulaciju Peruća pokazalo se kašnjenje predviđanja modela. Među korištenim mjerama kvalitete za numeričku ocjenu niti jedna mjera nije pokazala svojstvo penalizacije takvog nedostatka pa se grafička ocjena modela nameće kao obvezna dopuna numeričkom ocjenjivanju uspješnosti predložene metode u rješavanju definiranog problema. Također, radovi koji se bave istraživanjem primjerenih metoda za ocjenjivanje hidroloških modela, kao što su [6], [50], [52] i [60], često naglašavaju važnost primjene grafičke i numeričke ocjene kvalitete modela.

Na slici 5.1. prikazana je usporedba odziva modela formiranog u ovom radu (OANM) za predviđanje dotoka rijeke Cetine u akumulaciju Peruća šestog dana unaprijed sa stvarnim vrijednostima dotoka koje su dobivene mjerenjem u Vinaliću. Odziv modela je na slici 5.1. prikazan punom linijom crvene boje s točkastim markerom, a stvarne vrijednosti dotoka prikazane su punom linijom plave boje s markerom tipa kruga. Vizualnim pregledom usporedbe prikazane na slici 5.1. može se primijetiti dobro slaganje odziva modela sa stvarnim vrijednostima. Odziv modela dosljedno prati stvarnu vrijednost dotoka čak i u trenucima naglih promjena, a veća odstupanja koja se daju primijetiti su povremena i kratkotrajna. Neposredno ispod slike 5.1., na slici 5.2., prikazane su vrijednosti pogreške u trenutku predviđanja, iscrtane stupčastim grafom, kako bi se dobio bolji dojam o trenutnoj pogrešci koju model radi prilikom predviđanja. Detaljnijom analizom pogreške prikazane na slici 5.2. može se primijetiti kako model većinom pravi manje pogreške od nekoliko m3/s, a u svega nekoliko navrata te pogreške dosežu značajnije iznose od 5 do 10 m3/s, što je u skladu sa zaključkom iznesenim u poglavlju 5.1. donesenom na temelju usporedbe MAE i RMSE mjera kvalitete. Dakle, model griješi većinom umjereno pa se može potvrditi zaključak o pouzdanom i stabilnom predviđanju, dok veće pogreške nastaju samo u trenucima naglih i intenzivnih promjena dotoka. Također, sa slike 5.2. moguće je prijetiti kako model otprilike podjednako griješi podbačajem i prebačajem. Ipak, ova konstatacija temeljena na grafičkoj analizi predstavlja samo nadopunu, odnosno vizualnu kontrolu preciznije ocjene koja se po istom pitanju može donijeti na temelju iznosa PBIAS mjere kvalitete, kao što je to i učinjeno u prethodnom odjeljku 5.1.2.

101

Slika 5.1. Grafička ocjena predviđanja OANM-a; usporedba odziva modela sa stvarnim vrijednostima dotoka rijeke Cetine u ak. Peruća, za prvih jedanaest mjeseci 2012. godine

Slika 5.2. Grafički prikaz (trenutne) pogreške predviđanja OANM-a za prvih jedanaest mjeseci 2012. godine

Kako bi se preciznije ocijenilo kvalitetu rješenja osnovnog problema kašnjenja predviđanja te ocijenilo utjecaj varijable f7

9, dani su izdvojeni prikazi na slikama 5.3. do 5.6. Na tim slikama je ukupno područje (prvih 11 mjeseci 2012. godine) podijeljeno na četiri

9 Za varijablu učestalosti prognozirane oborine (f7) pretpostavljeno je da ima ključan utjecaj na ispravno predviđanje trenutka naglih promjena dotoka.

102

manja područja, s ciljem veće razlučivosti prikaza i mogućnosti detaljnije analize, a na samim slikama je pored usporedbe odziva sa stvarnim vrijednostima dotoka prikazana i pogreška i to u donjem dijelu slike, dok je u gornjem dijelu prikazana učestalost prognozirane oborine s invertiranom amplitudom (f7). f7 je brojčana vrijednost koja govori koliko puta se očekuje pojava oborine u periodu od narednih sedam dana i kao takva je bezdimenzionalna.

Slika 5.3. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za prvih 90 dana 2012. godine

Predviđanje modela je prikazano na slici 5.3. punom linijom crvene boje s točkastim markerima, a stvarni dotok je prikazan punom linijom plave boje s markerima tipa kruga. Stupčastim dijagramom bijele boje prikazana je pogreška, a stabalcima (engl. stem) zelene boje prikazana je učestalost prognozirane oborine (f7). Kao što se vidi prikazano na slici 5.3., model u prvom dijelu godine relativno dobro slijedi stvarni dotok uz nešto izraženiji prebačaj u odnosu na podbačaj. Iako u trenutnu nagle promjene dotoka model radi nešto veće pogreške, može se primijetiti kako trenutak porasta dotoka model ispravno predviđa dok prilikom predviđanja trenutka opadanja kasni s predviđanjem dva dana. Za ovu pogrešku vjerojatno je kriv porast varijable f7 koji se dogodio upravo u trenutku kad je trebalo doći do pada dotoka, kao što se vidi sa slike 5.3., što očito model navodi na krivo predviđanje.

Na temelju prikaza sa slike 5.4., može se primijetiti kako model u periodu od 90. do 180. dana ispravno predviđa nagle promjene dotoka uz moguće prethođenje ili kašnjenje od jednog dana, pri čemu porast varijable f7 očito inicira predviđanje promjena dotoka. Kao i u prethodnom slučaju prikazanom na slici 5.3., manje pogreške model radi u „mirnijem“ području vrijednosti varijable, dok je, očekivano, u slučaju predviđanja većih dotoka moguća i pojava većih pogrešaka.

103

Slika 5.4. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za period od 90. do 180. dana 2012. godine

Na slici 5.5. se jasno vidi kako promjene vrijednosti varijable f7 odražavaju na predviđanje dotoka. Međutim, vidi se i kako predviđene promjene stvarnog dotoka izostaju pa dolazi do pogreške. Razlog pogreške u ovom slučaju možda nisu samo netočne prognoze oborina, nego i isušen teren kod kojeg se realizirana oborina ne odražava na protok.

Slika 5.5. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za period od 180. do 280. dana 2012. godine

104

Osim spomenutih pogrešaka, sa slike 5.5. može se primijetiti gotovo savršeno poklapanje predviđanja modela i stvarnog dotoka, što je za očekivati s obzirom da je modelirana varijabla u razmatranom periodu dominantno stacionarna. Predviđanje varijable koja malo i kontinuirano mijenja svoju vrijednost općenito ne predstavlja veći problem modelu koji na svom ulazu raspolaže vremenskom serijom iste varijable, što je potvrđeno i ovim primjerom.

Analiza rezultata prikazanih na slici 5.6. ukazuje na sposobnost modela da predvidi nagle promjene velike amplitude i to s ispravno predviđenim trenutkom i intenzitetom promjene. U istom periodu je zabilježena i veća pogreška modela, uz napomenu kako se detaljnijom analizom odziva može primijetiti ispravno predviđanje trenutka, ali i značajnija pogreška modela po pitanju predviđanja intenziteta promjene.

Slika 5.6. Uvećani prikaz odziva modela, stvarnog dotoka, pogreške i učestalosti prognozirane oborine za period od 280. do 335. dana 2012. godine

U konačnom, na temelju grafičke analize rezultata simulacije moguće je donijeti zaključke o utjecaju varijable f7 na točnost predviđanja naglih promjena dotoka te zaključak o općenitoj točnosti predviđanja modela.

Što se tiče analize utjecaja varijable f7 u nagovještaju naglih promjena predviđanog dotoka, njena korisnost je najočitija upravo za razmatrani period predviđanja od 280. do 335. dana 2012. godine koji prikazuje slika 5.6. Na slici 5.6. jasno se može vidjeti kako promjene intenziteta varijable f7 utječu na odziv modela i omogućavaju točno predviđanje trenutka promjene dotoka. Iako varijabla f7 povremeno uzrokuje i kriva predviđanja dotoka, kao što se može vidjeti iz primjera prikazanih na slikama od 5.3. do 5.6., može se zaključiti kako varijabla učestalosti prognozirane oborine (f7) predstavlja ključnu varijablu koja služi kao okidač pravovremenog predviđanja nagle promjene dotoka.

105

Što se tiče točnosti predviđanja naglih promjena i otklanjanja kašnjenja predviđanja modela, temeljem pregleda uvećanih prikaza sa slika 5.3. do 5.6., može se primijetiti kako model većinu naglih promjena ispravno predviđa, pri čemu su moguća minimalna kašnjenja ili prethođenja predviđanja naglih promjena u iznosu od jednog do dva dana.

106

6. Zaključak

Preliminarnim istraživanjima ove disertacije ispitana je mogućnost kratkoročnog predviđanja hidrološkog dotoka pomoću umjetne neuronske mreže (UNM) na zahtjevnom krškom području, u uvjetima reduciranog skupa dostupnih podataka. Za formiranje i ispitivanje modela poslužio je sliv rijeke Cetine, a modelirano je dotjecanje rijeke Cetine u akumulaciju Peruća. Rezultati preliminarnih istraživanja pokazali su kako neuronski model formiran klasičnim metodama ne može ostvariti predviđanja zadovoljavajuće točnosti. Predviđanja koje takav model radi kasne za stvarnim događajem za točno onaj broj dana za koji se radi predviđanje, što model čini neupotrebljivim.

Definirani problem se u ovoj disertaciji uspješno rješava uvođenjem ulazne varijable koja se naziva učestalost prognozirane oborine (fk) te korekcijom koraka računanja modela (k). Varijabla fk se dobije iz prognozirane oborine i označava koliko će se puta oborina dogoditi u narednih k dana. Varijabla fk predstavlja ključ uspješnog rješavanja definiranog problema jer donosi informaciju o promjeni hidrološkog dotoka koju je moguće dobiti s visokom pouzdanošću. Naime, za razliku od prognoze oborine, njenog točnog mjesta, trenutka i količine pojave koje je teško pouzdano predvidjeti, visoka pouzdanost varijable fk je moguća, a dokazana je korelacijskom analizom te eksperimentalnom provjerom nad modelom. Iznosi korelacijskih koeficijenata (CC) između učestalosti predviđene i stvarne oborine rastu s porastom koraka računanja te bivaju veći od 0,7 za korake k ≥ 7 s maksimalnom vrijednošću CC = 0,77 za k = 8. Time ova varijabla očito utječe na korak računanja, odnosno predikcijski horizont koji tako biva ograničen i po pitanju minimalne i maksimalne vrijednosti. U konačnom je, eksperimentom nad modelom, pokazano kako njegova optimalna vrijednost koraka računanja iznosi k = 7.

Dakle, rezultati provedenih istraživanja dokazuju sposobnost varijable učestalosti prognozirane oborine da kao član ulaznog vektora, zajedno s dostupnim hidrometeorološkim

107

varijablama10, nagovijesti nagle promjene varijable hidrološkog dotoka te uz odgovarajući odabir koraka računanja otkloni nedostatak kašnjenja predviđanja modela.

Točnost predviđanja se u ovoj disertaciji dodatno unaprjeđuje podjelom neuronskog modela na specijalizirane podmodele. Podjela na podmodele se temelji na analizi varijable hidrološkog dotoka, a različiti podmodeli se koriste za predviđanje u različito doba godine u kojima prevladavaju različita svojstva modelirane varijable. Model se prilikom predviđanja prilagođava dobu godine za koje vrši predviđanje te se naziva adaptivni neuronski model (ANM). U slijedećem koraku provodi se optimizacija modela s obzirom na broj članova podmodela, skup ulaznih varijabli, broj neurona, algoritam za treniranje i funkciju cilja svakog podmodela.

Kroz proces optimizacije optimalnim je određena uporaba pet članova adaptivnog neuronskog modela, odnosno pet podmodela. Optimizacijom podmodela pokazalo se kako su optimalan skup ulaznih varijabli, broj neurona, algoritam za treniranje i funkcija cilja relativni, odnosno različiti za svaki podmodel. U konačnom se za predviđanje hidrološkog dotoka koristi šesnaest različitih ulaznih varijabli u što spadaju: šest članova vremenske serije dotoka (Q)t-6, jedna prethodna srednja sedmodnevna vrijednost dotoka A(Q)k-1, tri člana vremenske serije oborine (P)t-3, temperatura prethodnog dana (T)t-1, tri člana vremenske serije srednje sedmodnevne temperature A(T)k-3, učestalost oborina u proteklih mjesec dana (fP30) i učestalost predviđene oborine za narednih sedam dana (f7). Za treniranje mreža se koriste LM algoritam i MAE funkcija cilja u slučaju podmodela A, C i D, BR algoritam i SSE funkcija cilja u slučaju modela B te GDm algoritam i MAE funkcija cilja u slučaju modela CG. Strukture mreža su također različite za svaki podmodel pa tako ulazni broj neurona varira od pet do deset, a broj skrivenih od dva do devetnaest neurona. Ono što je zajedničko svim podmodelima je tip UNM-e korišten za formiranje modela, a radi se o MLP mreži sa svojstvom univerzalnog aproksimatora.

Optimizirani adaptivni neuronski model (OANM) u pretposljednjoj fazi koristi selektor signala koji vrši izbor odziva podmodela ovisno o dobu godine, a u završnoj fazi se vrši usrednjavanje odziva kako bi se otklonile neželjene oscilacije odziva. Usrednjavanje se provodi računanjem klizne srednje vrijednosti (MA) posljednja tri člana vremenske serije predviđane varijable hidrološkog dotoka, što znači da odziv modela nakon usrednjavanja ima značenje predviđanja šestog dana unaprijed od trenutka predviđanja. Usrednjavanje odziva modela ima za posljedicu smanjenje predikcijskog horizonta sa sedam na šest dana unaprijed, ali i povećanje ukupne točnosti predviđanja modela.

Prilikom istraživanja u ovoj disertaciji razmatrana je korisnost četrnaest različitih mjera kvalitete, a u konačnom su zaključci o kvaliteti predviđanja modela doneseni na temelju sedam mjera. Najinformativnijima su se pokazale dvije apsolutne mjere, RMSE i MAE te pet relativnih mjera kvalitete: CE, CE1, PI, RSR i PBIAS. Međutim, niti jedna od numeričkih mjera

10 Pod hidrometeorološke varijable se ubrajaju varijable koje se formiraju iz podataka o mjerenim vrijednostima hidrološkogi dotoka, oborina i temperature, a koje su navedene u tablici 4.22.

108

kvalitete korištena u ovom radu nije pokazala svojstvo penalizacije osnovnog nedostatka, kašnjenja predviđanja modela, pa se grafička ocjena modela nameće kao obvezna dopuna numeričkom ocjenjivanju modela. Tako je, pored numeričkih ocjena kvalitete, provedena i grafička analiza rezultata, pri čemu je rađena usporedba odziva modela sa stvarnim vrijednostima dotoka, a usporedno je prikazivan i graf trenutne pogreške. Općenito, rezultati numeričke i grafičke analize ukazuju na sposobnost modela da obavlja kratkoročna predviđanja dotoka uz zadovoljavajuću točnost i bez kašnjenja. Na temelju rezultata numeričke ocjene te potvrde na temelju grafičke ocjene modela moguće je zaključiti prevladavanje umjerenih te po iznosu ujednačenih pogrešaka, što ukazuje na stabilnost i pouzdanost modela u predviđanju dotoka šestog dana unaprijed.

S obzirom na navedeno može se definirati izvorni znanstveni doprinos ove doktorske disertacije koji se očituje u formiranju optimiziranog adaptivnog neuronskog modela za kratkoročno predviđanje dotoka s naglaskom na otklanjanje kašnjenja predviđanja modela.

Mogućnost provođenja daljnjih istraživanja s ciljem unaprjeđenja kvalitete modela formiranog u ovom radu temelji se prvenstveno na proširivanju skupa dostupnih podataka, kako po pitanju količine tako i po pitanju kvalitete, odnosno raznolikosti. Za pretpostaviti je kako bi bolje organizirana i brojnija mreža mjernih postaja na kojima bi se prikupljale vrijednosti svih potrebnih varijabli unaprijedila kvalitetu modela. Također, zanimljivo bi bilo istražiti i mogućnost proširenja skupa ulaznih varijabli modela, naročito podacima o stanju podzemnih voda, ali i snježnim ekvivalentima sa područja sliva.

Općenito, informacija o predviđenom dotoku trebala bi poslužiti za unaprjeđenje rada hidroelektrane, odnosno pomoći u operativnom planiranju HES-a. Međutim, ukoliko bi se razvijeni model koristio za pomoć u planiranju rada HES-a Cetine, tada treba voditi računa o činjenici kako dotjecanje rijeke Cetine u akumulaciju Peruća predstavlja svega 30% ukupnih dotoka, prema [92], [93] i [94] pa bi u tom konkretnom slučaju neka dodatna istraživanja bila nužna. Na temelju iskustva stečenog kroz istraživanja iz ove disertacije moguće je ponuditi dva smjera za nastavak istraživanja. Prvo, način na koji je formiran model iz ovog rada se može primijeniti i na formiranje modela za predviđanje preostalih 70% dotoka, uz napomenu kako bi za provođenje takvog istraživanja trebala biti dostupna odgovarajuća mjerenja. Drugi smjer bi bio predviđanje razine vode u akumulaciji, čime bi se zaobišao problem teško mjerljivih podzemnih dotjecanja. Nadalje, kao što je navedeno u potpoglavlju 3.6. planiranje rada EES-a se provodi dugoročno na godišnjoj, srednjoročno na mjesečnoj i kratkoročno na dnevnoj ili tjednoj osnovi pa bi pored kratkoročnog predviđanja bilo potrebno razviti i modele za mjesečno i godišnje predviđanje dotoka. Osnovna prepreka formiranju mjesečnih, a pogotovo godišnjih modela, bi mogla biti teža dostupnost zadovoljavajuće količine podataka potrebnih za formiranje modela. Također, s ciljem optimizacije i unaprjeđenja rada HES-a, a na temelju iznesenog iz potpoglavlja 3.6., može se donijeti zaključak o korisnosti informacije o predviđenoj potrošnji. Po uzoru na istraživanja iz ovog rada, mogu se provesti istraživanja s ciljem formiranja neuronskog modela za predviđanje potrošnje električne

109

energije, pri čemu bi bilo nužno raspolagati odgovarajućom količinom cjelovitih višegodišnjih podataka o potrošnji električne energije.

U konačnom se može zaključiti kako su umjetne neuronske mreže opravdale reputaciju fleksibilnog alata sposobnog za modeliranje složenih, nelinearnih sustava, ali i alata koji uvelike ovisi o podacima koji se mogu prikupiti o modeliranom sustavu.

110

LITERATURA [1] R.J. Abrahart, P.E. Kneale, L.M. See: Neural Networks for Hydrological Modelling, A.A.

Balkema Publishers (Leiden, The Netherlands), a member of Taylor & Francis Group, London, UK, 2005.

[2] R.J. Abrahart, Pauline E. Kneale, Linda M. See: Neural Networks for Hydrological Modelling, A.A. Balkema Publishers (Leiden, The Netherlands), a member of Taylor & Francis Group, London, UK, 2005.; Chapter 3: Christian W. Dawson, Robert L. Wilby, Single Network Modelling Solutions

[3] R.J. Abrahart, Pauline E. Kneale, Linda M. See: Neural Networks for Hydrological Modelling, A.A. Balkema Publishers (Leiden, The Netherlands), a member of Taylor & Francis Group, London, UK, 2005.; Chapter 9: Anthony W. Minns, Michael J. Hall, Rainfall-Runoff Modelling

[4] R.J. Abrahart and L. See: Neural network vs. ARMA modelling: constructing benchmark case studies of river flow prediction, Proceedings of the 3rd International Conference on Geocomputation, University of Bristol, 17–19, 1998.

[5] A. Agarwal, R.D. Singh: Runoff Modelling Through Back Propagation Artificial Neural Network with Variable Rainfall-Runoff Dana, Water Resources Management 18, pp 285–300, 2004.

[6] M. Ahnert, F. Blumensaat, G. Langergraber, J. Alex, D. Woerner, T. Frehmann, N. Halft, I. Hobus, M. Plattes, V. Spering, S. Winkler: Goodness-of-fit measures for numerical modelling in urban water management – a summary to support practical applications, 10th IWA Specialised Conference on Design, Operation and Economics of large Wastewater Treatment Plants, 2007.

[7] M. K. Akhtar, G. A. Corzo, S. J. van Andel, and A. Jonoski: River flow forecasting with artificial neural networks using satellite observed precipitation pre-processed with flow length and travel time information: case study of the Ganges river basin, Hydrol. Earth Syst. Sci., 13, 1607–1618, 2009.

[8] F. Anctil, C. Perrin, V. Andreassian: Impact of the length of observed records on the performance of ANN and of conceptual parsimonious rainfall-runoff forecasting models, Environmental Modelling and Software 19, 357–368, 2004.

[9] J.A. Anderson: An Introduction to Neural Networks, MIT Press, 1995.

[10] A. Ashrafzadeh, A. Parvaresh Rizi: A Hybrid Neural Network Based Model for Synthetic Time Series Generation, International Symposium on Water Management and Hydraulic Engineering, Ohrid/Macedonia, 1-5 September 2009.

[11] A.F. Atiya, S.M. El-Shoura, S.I. Shaheen, M.S. El-Sherif: A Comparison between Neural-Network Forecasting Techniques - Case Study: River Flow Forecasting, IEEE Transactions on Neural Networks, Vol. 10, No. 2, March 1999.

111

[12] M.H. Beale, M.T. Hagan, H.B. Demuth: Neural Network Toolbox™ User’s Guide, The MathWorks, Inc, 2010.

[13] A. Bhadra, A. Bandyopadhyay, R. Singh, N. S. Raghuwanshi: Rainfall-Runoff Modelling: Comparison of Two Approaches with Different Dana Requirements, Water Resource Management 24, 37–62, 2010.

[14] C.M. Bishop: Neural Networks for Pattern Recognition, Clarendon Press, Oxford, 1995.

[15] Gianluca Bontempi, Souhaib Ben Taieb: Conditionally dependent strategies for multiple-step-ahead prediction in local learning, International Journal of Forecasting, vol. 27, issue 3, pages 689-699, 2011.

[16] G.J. Bowden: Forecasting Water Resources Variables Using Artificial Neural Networks, doctoral dissertation, The University of Adelaide, School of Civil and Environmental Engineering, Australia, 2003.

[17] Y. Chen, B. Yang, J. Dong, A. Abraham: Time-series forecasting using flexible neural tree model, Information Sciences 174, pp. 219–235, 2005.

[18] P. Coulibaly, F. Anctil, B. Bobeée: Daily reservoir inflow forecasting using artificial neural networks with stopped training approach, Journal of Hydrology (230), pp 244–257, 2000.

[19] P. Coulibaly, F. Anctil, B. Bobee: Multivariate Reservoir Inflow Forecasting Using Temporal Neural Networks, Journal of Hydrologic Engineering, Vol. 6, No. 5, 2001.

[20] C.W. Dawson, R.L. Wilby: A comparison of artificial neural networks used for river flow forecasting, Hydrology and Earth System Sciences 3(4), 529-540, 1999.

[21] C.W. Dawson, R.L. Wilby: Hydrological modelling using artificial neural networks, Progress in Physical Geography 25(1), pp. 80–108, 2001.

[22] C.W. Dawson, C. Harpham, R.L. Wilby, Y. Chen: Evaluation of artificial neural network techniques for flow forecasting in the River Yangtze, China, Hydrology and Earth System Sciences, 6(4), pp. 619-626, 2002.

[23] H.B. Demuth, M.H. Beale: Neural Network Toolbox™ User’s Guide, The MathWorks, Inc, 2004.

[24] N.J. de Vos, T.H.M. Rientjes: Constraints of artificial neural networks for rainfall-runoff modelling: trade-offs in hydrological state representation and model evaluation, Hydrology and Earth System Sciences, 9, pp. 111–126, 2005.

[25] A. Laukkanen: Short term inflow forecasting in the Nordic power market, Master’s thesis, Helsinki University of Technology – Department of Engineering Physics and Mathematics, 2004.

112

[26] A. El-Shafie, A.E. Noureldin, M.R. Taha and H. Basri: Neural Network Model for Nile River Inflow Forecasting Based on Correlation Analysis of Historical Inflow Dana, Journal of Applied Sciences 8, pp. 4487-4499, 2008.

[27] J. Faraway, C. Chatfield: Time series forecasting with artificial neural networks: a comparative study using airline dana, Applied Statistics 47 (2), pp. 231 – 251, 1998.

[28] M. Firat, M. Gungor: River Flow Estimation Using Feed Forward and Radial Basis Neural Networks Approaches, International Congres on River Basin Management, 2007.

[29] F.D. Foresee, M.T. Hagan: Gauss-Newton approximation to Bayesian learning, In proceeding of: International Conference on Neural Networks, Volume: 3, 1997.

[30] R. J. Frank, N. Davey, and S. P. Hunt, Time Series Prediction and Neural nNetworks, Journal of Intelligent Robotic Systems, Vol. 31, No. 1–3, pp. 91–103, 2001.

[31] D. Furundzic: Application example of neural networks for time series analysis: Rainfall-runoff modelling, Signal Processing 64, 383-396, 1998.

[32] R. Goić: Mogućnosti efikasnijeg operativnog planiranja rada i vođenja hidroenergetskog sustava rijeke Cetine , 4. Savjetovanje Hrvatskog komiteta međunarodne konferencije za velike električne sisteme, Cavtat, 1999.

[33] R.Goić, M.Lovrić: Planiranje rada kao osnova za sigurno vođenje i gospodarenje EES-a Hrvatske, Peto savjetovanje, Cavtat, 2001.

[34] R. Goić: Koncepcija modela vođenja i optimiranja hidroenergetskim sustavom sliva rijeke Cetine, FESB, Split, 2004.

[35] R. Golob, T. Štokelj, D. Grgič: Neural-network-based water infow forecasting, Control Engineering Practice 6, pp. 593-600, 1998.

[36] H.V. Gupta, S. Sorooshian, P.O. Yapo: Status of Automatic Calibration for Hydrologic Models: Comparison with Multilevel Expert Calibration, Journal of Hydrologic Engineering, Vol. 4, No. 2, April, 1999.

[37] M. Hagan, M. B. Menhaj: Training Feedforward Networks with the Marquardt Algorithm, IEEE Transactions on Neural Networks, Vol. 5, No. 6, November 1994.

[38] M. Hagan, H. Demuth, M. Beale: Neural Network Design, Boston, MA: PWS Publishing, 1996.

[39] M. Hagan, H. Demuth, O. De Jesus, An Introduction to the Use of Neural Networks in Control Systems, International Journal of Robust and Nonlinear Control, Vol. 12, No. 11, pp. 959-985, September, 2002.

[40] S. Haykin: Neural Networks: A Comprehensive Foundanion, Pearson Education Inc., 1999.

[41] T.S. Hu, K.C. Lam, S.T. NG: River flow time series prediction with a range-dependent neural network, Hydrological Sciences Journal, 46: 5, pp. 729-745, 2001.

113

[42] A. Jain: Improved performance of hydrologic and water resources systems using soft computing techniques, Special issue on soft computing- Directions, Vol. 7, Issue 3, published by IIT Kanpur, pp 42-48, 2006.

[43] Dae-Il Jeong and Young-Oh Kim: Rainfall-runoff models using artificial neural networks for ensemble streamflow prediction, Hydrological Processes 19, 3819–3835, 2005.

[44] Qin Ju, Zhongbo Yu, Zhenchun Hao, Changjun Zhu, Dedong Liu: Hydrologic Simulations with Artificial Neural Networks, Third International Conference on Natural Computation, ICNC 2007.

[45] A. M. Kalteh: Rainfall-runoff modelling using artificial neural networks (ANNs): modelling and understanding, Caspian Journal of Environmental Science, Vol. 6, No.1, pp. 53-58, 2008.

[46] S. Karimi-Googhari, H. Y. Feng, A. H. Ghazali and L. T. Shui: Neural Networks for Forecasting Daily Reservoir Inflows, Pertanika Journal of Science & Technology 18 (1), 33 – 41, 2010.

[47] G.B. Kingston: Bayesian Artificial Neural Networks in Water Resources Engineering, doctoral dissertation, School of Civil and Environmental Engineering, Faculty of Engineering, Computer and Mathematical Science, University of Adelaide, Australia, 2006.

[48] Ö. Kişi: Daily river flow forecasting using artificial neural networks and auto-regressive models, Turkish J. Eng. Environ. Sci. 29, pp. 9–20, 2005.

[49] Ö. Kişi: Streamflow Forecasting Using Different Artificial Neural Network Algorithms, Journal of Hydrologic Engineering, Vol. 12, No. 5, September 1, 2007.

[50] P. Krause, D. P. Boyle and F. Base: Comparison of different efficiency criteria for hydrological model assessment, Advances in Geosciences, 5, 89–97, 2005.

[51] B. Krose, P. van der Smagt: An introduction to Neural Networks, University of Amsterdam, 1996

[52] D.R. Legates, G.J. McCabe Jr.: Evaluating the use of “goodness-of-fit” measures in hydrologic and hydroclimatic model validanion, Water Resources Reasearch, Vol. 35, No. 1, pages 233-241, January 1999.

[53] D.J.C. MacKay: Bayesian Methods for Adaptive Models, PhD Thesis, California Institute of Technology, Pasadena California, 1992.

[54] H.R. Maier, G.C. Dandy: Neural networks for the prediction and forecasting of water resources variables: a review of modelling issues and applications, Environmental Modelling & Software 15, pp. 101–124, 2000.

[55] H.R. Maier, A.Jain, G.C. Dandy, K.P. Sudheer: Methods used for the development of neural networks for the prediction of water resource variables in river systems: Current status and future directions, Environmental Modelling & Software 25, 891-909, 2010.

114

[56] J. Marasović: Kvantitativno i kvalitativno modeliranje i simuliranje, Fakultet elektrotehnike, strojarstva i brodogradnje, Split, 2004.

[57] D.P. Mandić: Recurrent neural networks for prediction: learning algorithms, architectures and stability, Wiley and Sons, Ltd, England, 2001.

[58] A.W. Minns, M.J. Hall: Artificial neural networks as rainfall-runoff models, Hydrological Sciences -Journal- des Sciences Hydrologiques, 41(3) June 1996.

[59] K. Mohammadi, H. R. Eslami and Sh. Dayyani Dardashti: Comparison of Regression, ARIMA and ANN Models for Reservoir Inflow Forecasting using Snowmelt Equivalent (a Case study of Karaj), Journal of Agriculture, Science and Technology, Vol. 7: 17-30, 2005.

[60] D. N. Moriasi, J. G. Arnold, M. W. Van Liew, R. L. Bingner, R. D. Harmel, T. L. Veith: Model Evaluation Guidelines for Systematic Quantification of Accuracy in Watershed Simulations, Transactions of the ASABE (American Society of Agricultural and Biological Engineers). Vol. 50(3): 885−900, 2007.

[61] G.Y. Muluye and P. Coulibaly: Seasonal reservoir inflow forecasting with low-frequency climatic indices: a comparison of dana-driven methods, Hydrological Sciences Journal, 52:3, pp. 508-522, 2007.

[62] B. Novaković, D. Majetić, M. Široki: Umjetne neuronske mreže, Sveučilište u Zabrebu, Fakultet strojarstva i brodogradnje, Zagreb 1998.

[63] D. Paravana, T. Štokelj, R. Golob: Improvements to the water management of a run-of-river HPP reservoir: methodology and case study, Control Engineering Practice, Volume 12, Issue 4, pp. 377–385, 2004.

[64] M. Perc: Introducing Nonlinear Time Series Analysis in Undergraduate Courses, FIZIKA A 15 (2), 91–112, 2006.

[65] I. Petrović: Identifikacija nelinearnih dinamičkih procesa statičkim neuronskim mrežama, doktorska disertacija, FER, Zagreb, 1998.

[66] A. Popijač: "Raznolikost i ekologija obalčara (Insecta: Plecoptera) na području Nacionalnog parka Plitvička jezera i rijeke Cetine", doktorska disertacija, Biološki odsjek PMF, Zagreb, 2007.

[67] S. Riad, J. Mania, L. Bouchaou, Y. Najjar: Rainfall-Runoff Model Using an Artificial Neural Network Approach, Mathematical and Computer Modelling 40, 839-846, 2004.

[68] A.J.M. Reddy, Ch.S. Babu and P. Mallikarjuna: Rainfall – Runoff Modeling: Comparison and Combination of Simple Time-Series, Linear Autoregressive and Artificial Neural Network Models, WSEAS Transactions on Fluid Mechanics, Issue 2, Volume 3, 126-136, 2008.

[69] D. E. Rumelhart, G. E. Hinton, R. J. Williams: Back Propagation: Theory, Architectures, and Applications, Hillsdale, NJ,1995.

115

[70] W.S. Sarle: Neural network FAQ, periodic posting to the Usenet newsgroup comp.ai.neural-nets, ftp://ftp.sas.com/pub/neural/FAQ.html

[71] A.R. Senthil Kumar, K. P. Sudheer, S. K. Jain1 and P. K. Agarwal: Rainfall-runoff modelling using artificial neural networks: comparison of network types, Hydrological Processes 19, 1277–1291, 2005.

[72] B. Sivakumar: Nonlinear dynamics and chaos in hydrologic systems: latest developments and a look forward, Stochastic Environmental Research and Risk Assessment, Volume 23, Number 7, pp. 1027-1036, 2009.

[73] K. Solaimani: Rainfall-runoff Prediction Based on Artificial Neural Network, A Case Study: Jarahi Watershed, American-Eurasian Journal of Agricolturale and Environmental Science, 5(6), pp. 856-865, 2009.

[74] S. Srinivasulu, A. Jain: A comparative analysis of training methods for artificial neural network rainfall–runoff models, Applied Soft Computing 6, 295–306, 2006.

[75] Ch. Subramanian and M. Manry, Reservoir inflow forecasting using neural networks, in Proceedings of American Power Conference, pp. 220-226, Chicago, US, Apr. 1999.

[76] S. Suhaimi, A. Rosmina, A. Bustami: Rainfall Runoff Modeling using Radial Basis Function Neural Network for Sungai Tinjar Catchment, Miri, Sarawak, UNIMAS E. Journal of Civil Engineering, Vol 1, issue 1, 2009.

[77] T. Štokelj, D. Paravan, R. Golob: Short and mid-term hydro power plant reservoir inflow forecasting, International Conference on Power System Technology, vol.2, pp. 1107 – 1112, 2000.

[78] W. Wang, P.H.A.J.M. Van Gelder, J.K. Vrijling, J. Ma: Forecasting daily streamflow using hybrid ANN models, Journal of Hydrology 324, pp. 383–399, 2006.

[79] C.L. Wu, K.W. Chau, Y.S. Li: Methods to improve neural network performance in daily flows prediction, Journal of Hydrology 372, pp. 80–93, 2009.

[80] C.L. Wu, K.W. Chau: Rainfall–runoff modeling using artificial neural network coupled with singular spectrum analysis, Journal of Hydrology, Vol. 399, No. 3-4, pp. 394-409, 2011.

[81] Z. X. Xu, J. Y. Li: Short-term inflow forecasting using an artificial neural network model, Hydrolgical Processes 16, pp. 2423–2439, 2002.

[82] Jing-Xin Xie, Chun-Tian Cheng, Kwok-Wing Chau，Yong-Zhen Pei: A hybrid adaptive time-delay neural network model for multi-step-ahead prediction of sunspot activity, International Journal of Environment and Pollution, Vol. 28, No. 3-4, pp. 364-381, 2006.

[83] Jun Zhang, Chun-tian Cheng, Sheng-li Liao, Xin-yu Wu, and Jian-jian Shen: Daily reservoir inflow forecasting combining QPF into ANNs model, Hydrology and Earth System Sciences Discussions 6, 121–150, 2009.

116

[84] C. M. Zealand, D. H. Burn, S. P. Simonovic: Short term streamflow forecasting using artificial neural networks, Journal of Hydrology 214, 32–48, 1999.

[85] R. Žugaj: Hidrologija za agroekologe, Sveučilište u Zagrebu, Rudarsko-geološko-naftni fakultet, Zagreb, 2009.

[86] R. Žugaj: Velike vode malih slivova, Sveučilište u Zagrebu, Rudarsko-geološko-naftni fakultet, Zagreb, 2010.

[87] Karakterizacijski izvještaj za dijelove riječnih slivova Cetine i Krke na području Federacije Bosne i Hercegovine, Dodatak C.1: Karakterizacijski izvještaj 1; Agencija za vodno područje Jadranskog mora Mostar, Sarajevo‐Mostar, studeni 2012.

[88] Preliminarna procjena poplavnih rizika na slivovima Cetine, Jadra i Žrnovnice, Knjiga I Hidrološka obrada velikih voda; Institut za elektroprivredu i energetiku d.d., 2009.

[89] Strategija upravljanja vodama, NN 091/2008

[90] http://www.hep.hr/proizvodnja/osnovni/hidroelektrane/jug/default.aspx

[91] http://www.vremenska-prognoza.net/ECMWF-meteo-model.html

[92] HE Orlovac, Akumulacija Buško Blato, Istraživačko-projektna dokumentacija, Glavni projekt C – ½, Injekciona zavjesa na J-Z rubu, Zagreb, Oktobar, 1967. godina, Geotehnika, Institut Geoekspert

[93] HE Orlovac, Geološka i hidrogeološka istraživanja područja Ričina – Kovači, Zagreb, 1970. Institut za Geološka istraživanja Zagreb

[94] Akumulacija Buško jezero, Dokumentacija o opažanju, Knjiga II, prilozi, Analiza režima podzemne i površinske vode za razdoblje 1972 – 1982, Zagreb, prosinac 1985., Institut geoekspert, OUR poduzeća Geotehnika Zagreb.

ŽIVOTOPIS

Rođen sam 5. listopada 1981. godine u Splitu, gdje sam odrastao te završio osnovnu i srednju školu. 2000. godine upisujem studij Elektrotehnike, smjer Elektronike na Fakultetu Elektrotehnike, strojarstva i brodogradnje Sveučilišta u Splitu, na kojem sam 30. svibnja 2006. godine i diplomirao te stekao visoku stručnu spremu diplomiranog inženjera elektrotehnike. U rujnu 2007. upisao sam poslijediplomski doktorski studij Elektrotehnike i informacijske tehnologije, također na Fakultetu elektrotehnike, strojarstva i brodogradnje Sveučilišta u Splitu.

Od 1. siječnja 2007. godine zaposlen sam na Pomorskom fakultetu Sveučilišta u Splitu u suradničkom zvanju i na radnom mjestu asistenta za područje tehničkih znanosti, polje elektrotehnika, grana elektronika, na Zavodu za pomorske elektrotehničke i informatičke tehnologije. Za vrijeme šestogodišnjeg rada na Pomorskom Fakultetu u Splitu sudjelovao sam u izvođenju nastave u vidu laboratorijskih i auditornih vježbi te plovidbene prakse i rada na simulatoru. Od 2007. do danas izvodio sam vježbe iz 14 različitih predmeta diplomskih i preddiplomskih sveučilišnih studija.

Autor sam jednog znanstvenog rada kategorije A te dva rada iz kategorije B i dva rada iz kategorije C. Također, koautor sam udžbenika Osnove automatizacije i upravljanja, Pomorski fakultet, Split, 2007.

Iskustvo rada u nastavi i bavljenja znanstvenim radom proširio sam radom na brodu MS Zuiderdam, tvrtke Holland-America Line, kao elektročasnik, u periodu od 15. rujna 2012. do 13. srpnja 2013. godine.

BIOGRAPHY

I was born 5th October 1981 in Split, where I grew up and attended primary and secondary school. In year 2000 I entered the study of Electrical Engineering, Department of Electronics at the Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, University of Split, where I graduated 30th May 2006 and earned a university degree of graduated electrical engineer. In September 2007, I enrolled in postgraduate study of Electrical Engineering and Information Technology, also at the Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, University of Split.

From 1st January 2007, I have been employed at the Faculty of Maritime Studies, University of Split as an assistant in the area of technical sciences, the field of electrical engineering, branch of electronics, at the Department of Maritime Electrical Engineering and Information Technology. During six years work at the Faculty of Maritime Studies, I participated in teaching laboratory and auditory practice as well as navigational practice and practice on the ship’s engine room simulator. Since year 2007 until today, I've participated in teaching 14 different classes of graduate and undergraduate university studies.

I am an author of one scientific paper of category A, two papers of category B and two papers of category C. Also, I co-authored the textbook “Osnove automatizacije i upravljanja, Pomorski fakultet, Split, 2007“.

In the period from 15th September 2012 to 13th July 2013 I spent 8 months working as an electrical engineer on board the Holland-America Line’s MS ZUIDERDAM.