PRILIKE I RIZICI RAZVOJA ROBOTIKE I UMJETNE INTELIGENCIJElider.events/4ir/wp-content/uploads/sites/82/2019/03/B2-Jerbic-LIDER... · To je tehnologija koja zadire u našu antropološku

PRILIKE I RIZICI RAZVOJA ROBOTIKE I

UMJETNE INTELIGENCIJE

Bojan Jerbić Fakultet strojarstva i brodogradnje

Sveučilište u Zagrebu

Zagreb, 2019.

NOVE TEHNOLOGIJE UZIMAJU RADNA MJESTA …

Zašto onda sve više radimo???

Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić

ZAŠTO RADIMO VIŠE?

... nema razloga da tehnološki napredno društvo sili svoje građane da rade više od svojih predaka, kad bi mogli raditi puno manje i bez gubitka kvalitetnog životnog standarda.

Medijan zarade i broj radnih sati godišnje

$40.000

$50.000

$60.000

$70.000

$80.000

1975

1979

1983

1987

1991

1995

1999

2003

2007

2011

ZaradaRadnih sati godišnje

Izvor: IPUMS CPS 1976-2010

4000

3500

3000

2000

"Industrija 4.0" označava "Četvrtu industrijsku revoluciju",

novu razinu organizacije i upravljanja sustavima,

kroz cjelokupan vrijednosni lanac i proizvodni životni ciklus.

INDUSTRIJA 4.0

Povezanost ljudi, objekata i sustava koja dovodi do dinamičnog, u stvarnom vremenu optimiranog i samostalno organiziranog sustava stvaranja novih

vrijednosti.

"Industrija 4.0" označava "Četvrtu industrijsku revoluciju",

novu razinu organizacije i upravljanja sustavima,

kroz cjelokupan vrijednosni lanac i proizvodni životni ciklus.

INDUSTRIJA 4.0

Povezanost ljudi, objekata i sustava koja dovodi do dinamičnog, u stvarnom vremenu optimiranog i samostalno organiziranog sustava stvaranja novih

vrijednosti.


OSNOVE I4.0

NETWORKINGInternet of Everything, Big Data to Smart Data

and

SMART SYSTEMSCPS / Smart Everything


INDUSTRIJSKE REVOLUCIJE I UMJETNA INTELIGENCIJA

Mehanizacija proizvodnje, voda i vjetar kao pogon

1. 2. 3. 4.

Podjela rada, masovna

proizvodnja, el. energija

Automatizacija proizvodnje,

robotizacija, ICT i elektronika

Pametni strojevi, umrežavanje

(Cyber Physical Systems)

1780 1870 1970 danas

5.

Autonomni sustavi

Specijalizirana UI Opća UI Super UI


ČETVRTA INDUSTRIJSKA REVOLUCIJA

Četvrta industrijska revolucija, za razliku od prethodnih, zasniva se na uspostavljenom digitalnom gospodarstvu i temelji se na brzom napredovanju umjetne inteligencije, koja u sinergiji s robotikom, biotehnologijom i nanotehnologijom rezultira ubrzanim razvojem inovacija.


UI

UI podrazumijeva računalne/robotske sustave koji mogu osjetiti svoje okruženje, zaključivati, učiti i djelovati u smislu programiranih ciljeva.

Područje umjetne inteligencije utemeljeno je na ideji da se strojevi mogu koristiti za oponašanje ljudske inteligencije.


UMJETNA INTELIGENCIJA: ROĐENA U LJETO 1956.

The Dartmouth College Summer Research Project on Artificial Intelligence: reunited at the July 2006 AI@50 conference. From left: Trenchard More, John McCarthy, Marvin Minsky, Oliver Selfridge, and Ray Solomonoff. (Photo by Joseph Mehling)

On September 2, 1955, the project was formally proposed by John McCarthy (Dartmouth College), Marvin Minsky (Harvard University), Nathaniel Rochester (IBM), and Claude Shannon (Bell Telephone Laboratories). The proposal is credited with introducing the term 'artificial intelligence'.


PERCEPTRON

Frank Rosenblat (11. srpnja 1928. - 11. srpnja 1971.) bio je američki

psiholog, a bavio se umjetnom inteligencijom.

The Mark I Perceptron (uređaj je spojen na fotoaparat koji je

koristio 20 × 20 kadmij sulfid ćelija kako bi se dobila slika od

400 piksela)

Marvin Minsky & Seymour Papert: Perceptrons: an

introduction to computational geometry

1969.


UI DONOSI SA SOBOM NIZ POGODNOSTI

Npr.:‣ poboljšanje ekonomskih rezultata‣ povećanje razine produktivnosti,‣ unapređenje ljudskih odluka.

UI donosi pogodnosti koje se još ne mogu predvidjeti ili ih je teško zamisliti.


…ALI I BROJNE IZAZOVE

Uključujući:‣ otvorenost podataka koji su potrebni za obuku umjetne inteligencije‣ pristup odgovarajućim računalnim resursima,‣ zakoni i propisi koji reguliraju razvoj i primjenu UI adekvatno čuvajući

građanske slobode,‣ etički okvir za upravljanje korištenjem umjetne inteligencije,‣ objašnjivost sustava UI.


RAZVOJNI TEMELJI UI U SKLOPU I4.0• Procesorska snaga: paralelno računanje.• “Big Data”: strukturirani (u bazama podataka i proračunskim tablicama) i nestrukturirani (tekst, audio,

video i slike) podaci uz trilijune senzora dokumentiraju naše živote i poboljšavaju razumijevanje svijeta i otkrivanje novih obrazaca i teorija.

• Globalno umrežavanje: ubrzanje širenja informacija i poticanje razmjene znanja, dovodi do pojave "kolektivne inteligencije".

• “Open Source” softver i podaci: demokratizacija upotrebe UI (TensorFlow, Caffe2, PyTorch i Parl.ai). • Ubrzavanje poslovnih učinaka: poboljšani UI algoritmi i softveri otvorenog koda povećavaju povrat

investicija kroz, primjerice, povećanje personalizacije potrošačkih proizvoda ili korištenje inteligentne automatizacije kako bi se povećala njihova produktivnost.

• Poboljšani algoritmi: nove teorije i nove metode, posebice u "dubokom učenju", koji uključuje kompleksne slojeve neuronskih mreža, oblikovanih na način inspiriran pristupom ljudskog mozga u obradi informacija. Još jedno novo područje istraživanja je "duboko pojačanje" u kojem agent UI uči s malim ili nikakvim početnim ulaznim podacima, pokušajima i pogreškama optimira funkciju nagrađivanja.

Konvergencija tih čimbenika pretvorila je UI od in vitro do in vivo tehnologiju.


HIPOTEZA O JEDNOM PROGRAMU

XTalamus

Vizualni korteksAuditorni korteks

Bazolateralna amigdalaSredišnja amigdala

MedulaSpinalni kanal

Moždani most


…

‣ “Ne-vektorski” pristupi (asocijativna inteligencija, vizualni korteks)‣ “BLRC - Brain-like Robot Control” ‣ Evolucijski algoritmi‣ Semantički modeli‣ Vjerojatnosni modeli‣ Višeslojne i hijerarhijske neuronske mreže (“duboke mreže”)‣ “Deep Learning”‣ “Creative AI”‣ Kognitivni OS‣ …


DUBOKO UČENJEUmjesto programiranja pravila koji oponašaju ljudsko ponašanje, duboko učenje procesira veliku količinu podataka pomoću modela baziranih na procesima u ljudskom mozgu, tražeći sličnosti i korelacije između njih. To se zove duboko učenje - što je podskup Strojnog učenja.

Duboko učenje: što više podataka tim više znanja i bolja pouzdanost sustava!

Količina podataka

Tradicionalni algoritmi strojnog učenja

Duboko učenje

Uči

nak


NEMOJTE PODCIJENITI SNAGU UMJETNE INTELIGENCIJE!

Umjetna inteligencija je vjerojatno najvažnija tehnologija u povijesti!!!

To je tehnologija koja zadire u našu antropološku prirodu. Kognicija nas razlikuje od bilo čega na svijetu. Čovjek nikad nije u svojoj povijest došao tako blizu razvoju inteligentnih artefakata koji se mogu natjecati s našom kognitivnom dominacijom. Razvoj umjetne inteligencije temeljno mijenja našu kulturu u kojoj čovjek ima položaj bića odgovornih za donošenje odluka i djelovanja.

Pojavom inteligentnih i autonomnih robota, strojevi će sve više biti zaduženi za odlučivanje, rješavanje problema i izvršavanje poslova.




1. 2. 3. 4.







1780 1870 1970 danas

5.

Autonomni sustavi



ČETIRI VALA

1 val:

stručni sustavi ili sustavi utemeljeni na pravilima

Percepcija

Učenje

Apstrakcija

Zaključivanje

3 val:

uopćavanje, predviđanje, planiranje, kontekstualna inteligencija, mogućnost objašnjenja

2 val:

učenje, klasifikacija, opažanje

4 val:

svijest, superinteligencija …


OBJAŠNJIVA UI

Podaci Strojno učenje

Naučena funkcija

Odluka ili preporuka

Zadatak

Napredno strojno učenje

Model rješenja

Zadatak

Podaci

‣ Žašto tako?

‣ Zašto nije nešto drugo?

‣ Kada mogu vjerovati rješenju?

‣ Kako ispraviti grešku?

‣ Razumijem zašto.

‣ Razumijem zašto ne.

‣ Zašto nije nešto drugo.

‣ Znam mogu vjerovati rješenju.

‣ Znam zašto dolazi do greške.

?

?

Danas

Objašnjiva UI

GAO and Defense Advanced Research Project Agency (DARPA) / GAO-18-142SP


OPĆA UMJETNA INTELIGENCIJA

Pravila & logičko zaključivanje

Nestrukturirani podacima

Socijalna / emocionalna stanja

Kognitivni podaci+ kritičko / divergentno /

konvergentno / apstraktno razmišljanje

Autonomni strojevi & sustavi

Robotizacija procesa

Integrirana inteligencija

Povećanje kognitivnih sposobnosti

Inteligentni agenti

Source: Story of Industrial Revolution and Artificial Intelligence, Rojin Nair, General Manager Fintech Solutions, Published on September 9, 2018

Strojno učenje Duboko učenje


OBLICI PRIMJENE

• Automatizirani inteligentni sustavi, npr. robot koji može naučiti sortirati reciklirane materijale ili poslove u kućanstvu.

• Inteligentni asistenti koji pregledavaju i otkrivaju obrasce u npr. nestrukturiranim društvenim mrežama i pomažu ljudima da brže i bolje obavljaju zadatke pomoću prikupljenih podataka. Na primjer, tehnike kao što su duboko učenje i razumijevanje jezika mogu poslužiti predviđanju društvenih događaja.

• Proširena inteligencija • Autonomna inteligencija koja automatizira odlučivanje bez ljudske intervencije. Npr.

upravljanje vozilima ili optimiranje troškova u kućanstvu (grijanje, rasvjeta, itd.).


INVESTICIJE U RAZVOJ UMJETNE INTELIGENCIJE U 2016.

Od 2013. godine investicije su porasle 3x:

39 milijardi USD

Izvor: McKinsey Global Institute

Globalna primjena UI


PROFITNE STOPE U ODNOSU NA RAZINU PRIMJENE UI

-9

-4,5

0

4,5

9

13,5

18

“Hi-T

ech”

i te

leko

m

Auto

mo

ind.

i m

ontaža

Fina

ncijk

e us

luge

Kom

unal

ne u

slug

e

Tran

spor

t i lo

gist

ika

Roba

širo

ke p

otrošn

je

Mal

opro

daja

Obra

zova

nje

Zdra

vstv

o

Građ

evin

a

Prof

esio

naln

e us

luge

Turiz

am

UI korisnici s proaktivnom strategijomDjelomični korisnici UISkeptici

Izvor: McKinsey Global Institute


NAJVEĆI UTJECAJI OČEKUJU SE U SLJEDEĆIM PODRUČJIMA:

• Uslužni sektor: Umjetna inteligencija omogućava sve širu zamjenu čovjeka u pružanju usluga, prvenstveno tamo gdje nema potrebe za motoričkom inteligencijom. Brojni su takvi primjeri (banke, pošte, dućani, …)

• Zdravstvo: UI već danas doprinosi poboljšanju dijagnostike. Značajno će ubrzati razvoj novih ljekova, zahvaljujući masivnoj obradi podataka te mogućnosti korištenja nestrukturiranih podataka.

• Financijske usluge: Financijske spekulacije trebale bi biti zamijenjene inteligentnim sustavima za poslovne procjene.

• Transport / Autonomni sustavi: Preuzet će sve poslove i zadaće koji se temelje na rutini ili ograničenom skupu pravila. Poseban imakt se očekuje u području transporta, smanjujući rizike i nesreće te mijenjajući ekonomske principe u tom resoru.


ROBOTIZACIJA, AUTOMATIZACIJA I UMJETNA INTELIGENCIJA BEZ KOMPROMISA …

Nedavno je Amazon otvorio autonomni dućan široke potrošnje bez prodavača!

To ne bi bilo moguće bez umjetne inteligencije i računalnog voda kojima se prate proizvodi i kupci te kreiraju obavljaju usluge.


Amazon je kupio Kiva Systems, proizvođača skladišnih robota za $ 775 mil., te je otvorio poseban odjel Amazon Robotics.

ROBOTIZACIJA, AUTOMATIZACIJA I UMJETNA INTELIGENCIJA BEZ KOMPROMISA …


Bolji i sigurniji od ljudi!

CAR

3.6 mil. ljudi u SAD živi od vožnje!

2.6% populacije u SAD i Europi živi od

vožnje!


PRIMJERI:• Najpoznatiji među UI servisima je IBM Watson, program temeljen na umjetnoj inteligenciji i dubokom učenju.

Može se naučiti rješavati različite probleme, a njezina najpoznatija primjena je medicinska dijagnoza i rješavanje pravnih pitanja.

• Poznata računalna platforma za online plaćanje PayPal koristi strojno učenje kako bi otkrio moguće pranje novca.• Google se postupno pretvara u globalnog lidera UI tehnologije. Godine 2012. Google je predstavio Knowledge

Graph - semantički algoritam upita koji značajno poboljšava pretraživanje interneta. Google Maps upotrebljava inteligentne algoritme za procjenu propusnosti prometa pomoću anonimnih položaja mobilnih telefona vozača, predlažući najbrži put do željenog odredišta. Google Duplex ...

• Primjerice, u medicini se ističe CAD-Computer Assisted Diagnosis, računalni program koji nepogrešivo dijagnosticira rak dojke putem mamografije. Osim toga, program može naučiti prepoznati čimbenike rizika za različite bolesti u velikim populacijama bolesnika.

• Tu je i neizbježan Apple Siri softver koji se temelji na dubokom učenju kako bi razvio inteligentnu interakciju s korisnicima.

• Facebook koristi DeepFace algoritam za prepoznavanje lica sa stopom uspjeha od 97,25% kako bi povezao ljude sa svojim prijateljima.

• Uber temelji svoj poslovni model na strojnom učenju, određuje vrijeme dolaska, mjesto susreta, cijenu vožnje itd.• Spotify koristi alat za učenje strojeva za profiliranje korisnika kako bi stvorio personaliziranu glazbenu ponudu.…


KLIMAOPREMA - FSB


PROŠIRENJE LJUDSKE INTELIGENCIJE

Osim produktivnosti, UI također obećava povećanje ili proširenje ljudske inteligencije, otvarajući vrata novim otkrićima. UI već transformira postojeću proizvodnju i svakodnevni život.


CREATIVE AI

(Source: Maurice Conti, TEDx Portland, Portland, Oregon, April 2016.)


NOVO RAZUMIJEVANJE TEHNOLOGIJE

(Source: Maurice Conti, TEDx Portland, Portland, Oregon, April 2016.)

➡ Od izolacije do umrežavanja

➡ Od ekstrakcije do agregacije

➡ Od upravljanja do autonomije

➡ Od komponenata do molekula

➡ …

KAKO DALJE ?


PREDVIĐENI UTJECAJ NOVIH TEHNOLOGIJA NA AUTOMATIZACIJU POSLOVA

Transport i skladištenje

Proizvodnja

Građevinski sektor

Administracija

Prodaja

Javni sektor i obrana

Financije

ICT

Znanost i tehnologija

Turizam

Zdravstvo

Obrazovanje

0 15 30 45 60

ProgramiranjeProširenje sposobnostiAutonomija

Ručni poslovi

Rutinski poslovi

Računarstvo

Upravljački poslovi

Socijalne vještine

Pismenost

0 10 20 30 40


%%Izvor: PIAAC data, PwC Analysis


PREDVIĐENI UTJECAJ NOVIH TEHNOLOGIJA NA AUTOMATIZACIJU POSLOVA

Muškarci

Žene

Mladi (<25)

Iskusni (25-54)

Stari (55+)

Nisko obrazovani

Srednje

Visoko

0 12,5 25 37,5 50


%Izvor: PIAAC data, PwC Analysis


ROBOTIKA I UMJETNA INTELIGENCIJA NE BIRAJU …

Danas su visokoobrazovani radnici jednako izloženi novim tehnologijama kao i manje obrazovani radnici angažirani u proizvodnji materijalnih dobara:

• Robotika već danas intezivno zamjenjuje ljudsku fizičku radnu snagu iz proizvodnje.

• Umjetna inteligencija pak doprinosi proizvodnji intelektualnih dobara, proširujuči kognitivne i kreativne mogućnosti ili zamjenjujući visoko obrazovane kadrove u većini rutinskih zadaća!

Nobelovac Paul Krugman zaključuje:Obrazovanje, dakle, više nije odgovor na rastuću nejednakost, ako je ikada bilo (što sumnjam).


ODNOS IZMEĐU GUSTOĆE ROBOTA I RIZIKA GUBITKA POSLA ZBOG AUTOMATIZACIJE

Rizik gubitka posla zbog automatizacije

log (broj robota na 10.000 zaposlenih u proizvodnim djelatnostima)

Izvor:

ŠTO JE ODGOVOR ?


ODGOVOR NA POTROŠAČKU EKONOMIJU ?

•Uvesti poreze na robote?• Zabraniti tehnologijski razvoj?• Strukturne reforme?• Pritisak na plaće?•Očuvanje radnih mjesta?•Novi porezi?•…

POTROŠAČKA EKONOMIJA, EKSPONENCIJALNI

TEHNOLOGIJSKI RAZVOJ, OGRANIČENI RESURSI

NEODRŽIVI EKONOMSKI RAST = EKSPONENCIJALNI

RAST POTREBA ZA RESURSIMA

MASOVNA NEZAPOSLENOST,

KLIMATSKE PROMJENE, NEDOSTATAK RESURSA,

POVEĆANJE NASILJA I NOVI RATOVI

Izvor: Frederico Pistono

NE …


???

Produktivnost bez inovacija koje vode stvaranju radnih mjesta s većom dodanom vrijednošću, rezultira nezaposlenošću i gospodarskim problemima ...

Hipoteza 2: Radnici su potrošači. Ako radnici imaju male plaće ili nema radnika, tvornice nemaju kome prodati svoje proizvode te možemo očekivati negativne efekte u gospodarstvu.

Hipoteza 1: Svaki posao izgubljen zbog robota ponovno će se pojaviti u sektoru proizvodnje robota, ako … Prema Keynesu, gubitak radnih mjesta je samo privremena faza neprilagođenosti. "Sve to dugoročno znači da čovječanstvo rješava svoj ekonomski problem."

MORAMO SE PRIPREMITI NA TEMELJITE CIVILIZACIJSKE PROMJENE, REDEFINIRANJE

EKONOMSKIH PRINCIPA I VLASTITE KULTURE.

Roboti mijenjaju egzistencijalistički smisao rada!


NA PUTU SMO U NOVO TEHNOLOŠKO DRUŠTVO

EKSPONENCIJALNI TEHNOLOGIJSKI RAZVOJ,

OGRANIČENI RESURSI

ODRŽIVI RAST, UKIDANJE POTROŠAČKE EKONOMIJE,

“OPEN SOURCE”, DIY

PRILAGODLJIVO DRUŠTVO, GLOBALNA RAVNOTEŽA POTROŠNJE RESURSA,

BOLJA KVALITETA ŽIVOTA

Izvor: Frederico Pistono

… JER ..

… sutra?


UMJETNA INTELIGENCIJA NIJE SKUP SPRAVICA

Vernor Vinge (1993): “Budućnost koja sadrži nešto što je pametnije od ljudskog uma suštinski je različita. Umjetna inteligencija nije nevjerojatan sjajan skup spravica za oglašavanje u najnovijim tehnološkim časopisima.

Umjetna inteligencija ne pripada istom grafu koji pokazuje napredak u medicini, proizvodnji i energiji. Umjetna inteligencija nije nešto što možete usput miješati u “lumpenfuturistički” scenarij nebodera i letećih automobila i nanotehnoloških crvenih krvnih stanica koje vam omogućuju da zadržite dah osam sati. Dovoljno visoki neboderi ne mogu početi raditi vlastiti inženjering. Čovječanstvo nije dospjelo na istaknutu poziciju na Zemlji zadržavajući svoj dah duže od drugih vrsta.

Vernor Vinge: The Coming Technological Singularity (1993)




1. 2. 3. 4.







1780 1870 1970 danas

5.

Autonomni sustavi



UMJETNA SUPER INTELIGENCIJA

Strojna inteligencija nadmašuje ljudsku inteligenciju

Izravno neupravljivi inteligentni sustavi

Koegzistencija ljudi i strojeva kao zasebnih vrsta

Strojevi preuzimaju odlučivanje i provođenje odluka

Obrnuta inteligencija - strojevi podučavaju ljude

+ holističko / emocionalno / kreativno razmišljanje

Source: Story of Industrial Revolution and Artificial Intelligence, Rojin Nair, General Manager Fintech Solutions, Published on September 9, 2018

… ALI BEZ PANIKE …

…


KOMPLEKSNOST KOGNITIVNIH SUSTAVA

Kom

plek

snos

t

Odlučivanje RobotČovjek

Potpomognuta inteligencija

Ljudi i strojevi uče jedan od drugih i dijele odgovornost odlučivanja.

Autonomna inteligencija

Adaptivni sustavi koji donose odluke i samostalno djeluju.

Povećana inteligencija

UI povećava ljudske kognitivne sposobnosti, povećavajući brzinu i kvalitetu donošenja odluka. Čovjek odlučuje.

USPOREDBA:

ČOVJEK ROBOT

Razmišljanje / Razum Obrada velike količine podataka (!)

Moral Prepoznavanje uzoraka

Mašta ”Logičko” zaključivanje

Intuicija, apstrakcija Strojno učenje

Snovi (!) Raspoloživost (!)

Strast Nema emocije i svijest


INTUICIJA ?

Intuicija je jedna od najcjenjenijih značajki ljudske inteligencije.

Intuicija je sposobnost stjecanja znanja bez dokaza, argumenata ili svjesnog razmišljanja, ili bez razumijevanja kako je znanje stečeno.

Source: English Oxford Dictionary, 2014.; Intuition and consciousness, Rosenblatt AD, Thickstun JT. Psychoanal Q. 1994 Oct;63(4):696-714.


NPR.

Ljudska se inteligencija procjenjuje na 1000 TB i milijardu MIPS-a.

Trenutačno je potrebno oko 83.000 procesora koji rade 40 minuta kako bi izvršili ekvivalent od jedne sekunde računanja koje izvodi

samo 1 posto ljudskog mozga!


IZAZOV

Glavni problem leži u činjenici da suvremeni inženjerski agenti/artefakti nisu u stanju razumjeti kontekst situacije u kojoj rade. Stoga današnji roboti više djeluju kao reaktivni strojevi, a manje kao kognitivni sustavi.

”Context Driven vs Data Driven Intelligence!”


ROBOTIKA JE RAZOČARALA!!!

Ekonomist Robert Gordon: Robotika je razočarala!!!

”Po mom mišljenju, veliki utjecaj na poslovnu produktivnost od digitalne revolucije dogodio se između 1980. i 2005. To je doista učinilo razliku kada smo se riješili pisaćih strojeva i računskih strojeva i prebacili se na osobna računala sa softverom za proračunske tablice i softverom za obradu teksta.”

”Premještanje s papirnatih obrazaca koje je trebalo slati poštom imalo je ogromnu razliku u produktivnosti. No, taj je cijeli prijelaz - i sve to rezultiralo rastom produktivnosti - u osnovi završen do 2005. Kada idete u liječnički ured da se prijavite, kada odjavite u supermarketu, povezujete se s opremom i programima koji su barem 10 godina stari.”Source: https://www.vox.com/a/new-economy-future/robert-gordon-interview

Rast produktivnosti (SAD)

IZAZOVI

…


UI U SREDIŠTU DOBRIH I LOŠIH ISHODA

Npr.:

‣ Napredna umjetna inteligencija može razviti nove medicinske tehnologije sposobne spasiti milijune ljudskih života. [UI će odlučiti to učiniti]. Zato trebamo razvijati AI.

‣ Napredna UI mogla bi nadvladati svaki ljudski otpor i izbrisati čovječanstvo. [AI će odlučiti to učiniti]. Stoga ne bismo trebali razvijati AI.


GUBIMO LI KONTROLU NAD UI

• Što kada UI pokuša unaprijediti svoje sposobnosti i pogriješi?• Kako će robot samostalno procijeniti što je dobro, a što loše?• To znači da bi robot trebao razumjeti moralne koncepte, pa onda i našu

kulturu. Kako to matematizirati?• Mogli bismo promatrati neuspjeh programera na moralnoj ili etičkoj razini -

reći da je to rezultat toga što je netko previše vjerovao u sebe, ne uzimajući u obzir vlastitu pogrešivost. Ali u jeziku Bayesove teorije odlučivanja postoji komplementarni tehnički pogled na problem.

• Iz perspektive teorije odlučivanja, izbor za neko rješenje proizlazi iz kombiniranja empirijskog uvjerenja s vrijednosnom prosudbom. Očekujemo da prava UI, umjetna opća inteligencija, bude sposobna promijeniti svoja empirijska uvjerenja. (Ili njegov probabilistički svjetski model, itd.).


POGREŠNO JE AI TUMAČITI PARALELNO

Učinci novih tehnologija pogrešno se pokušavaju tumačiti uspoređujući ih s čovjekom.Nove tehnologije impliciraju potpuno nove koncepte koji ljudima nisu dostupni, npr.:‣ Sposobnost obrade velike količine (jednako strukturiranih kao i nestrukturiranih)

podataka u djeliću sekunde,‣ Proširena percepcija (GPS, računalni vid, “sensing”…),‣ kontrolirane “emocije”‣ Nova kultura‣ …


PROBLEM UPRAVLJIVOSTI I SIGURNOSTI

Korištenje sirovih i nestrukturiranih podataka u autonomnim sustavima stvorit će sustave koji su refleksija dijela društva i pojačavaju postojeće kognitivne predrasude.

Korištenje pak modificiranih podataka rezultirat će kognitivno pristranim strojevima. Ako autonomni sustav uči na temelju modificiranih podataka on će pojačati iskrivljenje slike ili modela koji uči.Kognitivna pristranost je sustavni uzorak odstupanja od norme ili racionalnosti u prosudbi. Mogući problemi:

• Previše podataka opterećuje, pa agresivno filtriramo. Buka postaje signal.• Nedostatak značenja zbunjuje, pa popunjavamo praznine. Signal postaje priča.

• Treba djelovati brzo, pa naprečac zaključujemo. Priče postaju odluke.

• Na kraju: Odluke oblikuju naše mentalne modele svijeta u kojem živimo.


Neki primjeri:

‣ Haski - vuk (Google)‣ Tenkovi - šuma (US Army)‣ Zaborav (distorzija znanja)‣ Ubrzanje AI (sinergija, autonomija)‣ …

KOGNITIVNI “BIAS”


RIZICI UMJETNE INTELIGENCIJE

Rizici izvedbe

• Greške • Izobličenje

podataka • Netransparentnost • Stabilnosti rada

Rizici sigurnosti

• “Cyber” kriminal • Ugrožavanje

privatnosti • Rizik otvorenog

koda

Rizici upravljanja

• “Neposlušnost” • Gubitak kontrole

Etički rizici

• Ugrožavanje etičkih kodeksa

• Rizik usklađivanja s vrijedostima

• Rizik usklađivanja s ciljevima

Ekonomski rizici

• Tranzicije poslova • Koncentracije moći • Rizik odgovornosti

Socijalni rizici

• Upotreba u naoružanju

• Tehnologijska divergencija


UPRAVLJANJE UMJETNOM INTELIGENCIJOM

Ako trebamo upravljati umjetnom inteligencijom, moramo ju biti u stanju kontinuirano mjeriti.Stoga, moramo UI učiniti mjerljivim. MIT Technology Review je preporučio mjerljivost prema pet osnovnih načela:• Odgovornost - “Iza svakog računalnog algoritma stoji čovjek, iako ga je izradio stroj”.• Objašnjivost - "Sve odluke koje donosi stroj trebale bi biti objašnjene ljudima koji su

pogođeni tim odlukama."• Točnost - "Načelo točnosti sugerira da se izvori pogreške i nesigurnosti u algoritmu, kao i

njegovi izvori podataka moraju identificirati, bilježiti i usporediti".• Revizivnost - "Načelo revizivnosti nalaže razvoj algoritama na način koji omogućuje trećim

stranama da provjere ponašanje algoritma."

• Pravednost - "Budući da algoritmi sve više donose odluke temeljene na povijesnim i društvenim podacima, postojeće pristranosti i povijesno diskriminirajuće ljudske odluke mogu biti opasne te ne smiju biti upotrebljene protiv ljudi.


U KOJEM SMJERU DJELOVATI

GAO Forum on Artificial Intelligence / GAO-18-142SP

POLITIČKA DOMENA

ISTRAŽIVAČKA DOMENA

Poticanje razmjene podataka

Poboljšanje sigurnosti

Promjena regulatornih pristupa

Prihvaćanje novih rizika i etičkih prosudbi

Uspostava sigurnosnih okvira (odgovornost,

revizivnost …) Razvoj kvalitetnih

podataka Razumijevanje utjecaja

UI na društvo Istraživanje računalne etike i objašnjive UI


BUDUĆNOST

• Napredak u pogledu sigurnosti UI postaje imperativ. To će uključivati razvoj algoritama s obaveznim sigurnosnim pravilima.

• Daljnje razumijevanje naprednih kognitivnih i emocionalnih procesa.

• Budući napredak u UI trebat će razvoj računalne snage. Očekuje se napredak u kvantnom računarstvu, distribuiranom računarstvu.


STOGA …

Ako želimo biti uspješni u digitalnoj budućnosti, moramo izgraditi:

• inovativno društvo spremno za promjene

• novu održivu ekonomiju zasnovanu na znanosti i inovacijskom razvoju!

• novo razumijevanje znanosti i kulture (znanost inspirirana stvarnim društvenim potrebama i novim znanjem, novom primjenom znanosti i tehnologije, od "podataka driven" do "robot driven" - novi oblik IT-a).

HVALA …

“It is better to fail in originality than to succeed in imitation.”— Herman Melville

Documents

PRILIKE I RIZICI RAZVOJA ROBOTIKE I UMJETNE INTELIGENCIJElider.events/4ir/wp-content/uploads/sites/82/2019/03/B2-Jerbic-LIDER... · To je tehnologija koja zadire u našu antropološku