Il robot tra ius condendum ius conditum · Il robot tra ius condendum e ius conditum GIANCARLO TADDEI ELMI, FRANCESCO ROMANO SOMMARIO: 1. Dal diritto dell’informatica al diritto

ii

“articoli/TaddeiRomano” — 2017/11/8 — 9:25 — page 115 — #115 ii

ii

ii

Il robot tra ius condendum e ius conditum

GIANCARLO TADDEI ELMI, FRANCESCO ROMANO∗

SOMMARIO: 1. Dal diritto dell’informatica al diritto della robotica – 2. Dal Rap-porto Delvaux alla Risoluzione del Parlamento europeo – 3. Robotica e intelligenzaartificiale nelle mozioni parlamentari italiane – 4. Le prospettive giuridiche – 5. Leprospettive economiche – 6. Le prospettive socio-politiche – 7. Le prospettive etiche esocio-antropologiche – 8. Dall’intelligenza alla coscienza dei robot

1. DAL DIRITTO DELL’INFORMATICA AL DIRITTO DELLA ROBOTICA

Negli ormai lontani primi anni Novanta, quando Robotica e Rete eranoancora agli albori, si ponevano, tra le molte altre, due questioni, una filo-sofica generale, relativa alla possibilità che gli artefatti intelligenti avrebberopotuto un giorno superare la classica dicotomia cosa-persona procurandosiuna tutela per soggettività oltre che per valore, e una seconda, pratico fun-zionale, che prendeva atto della sempre più diffusa capacità delle macchinedi sostituire totalmente o parzialmente l’uomo in molte delle sue attività1.Ci si domandava in particolare se l’informatica avrebbe potuto garantire ra-zionalità, trasparenza e un effetto per così dire “anti-tangente” (eravamo inpiena “tangentopoli”) in tutto il settore della pubblica amministrazione e nonsolo2.

A distanza di oltre 20 anni, forse un po’ in ritardo, i temi sono diven-tati attualissimi tanto che il Parlamento europeo, su spinta di un rapportopresentato dalla deputata dell’assemblea di Strasburgo Mady Delvaux3, ha

∗ Gli AA. sono rispettivamente associato alle ricerche e ricercatore dell’Istituto di Teoriae Tecniche dell’Informazione Giuridica del CNR.

1 Vedi G. TADDEI ELMI, I diritti dell’intelligenza artificiale tra soggettività e valore: fanta-diritto o ius condendum?, in L. Lombardi Vallauri (a cura di), “Il meritevole di tutela”, Milano,Giuffrè, 1990, p. 685 ss. e L. LOMBARDI VALLAURI, Neuroni, mente, anima, algoritmo: quat-tro ontologie, in L. Lombardi Vallauri (a cura di), “Logos dell’essere. Logos della norma”, Bari,Editrice Adriatica, 1999, pp. 571-601.

2 Vedi G. TADDEI ELMI, Pa. “informatica”: “razionale”, “trasparente” e’ ... “anti-tangente”?in “Informatica ed Enti Locali”, 1993, n. 1, pp. 12-20.

3 PARLAMENTO EUROPEO - COMMISSIONE GIURIDICA, Relazione recante raccoman-dazioni alla Commissione concernenti norme di diritto civile sulla robotica, doc. A8-005/2017(2015/2103(INL)).

Edizioni Scientifiche Italiane ISSN 0390-0975

Informatica e diritto, XLII annata, Vol. XXV, 2016, n. 1, pp. 115-137

ii


ii

ii

116 Informatica e diritto / Studi e ricerche

adottato una Risoluzione per una legge sul diritto civile dei robot4 e la digi-talizzazione della pubblica amministrazione come strumento semplificatoree anti-corruttivo, specialmente nel campo degli appalti, sta subendo una forteaccelerazione5.

Sul punto “soggettività dell’intelligenza artificiale” basti, al momento, sot-tolineare che la attuale natura ancora morfosintattica e inconsapevole delcomputer non solo non consente di superare la dicotomia cosa-persona, maneppure la dicotomia logica-semantica. La macchina non si rende conto di sestessa e non comprende i significati ma solo i significanti. Sono questi i pro-blemi di soluzione problematica della intelligenza artificiale sui quali nonpossiamo ora diffonderci6.

La tecnologia però sta progredendo a grandi passi verso macchine semprepiù sofisticate che addirittura si auto-programmano. Questa autonomia puòarrivare fino a sganciare il robot da chi sta dietro le quinte come produttore,programmatore e utilizzatore? Oggi possiamo, infatti, cogliere almeno trelivelli di robotica, con distinti e crescenti livelli di autonomia, che vanno dairobot totalmente teleoperati a quelli che apprendono dalla loro “esperienza”.

È recente la notizia di un robot autoapprendente chiamato Libratus, pro-dotto alla Carnegie Mellon University Pittsburg, che è in grado di battere icampioni umani di poker7. È l’evoluzione del suo fratello maggiore Claudi-cus che aveva fallito perché ancora non sufficientemente capace di apprenderedall’esperienza e rielaborare le mosse delle partite perse con gli umani. Que-sti livelli di autonomia differenti possono ovviamente avere un effetto diver-so rispetto alle eventuali responsabilità da attribuire in caso di danni prodottidalla robotica.

4 PARLAMENTO EUROPEO, Risoluzione del Parlamento europeo del 16 febbraio 2017 re-cante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica(2015/2103(INL)), http://www.europarl.europa.eu/sides/getDoc.do?type=TA&reference=P8-TA-2017-0051&language=IT&ring=A8-2017-000.

5 In realtà sono anni che sia il dibattito scientifico sia la produzione legislativa spingono peril documento informatico, il processo civile telematico e per una informatizzazione di granparte delle operazioni basate su dati obbiettivamente certi e univoci. Tale processo non haavuto per ora gli esiti sperati, per vari motivi, tra questi vi è la mancata previsione di sanzioninei casi in cui tale digitalizzazione non fosse attuata dalla PA.

6 Vedi supra nota 1 e G. TADDEI ELMI, Logos e intelligenza artificiale, in L. LombardiVallauri (a cura di), “Logos dell’essere. Logos della norma”, cit., con ampia bibliografia.

7 T. RILEY, Partita a poker con il computer, trad. it., in “Internazionale”, 10/16 marzo2017, n. 1195, p. 94.

ISSN 0390-0975 Edizioni Scientifiche Italiane

ii


ii

ii

G. Taddei Elmi, F. Romano / Il robot tra ius condendum e ius conditum 117

Quanto agli effetti sul lavoro non vi è dubbio che, come la meccanizzazio-ne in passato, la robotica produca un effetto importante. Sociologi e lavoristihanno negli anni riflettuto su questo tema cruciale dividendosi tra ottimistie pessimisti8.

Analogo atteggiamento è quello nei confronti della Rete che, per alcu-ni9, riduce la capacità di pensare e riflettere, mentre per altri10 rappresentauna potenzialità per acquisire e approfondire un numero sempre maggiore diinformazioni.

L’overdose di informazione può portare a un’acquisizione acritica, privadi riflessione, foriera di quantità e superficialità, oppure può costringere a unanecessaria opera di analisi e filtro utile per l’attività intellettuale11. La mentenel primo caso si inaridirebbe, mentre nel secondo caso sarebbe indotta adallenarsi continuamente.

Questi nuovi scenari hanno spinto il Parlamento europeo a invitare leistituzioni europee ad attivarsi per regolamentare la materia informatico-robotica che impinge sempre più nell’intelligenza artificiale evoluta.

In questo quadro si colloca la Risoluzione europea approvata nel febbraio2017 su spinta del Rapporto Delvaux.

8 Su queste prospettive si veda un documento di discussione dell’Agenzia europea per lasicurezza e la salute sul lavoro del 20 novembre 2015 intitolato Futuro del lavoro: la robotica,https://osha.europa.eu/it/tools-and-publications/publications.

9 L. MAFFEI, Elogio della lentezza, Bologna, Il Mulino, 2014; ID., Elogio della ribellione,Bologna, Il Mulino, 2016; N. CARR, Internet ci rende stupidi?, Milano, Cortina, 2011.

10 C. SHIRKY, Surplus digitale, Torino, Codice edizioni, 2010; D. KERCHOVE, La Re-te ci renderà stupidi?, Roma, Castelvecchi, 2016; ma anche D. WEINBERGHER, La stanzaintelligente: la conoscenza come proprietà della rete, Torino, Codice edizioni, 2012, p. 271.

11 Ma lavorare sempre connessi potrebbe causare anche disturbi fisici: «The increasing ex-pectation that workers will remain connected and doing computer-based work while out ofthe office, including while travelling, could lead to the use of mobile devices that are lessergonomic than desktop devices and could, therefore, cause musculoskeletal disorders», siveda la relazione Principali tendenze e fattori di cambiamento nelle tecnologie dell’informazio-ne, della comunicazione e delle sedi di lavoro, che presenta le «conclusioni del pacchetto dilavoro 1 del progetto dell’EU-OSHA Foresight on new and emerging occupational safety andhealth risks associated with information and communication technologies and work location by2025 (Previsione di rischi nuovi ed emergenti per la sicurezza e la salute sul lavoro legati al-le tecnologie dell’informazione e della comunicazione e alle sedi di lavoro entro il 2025)»,del 4 maggio 2017, p. 15, https://osha.europa.eu/it/tools-and-publications/publications/key-trends-and-drivers-change-information-and-communication/view.


ii


ii

ii


2. DAL RAPPORTO DELVAUX ALLA RISOLUZIONE DEL PARLAMENTO

EUROPEO

La recente Risoluzione del Parlamento europeo, composta da 68 punti,invita a definire un diritto civile della robotica12.

Dopo alcune premesse di carattere generale per giustificare la necessità diun intervento legislativo in materia si richiama, in primis, la questione dellaresponsabilità civile per i danni prodotti dai robot, sottolineandone l’urgen-za dovuta al forte sviluppo dell’autonomia dei robot. Per i danni prodotti danegligenza della macchina si propone l’ipotesi di una assicurazione obbliga-toria che copra i rischi e di un fondo sussidiario in caso di non assicurazionerievocando il peculium degli schiavi romani.

Successivamente, per quanto riguarda gli effetti sul lavoro, si richiama l’at-tenzione sulla previsione della Commissione secondo cui entro il 2020 l’Eu-ropa potrebbe trovarsi ad affrontare una carenza di professionisti “digitali”fino a 825.000 persone e, d’altro canto, si rileva che la robotizzazione potreb-be incidere negativamente sulla occupazione in generale con pericolo di fortiperdite di posti di lavoro13.

A questo proposito la proposta originaria chiedeva che si introducesse unatassa, definita Robotax, che avrebbe dovuto incidere sui redditi prodotti da en-trate “digitali”, per poi costituire un fondo per la tutela e la riqualificazionedei lavoratori licenziati a causa della tecnologia digitale. Il testo approvatonon prevede questa ipotesi che – come prospettato anche dalla FederazioneInternazionale della Robotica – sarebbe risultata troppo penalizzante per l’in-dustria digitale e anzi (punto 41) invita gli Stati membri a sviluppare sistemidi istruzione e formazione «più flessibili, in modo da garantire la corrispon-denza tra le strategie delle conoscenze e le esigenze dell’economia della robo-tica» per accrescere la competenza digitale che favorirebbe sia il consumo diprodotti digitali sia l’occupazione nell’industria robotica.

La Risoluzione, oltre alle problematiche riconducibili alla responsabilitàcivile robotica e ai temi del lavoro, sottolinea altre questioni rilevanti per ilfuturo dei robot.

12 PARLAMENTO EUROPEO, Risoluzione del 16 febbraio 2017, cit.13 Per quanto riguarda l’impatto che l’Industry 4.0 potrà avere sul lavoro e sulle relazioni

industriali si veda ad esempio F. SEGHEZZI, Lavoro e relazioni industriali in Industry 4.0.Posizione del problema e prime interpretazioni, in “ADAPT University Press”, 2016, n. 1,http://www.bollettinoadapt.it/wp-content/uploads/2016/01/wp-1.pdf.


ii


ii

ii


Si occupa, infatti, di principî generali ed etici ai quali la ricerca dovrebbeuniformarsi per sviluppare robot e intelligenza artificiale, proponendo l’isti-tuzione di una agenzia europea “per la robotica e l’intelligenza artificiale”.Questa dovrebbe fornire le competenze tecniche, etiche e normative neces-sarie a sostenere l’impegno degli attori pubblici pertinenti, a livello sia diUnione che di Stati membri e garantire una risposta tempestiva, etica e beninformata alle nuove opportunità e sfide derivanti dallo sviluppo tecnologicodella robotica.

Altri temi affrontati sono la proprietà intellettuale e il flusso dei dati in Re-te, la normazione, la sicurezza e la protezione, intesa come “armonizzazioneinternazionale delle norme tecniche” ma anche come valutazione dei rischirelativi a sperimentare determinati artefatti automatici nelle città (come leauto senza pilota) e i mezzi di trasporto autonomi (veicoli e droni).

In relazione ai droni14 si «invita la Commissione a valutare la necessitàdi introdurre un sistema di tracciabilità e identificazione obbligatorio peri RPAS - Remotely Piloted Aircraft Systems che consenta di individuare intempo reale la posizione dei velivoli durante il loro utilizzo».

Altri punti della Risoluzione15 sono dedicati ai robot assistenti e ai robotmedici. Al riguardo si prevede che pur non dovendosi rinunciare al contattoumano con il paziente, i robot in campo assistenziale-medico possano solle-vare il personale sanitario umano da compiti gravosi e ripetitivi16, facendoliproficuamente concentrare sugli aspetti più qualificanti e importanti dell’at-tività di cura, come quelli diagnostici e quelli per «una migliore pianifica-zione delle opzioni terapeutiche»17. La Risoluzione considera fondamentaleil principio della “autonomia supervisionata” dei robot, in base al quale «laprogrammazione iniziale di cura e la scelta finale sull’esecuzione spetterannosempre a un chirurgo umano»18.

14 PARLAMENTO EUROPEO, Risoluzione del 16 febbraio 2017, cit., punto 30.15 Ivi, punti 31-35.16 Il volume di affari dei robot medici addetti alla riabilitazione dovrebbe passare dagli

attuali 5 miliardi di dollari (2016) ai 13 miliardi nel 2021. Previsioni di Markets and Markets,in “La Repubblica” del 21 maggio 2017, p. 19.

17 PARLAMENTO EUROPEO, Risoluzione del 16 febbraio 2017, cit., punto 32.18 Ivi, punto 33. Su questo punto tuttavia bisogna anche rendere conto di esperienze di

uso dell’intelligenza artificiale in ambito prognostico e diagnostico. Ci riferiamo al progettoDeep patient del Mount Sinai hospital di New York, dove si sperimenta un sistema di AI cheaddestrato sui dati di oltre 700.000 persone «si è dimostrato incredibilmente efficace nel preve-dere le patologie». Cfr. W. KNIGHT, Il lato oscuro dell’intelligenza artificiale, Mit TechnologyReview, trad. it., in “Internazionale”, 19 maggio 2017, n. 1205, pp. 64-68.


ii


ii

ii


Inoltre si affrontano aspetti relativi agli interventi migliorativi sul corpoumano, all’educazione e al lavoro, all’impatto ambientale e alle questioni in-ternazionali che l’uso di questi automi implica. In proposito19, pur osservan-dosi che le convenzioni internazionali in tema di circolazione stradale nondebbano essere urgentemente modificate, si rileva che alcuni trattati andran-no rivisti per consentire, ad esempio, la circolazione di veicoli senza pilota.

Oltre all’Unione europea, alcuni Paesi stanno avviando interventi regola-tivi della materia. Si pensi agli Stati Uniti d’America20, alla Gran Bretagna,al Giappone, oltre a Cina e Corea del Sud, che stanno prendendo in conside-razione e in una certa misura hanno già adottato, atti normativi in materiadi robotica e intelligenza artificiale. Parimenti alcuni Stati membri hannoiniziato a riflettere su possibili cambiamenti legislativi per tenere conto delleapplicazioni emergenti di tali tecnologie.

3. ROBOTICA E INTELLIGENZA ARTIFICIALE NELLE MOZIONI PARLA-MENTARI ITALIANE

L’agenda politica e parlamentare italiana è coinvolta nel dibattito euro-peo? Si direbbe di sì a giudicare dal cospicuo numero di mozioni parlamen-tari depositate in questi ultimi mesi negli atti parlamentari. Le questioni chesembrano avere destato l’interesse del dibattito parlamentare italiano sonoprincipalmente lo sviluppo impetuoso che questo mercato sta avendo e glieffetti dirompenti che si avranno sul mercato del lavoro21.

Le mozioni22 – che vanno dal febbraio al maggio 2017 – sembrano avereindividuato dieci temi chiave per orientare le politiche legislative future inquesto settore destinato a mutare la nostra società, ossia:

19 PARLAMENTO EUROPEO, Risoluzione del 16 febbraio 2017, cit., punti 60-62.20 Si veda per quanto riguarda la regolazione statunitense dell’uso di particolari robot quali

sono i droni R.L. FINN, D. WRIGHT, Privacy, Data Protection and Ethics for Civil DronePractice: A Survey of Industry, Regulators and Civil Society Organisations, in “Computer Law& Security Review”, vol. 32, 2016, n. 4, pp. 577-586.

21 I testi di queste mozioni presentate dai parlamentari di vari schieramenti politici so-no tratte dal sito Internet della Camera dei Deputati. Tali mozioni citano anche importantifonti quali il rapporto The future of jobs, presentato al World Economic Forum di Davos.Per i possibili sviluppi del mercato della robotica nel continente europeo si veda anche Ro-botics in Europe. Why is Robotics Important?, https://www.eu-robotics.net/sparc/about/robotics-in-europe/index.html.

22 I dati sono tratti dai Testi allegati all’ordine del giorno della seduta n. 792 di martedì 9maggio 2017, http://www.camera.it/leg17/995?sezione=documenti&tipoDoc=assemblea_allegato_odg&idlegislatura=17&anno=2017&mese=05&giorno=09.


ii


ii

ii


– l’aggiornamento del sistema scolastico e formativo italiano attraversola promozione di «attività di formazione, ricerca e sviluppo nelle scuo-le, nelle università e nei centri di ricerca italiani di tali tecnologie»23;ri-orientare il sistema scolastico e formativo italiano sembra una pro-spettiva sensata ma alcuni osservano che l’unico modo per gli umani dirimanere in gioco sarà quello di continuare ad imparare durante tuttoil corso della loro vita e che il vero problema non sarà quello di crea-re nuovi posti di lavoro, ma di «creare nuovi mestieri che gli umaniriescano a fare meglio degli algoritmi»24;

– l’allocazione di risorse nella ricerca «per dare il reale supporto finan-ziario ai settori della ricerca relativi alla robotica e all’intelligenza arti-ficiale, considerati prioritari dallo stesso programma nazionale per laricerca (Pnr) 2015-2020»25;

– l’approfondimento di temi sensibili e urgenti quali ad esempio quelli«relativi al tema della cyber-security e della rilevanza etica e dell’impattoche tali tecnologie avranno sulla società e sul mondo del lavoro»26;

– l’istituzione di apposite agenzie come ad esempio un «osservatorio na-zionale, adeguatamente organizzato, in accordo con regioni e enti lo-cali, per la rilevazione alla luce degli sviluppi della robotica e dell’intel-ligenza artificiale dei mutamenti dei sistemi economici e produttivi intermini di impatto sulle competenze delle figure professionali»27;

– la definizione di nuovi strumenti gius-lavoristici ad esempio per «favo-rire l’adeguamento degli strumenti contrattuali esistenti, rispetto al-l’impatto delle nuove tecnologie nel mondo del lavoro, anche attraver-so iniziative volte a rimodulare progressivamente l’orario di lavoro alfine di migliorare la conciliazione tra la giornata lavorativa e la vitafamiliare e sociale»28;

23 Mozione 1-01508 a firma Rosato e altri del 13 febbraio 2017 e anche mozione 1-01623 afirma Palmieri e Occhiuto del 4 maggio 2017.

24 Y.N. HARARI, Homo deus. Breve storia del futuro, Milano, Bompiani, 2017, p. 495.25 Mozione 1-01623, cit.26 Mozioni 1-01508, cit., e anche 1-01558 a firma Binetti e altri del 27 marzo 2017 e infine

1-01623, cit.27 Mozioni 1-01559 a firma Cominardi e altri del 27 marzo 2017, e 1-01623, cit.28 Mozioni 1-01559 e 1-01623, cit. Va però segnalato un approccio molto pragmati-

co del sindacato che sta occupandosi del tema affrontando, ad esempio, le problematicheconnesse all’uso di queste tecnologie rispetto alla sicurezza sul lavoro. Si veda in que-sto senso la pubblicazione della UILCA Robot e sicurezza del lavoro, http://www.uilca.it/pdf/news/newsletter__area_tematica_ssl_marzo_2017_vers_2_marzo.pdf. E che il sindaca-


ii


ii

ii


– la sperimentazione di nuove modelli di welfare quali «forme di redditodi base incondizionato, analogamente a quanto già in atto in Finlan-dia»29 o anche forme di ricollocazione dei lavoratori in esubero; sem-bra infatti che il mercato delle tecnologie digitali abbia assunto carat-teristiche tali da portare a un calo di occupazione e di salari, interrom-pendo così quel circolo virtuoso che si innescava durante le precedentifasi di innovazione tecnologica quando l’aumento di produttività eralegato a un aumento dei salari e ciò comportava un mercato in gradodi assorbire sia l’aumento di produttività sia l’aumento della occupa-zione; per ridurre le disuguaglianze che si creeranno, si potrebberointrodurre forme di reddito minimo garantito con una politica fisca-le redistributiva e una appropriata qualificazione del capitale umanoche metta in grado di integrare il più possibile il lavoro umano con letecnologie digitali30;

– la realizzazione di «un Piano nazionale per le sfide proposte dalla quar-ta rivoluzione industriale31» oppure la promozione di un dibattito eu-ropeo «per la definizione di una proposta organica di una politica eu-ropea su questi temi per nuovi obiettivi chiave per i prossimi diecianni»32;

– l’efficientamento della PA valutando «la possibilità di far ricorso a si-stemi di intelligenza artificiale negli uffici della pubblica amministra-zione, anche qualora ciò comportasse una riduzione del turn-over, alfine di migliorare la user experience dei cittadini e di impedire ab origineepisodi di corruzione e clientelismo»33;

– iniziative per obbligare i produttori di automi a rispettare la privacydei cittadini;

– iniziative per stabilire chiaramente per legge la responsabilità dei pro-duttori di automi in caso di danni arrecati da questi ad esseri umanio comunque l’introduzione di uno status giuridico specifico per i ro-

to segua il dibattito su questi attualissimi temi è dimostrato da molte altre pubblicazio-ni. Si veda ad esempio Toscana Lavoro News del 10 maggio 2017, http://www.tosc.cgil.it/archivio37_toscana-lavoro-news_0_26370.html.

29 Mozioni 1-01559 e 1-01623, cit.30 I. MUSU, Gli effetti economici delle tecnologie digitali, in “Il Mulino”, 2016, n. 6, pp.

1049-1050.31 Mozioni 1-01623, cit. e 1-01608 a firma Catalano e altri del 19 aprile 2017.32 Mozione 1-01608, cit.33 Mozione 1-01622 a firma Baldassarre e altri del 3 maggio 2017.


ii


ii

ii


bot, con particolare riferimento ai profili etici e di responsabilità civile,nonché in ambito fiscale.

La Risoluzione europea e l’interesse parlamentare per questi temi robo-tici ci invitano a soffermarci sulle prospettive di una simile rivoluzione tec-nologica. Per comprendere le innovazioni tecnologiche che da fantascien-tifiche sono divenute realtà si dovrà forse partire dal ripensamento di undualismo che da sempre influenza la nostra cultura, costituito dal binomionaturale/artificiale, spesso da noi tradotto nel binomio buono/cattivo, giu-sto/sbagliato. Sembra che si continui a ragionare usando questo binomioanche se il tempo attuale, dove la “natura” dell’essere umano può essere ilprodotto del suo “artificio” e il soggetto e l’oggetto insieme si confondono,pare aver reso vana la differenza tra naturale e artificiale34.

Per affrontare le nuove sfide che ci attendono sarà opportuno iniziare aliberarsi da tale schema mentale.

4. LE PROSPETTIVE GIURIDICHE

Tra i vari problemi giuridici prodotti dall’avvento della robotica e sotto-lineati dalla Risoluzione è particolarmente rilevante quello dell’attribuzionedella responsabilità per i danni prodotti dalla robotica35.

In questa sede tralasciamo la normativa sulla responsabilità contrattualederivante dai difetti e dai vizi di costruzione dell’artefatto robotico e rinvia-mo alle norme europee quali la Direttiva 2006/42/CE del Parlamento euro-peo e del Consiglio, del 17 maggio 2006, relativa alle macchine e che modifi-ca la direttiva 95/16/CE, che disciplina la progettazione e costruzione dellemacchine e che interessa la responsabilità dei robot considerati quali meriartefatti meccanici.

Qui interessa la ormai vexata quaestio della responsabilità extracontrat-tuale dei robot per eventuali atti illeciti.

Come noto tale responsabilità si basa su elementi oggettivi (fatto, dannoe il nesso di causalità) e soggettivi (colpa, dolo).

34 G. ZAGREBELSKY, Intorno alla legge. Il diritto come dimensione del vivere comune, To-rino, Einaudi, 2009, p. 40. Secondo G.O. LONGO, Il simbionte. Prove di umanità futura,Roma, Meltemi, 2003, pp. 50-51, si verificherà una progressiva confusione tra naturale e arti-ficiale che sarà il preludio ad una simbiosi tra sistemi viventi e non viventi in grado di generareuna complessità che potrà essere indagata solo con gli strumenti forniti dalle nuove tecnolo-gie e potrà comportare un mutamento epistemologico che influirà molto sul modo in cuiconosceremo e progetteremo il mondo.

35 PARLAMENTO EUROPEO, Risoluzione del 16 febbraio 2017, cit., punti 49-59.


ii


ii

ii


I robot sempre più autonomi pongono, in particolare, la questione delcollegamento eziologico tra il comportamento del robot e il soggetto umano(sia esso produttore, programmatore, ideatore). Per questa ragione la Riso-luzione invita il legislatore europeo a definire una tassonomia dei robot inrelazione al grado di autonomia della macchina e anche alla loro interazionecon l’uomo e con l’ambiente.

Tenendo conto del grado dell’autonomia possiamo individuare almenotre categorie: la prima in cui l’esecuzione è guidata totalmente dall’esterno(robot teleoperati), dove la macchina è una protesi staccata dell’uomo e svolgepasso dopo passo le istruzioni che le vengono impartite. Il programma èeseguito dal guidatore umano che lo governa in modo totale e continuativo.La macchina in questo caso non ha alcun livello di autonomia.

La seconda, dove l’esecuzione è totalmente guidata, ma dall’interno. L’uo-mo si limita a fornire un input iniziale e un programma fornisce tutte le re-gole di comportamento del robot. Si parla in questo caso di un’autonomiadebole. Possiamo inquadrare in questa seconda categoria i casi nei quali ilrobot è istruito in modalità top down, tramite un programma che gli forniscetutte le regole di comportamento. All’interno di questa categoria si possonodistinguere vari livelli di supervisione da parte dell’utilizzatore, che potreb-bero avere conseguenze importanti dal punto di vista della responsabilità (ilcaso classico è quello dei vari tipi di auto “autonome”)36.

La terza categoria è quella in cui il robot è esecutivo e auto-guidato co-me nella seconda categoria, ma la macchina è dotata di un sistema per autoprogrammarsi: in questo ultimo caso dunque siamo di fronte a un’autonomiaforte. All’interno di questa terza categoria è possibile individuare due varian-ti, la prima “chiusa”, dove l’“auto-programmazione” è prevista e prevedibileesattamente dal programmatore, la seconda “aperta”, dove la macchina è im-postata dal programma (algoritmi genetici ed evoluzionisti) per apprenderedalla propria esperienza in modo imprevisto e imprevedibile. Questa ultimavariante può essere etichettata come autonomia totale. Però in questo ulti-

36 I livelli di autonomia delle driveless car sono almeno tre. Il primo dove il livello di ese-cuzione deve essere supervisionato (Driver Assistance) e sono presenti alcune funzioni di as-sistenza alla guida (ad esempio servosterzo, sistema di frenatura ABS, cruise control, funzioniche non utilizzano informazioni sull’ambiente esterno ma unicamente dati prelevati dal vei-colo). Il secondo (Partial Automation) in cui sono presenti alcune funzioni di assistenza allaguida che utilizzano informazioni sull’ambiente esterno (ad esempio, procedure di parcheg-gio automatico che elaborano immagini provenienti da una telecamera). Il terzo (ConditionalAutomation) nella quale c’è l’automazione di tutte le funzioni di guida, sotto la supervisionedel conducente.


ii


ii

ii


mo caso non si riesce ancora a comprendere le modalità con cui la macchinaapprende e modifica il suo comportamento37.

Accanto a questo approccio classificatorio che prende in considerazioneil grado di autonomia, si può delineare un’altra classificazione basata sul tipodi interazione che la macchina è in grado di avere38. Le interazioni possonoessere nei confronti dell’uomo e con l’ambiente. Quella con l’uomo puòessere mediata39 o diretta40.

L’interazione con l’ambiente può avvenire in vari modi.In un primo caso il robot è fornito di un controllo di posizione che non lo

mette in grado di percepire l’ambiente ma solo di controllare la posizione e lavelocità dei giunti o delle ruote. Tali robot sono quindi quelli meno autono-mi, che di solito operano in ambienti protetti, come le braccia meccaniche,le presse e gli altri automatismi propri delle fabbriche.

In un secondo caso i robot esercitano un controllo visivo che permettedi percepire l’ambiente tramite sensori esterocettivi. Con questi sistemi divisione possono calcolare la posizione di oggetti da prendere con le pinze ocalcolare le traiettorie di braccia meccaniche. Questa funzionalità permettedi schivare ostacoli di varia natura ma non di adattare la forza delle loro partimeccaniche. L’interazione con l’ambiente può però avvenire anche tramitestrumentazioni in grado di svolgere un controllo di forza. Ciò permette aquesti robot non solo di schivare ostacoli imprevisti ma anche di controllareil contatto con questi ostacoli. Anche in questo terzo caso però l’interazionecon l’umano non è del tutto priva di rischi perché il controllo sulla forzaesercitata dal robot è gestito solo all’interno di aree sensorizzate.

Bisogna dunque arrivare a un tipo di controllo definito di “complianza”per avere un tipo di azione robotica che sia cedevole e quindi non pericolosa,nel caso di contatti imprevisti41.

37 In tal senso vedi di recente M. LOMBARDI, L’impatto dell’esplosione robotica su economiaed ecologia, relazione presentata durante il ciclo di seminari svolti a Firenze dal 18 maggioal 29 giugno 2017 presso l’Accademia la Colombaria, in collaborazione con l’ITTIG-CNR,sul tema “Robotica, dall’algoritmo all’umanoide”, http://www.colombaria.it/2017/05/08/ciclo-di-lezioni-roboetica-dallalgoritmo-allumanoide/.

38 Caratteristica questa che distingue il robot propriamente detto dal computer.39 L’uomo interagisce col robot in modo limitato e per poco tempo, come nel caso in cui

si scambino oggetti tra mano umana e pinza robotica.40 Come nel caso di esoscheletri indossati dall’uomo per supplire a proprie carenze

patologiche o per rafforzare alcune capacità, quali la corsa, il sollevamento di pesi ecc.41 “Complianza” dal termine inglese compliance. La parola nasce in ambiente bancario

(BASEL COMMITTEE ON BANKING SUPERVISION, Compliance and the Compliance Func-


ii


ii

ii


Il fenomeno interattivo tra uomo e robot può essere progettato e gestitosecondo due modalità: approccio top down e approccio bottom up, dove ilprimo può essere immaginato come mero algoritmo di esecuzione, che dettatutte le regole di comportamento, oppure come algoritmo di riconoscimentodel mondo esterno che opera sulla base di una conoscenza già fornita, mentreil secondo può invece essere definito come un algoritmo di apprendimentoche fornisce alla macchina esclusivamente un obiettivo da raggiungere senzaindicare alcuna regola sul come raggiungerlo42. Il raggiungimento dell’obiet-tivo è il risultato di una serie di tentativi più o meno numerosi che la mac-china opera automodificando il proprio comportamento in base a insuccessie successi. Tecnicamente la macchina adatta i propri movimenti fino a rag-giungere il risultato ottimale, per esempio camminare adattandosi al terreno,camminare in modo eretto, prendere un oggetto, saltare ostacoli, attraver-so feedback successivi. Tuttavia resta ancora non conosciuto l’esatto path diapprendimento in base al quale tale forma di “evoluzione robotica” si attua.

Sulla base dei robot oggi esistenti e funzionanti cercheremo di dare dellerisposte in relazione alla responsabilità civile extracontrattuale o aquiliana daatti illeciti per i danni prodotti dai robot.

Come detto il fatto illecito presenta elementi oggettivi, il fatto, il dannoingiusto e il rapporto di causalità fra fatto e danno, ed elementi soggettivi,il dolo o la colpa. Secondo l’articolo 2043 c.c. qualunque fatto doloso ocolposo che cagiona ad altri un danno ingiusto fa sorgere un’obbligazione dirisarcimento del danno.

Per regola generale l’obbligazione di risarcire il danno incombe su coluiche ha commesso il fatto e dato che sembra improponibile far sorgere in ca-po a un robot l’obbligazione di risarcimento, essendo totalmente privo il suocomportamento di dolo o colpa, non resterebbe altra via che ricorrere allac.d. responsabilità indiretta, prevista dal codice civile, dove è responsabi-le del danno un soggetto diverso da quello che ha commesso il fatto, o alleresponsabilità senza colpa o oggettive.

tion in Banks, 2005, http://www.bis.org/publ/bcbs113.pdf) per indicare una funzione indi-pendente che identifica, valuta, consiglia, controlla e riferisce in merito al rischio di: sanzionilegali o amministrative, perdite finanziarie, deterioramento dell’immagine della banca per ilmancato rispetto di leggi, regolamenti, procedure e codici di condotta, best practices. Vienepoi utilizzata anche in altri ambiti per valutare i rischi di attività pericolose.

42 Sui robot cognitivi vedi A. SANTOSUOSSO, C. BOSCARATO, F. CAROLEO, Robot ediritto: una prima ricognizione, in “La nuova giurisprudenza civile commentata”, 2012, n. 3,https://www.unipv-lawtech.eu/files/ngcc7-8-12_santosuos1_bozza.pdf.


ii


ii

ii


Il codice civile prevede varie ipotesi di responsabilità indiretta: la primaipotesi che viene avanzata potrebbe essere quella del robot come attività o co-sa pericolosa (articoli 2050 e 2051 c.c.). L’articolo 2050 riguarda il momentodinamico concentrandosi sullo svolgimento di un’attività pericolosa mentrel’articolo 2051 concerne quello statico in cui si pone l’accento e rilievo sullacosa in sé43. Se il danno è prodotto da un fatto dell’uomo nell’esercizio diuna sua attività che contiene di per sé una probabilità di danno si applicheràl’articolo 2050 perché la cosa è lo strumento dell’attività umana.

Se invece il danno deriva direttamente dalla cosa senza nessun interventoimmediato dell’uomo si applica l’articolo 2051. Esiste un elenco di attivitàpericolose previste nel Testo Unico sulla Pubblica Sicurezza.

Ovviamente la regola fondamentale è che il danneggiato deve provare ilnesso causale tra l’attività pericolosa o la cosa e il danno sofferto. Ad esempio,l’attività medico chirurgica non può essere considerata attività pericolosasecondo la giurisprudenza.

Finora abbiamo parlato di robot che non si muovono (la gru, la pressa,il robot chirurgico ecc.) ma esiste il livello dei robot in grado di muoversinell’ambiente (casa, campagna, città). In questi casi, dove il robot è neces-sariamente più autonomo, i danni prodotti paiono rientrare nella fattispeciedell’articolo 2052 c.c. che regola la responsabilità per i danni provocati da unanimale.

Questa fattispecie prevede la responsabilità del soggetto che vigila e cu-stodisce l’animale (potrebbe quindi anche non essere il proprietario) che puòesonerarsi da responsabilità solo se prova il caso fortuito.

Anche la Risoluzione del Parlamento europeo, che finalmente nel 2017 siaccorge della peculiare natura dei sistemi di AI e delle loro ricadute sul pia-no giuridico in generale e in specie sulla questione “responsabilità”, auspicasoluzioni che vanno verso tipi di responsabilità indirette/oggettive o senzacolpa. Il problema è creare un meccanismo che consenta al robot, ovveroa chi sta dietro di “lui”, di risarcire i danni prodotti da illeciti robotici. Perquesto si è pensato a un fondo assicurativo che operi, alla stregua del pecu-lium dei servi romani, a garanzia dei danneggiati e dei danneggianti. Questasoluzione si muove dalla prospettiva che i robot siano meri strumenti prividi stati soggettivi tali da non consentire alcuna attribuzione di responsabilitàdiretta. La Risoluzione però, riprendendo forse suggestioni già avanzate nel

43 A. SANTOSUOSSO, Diritto, scienza, nuove tecnologie, Padova, Cedam, 2011, p. 268 ss.


ii


ii

ii


passato da alcuni studiosi dei rapporti tra AI e diritto44, vagheggia una sog-gettività giuridica (finzione) da attribuire alla macchina che assumerebbe unostatus giuridico di “persona elettronica”, come avviene nel caso delle societàe di altri enti dotati di personalità giuridica fittizia.

È ovvio che il giorno in cui i robot avranno autonomia totale, le categoriedi responsabilità e personalità andranno fortemente rivisitate con particola-re riferimento al nesso di causalità. E quando poi arrivassero a possedereuno stato di coscienza, la responsabilità potrebbe transitare dalla “aquiliana”alla “diretta”. Ma tutto ciò pare ancora lontano da un punto di vista tecno-funzionale e inoltre, questo eventuale stato di coscienza, sarebbe tutto daverificare. La condizione minima necessaria ma non sufficiente per poter at-tribuire lo stato coscienziale alle macchine si potrebbe raggiungere quandofosse costruito un computer con una ram di 1015, connessione identica alleconnessioni sinaptiche del cervello umano. Ciò, secondo una progressionestatistica dello sviluppo delle memorie dei calcolatori, avverrebbe nel 202945.

5. LE PROSPETTIVE ECONOMICHE

La robotica a breve termine pare essere causa di una inesorabile perditadi posti di lavoro in determinati ambiti, mentre nel medio lungo periodopotrebbe provocare la nascita di nuovi posti di lavoro in molti altri settori.

Sembrerebbe muovere da questa prospettiva il punto 43 della Risoluzio-ne che invita la Commissione a monitorare più da vicino le tendenze occu-pazionali di medio e lungo periodo, prestando un’attenzione particolare allacreazione, alla dislocazione e alla perdita di posti di lavoro nei diversi cam-pi/settori di qualifica, in modo da individuare gli ambiti in cui vengono creati

44 G. TADDEI ELMI, I diritti dell’intelligenza artificiale tra soggettività e valore: fantadirittoo ius condendum?, cit., p. 685 ss.; ID., Law and Artificial Subjectivity, in “Proceedings of TheLaw of Electronic Agents Lea 04 Workshop” (Bologna, 18 giugno 2004); G. SARTOR, L’inten-zionalità dei sistemi informatici e il diritto, in “Rivista trimestrale di diritto e procedura civile”,2003, n. 1, pp. 23-51, e ID., Gli agenti software: nuovi soggetti del ciberdiritto?, in “Contrattoe impresa”, 2002, n. 2, pp. 465-499. Recentemente i temi della soggettività e della responsabi-lità delle macchine sono stati riscoperti e in proposito vedi E. PALMERINI, E. STRADELLA(eds.), Law and Technology. The Challenge of Regulating Technological Development, Pisa, PisaUniversity Press, 2013 e F. BATTAGLIA, N. MUKERJI, J. LIAN NIDA-RUMELIN (eds.), Re-thinking Responsibility in Science and Technology, Pisa, University Press, 2014, in particolareA. BERTOLINI, Robots and Liability, ivi, pp. 143-166.

45 Vedi G. BUTTAZZO, Coscienza artificiale: missione impossibile?, in “Mondo digitale”, n.1, marzo 2002, p. 22, http://retis.sssup.it/~giorgio/paps/2002/aica02.pdf.


ii


ii

ii


posti di lavoro e quelli in cui vengono persi a seguito dell’aumento dell’usodei robot46.

Si sarebbe cioè in linea con le teorie di molti economisti che pensano cheil progresso tecnologico non può mai produrre una disoccupazione «su vastascala e di lunga durata». Tale paradigma, verificato con successo ad esempiocon riferimento alla meccanizzazione dell’agricoltura, che a fine Ottocentonegli USA impiegava i 3/4 dei lavoratori, non pare però essere riproponibilecon le innovazioni che la robotica prospetta.

Infatti oggi, a differenza delle precedenti innovazioni tecnologiche, nonsarà un solo settore ad automatizzarsi ma quasi tutti47.

L’intensità di manodopera che sarà dunque richiesta sarà sempre mino-re, dato che le imprese potranno produrre quasi tutto con robot e affini ela disoccupazione potrebbe quindi divenire strutturale, con perdita di pote-re d’acquisto e contrazione dei consumi. Ecco perché sarà saggio iniziare apensare a soluzioni che finora parevano indicibili quali il “reddito garantito”.

La Risoluzione del Parlamento europeo non pare andare in questa direzio-ne, ma il dibattito parlamentare italiano sembra invece avere già colto questaconcreta possibilità.

Sul piano economico il Rapporto originario della Delvaux, come già det-to in precedenza, prevedeva l’istituzione di una tassa a carico delle industriecostruttrici di robot nell’ottica di attenuare gli effetti della possibile disoccu-pazione di massa, attribuendo una forma di sussidio ai lavoratori licenziati.Sulla spinta delle reazioni della Federazione Internazionale della Roboticache sottolineavano come il danno alla produzione sarebbe stato più elevatorispetto agli eventuali vantaggi per il lavoratori licenziati, la prospettiva diuna tale Robotax è stata per il momento accantonata.

La rivoluzione robotica e digitale risulta, in definitiva, essere così pervasi-va sull’economia da spingere alcuni a sostenere che ci troveremmo di frontea un nuovo paradigma economico-sociale che determina il passaggio dalla so-

46 Si veda M. FORD, Il Robot finisce il lavoro, in “La Repubblica - inserto Robinson”, 21maggio 2017, p. 16.

47 In base ad alcuni dati forniti da McKinsey, sulla base dei quali l’Harvard Business Reviewha analizzato il potenziale di automazione dei vari Stati nei diversi continenti, in Italia i postidi lavoro a rischio per la “concorrenza” dei robot sarebbero il 50,3% (considerando però nonsolo i lavori che sarebbe già possibile sostituire con i robot, ma anche quelli di ingegno facil-mente automatizzabili). Il Paese più a rischio sarebbe il Giappone (55,7%) quello con minorepericolo la Svezia (46%). Vedi Automazione ecco i Paesi più a rischio, in “Pagina99”, 26 maggio2017, p. 19.


ii


ii

ii


cietà industriale a una società post-industriale, detta da alcuni discontinuisti48

società dell’informazione. Sotto il profilo economico saremmo addiritturaentrati in una nuova era chiamata “seconda economia”49.

6. LE PROSPETTIVE SOCIO-POLITICHE

Sia il dibattito parlamentare italiano sia il Rapporto Delvaux sembranoincentrare il proprio interesse sui possibili cambiamenti economici e i conse-guenti rimedi giuridici che la imminente esplosione robotica potrà compor-tare per le nostre società, proponendo in proposito rimedi relativi alla forma-zione professionale o alla somministrazione di redditi sostitutivi e strumentigiuridici in grado di rispondere alle esigenze del diritto civile e penale sottoi profili di responsabilità, risarcimento dei danni, tutela assicurativa ecc. Sipensa infatti che il diritto sarà anche questa volta in grado di creare, per lo piùricorrendo a “finzioni”, nuovi istituti giuridici per imputare responsabilità oattribuire diritti.

Ma la rivoluzione che ci sta per investire, o meglio che ci ha già investito50,pare richiedere un approccio più globale che tenga conto del cambiamento diparadigma socio-politico che l’uso massivo di queste tecnologie comporterà.

La portata di queste novità è talmente rilevante che potrebbe riguardarela stessa tenuta democratica dei nostri sistemi politici e sociali.

Se, infatti, tramontate religioni e ideologie la nuova religione che si staprofilando sarà davvero quella basata sui dati (c.d. “datismo”), sarà molto im-portante prevedere se la gestione di questi flussi informativi, nei quali lo stes-

48 D. BELL, The Coming of Post-Industrial Society: A Venture in Social Forecasting, NewYork, Basic Books, 1973.

49 «Digitization is creating a second economy that’s vast, automatic, and invisible there-by bringing the biggest change since the Industrial Revolution», in W. BRIAN ARTHUR,The Second Economy, in “McKinsey Quarterly”, 2011, http://www.fullertreacymoney.com/system/data/images/archive/2011-10-10/TheSecondEconomy.pdf. Mauro Lombardi, nelcorso della sua relazione L’impatto dell’esplosione robotica su economia ed ecologia, cit., par-la di un cambiamento di paradigma tecno-economico in base al quale dopo la “societàdell’informazione” arriverà nel 2025 the molecular society.

50 Su questi temi si dibatte da sempre, si pensi per tutti alla riflessione di Günther Andersriassunta in un volume che seleziona i suoi saggi più famosi (la prima versione del saggio è del1956), cfr. G. ANDERS, L’uomo è antiquato. Sulla distruzione della vita nell’epoca della terzarivoluzione industriale, Torino, Bollati Boringhieri, 1992. Come noto per il filosofo l’ultimarivoluzione industriale, era la terza, quella cioè che coincide con la scoperta e l’uso della bom-ba atomica. L’uomo avrebbe inventato per la prima volta ciò che poteva annientarlo. In unmondo in cui la tecnica è diventata soggetto della storia, l’uomo risulta superato, “antiquato”.


ii


ii

ii


so operare dei robot sarà incardinato, rimarrà elaborato in forma distribuita,cioè nelle forme conosciute dalle nostre democrazie, oppure verrà accentratocon modalità che potranno essere del tutto incompatibili con ordinamentidemocratici. Andranno elaborate apposite policies per la gestione di questidati. Secondo Pedro Domingos servirebbe una banca dei nostri dati, anchedi quelli personali che non vogliamo condividere. Nella sua categorizzazio-ne avremmo quattro diversi tipi di dato, quelli che condividiamo con tutti,quelli che condividiamo solo con colleghi o amici, quelli che condividiamocon alcune aziende e quelli che non condividiamo51. Suggerisce di inventarenuove forme di tutela dei dati e si spinge a proporre una sorta di “sindacatodei dati”52. Saremmo a quel punto giunti ad una maturità per la vita futuradei nostri dati che saranno conservati da aziende specializzate, ma protetti daun proprio sindacato53.

La vera domanda da porsi riguarda però il modo in cui gli Stati potrannogestire questi cambiamenti, se riusciranno cioè a rimanere al passo, adattan-do i propri modelli organizzativi e decisionali, in forme democratiche, conil rapido evolversi delle tecnologie. Per alcuni studiosi «è probabile che neiprossimi decenni assisteremo ad altre rivoluzioni tipo quella innescata da In-ternet, in cui la tecnologia si trova in vantaggio rispetto alla politica»54. Lerivoluzioni alle quali ci si riferisce sono quelle innescate dall’intelligenza ar-tificiale e dalle biotecnologie e saranno in grado di produrre effetti sui nostricorpi, sulle nostre menti e quindi sull’intera società. C’è il pericolo che i si-stemi democratici non siano in grado di raccogliere ed elaborare velocementei dati rilevanti e che i cittadini non siano abbastanza preparati su temi comebiologia e cibernetica per «formarsi opinioni pertinenti al riguardo. Eccoperché la tradizionale politica democratica sta perdendo il controllo deglieventi e sta fallendo nel tentativo di indicare una seria visione del futuro»55.

La continua cessione volontaria di dati personali che avviene via Internetda parte degli utenti potrebbe prefigurare uno scenario nel quale la democra-zia sarà rimpiazzata, in una visione piuttosto distopica, «da un telecomando

51 P. DOMINGOS, L’algoritmo definitivo. La macchina che impara da sola e il futuro delnostro mondo, Torino, Bollati Boringhieri, 2016, pp. 312-313.

52 Ivi, p. 315.53 Ivi, p. 316. Ma ovviamente sul punto si veda anche S. RODOTÀ, Il mondo nella rete.

Quali i diritti, quali i vincoli, Roma-Bari, Laterza, 2014, pp. 27-32.54 N.Y. HARARI, op. cit., p. 570.55 Ivi, p. 571.


ii


ii

ii


universale a distanza che opererà attraverso i nuovi mezzi di comunicazioneautomatici e personalizzati»56.

Sembra quindi assolutamente urgente che su questi temi si inizi una rifles-sione in grado di elaborare una narrazione nuova del nostro tempo che pos-sa essere condivisa coinvolgendo necessariamente anche i filosofi, dato chegli strumenti sociali odierni, che influenzano il discorso pubblico e l’azionecivile, sono progettati e usati dall’ala sperimentale della filosofia politica57.

Questa nuova visione sarà necessaria per dare senso a nuove forme di or-ganizzazione sociale che vedranno, da una lato, masse di persone non piùoccupabili, forse sostenute da redditi di cittadinanza, che dovranno occupareil tempo in forme soddisfacenti e senza rischi per l’ordine pubblico e, dal-l’altro, l’insorgenza di gruppi ristretti che, in condizione di essere curati contecnologie avanzatissime o potenziati nel fisico tramite esoscheletri roboti-ci e nella mente con sofisticati stimolatori degli algoritmi biologici, potreb-bero divenire élite difficilmente governabili «creando le condizioni per unadisuguaglianza sociale e politica senza precedenti»58.

7. LE PROSPETTIVE ETICHE E SOCIO-ANTROPOLOGICHE

L’attenuarsi della rigida separazione tra naturale ed artificiale comportaanche riflessioni di tipo etico, come il rapporto fra l’uomo e la guerra, ditipo antropologico come il rapporto tra l’uomo e gli altri uomini e di tiposocio-lavoristico, come il rapporto tra l’uomo e il lavoro.

Quanto al primo aspetto gli usi di tecnologie robotiche in campo milita-re sono sotto gli occhi di tutti, basti pensare all’utilizzo dei droni in scenaridi guerra. Ma tali tecnologie saranno sempre più usate ad esempio per il tra-sporto di armi, come cani e altri robot zoomorfi impiegati come i vecchi mulidella prima guerra mondiale, oppure per potenziare alcuni sensi di guerrieri

56 Parla anche di questo Illah Reza Nourbakhsh nel capitolo I - “La nuova mediacrazia” delsuo saggio I.R. NOURBAKHSH, Robot fra noi. Le creature intelligenti che stiamo per costruire,Torino, Bollati Boringhieri, 2017, p. 41.

57 In questo senso Clay Shirky che, studiando gli effetti di Internet sulla società, sostieneche «la gamma di opportunità che possiamo creare gli uni per gli altri è talmente ampia, ecosì diversa da come era la vita fino a poco tempo fa, che nessuna persona o gruppo o lista diregole o manuale può descrivere tutti i casi possibili. L’unico indice di quanto valore possiamotrarre dal nostro surplus cognitivo è dato da quanto ci permettiamo e incoraggiamo a vicendaa sperimentare, perché l’unico gruppo che può provare tutto è formato da tutti». C. SHIRKY,op. cit., p. 172.

58 N.Y. HARARI, op. cit., p. 490.


ii


ii

ii


umani, o per creare veri e propri robot guerrieri che sostituiscano in tutto eper tutto l’uomo sul campo di battaglia.

Una corrente di pensiero ritiene che tale deriva vada fermata subito concampagne politiche e veri e propri trattati internazionali come le convenzioniche nel corso degli anni hanno proibito l’uso di armi chimiche, di certi tipidi mine o la proliferazione di armi atomiche.

In questo senso esistono numerose iniziative come ad esempio quella cheviene portata avanti per introdurre una regola che vieti ai robot di essere degliassassini59. Si pensi anche al recente appello di Elon Musk e di molti impren-ditori nel campo della robotica e dell’intelligenza artificiale per fermare lacorsa alle armi di nuova generazione60. Su questa direttrice si muovono an-che altre iniziative tra le quali si segnalano la Ori - Open Roboethics Initiative,un think tank che si propone di prevedere discussioni attive su questioni eti-che e giuridiche legate all’utilizzo dei robot e la RRF - Responsible RoboticsFoundation61.

Sembra quindi profilarsi una vera e propria road map for roboethics chepreveda iniziative planetarie volte alla informazione, alla educazione, allacreazione di board per la proposta di standard in materia di robotica, allapromozione di un dibattito etico anche al fine di influire sui policy makers equindi sulle legislazioni nazionali e le convezioni internazionali62.

Naturalmente ci sono anche le opinioni discordi di chi ritiene che il set-tore bellico sia invece il primo da automatizzare, proprio come qualunquealtra “professione pericolosa”. Lo scenario è quindi quello delle guerre trarobot che forse sono già in atto.

Secondo alcuni potrebbe essere possibile – tramite il machine learning –fornire alla macchina una serie di esempi dai quali la stessa possa elaborareun modello completo di decisione etica63, anche se potrebbe non essere unabuona idea fare imparare l’etica ai robot partendo da dati forniti dagli uomi-ni64. Harari, nel suo recente saggio, nota però che computer «programmati

59 Cfr. https://www.stopkillerrobots.org/.60 L’appello è stato lanciato durante la International Joint Conference on Artificial

Intelligence che si è svolta a Melbourne, cfr. “La Repubblica”, 22 agosto 2017, p. 21.61 Cfr. http://responsiblerobotics.org/.62 Questo è lo schema proposto da Gianmarco Veruggio nella sua relazione Roboetica: etica

della robotica, etica dei robot, presentata nell’ambito del ciclo di seminari intitolato “Robotica,dall’algoritmo all’umanoide”, cit.

63 P. DOMINGOS, op. cit., p. 321.64 Ivi, p. 322.


ii


ii

ii


con algoritmi etici potrebbero conformarsi in modo assai più aderente allepiù recenti disposizioni della Corte penale internazionale»65.

Quanto all’aspetto antropologico, forse sarà utile studiare l’evolvere deicomportamenti umani via via che robot sempre più antropomorfi lasceran-no le gabbie delle industrie per sedersi accanto a noi al lavoro, a casa, forse nelnostro letto. Oggi sappiamo che i nostri cervelli si modificano ogni volta cheusiamo un telefono per fare una ricerca o navigare o darci al multitasking66.Potremmo dunque chiederci come muterà il nostro cervello quando i nostricompagni saranno per lo più di acciaio. L’antropologa del cyberspazio Turkleci ammonisce sul fatto che dipendere da una persona è rischioso, ci rende sog-getti al rifiuto ma ci apre alla conoscenza profonda di qualcun altro, mentrela “compagnia robotica”, pur apparendo innocua, ci potrebbe consegnare aun mondo chiuso, in cui si ama solo ciò che è sicuro e “fatto su misura”67.

E quali potranno essere gli effetti di piattaforme telematiche sulle qualicaricheremo i nostri dati digitali e che potranno dialogare con i nostri amicie parenti, tramite appositi bot, dopo che avremo lasciato questo mondo?68

E quando l’interazione uomo macchina sarà così spinta che avremo dei ve-ri e propri esseri ibridati, cosa potranno dire l’etica e il diritto? Il diritto vero-similmente potrà porre limiti, se si perseguiranno obiettivi di mero potenzia-mento di un senso ma non per scopi terapeutici. Il corpo trasformato rimarràsoggetto al regime giuridico a cui è sottoposto l’umano, ma quali diritti si po-tranno configurare per chi voglia plasmare il proprio corpo per mezzo dellatecnologia?69 Un diritto personale a trasformare il proprio corpo in senso

65 Y.N. HARARI, op. cit., p. 468.66 S. TURKLE, Insieme ma soli: perché ci aspettiamo sempre più dalla tecnologia e sempre meno

dagli altri, Torino, Codice, 2012, p. 373.67 Ivi, p. 89. Il dibattito scientifico che coinvolge gli antropologi è arrivato anche sulla

stampa quotidiana. Si veda M. NIOLA, La nostra vulnerabilità digitale, in “La Repubblica”,14 maggio 2017, p. 25 nel quale, a proposito dei danni provocati dal virus informatico Wan-nacry l’Autore dice che il virus avrebbe aggiornato il catalogo delle nostre insicurezze perché«nell’era di Internet a contare non è solo la persona fisica, ma anche quella digitale, che è lasintesi di corpo e anima».

68 Sarebbe questa la peculiarità del progetto Eterni.me e cioè «quella di basarsi sulla realeessenza della vita nel XXI secolo, ossia l’attività online e la volontà di essere sempre connessi,soprattutto sui social network». Vedi G. ZICCARDI, Il libro digitale dei morti: memoria, lutto,eternità e oblio nell’era dei social network, Torino, Utet, 2017, p. 198.

69 Sono gli interrogativi che si poneva Erica Palmerini nella sua relazione Robotica ediritto, presentata nell’ambito del ciclo di seminari intitolato “Robotica, dall’algoritmoall’umanoide”, cit.


ii


ii

ii


robotico oppure un diritto all’enhancement cognitivo70. Le risposte, anchedel diritto, a questi interrogativi saranno sempre più importanti se è vero chesi stanno mettendo a punto chip per recuperare i ricordi perduti (esperimen-ti della University of Southern California) o pace maker celebrali per curare ilmorbo di Parkinson di cui si contano già 100 mila impianti, per non parlaredei discussi sistemi di fecondazione in vitro CRISPR e Fivet di cui il primoin grado di selezionare il nascituro secondo le varie esigenze dei genitori. Masi pensi anche al primo uomo cyborg, Neil Harbisson, che vive con un dispo-sitivo impiantato nel cervello per risolvere i suoi problemi di daltonismo71.

L’aspetto socio-lavoristico è quello che riguarda la modificazione dei rap-porti tra umanità e lavoro che l’esplosione robotica pare essere destinata acausare. Gli sconvolgimenti secondo alcuni ci saranno ma non è detto sia-no drammatici; infatti «quello che conta realmente, nell’automazione, non èciò che sostituisce ma ciò che permette di fare. Alcune professioni scompa-iono ma ne nascono molte altre»72. Così sarà rivalutato il ruolo delle scienzeumane, nel quale l’apporto dell’uomo è insostituibile, oppure potrà risultareconveniente divenire controllori di ciò che combinano le macchine, roboti-che e non73. Di certo ci sarà un periodo caotico di contrazione dei salari e diaumento della disoccupazione, ma gli ottimisti della tecnologia presagisconoche avremo un lieto fine, infatti «quando il tasso di disoccupazione supereràil 50%, o anche prima, l’atteggiamento sulla ridistribuzione delle ricchezzecambierà radicalmente. La maggioranza dei neo-disoccupati voterà a favoredi generosi sussidi a vita e dell’aumento stratosferico delle tasse necessario perfinanziarli. Una scelta del genere non farà saltare il banco perché le macchineassicureranno la produzione dei beni necessari»74.

La visione pare essere confermata anche dagli economisti, seppure alcunifra essi non sembrano troppo d’accordo nell’introdurre redditi di cittadinan-za o redditi minimi garantiti che liberino per sempre l’uomo dal lavoro e sem-brano invece orientati a provare soluzioni più “innovative”, quali l’imposta

70 Su questo tema del potenziamento cognitivo e i suoi risvolti sul diritto penale si vedaO. ERONIA, Potenziamento umano e diritto penale. Il “caso” dell’“enhancement cognitivo”, in“Rivista italiana di diritto e procedura penale”, 2012, n. 3, e anche ID., Potenziamento umanoe diritto penale, Milano, Giuffrè, 2013.

71 Queste e altre informazioni sono tratte dal numero di aprile 2017 del “NationalGeographic”, in particolare cfr. D.T. MAX, Oltre l’uomo, p. 34 ss.

72 P. DOMINGOS, op. cit., p. 318.73 Ivi, p. 319.74 Ivi, p. 320.


ii


ii

ii


negativa, tipo quella presentata dal Nobel per l’economia Milton Friedmannel lontano 1968, che avrebbero il merito di associare al reddito minimo unincentivo a cercare nuovi lavori75. Pare certo che quella che Max Weber chia-mava l’etica protestante del lavoro, basata sulla fatica e l’applicazione del-l’uomo, potrà essere ridefinita: i moderni operai potrebbero divenire similiai nostri calciatori, in grado di godersi maggiori spazi di tempo libero traun’attività e l’altra. Esemplare in tale senso l’esperienza del distretto anda-luso della Zarzuela, dove ampie estensioni di pale eoliche hanno soppianta-to la dispendiosa e faticosa coltivazione della barbabietola per fare posto anuove occupazioni di pochi addetti specializzati che lavorano controllando,sporadicamente, l’operare delle pale eoliche76.

In conclusione dobbiamo ricordare che molti invitano a escludere la que-stione etica dal mondo delle innovazioni tecnologiche. Non ci sarebberoinfatti problemi etici legati alla scoperta della legge di gravità ma artefatti tec-nologici che devono essere costruiti in accordo con tale legge al fine di evitarei disastri che ogni tanto vediamo.

Parimenti non dovremmo dunque andare alla ricerca di una specifica eticaper il mondo robotico ma preoccuparci del buon funzionamento delle mac-chine e dei risultati che tali artefatti producono nella società. Questa visionepotrebbe apparire riduzionista ma alla fine forse non insensata.

Industria e commercio, secondo un approccio che possiamo definire stati-stico-utilitaristico, dovrebbero obbedire a una deontologia diretta a garantirel’immissione sul mercato di prodotti socialmente utili.

La costruzione, ad esempio, delle self driving car può essere utile alla socie-tà qualora riduca il numero degli incidenti mortali. Se i morti sulle strade dai162077 del 2016 si riducessero del 50%, grazie all’introduzione di questi robotsu quattro ruote, non dovremmo indagare su quali regole etiche seguano matenere conto solo dei risultati positivi che raggiungono.

75 E. BRYNJOLFSSON, A. MCAFEE, La nuova rivoluzione delle macchine. Lavoro eprosperità nell’era della tecnologia trionfante, Milano, Feltrinelli, 2015, pp. 250-251.

76 D. MCDERMOTT HUGHES, La fine del lavoro, trad. it. in “Internazionale”, 18-24 agosto2017, n. 1218, pp. 51-56.

77 Incidenti stradali, in Italia nel 2016 sono aumentati. Ma calano quelli mortali,in “Il Fatto Quotidiano”, 4 gennaio 2017, http://www.ilfattoquotidiano.it/2017/01/04/incidenti-stradali-in-italia-nel-2016-sono-aumentati-ma-calano-quelli-mortali/3295707/.


ii


ii

ii


8. DALL’INTELLIGENZA ALLA COSCIENZA DEI ROBOT

Tutte le riflessioni che abbiamo delineato finora danno per scontato chel’artefatto informatico, più o meno sofisticato e anche il più autonomo, dota-to di algoritmi di esecuzione e di apprendimento, “agisca” dal punto di vistaontologico in uno stato di non consapevolezza di sé. Accettando invece l’i-potesi algoritmica della mente78, secondo cui vi sarebbe identità tra cervellobiologico e cervello artificiale, e ritenendo che l’autocoscienza sia una funzio-ne della complessità strutturata a gradi raggiungibile attraverso lo sviluppodelle ram dei computer79, diventerebbe molto arduo non attribuire in futurosoggettività ontologica anche a tali macchine80.

Se poi si sostenesse, addirittura, che le nostre azioni pur consapevoli nonsiano libere e volontarie ma necessitate81, ciò assottiglierebbe ancora di piùle differenze tra uomo e macchina.

78 In generale vedi L. LOMBARDI VALLAURI, Neuroni, mente, anima, algoritmo: quattroontologie, cit.

79 G. BUTTAZZO, op. cit.80 G. TADDEI ELMI, I diritti dell’intelligenza artificiale tra soggettività e valore: fantadiritto

o ius condendum?, cit., p. 685 ss.81 Sul rapporto tra azione e colpa vedi l’agile e recente pamphlet di G. AGAMBEN,

KARMAN. Breve trattato sull’azione, la colpa e il gesto, Torino, Bollati Boringhieri, 2017.


Documents

Il robot tra ius condendum ius conditum · Il robot tra ius condendum e ius conditum GIANCARLO TADDEI ELMI, FRANCESCO ROMANO SOMMARIO: 1. Dal diritto dell’informatica al diritto