Parlamentul European2014-2019

Document de ședință

A8-0005/2017

27.1.2017

RAPORTconținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(2015/2103(INL))

Comisia pentru afaceri juridice

Raportoare: Mady Delvaux

(Inițiativă – articolul 46 din Regulamentul de procedură)

Raportori pentru aviz (*):Georg Mayer, Comisiei pentru transport și turism Michał Boni, Comisia pentru libertăți civile, justiție și afaceri interne

(*) Procedura comisiilor asociate – articolul 54 din Regulamentul de procedură

RR\1115573RO.docx PE582.443v03-00

RO Unită în diversitate RO

PR_INL

CUPRINS

Pagina

PROPUNERE DE REZOLUȚIE A PARLAMENTULUI EUROPEAN...................................3

ANEXĂ LA PROPUNEREA DE REZOLUȚIE RECOMANDĂRI DETALIATE REFERITOARE LA CONȚINUTUL PROPUNERII SOLICITATE......................................21

EXPUNERE DE MOTIVE.......................................................................................................28

AVIZ AL COMISIEI PENTRU TRANSPORT ȘI TURISM..................................................31

AVIZ AL COMISIEI PENTRU LIBERTĂȚI CIVILE, JUSTIȚIE ȘI AFACERI INTERNE 36

AVIZ AL COMISIEI PENTRU OCUPAREA FORȚEI DE MUNCĂ ȘI AFACERI SOCIALE..................................................................................................................................42

AVIZ AL COMISIEI PENTRU MEDIU, SĂNĂTATE PUBLICĂ ȘI SIGURANȚĂ ALIMENTARĂ........................................................................................................................49

AVIZ AL COMISIEI PENTRU INDUSTRIE, CERCETARE ȘI ENERGIE.........................57

AVIZ AL COMISIEI PENTRU PIAȚA INTERNĂ ȘI PROTECȚIA CONSUMATORILOR...................................................................................................................................................61

REZULTATUL VOTULUI FINAL ÎN COMISIA COMPETENTĂ ÎN FOND.....................66

(*) Procedura comisiilor asociate – articolul 54 din Regulamentul de procedură

PE582.443v03-00 2/66 RR\1115573RO.docx

RO

PROPUNERE DE REZOLUȚIE A PARLAMENTULUI EUROPEAN

conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(2015/2103(INL))

Parlamentul European,

– având în vedere articolul 225 din Tratatul privind funcționarea Uniunii Europene,

– având în vedere Directiva 85/374/CE privind răspunderea pentru produsele cu defect,

– având în vedere articolele 46 și 52 din Regulamentul său de procedură,

– având în vedere raportul Comisiei pentru afaceri juridice și avizele Comisiei pentru transport și turism, Comisiei pentru libertăți civile, justiție și afaceri interne, Comisiei pentru ocuparea forței de muncă și afaceri sociale, Comisiei pentru mediu, sănătate publică și siguranță alimentară, Comisiei pentru industrie, cercetare și energie și Comisiei pentru piața internă și protecția consumatorilor (A8-0005/2017),

Introducere

A. întrucât, de la monstrul Frankenstein al lui Mary Shelley, până la mitul clasic al lui Pygmalion, trecând prin legenda Golemului din Praga sau robotul lui Karel Čapek, autorul care a inventat termenul, oamenii și-au imaginat posibilitatea de a construi mașini inteligente, de cele mai multe ori androizi cu caracteristici umane;

B. întrucât umanitatea se află acum în pragul unei ere în care roboții, boții, androizii și alte materializări ale inteligenței artificiale (IA), încă și mai sofisticate, par să declanșeze o nouă revoluție industrială, care va afecta probabil toate straturile societății, fiind astfel de o importanță vitală ca legislatorii să ia în considerare implicațiile și efectele juridice și etice ale acestui fenomen, fără a frâna însă inovarea;

C. întrucât este necesară o definiție general acceptată a roboților și a IA, care să fie flexibilă și care lase loc inovării;

D. întrucât, în perioada 2010 - 2014, creșterea medie a vânzărilor de roboți s-a cifrat la 17 % pe an, iar în 2014 vânzările au crescut cu 29 %, saltul anual cel mai mare înregistrat vreodată, principalii factori de creștere fiind furnizorii de piese pentru autovehicule și industria electrică/electronică; întrucât depunerile anuale de brevete pentru tehnologia robotică s-au triplat în ultimul deceniu;

E. întrucât, în ultimii 200 de ani, numărul locurilor de muncă a crescut continuu datorită dezvoltării tehnologice; întrucât dezvoltarea roboticii și a IA poate transforma viața și practicile de muncă, poate crește eficiența, economiile și nivelul de siguranță și poate oferi un nivel mai bun de servicii, robotica și IA promițând, pe termen scurt și mediu, să aducă beneficii în materie de eficiență și economii, nu numai în sectorul productiv și în cel comercial, ci și în domenii precum transporturile, serviciile medicale, educația și agricultura, oferind totodată posibilitatea de a evita expunerea oamenilor la unele situații

RR\1115573RO.docx 3/66 PE582.443v03-00

RO

periculoase, cum ar fi în cazul decontaminării siturilor poluate cu substanțe toxice;

F. întrucât îmbătrânirea populației este rezultatul unei speranțe de viață mai mari, datorate progresului condițiilor de viață și al medicinei moderne, și este una dintre cele mai mari provocări de ordin politic, social și economic ale secolului al XXI-lea pentru societățile europene; întrucât, până în 2025, peste 20 % dintre europeni vor avea 65 de ani sau mai mult, cu o creștere deosebit de rapidă a numărului celor în vârstă de peste 80 de ani, ceea ce va duce la un echilibru complet diferit între generații în societățile noastre; întrucât este în interesul societății ca persoanele mai în vârstă să rămână sănătoase și active cât mai mult timp;

G. întrucât, pe termen lung, tendința actuală îndreptată spre dezvoltarea unor mașini inteligente și autonome, cu capacitatea de a fi antrenate și de a lua decizii în mod independent, prezintă o serie de avantaje economice, dar ridică diverse probleme legate de efectele directe și indirecte asupra societății în ansamblu;

H. întrucât învățarea automatizată oferă societății beneficii enorme în domeniul economic și al inovației, prin îmbunătățirea considerabilă a capacități de analiză a datelor, însă dă naștere și unor provocări în ceea ce privește asigurarea nediscriminării, respectarea garanțiilor procedurale, transparența și inteligibilitatea proceselor decizionale;

I. întrucât, de asemenea, trebuie evaluate schimbările economice și impactul asupra pieței muncii datorate roboticii și a învățării automatizate; întrucât, deși aduce avantaje incontestabile, utilizarea roboticii poate determina modificarea pieței muncii, impunându-se, prin urmare, o reflecție asupra viitorului educației, al ocupării forței de muncă și al politicilor sociale;

J. întrucât utilizarea la scară largă a roboticii ar putea să nu ducă în mod automat la înlocuirea locurilor de muncă, însă locurile de muncă cu calificare mai redusă din sectoarele ocupaționale intensive ar putea fi mai vulnerabile la extinderea automatizării; întrucât această tendință ar putea aduce anumite procese de producție înapoi în UE; întrucât o serie de cercetări au demonstrat că ocuparea forței de muncă crește mult mai rapid în sectoarele profesionale în care se folosesc mai mult computerele; întrucât automatizarea locurilor de muncă poate elibera oamenii de munci manuale monotone, permițându-le să se îndrepte spre sarcini mai creative și mai aducătoare de sens; întrucât automatizarea obligă guvernele să investească în educație și în alte reforme pentru a îmbunătăți realocările în privința tipurilor de competențe de care lucrătorii viitorului vor avea nevoie;

K. întrucât, în același timp, dezvoltarea roboticii și a IA poate avea ca rezultat preluarea de către roboți a unei părți semnificative din munca efectuată în prezent de oameni, fără reocuparea în totalitate a locurilor de muncă pierdute, ceea ce ridică problema viitorului inserției profesionale, a viabilității sistemelor de prestații sociale și de securitate socială și a decalajului persistent în contribuțiile pentru pensii în cazul în care se menține baza de impozitare actuală, existând riscul unei inegalități accentuate în ceea ce privește distribuirea bogăției și a influenței; în același timp, pentru menținerea coeziunii sociale și a prosperității, ar trebui examinată posibilitatea impunerii unei taxe pentru munca realizată de roboți sau pentru utilizarea și întreținerea unui robot, pentru a finanța susținerea și recalificarea lucrătorilor în șomaj, ale căror locuri de muncă au fost reduse sau eliminate;

PE582.443v03-00 4/66 RR\1115573RO.docx

RO

L. întrucât, în fața unor divizări crescânde a societății, cu o clasă de mijloc în scădere, este important să se țină cont de faptul că dezvoltarea roboticii poate conduce la o concentrare acută a bogăției și a influenței în mâinile unei minorități;

M. întrucât dezvoltarea roboticii și a IA va influența fără îndoială peisajul pieței muncii, creând noi probleme legate de responsabilitate, și eliminând altele; întrucât responsabilitatea juridică trebuie clar definită atât la nivelul modelului de afaceri, cât și la nivelul modelelor de muncă, în eventualitatea apariției unor urgențe sau a unor probleme;

N. întrucât tendința spre automatizare impune ca cei implicați în dezvoltarea și comercializarea aplicațiilor de inteligență artificială să includă securitatea și etica încă din etapele inițiale, recunoscând astfel că trebuie să fie pregătiți să accepte răspunderea juridică pentru calitatea tehnologiei pe care o produc;

O. întrucât Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului1 (Regulamentul general privind protecția datelor) stabilește un cadru juridic pentru protecția datelor personale; întrucât alte aspecte legate de accesul la date și de protecția datelor cu caracter personal și a vieții private rămân încă de soluționat, dat fiind faptul că ar putea să mai apară probleme legate de viața privată datorate comunicării fără intervenție umană a aplicațiilor și componentelor între ele, precum și cu bazele de date;

P. întrucât evoluțiile din robotică și inteligență artificială pot și ar trebui concepute în așa fel încât să protejeze demnitatea, autonomia și autodeterminarea persoanelor, în special în domenii precum îngrijirea umană și acompanierea și, în contextul aparaturii medicale, al „reparării” sau al „ameliorării capacităților” ființelor umane;

Q. întrucât, în fine, există posibilitatea ca pe termen lung IA să depășească capacitatea intelectuală umană;

R. întrucât dezvoltarea continuă și extinderea utilizării proceselor decizionale automatizate și algoritmice va avea fără îndoială un impact asupra alegerilor pe care persoanele private (de exemplu oameni de afaceri sau utilizatori ai internetului) și autoritățile publice administrative, judiciare sau de altă natură le vor face în luarea unei decizii finale legate de consum, de afaceri sau de exercitarea autorității; întrucât este necesară integrarea unor garanții și a unor posibilități de control și verificare umane în procesele decizionale automatizate și algoritmice;

S. întrucât mai multe jurisdicții străine, printre care SUA, Japonia, China și Coreea de Sud, au în vedere și, într-o oarecare măsură, au și luat măsuri normative legate de robotică și IA, iar unele state membre au început, de asemenea, să analizeze idea elaborării unor norme juridice și a realizării unor modificări ale legislației, pentru a ține seama de aplicațiile emergente ale acestor tehnologii;

T. întrucât industria europeană ar putea beneficia de pe urma unei abordări eficiente, coerente și transparente a reglementărilor la nivelul Uniunii, oferind condiții

1 Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului din 27 aprilie 2016 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date și de abrogare a Directivei 95/46/CE (Regulamentul general privind protecția datelor) (JO L 119, 4.5.2016, p. 1).

RR\1115573RO.docx 5/66 PE582.443v03-00

RO

corespunzătoare, predictibile și suficient de clare, în cadrul cărora întreprinderile să poată dezvolta aplicații și planifica modelele de afaceri la scară europeană, garantându-le, în același timp, Uniunii și statelor membre că își vor păstra controlul asupra standardelor normative de stabilit, astfel încât să nu fie forțate să adopte și funcționeze pe baza unor standarde stabilite de alții, și anume de țările terțe care se află în avangarda dezvoltării roboticii și a IA;

Principii generale

U. întrucât trebuie considerat că legile lui Asimov1 îi vizează pe proiectanții, producătorii și operatorii roboților, inclusiv a celor cu autonomie integrată și capacitate individuală de învățare, deoarece aceste legi nu pot fi convertite în cod-mașină;

V. întrucât sunt necesare o serie de norme care să reglementeze în special răspunderea, transparența și responsabilitatea, reflectând valorile specific europene și valorile umaniste universale care caracterizează contribuția europeană adusă societății; întrucât normele nu trebuie să afecteze procesul de cercetare, inovare și dezvoltarea în domeniul roboticii;

W. întrucât Uniunea ar putea juca un rol esențial în ceea ce privește stabilirea principiilor etice fundamentale care trebuie respectate la dezvoltarea, programarea și utilizarea roboților și a IA, precum și la integrarea unor astfel de principii în reglementările și codurile de conduită ale UE, pentru a configura revoluția tehnologică astfel încât să servească umanității, iar robotica și IA avansate să fie disponibile pe scară largă, evitându-se, pe cât se poate, potențialele capcane;

X. întrucât Uniunea are nevoie de o abordare treptată, pragmatică și precaută, de tipul celei a lui Jean Monnet2, cu privire la inițiativele viitoare privind robotica și IA, pentru a nu descuraja inovarea;

Y. întrucât, având în vedere stadiul atins în dezvoltarea roboticii și a IA, este recomandabil să se înceapă cu aspectele legate de răspunderea civilă;

Răspunderea

Z. întrucât, datorită impresionantelor progrese tehnologice din ultimul deceniu, nu numai că roboții sunt în prezent capabili de activități care, de obicei, erau desfășurate exclusiv de oameni, dar dezvoltarea unor anumite caracteristici autonome și cognitive - de exemplu, capacitatea de a învăța din experiență și de a lua decizii în mod aproape independent - i-a apropiat din ce în ce mai mult de agenții care interacționează cu mediul și care sunt în măsură să-l modifice în mod semnificativ; întrucât, într-un astfel

1 (1) Un robot nu trebuie să cauzeze vreun rău unei ființe umane și nici să permită, prin inacțiune, ca unei ființe umane să i se facă vreun rău. (2) Un robot trebuie să se supună ordinelor date de ființele umane, cu excepția cazului în care acestea sunt în contradicție cu prima lege. (3) Un robot trebuie să-și apere propria existență, atât timp cât acest lucru nu contravine primei și celei de a doua legi (a se vedea I. Asimov, Runaround, 1943). Și (0) Un robot nu are voie să pricinuiască vreun rău umanității sau să permită prin neintervenție ca umanitatea să fie pusă în pericol.2 Cf. Declarației Schuman (1950): „Europa nu va fi construită dintr-odată sau ca urmare a unui plan unic, ci prin realizări concrete, care vor genera în primul rând o solidaritate de fapt”.

PE582.443v03-00 6/66 RR\1115573RO.docx

RO

de context, răspunderea juridică ce decurge dintr-o acțiune dăunătoare a unui robot devine o chestiune esențială;

AA. întrucât autonomia unui robot poate fi definită drept capacitatea de a lua decizii și de a le transpune în practică în lumea exterioară, independent de influența sau controlul exterior; întrucât această autonomie este de natură pur tehnologică, iar nivelul ei depinde de cât de sofisticat a fost concepută interacțiunea robotului cu mediul sau ambiant;

AB. întrucât, cu cât roboții sunt mai autonomi, cu atât mai puțin pot fi considerați doar simple instrumente la dispoziția altor actori (cum ar fi producătorul, operatorul, proprietarul, utilizatorul etc.); întrucât, în schimb, apar întrebări privind măsura în care normele obișnuite privind răspunderea sunt suficiente sau dacă sunt necesare principii și norme noi, care să ofere claritate privind răspunderea juridică a diferiților actorilor pentru actele și omisiunile roboților atunci când cauzele nu pot fi imputate unui actor uman anume sau privind măsura în care actele sau omisiunile roboților care au provocat prejudicii ar fi putut fi evitate;

AC. întrucât, în cele din urmă, autonomia roboților ridică problema naturii lor în contextul actualelor categorii juridice sau și a necesității creării unei noi categorii, cu propriile sale caracteristici și implicații;

AD. întrucât, în condițiile actualului cadru juridic, roboții nu pot fi ținuți răspunzători per se pentru acte sau omisiuni care provoacă daune unor terți; întrucât normele existente privind răspunderea acoperă cazurile în care cauza unui act sau a unei omisiuni a unui robot poate fi identificată ca fiind un anumit agent uman, cum ar fi producătorul, operatorul, proprietarul sau utilizatorul și în care respectivul agent ar fi putut să prevadă și să evite comportamentul dăunător al robotului; întrucât, în plus, producătorii, operatorii, proprietarii și utilizatorii ar putea fi ținuți răspunzători strict pentru actele sau omisiunile unui robot;

AE. întrucât, potrivit cadrului juridic actual, răspunderea pentru produs - în care producătorul unui produs este responsabil pentru funcționarea defectuoasă - și normele care guvernează răspunderea pentru acțiuni dăunătoare - în care utilizatorul unui produs este responsabil pentru un comportament care generează prejudicii - se aplică prejudiciilor cauzate de roboți sau IA;

AF. întrucât, în situația în care un robot poate lua decizii autonome, normele tradiționale nu vor suficiente pentru a atrage răspunderea juridică pentru daunele cauzate de acesta, deoarece nu permit identificarea părții în sarcina căreia ar cădea răspunderea desdăunării și impunerea compensării prejudiciului provocat;

AG. întrucât neajunsurile actualului cadru juridic sunt vizibile și în domeniul răspunderii contractuale, în măsura în care mașinile concepute să-și aleagă partenerii, să negocieze clauzele contractuale, să încheie contracte și să decidă dacă și cum să le implementeze fac imposibilă aplicarea normelor tradiționale, ceea ce evidențiază necesitatea unor norme noi, eficiente și ancorate în actualitate, care să corespundă dezvoltării tehnologice și inovațiilor recent apărute și utilizate pe piață;

RR\1115573RO.docx 7/66 PE582.443v03-00

RO

AH. întrucât, în ceea ce privește răspunderea necontractuală, Directiva 85/374/CEE1 a Consiliului nu poate acoperi decât daunele provocate de defectele de fabricație ale roboților, cu condiția ca persoana vătămată să poată dovedi prejudiciul real, defectul produsului și raportul cauzal dintre prejudiciu și defect, drept pentru care cadrul răspunderii stricte sau al răspunderii fără culpă ar putea fi insuficient;

AI. întrucât, lăsând la o parte sfera de aplicabilitate a Directivei 85/374/CEE, actualul cadru juridic nu ar fi suficient pentru a acoperi daunele provocate de noua generație de roboți, în măsura în care aceștia sunt dotați cu capacități adaptative și de învățare care atrag după sine un anumit grad de imprevizibilitate comportamentală, deoarece acești roboți învăță în mod autonom, pe baza propriei lor experiențe, și interacționează cu mediul lor ambiant într-un mod unic și impredictibil;

Principii generale privind dezvoltarea roboticii și a inteligenței artificiale pentru uz civil

1. invită Comisia să propună definiții comune la nivelul Uniunii ale sistemelor ciberfizice, sistemelor autonome, roboților inteligenți autonomi și ale subcategoriilor acestora, ținând seama de următoarele caracteristici ale unui robot inteligent:

– dobândește autonomie cu ajutorul senzorilor și/sau prin schimburi de date cu mediul său ambiant (interconectivitate) și negociază și analizează aceste date;

– dispune de sisteme de învățare individuală din experiență și prin interacțiune (criteriu opțional);

– dispune cel puțin de un suport fizic minor;

– are capacitatea de a-și adapta comportamentul și acțiunile la mediul ambiant;

– nu este viu în sens biologic;

2. consideră că ar trebui introdus un sistem cuprinzător, la nivelul Uniunii, de înregistrare a roboților avansați în cadrul pieței sale interne, atunci când este important și necesar pentru anumite categorii de roboți și invită Comisia să stabilească criterii de clasificare a roboților în vederea identificării celor care ar trebui înregistrați; solicită, în acest context, Comisiei să analizeze dacă ar fi de dorit ca sistemul de înregistrare și registrul să fie gestionate de o Agenție a UE pentru Robotică și Inteligență artificială;

3. subliniază că dezvoltarea roboticii ar trebui să se orienteze spre completarea capacităților umane și nu spre înlocuirea lor; consideră că este esențial să se garanteze că, în dezvoltarea roboticii și a IA, oamenii au control asupra aparatelor inteligente în orice moment; consideră că ar trebui acordată o atenție specială eventualității creării unei legături emoționale între om și robot - în special în cazul grupurilor vulnerabile (copiii, persoanele în vârstă sau persoanele cu dizabilități) - și evidențiază problemele ridicate de impactul emoțional sau fizic grav pe care acest atașament emoțional l-ar putea avea asupra utilizatorului uman;

1 Directiva 85/374/CEE Consiliului din 25 iulie 1985 de apropiere a actelor cu putere de lege și a actelor administrative ale statelor membre cu privire la răspunderea pentru produsele cu defect (JO L 210, 7.8.1985, p. 29).

PE582.443v03-00 8/66 RR\1115573RO.docx

RO

4. subliniază că o abordare la nivelul Uniunii poate facilita dezvoltarea prin faptul că permite evitarea fragmentării pe piața internă și evidențiază, de asemenea, importanța principiului recunoașterii reciproce în utilizarea transfrontalieră a roboților și a sistemelor robotizate; reamintește că testarea, certificarea și aprobarea pentru piață ar trebui să fie necesare numai într-un singur stat membru; subliniază că această abordare trebuie să fie însoțită de o supraveghere efectivă a pieței;

5. subliniază importanța luării unor măsuri pentru a sprijini întreprinderile mici și mijlocii și startup-urile din domeniul roboticii care creează noi segmente de piață în acest sector sau care utilizează roboții în activitatea lor;

Cercetarea și inovarea

6. subliniază că multe aplicații de robotică sunt încă în fază experimentală; salută faptul că din ce în ce mai multe proiecte de cercetare sunt finanțate din fondurile statelor membre și din cele ale Uniunii; consideră că este esențial ca Uniunea, alături de statele membre prin finanțări publice, să rămână lideri în cercetarea din domeniul roboticii și inteligenței artificiale; invită Comisia și statele membre să consolideze instrumentele financiare pentru proiectele de cercetare în domeniul roboticii și al TIC, inclusiv parteneriatele public-privat, și să aplice în politicile lor de cercetare principiile științei deschise și inovării etic responsabile; subliniază necesitatea alocării unor resurse suficiente pentru identificarea soluțiilor adecvate la provocările de ordin social, etic, juridic și economic pe care le ridică dezvoltarea tehnologică și aplicațiile sale;

7. solicită Comisiei și statelor membre să impulsioneze programele de cercetare, să favorizeze o analiză a riscurilor și oportunităților pe termen lung ale IA și roboticii și să încurajeze cât mai curând inițierea unui dialog public structurat privind consecințele dezvoltării respectivelor tehnologii; invită Comisia să își crească sprijinul, în cadrul evaluării CFM la jumătatea perioadei, pentru programul SPARC finanțat prin Orizont 2020; solicită Comisiei și statelor membre să-și unească eforturile pentru a monitoriza atent și a garanta o tranziție fără dificultăți a acestor tehnologii de la cercetare la comercializarea și utilizarea pe piață, după o evaluare corespunzătoare a siguranței și respectând principiul precauției;

8. subliniază că inovarea în robotică și în inteligența artificială și integrarea acestor tehnologii în economie și societate necesită o infrastructură digitală care să asigure o conectivitate ubicuă; invită Comisia să definească un cadru care să răspundă cerințelor de conectivitate pentru viitorul digital al Uniunii și să se asigure că accesul la rețelele de bandă largă și 5G respectă pe deplin principiul neutralității rețelei;

9. este ferm convins că interoperabilitatea între sisteme, dispozitive și servicii cloud, bazată pe securitate și respectarea vieții private încă din momentul conceperii, este esențială pentru ca fluxurile de date în timp real să permită roboților și inteligenței artificiale să devină mai flexibili și mai autonomi; solicită Comisiei să promoveze un mediu deschis, de la standarde deschise și modele inovatoare de acordare a licenței, la platforme deschise și transparență, pentru a evita blocajul în sistemele cu drepturi rezervate, care restrâng interoperabilitatea;

RR\1115573RO.docx 9/66 PE582.443v03-00

RO

Principiile etice

10. remarcă faptul că potențialul capacitant al utilizării roboticii este nuanțat de o serie de tensiuni și riscuri care ar trebui atent analizate din perspectiva siguranței umane, a sănătății și securității, a libertății, vieți private și demnității, a autodeterminării, nediscrimării și protecției datelor personale;

11. consideră esențial ca actualul cadru juridic al Uniunii Europene să fie actualizat și completat, dacă este cazul, printr-o serie de principii etice orientative adaptate complexității roboticii și a numeroaselor sale implicații sociale, medicale și bioetice; consideră că este necesar un cadru etic orientativ clar, strict și eficient pentru dezvoltarea, proiectarea, fabricarea, utilizarea și modificarea roboților, pentru a completa recomandările juridice din raport, din legislația națională și din acquis-ul Uniunii; propune, în anexa la rezoluție, un cadru sub forma unei carte constând dintr-un cod de conduită pentru inginerii din domeniul roboticii, precum și un cod de conduită pentru comitetele pentru etica cercetării, cu ocazia revizuirii protocoalelor robotice și a licențelor tipizate pentru proiectanți și utilizatori;

12. atrage atenția asupra principiului transparenței, conform căruia ar trebui să fie întotdeauna posibil să se prezinte motivele subiacente oricărei decizii luate cu ajutorul IA care poate avea un impact important asupra vieții uneia sau mai multor persoane; consideră că trebuie să fie întotdeauna posibil să se reducă calculele sistemelor de IA la o formă inteligibilă pentru oameni; consideră că roboții avansați ar trebui echipați cu o „cutie neagră” care să înregistreze date privind toate tranzacțiile efectuate de mașina respectivă, inclusiv logica care a contribuit la deciziile respective;

13. relevă faptul că acest cadru etic orientativ trebuie să fie bazat pe principiile beneficienței, non-maleficienței, autonomiei și justiției, pe principiile și valorile consacrate în Tratatul privind Uniunea Europeană și în Carta drepturilor fundamentale, precum demnitatea umană, egalitatea, justiția și echitatea, nediscriminarea, consimțământul în cunoștință de cauză, respectarea vieții private și protecția datelor, pe principiile și valorile fundamentale ale dreptului Uniunii, cum ar fi nestigmatizarea, transparența, autonomia, responsabilitatea individuală și răspunderea socială, precum și pe practicile și codurile etice existente;

14. consideră că ar trebui acordată o atenție specială roboților care reprezintă un pericol semnificativ pentru confidențialitate prin faptul că sunt plasați în sfere în mod tradițional protejate și private sau pentru că sunt capabili să extragă și să transmită date cu caracter personal sau sensibil;

O agenție europeană

15. consideră că este necesară o cooperare consolidată între statele membre și Comisie pentru a garanta coerența normelor transfrontaliere în Uniune, care ar încuraja colaborarea între industriile europene și ar permite utilizarea în întreaga Uniune a unor roboți care respectă nivelurile impuse de siguranță și securitate, precum și principiile etice consacrate în dreptul UE;

16. solicită Comisiei să analizeze posibilitatea creării unei Agenții Europene pentru

PE582.443v03-00 10/66 RR\1115573RO.docx

RO

Robotică și Inteligență artificială, pentru a oferi cunoștințele tehnice, etice și reglementare necesare în vederea susținerii actorilor publici relevanți, atât la nivelul Uniunii, cât și al statelor membre, în eforturile lor de a oferi o reacție promptă, etică și bine informată la noile oportunități și provocări, în special la cele care decurg din evoluțiile tehnologice din domeniul roboticii, de exemplu în sectorul transporturilor;

17. consideră că potențialul și problemele legate de utilizarea roboticii și dinamica actuală a investițiilor justifică dotarea agenției europene cu un buget și un personal adecvat, incluzând juriști și experți externi în tehnică și etică, dedicați monitorizării transsectoriale și multidisciplinare a aplicațiilor bazate pe robotică, identificării standardelor pentru practicile optime și, dacă este cazul, recomandării unor măsuri de reglementare, definirii unor noi principii și abordării potențialelor probleme legate de protecția consumatorilor și a provocărilor recurente; solicită Comisiei (și agenției europene, dacă va fi creată) să informeze anual Parlamentul European cu privire la cele mai recente evoluții din domeniul roboticii și la toate măsurile care trebuie luate;

Drepturile de proprietate intelectuală și fluxurile de date

18. constată că nu există prevederi legale care să se aplice în mod specific roboticii, dar că regimurile juridice și doctrinele existente pot fi aplicate cu ușurință la robotică, deși unele aspecte par să necesite o analiză specială; solicită Comisiei să susțină o abordare orizontală tehnologic neutră a proprietății intelectuale, aplicabilă în diferitele sectoare în care poate fi utilizată robotica;

19. invită Comisia și statele membre să se asigure că normele de drept civil în sectorul roboticii sunt în conformitate cu Regulamentul privind protecția datelor și respectă principiile necesității și proporționalității; invită Comisia și statele membre să țină seama de evoluțiile tehnologice rapide din domeniul roboticii, inclusiv de evoluția sistemelor ciberfizice și să se asigure că dreptul Uniunii nu rămâne în urma dezvoltării și implementării tehnologice;

20. subliniază că dreptul la protecția vieții private și a datelor cu caracter personal, consacrate la articolele 7 și 8 din Cartă și la articolul 16 din Tratatul privind funcționarea Uniunea Europeană (TFUE), se aplică în toate sferele roboticii, precum și că trebuie respectat pe deplin cadrul juridic al Uniunii privind protecția datelor; solicită, în această privință, modificarea normelor și criteriilor privind utilizarea camerelor de luat vederi și a senzorilor roboților; solicită Comisiei să se asigure că sunt urmate principiile de protecție a datelor, cum ar fi respectarea din concepție și cea implicită a vieții private, reducerea la minimum a datelor sau limitarea scopului, și sunt utilizate mecanisme de control transparente pentru persoanele vizate și măsuri corective corespunzătoare, în conformitate cu legislația privind protecția datelor Uniunii, precum că sunt promovate și integrate în politicile Uniunii recomandările și standardele adecvate;

21. subliniază faptul că libera circulație a datelor este esențială pentru economia digitală și dezvoltarea sectorului roboticii și inteligenței artificiale; subliniază că, pentru utilizarea adecvată a roboților și a IA, este esențial un nivel înalt de securitate a sistemelor robotice; subliniază că trebuie asigurată protecția rețelelor de roboți și inteligență artificială interconectate pentru a preveni eventuala periclitare a securității; subliniază că

RR\1115573RO.docx 11/66 PE582.443v03-00

RO

un nivel ridicat de securitate, de protecție a datelor cu caracter personal și de respectare a vieții private în comunicarea dintre oameni, roboți și inteligența artificială este esențial; subliniază responsabilitatea proiectanților roboticii și a inteligenței artificiale de a dezvolta produse sigure, securizate și adecvate scopului lor; invită Comisia și statele membre să sprijine și să stimuleze dezvoltarea tehnologiei necesare, inclusiv a asigurării securității prin proiectare;

Standardizare, siguranță și securitate

22. subliniază că stabilirea unor standarde și acordarea interoperabilității este esențială pentru viitorul concurenței în domeniul tehnologiilor inteligenței artificiale și roboticii; îi solicită Comisiei să-și continue activitatea de armonizare la nivel internațional a standardelor tehnice, în special împreună cu organizațiile europene de standardizare și cu Organizația Internațională de Standardizare, pentru a stimula inovarea, a evita fragmentarea pieței interne și garanta un nivel ridicat de siguranță a produselor și de protecție a consumatorilor, incluzând, atunci când este cazul, standarde minime de siguranță în mediul de muncă; subliniază importanța unor standarde de inginerie inversă și a unor standarde deschise legale pentru a maximiza importanța inovației și a se asigura că roboții pot comunica între ei; salută în acest sens instituirea unor comisii tehnice speciale, precum ISO/TC 299 Robotics, care se ocupă exclusiv de elaborarea standardelor în domeniul roboticii;

23. subliniază că testarea roboților în condiții reale este esențială pentru a identifica și a evalua riscurile pe care le-ar putea genera, precum și evoluția lor tehnologică dincolo de stadiul pur experimental de laborator; subliniază, în acest sens, că testarea roboților în condiții reale, în special în orașe și în trafic, ridică numeroase probleme, printre care obstacolele care încetinesc evoluția etapelor de testare, și necesită o strategie și un mecanism de monitorizare eficiente; invită Comisia să elaboreze criterii uniforme în toate statele membre, pe care fiecare stat membru în parte să le utilizeze pentru a identifica domeniile în care sunt permise experimentele cu roboți, cu respectarea principiului precauției;

Mijloacele autonome de transport

a) Vehiculele autonome

24. subliniază că transportul autonom acoperă toate formele de transport rutier, feroviar, aerian și pe apă de o manieră automată, conectată și autonomă, inclusiv pentru vehicule, trenuri, nave, feriboturi, aeronave, drone, precum și toate viitoarele forme pe care le vor lua evoluțiile și inovările din sector;

25. consideră că sectorul autovehiculelor are nevoie, cu maximă urgență, de norme ale Uniunii și mondiale eficiente, care să asigure dezvoltarea transfrontalieră a vehiculelor automatizate și autonome, astfel încât să exploateze pe deplin potențialul economic și beneficiile care derivă din efectele pozitive ale tendințelor tehnologice; subliniază că abordările normative fragmentare ar frâna implementarea unor sisteme autonome de transport și ar periclita competitivitatea europeană;

PE582.443v03-00 12/66 RR\1115573RO.docx

RO

26. atrage atenția asupra faptului că timpul de reacție al conducătorului este esențial atunci când acesta preia neașteptat comanda unui vehicul și, de aceea, solicită părților implicate să prevadă valori realiste, care sunt deosebit de importante în chestiunile legate de siguranță și de răspundere;

27. consideră că trecerea la vehicule autonome va avea efecte asupra următoarelor aspecte: răspunderea civilă (răspundere și asigurare), siguranța rutieră, toate chestiunile legate de mediu (eficiența energetică, utilizarea tehnologiilor și a surselor de energie regenerabile), aspecte legate de date (accesul la date, protecția datelor, confidențialitatea și partajarea datelor), aspecte legate de infrastructura TIC (densitatea ridicată a unor comunicații eficiente și fiabile) și ocuparea forței de muncă (crearea sau pierderea locurilor de muncă, formarea șoferilor vehiculelor grele de marfă pentru a le putea utiliza pe cele automatizate); subliniază că vor fi necesare investiții substanțiale în drumuri, energie și infrastructura TIC; solicită Comisiei să țină seama de aspectele menționate mai sus în activitatea sa legată de mijloacele autonome de transport:

28. subliniază importanța capitală a unei poziționări fiabile și a furnizării prompte de informații de către programele europene de navigație prin satelit Galileo și EGNOS pentru introducerea vehiculelor autonome, și solicită insistent, în această privință, terminarea și lansarea sateliților necesari pentru finalizarea sistemului european de poziționare Galileo;

29. atrage atenția asupra valorii adăugate ridicate a vehiculelor autonome pentru persoanele cu mobilitate redusă, având în vedere că le permit o participare mai eficace la transportul rutier individual, facilitându-le astfel viața de zi cu zi;

b) Dronele (RPAS)

30. recunoaște rezultatele pozitive înregistrate în tehnologia dronelor, în special în ceea ce privește căutarea și salvarea; subliniază că un cadru la nivelul Uniunii privind utilizarea dronelor este important pentru protecția siguranței, a securității și a vieții private a cetățenilor UE și îi solicită Comisiei să dea curs recomandărilor din Rezoluția Parlamentului din 29 octombrie 2015 referitoare la utilizarea în siguranță a sistemelor de aeronave pilotate de la distanță (RPAS), cunoscute în mod curent sub denumirea de vehicule aeriene fără pilot (UAV) în domeniul aviației civile1; invită insistent Comisia să prezinte o evaluare a aspectelor legate de siguranță în ceea ce privește folosirea dronelor pe scară largă; invită Comisia să examineze necesitatea de a introduce un sistem obligatoriu de urmărire și identificare pentru RPAS care să permită stabilirea poziției în timp real a aeronavei în timpul utilizării; reamintește că omogenitatea și siguranța aeronavelor fără pilot ar trebui asigurate prin măsurile prevăzute de Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului2;

Roboții de asistență

1 Texte adoptate, P8_TA(2015)0390.2 Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului din 20 februarie 2008 privind normele comune în domeniul aviației civile și instituirea unei Agenții Europene de Siguranță a Aviației și de abrogare a Directivei 91/670/CEE a Consiliului, a Regulamentului (CE) nr. 1592/2002 și a Directivei 2004/36/CE (JO L 79, 19.3.2008, p. 1).

RR\1115573RO.docx 13/66 PE582.443v03-00

RO

31. subliniază că cercetarea și dezvoltarea din domeniul roboților destinați îngrijirii vârstnicilor s-a generalizat și s-a ieftinit de-a lungul timpului, permițând realizarea unor produse mai funcționale și acceptate în mai mare măsură de consumatori; remarcă gama largă de aplicații ale acestor tehnologii, care le oferă persoanelor în vârstă, celor cu dizabilități și celor afectați de demență, de tulburări cognitive sau de pierderi de memorie beneficii legate de profilaxie, asistență, monitorizare, stimulare și însoțire;

32. relevă faptul că contactul uman constituie unul dintre aspectele fundamentale ale îngrijirii persoanelor; consideră că înlocuirea factorului uman cu roboți ar putea dezumaniza practicile de îngrijire a persoanelor, dar, pe de altă parte, recunoaște că roboții ar putea efectua sarcinile automatizate de îngrijire și ar putea facilita activitatea asistenților din acest sector, consolidând totodată serviciile umane de îngrijire și direcționând mai precis reabilitarea, ceea ce ar permite personalului medical și celor responsabili de îngrijiri să dedice mai mult timp diagnosticării și ameliorării planificării variantelor de tratament; subliniază că, în pofida potențialului roboților de a îmbunătăți mobilitatea și integrarea persoanelor cu dizabilități și a vârstnicilor, îngrijitorii umani vor continua să fie necesari și vor constitui o sursă importantă de interacțiune socială, care nu va putea fi niciodată înlocuită în totalitate;

Roboții medicali

33. subliniază importanța unei educații, formării și pregătiri corespunzătoare a personalului medical, cum ar fi doctorii și asistenții, pentru atingerea unui nivel maxim de competență profesională, precum și pentru menținerea și protecția sănătății pacienților; subliniază necesitatea definirii unor cerințe profesionale minimale pe care să le satisfacă chirurgii pentru a li se permite să utilizeze roboți chirurgicali; consideră fundamentală respectarea principiului autonomiei supravegheate a roboților, conform căruia planificarea inițială a tratamentului și decizia finală privind efectuarea acestuia trebuie să aparțină întotdeauna unui chirurg uman; scoate în evidență importanța formării utilizatorilor, pentru a le permite să se familiarizeze cu cerințele tehnice din domeniu; atrage atenția asupra tendinței în creștere de autodiagnosticare cu ajutorul unui robot mobil și a necesității implicite ca doctorii să fie pregătiți pentru a se ocupa de cazuri autodiagnosticate; consideră că utilizarea acestor tehnologii nu trebuie să reducă sau să afecteze relația medic-pacient, ci trebuie să le ofere medicilor asistență în diagnosticarea și/sau tratarea pacienților, pentru a reduce riscul erorii umane, a crește calitatea vieții și a mări speranța de viață;

34. consideră că roboții medicali continuă să înregistreze progrese în chirurgia de înaltă precizie și în îndeplinirea unor proceduri repetitive, precum și că au potențialul de a îmbunătăți rezultatele reabilitării și oferă un sprijin logistic foarte eficace în spitale; constată că roboții medicali au potențialul de a reduce și costurile serviciilor medicale, permițând personalului medical să își transfere atenția de la tratament la profilaxie și disponibilizând un buget mai mare pentru o mai bună ajustare la diversitatea nevoilor pacienților, pentru formarea permanentă a personalului medical și pentru cercetare;

35. invită Comisia să se asigure că procedurile pentru testarea unor noi dispozitive medicale robotizate sunt sigure, în special în cazul dispozitivelor implantate în corpul uman,

PE582.443v03-00 14/66 RR\1115573RO.docx

RO

înainte de data la care Regulamentul privind dispozitivele medicale1 va deveni aplicabil;

Repararea și ameliorarea capacităților umane

36. remarcă progresul major și marele potențial al roboticii în domeniul vindecării și compensării organelor și funcțiilor umane deteriorate, dar și chestiunile complexe pe care le implică îndeosebi posibilitățile de ameliorare a capacităților umane, întrucât roboții medicali și mai ales sistemele ciberfizice (SCF) ne pot schimba concepția asupra sănătății organismului uman, din moment ce pot fi purtate direct sau implantate în corpul uman; subliniază importanța creării unor comitete de etică a roboților în spitale și în alte instituții medicale, care să dispună de un personal corespunzător și să aibă sarcina de a analiza și a oferi asistență la rezolvarea problemelor etice complexe sau inedite, care afectează îngrijirea și tratamentul pacienților; le solicită Comisiei și statelor membre să elaboreze orientări care să ajute la înființarea și funcționarea unor astfel de comitete;

37. subliniază că, în domeniul aplicațiilor medicale vitale, precum protezele robotice, trebuie să se asigure un acces continuu și viabil la întreținere, la perfecționare și, în special, la actualizări ale softului menite să rezolve eventualele disfuncțiuni sau vulnerabilități;

38. recomandă crearea unor organisme independente de încredere care să dispună de mijloacele necesare pentru a oferi servicii persoanelor care poartă dispozitive medicale vitale avansate, precum întreținere, reparații și îmbunătățiri, inclusiv actualizări de software, în special în cazul în care aceste servicii nu mai sunt efectuate de furnizorul inițial; sugerează crearea unei obligații pentru producători de a furniza acestor organisme independente de încredere instrucțiuni de proiectare cuprinzătoare, inclusiv codul sursă, similare cu depozitul legal al publicațiilor la biblioteca națională;

39. atrage atenția asupra riscurilor aferente posibilității ca sistemele CPS integrate în corpul uman să fie piratate sau dezactivate sau să le fie șterse memoriile, deoarece acest lucru ar putea pune în pericol sănătatea umană și, în cazuri extreme, chiar viața umană și subliniază, prin urmare, prioritatea care trebuie acordată protecției respectivelor sisteme;

40. subliniază importanța garantării unui acces egal universal la astfel de inovații, instrumente și intervenții tehnologice; solicită Comisiei și statelor membre să promoveze dezvoltarea tehnologiilor de asistare, pentru a favoriza dezvoltarea și adoptarea acestor tehnologii de către cei care au nevoie de ele, în conformitate cu articolul 4 din Convenția ONU privind drepturile persoanelor cu dizabilități, la care Uniunea este parte;

Educația și ocuparea forței de muncă;

41. atrage atenția asupra previziunilor Comisiei, potrivit cărora, până în 2020, Europa s-ar

1 A se vedea Rezoluția legislativă a Parlamentului European din 2 aprilie 2014 referitoare la propunerea de regulament al Parlamentului European și al Consiliului privind dispozitivele medicale și de modificare a Directivei 2001/83/CE, a Regulamentului (CE) nr. 178/2002 și a Regulamentului (CE) nr. 1223/2009 (COM (2012)0542 - C7-0318/2012 - 2012/0266 (COD)).

RR\1115573RO.docx 15/66 PE582.443v03-00

RO

putea confrunta cu o lipsă de până la 825 000 de specialiști în domeniul TIC, iar 90 % dintre locurile de muncă vor necesita cel puțin competențe digitale de bază; salută inițiativa Comisiei de a propune o foaie de parcurs pentru eventuala utilizare și revizuire a unui cadru de competențe digitale și a descriptorilor competențelor digitale pentru cursanții de toate nivelurile, și solicită Comisiei să ofere un sprijin semnificativ pentru dezvoltarea competențelor digitale în rândul tuturor grupurilor de vârstă și indiferent de statutul profesional, ca un prim pas către o mai bună aliniere a cererii și ofertei pe piața forței de muncă; subliniază faptul că dezvoltarea roboticii impune statelor membre să dezvolte sisteme de formare și de educație mai flexibile, pentru a se asigura că strategiile de formare corespund necesităților economiei roboticii;

42. consideră că identificarea mai multor femei tinere interesate de o carieră digitală și angajarea mai multor femei în posturi din sectorul digital ar aduce beneficii acestei industrii, femeilor și economiei europene; le solicită Comisiei și statelor membre să lanseze inițiative pentru a sprijini femeile în domeniul TIC și pentru a le amplifica competențele digitale;

43. invită Comisia să înceapă să analizeze și să monitorizeze mai îndeaproape tendințele ocupaționale pe termen mediu și lung, concentrându-se mai ales asupra creării și pierderii de locuri de muncă din diverse domenii/sectoare de calificare, pentru a ști în ce domenii sunt create locuri de muncă și în ce domenii se pierd locuri de muncă ca rezultat al utilizării crescânde a roboților;

44. subliniază importanța anticipării schimbărilor în societate, ținând seama de efectele posibile ale dezvoltării și utilizării roboților și a IA; solicită Comisiei să analizeze diferitele scenarii posibile și consecințele lor asupra viabilității sistemelor de securitate socială ale statelor membre; consideră că ar trebui inițiată o dezbatere cuprinzătoare privind noile modele de angajare și viabilitatea sistemelor noastre fiscale și sociale, pe baza existenței unor venituri suficiente, inclusiv posibila introducere a unui venit universal de bază; ;

45. evidențiază importanța flexibilității competențelor, precum și a competențelor sociale, creative și digitale în educație; își exprimă convingerea că, pe lângă cunoștințele academice transmise în școli, învățarea trebuie să constituie o permanență pe tot parcursul vieții;

46. ia act de marele potențial al roboticii pentru îmbunătățirea siguranței la locul de muncă prin transferarea unui număr de sarcini periculoase și nocive de la om la roboți, dar, în același timp, observă potențialul lor de a crea o serie de noi riscuri, datorită numărului tot mai mare de interacțiuni om-robot la locul de muncă; subliniază, în această privință, importanța aplicării unor norme stricte și orientate spre viitor pentru interacțiunile om-robot pentru a garanta sănătatea, siguranța și respectarea drepturilor fundamentale la locul de muncă;

Impactul asupra mediului

47. remarcă că dezvoltarea roboticii și a inteligenței artificiale ar trebui realizată astfel încât impactul asupra mediului să fie limitat, printr-un consum de energie eficace, prin utilizarea energiilor regenerabile și a materiilor rare în vederea eficienței energetice,

PE582.443v03-00 16/66 RR\1115573RO.docx

RO

prin minimalizarea deșeurilor, cum ar fi cele electrice și electronice și prin reparabilitate; prin urmare, încurajează Comisia să includă principiile economiei circulare în orice politică a Uniunii în domeniul roboticii; remarcă faptul că utilizarea roboticii va avea un impact pozitiv asupra mediului, în special în domeniul agriculturii, aprovizionării cu produse alimentare și transportului, îndeosebi prin dimensiunile reduse ale utilajelor și prin utilizarea limitată a îngrășămintelor, energiei și apei, precum și prin agricultura de precizie și optimizarea traseelor;

48. subliniază că CPS vor conduce la crearea de sisteme energetice și de infrastructură care au capacitatea de a controla fluxul energiei electrice de la producător la consumator și vor avea, de asemenea, ca rezultat crearea de „prosumatori” de energie, care produc și, în același timp, consumă energie, permițând astfel beneficii majore pentru mediu;

Răspunderea

49. consideră că răspunderea civilă pentru prejudiciile cauzate de roboți constituie o chestiune esențială, care trebuie analizată și soluționată la nivelul Uniunii, astfel încât să se asigure un același nivel de eficiență, transparență și consecvență în realizarea securității juridice în întreaga Uniune Europeană, în beneficiul cetățenilor, al consumatorilor și al întreprinderilor deopotrivă;

50. ia act de faptul că dezvoltarea tehnologiei roboților va presupune o mai bună înțelegere a bazelor comune necesare pentru activitățile desfășurate împreună de oameni și roboți, care ar trebui să se sprijine pe două relații centrale de interdependență precum previzibilitatea și controlabilitatea; atrage atenția că aceste două relații de interdependență sunt esențiale pentru a determina ce informații trebuie partajate între oameni și roboți și în ce mod poate fi realizată o bază comună între oameni și roboți pentru ca interacțiunea lor să se desfășoare în bune condiții;

51. îi solicită Comisiei să prezinte, în temeiul articolului 114 din TFUE, o propunere de instrument legislativ privind aspectele de ordin juridic ale dezvoltării și utilizării roboticii și inteligenței artificiale preconizate în următorii 10-15 ani, combinat cu instrumente nelegislative de tipul orientărilor și codurilor de conduită, conform recomandărilor formulate în anexă;

52. consideră că, indiferent ce soluție juridică se aplică răspunderii civile pentru prejudiciile cauzate de roboți în alte cazuri decât cele care implică daune aduse proprietății, viitorul instrument legislativ nu trebuie să restrângă în niciun fel tipul sau valoarea daunelor care ar putea fi recuperate, și nici să limiteze formele de compensare care ar putea fi oferite părții vătămate exclusiv pe motivul că prejudiciul a fost provocat de un agent non-uman;

53. consideră că viitorul instrument legislativ trebuie să se bazeze pe o evaluare temeinică din partea Comisiei, care să determine dacă ar trebui să se aplice perspectiva răspunderii stricte sau cea a controlului riscurilor;

54. consideră că răspunderea strictă presupune doar dovada producerii prejudiciului și stabilirea legăturii cauzale dintre funcționarea dăunătoare a robotului și daunele suferite de persoana vătămată;

RR\1115573RO.docx 17/66 PE582.443v03-00

RO

55. observă că abordarea bazată pe gestionarea riscurilor nu se axează pe persoana „care a acționat neglijent” ca fiind răspunzătoare în mod individual, ci pe persoana care poate, în anumite împrejurări, să reducă la minim riscurile și să trateze problema impactului negativ;

56. consideră că, în principiu, odată ce părțile responsabile în ultimă instanță au fost identificate, răspunderea lor ar trebui să fie proporțională cu nivelul real al instrucțiunilor date robotului și cu gradul de autonomie al acestuia, astfel încât, cu cât capacitatea de învățare sau autonomia robotului este mai mare și cu cât „instruirea” acestuia este mai lungă, cu atât mai mare ar trebui să fie răspunderea instructorului său; remarcă, în special, că atunci când se încearcă identificarea persoanei căreia i se datorează în mod real comportamentul dăunător al unui robot, competențele ce rezultă din „instruirea” dată acestuia nu trebuie să fie confundate cu competențele care depind strict de capacitatea sa de învățare proprie; consideră că, cel puțin în stadiul actual, responsabilitatea trebuie să incumbe ființei umane, și nu roboților;

57. relevă faptul că o soluție posibilă la problema complexă a atribuirii răspunderii pentru prejudiciul provocat de roboții din ce în ce mai autonomi ar putea consta într-o schemă obligatorie de asigurare, similară celei, deja în uz, pentru autovehicule, de exemplu; observă însă că, spre deosebire de schema de asigurare pentru traficul rutier, în cazul căreia asigurarea acoperă actele și greșelile umane, un sistem de asigurare pentru roboți ar trebui să țină cont de întreg lanțul potențial al răspunderii;

58. consideră că, așa cum este cazul cu asigurarea pentru vehiculele cu motor, un astfel de sistem de asigurare ar putea fi suplimentat printr-un fond, pentru a garanta desdăunarea în cazurile în care nu există nicio acoperire asigurativă; îi solicită sectorului asigurărilor să elaboreze noi produse și tipuri de oferte, care să fie în acord cu progresele roboticii;

59. îi solicită Comisiei ca, atunci când efectuează o evaluare de impact al viitorului său instrument legislativ, să exploreze, să analizeze și să evalueze implicațiile tuturor soluțiilor juridice posibile, cum ar fi:

a) instituirea unei scheme de asigurări obligatorii atunci când este util și necesar pentru categorii specifice de roboți prin care, în mod similar cu ceea ce se întâmplă deja cu autovehiculele, producătorii sau proprietarii roboților să fie obligați să se asigure contra prejudiciilor potențiale provocate de roboții lor;

b) înființarea unui fond de compensare care să servească nu numai la garantarea despăgubirii în cazul în care pentru daunele provocate de un robot nu ar exista nicio acoperire asigurativă;

c) crearea posibilității ca producătorul, programatorul, proprietarul sau utilizatorul să beneficieze de o răspundere limitată în cazul în care contribuie la un fond de compensare sau în care subscriu în comun o asigurare pentru a garanta despăgubirea în cazul în care daunele sunt cauzate de un robot;

d) decizia de a crea sau nu un fond general pentru toți roboții autonomi inteligenți, sau un fond separat pentru fiecare categorie de roboți, și de a plăti sau nu o contribuție ca taxă unică la plasarea robotului pe piață, ori a unor contribuții periodice pe durata de viață a robotului;

PE582.443v03-00 18/66 RR\1115573RO.docx

RO

e) garantarea vizibilității legăturii dintre un robot și fondul său printr-un număr de înregistrare individual, care să figureze într-un registru specific al Uniunii, ceea ce i-ar permite oricărei entități care interacționează cu robotul să fie informată cu privire la natura fondului, la limitele răspunderii sale în caz de daune aduse proprietății, la numele și funcțiile celor care contribuie și la toate celelalte amănunte pertinente;

f) crearea unui statut juridic specific pentru roboți, astfel încât cel puțin cei mai sofisticați roboți autonomi să poată avea un statut de persoană electronică responsabilă pentru repararea prejudiciilor pe care le cauzează și să poată fi aplicată eventual personalitatea electronică în cazurile în care roboții iau decizii autonome sau interacționează independent, în alt fel, cu terți;

g) introducerea unui instrument potrivit pentru consumatorii care doresc să intenteze o acțiune în pretenții colectivă ca urmare a daunelor suferite din cauza funcționării defectuoase a mașinilor inteligente împotriva companiilor producătoare responsabile;

Aspecte internaționale

60. constată că, deși normele actuale de drept internațional privat în materia accidentelor rutiere aplicabile în Uniune nu necesită o modificare substanțială urgentă pentru a le pune de acord cu dezvoltarea vehiculelor autonome, simplificarea prezentului sistemului dual de stabilire a dreptului aplicabil (pe baza Regulamentului (CE) nr. 864/2007 al Parlamentului European și al Consiliului1 și a Convenției de la Haga din 4 mai 1971 privind legea aplicabilă accidentelor rutiere) ar îmbunătăți securitatea juridică și ar limita posibilitățile de alegere a jurisdicției celei mai favorabile;

61. consideră că ar trebui poate modificate unele acorduri internaționale, cum ar fi Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră și Convenția de la Haga privind dreptul aplicabil în cazul accidentelor rutiere;

62. așteaptă de la Comisie să se asigure că statele membre implementează uniform dispozițiile de drept internațional care ar trebui modificate, cum ar fi Convenția de la Viena privind circulația rutieră, astfel încât să facă posibilă deplasarea vehiculelor fără conducător, și solicită Comisiei, statelor membre și acestui sector să transpună cât mai curând obiectivele Declarației de la Amsterdam;

63. încurajează puternic cooperarea internațională în cadrul examinării aspectelor societale, etice și juridice problematice, pe baza căreia să se stabilească standarde normative, sub auspiciile Organizației Națiunilor Unite;

64. subliniază că restricțiile și condițiile stabilite în Regulamentul (CE) nr. 428/2009 al Parlamentului European și al Consiliului2 privind produsele cu dublă utilizare în

1 Regulamentul (CE) nr. 864/2007 al Parlamentului European și al Consiliului din 11 iulie 2007 privind legea aplicabilă obligațiilor necontractuale (Roma II) (JO L 199, 31.7.2007, p. 40).2 Regulamentul (CE) nr. 428/2009 al Consiliului de instituire a unui regim comunitar pentru controlul exporturilor, transferului, serviciilor de intermediere și tranzitului de produse cu dublă utilizare, (JO L 341, 29.5.2009, p. 1).

RR\1115573RO.docx 19/66 PE582.443v03-00

RO

legătură cu comercializarea acestor produse - bunuri, software și tehnologii cu aplicații atât civile, cât și militare și/sau care pot contribui la proliferarea armelor de distrugere în masă - ar trebui să se aplice și roboticii;

Aspecte finale

65. îi solicită, în temeiul articolului 225 din TFUE, Comisiei să prezinte, pe baza articolului 114 din TFUE, o propunere de directivă privind normele de drept civil în domeniul roboticii, dând curs recomandărilor detaliate stabilite în anexă;

66. confirmă că aceste recomandări respectă drepturile fundamentale și principiul subsidiarității;

67. consideră că propunerea solicitată nu va avea implicații financiare dacă se creează o nouă agenție europeană;

68. îi încredințează Președintelui sarcina de a transmite Consiliului și Comisiei prezenta propunere, precum și recomandările detaliate în anexă.

PE582.443v03-00 20/66 RR\1115573RO.docx

RO

ANEXĂ LA PROPUNEREA DE REZOLUȚIERECOMANDĂRI DETALIATE REFERITOARE LA CONȚINUTUL PROPUNERII

SOLICITATE

Definirea și clasificarea „roboților inteligenți”

Ar trebui stabilită o definiție europeană comună a roboților „inteligenți” autonomi, incluzând, dacă este cazul, definiții ale subcategoriilor acestora, ținând seama de următoarele caracteristici:

– capacitatea de a dobândi autonomie cu ajutorul senzorilor și/sau prin schimburi de date cu mediul său ambiant (interconectivitate) și analizarea acestor date;

– capacitatea de a învăța din experiență și prin interacțiune;

– forma suportului fizic al robotului;

– capacitatea de a-și adapta comportamentul și acțiunile la mediul ambiant.

Înregistrarea roboților inteligenți

În scopul trasabilității și pentru a facilita transpunerea în practică a recomandărilor viitoare, ar trebui introdus un sistem de înregistrare a roboților avansați, bazat pe criterii de clasificare a roboților. Sistemul de înregistrare și registrul ar trebui să funcționeze la nivelul Uniunii și să cuprindă piața internă; acestea ar putea fi gestionate de Agenția UE pentru Robotică și Inteligență artificială, dacă este creată.

Răspunderea civilă

Indiferent de soluția juridică aleasă pentru responsabilitatea roboților și a aparatelor înzestrate cu inteligență artificială în alte cazuri decât cele care implică daune materiale, aceasta nu trebuie să limiteze în niciun fel tipul sau amploarea daunelor care pot face obiectul unei despăgubiri și nici să limiteze formele de despăgubire care ar putea fi oferite părții vătămate, pentru simplul motiv că prejudiciul a fost provocat de un agent ne-uman.

Viitorul instrument legislativ trebuie să se bazeze pe o evaluare temeinică din partea Comisiei care să determine dacă ar trebui să se aplice perspectiva răspunderii stricte sau cea a controlului riscurilor.

Ar trebui instituit un regim de asigurare obligatorie care s-ar putea baza pe obligația producătorului de a contracta o asigurare pentru roboții autonomi pe care îi fabrică.

Sistemul de asigurări ar trebui completat de un fond care să garanteze că despăgubirile pot fi compensate în cazurile în care nu există o asigurare.

Orice decizie politică cu privire la normele de răspundere civilă aplicabile roboților și aparatelor înzestrate cu inteligență artificială ar trebui luată după consultarea corespunzătoare a rezultatelor unui proiect de cercetare și dezvoltare la scară europeană dedicat roboților și neuroștiințelor, cu participarea unor oameni de știință și experți capabili să evalueze toate

RR\1115573RO.docx 21/66 PE582.443v03-00

RO

riscurile și consecințele aferente.

Interoperabilitatea, accesul la coduri și drepturile de proprietate intelectuală

Ar trebui asigurată interoperabilitatea roboților autonomi conectați în rețea care interacționează între ei. Accesul la codul sursă, la datele de intrare și la detaliile de construcție ar trebui să fie disponibil în caz de necesitate pentru a investiga accidentele și daunele cauzate de „roboții inteligenți”, precum și pentru a garanta în permanență funcționarea, disponibilitatea, fiabilitatea, siguranța și securitatea lor.

Carta privind robotica

Atunci când prezintă propunerea legislativă privind robotica, Comisia ar trebui să țină seama de principiile consacrate în următoarea Cartă a roboticii.

CARTA PRIVIND ROBOTICA

Codul de conduită etică propus în domeniul roboticii va sta la baza identificării, monitorizării și respectării principiilor etice fundamentale din faza de proiectare și dezvoltare.

Cadrul, conceput după evaluarea rezultatelor unui proiect de cercetare și dezvoltare la scară europeană dedicat roboților și neuroștiințelor, trebuie să fie conceput într-un mod judicios care să permită ajustări individuale de la caz la caz pentru a se evalua dacă un anumit comportament este corect sau greșit într-o anumită situație și a se lua decizii în conformitate cu o ierarhie de valori prestabilită.

Codul nu ar trebui să se substituie imperativului de a aborda toate provocările juridice majore în acest domeniu, ci ar trebui să aibă o funcție complementară. Acesta va facilita, mai degrabă, instituirea unor categorii etice pentru robotică, va susține eforturile de inovare responsabilă în acest domeniu și va aborda preocupările publicului.

Ar trebui să se pună un accent special pe etapele de cercetare și dezvoltare tehnologică ale traiectoriei tehnologice pertinente (procesul de proiectare, evaluarea etică, controalele de audit etc.). Codul ar trebui să se ocupe de necesitatea respectării de către cercetători, practicieni, utilizatori și proiectanți a standardelor etice, dar și să introducă o procedură de soluționare a dilemelor etice din domeniu și să permită acestor sisteme să funcționeze într-un mod responsabil din punct de vedere etic.

CODUL DE CONDUITĂ ETICĂ PENTRU INGINERII ÎN ROBOTICĂ

PREAMBUL

Codul de conduită îi invită pe toți cercetătorii și proiectanții să acționeze în mod responsabil și ținând pe deplin seama de necesitatea de a respecta demnitatea, viața privată și siguranța oamenilor.

Codul solicită o cooperare strânsă între toate disciplinele, pentru a se asigura că activitățile de cercetare în domeniul roboticii în Uniunea Europeană se desfășoară în condiții de siguranță, de o manieră etică și într-un mod eficient.

PE582.443v03-00 22/66 RR\1115573RO.docx

RO

Codul de conduită cuprinde toate activitățile de cercetare și dezvoltare în domeniul roboticii.

Codul de conduită este facultativ și oferă o serie de principii și orientări generale pentru acțiunile ce trebuie întreprinse de toți actorii.

Organismele de finanțare a cercetării în robotică, organizațiile de cercetare, cercetătorii și comisiile de etică sunt încurajați să ia considerare, încă din etapele inițiale, implicațiile viitoare ale tehnologiilor sau ale obiectelor cercetării și să dezvolte o cultură a responsabilității în raport cu provocările și oportunitățile viitorului.

Organismele publice și private de finanțare a cercetării în robotică trebuie să solicite realizarea unei evaluări a riscurilor care să fie prezentată împreună cu fiecare propunere de finanțare pentru cercetare în domeniul roboticii. Un astfel de cod ar trebui să stipuleze că responsabilitatea revine oamenilor, și nu roboților.

Cercetătorii în domeniul roboticii trebuie să se angajeze să urmeze un nivel maxim de conduită etică și profesională și să respecte următoarele principii:

beneficiență - roboții ar trebui să acționeze în interesul oamenilor;

ne-maleficiență - principiul „în primul rând, nu fă rău”: roboții nu trebuie să cauzeze daune omului;

autonomie - capacitatea de lua decizii în deplină libertate și în cunoștință de cauză cu privire la termenii interacțiunii cu roboții;

justiție - repartizarea echitabilă a beneficiilor asociate cu robotica și accesibilitatea roboților de asistență la domiciliu și în special a roboților care asigură asistență medicală.

Drepturile fundamentale

Activitățile de cercetare în domeniul roboticii ar trebui să respecte drepturile fundamentale și să se desfășoare în interesul binelui și autodeterminării persoanelor și societății în ceea ce privește proiectarea, realizarea, diseminarea și utilizarea. Demnitatea și autonomia umană, atât fizică, cât și psihologică, trebuie să fie întotdeauna respectate.

Precauția

Activitățile de cercetare în domeniul roboticii ar trebui efectuate în conformitate cu principiul precauției, anticipând impactul potențial al rezultatelor în materie de siguranță și luând măsurile de precauție necesare, proporțional cu nivelul de protecție, încurajând în același timp progresele în beneficiul societății și al mediului.

Caracterul incluziv

Inginerii specializați în robotică garantează transparența și respectarea dreptului legitim de acces la informație al tuturor actorilor. Incluziunea permite participarea la procesele decizionale ale tuturor actorilor implicați sau vizați de activitățile de cercetare în domeniul roboticii.

Responsabilitatea

RR\1115573RO.docx 23/66 PE582.443v03-00

RO

Inginerii în robotică ar trebui să fie răspunzători pentru impactul social și ecologic și pentru consecințele asupra sănătății umane pe care robotica le poate cauza pentru generațiile prezente și viitoare.

Siguranța

Proiectanții de roboți ar trebui să ia în considerare confortul fizic, siguranța, sănătatea și drepturile persoanelor. Inginerii în robotică trebuie să nu prejudicieze starea de bine a oamenilor, respectând totodată drepturile omului, și să comunice cu promptitudine factorii care ar putea pune în pericol publicul sau mediul.

Reversibilitatea

Reversibilitatea, condiție necesară a controlabilității, este un concept fundamental atunci când roboții sunt programați să se comporte într-un mod sigur și fiabil. Un model de reversibilitate a acțiunilor comunică robotului care acțiuni sunt reversibile și cum să revină asupra lor în cazul în care sunt reversibile. Capacitatea de a anula ultima acțiune sau o secvență de acțiuni permite utilizatorilor să anuleze acțiunile nedorite și să revină la etapa „bună” a activității lor.

Viața privată

Dreptul la viață privată trebuie respectat întotdeauna. Un inginer în robotică trebuie să se asigure că informațiile private sunt păstrate în siguranță și utilizate numai în mod corespunzător. De asemenea, un inginer în robotică trebuie să garanteze că persoanele nu sunt identificabile în mod personal, cu excepția unor împrejurări excepționale și atunci numai cu consimțământul în cunoștință de cauză, clar și lipsit de ambiguitate. Trebuie să se urmărească obținerea consimțământului în cunoștință de cauză al persoanei înainte de orice interacțiune om-mașină. Ca atare, proiectanții specializați în robotică poartă răspunderea de a dezvolta și a urma procedurile de aprobare valabilă, de confidențialitate, anonimat, tratament echitabil și de respectare a garanțiilor procedurale. Proiectanții se vor conforma tuturor solicitărilor ca orice date conexe să fie distruse și eliminate din toate seturile de date.

Maximizarea beneficiilor și reducerea la minimum a prejudiciilor

Cercetătorii trebuie să caute să maximizeze beneficiile activității lor în toate etapele, de la început până la difuzare. Lezarea participanților la cercetare/subiecților umani/participanților la un experiment, test sau studiu trebuie evitată. În cazul în care riscurile apar ca un element inevitabil, ce face parte integrantă din cercetare, trebuie realizată o evaluare a riscurilor și protocoale de gestiune solide, care să fie respectate. În mod normal, riscul de a provoca un prejudiciu nu trebuie să fie mai mare decât cel întâlnit în viața obișnuită, cu alte cuvinte oamenii nu ar trebui să fie expuși la riscuri mai mari sau în plus față de cele la care sunt expuși în viață normală a acestora. Funcționarea unui sistem robotizat ar trebui să se bazeze întotdeauna pe o evaluare aprofundată a riscurilor, care ar trebui să se bazeze pe principiile precauției și proporționalității.

COMITETELE PENTRU ETICĂ ÎN CERCETARE (CEtC)

Principii

PE582.443v03-00 24/66 RR\1115573RO.docx

RO

Independența

Procesul de evaluare etică trebuie să fie independent de cercetarea propriu-zisă. Acest principiu evidențiază necesitatea de a evita conflictele de interese dintre cercetători și persoanele care evaluează protocolul de etică, precum și între evaluatori și structurile organizaționale de guvernare.

Competența

Procesul de evaluare etică ar trebui realizat de evaluatori care dispun de cunoștințele specializate corespunzătoare, ținând seama de necesitatea analizării cu atenție a componenței și a formării specifice în materie de etică a CEtC.

Transparența și responsabilitatea

Procesul de evaluare ar trebui să fie responsabil și să poată face obiectul unui control. CEtC trebuie să recunoască propriile responsabilități și să fie situate în mod corespunzător în structurile organizaționale care conferă transparență funcționării lor și procedurilor de menținere și reevaluare a standardelor.

Rolul unui Comitet pentru etică în cercetare

Un comitet pentru etică în cercetare este în mod normal responsabil de examinarea tuturor cercetărilor care implică participarea umană efectuate de către persoane fizice angajate în instituția în cauză sau de către aceasta; de asigurarea faptului că evaluarea de etică este realizată în mod independent, competent și în timp util; de protejarea demnității, a drepturilor și stării de confort a participanților la cercetare; de luarea în considerare a siguranței cercetătorului (cercetătorilor); de luarea în considerare a intereselor legitime ale altor părți interesate; de adoptarea unor decizii în cunoștință de cauză cu privire la meritul științific al propunerilor; și de prezentarea de recomandări în cunoștință de cauză cercetătorilor în cazul în care propunerea este considerată insuficientă în anumite privințe.

Constituirea unui Comitet pentru etică în cercetare

Un Comitet pentru etică în cercetare ar trebui în mod normal să fie multidisciplinar, să includă atât bărbați, cât și femei; să fie format din membri cu o amplă experiență și cunoștințe de specialitate în cercetarea în domeniul roboticii. Mecanismul de numire trebuie să funcționeze astfel încât membrii comitetului să dispună de un echilibru adecvat între cunoștințele științifice specializate, formare filozofică, juridică sau etică medii și cunoașterea opiniilor nespecialiștilor și să cuprindă cel puțin un membru cu cunoștințe de specialitate în domeniul eticii, utilizatori de servicii de specialitate în domeniul sănătății, educației sau serviciilor sociale, în cazul în care acestea fac obiectul activităților de cercetare, precum și persoane cu competențe metodologice specifice relevante pentru cercetarea pe care o evaluează; ele trebuie să fie astfel constituite încât să se evite conflictele de interese.

Monitorizarea

Toate organizațiile de cercetare ar trebui să instituie proceduri corespunzătoare pentru a monitoriza desfășurarea activităților de cercetare care au primit aprobarea comitetului de etică până când vor fi finalizate, și să urmărească continuu dacă designul cercetării anticipează

RR\1115573RO.docx 25/66 PE582.443v03-00

RO

schimbările posibile de-a lungul timpului de care ar trebui să se țină seama. Monitorizarea ar trebui să fie proporțională cu natura și cu gradul de risc asociat cercetării. În cazul în care un CEtC consideră că un raport de monitorizare suscită dubii majore legate etica desfășurării studiului, ar trebui să solicite o descriere detaliată și completă a cercetării în vederea efectuării unei evaluări etice cuprinzătoare. În cazul în care se consideră că un studiu este realizat într-un mod lipsit de etică, ar trebui să se ia în considerare retragerea aprobării acestuia, iar cercetarea ar trebui suspendată sau întreruptă.

LICENȚELE PENTRU PROIECTANȚI

– Ar trebui să țineți seama de valorile europene ale demnității, autonomiei și autodeterminării, libertății și justiției înainte, în timpul și după procesul de proiectare, dezvoltare și furnizare a unor astfel de tehnologii, inclusiv de necesitatea de a nu aduce prejudicii, de a nu răni, de a nu înșela și de a nu exploata utilizatorii (vulnerabili).

– Ar trebui să introduceți principii fiabile de proiectare a sistemului la nivelul tuturor aspectelor funcționării unui robot, atât pentru proiectarea hardware, cât și software, precum și pentru orice tip de prelucrare de date în interiorul sau în exteriorul platformei în scopuri de securitate.

– Ar trebui să introduceți confidențialitatea prin concepție, astfel încât să se asigure că informațiile confidențiale sunt păstrate în siguranță și utilizate numai în mod corespunzător.

– Ar trebui să integrați mecanisme „opt-out” evidente („kill switch”) care ar trebui să fie în concordanță cu obiectivele rezonabile ale proiectului.

– Ar trebui să vă asigurați că un robot funcționează în conformitate cu principiile etice și juridice locale, naționale și internaționale.

– Ar trebui să vă asigurați că procesul decizional al roboților permite reconstituirea și trasabilitatea pe faze.

– Ar trebui să vă asigurați că este necesar să se asigure o transparență maximă în procesul de programare a sistemelor robotizate, precum și previzibilitatea comportamentului robotizat.

– Ar trebui să analizați previzibilitatea unui sistem om-robot prin luarea în considerare a incertitudinii în interpretare și acțiune și a posibilelor erori robotice sau umane.

– Ar trebui să dezvoltați instrumente de trasabilitate la stadiul proiectării robotului. Aceste instrumente vor facilita contabilizarea și explicarea comportamentului robotic, chiar dacă într-o măsură limitată, la diferitele niveluri destinate experților, operatorilor și utilizatorilor.

– Ar trebui să elaborați protocoale de proiectare și de evaluare și să vă alăturați potențialilor utilizatori și părți interesate în momentul evaluării beneficiilor și riscurilor roboticii, inclusiv cele cognitive, psihologice și ambientale.

– Ar trebui să vă asigurați că roboții sunt identificabili ca roboți atunci când interacționează cu oamenii.

PE582.443v03-00 26/66 RR\1115573RO.docx

RO

– Ar trebui să protejați securitatea și sănătatea celor care interacționează și vin în contact cu robotica, având în vedere faptul că roboții ca produse ar trebui să fie concepuți utilizându-se procese care să asigure siguranța și securitatea. Un inginer specializat în robotică trebuie să nu prejudicieze starea de bine a oamenilor, respectând, în același timp, drepturile omului și nu poate pune în acțiune un robot fără a garanta siguranța, eficacitatea și reversibilitatea funcționării sistemului.

– Ar trebui să obțineți un aviz favorabil din partea unui CetC înainte de testarea unui robot într-un mediu real sau care implică subiecți umani în procedurile de proiectare și dezvoltare.

LICENȚELE PENTRU UTILIZATORI

– Aveți dreptul de a utiliza un robot fără riscuri sau teamă de vătămare fizică sau psihologică.

– Ar trebui să aveți dreptul de a vă aștepta ca un robot să îndeplinească orice sarcină pentru care a fost conceput în mod explicit.

– Ar trebui să fiți conștient că orice robot pot avea limitări cognitive, de percepție și de acționare.

– Ar trebui să respectați fragilitatea umană, atât fizică, cât și psihologică, precum și nevoile emoționale ale oamenilor.

– Ar trebui să țineți seama de drepturile la intimitate ale persoanelor fizice, inclusiv în ceea ce privește dezactivarea monitoarelor video în timpul procedurilor intime.

– Nu sunteți autorizat să colectați, să utilizați sau să divulgați informații cu caracter personal fără consimțământul explicit al persoanei vizate.

– Nu sunteți autorizat să utilizați un robot într-un mod care contravine principiilor și normelor etice sau juridice.

– Nu aveți autorizația să modificați un robot pentru a-i permite să funcționeze ca o armă.

RR\1115573RO.docx 27/66 PE582.443v03-00

RO

EXPUNERE DE MOTIVE

Context

În conformitate cu anexa VI la Regulamentul de procedură, Comisia pentru afaceri juridice este responsabilă, printre altele, de dreptul civil și comercial, dreptul societăților comerciale, dreptul proprietății intelectuale și de interpretarea și aplicarea dreptului internațional, în cazul în care Uniunea Europeană este vizată, precum și de aspectele etice referitoare la noile tehnologii. Dezvoltarea roboticii și a inteligenței artificiale ridică probleme juridice și etice care sunt legate în mod clar de toate aceste domenii și care necesită o intervenție rapidă la nivelul UE. Chiar dacă în cele din urmă sarcina de a prezenta una sau mai multe propuneri legislative privind robotica și inteligența artificială va reveni Comisiei, Parlamentul European a decis să deschidă calea pentru astfel de inițiative, utilizând drepturile sale în temeiul articolului 225 din Tratatul privind funcționarea Uniunii Europene și în conformitate cu articolul 46 din Regulamentul de procedură.

În consecință, la 20 ianuarie 2015, comisia JURI a decis să creeze un grup de lucru (GL) privind aspectele juridice referitoare la dezvoltarea roboticii și a inteligenței artificiale (IA) în Uniunea Europeană. Grupul de lucru vizează în primul rând elaborarea unor norme de drept civil legate de această materie.

Pe lângă membrii Comisiei pentru afaceri juridice, grupul de lucru este compus și din reprezentanți ai Comisiei pentru industrie, cercetare și energie (ITRE), ai Comisiei pentru piața internă și protecția consumatorilor (IMCO) și ai Comisiei pentru ocuparea forței de muncă și afaceri sociale (EMPL).

Grupul de lucru a consultat experți din diverse medii, beneficiind de contribuții importante care sunt incluse în prezenta rezoluție.

Generalități

Robotica și IA au devenit una dintre cele mai importante tendințe tehnologice ale secolului nostru. Creșterea rapidă a utilizării și dezvoltării acestora pune probleme noi și dificile pentru societatea noastră. Drumul de la sectorul industrial la mediul societății civile impune o abordare diferită a acestor tehnologii, având în vedere că roboții și IA își vor intensifica interacțiunea cu oamenii în domenii foarte diferite.

Comisia JURI consideră că riscurile pe care le prezintă aceste interacțiuni ar trebui abordate urgent, asigurându-se de respectarea unui ansamblu de valori fundamentale în orice stadiu al contactelor între roboți, IA și oameni. În cadrul acestui proces, ar trebui acordată o atenție deosebită siguranței umane, confidențialității, integrității, demnității și autonomiei.

Alte aspecte importante menționate în prezenta rezoluție sunt: standardizarea, drepturile de proprietate intelectuală, ocuparea forței de muncă, proprietatea asupra datelor și responsabilitatea. Este esențial ca regulamentul să cuprindă condiții previzibile și suficient de

PE582.443v03-00 28/66 RR\1115573RO.docx

RO

clare pentru a stimula inovarea europeană în domeniul roboticii și IA.

Temeiul juridic și subsidiaritatea

Acțiunile Comisiei vizând adaptarea legislației existente la realitățile roboticii și IA ar trebui să se bazeze pe articolul 114 din TFUE. În conformitate cu articolul 5 alineatul (3) din TUE, principiul subsidiarității prevede că Uniunea acționează numai în cazul și în măsura în care obiectivele acțiunii propuse nu pot fi realizate în mod satisfăcător de statele membre nici la nivel central, nici la nivel regional și local, însă pot, având în vedere amploarea și efectele acțiunii propuse, fi realizate mai bine la nivelul Uniunii. În prezent, robotica este în curs de dezvoltare în întreaga Uniune. Ca reacție la această inovație, statele membre elaborează legislații naționale diferite. Se estimează că aceste diferențe vor crea obstacole în calea unei dezvoltări eficace a roboticii. Datorită faptului că această tehnologie are implicații transfrontaliere, cea mai bună opțiune legislativă este una europeană.

Principii generale și etice

Rezoluția stabilește dispoziții generale și etice referitoare la dezvoltarea roboticii și IA de uz civil. În primul rând, pentru a aborda în mod adecvat această evoluție, este esențială o definiție comună a roboților inteligenți autonomi . În plus, ar trebui consolidate cercetările în domeniul roboticii și al TIC, precum și în ceea ce privește implicațiile răspândirii acestora.

Pe de altă parte, pentru a aborda principiile etice, la prezenta rezoluție este anexată o cartă privind robotica. Această cartă cuprinde un cod de conduită etică pentru inginerii din domeniul roboticii, un cod de conduită pentru comitetele pentru etică în cercetare, și licențe pentru proiectanți și utilizatori. Cadrul propus este în deplină conformitate cu Carta drepturilor fundamentale a UE.

În plus, se propune crearea unei Agenții Europene pentru Robotică și IA. Această agenție ar trebui să furnizeze cunoștințele specializate tehnice, etice și în materie de reglementare necesare pentru a sprijini actorii relevanți din sectorul public.

Drepturile de proprietate intelectuală, protecția datelor și proprietatea asupra datelor

Rezoluția solicită Comisiei să propună o abordare echilibrată a drepturilor de proprietate intelectuală atunci când acestea sunt aplicate standardelor de hardware și de software, precum și codurilor care protejează inovarea și, concomitent, promovează inovarea. În plus, se solicită elaborarea unor criterii pentru „creație intelectuală proprie” pentru operele ce pot face obiectul drepturilor de autor produse de computere sau roboți.

Actualul cadru juridic insuficient referitor la protecția și proprietatea asupra datelor reprezintă un motiv de îngrijorare din cauza fluxului (preconizat a fi masiv) de date provenind din utilizarea roboticii și IA.

Standardizarea, siguranța și securitatea

Utilizarea crescândă a roboților și a IA necesită o standardizare la nivel european în scopul evitării divergențelor între statele membre și fragmentarea pieței interne a Uniunii Europene.

În plus, trebuie abordate preocupările consumatorilor privind siguranța și securitatea legate de

RR\1115573RO.docx 29/66 PE582.443v03-00

RO

utilizarea roboților și a IA. Această rezoluție subliniază în mod special faptul că testarea roboților în condiții reale este esențială pentru identificarea și evaluarea riscurilor pe care le pot reprezenta.

Norme privind utilizarea specifică a roboților și a IA

Rezoluția include dispoziții care se aplică unor tipuri specifice de roboți. Ar trebui adoptate norme pentru vehiculele autonome, pentru roboții de îngrijire, roboții medicali, roboții de reparare și consolidare a corpului uman, precum și pentru vehiculele aeriene fără pilot (RPAS).

Norme privind răspunderea

Riscurile care pot să apară sunt indisolubil legate de utilizarea unor mașini autonome în societatea noastră. Comportamentul unui robot poate avea implicații de drept civil, atât în ceea ce privește răspunderea contractuală, cât și cea necontractuală. Astfel, este necesară clarificarea responsabilității pentru acțiunile roboților și, eventual, a capacității juridice și/sau a statutului de roboți și IA pentru a se asigura transparența și siguranța juridică pentru producătorii și consumatorii din întreaga Uniune Europeană.

Comisia este invitată să realizeze o evaluare a impactului instrumentelor sale legislative viitoare pentru a analiza implicațiile juridice ale tuturor soluțiilor posibile, cum ar fi, printre altele, crearea unui sistem de asigurare obligatorie și a unui fond de compensare.

Robotica și IA în contextul social

Intensificarea comunicării și a interacțiunii cu roboți sunt susceptibile să aibă un impact profund asupra relațiilor fizice și morale în societatea noastră. Acest lucru este valabil în special pentru roboții de utilitate și asistență personală, față de care persoanele deosebit de vulnerabile pot dezvolta sentimente și atașament emoțional, fapt care ar provoca îngrijorări cu privire la demnitatea umană și la alte valori morale.

Roboții și IA deja influențează educația și ocuparea forței de muncă. În acest context, este necesară monitorizarea îndeaproape a tendințelor ocupării locurilor de muncă, pentru a se evita repercusiunile nedorite asupra pieței forței de muncă.

Aspecte internaționale

Având în vedere dezvoltarea roboticii și IA peste tot în lume, trebuie luate în considerare inițiative pentru a modifica, dacă este cazul, unele acorduri internaționale existente în materie sau a elabora noi instrumente cu obiectivul de a introduce referiri specifice la robotică și IA. Cooperarea internațională în acest domeniu este foarte de dorit.

PE582.443v03-00 30/66 RR\1115573RO.docx

RO

16.11.2016

AVIZ AL COMISIEI PENTRU TRANSPORT ȘI TURISM

destinat Comisiei pentru afaceri juridice

with recommendations to the Commission on Civil Law Rules on Robotic

(2015/2103(INL))

Raportor pentru aviz: Georg Mayer

(Inițiativă – articolul 46 din Regulamentul de procedură)

SUGESTII

Comisia pentru transport și turism recomandă Comisiei pentru afaceri juridice, competentă în fond, includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

– având în vedere Declarația de la Amsterdam a Consiliului din 14-15 aprilie 2016 privind cooperarea în domeniul vehiculelor conectate și automatizate („Declarația de la Amsterdam”),

A. având în vedere înființarea recentă a Grupului la nivel înalt GEAR 2030 de către Comisia Europeană, care are drept scop elaborarea unei foi de parcurs pentru introducerea în bune condiții a vehiculelor autonome,

B. având în vedere faptul că, în contextul răspunderii civile, este necesar să se opereze o distincție între vehiculele automatizate (care dispun de dispozitive ce permit realizarea automată a anumitor operațiuni de conducere a unui vehicul) și vehiculele autonome (care realizează singure toate aceste operațiuni); întrucât, în primul caz, conducerea unui vehicul rămâne sub monitorizarea permanentă și sub responsabilitatea deplină a conducătorului auto; întrucât, în al doilea caz, conducerea unui vehicul nu mai necesită monitorizarea permanentă și nici vreo intervenție din partea utilizatorului; întrucât, în primul caz, regimul răspunderii civile rămâne neschimbat în raport cu vehiculul convențional, în timp ce în al doilea caz este necesară adaptarea acestui regim,

1. subliniază că transportul autonom acoperă toate formele de transport rutier, feroviar, aerian și pe apă de o manieră automată, conectată și autonomă, inclusiv pentru vehicule, trenuri, nave, feriboturi, aeronave, drone, precum și toate viitoarele forme pe care le vor lua evoluțiile și inovările din sector (denumite în continuare „mijloace autonome de transport”);

RR\1115573RO.docx 31/66 PE582.443v03-00

RO

2. solicită Comisiei să țină seama de următoarele aspecte în cursul activității sale cu privire la mijloacele autonome de transport: responsabilitatea civilă (răspunderea și acoperirea riscurilor), toate chestiunile legate de mediu (de exemplu eficiența energetică, folosirea tehnologiilor și surselor de energie regenerabile), precum și chestiunile referitoare la date (accesul la date, protejarea datelor personale și a vieții private, punerea în comun a datelor privind accidentele și situațiile de risc, valoarea financiară a datelor și repartizarea ei);

3. consideră că mijloacele autonome de transport ar putea avea un impact major asupra consolidării siguranței transportului, dat fiind că, în momentul de față, erorile umane sunt responsabile pentru aproximativ 90 % dintre accidentele rutiere; constată, totuși, că va fi imposibil ca vehiculele autonome să elimine toate accidentele; acest lucru prezintă probleme legate de răspundere și ridică întrebări legate de responsabilitatea părților implicate și compensarea victimelor în caz de accident;

4. reamintește că sistemele autonome de transport există de mult timp în sectorul transporturilor în comun (metrou), și-au dovedit fiabilitatea și au fost acceptate pe scară largă de către public;

5. consideră că, pe lângă impactul pozitiv asupra siguranței rutiere, consumului de combustibil, mediului și creării de noi locuri de muncă în sectorul telecomunicațiilor și al autovehiculelor, trecerea la vehiculele autonome poate conduce, de asemenea, la pierderea de locuri de muncă în sectorul transporturilor, având, totodată, consecințe asupra sectorului asigurărilor;

6. atrage atenția asupra faptului că timpul de reacție al conducătorului este esențial atunci când acesta preia neașteptat comanda unui vehicul, și, de aceea, solicită părților implicate să prevadă valori realiste, care sunt deosebit de importante în chestiunile legate de siguranță și responsabilitate;

7. insistă asupra importanței speciale pe care o are proiectul de raport elaborat de Comisia pentru afaceri juridice pentru sectorul transporturilor, având în vedere evoluția tehnologiilor și faptul că mijloacele de transport semiautonome sunt deja disponibile pe piață, iar mijloacele de transport complet autonome vor fi disponibile în curând;

8. subliniază importanța susținerii în continuare a inovării în domeniul roboticii, de exemplu a vehiculelor automatizate și conectate și a dronelor, pentru a consolida poziția pe piața globală a industriei Uniunii;

9. constată că mijloacele de transport automatizate joacă un rol important pentru dezvoltarea unui transport sustenabil; ia act de faptul că mijloacele autonome de transport ar putea contribui la reducerea congestiei traficului și solicită Comisiei și statelor membre să țină seama rapid și pe deplin de progresele tehnice, precum și de impactul asupra mediului și al siguranței și de promovarea inovării;

10. așteaptă de la Comisie să garanteze că statele membre adaptează în mod uniform legislația actuală, cum ar fi Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră, cu scopul de a face posibilă conducerea fără conducător, și solicită Comisiei, statelor membre și industriei să transpună cât mai curând posibil obiectivele Declarației de la Amsterdam;

PE582.443v03-00 32/66 RR\1115573RO.docx

RO

11. îndeamnă Comisia să prezinte evaluări privind aspectele legate de siguranță în ceea ce privește folosirea dronelor pe scară largă; solicită Comisiei să prezinte studii privind impactul mijloacelor autonome de transport asupra îmbunătățirii siguranței și sustenabilității transporturilor;

12. subliniază faptul că, prin optimizarea rutelor, combaterea congestionării, optimizarea utilizării sistemului de propulsie și comunicarea cu sistemele de control al fluxurilor, vehiculele autonome vor participa la îmbunătățirea factorilor de mediu, în special în centrele urbane;

13. subliniază că interacțiunea dintre mijloacele autonome de transport, gestionarea traficului, infrastructura și gestionarea acesteia vor necesita o comunicare eficientă și fiabilă de înaltă densitate pentru a transfera în condiții de siguranță volume mari de date în timp real; subliniază că vor fi necesare investiții substanțiale în drumuri, energie și infrastructura TIC, asigurând, în același timp, protecția datelor și a vieții private;

14. subliniază importanța unei infrastructuri de transporturi inteligente și conectate și solicită, așadar, Comisiei și statelor membre să asigure o infrastructură de mare acoperire, transfrontalieră și interoperabilă;

15. solicită Comisiei să elaboreze un regim de răspundere civilă, inclusiv al sarcinii probei, adaptat la dezvoltarea de vehicule autonome; insistă asupra importanței de a asigura separarea clară a responsabilităților între entitatea care dezvoltă conceptul, producătorii de diferite componente și unitățile de asamblare a vehiculelor autonome, prestatorii de servicii (servicii de transport sau servicii necesare funcționării vehiculelor autonome) și utilizatorii finali, pentru a garanta securitatea și drepturile călătorilor, protecția datelor și protecția împotriva pirateriei;

16. subliniază importanța crucială a unei poziționări fiabile și a informațiilor oportune furnizate de programele europene de navigație prin satelit Galileo și EGNOS pentru introducerea vehiculelor autonome, îndeosebi pentru sistemele de navigare și de securitate din vehiculele autonome, pe de o parte, și pentru sistemele de transport inteligent și de gestionare a traficului, pe de altă parte;

17. atrage atenția asupra valorii adăugate deosebite a vehiculelor autonome pentru persoanele cu mobilitate redusă, având în vedere că permit o participare mai eficace a acestor persoane la transportul rutier individual, facilitându-le astfel viața de zi cu zi;

18. solicită Comisiei să propună până în 2019 o strategie europeană comună (inclusiv o foaie de parcurs unică) pentru mijloacele autonome de transport și solicită o colaborare mai apropiată a tuturor părților interesate, inclusiv o analiză atentă și recomandări privind dinamica și evoluția pieței; solicită Comisiei să revizuiască și să adapteze, acolo unde este necesar, cadrul de reglementare al Uniunii pentru a sprijini dezvoltarea și utilizarea mijloacelor autonome de transport; solicită finalizarea și lansarea, cât de curând posibil, a sateliților necesari pentru finalizarea sistemului european de poziționare Galileo, astfel încât acest sistem să poată fi folosit ca sistem de poziționare implicit în mijloacele autonome de transport;

19. constată că dezvoltarea de vehicule autonome necesită o abordare instituțională proactivă și asumată din partea Uniunii și a statelor membre, precum și implicarea

RR\1115573RO.docx 33/66 PE582.443v03-00

RO

centrelor tehnologice și a sectorului autovehiculelor;

20. solicită Comisiei să dezvolte norme europene în domeniul infrastructurii pentru a permite difuzarea vehiculelor autonome și o foaie de parcurs pentru a le pune în aplicare;

21. solicită Comisiei și statelor membre ca manipularea vehiculelor automatizate să fie inclusă în catalogul de formare a conducătorilor de vehicule de transport grele și să devină parte a formării pentru obținerea permisului de conducere a autovehiculelor;

22. reamintește că omogenitatea și siguranța aeronavelor fără pilot ar trebui asigurate prin măsurile prevăzute de Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului1;

1 Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului din 20 februarie 2008 privind normele comune în domeniul aviației civile și instituirea unei Agenții Europene de Siguranță a Aviației și de abrogare a Directivei 91/670/CEE a Consiliului, a Regulamentului (CE) nr. 1592/2002 și a Directivei 2004/36/CE (JO L 79, 19.3.2008, p. 1).

PE582.443v03-00 34/66 RR\1115573RO.docx

RO

REZULTATUL VOTULUI FINAL ÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării 10.11.2016

Rezultatul votului final +:–:0:

2250

Membri titulari prezenți la votul final Daniela Aiuto, Marie-Christine Arnautu, Georges Bach, Izaskun Bilbao Barandica, Deirdre Clune, Michael Cramer, Luis de Grandes Pascual, Andor Deli, Karima Delli, Jacqueline Foster, Bruno Gollnisch, Merja Kyllönen, Peter Lundgren, Marian-Jean Marinescu, Cláudia Monteiro de Aguiar, Renaud Muselier, Markus Pieper, Salvatore Domenico Pogliese, Massimiliano Salini, Claudia Schmidt, Jill Seymour, Pavel Telička, Wim van de Camp, Roberts Zīle, Elżbieta Katarzyna Łukacijewska

Membri supleanți prezenți la votul final Ramona Nicole Mănescu, Matthijs van Miltenburg

RR\1115573RO.docx 35/66 PE582.443v03-00

RO

23.11.2016

AVIZ AL COMISIEI PENTRU LIBERTĂȚI CIVILE, JUSTIȚIE ȘI AFACERI INTERNE

destinat Comisiei pentru afaceri juridice

conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(2015/2103(INL))

Raportor pentru aviz: Michał Boni

(Inițiativă – articolul 46 din Regulamentul de procedură)

(*) Procedura comisiilor asociate – articolul 54 din Regulamentul de procedură

SUGESTII

Comisia pentru libertăți civile, justiție și afaceri interne recomandă Comisiei pentru afaceri juridice, competentă în fond:

– includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

A. întrucât progresele tehnologice în domeniul roboticii vor avea efecte pozitive pentru economia Uniunii și, de asemenea, pentru viața de zi cu zi a persoanelor fizice, dar ar putea presupune și riscuri cărora trebuie să li se facă față; întrucât dezvoltarea tuturor noilor paradigme tehnologice și de producție, în cadrul sau în afara cadrului Orizont 2020 trebuie să respecte principiile etice și să țină seama în mod corespunzător de drepturile fundamentale consacrate în Carta drepturilor fundamentale (CDF);

B. întrucât o serie de state terțe au adoptat orientări și acte legislative adecvate în domeniul roboticii, iar unele state membre au lansat un proces de reflecție specific în acest domeniu; întrucât un cadru de reglementare care guvernează, la nivelul Uniunii, dezvoltarea și utilizarea roboticii și a inteligenței artificiale și se bazează pe normele existente, cum ar fi Regulamentul general al Uniunii privind protecția datelor1, ar putea evita fragmentarea

1 Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului din 27 aprilie 2016 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date și de abrogare a Directivei 95/46/CE (Regulamentul general privind protecția datelor), JO L 119, 4.5.2016, p. 1.

PE582.443v03-00 36/66 RR\1115573RO.docx

RO

normelor în cadrul pieței unice și ar garanta o protecție sporită a drepturilor fundamentale ale tuturor cetățenilor UE la demnitatea umană, respectarea vieții private și de familie, protecția datelor cu caracter personal și drepturile de proprietate intelectuală, libertatea de exprimare și de informare, egalitatea și nediscriminarea, solidaritatea, drepturile cetățenilor și justiția, precum și securitatea și siguranța, făcând totodată obiectul principiului proporționalității;

Principii etice

1. consideră că actualul cadru legislativ al Uniunii ar trebui actualizat și completat, dacă este cazul, cu principii etice orientative pentru proiectarea, fabricarea, testarea și utilizarea roboților și a inteligenței artificiale, pentru a se asigura că aceste tehnologii pot într-adevăr să îmbunătățească calitatea vieții umane; solicită ca principiul precauției să fie întotdeauna luat în considerare în dezvoltarea și utilizarea unor astfel de tehnologii;

2. consideră că robotica și inteligența artificială, în special acele forme care dispun de autonomie integrată, inclusiv capacitatea de a extrage, colecta și face schimb de informații sensibile cu diverse părți interesate în mod independent, capacitatea de autoînvățare sau chiar de evoluție pentru a se modifica singure, ar trebui să facă obiectul unei legislații sau unor principii conceptuale robuste, cum ar fi că un robot nu poate ucide sau răni o ființă umană și că acesta trebuie să respecte și să fie controlat de o ființă umană; că procesul prin care roboții și inteligența artificială colectează, utilizează și prelucrează datele cu caracter personal trebuie să fie transparent și ușor de înțeles; consideră că aceste principii ar trebui să fie neutre din punct de vedere tehnologic și să se bazeze pe cercetări empirice; sprijină dezvoltarea unui cadru „etic din concepție” pentru cercetători, reprezentanți ai mediului universitar și ingineri care să garanteze că aceste soluții tehnologice nu vor împiedica cercetarea și dezvoltarea tehnologică, ci vor respecta practicile și codurile etice ale Uniunii și cele de la nivel național, precum și drepturile și principiile consacrate în CDF, în special demnitatea umană, respectarea și protejarea vieții private și de familie, securitatea și siguranța, protecția datelor cu caracter personal, protecția proprietății intelectuale, libertatea de exprimare și de informare, egalitatea și nediscriminarea, solidaritatea, drepturile cetățenilor și justiția, și ar trebui să facă obiectul proporționalității;

3. recunoaște că definirea unor astfel de legi și principii și implementarea lor practică necesită mai multe cercetări în domeniul eticii inteligenței artificiale; consideră că Grupul european pentru etică în domeniul științei și al noilor tehnologii ar putea în cele din urmă juca un rol în definirea unor orientări și standarde etice care să fie orientate spre viitor și capabile de a răspunde schimbărilor tehnologice în viitor;

4. subliniază necesitatea de a aborda impactul psihologic și în societate al interacțiunii ființă umană-robot, precum și caracterul dual al impactului tehnologiei asupra capacităților umane, acordându-se o atenție specială grupurilor vulnerabile, în special copiilor, pentru a evita crearea unei dependențe nefaste de roboți, de exemplu prin evocarea unei reacții emoționale sau prin izolarea acestor oameni de realitate;

5. subliniază că robotica și inteligența artificială, în special robotica și sistemele medicale ciber-fizice legate de sănătate, de îngrijire și de activitățile domestice, unele elemente ale acestora putând fi implantate sau purtate pe corpul uman, vor avea un impact semnificativ asupra vieții umane, în special pentru persoanele cu handicap; constată, prin urmare, că este esențial să se asigure accesul integrator și egal la aceste tehnologii; evidențiază, de

RR\1115573RO.docx 37/66 PE582.443v03-00

RO

asemenea, impactul acestor forme de robotică asupra vieții private a utilizatorilor din cauza accesului acestora la spațiile protejate în mod tradițional și la informații cu caracter personal sensibile; consideră că ar trebui să se asigure respectarea principiilor eticii medicale, siguranța pacienților, precum și integritatea îngrijirii acordate;

Confidențialitate și protecția datelor

6. reamintește că dreptul la protecția vieții private și dreptul la protecția datelor cu caracter personal, astfel cum sunt consacrate la articolele 7 și 8 din Carta drepturilor fundamentale și la articolul 16 din TFUE, se aplică în toate sferele roboticii și inteligenței artificiale, și că trebuie respectat pe deplin cadrul juridic al Uniunii privind protecția datelor; subliniază responsabilitatea proiectanților roboticii și a inteligenței artificiale de a dezvolta produse astfel încât acestea să fie sigure și adecvate scopului și să urmeze proceduri pentru prelucrarea datelor care să respecte legislația actuală, confidențialitatea, anonimatul, tratamentul echitabil și garanțiile procedurale;

7. invită Comisia să se asigure că orice act legislativ al Uniunii privind robotica și inteligența artificială va include măsuri și norme care țin seama de evoluțiile tehnologice rapide în acest domeniu, inclusiv în dezvoltarea de sisteme ciber-fizice pentru a se asigura că legislația Uniunii nu rămâne în urma curbei de dezvoltare și implementare tehnologică; subliniază necesitatea ca această legislație să respecte normele privind protecția datelor și a vieții private, și anume privind obligațiile de informare, dreptul de a obține o explicație cu privire la o decizie bazată pe prelucrarea automată, cerința de a respecta principiile de confidențialitate prin concepție și în mod implicit, principiile proporționalității, necesității, limitarea datelor la minimum, limitarea scopului, precum și mecanisme de control transparente pentru persoanele vizate și pentru autoritățile de protecție a datelor, precum și soluții adecvate care respectă legislația în vigoare; solicită reexaminarea normelor, principiilor și criteriilor privind utilizarea aparatelor de înregistrare foto sau video și a senzorilor în roboți și în inteligența artificială, în conformitate cu cadrul juridic al Uniunii privind protecția datelor;

8. solicită o abordare uniformă, orizontală a roboticii și a inteligenței artificiale în cadrul de reglementare al Uniunii care să fie neutră din punct de vedere tehnologic și să se aplice diverselor sectoare în care robotica ar putea fi utilizată, cum ar fi transportul, sănătatea, producția industrială, telecomunicațiile, asigurarea respectării legii și multe altele; subliniază că, acolo unde este cazul, cadrul juridic existent ar trebui să fie actualizat și completat pentru a asigura un nivel egal de protecție a datelor, a vieții private și a securității;

9. subliniază că este deosebit de important să se prevină supravegherea în masă prin intermediul tehnologiilor din domeniul roboticii și al inteligenței artificiale;

10. invită Comisia și statele membre să promoveze o cooperare puternică și transparentă între sectorul public, sectorul privat și mediul universitar, care să consolideze schimbul de cunoștințe și să promoveze educația și formarea profesională pentru proiectanți privind implicațiile etice, siguranța și respectarea drepturilor fundamentale, precum și pentru consumatori cu privire la utilizarea roboticii și a inteligenței artificiale, cu accent special pe siguranța și confidențialitatea datelor;

Securitatea datelor și a sistemelor de date și fluxurile de date

PE582.443v03-00 38/66 RR\1115573RO.docx

RO

11. subliniază că libera circulație a datelor este de importanță primordială pentru economia digitală și este esențială pentru dezvoltarea roboticii și a inteligenței artificiale; subliniază că pentru utilizarea adecvată a roboților și a inteligenței artificiale este esențial un nivel înalt de securitate a roboticii și a sistemelor de inteligență artificială, în ansamblu, inclusiv a sistemelor interne de date și a fluxurilor de date ale acestora; subliniază că trebuie asigurată protecția rețelelor de roboți și inteligență artificială interconectate pentru a preveni eventuale încălcări ale securității, atacuri cibernetice sau utilizarea abuzivă a datelor cu caracter personal, în special atunci când este colectată și prelucrată o mare cantitate de date; subliniază nevoia de a se concepe un mecanism care să permită utilizatorului să pună capăt prelucrării datelor sale cu caracter personal în cazul unei încălcări a securității; subliniază importanța activităților de cercetare și dezvoltare în domeniul tehnicilor de securizare a datelor și subliniază responsabilitatea comună a publicului și a întreprinderilor de a coopera pentru a garanta un nivel ridicat de siguranță, de securitate și de confidențialitate a datelor utilizate pentru comunicarea dintre oameni, roboți și inteligența artificială, împreună cu un înalt nivel de calitate a sistemelor de recunoaștere vocală și a limbajului semnelor; consideră că producătorii de hardware și software cu caracter comercial ar trebui să fie trași la răspundere în cazul unei încălcări grave a securității datelor cauzată de neglijența acestora; invită Comisia și statele membre să sprijine și să stimuleze dezvoltarea tehnologiei necesare, inclusiv a securității la stadiul conceperii, precum și canalele de comunicare;

Drone (sisteme de aeronave pilotate la distanță, RPAS)

12. subliniază că atunci când datele cu caracter personal sunt prelucrate de RPAS, fie de către autoritățile publice în scopul aplicării legii, fie de către entități private sau publice în alte scopuri permise de lege, se aplică dreptul la libertate și securitate, dreptul la respectarea vieții private astfel cum este consacrat în articolele 6 și 7 din Carta drepturilor fundamentale, dreptul la protecția datelor cu caracter personal menționat la articolul 8 din CDF și articolul 16 din TFUE, iar cadrul juridic al Uniunii privind protecția datelor trebuie respectat pe deplin; invită Comisia să examineze necesitatea de a introduce un sistem obligatoriu de urmărire și identificare pentru RPAS care să permită stabilirea poziției în timp real a aeronavei în timpul utilizării;

13. își reiterează invitația adresată Consiliului UE de a elabora un cadru comun al Uniunii strict și eficient privind utilizarea dronelor armate, care să acorde o importanță primordială respectării principiilor etice, a drepturilor omului și a dreptului umanitar internațional și care să abordeze aspecte precum cadrul juridic, proporționalitatea, responsabilitatea, transparența și protecția civililor, inclusiv prin adoptarea tuturor măsurilor de precauție viabile pentru a se evita țintirea eronată și cauzarea unor daune civile accidentale și asigurându-se faptul că, în ultimă instanță, controlul și responsabilitatea revin unei ființe umane; își reiterează solicitarea privind o interdicție privind producerea, dezvoltarea și utilizarea unor arme pe deplin autonome care permit efectuarea de atacuri fără intervenție umană; îndeamnă Comisia și statele membre să lanseze un dialog amplu privind politica internațională în vederea stabilirii unor standarde juridice la nivel mondial pentru dezvoltarea, răspândirea și utilizarea unor sisteme de arme din ce în ce mai autonome, precum și a unor limitări juridice și etice ale acestora, de exemplu sub forma unui acord internațional cu caracter obligatoriu;

RR\1115573RO.docx 39/66 PE582.443v03-00

RO

14. recunoaște rezultatele pozitive înregistrate în tehnologia dronelor, în special în ceea ce privește căutarea și salvarea, și susține că aceasta este direcția spre care ar trebui să se îndrepte Uniunea în ceea ce privește dezvoltarea tehnologiei din domeniul dronelor;

Codul de conduită

15. consideră că, în domenii specifice, acolo unde studii pertinente demonstrează că elaborarea unor acte legislative ar fi prematură, legislația corespunzătoare ar trebui însoțită de încurajarea unui cadru bazat pe instrumente juridice neobligatorii, un cod de conduită sau parteneriate de tip public-privat, eventual la nivelul Uniunii, pentru a se asigura cooperarea industriei și a proiectanților de roboți cu autoritățile publice și cu toate celelalte părți interesate relevante; consideră că astfel de instrumente ar trebui să se concentreze asupra soluțiilor practice pentru a asigura protecția vieții private și a datelor, demnitatea umană și nediscriminarea, securitatea și etica în industria roboticii, precum și utilizarea zilnică, adecvată, a roboților și a inteligenței artificiale.

PE582.443v03-00 40/66 RR\1115573RO.docx

RO

REZULTATUL VOTULUI FINAL ÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării 17.11.2016

Rezultatul votului final +:–:0:

4702

Membri titulari prezenți la votul final Heinz K. Becker, Malin Björk, Michał Boni, Caterina Chinnici, Ignazio Corrao, Frank Engel, Tanja Fajon, Lorenzo Fontana, Mariya Gabriel, Kinga Gál, Ana Gomes, Nathalie Griesbeck, Sylvie Guillaume, Jussi Halla-aho, Monika Hohlmeier, Filiz Hyusmenova, Sylvia-Yvonne Kaufmann, Cécile Kashetu Kyenge, Marju Lauristin, Juan Fernando López Aguilar, Monica Macovei, Roberta Metsola, Claude Moraes, József Nagy, Péter Niedermüller, Judith Sargentini, Birgit Sippel, Branislav Škripek, Csaba Sógor, Helga Stevens, Traian Ungureanu, Bodil Valero, Harald Vilimsky, Josef Weidenholzer, Tomáš Zdechovský

Membri supleanți prezenți la votul final Daniel Dalton, Anna Hedh, Teresa Jiménez-Becerril Barrio, Ska Keller, Jeroen Lenaers, Andrejs Mamikins, Maite Pagazaurtundúa Ruiz, Christine Revault D’Allonnes Bonnefoy, Barbara Spinelli

Membri supleanți (articolul 200 alineatul (2)) prezenți la votul final

Lynn Boylan, Verónica Lope Fontagné, Mylène Troszczynski, Tom Vandenkendelaere, Rainer Wieland

RR\1115573RO.docx 41/66 PE582.443v03-00

RO

9.11.2016

AVIZ AL COMISIEI PENTRU OCUPAREA FORȚEI DE MUNCĂ ȘI AFACERI SOCIALE

destinat Comisiei pentru afaceri juridice

conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(2015/2103(INL))

Raportor pentru aviz: Ádám Kósa

(Inițiativă – articolul 46 din Regulamentul de procedură)

SUGESTII

Comisia pentru ocuparea forței de muncă și afaceri sociale recomandă Comisiei pentru afaceri juridice, competentă în fond, includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

1. invită Comisia să realizeze urgent o evaluare temeinică a impactului roboticii asupra numărului și tipului de locuri de muncă și asupra profilurilor de calitate și de competențe ale locurilor de muncă existente; să colecteze informații despre noile forme de ocupare a forței de muncă cu scopul de a anticipa cât se poate de eficient, în primul rând, dacă răspândirea roboticii aduce prosperitate și progres în sine, dacă face ca munca umană să fie inutilă în structura tradițională de producție și servicii și, dacă da, ce condiții sunt necesare pe lângă securitatea financiară pentru a asigura că oamenii sunt sănătoși din punctul de vedere al bunăstării mentale și fizice, cetățeni fericiți și activi și dacă beneficiile teoretice ale simbiozei dintre oameni și mașini contribuie efectiv la bunăstare și la dezvoltare; în al doilea rând, dacă pe piața muncii în schimbare legislația și practicile din statele membre pot asigura o modalitate justă din punct de vedere social, incluzivă și sustenabilă de reducere a inegalităților, sărăciei și excluziunii sociale, precum și un mediu în care toate ființele umane să aibă șanse egale de a-și dezvolta talentele, competențele și sentimentul de individualitate;

2. subliniază că, deși dezvoltarea roboticii și a inteligenței artificiale se accelerează, este esențial să se contureze evoluția acestora și să se anticipeze posibilele consecințe în ceea ce privește ocuparea forței de muncă și politica socială, deoarece utilizarea sporită și la nivel global a roboticii în producția de bunuri și în servicii are ca rezultat o productivitate mai mare, care poate fi obținută cu forță de muncă redusă și, în consecință, pe parcursul următorului deceniu, unele locuri de muncă vor fi complet

PE582.443v03-00 42/66 RR\1115573RO.docx

RO

eliminate și multe altele vor fi afectate; prin urmare, invită Comisia să efectueze o analiză a provocărilor și oportunităților în domeniul ocupării forței de muncă și să dezvolte o metodă care să permită monitorizarea numărului și a naturii locurilor de muncă pierdute și create de robotizare și automatizare, precum și impactul acestui fenomen asupra veniturilor pierdute de sistemele de securitate socială, de asemenea, invită Comisia să evalueze, în mod regulat și în dialog cu partenerii sociali, în ce măsură numărul orelor de muncă săptămânale, anuale și pe durata întregii vieți poate fi redus fără pierderea veniturilor și să înceapă să exploreze noi opțiuni de finanțare pentru viitoarele sisteme de protecție socială și să regândească modul în care lucrătorii se implică în activitatea lor și modul în care platformele digitale de lucru pot asigura o conectare optimizată între indivizi, echipe și proiecte;

3. subliniază că robotizarea are ca rezultat, pe de o parte, pierderea multor locuri de muncă și, pe de altă parte, pierderea locurilor de muncă individuale în multe domenii, iar egalizarea salarială ar putea fi finanțată prin creșterea productivității;

4. consideră că roboții ar trebui concepuți pe baza unor procese ce asigură controlul uman și reversibilitatea operațiunilor roboților și că, având în vedere nivelul tot mai mare de autonomie a roboților, în paralel ar trebui să se modifice normele privind răspunderea referitoare la consecințele asociate acțiunilor sau lipsei de acțiune a roboților; este îngrijorat din cauza lipsei unui cadru general și a unor dispoziții juridice privind automatizarea muncii în cadrul acestei noi revoluții industriale în curs de desfășurare și consideră că este esențial ca Uniunea să specifice un cadru juridic care să reflecte complexitatea roboticii și numeroasele implicații sociale ale acesteia; prin urmare, invită Comisia să propună o definiție comună a roboților inteligenți autonomi și a subcategoriilor acestora la locul de muncă și să analizeze avantajele și dezavantajele unui sistem de asigurare obligatorie care să acopere posibilele pagube și erori cauzate de roboții săi;

5. subliniază că sistemele de educație și de formare trebuie să se adapteze la schimbările legate de profesii și de modurile de producție, punând mai mult accent pe locurile de muncă cu un conținut creativ și nerepetitiv cu scopul de a păstra valoarea muncii umane și de a pune la dispoziția tuturor generațiilor instrumentele necesare care să le ofere cea mai bună pregătire posibilă pentru piața muncii într-o lume care se schimbă permanent din cauza robotizării și automatizării; evidențiază importanța flexibilității competențelor, precum și importanța competențelor necesare în viața cotidiană și a celor sociale în cadrul educației; își exprimă convingerea că, pe lângă cunoștințele academice predate în școli, copiii trebuie să dobândească competențe de gândire critică pentru a putea pune întrebări și lua decizii în cunoștință de cauză, competențe creative pentru a putea transpune ideile în practică și a dezvolta un simț al inițiativei, iar învățarea pe tot parcursul vieții trebuie realizată prin acțiuni pe tot parcursul vieții; subliniază că competențele digitale sunt esențiale pentru automatizarea care în prezent decurge într-un ritm accelerat și digitalizarea muncii și a serviciilor presupune dezvoltarea abilităților și a competențelor digitale, pentru a asigura un nivel ridicat al ocupării forței de muncă și pentru a eradica analfabetismul digital în creștere și riscul excluziunii sociale asociat cu acesta; subliniază că ar trebui acordată o atenție deosebită digitalizării învățământului și exploatării robotizării în predare și învățare, iar educația ar trebui să sublinieze, de asemenea, importanța științelor umaniste, care aduc beneficii sub forma calităților creative, inventive, artistice și culturale pe piața forței de muncă, aflată în schimbare,

RR\1115573RO.docx 43/66 PE582.443v03-00

RO

astfel încât oamenii să aibă în continuare un avantaj comparativ față de mașini;

6. admite că robotica oferă un potențial enorm pentru sprijinirea și ușurarea vieții, în special pentru persoanele cu handicap și persoanele în vârstă în viața de zi cu zi, și ar putea aduce o contribuție majoră la autonomia vieții acestora și la integrarea lor pe piața muncii; este de opinie că trebuie să se examineze atent ce dispoziții în privința ocupării forței de muncă ar putea fi necesare din punctul de vedere al forței de muncă în cazul în care dezvoltarea sau completarea artificială sau genetică a capacităților umane existente va avea drept rezultat oameni cu capacități extraordinare, modificând prin aceasta fundamental semnificația termenului de „handicap” și conferind un avantaj de nerecuperat persoanelor care au acces la astfel de inovații tehnologice, instrumente și intervenții, ceea ce în mod evident va genera întrebări de ordin etic și moral, care ar trebui examinate temeinic;

7. subliniază faptul că decizia individuală de a alege sau a refuza un implant, o proteză sau o extensie a corpului uman nu trebuie să conducă niciodată la un tratament nefavorabil sau la amenințări în ceea ce privește ocuparea unui loc de muncă, educația, îngrijirile medicale, securitatea socială sau alte beneficii și subliniază că toți cetățenii trebuie să aibă acces egal și neîngrădit la beneficiile noilor tehnologii; subliniază în această privință faptul că, întrucât demnitatea umană se află în centrul legislației Uniunii și internaționale în materie de drepturile omului, este important să se examineze modul în care se poate garanta că persoanele care nu sunt considerate deocamdată persoane cu handicap să nu fie dezavantajate, în raport cu „oamenii cu îmbunătățiri”, similar persoanelor cu un handicap mental sau persoanelor cu retardare mentală și dacă persoanele care trăiesc cu un handicap mental și persoanele care trăiesc cu retardare mentală vor putea să ia decizii independente prin intermediul unui proces decizional asistat, astfel cum se prezintă în Convenția privind drepturile persoanelor cu handicap, cu ajutorul roboților, precum și modul în care va fi împărțită responsabilitatea între aceștia;

8. indică totuși faptul că există riscuri ce decurg din utilizarea roboților, care ar trebui ponderate în mod adecvat în raport cu beneficiile pe care aceștia le-ar putea aduce; remarcă faptul că ar trebui să se țină seama de vătămările corporale la locul de muncă provocate de roboți și de cererile de despăgubire aferente; indică faptul că, deși ar putea spori productivitatea, tehnologia robotică corporală, precum exoscheletele menite să protejeze împotriva vătămărilor corporale la locul de muncă, ar putea genera așteptări mai ridicate din partea angajatorilor cu privire la lucrătorii umani, generând, astfel, riscuri mai mari de vătămare corporală; subliniază că trebuie să se țină seama de aceste aspecte, printre altele de către legiuitori, angajatori, sindicate și angajați, prin intermediul normelor interne, contractelor colective, iar alte riscuri asociate roboților ar putea fi legate de antidiscriminarea care poate apărea în urma unui interviu pentru un loc de muncă, în cazul în care datele dobândite conduc la o analiză neintenționată; ia act de faptul că utilizarea roboticii poate genera inclusiv noi provocări legate de comerț și viața privată;

9. subliniază că, în fața unor divizări în creștere ale societății, cu o clasă de mijloc în scădere, este important să se țină cont de faptul că dezvoltarea roboticii poate conduce la o concentrare ridicată a bogăției și a influenței în mâinile unei minorități;

PE582.443v03-00 44/66 RR\1115573RO.docx

RO

10. constată că impactul asupra ocupării forței de muncă și a politicii sociale determinat de progresul tehnologic și de robotizarea în curs de desfășurare a revoluționat modul în care oamenii accesează și furnizează informații, comunică, socializează și lucrează, creând astfel noi oportunități, dar și provocări, deschizând noi perspective prin posibila creștere a eficienței activităților și economiile de energie și de materiale; cu toate acestea, subliniază că, deși robotica și inteligența artificială promit într-adevăr avantaje pe termen scurt și mediu din punctul de vedere al eficacității și al economiilor nu doar în cazul producției și comerțului, ci și în domenii în care, datorită interacțiunii, inteligenței și creativității umane, automatizarea este dificilă, astfel că aceste domenii au fost rezervate până în prezent oamenilor, un exemplu în acest sens fiind sectoarele în care lucrează un număr mare de persoane uneori slab calificate, ar putea exista riscul ca numărul de locuri de muncă în domeniul roboticii să nu crească suficient de mult pentru a acoperi pierderea preconizată de locuri de muncă în domenii precum transporturile, logistica și munca de birou; în consecință, invită Comisia și statele membre ca, în cooperare cu partenerii sociali și autoritățile regionale și locale, atunci când este cazul, să dezvolte noi mecanisme de protecție care să fie adecvate pentru tiparele de muncă și de carieră generate de digitalizare și de utilizarea sporită a roboticii, precum și să ofere educație și formare adecvată tuturor persoanelor;

11. subliniază faptul că, în urma dezvoltării și a utilizării roboților inteligenți și care colaborează și a inteligenței artificiale, diferența dintre crearea și pierderea de locuri de muncă ar putea avea consecințe asupra sustenabilității financiare a sistemelor de securitate socială, a sistemelor de pensii și a sistemelor de ajutor de șomaj ale statelor membre și subliniază faptul că pierderea la nivelul ocupării forței de muncă pe termen mediu și lung, ca urmare a robotizării, ar putea fi asociată, de asemenea, cu riscul unei pierderi la nivelul capacității de consum; subliniază faptul că majoritatea beneficiilor generate de automatizare și robotizare în domeniul ocupării forței de muncă ar trebui să provină nu numai din reducerea costurilor cu forța de muncă, ci și din creșterea productivității ca urmare a unui număr mai mic de erori, a producției mai mari și a calității, siguranței și vitezei mai bune; invită Comisia și statele membre să consulte și să implice periodic partenerii sociali atunci când adaptează cadrul de reglementare pentru robotică și economia digitală, să identifice potențialele riscuri privind sănătatea și siguranța la locul de muncă, determinate de inovările tehnologice, și să ia măsuri adecvate pentru a le contracara și să exploreze posibilitatea introducerii unui sistem de notificare anterior introducerii roboților și participării conexe a acestora la cifra de afaceri a companiilor, în scopul impozitării și al contribuțiilor de asigurări sociale;

12. invită Comisia să prezinte orientări privind principiile etice și sociale stabilite pentru a însoți reglementările ulterioare în domeniul roboticii, în special cu privire la obiectivul definirii standardelor orientate spre viitor și adecvate pentru viitoarele evoluții tehnologice;

13. atrage atenția asupra așa-numitului „crowdworking” (muncă participativă); invită Comisia să analizeze această nouă formă de ocupare a forței de muncă și să examineze măsura în care sistemele de securitate socială și legislația muncii aplicabilă trebuie ajustate, pentru a le oferi protecția corespunzătoare lucrătorilor care practică crowdworking;

14. subliniază faptul că, deși nu putem împiedica progresul tehnologic, generația actuală

RR\1115573RO.docx 45/66 PE582.443v03-00

RO

are posibilitatea, dar și responsabilitatea de a-i contura direcția pentru ca acesta să aducă beneficii populației și planetei; este de opinie că Uniunea ar trebui să contribuie la o strategie integrată în domeniile politice ale bunăstării, creșterii economice și tehnologiei, pentru a se afla în fruntea dezvoltării globale; invită statele membre și Comisia să analizeze în detaliu consecințele în viitorul apropiat ale utilizării crescute a sistemelor de robotică asupra muncii și să ofere un cadru pentru această dezvoltare, cu o legislație concepută pentru ca tranziția tehnologică să fie cât mai ușoară posibil pentru angajați și este ferm convins că trebuie să se găsească urgent un răspuns la întrebarea dacă, drept urmare a evoluțiilor ulterioare în materie de robotică și a soluțiilor mai puțin costisitoare, vor exista locuri de muncă în care capacitatea oamenilor de a lucra va fi restricționată prin lege din cauza naturii dăunătoare sau periculoase a muncii în privința sănătății umane (ca în cazul normelor aplicabile în prezent pentru femeile însărcinate) sau din alte motive și să se găsească un răspuns la întrebarea care domenii ar putea fi considerate ca fiind restricții sau o interdicție a automatizării parțiale sau totale pentru a garanta siguranța și respectarea drepturilor fundamentale afectate de automatizarea tot mai intensă a unor întregi industrii, ținând seama de schimbările demografice și de sustenabilitate, precum și pentru a evita eventuale consecințe sociale neintenționate;

15. consideră că, având în vedere ritmul progresului tehnologic, ar trebui să vizăm legiferarea roboticii pentru viitorul apropiat; consideră, de asemenea, că legislația ar trebui să fie adaptată scopului, ca să se poată reacționa la schimbările științifice și tehnologice; este de opinie că este necesar să se anticipeze dezvoltarea de noi domenii de afaceri, care s-ar putea dezvolta pe baza evoluției ulterioare a roboticii și a inteligenței artificiale; subliniază însă că roboții nu reprezintă doar instrumente de lucru, ci aceștia acționează din ce în mai mult în mod autonom în producerea de bunuri și servicii, prin urmare solicită sisteme de protecție cuprinzătoare care să asigure protecția adecvată a sănătății și siguranței lucrătorilor atunci când întreprind activități cu sau alături de roboți ori alte forme de inteligență artificială și norme de răspundere care să asigure faptul că daunele provocate de roboții autonomi pot fi clarificate în favoarea angajaților; în consecință, invită Uniunea și statele membre să încurajeze cât mai curând inițierea unui dialog public structurat privind consecințele dezvoltării respectivelor tehnologii și invită părțile interesate implicate în cercetare să dezvolte o abordare critică și să aducă o contribuție constructivă la dialogul public;

16. subliniază faptul că orice activitate de procesare desfășurată de roboți și sisteme de inteligență artificială trebuie să respecte pe deplin legislația Uniunii în materie de protecție a datelor și trebuie să includă principiul luării în considerare a vieții private începând cu momentul conceperii și principiul respectării implicite a vieții private;

17. subliniază că robotizarea oferă oportunități considerabile de a readuce industria prelucrătoare în Uniune și de a crea, astfel, noi oportunități de ocupare a forței de muncă, în special pentru mâna de lucru slab calificată;

18. consideră că utilizarea roboților în producție este însoțită de provocări majore pentru sănătatea și siguranța la locul de muncă; subliniază că robotizarea poate, pe de o parte, să reducă sarcina fizică asupra lucrătorilor, dar poate determina și o tensiune psihică mai ridicată, având în vedere responsabilitatea în creștere a individului în procese de producție mai complexe; solicită Comisiei și agențiilor sale, în special EU-OSHA, să examineze efectele digitalizării, ale roboticii și ale inteligenței artificiale asupra

PE582.443v03-00 46/66 RR\1115573RO.docx

RO

tensiunii psihice și să propună măsuri de contracarare a acestora; solicită să se ofere angajaților șansa de a juca permanent un rol activ în modelarea mediului lor de lucru, iar partenerii sociali și sindicatele să fie implicați la toate nivelurile;

19. evidențiază studiile științifice care au identificat patru probleme majore ce apar atunci când se încearcă o legiferare în domeniul utilizării roboților: discreția cu privire la platformele și producătorii implicați în dezvoltarea și cercetarea inteligenței artificiale, care este posibil să nu fie întotdeauna vizibili pentru legiuitori; caracterul difuz care apare atunci când sistemele de inteligență artificială sunt dezvoltate cu echipe de cercetători separate din punct de vedere organizatoric, geografic și jurisdicțional; discreția se referă la faptul că sistemele de inteligență artificială ar putea implica multe componente software și hardware prefabricate distincte și separate; subliniază că este posibil ca efectele punerii laolaltă a tuturor acestor componente să nu fie pe deplin apreciate decât ulterior și că opacitatea se referă la faptul că este posibil ca modul în care funcționează sistemele de inteligență artificială să fie mai opac decât în cazul tehnologiilor anterioare; subliniază că acest aspect ar putea constitui o problemă pentru legiuitori, ca urmare a lipsei de claritate privind problemele care pot fi generate de aceste sisteme și modul în care aceste probleme pot fi soluționate.

RR\1115573RO.docx 47/66 PE582.443v03-00

RO

REZULTATUL VOTULUI FINAL ÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării 8.11.2016

Rezultatul votului final +:–:0:

3679

Membri titulari prezenți la votul final Laura Agea, Guillaume Balas, Brando Benifei, Vilija Blinkevičiūtė, Enrique Calvet Chambon, David Casa, Ole Christensen, Martina Dlabajová, Lampros Fountoulis, Arne Gericke, Sergio Gutiérrez Prieto, Marian Harkin, Danuta Jazłowiecka, Agnes Jongerius, Rina Ronja Kari, Jan Keller, Ádám Kósa, Jean Lambert, Patrick Le Hyaric, Jeroen Lenaers, Verónica Lope Fontagné, Javi López, Morten Løkkegaard, Thomas Mann, Dominique Martin, Anthea McIntyre, Joëlle Mélin, Elisabeth Morin-Chartier, Emilian Pavel, João Pimenta Lopes, Georgi Pirinski, Marek Plura, Terry Reintke, Sofia Ribeiro, Maria João Rodrigues, Claude Rolin, Sven Schulze, Siôn Simon, Jutta Steinruck, Yana Toom, Renate Weber, Tatjana Ždanoka, Jana Žitňanská

Membri supleanți prezenți la votul final Daniela Aiuto, Georges Bach, Amjad Bashir, Heinz K. Becker, Csaba Sógor, Helga Stevens, Neoklis Sylikiotis, Flavio Zanonato

Membri supleanți (articolul 200 alineatul (2)) prezenți la votul final

David Coburn

PE582.443v03-00 48/66 RR\1115573RO.docx

RO

14.10.2016

AVIZ AL COMISIEI PENTRU MEDIU, SĂNĂTATE PUBLICĂ ȘI SIGURANȚĂ ALIMENTARĂ

destinat Comisiei pentru afaceri juridice

conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(2015/2103(INL))

Raportor pentru aviz: Cristian-Silviu Bușoi

(Inițiativă – articolul 46 din Regulamentul de procedură)

SUGESTII

Comisia pentru mediu, sănătate publică și siguranță alimentară recomandă Comisiei pentru afaceri juridice, competentă în fond:

– includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

A. întrucât îmbătrânirea populației este rezultatul unei speranțe de viață mai mari, datorate progresului condițiilor de viață și medicinei moderne, și este una dintre cele mai mari provocări de ordin politic, social și economic din secolul al XXI-lea pentru societățile europene; întrucât, până în 2025, peste 20 % dintre europeni vor avea 65 de ani sau mai mult, cu o creștere deosebit de rapidă a numărului celor în vârstă de peste 80 de ani, ceea ce va duce la un echilibru complet diferit între generații în societățile noastre, și întrucât este în interesul societății ca persoanele mai în vârstă să rămână sănătoase și active cât mai mult timp posibil;

B. întrucât vânzarea și producția de dispozitive robotizate au cunoscut o creștere importantă între 2010 și 2014, de aproape 30 % doar în anul 2014, în special în sectorul sănătății și cel al îngrijirii;

C. întrucât, într-o societate care îmbătrânește, crește prevalența și incidența dizabilităților, bolilor cronice, riscului de atacuri cerebrale, leziunilor cerebrale și abilităților diminuate;

D. întrucât societățile și sistemele de sănătate vor trebui să se adapteze la procesul de îmbătrânire și la cerințele specifice îngrijirii sănătății persoanelor în vârstă, astfel încât

RR\1115573RO.docx 49/66 PE582.443v03-00

RO

să poată furniza îngrijiri corespunzătoare și să rămână sustenabile din punct de vedere financiar;

E. întrucât sistemele cyber-fizice (CPS) sunt sisteme tehnice de computere, roboți și elemente de inteligență artificială conectate în rețea, care interacționează cu lumea fizică și au numeroase aplicații în sectorul îngrijirii sănătății;

F. întrucât este necesar să se atingă standarde specifice și mai detaliate, identice în toate țările Uniunii Europene, ținându-se seama de natura CPS;

G. întrucât astfel de sisteme vor asigura fundamentul și baza serviciilor inteligente emergente sau viitoare și vor aduce progrese în sectorul îngrijirilor medicale personalizate, al răspunsului la urgențe și al telemedicinei;

H. întrucât folosirea instrumentelor de diagnosticare sau de tratare robotizate sau de înaltă tehnologie nu ar trebui să ducă în niciun caz la creșterea responsabilității medicilor sau a personalului medical care trebuie să le folosească; în acest sens, se consideră necesară creșterea responsabilității unităților medicale sau a producătorilor implicați;

I. întrucât potențialul economic și societal al CPS este mult mai vast decât ceea ce s-a imaginat până acum și se fac investiții majore la nivel mondial pentru dezvoltarea tehnologiei;

J. întrucât utilizarea acestor tehnologii nu trebuie să reducă sau să afecteze relația medic-pacient, ci trebuie să îi ofere medicului asistență în diagnosticarea și/sau tratarea pacienților;

K. întrucât CPS suscită așteptări mari și au un potențial ridicat, iar efectele tehnologiilor nou introduse nu vor fi niciodată complet previzibile și pot fi integrate cu succes numai dacă societatea se poate adapta la un nou mod de interacțiune cu tehnologia,

1. admite faptul că adoptarea unor noi tehnologii în sectorul îngrijirii sănătății este susceptibilă, cu condiția privilegierii relației pacient-doctor și a liberului arbitru, să aducă beneficii majore în termeni de îngrijire a pacienților și eficacitate și precizie a tratamentelor, inclusiv prin reducerea riscului erorii umane, conducând astfel la o mai bună calitate a vieții și la o speranță de viață mai mare;

2. consideră că, deși robotica poate aduce beneficii societății, aceasta poate, în același timp, să modifice în mod semnificativ modul în care oamenii interacționează unii cu alții și, prin urmare, poate avea un impact real asupra structurilor societale actuale; prin urmare, subliniază nevoia urgentă a unei dezbateri publice extinse și documentate cu privire la această nouă revoluție tehnologică;

3. consideră esențial ca Uniunea să creeze un cadru normativ bazat pe principii etice, care să țină seama de complexitatea roboticii și de numeroasele sale implicații sociale, medicale și bioetice;

4. subliniază că inovarea care oferă diagnostice mai bune și o mai bună cunoaștere a opțiunilor în materie de tratamente, îngrijire și reabilitare duce la decizii medicale mai exacte, la timpi de refacere mai scurți și, în consecință, ar putea atenua neajunsurile ce

PE582.443v03-00 50/66 RR\1115573RO.docx

RO

decurg, în cadrul proceselor de îngrijire și reabilitare, din penuria de profesioniști în domeniul sănătății;

5. subliniază că creșterea cererii de unități CPS are potențialul de a crea în Uniune un număr mare de locuri de muncă care necesită o înaltă calificare;

6. consideră utilă prezența roboților pentru a veni în sprijinul muncii medicilor sau asistenților, cu scopul de a îmbunătăți experiența oamenilor în diagnosticare și tratare, ținând cont, cu toate acestea, de importanța faptului ca practica medicală și practicile de îngrijire a pacienților să nu fie dezumanizate;

Roboții de utilitate și asistență personală

7. constată că CPS sunt capabile să schimbe în bine viața persoanelor care suferă de dizabilități, deoarece tehnologiile inteligente pot fi utilizate în scopul profilaxiei, asistenței, monitorizării și însoțirii;

8. remarcă faptul că CPS ar putea avea un impact major asupra sectorului îngrijirii sănătății, cu potențialul de a scădea costurile globale ale îngrijirii sănătății, permițându-le profesioniștilor din domeniul medical să își axeze atenția mai degrabă asupra prevenției, decât asupra tratamentului;

9. subliniază că cercetarea și dezvoltarea din domeniul roboților destinați îngrijirii vârstnicilor s-a generalizat și s-a ieftinit de-a lungul timpului, permițând realizarea unor produse mai funcționale și acceptate în mai mare măsură de consumatori; remarcă gama largă de aplicații ale acestor tehnologii, care le oferă vârstnicilor și celor afectați de demență, de tulburări cognitive și de pierderi de memorie beneficii legate de profilaxie, asistență, monitorizare, stimulare și însoțire;

10. subliniază că, deși CPS pot mări mobilitatea și sociabilitatea persoanelor cu dizabilități și a vârstnicilor, îngrijitorii umani vor continua să fie necesari și vor constitui o sursă importantă de interacțiune socială pentru aceștia, care nu va putea fi înlocuită în totalitate; remarcă faptul că tehnologiile CPS sau roboții nu pot decât să amplifice considerabil îngrijirea umană și să imprime un caracter mai strict orientat procesului de reabilitare, astfel ca personalul medical și îngrijitorii să poată aloca mai mult timp de calitate diagnosticării și adoptării unor opțiuni mai bune privind tratamentele;

Roboții medicali

11. constată că, în sectorul îngrijirii sănătății, sunt deja în uz unele forme timpurii de roboți și dispozitive CPS inteligente, cum sunt dispozitivele e-sănătate și roboții chirurgicali și că, în viitorul apropiat, această tehnologie va continua să se dezvolte, având potențialul de a reduce și costul îngrijirii sănătății, permițând personalului medical să își transfere atenția de la tratament la profilaxie și făcând disponibil un buget mai mare pentru o mai bună ajustare la diversitatea nevoilor pacienților, pentru formarea permanentă a profesioniștilor din domeniul sănătății și pentru cercetare;

12. subliniază că utilizarea sporită a CPS ar putea avea ca rezultat o societate mai sănătoasă pe măsură ce procedurile devin mai puțin invazive, conducând la un timp de recuperare mai rapid și reducând absenteismul datorat îngrijirilor de sănătate;

RR\1115573RO.docx 51/66 PE582.443v03-00

RO

13. constată că dispozitivele medicale robotizate continuă să evolueze și cel mai probabil vor fi din ce în ce mai frecvent utilizate în procedurile chirurgicale, avansând frontierele medicinei;

14. constată că s-a preconizat ca roboții chirurgicali să mărească capacitatea chirurgilor umani dincolo de limitele laparoscopiei convenționale, iar dezvoltarea roboților chirurgicali își are rădăcinile în dorința de a depăși aceste limite și de a extinde beneficiile chirurgiei minim invazive, a mișcărilor de finețe și de precizie;

15. subliniază că CPS vor permite telechirurgia, cu numeroase avantaje, precum o precizie mai mare a mișcărilor mâinii, eliminând tremurul mâinii în mișcare, mărirea imagistică, pe care o pot analiza și evalua imediat, o dexteritate ameliorată și chirurgia de la distanță, în timp ce o cerință fundamentală trebuie să fie aceea ca doctorii să obțină competențe și acreditare pentru efectuarea intervențiilor medicale cu dispozitive CPS individuale;

16. constată că, în ultimii ani, au survenit schimbări semnificative în ceea ce privește educația medicală și sectorul formativ; constată, de asemenea, că, pe măsură ce îngrijirea medicală a devenit din ce în ce mai complexă, atmosfera din centrele academice de îngrijire a sănătății oferă oportunitatea de a consolida o abordare holistică a sănătății, de a regândi modul în care se asigură educația medicală și învățarea pe tot parcursul vieții, menținând totodată competențele esențiale ale medicilor pentru păstrarea cunoștințelor lor de specialitate și a autorității lor asupra roboților; invită Comisia și statele membre să promoveze standarde înalte de pregătire și specializare pentru personalul medical și paramedical care utilizează sau intenționează să utilizeze noi tehnologii robotizate și încurajează libera circulație a chirurgilor care intenționează să utilizeze astfel de tehnologii pentru a realiza operații;

17. invită Comisia și statele membre să consolideze instrumentele financiare pentru proiectele de cercetare în domeniul roboticii pentru urgențe sociale și în materie de sănătate;

18. consideră fundamentală respectarea principiului autonomiei supravegheate a roboților, pe baza căruia planificarea inițială a tratamentului și decizia finală privind efectuarea sa rămân mereu la latitudinea unui chirurg uman;

Evaluarea clinică și investigațiile clinice

19. subliniază că CPS medicale trebuie să satisfacă standardele înalte stabilite pentru echipamentele medicale, prin proceduri de verificare și certificare eficace, care să permită evaluarea de către un personal instruit în mod corespunzător a siguranței și a eficacității tehnologiei propuse, chiar din faza de proiectare;

20. subliniază că este important să se facă o distincție între roboți chirurgicali și proteze, precum și între exoschelete și roboți de companie, a căror funcție este de a asista persoanele care suferă de dizabilități sau pe cele care se află în incapacitate temporară; subliniază importanța supunerii ambelor tipuri unor controale care să fie efectuate în conformitate cu cele mai precise și detaliate standarde posibile;

21. salută acordul politic referitor la Regulamentul privind dispozitivele medicale, la care au

PE582.443v03-00 52/66 RR\1115573RO.docx

RO

ajuns colegiuitorii în iunie 2016; invită Comisia să garanteze că procedurile pentru testarea unor noi dispozitive medicale robotizate sunt sigure, în special în cazul dispozitivelor implantate în corpul uman, înainte de data la care respectivul regulament devine aplicabil; observă în continuare că trebuie să existe o transparență deplină față de pacienți cu privire la datele lor personale și față de public cu privire la testele clinice eșuate și la cele reușite, iar responsabilitatea pentru testele eșuate și CPS trebuie să fie clară pacienților și publicului;

Etică

22. subliniază că, în timp ce tehnologia se dezvoltă exponențial, sistemele sociale din Uniune nu pot răspunde la fel de rapid, iar sistemele de îngrijire a sănătății răspund încă și mai lent; subliniază că aceste evoluții exercită un puternic impact asupra civilizației, așa cum o cunoaștem, și că, din această cauză, este imperativ ca progresul tehnologic să fie însoțit de evaluări ale implicațiilor morale și etice ale noilor tehnologii, înainte și pe parcursul dezvoltării lor;

23. subliniază importanța, în ceea ce privește standardele etice, de a garanta faptul că produsele robotice respectă drepturile fundamentale ale individului și ale societății, care trebuie protejate la nivelul Uniunii, prevăzând orice măsuri tehnice necesare care să garanteze respectarea acestora încă din faza de proiectare, în conformitate cu așa-numita abordare de confidențialitate încă din faza de concepție;

24. atrage atenția asupra riscurilor aferente posibilității ca sistemele CPS integrate în corpul uman să fie piratate sau dezactivate sau să le fie șterse memoriile, deoarece acest lucru ar putea pune în pericol sănătatea umană și, în cazuri extreme, chiar viața umană și subliniază, prin urmare, prioritatea care trebuie acordată protejării respectivelor sisteme;

25. recunoaște vulnerabilitatea pacienților cu nevoi speciale, inclusiv copii, vârstnici și persoane cu dizabilități, și subliniază că orice utilizator ar putea dezvolta o legătură emoțională cu CPS și roboții; subliniază considerentele etice pe care le implică acest eventual atașament; încurajează Comisia să înceapă un proces de reflecție asupra modului în care se poate asigura că CPS nu vor avea un impact negativ asupra autonomiei și independenței persoanelor vulnerabile;

26. solicită Comisiei și statelor membre să promoveze dezvoltarea tehnologiilor de asistare și prin regimuri de răspundere diferite de cele aplicabile în momentul de față, pentru a favoriza dezvoltarea și adoptarea acestor tehnologii de către cei care au nevoie de ele, în conformitate cu articolul 4 din Convenția ONU privind drepturile persoanelor cu handicap, la care Uniunea a subscris;

27. evidențiază importanța menținerii relației pacient-doctor în procesul de îngrijire, în special în ceea ce privește comunicarea diagnosticului și a tratamentului medical;

28. remarcă faptul că utilizarea CPS ridică problema consolidării capacităților umane, care este definită ca o consolidare a aptitudinilor umane naturale existente sau dobândirea de noi aptitudini, permițându-le indivizilor să depășească dizabilitățile;

Impactul asupra mediului

RR\1115573RO.docx 53/66 PE582.443v03-00

RO

29. confirmă nevoia reducerii la minimum a eventualei amprente ecologice și ambientale a roboticii, deoarece se preconizează că utilizarea CPS și a roboților va determina o creștere generală a consumului de energie și a cantității de deșeuri electrice și electronice; evidențiază necesitatea maximizării posibilității de sporire a eficienței proceselor în raport cu resursele, de a mări eficiența energetică prin promovarea utilizării energiilor din surse regenerabile pentru robotică, de a utiliza și de a reutiliza materiile prime secundare și de a reduce deșeurile; prin urmare, încurajează Comisia să includă principiile economiei circulare în orice politică a Uniunii în domeniul roboticii;

30. remarcă, de asemenea, că utilizarea CPS va avea un impact pozitiv asupra mediului, în special în domeniul agriculturii și al aprovizionării cu produse alimentare, îndeosebi prin dimensiunile reduse ale utilajelor și prin utilizarea redusă a îngrășămintelor, energiei și apei, precum și prin agricultura de precizie;

31. subliniază că CPS vor conduce la crearea de sisteme energetice și de infrastructură care au capacitatea de a controla fluxul energiei electrice de la producător la consumator și vor avea, de asemenea, ca rezultat crearea de „prosumatori” de energie, care produc și, în același timp, consumă energie, permițând astfel beneficii majore pentru mediu;

– de a include următoarele recomandări în anexa la propunerea sa de rezoluție:

Siguranța

Siguranța dispozitivelor medicale robotizate este o condiție prealabilă pentru introducerea lor în sectorul îngrijirii sănătății. Eficacitatea și siguranța roboților medicali și a celor utilizați în scopul îngrijirii ar trebui să fie evaluată prin proceduri de certificare și în raport cu garanții de siguranță specifice, foarte detaliate, acordând o atenție deosebită utilizării lor de către utilizatori cu deficiențe sau în situații de urgență; invită Comisia să adopte specificații comune detaliate pentru dispozitivele medicale robotizate; ar trebui să se acorde o importanță deosebită siguranței rețelelor CPS cu scopul de a înlătura orice posibilitate de manipulare neautorizată a acestora și de sustragere de date personale sensibile.

Siguranța sistemelor CPS implantate în corpul uman este o cerință fundamentală, deoarece orice defect al acestora poate fi fatal și, în acest context, este important să se ofere informații și să se reglementeze inechivoc problemele privind răspunderea, inclusiv dreptul de proprietate asupra acestor sisteme CPS implantate, cine are drepturi asupra lor și cine poate modifica implantarea lor, interzicând cu strictețe orice experiment asupra persoanelor fără acordul lor.

Viața privată

CPS medicale și utilizarea roboților ca „sisteme electronice de înregistrare a sănătății” pune probleme legate de legislația privind viața privată a pacienților, secretul medical și protecția datelor în domeniul sănătății publice. Normele Uniunii privind protecția datelor ar trebui adaptate, astfel încât să țină cont de complexitatea și interconectivitatea în creștere a roboților medicali care ar putea manipula informații personale și date referitoare la sănătate deosebit de sensibile; acestea ar trebui să respecte conceptul de

PE582.443v03-00 54/66 RR\1115573RO.docx

RO

confidențialitate încă din faza de concepție, așa cum prevede Regulamentul (UE) nr. 2016/679 privind protecția datelor. Codurile de conduită privind secretul medical trebuie îmbunătățite sub aspectul datelor privind sănătatea stocate pe sisteme CPS care pot fi accesate de terți.

Companiile de asigurări sau orice alt furnizor de servicii nu ar trebui să fie autorizați să folosească datele electronice privind sănătatea pentru a introduce discriminări în stabilirea prețurilor, deoarece acest lucru ar fi în contradicție cu dreptul fundamental de acces la cel mai înalt standard de sănătate posibil.

Comitetele pentru deontologia cercetării

Comitetele pentru deontologia cercetării trebuie să ia în considerare aspectele etice pe care le implică dezvoltarea dispozitivelor medicale robotizate și a CPS în numeroase sectoare ale îngrijirii sănătății și ale asistenței acordate persoanelor vârstnice și cu dizabilități. Trebuie să fie luate în considerare în mod corespunzător chestiuni ca accesul egal la îngrijirea sănătății și la profilaxia robotizată, relația privilegiată dintre pacient și doctor în cadrul procesului de îngrijire și susceptibilitatea, mai ales a pacienților cu nevoi speciale (de exemplu, persoanele cu dizabilități), dar nu doar a acestora (de exemplu, copiii, persoanele solitare etc.), de a dezvolta un atașament emoțional față de roboți.

Încurajează comitetele pentru deontologia cercetării și Comisia să înceapă un proces de reflecție în vederea elaborării unui cod de conduită pentru cercetători/proiectanți și utilizatorii de CPS medicale, care ar trebui să aibă la bază principiile consacrate în Carta drepturilor fundamentale a Uniunii (cum ar fi demnitatea umană și drepturile omului, egalitatea, justiția și echitatea, dreptul de a avea beneficii și de a nu fi lezat, demnitatea, nediscriminarea și nestigmatizarea, autonomia și responsabilitatea individuală, consimțământul în cunoștință de cauză, intimitatea și responsabilitatea socială, precum și drepturile persoanelor în vârstă, integrarea persoanelor cu dizabilități, dreptul la îngrijirea sănătății și dreptul la protecție al consumatorilor) și practicile și codurile etice existente.

Merită menționat că robotica poate aduce un nivel înalt de incertitudine privind aspectele care țin de răspundere și de responsabilitate.

RR\1115573RO.docx 55/66 PE582.443v03-00

RO

REZULTATUL VOTULUI FINAL ÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării 13.10.2016

Rezultatul votului final +:–:0:

6100

Membri titulari prezenți la votul final Marco Affronte, Margrete Auken, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Nessa Childers, Birgit Collin-Langen, Mireille D’Ornano, Miriam Dalli, Angélique Delahaye, Stefan Eck, Bas Eickhout, Eleonora Evi, José Inácio Faria, Elisabetta Gardini, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Anneli Jäätteenmäki, Jean-François Jalkh, Josu Juaristi Abaunz, Karin Kadenbach, Kateřina Konečná, Giovanni La Via, Peter Liese, Norbert Lins, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Bolesław G. Piecha, Frédérique Ries, Michèle Rivasi, Daciana Octavia Sârbu, Annie Schreijer-Pierik, Davor Škrlec, Dubravka Šuica, Tibor Szanyi, Claudiu Ciprian Tănăsescu, Jadwiga Wiśniewska, Damiano Zoffoli

Membri supleanți prezenți la votul final Guillaume Balas, Paul Brannen, Nicola Caputo, Michel Dantin, Mark Demesmaeker, Luke Ming Flanagan, Elena Gentile, Martin Häusling, Krzysztof Hetman, Gesine Meissner, James Nicholson, Marijana Petir, Gabriele Preuß, Christel Schaldemose, Jasenko Selimovic, Mihai Țurcanu

Membri supleanți (articolul 200 alineatul (2)) prezenți la votul final

Nicola Danti, Anna Hedh

PE582.443v03-00 56/66 RR\1115573RO.docx

RO

15.11.2016

AVIZ AL COMISIEI PENTRU INDUSTRIE, CERCETARE ȘI ENERGIE

destinat Comisiei pentru afaceri juridice

conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(2015/2103(INL))

Raportoare pentru aviz: Kaja Kallas

(Inițiativă – articolul 46 din Regulamentul de procedură)

SUGESTII

Comisia pentru industrie, cercetare și energie recomandă Comisiei pentru afaceri juridice, competentă în fond:

– includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

A. întrucât echipele alcătuite din roboți și oameni ar putea fi cu 85 %1 mai productive decât cele formate exclusiv din roboți sau oameni; întrucât roboții, prin sporirea capacităților oamenilor, vor reduce riscurile legate de erorile umane;

B. întrucât Uniunea ocupă o poziție de lider în robotica industrială, cu o cotă de peste 25 %2 din furnizare și utilizare, estimându-se că această piață crește cu o rată de 8 - 9 % pe an, ceea ce face din acest sector o prioritate industrială strategică,

1. are convingerea că robotica și inteligența artificială joacă un rol major în îmbunătățirea competitivității și a productivității economiei europene și ar putea avea, pe termen mediu, un impact mai mare asupra competitivității industriilor neprelucrătoare, cum ar fi agricultura, transporturile, asistența medicală, securitatea și furnizarea de utilități; invită Comisia să promoveze o politică ambițioasă și transsectorială în favoarea inovării în robotică și în inteligența artificială, facilitând integrarea tehnologiilor în lanțurile valorice, dezvoltarea unor modele de afaceri inovatoare și reducerea timpului scurs între inovare și industrializare; invită Comisia să analizeze necesitatea modernizării legislației sau a elaborării unor orientări europene pentru a se asigura o abordare comună în robotică și în domeniul inteligenței artificiale, esențială pentru progresul întreprinderilor în Uniune;

1 potrivit unui studiu al MIT în urma unei experiențe comune a producătorilor de autovehicule BMW și Mercedes-Benz;2 http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics.

RR\1115573RO.docx 57/66 PE582.443v03-00

RO

2 constată că unele țări terțe au recunoscut importanța strategică a roboticii și amenință poziția de lider a UE pe piața globală, de exemplu prin preluarea producătorilor din Uniune; invită Comisia să elaboreze o strategie industrială care să abordeze rolul sectoarelor importante din punct de vedere strategic, cum ar fi robotica, și să descrie în ce mod Uniunea poate păstra locurile de muncă, creșterea, know-how-ul și o mare parte a lanțului valoric;

3. subliniază că inovarea în robotică și în inteligența artificială și integrarea acestor tehnologii în economie și societate necesită o infrastructură digitală care să asigure o conectivitate ubicuă; invită Comisia să definească un cadru care să răspundă cerințelor de conectivitate pentru viitorul digital al Uniunii și să se asigure că accesul la rețelele de bandă largă și 5G respectă pe deplin principiul neutralității rețelei;

4. este ferm convins că interoperabilitatea între sisteme, dispozitive și servicii cloud, bazată pe securitate și luarea în considerare a vieții private începând cu momentul conceperii, este esențială pentru ca fluxurile de date în timp real să permită roboților și inteligenței artificiale să devină mai flexibili și mai autonomi; solicită Comisiei să promoveze un mediu deschis, de la standarde deschise și modele inovatoare de acordare a licenței, la platforme deschise și transparență, pentru a evita blocajul în sisteme cu drepturi rezervate, care restrâng interoperabilitatea; subliniază, în plus, că trebuie asigurat un nivel înalt de siguranță, securitate și protecție a datelor folosite în comunicarea oamenilor cu roboții și cu formele de inteligență artificială; prin urmare, invită Comisia și statele membre să integreze principiul securității și cel al protecției vieții private încă de la proiectare în politicile din domeniul roboticii și al inteligenței artificiale, în strategia UE privind securitatea cibernetică și să includă robotica și inteligența artificială în discuțiile grupului consultativ la nivel înalt privind securitatea cibernetică, care va fi înființat de Comisie;

5. observă că accesul la date este esențial pentru inovare în algoritmii de învățare automatizată; invită Comisia să pună în aplicare un cadru și o strategie ambițioasă referitoare la fluxul deschis și liber de date, în special cu inițiativa „flux liber de date”, în conformitate cu legislația privind protecția datelor și cu un drept reformat al proprietății intelectuale; subliniază că inițiativa „flux liber de date” ar trebui să clarifice problemele legate de proprietatea asupra datelor, utilizarea și accesul, care sunt importante pentru dezvoltarea ulterioară și utilizarea tehnologiei roboticii;

6. invită Comisia să își sporească suportul, în cadrul evaluării CFM la jumătatea perioadei, pentru programul SPARC finanțat prin Orizont 2020, să realizeze studii de prognoză, să promoveze inovarea deschisă ca obiectiv strategic și un mediu propice colaborării între instituțiile naționale și europene, comunitatea științifică, organele de standardizare care atrag talente, dar și sectorul privat, între companiile globale, IMM-uri și întreprinderi nou înființate, care sunt esențiale pentru inovare și pentru deschiderea de noi piețe în tehnologia roboticii la scară globală; subliniază rolul pe care îl pot juca parteneriatele public-privat în această privință;

7. subliniază că dezvoltarea roboticii ar trebui să se orienteze spre completarea capacităților umane și nu spre înlocuirea lor; subliniază că creșterea în robotică și în inteligența artificială va automatiza un număr important de locuri de muncă, reducând expunerea umană la condiții dăunătoare și periculoase și va transforma moduri de viață și practici de muncă, impunându-se, prin urmare, o evaluare pe termen lung și măsuri care să asigure că

PE582.443v03-00 58/66 RR\1115573RO.docx

RO

aspectele sociale, de mediu, etice, de răspundere și educație sunt abordate în mod corespunzător; consideră în special că nevoia de competențe digitale, inclusiv programare, trebuie inclusă în toate formele de învățământ și formare, de la primii ani de școală până la învățarea pe tot parcursul vieții;

8. este de opinie că roboții medicali continuă să câștige teren în realizarea de intervenții chirurgicale de înaltă precizie și efectuarea unor proceduri repetitive; consideră că aceștia au potențialul de a îmbunătăți rezultatele măsurilor de reabilitare și oferă sprijin logistic foarte eficace în spitale;

– includerea următoarelor sugestii în anexa la propunerea sa de rezoluție:

9. consideră că orice inițiativă legislativă viitoare privitoare la robotică și inteligența artificială ar trebui să asigure certitudine juridică fără a frâna inovarea în acest domeniu tehnologic cu evoluție rapidă, după consultarea cu o serie de părți interesate relevante și pe baza unui dialog continuu;

10. consideră că, împreună cu inginerii în robotică care sunt utilizatori finali, cu comunitatea de cercetare și cu alte părți interesate, Comisia ar trebui să elaboreze un cod deontologic care să guverneze activitățile de dezvoltare a roboticii și inteligenței artificiale;

11. consideră că recomandările privind licențele ar trebui să respecte libertatea contractuală și să permită existența unor regimuri inovatoare de acordare a licenței; avertizează împotriva introducerii de noi drepturi de proprietate intelectuală în domeniul roboticii și al inteligenței artificiale, care ar putea constitui un obstacol în calea inovării și a schimburilor de experiență;

RR\1115573RO.docx 59/66 PE582.443v03-00

RO

REZULTATUL VOTULUI FINAL ÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării 13.10.2016

Rezultatul votului final +:–:0:

5413

Membri titulari prezenți la votul final Bendt Bendtsen, Xabier Benito Ziluaga, José Blanco López, David Borrelli, Jerzy Buzek, Angelo Ciocca, Edward Czesak, Jakop Dalunde, Pilar del Castillo Vera, Christian Ehler, Fredrick Federley, Ashley Fox, Adam Gierek, Theresa Griffin, Hans-Olaf Henkel, Eva Kaili, Kaja Kallas, Barbara Kappel, Krišjānis Kariņš, Seán Kelly, Jaromír Kohlíček, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Janusz Lewandowski, Ernest Maragall, Edouard Martin, Angelika Mlinar, Nadine Morano, Dan Nica, Carolina Punset, Herbert Reul, Paul Rübig, Algirdas Saudargas, Sergei Stanishev, Neoklis Sylikiotis, Dario Tamburrano, Patrizia Toia, Evžen Tošenovský, Claude Turmes, Vladimir Urutchev, Henna Virkkunen, Martina Werner, Lieve Wierinck, Anna Záborská, Flavio Zanonato, Carlos Zorrinho

Membri supleanți prezenți la votul final Michał Boni, Rosa D’Amato, Esther de Lange, Jens Geier, Benedek Jávor, Olle Ludvigsson, Vladimír Maňka, Marian-Jean Marinescu, Clare Moody, Maria Spyraki

Membri supleanți (articolul 200 alineatul (2)) prezenți la votul final

Salvatore Cicu, Albert Deß

PE582.443v03-00 60/66 RR\1115573RO.docx

RO

12.10.2016

AVIZ AL COMISIEI PENTRU PIAȚA INTERNĂ ȘI PROTECȚIA CONSUMATORILOR

destinat Comisiei pentru afaceri juridice

Normele de drept civil privind robotica(2015/2103(INL))

Raportoare pentru aviz: Dita Charanzová

(Inițiativă – articolul 46 din Regulamentul de procedură)

SUGESTII

Comisia pentru piața internă și protecția consumatorilor recomandă Comisiei pentru afaceri juridice, competentă în fond, includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

A. întrucât robotica nu este un domeniu nou; întrucât robotica poate avea și are un rol în transformarea pozitivă a societății noastre; întrucât robotica și inteligența artificială contribuie în mod activ la digitalizarea economiei într-un număr mare de sectoare, precum industria, îngrijirea sănătății, construcțiile și transporturile, și pot conduce la inovare, la reducerea muncii în condiții nocive și la noi modele comerciale, iar Uniunea trebuie să asimileze activ evoluțiile din acest domeniu, care pot favoriza dezvoltarea pieței unice digitale;

B. întrucât, în tot mai multe cazuri, roboții funcționează în apropiere fizică față de oameni, iar piața serviciilor legate de robotică se află în creștere constantă, generând noi avantaje pentru societate însă fără a neglija aspectele siguranței și fiabilității;

C. întrucât, deși robotica aduce avantaje incontestabile, ea riscă să provoace o modificare a pieței muncii și poate impune, prin urmare, necesitatea unei reflecții cu privire la viitorul educației, ocupării forței de muncă și al politicilor sociale;

D. întrucât vânzarea și producția de roboți au crescut în mod semnificativ între 2010 și 2014, această creștere fiind doar în 2014 de 30%, mai ales în sectorul industriei electronice;

E. întrucât transformarea digitală a industriei de producție din UE, care reprezintă 15% din

RR\1115573RO.docx 61/66 PE582.443v03-00

RO

PIB-ul Uniunii, poate avea în 2025 o valoare adăugată potențială de 1,25 mii de miliarde EUR1, iar adoptarea unor tehnologii autonome și robotizate ar putea contribui la creșterea productivității industriale europene și ar putea conferi Europei un avantaj competitiv major;

F. întrucât învățarea automatizată oferă societății beneficii enorme în domeniul economic și al inovației prin îmbunătățirea considerabilă a capacități de analiză a datelor, dar în același timp dă naștere unor provocări în ceea ce privește asigurarea nediscriminării, respectarea garanțiilor procedurale, accesul la informații și înțelegerea proceselor decizionale;

G. întrucât evoluțiile din domeniul aplicațiilor medicale, cum ar fi implanturile și protezele robotice, determină persoanele care beneficiază de acestea să depindă în mod vital de disponibilitatea serviciilor de întreținere, reparație și perfecționare;

H. întrucât la dezvoltarea oricăror noi prototipuri tehnologice sau de producție trebuie avute în vedere protecția datelor și respectarea proprietății intelectuale;

I. întrucât mai multe state terțe au adoptat orientări și acte legislative adecvate în domeniul roboticii, în vreme ce unele state membre au început și ele să acorde o atenție corespunzătoare acestei chestiuni,

1. subliniază că o abordare la nivelul Uniunii poate facilita dezvoltarea prin faptul că permite să se evite fragmentarea în cadrul pieței interne și subliniază, totodată, importanța principiului recunoașterii reciproce în utilizarea transfrontalieră a roboților și a sistemelor robotizate; reamintește că testarea, certificarea și aprobarea pentru piață ar trebui să fie necesare numai în unul dintre statele membre;

2. subliniază că această abordare trebuie să fie însoțită de o supraveghere efectivă a pieței, precum și de căi legale de atac și instrumente legale care să le permită statelor membre să impună rechemarea produselor și să aplice sancțiuni pentru încălcări;

3. subliniază importanța luării unor măsuri pentru a sprijini întreprinderile mici și mijlocii și întreprinderile noi din domeniul roboticii care creează noi segmente de piață în acest sector sau care utilizează roboții în activitatea lor;

4. încurajează dezvoltarea unei strategii europene ambițioase privind cercetarea și inovarea în domeniul roboticii pentru a valorifica la maximum potențialul acesteia în materie de creștere și ocupare a forței de muncă în Europa;

5. deși este conștient de existența unui număr semnificativ de standarde internaționale care tratează aspecte precum interoperabilitatea și siguranța și care sunt deja aplicate în acest sector, consideră totuși că este necesară armonizarea în mai mare măsură a standardelor din domeniul roboticii și inteligenței artificiale, care ar trebui să facă parte din prioritățile Uniunii în materie de standardizare pentru a stimula inovarea și a garanta un nivel ridicat al protecției consumatorilor; subliniază că este esențial să se dezvolte standarde comune, sigure și riguroase în acest domeniu orientat spre viitor;

1 STOA, Ethical Aspects of Cyber-Physical Systems, Scientific Foresight Study (Aspecte etice ale sistemelor ciber-fizice, Studiu de prospecțiune științifică), mai 2016, anexa 1, p. 37.

PE582.443v03-00 62/66 RR\1115573RO.docx

RO

6. invită Comisia, în cooperare cu organismele de standardizare europene, să continue să trateze în mod activ cu organismele de standardizare internaționale și să îmbunătățească cooperarea cu partenerii internaționali în vederea îmbunătățirii standardelor din acest domeniu; salută în acest sens instituirea unor comisii tehnice speciale, precum ISO/TC 299 Robotics, al căror obiectiv unic este acela de a elabora standarde în domeniul roboticii;

7. repetă că cea mai mare parte a standardelor sunt elaborate ca răspuns la nevoile identificate de sectorul însuși și încurajează organismele de standardizare europene și internaționale să-și revizuiască constant propriile standarde pentru a le garanta coerența cu aceste nevoi;

8. consideră că atât roboții creați pentru producție, cât și cei creați pentru utilizarea individuală ar trebui să intre sub incidența unor norme privind siguranța produselor și protecția consumatorilor care să prevadă, atunci când este cazul, standarde minime de siguranță și să abordeze problema riscului de accidente care pot surveni ca urmare a interacțiunii roboților cu oamenii sau a funcționării acestora în apropierea oamenilor; consideră că orice politică privind robotica trebuie să trateze chestiunile legate de etică, protecția datelor (inclusiv a datelor părților terțe și a celor cu caracter personal), răspunderea civilă, educație, formare și securitatea cibernetică;

9. subliniază importanța integrării aspectelor de confidențialitate și securitate încă din faza de concepție a roboților și importanța normelor pentru testarea reacțiilor roboților, în vederea protecției consumatorilor;

10. subliniază că, oricare ar fi domeniile în care este propusă utilizarea roboților, este necesar să se pună accentul pe demnitatea ființei umane, mai ales în domeniul asistenței medicale;

11. subliniază că, în domeniul aplicațiilor medicale vitale, precum protezele robotice, trebuie să se asigure un acces continuu și durabil la întreținere, la perfecționare și, în special, la actualizări ale softului menite să rezolve eventuale disfuncțiuni sau vulnerabilități;

12. consideră că politicile de ocupare a forței de muncă, precum și cele educaționale și sociale ale statelor membre ar trebui să țină seama în mai mare măsură de consecințele robotizării; invită Comisia să ajute la elaborarea unui cadru normativ uniform și la intensificarea cooperării dintre statele membre; solicită statelor membre să instituie cadre de formare revizuite pentru a evita o penurie de specialiști în domeniul tehnologiilor informației și comunicațiilor;

13. este conștient de faptul că robotica și tehnologiile din domeniul inteligenței artificiale sunt tot mai mult folosite în vehiculele autonome, precum automobilele autonome și dronele civile; observă că unele state membre adoptă deja sau prevăd să adopte acte legislative anume în acest domeniu, fapt care ar putea conduce la un mozaic de legislații naționale, acest lucru creând obstacole în calea dezvoltării vehiculelor autonome; solicită, prin urmare, ca în UE să existe un cadru normativ unic, care să asigure un echilibru just între interesele utilizatorilor, ale întreprinderilor și ale altor părți interesate și care, în același timp, să evite reglementarea excesivă în domeniul roboticii și al sistemelor robotizate.

RR\1115573RO.docx 63/66 PE582.443v03-00

RO

14. solicită măsuri de cooperare în materie de reglementare pentru a modifica anumite acorduri internaționale, precum Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră și Convenția de la Haga din 4 mai 1971 privind accidentele rutiere;

15. consideră că, în ceea ce privește vehiculele autonome, s-ar putea să nu fie necesar să se modifice cadrul juridic privind asigurarea, deoarece practicile și relațiile actuale dintre operatori, producători și asiguratori permit, așa cum s-a întâmplat și în trecut, integrarea noilor tehnologii;

16. subliniază că utilizarea roboticii în cadrul asistenței medicale reprezintă deja o piață în creștere, în special în ceea ce privește procedurile chirurgicale bazate pe telerobotică, domeniu în care Europa ocupă o poziție de lider; solicită Comisiei să asigure condițiile necesare pentru o utilizare sporită a acestor practici;

17. solicită Comisiei să sporească finanțarea acordată studiilor interdisciplinare privind efectele pe care le au asupra societății inteligența artificială și procesele de învățare automată.

PE582.443v03-00 64/66 RR\1115573RO.docx

RO

REZULTATUL VOTULUI FINALÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării 11.10.2016

Rezultatul votului final +:–:0:

3511

Membri titulari prezenți la votul final Catherine Bearder, Dita Charanzová, Carlos Coelho, Lara Comi, Anna Maria Corazza Bildt, Daniel Dalton, Nicola Danti, Dennis de Jong, Vicky Ford, Ildikó Gáll-Pelcz, Evelyne Gebhardt, Maria Grapini, Sergio Gutiérrez Prieto, Robert Jarosław Iwaszkiewicz, Liisa Jaakonsaari, Antonio López-Istúriz White, Marlene Mizzi, Eva Paunova, Jiří Pospíšil, Virginie Rozière, Christel Schaldemose, Andreas Schwab, Olga Sehnalová, Igor Šoltes, Ivan Štefanec, Catherine Stihler, Richard Sulík, Róża Gräfin von Thun und Hohenstein, Mylène Troszczynski, Mihai Țurcanu, Anneleen Van Bossuyt, Marco Zullo

Membri supleanți prezenți la votul final Birgit Collin-Langen, Morten Løkkegaard, Julia Reda, Marc Tarabella

Membri supleanți (articolul 200 alineatul (2)) prezenți la votul final

John Stuart Agnew

RR\1115573RO.docx 65/66 PE582.443v03-00

RO

REZULTATUL VOTULUI FINALÎN COMISIA COMPETENTĂ ÎN FOND

Data adoptării 12.1.2017

Rezultatul votului final +:–:0:

1722

Membri titulari prezenţi la votul final Max Andersson, Joëlle Bergeron, Marie-Christine Boutonnet, Jean-Marie Cavada, Therese Comodini Cachia, Mady Delvaux, Lidia Joanna Geringer de Oedenberg, Mary Honeyball, Gilles Lebreton, António Marinho e Pinto, Julia Reda, Evelyn Regner, József Szájer, Tadeusz Zwiefka

Membri supleanți prezenți la votul final Daniel Buda, Sergio Gaetano Cofferati, Angel Dzhambazki, Heidi Hautala, Constance Le Grip, Victor Negrescu

Membri supleanți (articolul 200 alineatul (2)) prezenți la votul final

Eleonora Evi, Andrey Novakov

PE582.443v03-00 66/66 RR\1115573RO.docx

RO