1

Ethiek en ICT

Robbert Jan BeunInformatiekunde

Universiteit Utrecht

Spam Scareware

Botnet

VirusWorm

Trojan horse SPYWARE

Rootkit

Opt-Out

ETHISCH HACKER

DIGITALE RECHERCHE

SECURITY MANAGER

Firewall

Trackingcookies

Shre

dder

Hackerwatch

Cyberporn

Pedofielennetwerk

Cyberterror

2

• Wat is ethiek?– Ethiek in onze samenleving/ons leven.

• Ethiek in de informatiemaatschappij• Ethische theorieën

3

Wat is ethiek?

4

• Journals– Ethics and Information

Technology– The ETHICOMP Journal– Jrn. of Inf., Comm. and

Ethics in Society– Int. Rev. of Inf. Ethics– Int. Jrn. of Internet Ethics– Int. Jrn. of Techn. and

Human Interaction– Jrn. of Hum. Mediated

Communication• Slideshare

5

6

• Stel het is verboden reclamemateriaal in colleges te verstoppen.

• Stel ik heb de intentie een vriendje te steunen.• Stel jullie worden allemaal gelukkig van nieuwe

sportschoenen.

7

Ik word gevraagd een programmaatje te schrijven die iedere email in Nederland of in de wereld onderschept en dat levert me een cent per email op. Ik moet die email dan doorgeven aan de staat der Nederlanden (of Korea/Iran?).

8

Ethiek zit diepgeworteld in ons leven

9

Hallo!

10

Het cijfer 10

11

We houden er allemaal andere normen en waarden op na

12

We houden er allemaal andere normen en waarden op na

en toch ook weer niet

13

Ethiek in wetenschap

14

• Nauwkeurigheid van resultaten.• Het interpreteren van data.• Het kopiëren van andermans werk.• Het veranderen van data.• Het zelf verzinnen van data.• …

Ethiek in wetenschap

15

• Mag ik iemand uitlachen voor een experiment?

• Mag ik iemand pijn doen voor een experiment?

• Mag ik veiligheidsrisico’s nemen?• Mag ik …

Ethiek in wetenschap

16

Wat is ethiek?

17

Ethiek is de studie van

morele principes

18

Moraal

Geheel van normen en waarden in een samenleving of maatschappij

19

Moraal

Zedelijke waardering van specifiek menselijk handelen

(hele Dikke van Dale)

Niveaus:individueel, groep, organisatie, maatschappij

20

Soort uitspraken:

Je mag xJe moet xX is belangrijkX is goedX is slecht

21

De tien geboden1. Ik ben de Heer, de enige God2. Misbruik niet de naam van

de Heer3. Heilig de dag des Heren4. Eert uw vader moeder5. Gij zult niet doden6. Gij zult niet echtbreken7. Gij zult niet stelen8. Leg geen valse getuigenis

tegen je naasten9. (en 10) Begeer nooit

iemands goed (huis, vrouw, knecht, …)

22

Moraal in de taalPiet pakt de fiets Piet steelt de fiets

liegen, bedriegen, vermoorden, beledigen, roddelen, terrorist, …

23

Ethiek en waarheid

• In de ethiek draait het dus niet om ‘waarheid’ …

• … maar om ‘goedheid’.

• Dat is een andere dimensie.

24

Ethiek is de rationele analyse van het gedrag dat kan leiden tot voordeel of schade aan mensen

25

• Welke rol speelt rationaliteit?

• Wat is een morele uitspraak?

• Wat is de oorsprong van onze moraal?

• Welke verschillende moraalstelsels bestaan er?

• Wat is goed?• Wat is kwaad?• Wat is vrijwillig?• Wat is schuld?• Wat is straf?

26

Moraal en voeding

• Wat mogen we wel/niet eten?

• Hoe moeten we het eten klaarmaken?

• Hoe gaan we met dieren om?

• Hoe gaan we met de aarde om?

• Hoe verdelen we het voedsel?

27

Moraal, informatie en communicatie

Gij zult:• geen onware informatie

verspreiden• alleen betrouwbare informatie

verspreiden• geen informatie stelen• geen vertrouwelijke informatie

doorgeven• geen mening opdringen• niet spieken• niet beledigen• niet roddelen• een vraag beantwoorden• een belofte nakomen• …

28

Onze moraal verandert

29

Moraal is dynamisch• Globalisering (religie, cultuur,

economie)• Belangrijke gebeurtenissen• Digitale tijdperk• Concurrentie• Overnames, fusies, schaling, …• Stakeholders • ‘The urgent organisation’ (24/7)• Diversiteit

Dus ook verschuiving van waarden en normen.

Loyaliteit

30

31

Vooruitgang

32

Achteruitgang

33

Keuzestress

34

35

36

Natuurlijke grenzen vervagen

We maken allemaal deel uit van dit krachtenspel en moeten ons bewust zijn van onze keuzes

37

38

Ethiek in de informatie-

maatschappij

ICT zorgt voor nieuwe (morele)

vraagstukken

waarvoor geen pasklare

antwoorden bestaan.

39

De invloed van ICT op ons leven

- Werkeloosheid- Criminaliteit- Onveiligheid- Verlies van

- privacy- waardigheid- reputatie- autonomie

- Fouten- Intellectueel eigendom- Vrijheid van meningsuiting- Geweld-…

40

Vragen• Wat is het belang van

ethiek bij het ontwerpen van ICT?

• Welke ICT-ontwikkelingen vind je ethisch onaanvaardbaar?

• In hoeverre heeft internet het denken over ethiek veranderd?

• Wat vind je van het inbouwen van rfid-chips?

• Mogen software ontwikkelaars zonder toestemming software updaten?

• Wat zijn de gevaren van online of virtuele therapieën?

41

Een greep Gebruik van facebookgegevens voor reclamedoeleinden

Postcodes van pedofielen op internet

Publiceren van de foto’s van de dief van je mobiele telefoon op internet

42

UU gaat na welke websites studenten op Universiteitspc’s bekijken

ICT-Speelgoed ‘My secret Pal’ om geheimen bij kinderen te ontfutselen

Het inbouwen van persuasieve technieken in virtuele therapieën…

43

“Stroomrekeningen IT-industrie en internet rijzen de pan uit”

• Spits:– Bedrijven besteden vaak al meer geld aan energie dan aan personeel– Uitstoot CO2 al bijna net zo groot als die van de wereldwijde luchtvaart– Hoeveelheid elektriciteit benodigd voor een individuele zoekopdracht

is genoeg om een spaarlamp een uur te laten branden.

• Wat vind je van deze ontwikkeling?

44

Geweld in Games

45

Verslaving

46

Handleidingen

‘How to commit suicide’‘How to make a bomb’‘How to make a virus’

‘Thinspiration’

47

Echoscopie

• Verlengstuk van onze waarneming

• Belangrijke ethische vraagstukken

• Abortus?– wel/niet?

48

Maar het gaat straks nog veel

verder

49

RFID chips

• 22 november 2005, Computable:– VS keuren implantatie rfid-chips in patiënten goed– Producent schenkt scanners aan ziekenhuizen

• 31 augustus 2007, Los Angeles Times:– Mag een werkgever zijn werknemers verplichten?– Nee zegt de Amerikaanse senaat.– Citywatcher.com doet dat voor medewerkers van secure data center.

• Wat vind jij van het gebruik van RFID-chips bij mensen?

50

e-Coaching

- effectiviteit en betrouwbaarheid- kwaliteitsnormen- aansprakelijkheid en

verantwoordelijkheid- gelijke toegang- kwantificering lichaam- privacy- autonomie vs. beïnvloeding

(Rathenau Instituut)

51

Cyborgs

52

1st int. Conference on Human-Robot Personal Relationships

June 12-13, 2008Maastricht University

53

Proefschrift David Levy:

‘Intieme relaties met artificiële partners’

Als robots meer menselijk worden, zullen meer mensen op robots verliefd worden of een intieme relatie opbouwen

54

Voorbeelden

Aibo

iCat

Paro

Yorisoi

KokoroHiroshi Ishiguro

55

56

Kunnen we een relatie aangaan met robots?

Mogen we met robots trouwen?Hebben robots wettelijke rechten?Hoe moeten we robots

behandelen?- Mogen we robots pijn doen?- Mogen we robots verkrachten?- Mogen we robots martelen?

Wie is verantwoordelijk voor de handelingen van robots?

Dienen robots als voorbeeld voor de manier waarop we mensen behandelen?

Wat is hierbij de rol van bewustzijn?

57

Robots, ethiek en oorlog

In welke situaties zijn autonome robots acceptabel?

Zouden robots een bevel mogen weigeren van mensen?

Wie is er verantwoordelijk voor dodelijke ongelukken?

58

Asimovs moraal1. Een robot mag een mens

geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

2. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

3. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

59

Ethische theorieën

60

Subjectief relativisme

• Iedereen beslist voor zichzelf wat goed of fout is

• Er bestaat geen universele moraal

• Voordelen?• Nadelen?

61

Subjectief relativisme

Voor- we komen toch nooit

uit het abortusdebatTegen- iedereen kan doen wat

hij wil- Hitler vs. Theresa,

maakt niet uit

62

Cultureel relativisme

• Verschillende morele opvattingen tussen culturen

• Wederom geen universele moraal

• Voordelen?• Nadelen?

63

Cultureel relativisme

Voor- verschillende omstandigheden- tolerant tegenover ander

culturen- wel afrekeningTegen- er zijn toch kernwaarden- wat zijn de regels?- er kan nooit iets veranderen- cultuurconflicten?- traditie, niet redeneren

64

Cultuur en normen(Geert Hofstede)

Waardendimensies:• (on)gelijkheid• collectief vs. individu• man/vrouw

verhouding• onzekerheid• korte/lange termijn

gerichtheid

65

(On)gelijkheid

Machtsafstandindex:Maleisië: 104 (1/2)Slowakije: 104 (1/2)Nederland: 38 (61)Zweden: 31 (67)

Hoog: Aziatische landen, Oost-Europa, Zuid-Amerika

Laag: Nederland, Noord-Europa, Noord-Amerika

66

Machtsafstand en de organisatie

67

Kleine machtsafstand

• Hiërarchie om praktische redenen ingesteld

• Relatief kleine verschillen in inkomen

• Ideale chef is bekwame democraat

• Privileges en statussymbolen ongewenst

• …

• Hiërarchie weerspiegelt existentiële ongelijkheid

• Meer toezichthoudend personeel

• Ondergeschikten verwachten dat hun wordt verteld wat te doen

• Kantoorwerk hogere status• …

Grote machtsafstand

68

Machtsafstand en de maatschappij

69

Kleine machtsafstand

• Gebruik van macht legitiem en onderworpen aan normen van goed en kwaad

• Politiek systeem wordt veranderd door regels te veranderen

• Pluralistisch samengestelde regering op basis van verkiezingen

• Kleine inkomensverschillen• Minder corruptie• …

• Wie macht heeft, heeft gelijk

• Vooral armere landen met kleine middenklasse

• Macht gebaseerd op familie, vrienden, charisma of gebruik van geweld

• Minder discussie, meer geweld in binnenlandse politiek

Grote machtsafstand

70

Geïnteresseerd?

Lees:Geert en Gert Jan Hofstede‘Allemaal andersdenkenden’(uitgeverij Contact)

Of ga naar:

www.geert-hofstede.com/

71

Terug naar de Ethische

Theorieën

72

Het goddelijke commando

• God als schepper van de wereld en de moraal

• Goed is volgens de wil van God, slecht juist niet

• Voordelen?• Nadelen?

73

Het goddelijke commando

Voor- God weet het het beste- God als ultieme autoriteitTegen- bestaat God wel?- hoe kennen we Gods wil?- is God wel zo goed?- verschillende opvattingen?- goed omdat God het wil of God

gebiedt wat goed is- Er is dus nog iets buiten God

dat goed is

74

Immanuel Kant (1724-1804)

• Morele wetten zijn universeel en rationeel

• Mens bezit vrije wil• Essentieel is de achterliggende

intentie• Cultiveren van onze goede wil• ‘Dutifulness’ (plicht)• Acties ‘gronden’ in goede

morele regel• Categorisch imperatief

– noodzakelijkheid, los van het doel

75

Immanuel Kant Categorisch imperatief:‘Handel alleen volgens een regel waarvan u tegelijkertijd kunt verlangen dat ze tot algemene wet wordt verheven.’

Ook: ‘de mens is niet het middel, maar het doel’ ‘de mens is de maat’

usability, transparantie

76

Immanuel Kant Mag ik een belofte maken met de intentie die later te breken?

Mag ik liegen?

77

Immanuel Kant Voor- rationeel- universeel- iedereen gelijkTegen- immorele regels toch

toelaatbaar- conflicten bij regels- waarom aan deze wet

gehoorzamen?

78

Actie/regel-utilisme

Een actie/regel is goed voor zover hij het totale geluk verhoogt (en andersom)

Voordelen?Nadelen?

Jeremy Bentham

John Stuart Mill

79

Hoeveel mensen zijn de maat?

• Stel 1 mens wordt gelukkig tegenover 10 mensen ongelukkig

• Stel 10 mensen tegenover 10 mensen• Stel we moeten een nieuw systeem inbouwen, maar dat

is veel werk voor bepaalde groep, maar een andere groep profiteert hiervan– wat is de speelruimte?

• wat zijn de wettelijke kaders?• wat zijn de kaders van het bedrijf?• wat zijn de kaders van de afdeling?• moet/mag ik ongehoorzaam zijn? (pocket veto)

– het geweten

80

Het sociale contract

1. Vaststellen van morele regels

2. Een overheid die deze regels handhaaft

Acceptatie op basis van collectiviteit (niet imperatief)

Thomas Hobbs

Jean-Jacques Rousseau

81

Tit-for-tat

82

De Moraal is Prefrontaal (neuro-ethiek)

Erst kommt das Fressen dann kommt die MoralHersenbeschadigingenLobotomieDierengedragLiefde voor de eigen soortSpiegelneuronenEmpathieAangeboren moraal

83

Conclusies

• ICT kan doordringen in alle facetten van ons dagelijks leven

• ICT is niet intrinsiek ‘goed’ of ‘slecht’

• ICT kan daarom sturend werken op onze handelingen, intenties en onze moraal

• ICT kan zelf een moraal ‘bezitten’ (robots/agents)

• Ontwerpers dienen zich bewust te zijn van de ethische gevolgen van hun ontwerp