bij dit examen
Menselijke robots: utopisch of dystopisch?
Uit ‘The Faber book of Utopias’ blijkt dat de mensheid eeuwenlang ideeën heeft
gekoesterd over een ideale samenleving. Alleen al in de 17e eeuw verschenen
er in Europa ieder jaar minstens een paar utopieën. Utopieën zijn er in allerlei
soorten en maten. Dat maakt het moeilijk om tot een sluitende definitie te komen
van wat een utopie precies is.
Om tot een indeling te komen maakt Hans Achterhuis een onderscheid tussen
sociale en technische utopieën en noemt hij van beide soorten de nodige
kenmerken. Om te laten zien dat het lastig is om tot een ‘wezensdefinitie’ van
utopieën te komen, doet hij een beroep op Ludwig Wittgenstein, die in dit
verband gebruik maakt van de metafoor van familiegelijkenissen.
13pLeg uit welke kritiek Wittgenstein heeft op de mogelijkheid van het geven van
wezensdefinities.
Pas deze kritiek toe op het begrip ‘utopie’ en maak daarbij gebruik van de
metafoor van familiegelijkenissen.
In veel utopieën spelen technische ontwikkelingen een belangrijke rol. Zo staat
de technische wetenschap in ‘Het Nieuwe Atlantis’ (1627) van Francis Bacon in
het teken van het vergroten van het menselijke geluk door de leden van
‘Salomons Huis’.
Vier eeuwen later blijkt in onze tijd dat die technische wetenschappen
daadwerkelijk een enorme invloed hebben op het dagelijks leven.
In sommige opzichten lijken we tegenwoordig te leven in de utopie van Bacon,
waarin de drie doelen van de leden van Salomons Huis zijn bereikt met behulp
van de techniek.
23pNoem de drie doelen van de leden van Salomons huis, zoals die bij Bacon
worden beschreven.
Geef bij elk van deze doelen een voorbeeld uit de hedendaagse samenleving
waaruit blijkt hoe deze doelen zijn gerealiseerd.
Bacon beschouwt de natuur in ‘Het Nieuwe Atlantis’ dus als maakbaar.
Maar bij wat de mensen uit de natuur maken, tonen ze duidelijk hun
afhankelijkheid van God. De dienstbaarheid van de natuur heeft bij Bacon dus
een religieus fundament.
32pGeef twee voorbeelden van handelingen waaruit blijkt dat het dienstbaar zijn van
de natuur in ‘Het Nieuwe Atlantis’ een religieus fundament heeft.
Een technische ontwikkeling in onze samenleving die vele mensen tot de
verbeelding spreekt, heeft te maken met de ontwikkeling van robots.
De eerste robots werden in de industrie gebruikt waar ze eindeloos mechanisch
werk verrichtten.
Tegenwoordig worden ook op andere gebieden robots gebruikt: bij missies op
de oceaanbodem, bij het werken in de buurt van vulkanen of bij onderzoek op de
planeet Mars. Japanse bedrijven als Honda en Toyota ontwikkelen humanoïde
of menselijke robots die kunnen assisteren bij huishoudelijke taken als deuren
openen, de krant van de deurmat halen en het zetten van koffie of thee.
foto 1
Robot ASIMO van Honda
bron:Gadgetzon.nl
Duidelijk is dat robots in de toekomst tot steeds meer in staat zijn en een eigen
leervermogen zullen bezitten. Bovendien gaan robots door de combinatie van
levend weefsel en duurzame materialen uiterlijk steeds meer op mensen lijken.
Maar andersom zijn mensen al veel kunstmatiger en robotachtiger geworden
dan ze beseffen. In het alledaagse leven maken ze immers allang gebruik van
machinale hulpmiddelen als pacemakers, kunstknieën en kunstheupen.
Deze ontwikkeling is voor de Amerikaanse filosofe Donna Haraway de
aanleiding om allerlei tegenstellingen, zoals tussen lichaam en geest of tussen
machine en organisme, aan te vallen. In haar boek ‘Een Cyborg Manifest’ stelt
zij:
opgave 1Tekst 1
bron: Haraway, Een Cyborg Manifest, 1991
44pBen je het met Haraway eens dat de tegenstelling tussen machine en organisme
gedateerd is?
Geef een argumentatie voor je antwoord waarin je duidelijk maakt wat deze
tegenstelling inhoudt en verwerk daarbij de gegevens uit tekst 1.
Volgens de Britse specialist in kunstmatige intelligentie David Levy zullen de
ontwikkelingen zover gaan dat robots in de toekomst zelfs onze vrienden of
liefdespartners kunnen worden. Nu is het al zo dat sommige mensen verliefd
kunnen worden op iemand via het internet, terwijl die ‘iemand’ een programma
blijkt te zijn.
Bovendien blijkt uit sommige onderzoeken dat er hondenbezitters zijn die meer
van hun honden houden dan van mensen. Als mensen, stelt Levy, liefde voor
dieren kunnen voelen, dan zal dat zeker lukken voor robots.
foto 2
Robot Aibo ERS-70 van Sony
bron: www.avland.co.uk/sony/ers7/ers-7.htm
Zo’n robot kan de vorm hebben van een hond, zoals Aibo op foto 2, maar kan
ook de vorm hebben van een mens.
opgave 2Tekst 2
bron: Interview met David Levy in Vrij Nederland, 20 oktober 2007
Wat Levy voorspelt over de sociale functie van robots voor mensen lijkt in de
buurt te komen van het gedachte-experiment van Robert Nozick over de
‘ervaringsmachine’.
54pBeschrijf in het kort het gedachte-experiment van Nozick.
Geef daarbij aan in hoeverre dit gedachte-experiment tot werkelijkheid wordt in
de ontwikkeling van ‘menselijke’ robots zoals Levy die beschrijft.
Noem daarbij een overeenkomst en een verschil.
Het is de vraag of wat Levy hier beargumenteert ten aanzien van intieme relaties
met robots moreel aanvaardbaar is. Worden hier geen morele grenzen
overschreden?
Ook in technische utopieën wordt dit soort vragen aan de orde gesteld: wordt de
natuur van de mens bepaald door zijn fysieke behoeften of door zijn fysieke
tekorten en mogen deze tekorten worden gecompenseerd door
wetenschappelijke en technische middelen? Mogen we zonder voorbehoud
technische middelen aanwenden om aan onze behoeften te voldoen en
gelukkiger te worden? Wat is geluk en wat zijn onze werkelijke behoeften?
Het vraagstuk over onze werkelijke behoeften speelt in de geluksopvatting van
Thomas More een grote rol. Hij maakt daarbij een onderscheid tussen echte en
onechte behoeften.
64pBeargumenteer in welk opzicht robots – zoals David Levy die beschrijft in tekst 2
– zouden passen in de gedachten van Mores Utopia en in welk opzicht robots
daarin niet zouden passen.
Betrek bij je argumentatie het onderscheid dat More maakt tussen echte en
onechte behoeften.
Bij het ontwerpen van utopieën wordt er altijd van uitgegaan dat de samenleving
op de een of andere manier maakbaar is.
Maar de vraag daarbij was tot voor kort of de menselijke natuur zich wel zo
gemakkelijk laat aanpassen of veranderen. Moderne ontwikkelingen in de
biotechnologie laten echter zien dat het wel degelijk mogelijk is om de natuur
van de mens aan te passen.
Dat roept onmiddellijk de principiële vraag op of we de menselijke natuur
zomaar mogen aanpassen.
Francis Fukuyama heeft zich in verband met de biotechnologie daarover
negatief uitgesproken. Het is de vraag of de argumenten die Fukuyama voor zijn
standpunt ten opzichte van de biotechnologie aandraagt, ook gelden ten aanzien
van de ontwikkeling van robots die sprekend op mensen lijken: humanoïde
robots.
72pGeef aan wat de opvatting van Fukuyama is over moderne ontwikkelingen in de
biotechnologie, waarin de menselijke natuur wordt aangepast.
De ingenieurs van Salomons Huis in het ‘Het Nieuwe Atlantis’ van Bacon staan
positief tegenover het verbeteren van de menselijke natuur. Dit roept de vraag
op of technologische ontwikkelingen die ingrijpen in de menselijke natuur gezien
moeten worden als utopisch of als dystopisch.
84pMoet het produceren van humanoïde robots volgens jou als utopisch of
dystopisch worden beschouwd?
Leg in je argumentatie uit in hoeverre je eigen opvatting over de menselijke
natuur aansluit bij die van Bacon of Fukuyama.
Minority Report
Minority Report is een Amerikaanse sciencefiction film uit 2002, geregisseerd
door Steven Spielberg. Een belangrijke rol is weggelegd voor Tom Cruise.
De film laat een toekomstige wereld zien: het verhaal speelt zich af in 2054. Die
wereld verschilt niet zo heel veel van de wereld van 2002, al komen er wel
futuristische wapens en transportmiddelen in voor die gebruikelijk zijn in dit soort
films.
Maar toch is er één heel groot verschil: in het jaar 2054 bestaat in de
Amerikaanse stad waar het verhaal zich afspeelt, namelijk Washington, moord
helemaal niet meer.
Men kan in 2054 namelijk in de toekomst ‘schouwen’: alle toekomstige
‘schuldigen’ worden door een politie-eenheid opgepakt en gestraft nog vóór ze
hun misdaad hebben begaan. Zogenaamde ‘Pre-Cogs’, drie wezens die zeer
getalenteerd zijn, vangen signalen op over moorden die nog niet gebeurd zijn en
sturen die beelden door naar Pre-Crime-topman John Anderton, die vervolgens
zijn politie-eenheid inzet om toekomstige moordenaars op te sporen.
Het systeem werkt perfect: de Pre-Cogs vergissen zich nooit en moord vindt dus
niet meer plaats in Washington. Als de overheid dan na zes jaar overweegt om
het systeem ook nationaal te gaan toepassen, is Anderton meer dan ooit
overtuigd dat Pre-Crime werkt.
Hij heeft geen reden om het systeem in twijfel te trekken, totdat het zich tegen
hem zelf keert. De Pre-Cogs sturen hem namelijk een beeld van een
opmerkelijke toekomstig moordenaar door: John Anderton zelf. Binnen 36 uur
zal deze topman van de Pre-Crime afdeling dus zelf iemand vermoorden – die
hij op dat moment nog niet eens kent. Nu hij op de huid gezeten wordt door zijn
eigen eenheid, duikt Anderton onder in de hightech-stad Washington en gaat hij
op zoek naar onvolkomenheden in het systeem dat hij de afgelopen zes jaar zo
trouw is geweest.
Uiteindelijk lukt hem dat en worden de Pre-Cogs bevrijd en de Pre-Crime
afdeling opgeheven.
Minority Report is een film die zich afspeelt in het jaar 2054 en gaat over het
terugdringen van de criminaliteit door de Pre-Cogs, wezens die een moord
kunnen voorspellen. De naam ‘Pre-Cog’ is afgeleid van pre-cognitie; dit betekent
letterlijk ‘vóór-het-denken of voor de kennis’.
Men onderscheidt over het algemeen twee soorten utopieën: de sociale en de
technische.
93pWat verstaat men onder een sociale utopie en wat verstaat men onder een
technische utopie?
Leg vervolgens uit of het voorkomen van moord in de wereld van Minority
Report, zoals hierboven beschreven, kenmerken heeft van een sociale utopie of
van een technische utopie.
Ook Karl Marx heeft zich bezighouden met de toekomst. Hij heeft een
toekomstverwachting geschreven in de vorm van een manifest. In dit
Communistisch Manifest schrijft Marx:
opgave 3Tekst 3
tekst 3
De wapens, waarmee, de bourgeoisie het feodalisme te gronde heeft gericht, richten
zich nu tegen de bourgeoisie zelf.
Maar de bourgeoisie heeft niet slechts de wapens gesmeed die haar de dood brengen;
zij heeft ook de mannen voortgebracht die deze wapens zullen hanteren – de moderne
arbeiders, de proletariërs.
bron: Karl Marx en Friedrich Engels, Het Communistisch Manifest
Zowel door Karl Marx als in het verhaal van de film Minority Report wordt ervan
uit gegaan dat de toekomst zich noodzakelijk zal voltrekken. Toch is er een
verschil in opvatting wat betreft de noodzakelijkheid van de toekomst.
102pLeg uit wat dat verschil is.
Op het einde van de film Minority Report krijgt agent John Anderton beelden te
zien van een moord die uitgerekend hijzelf binnen 36 uur zal plegen.
Hij slaat meteen op de vlucht en gaat op onderzoek uit omdat hij niet gelooft dat
hijzelf ook een potentiële moordenaar is. Zijn vlucht kan op het eerste gezicht
worden gezien als daad van paniek, maar Ernst Bloch zou het gedrag niet alleen
uit paniek verklaren.
112pHoe zou Bloch het principe waarop het gedrag van John Anderton berust
benoemen en uitleggen?
Leg het principe van Bloch uit en pas dit toe op het gedrag van Anderton.
Aan utopieën liggen vaak visies op de maakbaarheid van de samenleving ten
grondslag. Dat is ook het geval in de film Minority Rapport, als we ons beperken
tot het Pre-Crime aspect in het verhaal.
122pLeg uit of er in Minority Report sprake is van maakbaarheid van de samenleving.
In onderstaand fragment uit Utopia van Thomas More spreekt hij over de
opvoeding van de mens in zijn ideale samenleving.
tekst 4
Bij het begin van elke maaltijd wordt iets voorgelezen met een zedelijke
strekking, maar kort, zodat het niet gaat vervelen. Hieraan knopen de ouders
een opvoedend gesprek vast – opvoedend maar daarom nog niet zwaar op de
hand en ook niet zonder humor. Ook houden zij geen lange vertogen die de hele
duur van de maaltijd in beslag nemen.
Integendeel, zij luisteren ook graag naar de jongeren, en lokken ze opzettelijk uit
hun tent, om een indruk te krijgen van ieders karakter en gaven; die komen bij
de maaltijd immers veel meer ongedwongen aan de dag.
bron:Thomas More, Utopia
Let op: de laatste vragen van dit examen staan op de volgende pagina.
We kunnen de visie op maakbaarheid uit Minority Rapport vergelijken met die
van Thomas More uit tekst 4.
132pKomen beide visies op maakbaarheid overeen of verschillen ze van elkaar?
Geef een argumentatie voor je antwoord.
Als we de vraag stellen naar de wenselijkheid van een samenleving zoals wordt
weergegeven in Minority Rapport, komen we op het terrein van de ethiek.
Dat mensen niet veroordeeld kunnen worden om wat zij denken, maar slechts
om wat zij daadwerkelijk doen of gedaan hebben, lijkt in onze huidige
samenleving vanzelfsprekend te zijn.
Toch zijn in onze hedendaagse samenleving aspecten te herkennen van de
wereld die in Minority Report wordt uitgebeeld: mensen worden opgepakt tijdens
voetbalwedstrijden als zij zich als hooligan dreigen te gaan gedragen. En
mensen die te veel informatie opvragen over mogelijke terreurdoelen als
bijvoorbeeld Schiphol worden als mogelijke toekomstige schuldige in het oog
gehouden.
Er lijkt in onze samenleving in dat opzicht dus langzaam een verschuiving plaats
te vinden richting ‘Minority Report’: zo word je door de politie gearresteerd als je
van plan bent een illegale daad te plegen.
Het gedrag van de agenten van de Pre-Crime afdeling kan zowel vanuit de
plichtethiek als vanuit de gevolgenethiek uitgelegd worden.
144pLeg uit dat dit gedrag van de agenten van de Pre-Crime afdeling zowel op grond
van de plichtethiek als op grond van de gevolgenethiek uitgelegd kan worden.
Geef in je antwoord duidelijk aan wat onder plichtethiek en wat onder
gevolgenethiek verstaan moet worden.
Naast films die in de toekomst spelen zijn er verschillende games of
computerspellen die de deelnemer in een virtuele, kleine utopie verplaatsen.
Een voorbeeld hiervan is het computerspel ‘Second Life’. Dit is een virtual reality
spel waarin de speler zijn uiterlijk door middel van een zogenaamde ’avatar’
naar wens kan aanpassen. Hij of zij kan ook huizen of andere voorwerpen naar
eigen wensen ontwerpen. Daarnaast heeft de speler een onbeperkte keuze om
zijn eigen identiteit en sociale gedrag te kiezen.
De vraag hierbij is in hoeverre wij verantwoordelijk zijn voor onze gedragingen in
die virtual reality en in hoeverre het virtuele gedrag bepalend mag zijn voor het
leven in de ‘echte wereld’.
Stel je bent in de echte wereld een aanhanger van de deugdethiek.
152pZou jij je in het spel ‘Second Life’ als aanhanger van de deugdenethiek hetzelfde
gedragen als in de echte wereld of zou je je anders gaan gedragen?
Geef een argumentatie voor je antwoord.
Bronvermelding
Een opsomming van de in dit examen gebruikte bronnen, zoals teksten en afbeeldingen, is te vinden in het bij dit examen
behorende correctievoorschrift, dat na afloop van het examen wordt gepubliceerd.