Geplaatst door op 30 January 2014

Robocop (1987)

Robots maken ons het leven een stuk gemakkelijker. Ze nemen ons steeds vaker vies of gevaarlijk werk uit handen. Ze zijn betrouwbaar, ze verslapen zich niet en drinken nooit te veel. Ze bieden zelfs zo veel voordelen dat het een kwestie van tijd is voordat Amerikaanse staten het gebruik van zelfrijdende auto’s verplicht gaan stellen. De robot moet dan rijden, in plaats van de menselijke chauffeur die nu eenmaal onvoorspelbaarder is – en daarmee een groter gevaar in het verkeer.

Dit schreef de New Yorkse psycholoog Gary Marcus een jaar geleden in een buitengemeen scherpe column in de New Yorker. Zijn tekst sloeg in als een bommetje, onder meer bij de Canadese leerkracht Heidi Siwak (zie elders op deze website). De strekking van Marcus’ boodschap luidde: binnenkort zijn robots heel normaal in ons publieke leven. Dan zullen we ze moeten leren morele beslissingen te nemen, net zoals mensen dat doen. Rijden ze door als een kind onverwacht de straat op schiet? Wijken ze uit, ook al staan ze in hun recht? We zullen robots moreel moeten programmeren. Maar wat leren we ze dan?

In zijn werkkamer aan New York University, pal aan de 8ste Straat, ontving Gary Marcus mij vorig voorjaar om z’n ideeën – of beter gezegd, z’n vragen – toe te lichten. Het moment om  robots met waarden te laden komt naderbij. Science fiction schrijver Isaac Asimov voorzag hun komst al decennia geleden. Hij formuleerde drie wetten die Marcus citeert. Een robot mag mensen geen schade toebrengen, hij moet orders van mensen opvolgen, tenzij in strijd met het eerste gebod, en hij moet zichzelf beschermen, voor zover 1 en 2 dat toestaan. Maar deze regels zijn – voorlopig – niet toepasbaar, want begrippen als ‘schade’ of ‘bescherming’ zijn relatief, niet absoluut, meent Marcus. Hij schrijft: ‘Bijna ieder simpele oplossing die je kunt bedenken leidt tot het dilemma van de tovenaarsleerling: dat je krijgt wat je vraagt, niet wat je werkelijk wenst.’

Op zijn New Yorkse werkkamer beklemtoont hij: ‘De zelfrijdende auto en de robotsoldaat bestaan al. We kunnen er dus maar beter over nadenken.’ Neem de robotsoldaat. Daarop bestaan twee visies die elkaar zo ongeveer uitsluiten. Het Witte Huis wil zoveel mogelijk burgersoldaten sparen en beschouwt drones als een uitkomst. Burgers vinden het gebruik juist onacceptabel. ‘Terwijl de waarheid waarschijnlijk in het midden ligt. Robots vallen niet ten prooi aan jaloezie of aan extreme woede. Dat kan een voordeel zijn.’

De zelfrijdende auto staat eveneens klaar. En ook die zal gebruikt worden. ‘Als jij elke dag een uur forenst, is het een enorm voordeel als jij die tijd in de auto aan iets anders kunt besteden. Dus we zullen zo’n auto moeten programmeren dat hij de juiste beslissingen neemt, ook in onvoorziene gevallen.’

En als we dan toch moeten programmeren, waarom maken we van de robot geen betere versie van onszelf? Deze prikkelende vraag stelt Marcus vervolgens ook. Moet je dat willen, vraag ik. Waarom? ‘Onze morele positie is niet perfect, ook al denken sommige mensen dat wat we nu de beste ethiek hebben. Maar dat is een vergissing. Honderdvijftig jaar geleden vonden we slavernij geen enkel probleem. Daaruit blijkt dat morele vooruitgang mogelijk is. Dronken achter het stuur kruipen was tot voor kort algemeen geaccepteerd. Mensen redeneren vaak vanuit hun eigen belang. Een machine kan misschien wel rechtvaardiger oordelen dan een mens. Ik vind dat wij erover moeten nadenken.’

En dat gebeurt slechts mondjesmaat. We leven in een extreem uitdagende tijd, vindt Marcus. ‘We zitten op zo’n zeldzaam punt in de geschiedenis waarin er plotseling extreme verandering kan optreden, vergelijkbaar met tijden van grote oorlogen. De technologieën die nu worden ontwikkeld zijn zo verreikend. Dat geeft ons de plicht erover na te denken. Biotechnologie, nanotechnologie, kunstmatige intelligentie, ze komen allemaal op hetzelfde moment en we kunnen hun impact absoluut niet overzien. Het kan best goed uitpakken, maar een goede uitkomst is niet gegarandeerd. Zelfs als het mensen zelf niet raakt, dan toch in elk geval hun kinderen. Mijn zoon is drie jaar oud. Wat voor werk zal hij doen over 25 jaar?’

En dus prikkelt Gary Marcus zijn lezers van de New Yorker opzettelijk met scherpe, intelligente stukjes. Niet om z’n gelijk te halen, maar om het debat te stimuleren. Hij zegt: ‘Ik ben wetenschapper genoeg om mij te realiseren dat dit geen gemakkelijke vragen zijn waarop het antwoord klaar ligt. Ik weet dat er aan een paar universiteiten dapper en betrokken wordt nagedacht door filosofen en ethici. Maar dat is niet genoeg, vind ik. Dit debat vergt de inbreng van heel veel verschillende mensen, niet alleen van ethici, maar ook van juristen, van politici. En van het publiek natuurlijk, vooral van de jeugd, want zij gaan leven in een wereld die er heel anders uit zal zien dan wij nu gewend zijn.’

Gary Marcus komt ook ter sprake in het openingsessay van de serie Ons digitale leven: Dansende robots en zelfrijdende auto’s. Zie alle columns van Gary Marcus voor de New Yorker, plus links naar zijn diverse boeken, op garymarcus.com.

Dit blog verscheen ook op groene.nl