Geplaatst door op 21 August 2015
Arnold Smeulders over de reikwijdte van de computer

smeulders1

ICT-wetenschapper Arnold Smeulders opereert als vrije geest tussen academia en bedrijven overal ter wereld. Hij vreest niet dat de computer ons totale leven gaat overnemen. ‘De basiswaarden van de mensheid zullen veel sterker blijken.’

Het is een zacht gedrang in de kelder van de Amsterdamse club Trouw. Straks worden vijftig demonstraties gepresenteerd van bèta­wetenschappers die zich een maatschappelijk probleem aantrekken. Met behulp van big datahebben zij oplossingen bedacht waarin technologie een sociaal doel dient. Zo is er een voorziening voor demente bejaarden die op een interactieve muur spontaan hun favoriete video’s en muziek getoond krijgen. Er is een visualisatie van moleculaire data van borstkanker­weefsel, voor betere diagnoses. Er wordt een game gepresenteerd waarmee politieagenten hun sociale vaardigheden kunnen trainen. Maar er is ook een virtuele leefomgeving gebouwd die immigranten onder meer leert hoe ze een praatje kunnen aanknopen bij de bushalte.

Alle projecten komen van Nederlandse bodem. En wat ze ook gemeen hebben, is hun ontstaansgeschiedenis. Alle zijn het resultaat van publiek-private samenwerking tussen universiteit en bedrijf of maatschappelijke instantie. Het is de doelstelling van de organisator van deze show, Commit, een door de overheid gesteunde instantie die fundamenteel ict-onderzoek koppelt aan behoeftes uit de praktijk.

Arnold Smeulders, een jong ogende begin-zestiger, is voorzitter van Commit. Hij leidt deze avond een stel journalisten rond. Zijn bescheiden voorkomen verraadt niets, maar Smeulders zelf is vermoedelijk het beste voorbeeld van wat Commit beoogt. Met een onderzoeksgroep aan de Universiteit van Amsterdam ontwikkelde hij een technologie voor digitale beeldherkenning die hij vorig najaar verkocht aan het Amerikaanse bedrijf Qualcomm, wereldmarktleider in chips voor mobiele telefoons. Het was een opzienbarende en profijtelijke deal. Technologie die aan de UvA is bedacht en ontwikkeld zit straks in miljarden mobieltjes verwerkt.

Het zelfvertrouwen in de Nederlandse informatica kreeg er een flinke impuls van. De sector kan op wereldniveau mee en is in een enkel geval zelfs Google voorbij. Dat laatste is volgens Smeulders van niet te onderschatten belang. In de catalogus bij deze show schrijft hij dat IT veel te belangrijk is om over te laten aan buitenlandse bedrijven die steeds verder achter onze voordeur komen. ‘Technologie – en een actief begrip daarvan – is een kwestie van nationaal kernbelang, dat in alle landen om ons heen als zodanig wordt begrepen.’ Vandaar dat hij op deze avond zowel een hoge ambtenaar van Economische Zaken als de wethouder EZ van Amsterdam het woord laat voeren. Zijn impliciete missie: ict moet worden herkend als een publiek belang.

Vooraanstaand wetenschapper, pleitbezorger, commercieel talent – het is allemaal van toepassing op deze introverte, invloedrijke figuur in de Nederlandse ict-wereld. Arnold Smeulders staat te boek als een onafhankelijke geest. Toen Waag Society, een pionier op het gebied van digitale media, het 25-jarig bestaan van het internet vierde, vroegen ze hem de lofrede te houden. Dat werd niet het laudatio dat hun misschien voor ogen stond. ict brengt immense verandering met zich mee, betoogde hij, maar het zal van ons geen andere mensen maken. ‘Het idee dat ict de wereldorde definitief heeft veranderd is een illusie die internetmensen graag hebben, maar ik niet.’

Waarmee niet gezegd is dat ict niet diep ingrijpt in ieders leven. Als hij de tijd kon vinden, had Smeulders graag een boek geschreven over hoe internet arbeid verandert en vooral hoe het de resultaten beïnvloedt – en dan niet alleen het werk van de kantoormens, maar bijvoorbeeld ook dat van de groenteboer. Eten we andere groenten door ict? Spreken rechters anders recht? Maar Smeulders is veel te druk en te veelgevraagd. Toch wil hij een bijdrage leveren aan het maatschappelijk debat. Daarom stemde hij toe in een reeks gesprekken over het belang van ict, de impact van internet, de maatschappelijke consequenties en het vermoedelijke antwoord van de mensheid op de onstuitbare opmars van de computer – thema’s die volgens Smeulders allemaal met elkaar verband houden.

ICT HEEFT immense invloed op onze manier van leven. Toch spraken we daar tot voor kort nauwelijks over. Hoe komt dat?

‘In Nederland is dat een kwestie van cultuur, niet van kennis. We hebben geen gebrek aan deskundigheid. Maar van oudsher beschouwt Nederland zichzelf als handelsnatie. Zoiets werkt door in de mentaliteit. Daarom dachten bestuurders, maar ook bijvoorbeeld studenten, tot voor kort: ict is iets wat je aanschaft en waarin je je verder niet hoeft te verdiepen. Nog steeds is het voor de meeste mensen een raadsel wat ict wel of niet kan. Dat verklaart onder meer waarom zoveel grote ict-projecten mislukken. Er is veel slecht eigenaarschap. ict is al zeker vijftien jaar een wezenlijk onderdeel van de meeste organisaties. Het is niet meer dan redelijk dat je verstand hebt van dingen die je essentie bepalen. Maar daar schort het vaak aan.’

Ook de wetenschap heeft zich langdurig stilgehouden.

‘Bètamensen denken in beperkte mate na over hun impact op de samenleving. Maar ze worden er in Nederland ook niet toe uitgenodigd. Ook dat is een kwestie van cultuur. In de calvinistische Nederlandse opvatting moesten wetenschap en samenleving van elkaar gescheiden blijven. Waardenvrije wetenschap, dat was het hoogste. De computerwetenschap is daardoor grotendeels buitengesloten van de maatschappelijke discussie. In Amerika is technologie dichtbij, hier huldigden we lang het adagium dat wetenschap los moet staan van praktisch nut – een idée fixe, waardoor iedereen verkrampt.

De laatste twee, drie jaar zie ik een kentering in het denken. De nieuwe generatie kijkt er anders tegenaan. Wij hebben met Qualcomm een enkel succes geboekt en dat heeft zoveel beroering gewekt dat je merkt: de tijden zijn aan het veranderen. De waardering voor de technologie is enorm snel verbeterd. Maar er vormt zich ook een wetenschappelijke achterhoede, en die wordt wel steeds luider. Terwijl het echt onzin is om te denken dat het pas goede wetenschap is als het niet nuttig is, en omgekeerd.’

Larry Page, oprichter van Google, opperde dat 75 zeer vermogende mensen, onder wie hijzelf, het technologisch lot van de wereld kunnen bepalen. Dat klonk mij gevaarlijk.

‘Ja, dat heeft de potentie van gevaar. Veel geld is geen voorwaarde voor succes, maar als je op een goed spoor zit, helpt geld wel. Ik zat aan een diner met iemand die sprak namens de Nederlandse Organisatie voor Wetenschappelijk Onderzoek. Hij zei: ik ga over zevenhonderd miljoen. Er zat ook iemand van ibm aan tafel. Die kon toen niets anders zeggen dan: ik ga over zeven miljard. Dat is wel een verschil.

Maar het gaat ook om intentie. ibm zegt dat het elk jaar zeven miljard uitgeeft aan onderzoek en ontwikkeling, ook als het niet goed gaat. Daarmee heeft het bedrijf doorzettingsmacht. ibm heeft een duidelijke strategie. Eerst bouwden ze de schaakcomputer Deep Blue, als voorbeeld van een intens rekenprogramma, daarna ontwikkelden ze de Watson, als voorbeeld van een lerende computer. Ze zetten iets neer en rollen het uit. ibm zal het systeem niet te gronde richten, want ze zijn er zelf te veel afhankelijk van. Bij Google weet je het niet, die zijn vrijer en frivoler. Daardoor is het gevaar dat Google het systeem oprolt een stukje groter.’

In mijn ervaring zien mensen amper verschil tussen al die grote Amerikaanse technologieconcerns. Ze boezemen allemaal ontzag en angst in.

‘Toch moet je ze niet op één hoop gooien. Ze komen van radicaal verschillende perspectieven. Een bedrijf als Amazon of Uber brengt uit zichzelf geen vernieuwende technologie. Het gebruikt eerst bestaande technologie om een doel te bereiken. Hun succes komt van de uiterst agressieve manier waarop ze bepaalde business­taboes omver kegelen. De innovatie zit in het businessmodel. Pas daarna, in tweede instantie, gaan ze technologie ontwikkelen om een unieke positie in te nemen. Google daarentegen is van zichzelf een zoekmachine. Zij zijn technologische innovators. Ze hadden de beste zoek­machine gebouwd die er was, maar ze waren compleet failliet gegaan, net als Apple, als ze niet ook aan businessinnovatie hadden gedaan. Bij Google zijn ze geld gaan verdienen met reclameveilingen. Vanaf dat moment waren ze geen zoekmachine meer, maar een reclamebureau. Maar hun oorsprong komt van intellectuelen die iets moois hebben verzonnen.

Nu zijn al deze bedrijven zo groot geworden dat ze meer op elkaar gaan lijken. Ze verdedigen allemaal hun positie met alle mogelijke middelen. Maar hun verschillende afkomst verraadt een radicale benadering die ons in Nederland vreemd is. Wij gaan in het midden zitten, we gaan niet diep zoals Google, en we gaan niet ver zoals Uber. Kijk naar Philips. Daarmee red je het niet in het internationale geweld en daarom worden Nederlandse bedrijven niet groot.’

Is ook dat een kwestie van cultuur?

‘Toen wij met Commit onze technologieshow in Trouw organiseerden, besteedden wij, zoals dat betaamt, veel aandacht aan de ethiek van de producten. Allerlei mensen prezen ons daarvoor. Maar uit de hoek van de economische groeibevorderaars klonk: is dit nu echt belangrijk? Toen realiseerde ik het me pas goed: wij in Nederland hechten aan ethiek op voorhand. De Amerikanen veroveren eerst de markt, en dan pas beginnen ze een discussie over ethiek.’

WIE ZICH wetenschappelijk bekwaamt in informatica kan er niet omheen dat het internationale bedrijfsleven ten minste zo vaak de toon zet als de universiteit. Arnold Smeulders opereert als vrije geest tussen academia en bedrijven overal ter wereld, waaronder Azië en het Midden-Oosten. De cultuurverschillen zijn groot, zegt hij. Sommige landen zijn van oudsher cultureel geworteld in wiskunde of statistiek, denk aan Rusland, Vietnam of India. ict kan in deze landen een enorme vlucht gaan nemen en ons misschien wel voorbij streven. Cultuur is daarbij volgens Smeulders doorslaggevender dan geld. Hij trekt die les uit ervaringen met het Midden-Oosten, waar sjeiks wel de buidel trekken voor programmatuur, maar niet weten hoe ze die vruchtbaar moeten implementeren.

Maar het maatschappelijk bewustzijn in Europa, en zeker in Nederland, houdt nog steeds te wensen over, vindt hij. We ervaren een overmacht van Amerikaanse technologiereuzen, maar hoe we ons daartegen moeten wapenen? Waarom wordt daar in de politiek zo weinig over gesproken, vraagt Smeulders zich af.

Neem het bedrijf Qualcomm waaraan hij zijn vinding verkocht. Bij deze gigant werken wereldwijd 26.000 mensen die zich toeleggen op de ontwikkeling van chips in mobieltjes. Naar schatting een derde van het personeelsbestand is gepromoveerd in technologie. Nog eens een derde heeft een juridische achtergrond. De rest is ondersteunend. Het betekent dat Qualcomm maar twee dingen doet: ontwikkelen en beschermen. Er komt geen concurrent in hun buurt.

Wie tachtig procent van de markt voor mobieltjes bedient, is feitelijk een monopolist.

‘Zo kun je ze gerust bestempelen. Ze hebben een beperkt aantal klanten en die hebben kennelijk geen baat bij concurrentie. Dat zien we vaker. Bij iedere technologiesprong vormen zich monopolies. Het speelde bij de opkomst van de stoommachine en bij de opkomst van elektriciteit. In de jaren tachtig werd de Amerikaanse telefoonaanbieder Bell van overheidswege gesplitst. Dertig jaar later is de concurrentie moordend in de telecomsector. In het geval van een essentiële technologische vooruitgang zie je altijd tijdelijke monopolies ontstaan. Op enig moment verdwijnen die.’

We hoeven dus ook ditmaal niet te vrezen?

‘Vrees is een term die afhangt van hoe je zelf in elkaar zit. Maar de signalen moeten wel gelezen worden. Als je het hebt over Google, Apple, Facebook, Ebay en Amazon kun je echt spreken van een oligarchie. Het is een heel grootschalig conglomeraat. Je kunt dit niet zomaar eindeloos toelaten.’

Is het een politiek vraagstuk?

‘Dat vind ik wel. Het zijn allemaal partijen die vijftig procent van hun markt in handen hebben. Zie de volstrekt onredelijke winstmarges van Apple. Sommigen zullen zeggen: er zijn te veel bedrijven om van een monopolie te kunnen spreken. Of: de concurrentie binnen de oligarchie is moordend. Natuurlijk, maar dat betekent niet dat het geen oligarchie is. Allemaal hebben ze tegenspelers, maar samen is het systeem rond informatie op een niveau hoger weer monopolistisch. Dat is zorgwekkend.

Het is in mijn ogen heel reëel om een monopoliedebat te beginnen. Neelie Kroes heeft goed werk verricht. De stappen die zij in Europa heeft gezet hebben echt bijgedragen om dit probleem aan de orde te stellen, zij het dat de stapjes altijd nog kleiner waren dan de voorsprong die de grote technologieconcerns hadden. Europa is nu aan zet.’

Het lijkt er inderdaad op dat de EU formele antitrustmaatregelen tegen Google gaat ondernemen. Maar Rusland en China doen veel meer; zij bouwen hun eigen technologie en hun eigen zoekmachine.

‘Vergeet niet dat er ook een Frans initiatief is geweest voor een eigen zoekmachine: Quaero, geïnitieerd door Chirac. Daar is tweehonderd miljoen aan verstookt. Ik heb het wel eens uitgezocht dat achthonderd mensen hun video hebben bekeken. Het is knap om met zo veel geld zo weinig belangstelling te trekken.

Quaero is dus mislukt, maar Yandex, de Google van Rusland, leeft. Russen zijn heel goed in data mining. Yandex verdient zich scheel. Ze doen het ook slim. In Turkije zijn ze een Turkse zoekmachine begonnen onder een Turkse naam. Niemand weet dat er een Russisch bedrijf achter zit. De blinde vlek van Amerika is dat ze denken dat de hele wereld op The American Way zit te wachten. Dat is hooguit deels het geval. Amerikanen lijken maar niet te begrijpen dat ze de agressie deels over zichzelf afroepen.

Yandex zal ongetwijfeld staatssteun ontvangen. Het Chinese Baidu vast ook. De Amerikanen hebben daar kritiek op. Maar dat wil nog niet zeggen dat Google zo verschrikkelijk neutraal is. Die zijn al lang too big to fail.’

De macht van Google zal mede worden beperkt doordat landen als China, Rusland en Turkije daar hun eigen macht tegenover stellen?

‘Ja, zeker. Het is alleen de vraag of dat nu het meest wenselijke is. Het is een nationalistische diversificatie. Maar de democratie is er juist mee gebaat dat we zelf, los van wat er in China gebeurt, diversificatie inbouwen. Dat is een belangrijk thema voor technologie. Denk niet dat Google met de antwoorden op de vragen die jij stelt geen maatschappelijke keuze inneemt. Informatie is niet waardenvrij.’

Oprichters Page en Brin maken er allerminst een geheim van dat Google een ideologisch geladen bedrijf is.

‘Inderdaad. En Facebook is nog veel erger. Facebook neemt een extreme positie in. Dat het hoogst verwerpelijk is als je jezelf anders voordoet dan je bent. Maatschappelijk gezien is dat toch een heel rare stelling. Ik doe me in gezelschap altijd enigszins anders voor, zelfs bij mijn vrouw. Wie niet? Of neem het Google-syndroom. Google huist in spierwitte gebouwen, alsof ze onschuldig zijn. Ze kunnen geen andere strategie hebben dan deze illusie te wekken, want ze zitten tussen jou en de data. Google doet alsof het honderd procent betrouwbaar is. Maar de wereld gaat er nog achter komen dat ze een interpretatie bieden. Hun algoritmen werken door de voorbeelden die ze krijgen toegediend. Dat lijkt misschien objectief omdat het berekend wordt, maar iedere bibliothecaris heeft z’n eigen humeur. Door de voorbeelden en voorkeuren die je er al dan niet bewust in stopt, zit er toch een zekere voorkeur in. Zo’n bias is een zeer hard historisch mechanisme. Want uiteindelijk wil iedereen vooral horen wat-ie wil horen, en niet wat hij niet wilde horen.

Wij kunnen helemaal niet leven met absolute waarheden. Algoritmen van Watson voeden zich nu met voorbeelden, niet met onomstotelijke feiten. Ze werken met vooroordelen, net zoals mensen dat doen. De betrouwbaarheid neemt af, er is geen andere oplossing.’

HET IS EEN KERNPUNT in Smeulders’ betoog: computers moeten niet de overhand krijgen, en daar moeten wij mensen actief voor zorgen. Op hetzelfde moment dat Google bekend maakt dat het in zijn zoekresultaten voorrang zal geven aan websites met de meeste controleerbaar juiste feiten, vraagt Smeulders aandacht voor de andere kant. ‘Als we streven naar meer cognitie met behulp van ict’, zegt hij, ‘zullen we belangrijke fouten in het systeem moeten introduceren. Anders wordt het onmenselijk.’

Het is een uiterst actuele discussie. Moeten we vrezen voor de opmars van kunstmatige intelligentie, of gaat de computer ons juist een prettiger en gemakkelijker leven bezorgen? Gaan computers ons straks voorbij, en rest voor ons mensen een duister hoekje aan de rand van het universum? Het is essentieel dat we begrijpen hoe de computer zich nu ontwikkelt, vindt Smeulders. De machine wordt almaar slimmer. ‘Ik ken een hoogleraar ict die ooit zei: straks gaan computers de rechters vervangen. Ik mag hopen dat dit nooit gaat gebeuren. Je wilt toch door een mens gewogen worden?’

Want de mens kan mededogen voelen?

‘Wat is dat, mededogen? We zitten in een fase waarin ontzettend veel begrippen van betekenis gaan veranderen vanwege de computer. Elke technologie met grote impact bevraagt de terminologie. Neem beademingsapparatuur. Als je vindt dat iemand die niet meer ademt dood is, zul je eerst de definitie van dood moeten veranderen, voordat je de technologie kunt invoeren. Anders moet je ophouden met behandelen. Zo denk ik dat de computer ons begrip van alle cognitieve functies gaat veranderen. Denk aan redeneren. Is het redeneren van de computer hetzelfde redeneren als mensen doen? Het antwoord is: nee. De computer redeneert uitsluitend volgens formele systemen. Informele systemen, zoals: dat snapt iedereen, daar doet de computer niet aan.’

Redeneren wordt koeler, logischer?

‘Ja. De computer laat het gevoelsmatige deel van redeneren buiten beschouwing. Daar ontstaat als het ware een vacature die niet vervuld is. Dat heeft natuurlijk gevolgen. Vergelijk het met de introductie van de stoommachine. Voor de komst van de stoommachine was er geen onderscheid tussen fysieke en mentale energie. Mensen kenden geen andere realiteit. Technologie snijdt wat ooit holistisch was in tweeën. Steeds weer. Wij koppelen energie nu primair aan fysieke energie en pas in de tweede plaats aan mentale energie. Vroeger was dat een geheel. Met als gevolg dat de sterke mensen ook het machtigst waren. Door de scheiding tussen fysiek en mentaal werden de mentaal sterken machtiger. Een mannetje met een grote mond kon de baas over de domme krachten worden. Iets dergelijks gebeurt nu opnieuw.’

Ik kan mij ook voorstellen dat we juist meer waarde gaan hechten aan eigenschappen die de computer niet heeft. Dat emotionele mensen bijvoorbeeld machtiger worden.

‘Dat vind ik ver gaan. Maar het is zeker zo dat er nieuwe vacatures ontstaan op gebieden waar de computer niets kan. Dus het is best mogelijk. De mensheid is steeds op zoek naar zelfrechtvaardiging, dat is een belangrijke drijfveer. Waarom zijn wij hier, wat maakt ons uniek? Onze positie is steeds opgeschoven. Eerst waren we niet langer in het centrum van het heelal, toen niet langer in het centrum van het dierenrijk, en verrek, nu zijn we ook niet meer in het centrum van het conceptuele rijk.’ Lachend: ‘Dat is voor de mensheid een klap in het gezicht.’

En de computer raast gewoon voort.

‘De wijze van redeneren ligt vast in de computer, die verandert nauwelijks. Wat wel groeit, is kennis. Daar is de computer ook heel sterk in. We zijn inmiddels zo ver dat de computer gemiddeld meer weet dan een mens, specifieke deelterreinen uitgezonderd. Alle kennis is gestold in data of programmatuur. En als er iets in het programma moet wijzigen, verandert in feite ook de kennis in de wereld. Dus de computer documenteert de redenering en de kennis op detailniveau nu meer dan de mens. Dat komt ook doordat de computer alles kan onthouden. De computer houdt, onthoudt en laat de kennis desgewenst overal ter wereld verschijnen.’

Veranderen onthouden en geheugen daarmee ook van begrip?

‘Het is een essentieel onderdeel van het menselijk bestaan dat wij vergeten. Zodat we, als we ruzie krijgen in dit gesprek, volgende maand of anders over vijf jaar toch weer verder kunnen. Maar een computer doet dat niet. Daarom speelt dat nu op in rechtszaken. Conflicten oplossen wordt veel moeilijker. De computer moet vrijwillig een deel van zijn cognitieve vermogens inleveren, om een hoger doel, namelijk een menselijk bestaan, mogelijk te maken.

We moeten hierover nadenken, want de cognitieve functies ontwikkelen zich snel. Neem interactie, het deel van de computer dat de kennis weer teruggeeft aan de wereld. Dan moet je denken aan een beeldscherm, een robot, een stoplicht. Die zijn nu nog lang niet zo geavanceerd als de mens, we zitten hier op kleuterschoolniveau. Maar dat gaat veranderen. Strelen komt op. En de plaatjes die een computer maakt, zijn al bijna niet meer van echt te onderscheiden. Wat beschouwen we dan nog als echt?’

Gaat de computer voorbij aan de mens?

‘Het is een belangrijk punt waar mensen zich zorgen over maken. Onze ervaringen met beeldherkenning waren wat dat betreft heel leerzaam. Aanvankelijk maakte ons programma erg domme fouten. Het verwarde een koelkast met een koe omdat er iets zwart-wits op zat. Dat vonden mensen zo dom dat ze de technologie meteen afdeden. Totdat het programma twee achterlichten van een auto verwarde met een fiets, toen was de waardering opeens groot, omdat het begrijpelijke fouten ging maken. De mensen vergaven de computer zijn fouten.

Als we doorschieten naar helemaal geen fouten meer, dus als het beeld alles correct herkent, wordt de computer supermenselijk. Dan krijg je vanzelf een tegenbeweging, daar ben ik van overtuigd. De mens wil niet dat de computer ons leven inricht. De basiswaarden van de mensheid zullen veel sterker blijken dan mensen in de technologiesector nu voor mogelijk houden. Ik denk aan zaken als vergeten, geborgenheid, hechting. De vorm waarin die waarden zich manifesteren kan veranderen. Ik geloof best dat een bedrijf of een instantie belangrijker kan worden dan een natie. Maar de behoefte aan een vorm van nationalisme zit gewoon heel diep.

Technologie kan dingen ter discussie stellen. Maar de elementaire principes van de menselijke conditie zullen niet veranderen. Jaloezie verdwijnt niet. Technologie kan er hooguit voor zorgen dat het zich op iets anders richt, of dat het zich op een andere manier uit.’

Mensen die denken dat de singularity nabij is, waarna de computer het van de mens gaat overnemen, vergissen zich dus?

‘Ja, als dat al zo zou zijn, komt er een tegen­beweging op gang.’

GAAN WE STRAKS alsnog de computers met bijlen te lijf, uit haat voor de machine? Of gaan we juist doelbewust afzien van mogelijkheden die de computer ons in beginsel biedt, om de menselijkheid te redden van de ondergang? Smeulders vermoedt dat laatste. ‘Ik denk dat we informatiebronnen van elkaar zullen gaan scheiden. Dat sommige dingen door impliciete verbodsbepalingen onkenbaar zullen blijven. Want het gewicht verschuift. De redeneermethoden van de computer blijven hetzelfde. A plus B is C. Maar wat A is en wat B is, dat komt van buiten, dat zijn de data. Die gaan we aan banden leggen, zodat je niet alles met alles mag verknopen. En dat wordt in mijn ogen een grote beweging, veel groter dan nu wordt voorzien. Want je wilt helemaal niet alles weten over iemand. Dat is buitengewoon onaangenaam.’

Op dit moment denken mensen nog: ach, die data van mij mogen ze hebben. Maar als die straks ook binnenkomen via sensoren, en als zelflerende computers associatief leren denken, blijft helemaal niets meer geheim.

‘Zodra individuele mensen begrijpen dat de framing totaal is gaan ze de dag erna alles afzeggen. Want dat is heel dicht bij een gevangenis.’

U zegt: we gaan die superintelligentie begrenzen. En als die begrensd is, zijn we dan weer terug bij af?

‘Nou, hopelijk hebben we dan een aangenamer leven op de planeet. Want dat is gelukkig ook een rode draad in de geschiedenis van de technologie, dat ze ons leven wel degelijk beter en prettiger maakt.’

Beeld: Femke van Heerikhuizen

Dit verhaal verscheen in De Groene Amsterdammer van 3 juni 2015