De Computer zegt nee

Wat gaat de impact van AI op de samenleving zijn? Om dit te kunnen bepalen moeten we meerdere toekomstbeelden onderzoeken.

Date December 1st 2019

Voorwoord: ‘De discussie over de toekomst van AI kan wel wat variëteit gebruiken’

Door: Patrick van der Duin

Al enige tijd geleden namen toekomstonderzoekers afscheid van het idee dat we de toekomst kunnen voorspellen. Het verleden bevat te veel foutieve voorspellingen om de stelling te verdedigen dat we de toekomst echt kunnen kennen. Maar met de snelle ontwikkeling van artificiële intelligentie (AI) en de rappe verspreiding van toepassingen daarvan, is het vertrouwen in de mogelijkheid om de toekomst te kunnen voorspellen weer nieuw leven ingeblazen. Als we nu nog beter kunnen rekenen, als we nu nog meer data tot onze beschikking hebben en als we de leerprocessen van AI nog verder kunnen verbeteren, dan zou het toch een keer echt moeten gaan lukken? AI die de toekomst van AI voorspelt, hoe gaaf zou dat wel niet zijn? De ultieme vorm van zelfreflectie, de rechter die zichzelf beoordeelt, intelligentie die zichzelf begrijpt!

Of AI ooit zichzelf zal kunnen voorspellen zal de toekomst uitwijzen. De voortekenen zijn echter niet goed. Want ook AI drijft, net als al die voorgaande ‘slimme’ voorspeltechnieken, op historische data. En hoe veel of hoe ‘big’ die data ook mogen zijn, het blijven historische data. Gegevens over vroegere tijden. Toen de wereld anders was, toen we bepaalde concepten en technologieën niet hadden die nu gemeengoed zijn. Een sprekend voorbeeld komt van de Belastingdienst. Daar beschikt men over bijzonder veel data. Door die grote hoeveelheid data slim te combineren en daarop effectieve algoritmes los te laten, weet men bijzonder veel over ons toekomstig ‘belastinggedrag’. Men weet niet alleen precies hoeveel belasting we dit jaar moeten betalen, maar de inschattingen voor volgend jaar zijn ook akelig accuraat. Maar als we de Belastingdienst zouden vragen waarover de Belastingdienst in, zeg 2030 belasting heft, dan zal het antwoord niet gegeven kunnen worden.

Deze vraag geeft precies het verschil aan tussen het voorspellen van de toekomst en het verkennen daarvan. Om toch zicht te ontwikkelen op de toekomst van AI is het daarom beter om de mogelijke toekomsten daarvan te beschrijven. Toekomstonderzoekers maken daarbij vaak gebruik van zogeheten toekomstscenario’s. Die geven niet een antwoord op de vraag hoe de toekomst eruit zal zien, maar op de vraag hoe de toekomst er uit zou kunnen zien. Scenario’s beschrijven mogelijke beelden van en paden naar de toekomst. Uitgaande van de onvoorspelbaarheid van de toekomst betekenen scenario’s dat ze zicht proberen te krijgen op de meervoudige toekomst, in dit geval die van AI. In de jaren ’70 groot gemaakt door Shell, door als enige oliemaatschappij rekening te houden met een mogelijke stijging van de olieprijs als gevolg van schaarste door politieke spanningen in het Midden-Oosten, is anno 2019 de scenario-methodiek een veelgebruikte manier om de toekomst te verkennen.

De huidige toekomst-discourse omtrent AI kan wel wat variëteit gebruiken. Veel rapporten en andersoortige bespiegelingen gaan uit van een nogal eenzijdig toekomstbeeld, waarbij hooguit twee smaken onderscheiden kunnen worden: AI als utopie, waarbij al onze problemen voorgoed tot het verleden zullen behoren omdat ze opgelost worden door AI. Of AI als dystopie, waarbij AI de mens definitief tot inferieur ras zal veroordelen. Strategen, beleidsmakers, beslissers, bestuurders en politici snakken daarom naar een effectief en lonkend handelingsperspectief. Een handelingsperspectief waarbij vooral de mogelijke maatschappelijke en economische omstandigheden die van invloed zullen zijn op de mogelijke ontwikkelingslijnen van AI zichtbaar worden gemaakt. Er bestaat dus geen voorspelbare toekomst van AI, maar een voorstelbare. Deze publicatie met scenario’s over de mogelijke toekomsten van AI maakt dus het ondenkbare denkbaar en het onvoorstelbare voorstelbaar. Wellicht kunnen we de toekomst van AI zelf vorm gaan geven door deze vanuit verschillende toekomstperspectieven bespreekbaar te maken.

Dr. Patrick van der Duin | Directeur, Stichting Toekomstbeeld der Techniek

Leeswijzer

Wanneer je de term artificiële intelligentie (AI) gebruikt, dan krijg je in de meeste gezelschappen wel de aandacht. We willen er allemaal ‘iets’ mee. Maar over wat AI precies is en wat we er precies mee kunnen bestaat geen consensus. Vaak wordt gesproken over ‘de technologie’, maar eigenlijk kun je niet van een technologie spreken. Het is de uitkomst van een aaneenschakeling van verschillende technologieën die gezamenlijk een vorm van intelligentie voortbrengen. Deze kunstmatige vorm van intelligentie kan daarbij op verschillende manieren bereikt worden. Denk bijvoorbeeld aan whole brain emulation (WBE), waarbij getracht wordt een volledig brein in een computer te uploaden. Wanneer het over AI gaat, dan gaat het in de meeste gevallen echter over toepassingen op het gebied van machine learning. Het gaat bij machine learning over een revolutie waarin mensen niet meer programmeren (als dit, dan dat), maar waarin machines zelf regels afleiden uit data. Zonder een grote hoeveelheid data, rekenkracht en algoritmen geen AI. Binnen deze toekomstverkenning richten we ons daarom hoofdzakelijk op machine learning en aanverwante methodieken.

Terugblik deel 1

Het overkoepelende karakter van AI maakt het een moeilijk te definiëren begrip. Een eenduidige en internationaal geaccepteerde definitie ontbreekt dan ook. In 2019 lanceerde het Nederlandse kabinet het Strategisch Actieplan voor Artificiële Intelligentie (SAPAI). Dit actieplan beschrijft de voornemens van het kabinet om de ontwikkeling van AI in Nederland te versnellen en internationaal te profileren. In het document wordt de definitie van de Europese Commissie gehanteerd: “AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.” Deze zin staat vol met multi-interpretabele containerbegrippen: Systemen? Intelligentie? Een zekere mate van zelfstandigheid? Specifieke doelen? Toch wordt op basis van deze holistische definitie een volledig actieplan ingericht. Het is in dat opzicht belangrijker om begrip te krijgen van de werking en de toepassing van AI, in plaats van het begrip te definiëren. We zijn daarom in deel 1 van deze toekomstverkenning ‘Duikboten zwemmen niet’ uitvoerig ingegaan op de vragen wat AI is, hoe het werkt, op welke wijze het zich verhoudt tot menselijke intelligentie, in hoeverre menselijke besluitvorming geautomatiseerd kan worden, wat de meest dominante expertopinies zijn aangaande de ontwikkelingsrichting van AI en welke economische en politieke factoren deze ontwikkelingsrichting beïnvloeden. Het doel van dit eerste deel was om een beter geïnformeerde discussie over de toekomst van AI te kunnen voeren.

Alle vragen die we in deel 1 stelden, hebben een duidelijke overeenkomst: er is geen onomstreden antwoord te geven. Wanneer je het over artificiële intelligentie hebt dan ontkom je er niet aan om het begrip intelligentie nader te onderzoeken. Je komt dan vanzelf bij begrippen als bewustzijn, vrije wil en empathie. Allemaal begrippen waarover de experts het niet eens zijn en waarbij verschillende perspectieven naast elkaar bestaan. Hetzelfde geldt voor het bereiken van Artificial General Intelligence, oftewel human-level AI. Volgens sommige experts is general AI om de hoek, terwijl het volgens anderen nog bijna 200 jaar gaat duren. De ontwikkeling van AI zit vol tegenstellingen. Zorgt AI voor meer autonomie of juist voor meer afhankelijkheid? Gaat AI de mens ondersteunen of vervangen? Kan AI alle problemen in de wereld oplossen of komen er alleen maar meer problemen bij? Etc.

Waarom deze publicatie?

In het debat over AI lijken er maar twee smaken te bestaan: de utopie en de dystopie. Naast het feit dat dergelijke uitersten veel beter werken in films en krantenkoppen, heeft het ook te maken met het idee dat hoewel de kans relatief klein is dat het ooit zal gebeuren, de mogelijke impact zo groot kan zijn dat deze wel enige reflectie verdient. Dat geldt zowel voor de utopische visie (we hoeven nooit meer te werken) als de dystopische (we worden slaaf van de technologie). Er bestaan echter meerdere smaken. Het is daarom van belang om meerdere alternatieve realiteiten te onderzoeken. Toekomstscenario’s kunnen ons helpen om te anticiperen op de uitdagingen die AI ons nu al geeft. Denk bijvoorbeeld aan de automatisering van taken op de werkvloer en het uit handen geven van steeds meer beslissingen aan AI. Hierdoor ontstaat vaak het besef dat de toekomst veel dichterbij is dan we denken. Scenario’s helpen ons om de veranderende relatie tussen mens en technologie beter te leren begrijpen. Ook kunnen we hierdoor juist de wenselijke elementen in de toekomst identificeren, waar we vervolgens samen naar toe kunnen werken.

Many researchers will tell you that the heaven-or-hell scenarios are extremely unlikely. We’re not going to get the AI we dream of or the one that we fear, but the one we plan for. Design will matter — Stephan Talty

Voor wie is deze publicatie?

Deze publicatie is voor iedereen die geïnteresseerd is in de maatschappelijke impact van AI. Het doel is om een overzicht te geven van de verschillende denkbare toekomstscenario’s met AI. De vormen waarin AI in de toekomst zal worden ingezet, is afhankelijk van de maatschappelijke context. Er wordt daarom naast de impact ook gekeken naar de krachten die deze scenario’s voortbrengen, oftewel de drivers. Wil je weten wat de impact van onze huidige keuzes is op de toekomst? En sta je open voor een meer genuanceerde kijk op de toekomst van AI? Dan is deze publicatie geschikt voor jou.

Hoe is deze publicatie opgebouwd?

In deze publicatie wordt onderscheid gemaakt tussen 5 scenario’s. Elk scenario wordt geïntroduceerd door een nieuwsartikel uit de toekomst. Vervolgens worden de drivers verder uitgewerkt en wordt de impact voor verschillende domeinen omschreven, namelijk voor Gezondheid & Zorg, Veiligheid & Beveiliging, Politiek & Bestuur en Werk & Inkomen. Tenslotte worden voor elk scenario de implicaties en early warning signals beschreven. Om de scenario’s te kunnen begrijpen is het raadzaam om eerst het overzicht van de drivers en scenario’s te lezen.

Welk toekomstscenario zie jij?

Wil jij zelf bekijken welk scenario volgens jou het meest realistisch is?

Doe de scenario-test

Over deze publicatie

Lees de volledige publicatie verder op detoekomstvan.ai of download de PDF:

Lees verder
De computer zegt nee - scenario's over onze toekomst met AI