Scenario’s over onze toekomst met AI zijn dichterbij dan we denken

17 december 2019

Het tweede deel van de toekomstverkenning over artificiële intelligentie (AI) is inmiddels door projectleider Rudy van Belkom afgerond. Lag in het eerste deel van zijn verkenning de nadruk op de technologie zelf, ligt in het tweede deel de nadruk op de maatschappelijke impact van AI. Hoe kijkt Rudy terug op de afgelopen maanden?

Creativiteit en creëren toekomstbeelden

‘Voor het eerste deel van de verkenning heb ik ontzettend veel gelezen en  tientallen gesprekken met uiteenlopende experts gevoerd. Bij het tweede deel lag de nadruk meer op creativiteit en het creëren van toekomstbeelden. Hiervoor organiseerde ik een aantal scenarioworkshops met vertegenwoordigers uit verschillende domeinen. Met elkaar discussieerden we over vragen zoals wat het beste en het slechte was dat dankzij AI zou kunnen gebeuren. Die workshops zorgden voor enorm veel input en het was even puzzelen om alle informatie goed te kunnen ordenen. Ik heb alle informatie vertaald naar tot de verbeelding sprekende, realistische scenario’s, die ook voldoende van elkaar afwijken. De balans hierin vinden was belangrijk. Mensen moeten namelijk enerzijds voldoende geprikkeld raken door de scenario’s, anderzijds moeten ze niet afhaken omdat de scenario’s te onvoorstelbaar of juist teveel voor de hand liggend zijn.’

Stuwende krachten

Rudy maakte voor het tweede deel van zijn verkenning ook gebruik van de input die hij in het eerste deel verzamelde. ‘In mijn verkenning wil ik uiteindelijk toewerken naar de vraag: “Welke toekomst willen we?”. Om te weten wat we willen, moeten we weten welke toekomsten mogelijk zijn. En om te weten welke toekomsten mogelijk zijn, moeten we weten welke factoren daarop van invloed zijn en wat er qua technologie mogelijk is. Daarom heb ik deze toekomstverkenning in drie delen opgebouwd. Vanuit het eerste deel van de verkenning kon ik allerlei tegenstellingen filteren, zoals narrow intelligence versus general intelligence, explainable AI versus unexplainable AI en government surveillance vs corporate surveillance. Op basis van die tegenstellingen formuleerde ik vervolgens een aantal drivers, te weten ‘strategische belangen’, ‘acceptatie van de technologie’, ‘prestatie van de technologie’ en ‘beschikbaarheid van resources’. Die drivers fungeren in de scenario’s als de stuwende krachten die mede bepalend zijn voor de ontwikkelingsrichting van AI.’

Morfologisch veld

Bij het uitwerken van de scenario’s maakte Rudy gebruik van een morfologisch veld. ‘Vaak wordt bij scenarioplanning het assenkruis gebruikt, maar dan werk je maar met twee tegenstellingen en dat is voor AI te weinig, daarvoor is het onderwerp te complex. Een morfologisch veld is te vergelijken met een mengpaneel waarbij de drivers als de schuifjes fungeren, alleen kunnen we de schuifjes van het paneel niet of nauwelijks zelf verstellen. Die drivers staan op een bepaalde positie op het mengpaneel. Wijzigt die positie, dan verandert ook het scenario. Daarnaast beïnvloeden die drivers elkaar wederkerig. Stel dat er geen strategische belangen zijn, dan wordt er ook weinig geïnvesteerd, vallen de prestaties tegen en is de acceptie laag. En vice versa.’

Biases

In de scenario’s komen ook de biases van AI (of beter gezegd de biases van de data die we erin stoppen) ter sprake. ‘Die biases zouden wel eens de grootste belemmering voor de ontwikkeling van AI kunnen zijn. Maar het kan natuurlijk ook zo zijn dat we bepaalde tekortkomingen van technologieën in de toekomst gaan accepteren, net zoals we ook in het verleden deden. Wij accepteren nu tenslotte ook dat autorijden verkeerslachtoffers tot gevolg heeft. Als je daarover nadenkt, is dat best vreemd. Want een zelfrijdende auto heeft bijvoorbeeld de potentie om minder ongelukken te veroorzaken. Gaat het daarbij een keer mis, dan stoppen we met die ontwikkeling. We zijn dus veel strenger voor technologie dan voor onszelf. Die constatering sijpelt door de hele studie heen. Dat soort inzichten vind ik heel interessant, dat “omdenken” zie ik als een belangrijk doel van deze verkenning.’

Early warning signals

De eerste twee delen van de verkenning leiden uiteindelijk tot vijf verschillende scenario’s. Rudy: ‘Al deze scenario’s zijn in feite al ingezet en van alle vijf zijn de early warning signals al zichtbaar. Ik hoop dat mensen daar hun ogen voor openen. Met de scenario’s wil ik laten zien welke kanten de ontwikkeling van AI op kan gaan en in hoeverre dat afhankelijk is van de maatschappelijke context. Zoals hoe de verhouding is tussen mens en technologie of wie de controle heeft. Die maatschappelijke context bepaalt hoe AI wordt ingezet. De keuzes die we nu maken, zijn daarom bepalend voor de toekomst. En die toekomst is misschien al dichterbij dan we denken. Ik hoop dat we bij elke ontwikkeling goed blijven nadenken over de vraag of AI wel de beste oplossing is en dat we AI alleen voor de goede dingen gaan inzetten.

Verankering

Daarnaast heb ik tijdens het proces gemerkt dat veel mensen het interessant en belangrijk vinden om over de ontwikkeling van AI na te denken en dat ook in verschillende hoedanigheden en in verschillende verbanden doen. Ik wil voorkomen dat we steeds opnieuw met de discussie moeten gaan beginnen. In de laatste zes maanden van mijn verkenning wil ik me dus ook bezig gaan houden met de vraag hoe we die verschillende gesprekken zo constructief mogelijk kunnen maken en hoe ik de uitkomsten van mijn verkenning kan verankeren.’

Scenariotool

De vijf scenario’s uit het tweede deel van de verkenning naar de ontwikkeling van AI staan inmiddels online op de website www.detoekomstvanai.nl. Daar is ook de speciaal ontwikkelde scenariotool te vinden waar mensen aan de hand van stellingen kunnen aangeven hoe zij verwachten dat de toekomst eruit zal komen te zien en wat daarvan de consequenties zijn.

De tekst is ook als pdf te downloaden.