De toekomst van AI: aanpak van het onderzoek

Menselijke besluitvorming komt tot stand door verschillende componenten. Naast feitelijke kennis spelen de beeldvorming en ambities van de betrokkenen in het besluitvormingsproces een rol. De invulling van deze componenten is sterk aan verandering onderhevig. Daarbij hebben deelnemers aan besluitvormingsprocessen vaak uiteenlopende ideeën over de werkelijkheid. Wat voor de één een onweerlegbaar feit is, is voor de ander discutabel. In dat opzicht zou je kunnen stellen dat automated decision making de nodige objectiviteit kan inbrengen. De vraag blijft echter in hoeverre AI menselijke besluitvormingsprocessen kan overnemen. En in hoeverre we dit kunnen en willen toestaan.

De toekomst wordt vaak gezien als iets wat ons overkomt, maar het is eigenlijk iets waar we als mens zelf sturing aan kunnen geven. De ambitie van deze toekomstverkenning is om met een multidisciplinaire groep experts te werken aan een formulering van de gewenste toekomst van AI en daarbij in kaart te brengen wat ervoor nodig is om deze toekomst te kunnen bereiken.

Dit heeft geleid tot het volgende drieluik:

Wanneer het over de toekomst van AI gaat lijken er maar twee smaken te bestaan: de utopie en de dystopie. Vaak starten deze discussies met ethische vragen, terwijl de vraag of de technologieën deze scenario’s in de toekomst daadwerkelijk kunnen waarmaken wordt overgeslagen. De focus in deel 1 ligt daarom op de technologieën:

Hoe verhoudt AI zich tot menselijke besluitvorming en op welke wijze gaat AI zich in de toekomst ontwikkelen?

Hierbij is gebruik gemaakt van technology forecasting. Aan de hand van literatuurstudies en expertinterviews zijn de meest reële ontwikkelingsrichtingen van de technologieën in kaart gebracht (scope 0-10 jaar). Voor dit deel zijn 40 experts geraadpleegd, van AI-experts en neurowetenschappers tot psychologen en bestuurskundigen.

De vormen waarin AI in de toekomst zal worden ingezet, zijn afhankelijk van de maatschappelijke context. Naast de utopische en dystopische visie zijn er meerdere toekomstvisies te onderscheiden. De focus in deel 2 ligt daarom op de uitwerking van mogelijke toekomstscenario’s:

Welke implicaties heeft de ontwikkelingsrichting van AI op besluitvorming in de toekomst en welke mogelijke toekomstscenario’s kunnen aan de hand hiervan uiteengezet worden?

Hierbij is gebruik gemaakt van scenarioplanning. Door middel van creatieve sessies zijn meerdere toekomstscenario’s in kaart gebracht (scope 10-20 jaar). Voor dit deel zijn vier scenario workshops georganiseerd waaraan 30 experts uit verschillende vakgebieden deelnamen.

AI kan de eerste technologie worden die zijn eigen ontwikkeling gaat bepalen. Het zou in dat geval belangrijker dan ooit tevoren zijn om de gewenste voorwaarden te bepalen voor de ontwikkelingsrichting. Welke toekomst willen we? De focus in deel 3 ligt daarom op ethische vraagstukken:

Welke ethische vraagstukken spelen een rol bij de impact van AI op besluitvorming in de toekomst en op welke wijze kunnen we ethisch verantwoorde AI-toepassingen ontwikkelen?

Hierbij is gebruik gemaakt van backcasting. Aan de hand van een online vragenlijst is de gewenste toekomst van AI in kaart gebracht (scope 20-30 jaar). Vervolgens is onderzocht welke elementen noodzakelijk zijn om deze toekomst te kunnen bereiken. Voor dit deel is een vragenlijst uitgezet onder drie groepen, namelijk experts, bestuurders en studenten. Deze vragenlijst is meer dan 100 keer ingevuld.

Toekomstverkenningen van Stichting Toekomstbeeld der Techniek (STT) kennen doorgaans een scope van ongeveer 30 jaar. Deze scope heeft niet tot doel om concrete uitspraken te doen over een specifiek jaartal, maar het geeft aan dat de verkenningen zich niet beperken tot korte termijn ontwikkelingen. Het doel is juist om los te komen van de beperkingen in de huidige tijdsgeest. Hiervoor is het nodig om over grenzen heen te kijken en zo de horizon te verbreden en meer toekomstgericht te denken.

Deze verkenning borduurt voort op de inzichten uit eerdere STT-studies naar data, namelijk Dealing with the data flood (2002) en Data is macht (2017). Data vormt de grondstof voor hedendaagse AI-technieken. De vraag is of dit in de toekomst zo zal blijven of dat de technologieën zich in een andere richting gaan ontwikkelen.

Tijdens de verkenning is uitvoerig gebruik gemaakt van de expertise en ervaring van bestuurders en experts uit het werkveld. De volgende multidisciplinaire denktank is geformuleerd:

• Marc Burger, CEO - Capgemini
• Patrick van der Duin, Directeur - STT
• Bernard ter Haar, Buitengewoon adviseur - Ministerie BZK 
• Frank van Harmelen, Professor Knowledge Representation & Reasoning - VU 
• Fred Herrebout, Senior Strategy Manager - T-Mobile
• Marijn Janssen,  Professor ICT & Governance - TU Delft 
• Maria de Kleijn-Lloyd, Senior Principal - Kearney,
  Voorzitter denktank STT toekomstverkenning AI
• Leendert van Maanen, Assistant professor in Human-centered AI - Utrecht University
• Marieke van Putten, Senior Innovation Manager - Ministerie BZK 
• Jelmer de Ronde, Projectmanager SURFnet - SURF 
• Klamer Schutte, Lead Scientist Intelligent Imaging - TNO
• Maarten Stol, Principal Scientific Advisor - BrainCreators

Projectleider Rudy van Belkom heeft zich vanuit STT aangesloten bij de Nederlandse AI Coalitie.