STT 92 – deel 2; De computer zegt nee

In het tweede deel van de verkenning AI ligt de nadruk op de maatschappelijke impact van AI. Creativiteit en het creëren van toekomstbeelden staan hierin centraal. De input hiervoor kwam uit een aantal scenarioworkshops met vertegenwoordigers uit verschillende domeinen. Daarin werd gediscussieerd over vragen zoals wat het beste en het slechte was dat dankzij AI zou kunnen gebeuren. Deze informatie is vertaald naar tot de verbeelding sprekende, realistische scenario’s, die ook voldoende van elkaar afwijken.

Stuwende krachten

In de verkenning wordt uiteindelijk toegewerkt naar de vraag: “Welke toekomst willen we?”. Om te weten wat we willen, moeten we weten welke toekomsten mogelijk zijn. En om te weten welke toekomsten mogelijk zijn, moeten we weten welke factoren daarop van invloed zijn en wat er qua technologie mogelijk is. Daarom is deze toekomstverkenning in drie delen opgebouwd. Vanuit het eerste deel van de verkenning zijn allerlei tegenstellingen gefilterd, zoals narrow intelligence versus general intelligence, explainable AI versus unexplainable AI en government surveillance vs corporate surveillance. Op basis van die tegenstellingen is vervolgens een aantal drivers geformuleerd, te weten ‘strategische belangen’, ‘acceptatie van de technologie’, ‘prestatie van de technologie’ en ‘beschikbaarheid van resources’. Die drivers fungeren in de scenario’s als de stuwende krachten die mede bepalend zijn voor de ontwikkelingsrichting van AI.

Morfologisch veld en biases

Bij het uitwerken van de scenario’s is gebruik gemaakt van een morfologisch veld. Een morfologisch veld is te vergelijken met een mengpaneel waarbij de drivers als de schuifjes fungeren, alleen zijn de schuifjes van het paneel niet of nauwelijks zelf te verstellen. Die drivers staan op een bepaalde positie op het mengpaneel. Wijzigt die positie, dan verandert ook het scenario. Daarnaast beïnvloeden die drivers elkaar wederkerig. Stel dat er geen strategische belangen zijn, dan wordt er ook weinig geïnvesteerd, vallen de prestaties tegen en is de acceptie laag. En vice versa. In de scenario’s komen ook de biases van AI (of beter gezegd de biases van de data die we erin stoppen) ter sprake. Die biases kunnen  de grootste belemmering voor de ontwikkeling van AI worden. Maar het kan natuurlijk ook zo zijn dat we bepaalde tekortkomingen van technologieën in de toekomst gaan accepteren, net zoals we ook in het verleden deden. De constatering dat we veel strenger zijn voor technologie dan voor onszelf sijpelt door de hele studie heen.

Early warning signals

De eerste twee delen van de verkenning leiden uiteindelijk tot vijf verschillende scenario’s. Deze scenario’s zijn in feite al ingezet en van alle vijf zijn de early warning signals al zichtbaar. De scenario’s geven aan welke kanten de ontwikkeling van AI op kan gaan en in hoeverre dat afhankelijk is van de maatschappelijke context. Zoals hoe de verhouding is tussen mens en technologie of wie de controle heeft. Die maatschappelijke context bepaalt hoe AI wordt ingezet. De keuzes die we nu maken, zijn daarom bepalend voor de toekomst. En die toekomst is misschien al dichterbij dan we denken.

Scenariotool

De vijf scenario’s uit het tweede deel van de verkenning naar de ontwikkeling van AI staan inmiddels online op de website www.detoekomstvanai.nl. Daar is ook de speciaal ontwikkelde scenariotool te vinden waar mensen aan de hand van stellingen kunnen aangeven hoe zij verwachten dat de toekomst eruit zal komen te zien en wat daarvan de consequenties zijn.
De tekst is ook als pdf te downloaden.