AI heeft geen stekker meer

Het overkoepelende karakter van AI maakt het een moeilijk te definiëren begrip. Een eenduidige en internationaal geaccepteerde definitie ontbreekt dan ook. In 2019 lanceerde het Nederlandse kabinet het Strategisch Actieplan voor Artificiële Intelligentie (SAPAI). Dit actieplan beschrijft de voornemens van het kabinet om de ontwikkeling van AI in Nederland te versnellen en internationaal te profileren. In het document wordt de definitie van de Europese Commissie gehanteerd: ‘AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.’ Deze zin staat vol met multi-interpretabele containerbegrippen: Systemen? Intelligentie? Een zekere mate van zelfstandigheid? Specifieke doelen? Toch wordt op basis van deze holistische definitie een volledig actieplan ingericht. Om grip te krijgen op de ontwikkeling van AI is het van belang om begrip te krijgen van de werking en de toepassing van AI.

We zijn daarom in deel 1 van deze toekomstverkenning ‘Duikboten zwemmen niet’ uitvoerig ingegaan op de vragen wat AI is, hoe het werkt, op welke wijze het zich verhoudt tot menselijke intelligentie, in hoeverre menselijke besluitvorming geautomatiseerd kan worden, wat de meest dominante expertopinies zijn aangaande de ontwikkelingsrichting van AI en welke economische en politieke factoren deze ontwikkelingsrichting beïnvloeden. Het doel van dit eerste deel was om een beter geïnformeerde discussie over de toekomst van AI te kunnen voeren.

Wanneer het over de toekomst van AI gaat wordt er vaak in extremen gedacht: belanden we in de utopie of in de dystopie? Naast het feit dat dergelijke uitersten veel beter werken in films en krantenkoppen, heeft deze tweedeling ook te maken met het idee dat hoewel de kans relatief klein is dat één van de twee ooit zal gebeuren, de mogelijke impact bij beide scenario’s zo groot kan zijn dat deze wel enige reflectie verdient. Dat geldt zowel voor de utopische visie (we hoeven nooit meer te werken) als de dystopische (we worden slaaf van de technologie). Er bestaan echter meerdere smaken.

We hebben daarom in deel 2 van deze toekomstverkenning ‘De computer zegt nee’ meerdere alternatieve realiteiten onderzocht en deze vertaald naar vijf toekomstscenario’s. Er is hierbij sprake van een oplopende intensiteit van AI in de verschillende scenario’s. De beperkte beschikbaarheid aan resources zorgt er in het scenario van Game Over voor dat de belofte die AI ooit was niet wordt waargemaakt. In het scenario van The winner takes all leidt de behoefte aan controle en regulatie ertoe dat AI hoofdzakelijk wordt ingezet als tool om menselijke intelligentie te vergroten. Het streven naar automatisering zorgt er in het scenario van Privacy for sale voor dat de mens op verschillende gebieden wordt vervangen door AI. In het scenario van Robot Rights werken en leven mens en machine op een gelijkwaardige manier samen. AI overstijgt menselijke intelligentie op alle domeinen in het scenario van The Singularity is here. Deze toekomstscenario’s helpen ons om de veranderende relatie tussen mens en technologie beter te leren begrijpen. Ook kunnen we hierdoor juist de wenselijke elementen in de toekomst identificeren, waar we vervolgens samen naartoe kunnen werken.

De wijze waarop AI in de toekomst zal worden ingezet is sterk afhankelijk van de maatschappelijke context. Dit gaat dus niet alleen over de prestaties van de technologieën en de beschikbaarheid van resources, maar ook over strategische belangen en maatschappelijke acceptatie. Wat vaak over het hoofd wordt gezien, is dat we deze context zelf creëren. De keuzes die we in het heden maken hebben grote invloed op de mogelijke toekomsten. Het is daarom van belang om ethische vraagstukken in kaart te brengen en op zoek te gaan naar antwoorden. Wie is er verantwoordelijk wanneer een AI-toepassing de fout ingaat? Kunnen we rechten verlenen aan technologieën? En hoe zorgen we ervoor dat AI-toepassingen vrij zijn van vooroordelen? Gelukkig komen er steeds meer ethische richtlijnen die de ontwikkeling van betrouwbare AI-systemen moeten waarborgen. De vraag is echter hoe je deze abstracte waarden kunt vertalen naar concrete praktijktoepassingen. Momenteel wordt er vooral veel gesproken over ethiek, maar concrete handvatten om het te integreren in het ontwerpproces ontbreken nog. Als we in de toekomst ethisch verantwoorde toepassingen willen gebruiken is het nu tijd om ethiek in praktijk te brengen.

Deze publicatie is voor iedereen die geïnteresseerd is in de rol van ethiek in het ontwikkelingsproces van AI. Het doel is niet alleen om ethische vraagstukken in kaart te brengen, maar ook om te onderzoeken op welke wijze we in de toekomst ethisch verantwoorde AI-toepassingen kunnen ontwikkelen. Wil je weten op welke wijze we ethiek in praktijk kunnen brengen? En sta je open voor een nieuwe kijk op en aanpak van ethiek? Dan is deze publicatie geschikt voor jou.

In het eerste hoofdstuk zoomen we verder in op AI & Ethiek. We proberen hierbij de opkomst van ethiek in AI te verklaren en kijken welke ethische vraagstukken er op dit moment spelen. Vervolgens kijken we in hoofdstuk 2 welke ethische richtlijnen er reeds zijn en wat de beperkingen daarvan zijn in de praktijk. In het derde en laatste hoofdstuk kijken we naar een nieuwe visie en aanpak voor de integratie van ethiek in de ontwikkeling van AI. Hierbij kijken we zowel naar het ontwerp als naar het proces.