AI heeft geen stekker meer

Welke toekomst willen we met AI? Hiervoor is het belangrijk om de gewenste voorwaarden te bepalen voor de ontwikkelingsrichting van AI. In deel 3 alles over het ontwerp van ethisch verantwoorde AI-toepassingen!

Datum 30 juni 2020
Toekomstonderzoeker Rudy van Belkom

Voorwoord: Een handvat voor de toekomst van AI

Door Maria de Kleijn-Lloyd

Welke AI-toekomst willen we in Nederland? Een bijna onmogelijk te beantwoorden vraag. Want: wat is AI eigenlijk, welke mogelijke toekomstscenario’s zijn er en wie bepaalt op basis waarvan ‘wat we willen’? Het derde deel van het STT-drieluik ‘de toekomst van AI’ gaat over deze derde, normatieve vraag. Waarbij de inzet is om over dit vraagstuk een breed maatschappelijk debat aan te zwengelen. We krijgen namelijk allemaal met AI te maken: direct als gebruikers van apps, maar ook indirect doordat personen en instanties AI gebruiken. Denk aan de dokter die een scan algoritmisch laat analyseren om een diagnose te kunnen stellen. Dit is geen toekomstmuziek; veel is allang mogelijk. De impact is vandaag al groot en zal naar verwachting steeds groter worden. Daarom is het goed om nadrukkelijk aandacht te besteden aan de bijbehorende ethische en maatschappelijke keuzes.

Er wordt al veel werk verzet. De EU heeft met een ‘high level expert group’ de belangrijkste ethische AI-principes, zoals explainability en fairness, al uitgebreid beschreven. Maar daarmee zijn we er niet. Op het niveau van algemene principes is het namelijk relatief makkelijk om het met elkaar eens te zijn: natuurlijk willen we privacy, natuurlijk willen we eerlijke uitkomsten. In het denken over een vitale infrastructuur wordt ook wel gesproken over ‘feel good principles’. Natuurlijk zijn we het eens!

Het wordt pas spannend als we die principes gaan vertalen naar praktische toepassingen. Dan gaat het om twee uitdagingen. Ten eerste: het uitvoerbaar maken van het principe. Wat is bijvoorbeeld een transparant algoritme? Eentje waarvan de hele code – soms vele terabytes – is gepubliceerd, maar die alleen door een select groepje experts kan worden begrepen? Of eentje waarvoor een soort bijsluiter in lekentaal is geschreven met de belangrijkste ontwerpkeuzes, brondata, de werking en de bijwerkingen? Ten tweede: principes die in de uitvoering met elkaar botsen. Transparantie en privacy bijvoorbeeld. En ook hier is de context van belang: medische informatie is van een totaal andere orde dan Netflix-voorkeuren. Wie hakt de knoop door welk principe voorrang krijgt? We moeten met elkaar die spannende stap gaan zetten. Want ontwerpers van algoritmes maken deze keuzes al elke dag.

Dit voorwoord is geschreven middenin de ‘intelligent lockdown’ van de coronacrisis, april 2020. Voor degenen die somberen dat Nederland de boot mist met digitalisering & AI: onze fysieke infrastructuur (van kabels tot cloud) blijkt het aan te kunnen en ook de meeste consumenten en bedrijven schakelen met relatief weinig moeite over naar thuiswerken. We ontwikkelen allemaal heel snel nieuwe digitale vaardigheden. Maar misschien nog wel interessanter is dat we ook massaal via de media deelnemen aan de dialoog over algoritmes en apps. Bijvoorbeeld de ‘appathon’ die het ministerie van Volksgezondheid organiseerde omtrent de corona-app. Hoe maak je deze app zo dat die de privacy van burgers waarborgt, niet misbruikt kan worden én accuraat is? Kan dat allemaal tegelijk? En bedoelen we met accuraat dan ‘geen coronagevallen missen’ (geen false negatives) of ‘niemand onnodig in quarantaine’ (geen false positives)? Zo helpt de actuele situatie, hoe naar ook, ons om een aantal ethische keuzes in AI helder te krijgen. En we doen dat met 17 miljoen Nederlanders. Ik hoop dat we, geholpen door deze studie en vooral ook door de interactieve online onderdelen, deze dialoog gericht en breed verder kunnen voeren om hem te kunnen vertalen in praktische handvatten. Zodat we een AI-toekomst krijgen in Nederland die we niet alleen accepteren, maar ook echt kunnen omarmen.

Maria de Kleijn-Lloyd | Senior Principal, Kearney
Voorzitter denktank STT toekomstverkenning AI

Leeswijzer

Artificiële intelligentie (AI) lijkt een van de meest besproken, maar misschien wel minst begrepen technologieën van dit moment. Het is op sommige vlakken ‘dommer’ dan veel mensen denken, maar op andere vlakken juist veel ‘slimmer’. Een computer als minister-president lijkt nog wat vergezocht, maar AI heeft nu al wel degelijk invloed op onze arbeidsmarkt. ‘AI is here to stay’.Deze intelligente systemen worden nu echter nog te vaak gezien als een doel op zichzelf. De vraag of AI de beste oplossing is voor het probleem wordt hierbij nauwelijks gesteld. Veel mensen lijken er vanuit te gaan dat AI een soort onvermijdelijke natuurwet is, waar we wel iets mee moéten. Koste wat het kost. Wat we hierbij niet moeten vergeten is dat AI zelf niet goed of slecht is, het gaat erom hoe het door mensen wordt ingezet. De vraag is dus wat voor samenleving we willen zijn, gegeven alle technologische ontwikkelingen. De maatschappij zal hoe dan ook fundamenteel veranderen en AI kan ons helpen om het juiste pad te vinden. We moeten alleen nog wel uitvinden waar we dan precies naartoe willen.

Terugblik deel 1

Het overkoepelende karakter van AI maakt het een moeilijk te definiëren begrip. Een eenduidige en internationaal geaccepteerde definitie ontbreekt dan ook. In 2019 lanceerde het Nederlandse kabinet het Strategisch Actieplan voor Artificiële Intelligentie (SAPAI). Dit actieplan beschrijft de voornemens van het kabinet om de ontwikkeling van AI in Nederland te versnellen en internationaal te profileren. In het document wordt de definitie van de Europese Commissie gehanteerd: ‘AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.’ Deze zin staat vol met multi-interpretabele containerbegrippen: Systemen? Intelligentie? Een zekere mate van zelfstandigheid? Specifieke doelen? Toch wordt op basis van deze holistische definitie een volledig actieplan ingericht. Om grip te krijgen op de ontwikkeling van AI is het van belang om begrip te krijgen van de werking en de toepassing van AI.

We zijn daarom in deel 1 van deze toekomstverkenning ‘Duikboten zwemmen niet’ uitvoerig ingegaan op de vragen wat AI is, hoe het werkt, op welke wijze het zich verhoudt tot menselijke intelligentie, in hoeverre menselijke besluitvorming geautomatiseerd kan worden, wat de meest dominante expertopinies zijn aangaande de ontwikkelingsrichting van AI en welke economische en politieke factoren deze ontwikkelingsrichting beïnvloeden. Het doel van dit eerste deel was om een beter geïnformeerde discussie over de toekomst van AI te kunnen voeren.

Terugblik deel 2

Wanneer het over de toekomst van AI gaat wordt er vaak in extremen gedacht: belanden we in de utopie of in de dystopie? Naast het feit dat dergelijke uitersten veel beter werken in films en krantenkoppen, heeft deze tweedeling ook te maken met het idee dat hoewel de kans relatief klein is dat één van de twee ooit zal gebeuren, de mogelijke impact bij beide scenario’s zo groot kan zijn dat deze wel enige reflectie verdient. Dat geldt zowel voor de utopische visie (we hoeven nooit meer te werken) als de dystopische (we worden slaaf van de technologie). Er bestaan echter meerdere smaken.

We hebben daarom in deel 2 van deze toekomstverkenning ‘De computer zegt nee’ meerdere alternatieve realiteiten onderzocht en deze vertaald naar vijf toekomstscenario’s. Er is hierbij sprake van een oplopende intensiteit van AI in de verschillende scenario’s. De beperkte beschikbaarheid aan resources zorgt er in het scenario van Game Over voor dat de belofte die AI ooit was niet wordt waargemaakt. In het scenario van The winner takes all leidt de behoefte aan controle en regulatie ertoe dat AI hoofdzakelijk wordt ingezet als tool om menselijke intelligentie te vergroten. Het streven naar automatisering zorgt er in het scenario van Privacy for sale voor dat de mens op verschillende gebieden wordt vervangen door AI. In het scenario van Robot Rights werken en leven mens en machine op een gelijkwaardige manier samen. AI overstijgt menselijke intelligentie op alle domeinen in het scenario van The Singularity is here. Deze toekomstscenario’s helpen ons om de veranderende relatie tussen mens en technologie beter te leren begrijpen. Ook kunnen we hierdoor juist de wenselijke elementen in de toekomst identificeren, waar we vervolgens samen naartoe kunnen werken.

Waarom deze publicatie?

De wijze waarop AI in de toekomst zal worden ingezet is sterk afhankelijk van de maatschappelijke context. Dit gaat dus niet alleen over de prestaties van de technologieën en de beschikbaarheid van resources, maar ook over strategische belangen en maatschappelijke acceptatie. Wat vaak over het hoofd wordt gezien, is dat we deze context zelf creëren. De keuzes die we in het heden maken hebben grote invloed op de mogelijke toekomsten. Het is daarom van belang om ethische vraagstukken in kaart te brengen en op zoek te gaan naar antwoorden. Wie is er verantwoordelijk wanneer een AI-toepassing de fout ingaat? Kunnen we rechten verlenen aan technologieën? En hoe zorgen we ervoor dat AI-toepassingen vrij zijn van vooroordelen? Gelukkig komen er steeds meer ethische richtlijnen die de ontwikkeling van betrouwbare AI-systemen moeten waarborgen. De vraag is echter hoe je deze abstracte waarden kunt vertalen naar concrete praktijktoepassingen. Momenteel wordt er vooral veel gesproken over ethiek, maar concrete handvatten om het te integreren in het ontwerpproces ontbreken nog. Als we in de toekomst ethisch verantwoorde toepassingen willen gebruiken is het nu tijd om ethiek in praktijk te brengen.

Many researchers will tell you that the heaven-or-hell scenarios are extremely unlikely. We’re not going to get the AI we dream of or the one that we fear, but the one we plan for. Design will matter. — Stephan Talty

Voor wie is deze publicatie?

Deze publicatie is voor iedereen die geïnteresseerd is in de rol van ethiek in het ontwikkelingsproces van AI. Het doel is niet alleen om ethische vraagstukken in kaart te brengen, maar ook om te onderzoeken op welke wijze we in de toekomst ethisch verantwoorde AI-toepassingen kunnen ontwikkelen. Wil je weten op welke wijze we ethiek in praktijk kunnen brengen? En sta je open voor een nieuwe kijk op en aanpak van ethiek? Dan is deze publicatie geschikt voor jou.

Hoe is deze publicatie opgebouwd?

In het eerste hoofdstuk zoomen we verder in op AI & Ethiek. We proberen hierbij de opkomst van ethiek in AI te verklaren en kijken welke ethische vraagstukken er op dit moment spelen. Vervolgens kijken we in hoofdstuk 2 welke ethische richtlijnen er reeds zijn en wat de beperkingen daarvan zijn in de praktijk. In het derde en laatste hoofdstuk kijken we naar een nieuwe visie en aanpak voor de integratie van ethiek in de ontwikkeling van AI. Hierbij kijken we zowel naar het ontwerp als naar het proces.

Lees verder

Lees de volledige publicatie verder op detoekomstvan.ai of download de PDF:

Lees verder
AI heeft geen stekker meer - over ethiek in het ontwerpproces