STT 92 – deel 3; AI heeft geen stekker meer

30 juni 2020

‘AI heeft geen stekker meer’ is het derde en afsluitende deel in de reeks over de toekomst van artificiële intelligentie (AI). Waar deel 1 zich voornamelijk focuste op de technologie van AI en deel 2 op de verschillende toekomstscenario’s met AI, gaat deel 3 over ethische vraagstukken die een rol spelen bij de impact van AI op besluitvorming in de toekomst. Er wordt niet alleen gekeken naar welke ethische vraagstukken er rondom AI bestaan, maar ook op welke wijze we in de toekomst tot ethisch verantwoorde AI-toepassingen kunnen komen.

Ethische vraagstukken

Wie is er verantwoordelijk bij een ongeluk met een zelfrijdende auto? In hoeverre kan een robotrechter objectief oordelen? En hoe waarborgen we onze privacy bij het gebruik van tracking-apps? Dit soort vragen spelen een grote rol in het debat over AI en ethiek. Dit zijn enorm complexe vraagstukken, omdat er vaak geen universeel aangenomen waarheid bestaat. Iedereen heeft zijn eigen perspectief en er zijn meerdere ethische stromingen die soms lijnrecht tegenover elkaar staan. Gelukkig komen er steeds meer ethische richtlijnen die de ontwikkeling van betrouwbare AI-systemen moeten waarborgen. Uit deze richtlijnen zijn algemene principes af te leiden, zoals rechtvaardigheid, transparantie, eerlijkheid, betrouwbaarheid en privacy. De vraag is echter hoe je deze abstracte waarden kunt vertalen naar concrete praktijktoepassingen.

Trade-offs

We zijn het er in de basis allemaal over eens dat je bijvoorbeeld niet mag doden. Maar wat doe je als een terrorist 100 mensen probeert neer te schieten? Mag een autonome wapendrone dan niet ingrijpen? In de praktijk zullen er afwegingen gemaakt moeten worden, oftewel trade-offs. Ethische richtlijnen zouden daarom niet alleen moeten gaan over wat we belangrijk vinden, maar ook over hoe belangrijk we verschillende waarden ten opzichte van elkaar vinden. En in welke omstandigheden we dat vinden. Het is geen ‘zero-sum game’ waarbij we het een voor het ander moeten uitruilen, maar er zullen in het ontwerp wel keuzes gemaakt moeten worden. Ethische richtlijnen en principes moeten niet alleen afgevinkt worden, maar daadwerkelijk geïntegreerd in het ontwerpproces, oftewel ‘Ethics by Design’. Alleen zo kunnen we systemen bouwen die in verschillenden situaties ethisch verantwoord kunnen handelen.

Ethisch Ontwerpspel

Een boek over ethiek in het ontwerpproces van AI kan niet bij het geschreven woord blijven. Projectleider Rudy van Belkom werkte daarom samen met de normcommissie AI van de NEN en het lectoraat Artificial Intelligence van de HU aan een ethisch ontwerpspel. Dit spel kan worden ingezet om het gesprek over ethiek beter te stroomlijnen. Het biedt beleidsmakers, ontwikkelaars, filosofen en eigenlijk iedereen met een interesse in ethiek de mogelijkheid om met elkaar in gesprek te gaan over wat belangrijk is. Het helpt om de bewustwording te vergroten van de verschillende stakeholderperspectieven en moet bijdragen aan een meer constructief gesprek over AI en ethiek.

Over deze publicatie

AI heeft geen stekker meer – Over ethiek in het ontwerpproces’ staat inmiddels online. Hier zijn zowel het boek (Nederlands en Engels) als het spel (Nederlands) gratis te downloaden. Voor een fysiek exemplaar van het boek of het spel kunt u een mail sturen aan STT. De prijs van het boek bedraagt €20,00 en van het spel €15,00 (excl. verzendkosten).