Webinar over AI en ethiek opent nieuwe deuren

3 juli 2020

Op dinsdag 30 juni organiseerde STT in samenwerking met de NEN een webinar over Artificiële Intelligentie (AI) en Ethiek. Deze webinar was tevens het slotsymposium van de toekomstverkenning over de impact van AI op besluitvorming en werd live gestreamed vanuit de Balie in Amsterdam. Projectleider Rudy van Belkom sprak tijdens de webinar over zijn eindpublicatie ‘AI heeft geen stekker meer’ en lanceerde zijn ethisch ontwerpspel.

Geen stekker

De titel ‘AI heeft geen stekker meer’ verwijst naar de controle die we uit handen moeten geven als het om AI gaat; we kunnen niet zomaar meer de stekker eruit trekken. De technologie wordt steeds meer autonoom en dat betekent dat we erop moeten vertrouwen als we het willen blijven inzetten. De vraag hoe we daarmee omgaan en wat we daarvan vinden staat centraal in ethische discussies over AI, en vertaalt zich ook naar ethische richtlijnen die momenteel als paddenstoelen uit de grond schieten. De key requirements die in deze richtlijnen voorkomen zijn weliswaar allemaal belangrijk, maar er zullen keuzes gemaakt moeten worden bij de integratie van deze waarden in het ontwerpproces. De meeste richtlijnen komen daarbij uit het Westen waardoor veel perspectieven ontbreken.

Ontwerpproces

Volgens Rudy is het belangrijk dat de discussie verschuift van ‘wat vinden we belangrijk?’ naar ‘hoe integreren we het?’. Vaak wordt nu bij het denken over het ontwerp van ethische AI nog teveel geredeneerd vanuit een ‘waterval-model’: je stopt er aan het begin van het proces bepaalde waarden in en gaat er vanuit dat deze aan het eind nog in tact zijn gebleven. Maar in werkelijkheid is het meer een iteratief proces: tijdens het proces moet je kunnen bijstellen om zo te kunnen omgaan met onvoorziene implicaties. Een ander probleem bij het ontwerpproces is dat we lijken te vergeten dat AI statistiek is. Neem een voorbeeld als eerlijkheid. Hoe kwantificeer je dat? En wat is een goede uitkomst, een samenleving zonder oneerlijkheid? De vraag is of een samenleving waarin iedereen exact hetzelfde behandeld wordt überhaupt wel eerlijk. In het ontwerpproces moeten doelen dus goed worden geformaliseerd.

Spel

Tijdens de webinar werd ook het andere eindproduct van de toekomstverkenning over AI gepresenteerd: het ethisch ontwerpspel. In dit spel, ontworpen samen met het lectoraat Artifical Intelligence van de HU en de normcommissie Artificial Intelligence & big data van de NEN, worden de spelers door de start-up ‘Ethics Inc’ ingeschakeld om advies te geven over AI-toepassingen zoals de zelfrijdende auto. Daarbij wordt bij het wegen van belangen op zoek gegaan naar spanningen tussen conflicterende waarden, om zo samen na te denken over hoe deze spanningen op te lossen.

Platform AI

Tot slot lanceerde het NEN ook Platform AI, een klankbordgroep die door de normcommissie om advies kan worden gevraagd. Hierbij kan iedereen aansluiten die expert is op een bepaald gebied, om aan te sluiten bij de discussie over ethiek en AI. Via een interactieve poll konden de deelnemers aan de webinar vervolgens hun mening geven over de invulling van het platform.

Geen eindpunt

Rudy hoopt dat de tool het gat kan dichten tussen abstracte waarden en concrete design requirements. Daarbij benadrukt hij dat de lancering van het spel geen eindpunt is, maar juist een begin. Het spel en ook Platform AI geeft mensen de kans om echt betrokken te raken bij het debat over AI en ethiek. Ethiek is geen anker dat je meesleept, maar helpt bij het vormgeven van onze toekomst met AI!

De webinar is hier terug te kijken. Voor meer informatie over en het bestellen van het boek en het spel, klik hier of kijk op www.detoekomstvanai.nl