Als AI bepaalt of je moet gaan of mag blijven

28 november 2019

In september 2019 is Evelien Mols aan haar afstudeerscriptie bij STT begonnen en ze hoopt deze eind januari 2020 af te ronden. De eerste maanden besteedde Evelien vooral veel tijd aan het inkaderen van haar onderzoeksvraag. ‘Ik heb een achtergrond in psychologie en doe een master Media Technology. Ik was voor mijn scriptie vooral op zoek naar de combinatie van die twee aandachtsgebieden binnen het brede veld van “artificial intelligence and decision making”. Dat was nog best lastig en dat kostte behoorlijk  wat tijd.’

‘Zomaar’ iets aannemen

Volgens Evelien is het een interessant fenomeen dat mensen ‘zomaar’ dingen van systemen aannemen en hun gedrag daarop baseren. ‘Ik kan daar wel een voorbeeld van geven. Recent was ik op een conferentie over AI en daar vertelde iemand van de gemeente Amsterdam het volgende. In de Amsterdamse binnenstad was een verkeerssituatie gewijzigd waardoor een straat vanaf een bepaalde kant niet meer ingereden mocht worden. Niet veel later belde een mevrouw naar de gemeente met de mededeling dat de verkeersborden verkeerd stonden. Google Maps gaf namelijk aan dat ze die straat gewoon mocht inrijden. Het systeem is dan dus opeens leidend voor mensen. Daar zijn natuurlijk meer voorbeelden van. Zoals autobestuurders die het water in rijden omdat het navigatiesysteem zegt dat ze rechtsaf moeten.’

Algorithmic Authority

Binnen het brede veld van AI koos Evelien uiteindelijk voor het thema van algorithmic authority, oftewel: wat is er voor mensen nodig om autoriteit aan een systeem of aan een algoritme toe te vertrouwen? Evelien: ‘Het is duidelijk dat we soms zonder nadenken informatie van systemen overnemen.  Voor mijn scriptie  wil ik op zoek gaan naar het antwoord op de vraag hoe het komt dat we systemen vertrouwen. Is dat bijvoorbeeld omdat iedereen om ons heen het ook doet? Helaas was dat als onderwerp voor mijn scriptie te breed, dus ga ik me nu specifiek richten op het fenomeen dat mensen op basis van algoritmes ontslagen worden. Om het antwoord op die onderzoeksvraag te krijgen, ga ik een online test ontwikkelen genaamd: “The dismiss decision” en deze aan zo’n 100 à 150 mensen uit mijn netwerk voorleggen.’

1984

Volgens Evelien kan haar onderzoek interessante en relevantie informatie opleveren. ‘Mijn inspiratie was onder meer het boek “1984” van George Orwell. In dat boek gaat het natuurlijk ook over de vraag “Can we pre-program behaviour”. Ook de vraag of mensen de systemen blijven controleren, vind ik interessant.’

Kansen en risico’s

Evelien is erg blij met haar plek bij STT. ‘Rudy van Belkom is natuurlijk bezig met de toekomstverkenning over AI. Het is prettig dat we met elkaar kunnen sparren. Daarnaast mag ik regelmatig mee naar workshops en bijeenkomsten over AI. Tot nu toe heb ik al veel geleerd in mijn tijd bij STT. Ik wist wel wat kunstmatige intelligentie inhoudt, maar ik weet nu nog veel beter hoe belangrijk het is voor bedrijven en hoe ze ermee omgaan. Maar ook dat bedrijven AI soms alleen maar gebruiken om het te gebruiken, zonder dat het een doel dient. Ik heb geleerd waar AI op dit moment staat, wat de ethische en de sociale aspecten zijn en welke toekomstscenario’s denkbaar zijn. Maar vooral dat er veel kansen, maar ook veel uitdagingen bij de inzet van AI komen kijken. Super interessant allemaal!’