‘s Werelds meest betrouwbare robot

13 maart 2020

Op 4 maart kwam Young STT voor de eerste keer dit jaar bijeen. Ditmaal voor een lezing door drs. Marieke Schoots van Tilburg University. Marieke Schoots vertelde ons over het belang van de social sciences binnen het technologiedebat, en dan in het bijzonder in het debat over AI.

Onzekere toekomst

We leven in een tijd waarin de toekomst onzeker is. De technologie ontwikkelt zich in sneltreinvaart en het is nog maar de vraag op welke wijze de arbeidsmarkt gaat veranderen als gevolg van de toenemende invloed van technologie. Des te belangrijker is het dat er nagedacht wordt over normen en waarden binnen technologie. Want als AI in toenemende mate ons leven gaat beïnvloeden, kan het maar beter een betrouwbare AI zijn. En hier komen de social sciences om de hoek kijken. Want we hebben niet alleen algoritmes nodig, maar ook een uitwerking daarvan; een inbedding in de maatschappij. Hierbij moet technologie niet als doel op zich beschouwd worden, maar als middel om een doel te bereiken.

TrusTee

Wanneer technologie steeds meer taken van ons overneemt, wie is dan de eindverantwoordelijke? Neem het geval van een zelfrijdende auto, is dat de programmeur? Of de auto zelf? Kan een systeem zelf beslissingen maken? Wie zorgt ervoor dat de juiste normen en waarden in een systeem geprogrammeerd worden, en wie beslist eigenlijk wat de ‘juiste’ normen en waarden zijn?
Vanuit Tilburg University wordt nagedacht over wat betrouwbare technologie inhoudt. Marieke Schoots liet ons kennismaken met TrusTee, het gezicht wat Tilburg University aan deze betrouwbare technologie heeft gegeven. Het streven is om vanuit verschillende vakgebieden design principles te ontwikkelen om zo tot een systeem te komen die onze normen en waarden nastreeft.

Vertrouwen

In de discussie die daarop volgde brainstormde Young STT over de definitie van vertrouwen, en wat TrusTee zou moeten zijn. In deze discussie werd duidelijk dat betrouwbaar zijn en betrouwbaar overkomen twee geheel verschillende dingen zijn. Ook hangt het er nogal vanaf waar het systeem voor ingezet moet worden; een medische TrusTee zal logischerwijs andere waarden hanteren dan een militaire TrusTee. Misschien zou het doel van TrusTee moeten zijn om een betere mens te creëren. Wij handelen immers met de wet als leidraad, maar onze acties zijn maar al te vaak een weerspiegeling van onze persoonlijke belangen en drijfveren, in plaats van onze idealen.

Voor meer informatie over TrusTee en het Impactprogramma van Tilburg University, klik hier.