Dinsdag 16 mei 2023

Technologie & Innovatie

Stefan Buisman

Ethiek in het ontwerp van AI

Kunstmatige intelligentie neemt een enorme vlucht in de samenleving, van ChatGPT tot AI in de gezondheidszorg, logistiek en alle takken van de overheid. Er zijn geweldige kansen, om betere diagnoses te stellen, supply chains te optimaliseren, en ga zo maar door. Tegelijkertijd zien we de impact en ethische risico's toenemen: kunstmatige intelligentie kan leiden tot discriminatie, ontransparante besluitvorming en een gebrek aan menselijke controle. Om AI op een verantwoorde manier in te zetten is het essentieel ethiek in het ontwerp van zowel de techniek als de organisatie eromheen in te bedden. Deze lezing gaat over hoe we by design verantwoorde AI kunnen realiseren.

Essentieel is namelijk om pro-actief om te gaan met ethiek: we moeten vanaf het begin nadenken over welke waarden (denk aan transparantie, eerlijkheid en privacy maar ook bijvoorbeeld zorgzaamheid in een ziekenhuis) belangrijk zijn voor een toepassing. Dat wisselt enorm per context, net zoals hoe deze waarden vertaald moeten worden. Bij een bank die (witwas) fraudeurs probeert op te sporen zal eerlijkheid iets anders betekenen dan bij de overheid die werkzoekenden probeert te ondersteunen, of bij de ontwikkeling van autonome wapensystemen bij defensie. Juist die vertaalslag is moeilijk, zowel in het helder maken van wat die waarden betekenen in een specifieke context als in de afweging tussen waarden. Vaak ontstaan er conflicten, zoals tussen eerlijkheid en nauwkeurigheid van een algoritme, waarbij keuzes of innovaties nodig zijn om er goed mee om te gaan.

Die keuzes gaan over AI zelf, maar ook over hoe de organisatie met AI omgaat. Wordt er blindelings gevolgd wat het systeem zegt? Of is er een vorm van betekenisvolle tussenkomst? Hoe gaan we vervolgens om met die discretionaire ruimte die we willen laten? Ook dat zal per context en per type beslissing verschillen en is iets wat we met bijvoorbeeld richtlijnen kunnen ontwerpen. Aan de hand van voorbeelden uit het bedrijfsleven en de overheid gaan we al deze aspecten af van het verantwoord gebruik van AI. Veel van de uitdagingen zijn niet nieuw, want we moesten altijd al nadenken over de aanpak van fraude, of de verantwoordelijkheden van artsen, maar komen toch in een nieuw licht te staan door AI. Dat vereist actiever ontwerp en dus ook een explicietere discussie over ethiek. Als we dat doen, valt er veel te halen met AI.

Stefan Buijsman is op 20-jarige leeftijd als jongste Nederlander ooit gepromoveerd op de filosofie van de wiskunde. Hij schreef meerdere boeken voor een breed publiek over wiskunde (Plussen en Minnen) en kunstmatige intelligentie (Alsmaar Intelligenter). Nu werkt hij als assistant professor aan de TU Delft aan de ethiek van kunstmatige intelligentie. Veel van zijn onderzoek is interdisciplinair, tussen filosofie en informatica in, en als managing director van het TU Delft Digital Ethics Centre ook midden in de samenleving bij projecten met UWV, Ministerie van Defensie, ICTU en meer.

De samenstellers van het Historisch Sprekers Archief hebben grote zorgvuldigheid betracht bij het verzamelen en citeren van de gegevens die hoofdzakelijk afkomstig zijn uit de archieven van de Koninklijke Industrieele Groote Club en eerder via de website openbaar gemaakte data. Mocht U een aan- of opmerking hebben over de teksten en/of afbeeldingen, dan verzoeken wij u contact op te nemen met de redactie via clubinfo@igc.nl.