Promovendus AI en ethiek: Hoe krijgt ethiek een goede plek in datagedreven organisaties?

Joris Krijger is adviseur kunstmatige intelligentie en ethiek voor de Volksbank en promovendus aan de Erasmus Universiteit. In gesprek met David van Overbeek gaat hij in op wat zijn werk als adviseur precies inhoudt: “Ik kijk naar hoe we ethiek kunnen gaan operationaliseren, een plek kunnen geven in de organisatie.” Welke uitdagingen liggen er op dit gebied?

Krijger neemt het begrip ‘eerlijkheid’ als voorbeeld. “Wiskundig gezien kun je eerlijkheid op 21 manieren definiëren en dat zijn definities die elkaar soms uitsluiten.” Welke vorm van eerlijkheid wil je meenemen en welke niet? “Heel belangrijk hierbij is dat algoritmes niet onwenselijk gaan discrimineren, onderscheid gaan maken dat je niet wil. Want, zo stelt Krijger: “Wat een data scientist doet, is zoveel mogelijk discrimineren.” Maar hoe doe je dit op een verantwoorde manier?

Verantwoordelijkheid ziet Krijger als de sleutel tot het heroveren van vertrouwen in de financiële sector. “We verliezen onszelf al snel in abstracties, in begrippen als verantwoordelijkheid en eerlijkheid, in data science en in modellen.” Hoe zorgen we ervoor dat kwetsbare groepen worden meegenomen en zij de onverantwoorde risico’s nemen ter verantwoording worden geroepen?