“Interessante vraag”, zegt Ronald Jeurissen, hoogleraar bedrijfsethiek aan de Nyenrode Business Universiteit. “Het antwoord is weinig verrassend: je moet beide doen.” De aanleiding voor de vraag zit in een aantal voorbeelden van grote techbedrijven die overhoop liggen met hun vol trots gepresenteerde ethische teams en deze uiteindelijk min of meer ontmantelen.
Microsoft was het meest recent in het nieuws over het decimeren van het ethisch geweten van het bedrijf. “Niets van waar”, reageerde de perswoordvoering van het bedrijf op vragen hoe Microsoft dan denkt de belofte ethiek een hoge prioriteit te geven. “Er zijn nog altijd honderden mensen actief die aan responsible AI werken.” Het zou gaan om net nieuwe AI-teams en het RAIL (Responsible AI Lifecycle) een groep ethici die ‘embedded’ is bij het team dat verantwoordelijk is voor Microsofts Azure OpenAI Service.
Jeurissen legt uit dat het goed is een paar specialisten te hebben met een opleiding in ethiek en 'behavioral ethics'. Voorheen heette dat moraalpsychologie, voegt hij toe. “Dat is nodig voor de kwaliteitsbewaking van de ethische discussie in de organisatie.” Maar die ethische discussie in de organisatie is minstens zo belangrijk. “Ethiek leeft alleen in organisaties als erover gesproken wordt.”

Voor die ethische discussie in de organisatie is het belangrijk dat die kennis en vaardigheden met betrekking tot ethische overwegingen ook bij de ontwikkelaars zelf aanwezig zijn, zeker bij de ontwikkeling van algoritmen die veel gevolgen kunnen hebben in de maatschappij. Marieke Kootte en Vandana Dwarka, numeriek wiskundigen aan de TU Delft pleitten onlangs nog voor een certificering voor AI engineers. “Verkeerd gebruik van modellen komt vaak door een verkeerde toepassing van wiskundige basisprincipes. En daarnaast een gebrek aan inzicht bij technici wat de maatschappelijke gevolgen kunnen zijn bij inzet van grootschalige auto­matiseringssoftware. Zij hoeven nu geen verantwoordelijkheid te dragen voor beslissingen die op basis van deze modellen zijn gemaakt.” Bij artsen en accountants is dat binnen hun expertise wel gebruikelijk, denk aan de beroepseed.

­­Dwarka en Kootte zien ook meerwaarde in het instellen van een onafhankelijke toetsing buiten de organisatie, om het juiste gebruik van wiskundige en ethische principes te valideren. Een ontwikkeling die niet nieuw is, maar vergelijkbaar is met de implementatie van de stresstest bij banken en de opzet van de risicomanagementpraktijk­­­ na de financiële crisis.