Wil je dat de AI-systemen die jouw organisatie gebruikt voldoen aan ethische principes? Dan is het van belang om die ethische principes duidelijk te formuleren. Maar wat als de leverancier van het datagedreven model andere ethische principes hanteert? Hoe breng je die verschillende normen en waarden dan op één lijn?

Voor AI-systemen geldt dat ze technisch interoperabel moeten zijn om te kunnen functioneren binnen een specifieke context. Wanneer deelsystemen niet interoperabel zijn, kunnen ze niet succesvol worden geïntegreerd. Ook kan het zijn dat data lastig kan worden gedeeld en daardoor slecht herbruikbaar is. Vergelijkbaar met technische interoperabiliteit, is het ook van belang om zogenaamde ‘Ethische Interoperabiliteit’ in acht te nemen. Danks & Trusilo (2022) beschrijven dit fenomeen als de noodzakelijkheid voor organisaties om te bepalen of de AI-systemen van onder andere haar IT leveranciers consistent zijn met de normen en waarden van de eigen organisatie.

Sterk toenemende aandacht voor het gebruik van AI op een ethisch verantwoorde manier, heeft er in de afgelopen jaren toe geleid dat ethische kaders, richtlijnen en principes als paddenstoelen uit de grond schieten. Hoewel dit een waardevolle ontwikkeling is, zorgt het anderzijds ook voor praktische uitdagingen. Organisaties verschillen namelijk in cultuur, doelstelling en normen en waarden. Wanneer zij verschillende ethische kaders hanteren, kan dit bij een samenwerking leiden tot het schenden van de ethische principes van één van de partijen.

Datagedreven systemen worden vaker niet dan wel in-house ontwikkeld en AI as a Service (AIaaS) groeit. Wanneer organisatie X een AI-systeem wilt implementeren dat aangeboden wordt door organisatie Y, dan is de kans groot dat beide organisaties verschillende ethische waarden hanteren. Ook wanneer overkoepelende ethische principes op nationaal of Europees niveau zijn gedefinieerd, blijft er vraag bestaan naar interpretatie en toepassing van deze principes binnen een context van een organisatie of specifieke use case.

Neem Fairness als voorbeeld. Hoewel dit een tamelijk universeel geaccepteerd principe is, zijn de specifieke interpretaties ervan uiteenlopend. Terwijl het doel is om simpelweg niet te discrimineren op basis van gevoelige demografische kenmerken, is er tegelijkertijd een breed scala aan ‘fairness metrics’ die non-discriminatie op verschillende manieren proberen te realiseren. Hoe weet je dan of het AI-systeem dat jij in gebruik neemt voldoet aan de interpretatie van Fairness, die relevant is binnen de context van jouw organisatie?

Ethische interoperabiliteit verdient de aandacht van elke organisatie die haar eigen ethische principes serieus wil nemen. Wegduiken achter principes van andere organisaties door ‘ethical oursourcing’ dient te worden voorkomen. Terwijl verder onderzoek nodig is om de precieze invulling te duiden, kunnen de volgende aanbevelingen helpen om ethische interoperabiliteit te waarborgen:

Als gebruiker van een datagedreven systeem:

• Zorg voor een specifieke en duidelijke formulering van ethische principes binnen de eigen organisatie.
• Integreer deze formuleringen in de eisen waaraan een bepaald AI-systeem moet voldoen.
• Bevraag leveranciers proactief op hoe het AI-systeem aan deze eisen voldoet.

Daarbij is van belang dat vanuit de leverancier:

• Rekening wordt gehouden met de specifieke use case van de afnemer en aangegeven wordt waar mogelijk ethische risico’s liggen.
• Ruimte wordt gegeven aan de afnemer om te verifiëren of daadwerkelijk aan de ethische vereisten voor het AI-systeem is voldaan, in zoverre dat geen fundamenteel inbreuk maakt op het intellectuele eigendom van de leverancier.