Waarom is het belangrijk?

Organisaties gebruiken steeds vaker data, algoritmes en AI om processen te verbeteren, besluiten te ondersteunen en dienstverlening persoonlijker of efficiënter te maken. Naarmate technologie meer invloed krijgt op mensen, neemt ook de verantwoordelijkheid toe. Een toepassing kan technisch goed functioneren en toch ongewenste gevolgen hebben. Een algoritme kan bijvoorbeeld bepaalde groepen systematisch benadelen. Een AI-systeem kan persoonsgegevens op een ongewenste manier verwerken. Of medewerkers kunnen onvoldoende weten wanneer zij de uitkomst van een AI-systeem wel of niet kunnen vertrouwen.

Verantwoord gebruik helpt organisaties om dergelijke risico's vooraf te herkennen, beheersbaar te maken en gedurende de hele levenscyclus van een toepassing te blijven volgen. 

Uitdagingen bij verantwoord AI-gebruik

Verantwoorde Data en AI betekent dat organisaties data, algoritmes en kunstmatige intelligentie inzetten op een manier die transparant, uitlegbaar, rechtvaardig en zorgvuldig is. Daarbij gaat het niet alleen om technische prestaties, maar ook om aspecten zoals privacybescherming, menselijke maat, non-discriminatie, toezicht, verantwoording en compliance. Organisaties moeten kunnen aantonen dat zij AI-systemen beheersen, risico's identificeren en rekening houden met maatschappelijke impact. Organisaties lopen bij de inzet van data en AI vaak tegen vergelijkbare uitdagingen aan:

• Voldoen aan de AI Act en AVG
• Het uitvoeren van een FRIA of DPIA
• Het opzetten van AI-governance en beleid
• Het beheersen van algoritmische risico's
• Transparantie richting burgers, klanten of medewerkers
• Het voorkomen van bias en discriminatie
• Het organiseren van menselijk toezicht

Verantwoord gebruik in de praktijk

Onderstaande voorbeelden laten zien hoe we hebben bijgedragen aan verantwoord gebruik bij onze opdrachtgevers:

Digitale Ethiek voor de Koninklijke Marechaussee

De aanvankelijke opdracht was het ontwikkelen van een ethisch afwegingskader, maar al snel bleek dat een ethische infrastructuur ontbrak. Daarom hebben we vanuit Innovalor bijgedragen aan het opzetten van een algoritme en AI registratie, het organiseren van bewustwordingssessies, en de eerste opzet van een meerjarenplan AI-geletterdheid. Ook het kader hebben we uiteindelijk opgeleverd, inclusief een advies voor verdere inrichting van de ethiek organisatie.

Data-ethiek voor de Rijksdienst voor Ondernemend Nederland (RVO)

Het doel van het project was het versterken van ethische reflectie binnen RVO op het gebied van data, algoritmen en kunstmatige intelligentie. Hiervoor is gekomen om een structurele werkwijze en organisatie-inrichting te ontwikkelen waarmee morele vragen bespreekbaar worden en medewerkers handelingsperspectief krijgen in hun dagelijkse praktijk. In het kader van dit project is een robuuste ethische infrastructuur binnen RVO ingericht, met als belangrijkste uitkomsten:

• De Data Ethiek RaadKamer (‘DERK’) is opgezet en ingebed als één van de kamers onder de bredere Ethische Commissie van RVO. Deze kamer adviseert medewerkers bij morele afwegingen rondom het gebruik van data, algoritmen en AI.
• De processen, werkwijzen, ethisch-toetsingskader voor projecten en bemensing van DERK zijn vastgesteld en verankerd binnen de organisatie.
• Er zijn diverse (bewustwordings)trainingen ontwikkeld en uitgevoerd om medewerkers te ondersteunen bij het herkennen en bespreken van ethische dilemma’s.