“The aim of Ethics by Design is to incorporate ethical principles into the development process allowing that ethical issues are addressed as early as possible and followed up closely during research activities. “

- Uit Ethics By Design and Ethics of Use Approaches for Artificial Intelligence van de Europese Commissie

Ethics by design is het idee om ethiek te integreren in het ontwerp van technologie, zodat ethisch handelen met de systemen verweven raakt. Dit is hard nodig, want organisaties gaan nog steeds regelmatig de mist in bij de inzet van bijvoorbeeld algoritmes en ai. Als we ethiek niet vanaf het begin meenemen, kunnen er onbedoelde negatieve gevolgen ontstaan.

Soms wordt ethics by design beschreven als het programmeren van ethisch gedrag. Denk aan het programmeren van een zelfrijdende auto: Stel, er komt plotseling een groep kinderen de weg opgerend. De enige manier om ze te ontwijken is om uit te wijken naar de andere kant, waar een fietser rijdt. Wat doet de auto? Rijdt het door en riskeert het de kinderen, of wijkt het uit en brengt het de fietser in gevaar?

Een zelfrijdende auto moet zo geprogrammeerd zijn dat de uitkomst vergelijkbaar is met ethische afwegingen die een mens zou maken. Mocht je hier meer over willen weten, Rudy van Bennekom beschrijft in zijn blog verschillende manieren om ethiek (technisch) te integreren in een ontwerp. Hij geeft ook aan dat het hier wellicht meer gaat 'designing for ethics' dan 'ethics by design'. Daarnaast doet MIT onderzoek via de website Moral Machine naar de menselijke morele voorkeuren in diverse situaties, want ook dat is niet altijd duidelijk.

Zelf geef ik de voorkeur aan een bredere interpretatie van ethics by design. Zo heeft de Europese Commissie een richtlijn gepubliceerd: Ethics By Design and Ethics of Use Approaches for Artificial Intelligence. Volgens deze benadering moet technologie zo gebouwd zijn dat het de rechten en waarden van individuen beschermt, vanaf het eerste idee tot het uiteindelijke gebruik.

De Europese Commissie beschrijft onder andere een 'vijf lagen model'. Je begint met abstracte principes en in vijf stappen maak je de vertaalslag hiervan naar concrete taken op specifieke momenten in het ontwikkelproces ondersteund door tools en methodes. Dit geeft ontwerpers en ontwikkelaars handvaten om ethische overwegingen gestructureerd en praktisch in technologie te integreren.

Nu vind ik het vijf lagen model van de Europese Commissie onnodig ingewikkeld, maar het is wel de inspiratiebron geweest voor mijn eigen benadering van Ethics by Design zoals ik dat in de praktijk toepas. In grote lijnen doorloop ik meestal grofweg vier stappen.

Schematische weergave van Ethics by Design in 4 stappen, zoals beschreven in de blog.

Stap 1: Formuleer Ethische principes

Formuleer overkoepelende ethische principes die richting kunnen geven binnen de organisatie.

Je begint dus met het vaststellen van de ethische principes die leidend zijn voor ethische innovatie binnen de organisatie. De Europese Commissie formuleert 6 ethische principes voor verantwoord ontwerp:

  1. Respect for Human Agency
  2. Privacy and Data Governance
  3. Fairness
  4. Individual, Social and Environmental Well-being
  5. Transparency
  6. Accountability and Oversight

Welke ethische principes leidend zouden moeten zijn, is voer voor discussie. ETH Zurich onderzocht samen met Health Ethics and Policy Lab, 84 ethische richtlijnen met ethische principes. https://ethz.ch/en/news-and-events/eth-news/news/2020/01/ethics-guidelines-galore-for-ai.html

Geen enkel ethisch principe komt in alle 84 publicaties terug. Wel zijn er 5 principes die in meer dan de helft van de publicaties voorkomen:

  1. Transparency
  2. Justice and Fairness
  3. Non-maleficence (Afflicting no Harm)
  4. Responsibility
  5. Privacy

Ethische principes zijn vooral belangrijk omdat ze richting geven. Persoonlijk zou ik daarom niet zo maar de principes van de Europese Commissie overnemen, maar zorgen dat je in de organisatie een dialoog voert over welke ethische principes voor jouw organisatie belangrijk zijn. Een dergelijke dialoog sessie kan heel waardevol zijn. Het legt meningsverschillen bloot en zorgt ervoor dat de principes goed aansluiten bij de organisatie.

Voorbeeld Ethisch Principe:

Transparantie:  Alle AI systemen dienen zo transparant mogelijk te zijn voor de betrokkenen.

Stap 2. Vertaal naar ethische vereisten

Vertaal de principes naar ethische vereisten. Dit kunnen technisch/ethische requirements zijn, maar ook eisen ten aanzien van b.v. toezicht of training.

Waar de ethische principes nog vrij abstract zijn, maak je deze nu concreter. De vereisten kunnen meer technisch zijn, bijvoorbeeld op het vlak van explainable AI, maar ook procesmatig, bijvoorbeeld dat een algoritme geregistreerd dient te worden in het openbare algoritme register. Ook toezicht, monitoring of risicomanagement kan onderdeel uitmaken van de vereisten. Hier kies ik dus bewust voor een bredere benadering dan alleen technisch. Daarbij is het belangrijk om in de organisatie ideeën op te halen door met diverse betrokkenen te brainstormen zodat je niet vanuit een ivoren toren maatregelen bedenkt die in de praktijk niet goed werken. Ook helpt dit bij de acceptatie van de uiteindelijke implementatie van de vereisten.

Voorbeeld ethisch vereiste voor het principe transparantie:

Bij het ontwikkelen van een AI systeem, dienen maatregelen genomen te worden die zorg dragen voor traceerbaarheid van het AI systeem gedurende de gehele levenscyclus.

Stap 3. Koppel aan bestaande processen

Bepaal waar, wanneer en door wie de vereisten moeten worden uitgevoerd, communiceer dit en leg het vast, bijvoorbeeld in beleid en/of werkinstructies.

In deze stap ga je over naar het implementeren van de vereisten. Dit vergt een extra concretisering door scherp te krijgen wie wat moet doen en waarom. Daarbij is het aan te raden om zo veel mogelijk aan te sluiten bij bestaande werkwijzes en processen. Afhankelijk van de organisatie leg je dit vast in beleid, werkinstructies of andere documentatie en zorg je voor adequate communicatie en training.

Stap 4: Faciliteer d.m.v. tooling

Onderzoek welke ondersteunde tools en methodes het werk makkelijker kunnen maken.

Goede ondersteuning zorgt ervoor dat nieuwe werkwijzes makkelijker geaccepteerd worden. Denk aan een tool die helpt om de checks te documenteren, maar ook een checklist of impact analyse zijn tools die kunnen helpen.

Voorbeeld van een ondersteunende tool:

Een systeem waar ethische en juridische afwegingen in het ontwikkelproces gedocumenteerd kunnen worden met het oog op traceerbaarheid.

Conclusie

Ethics by design is een mooie manier om ethiek op gestructureerde wijze concreter te maken voor een organisatie. Daarbij is het proces minstens zo belangrijk als het eindresultaat. Van een goede dialoog over ethische principes op management niveau, tot het ophalen in de organisatie van effectieve maatregelen om deze principes concreter te maken. Al deze stappen helpen om mensen te betrekken en te laten ervaren hoe ethiek concreet gemaakt kan worden. Doordat het leidt tot concrete maatregelen blijft dit vervolgens doorwerken in het ontwikkelen van technologie, hoewel ik het ook niet gek zou vinden om deze 4 stappen eens in de zoveel tijd te herhalen.