Ethics by design is het idee om ethiek te integreren in het ontwerp van technologie, zodat ethisch handelen met de systemen verweven raakt. Dit is hard nodig, want organisaties gaan nog steeds regelmatig de mist in bij de inzet van bijvoorbeeld algoritmes en ai. Als we ethiek niet vanaf het begin meenemen, kunnen er onbedoelde negatieve gevolgen ontstaan.
Soms wordt ethics by design beschreven als het programmeren van ethisch gedrag. Denk aan het programmeren van een zelfrijdende auto: Stel, er komt plotseling een groep kinderen de weg opgerend. De enige manier om ze te ontwijken is om uit te wijken naar de andere kant, waar een fietser rijdt. Wat doet de auto? Rijdt het door en riskeert het de kinderen, of wijkt het uit en brengt het de fietser in gevaar?
Een zelfrijdende auto moet zo geprogrammeerd zijn dat de uitkomst vergelijkbaar is met ethische afwegingen die een mens zou maken. Mocht je hier meer over willen weten, Rudy van Bennekom beschrijft in zijn blog verschillende manieren om ethiek (technisch) te integreren in een ontwerp. Hij geeft ook aan dat het hier wellicht meer gaat 'designing for ethics' dan 'ethics by design'. Daarnaast doet MIT onderzoek via de website Moral Machine naar de menselijke morele voorkeuren in diverse situaties, want ook dat is niet altijd duidelijk.
Zelf geef ik de voorkeur aan een bredere interpretatie van ethics by design. Zo heeft de Europese Commissie een richtlijn gepubliceerd: Ethics By Design and Ethics of Use Approaches for Artificial Intelligence. Volgens deze benadering moet technologie zo gebouwd zijn dat het de rechten en waarden van individuen beschermt, vanaf het eerste idee tot het uiteindelijke gebruik.
De Europese Commissie beschrijft onder andere een 'vijf lagen model'. Je begint met abstracte principes en in vijf stappen maak je de vertaalslag hiervan naar concrete taken op specifieke momenten in het ontwikkelproces ondersteund door tools en methodes. Dit geeft ontwerpers en ontwikkelaars handvaten om ethische overwegingen gestructureerd en praktisch in technologie te integreren.
Nu vind ik het vijf lagen model van de Europese Commissie onnodig ingewikkeld, maar het is wel de inspiratiebron geweest voor mijn eigen benadering van Ethics by Design zoals ik dat in de praktijk toepas. In grote lijnen doorloop ik meestal grofweg vier stappen.