Was er ooit een moment dat je met meer data overspoeld werd dan de afgelopen weken?
De uitbraak van Covid-19 lijkt van iedereen een data-scientist te maken. Lijkt, want de risico’s van de lukrake interpretatie van cijfers zijn niet gering. Casper Alberts, hoogleraar toegepaste statistiek aan de Rijksuniversiteit Groningen zet zelfbenoemde statistici weer met beide voeten op de grond in zijn blog.
Desalniettemin laat deze drang naar data zien hoe vanzelfsprekend het al voor ons is om data als uitgangspunt te nemen voor beslissingen. Data lijken objectief, zijn dat overigens niet. Data moet altijd geïnterpreteerd worden voordat we er conclusies aan kunnen verbinden. Of die interpretatie nu door een mens, of door een algoritme gedaan wordt. In de interpretatie ontstaat de mogelijkheden voor discriminatie, misinterpretatie, etc.
Het Massachusetts Institute of Technology deed in 2016-2017 al onderzoek naar de moraal van zelflerende systemen. Ze ontwikkelden de moral machine. Een programma waarin je een zelfbesturende auto leert onmogelijke keuzes te maken. Hier wordt (pijnlijk) duidelijk dat het verschil tussen mens en algoritme vooral zit in de schaal. Algoritmes zijn sneller. Dat is vaak positief, maar ook een risico. In de tijd dat een mens een fout één keer maakt, kan het algoritme dat misschien wel 100 keer doen.
De roep om wetgeving en ethiek in algoritmes is dan ook groot. Denk alleen al aan de enorme stroom aan boeken dat hierop ingaat: Hello World van Hannah Fry; Dansen op de maat van het algoritme door Willem Gooijer; weapons of math destruction van Cathy O’Neil. Om maar een (klein) aantal te noemen.
Op het gebied van persoonlijke data is inmiddels strenge wetgeving. Denk aan de Algemene Verordening Gegevensbescherming (AVG). Recent is door Pels Rijcken een overzicht gemaakt van wetgeving rond afsprakenstelsels binnen regie op gegevens (Sandra van Heukelom-Verhage & Nina Bontje, 2020). Toch biedt enkel wetgeving geen oplossing op alle ethische vragen. Goede voorbeelden hiervan zijn er legio, onder andere in dit blog van de SDU.