Wat is AI-geletterdheid?

In artikel 4 van de AI-verordening is het als volgt geformuleerd:

“Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen […] in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.” 

Maar om welke specifieke vaardigheden, kennis en begrip gaat het dan? Waar moet ik dan aan denken? Moet iedereen data science skills ontwikkelen? Of is op conceptueel niveau begrijpen hoe AI werkt voldoende?  

Zoals het ernaar uitziet hangt dit af van de rol van de betrokkene en de context waarin het systeem gebruikt wordt. In de verordening staat: 

“Die kennis kan verschillen naargelang de context en kan inzicht omvatten in de correcte toepassing van technische elementen tijdens de ontwikkelingsfase van het AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik ervan, hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn.” 

Kortom, het is belangrijk om scherp te krijgen wie een rol spelen in de AI-waardeketen en wat er nodig is per doelgroep om tot een toereikend niveau van AI-geletterdheid te komen. 

 

Wie moeten er een toereikend niveau hebben?

In de AI-verordening staat dat het gaat om “alle relevante actoren in de AI-waardeketen". Binnen een grote organisatie zal het al een hele uitdaging zijn om in kaart te brengen wie die actoren dan zijn. Als je goed leest lijkt het echter ook de organisatiegrenzen te overstijgen, hoewel dit wellicht nog voor interpretatie vatbaar is. Een tweetal citaten waarin dit geimpliceerd wordt:

"...maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken. "

Hier worden dus personen genoemd die AI-systemen gebruiken. Gaat het dan om een medewerker die aan de knoppen zit, of kan het bijvoobeeld ook gaan om een burger of klant die interactie heeft met een AI-systeem? Of kan het allebei?

Het andere citaat: "...in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn.” 

Dit lijkt sterker te impliceren dat AI -geletterdheid ook kan gaan om mensen buiten de organisatie. AI-geletterdheid zal buiten de organisatie vooral gaan om voorlichting. Nu wordt binnen de overheid al druk gewerkt aan het uitbreiden van het algoritmeregister, maar de vraag is of publicatie in dit register voldoende is voor een ‘toereikend niveau’. Iemand moet zelf actief op zoek naar de informatie en eigenlijk wil je vooraf of tijdens de interactie informatie geven over de werking van het systeem, bijvoorbeeld door middel van een infographic, explanimation of algoritmewijzer. 

 

Wat is een toereikend niveau?

Er zijn zover bij mij bekend geen harde eisen of richtlijnen geformuleerd. Het is dus aan organisaties zelf om te interpreteren wat een toereikend niveau per doelgroep inhoudt en wat betrokken personen aan kennis en vaardigheden nodig hebben om adequaat met een AI-systeem te kunnen werken.
 

Wanneer moet er een toereikend niveau zijn? 

Per februari 2025. 

Echter, er is nog veel onduidelijkheid en ook het toezicht op de AI-verordening moet nog ingericht worden. De deadline van februari 2025 is mogelijk dus niet een hele harde. De autoriteit persoonsgegevens is aangewezen als toezichthouder. In augustus 2025 dienen zij richtsnoeren voor toezicht en boetes gepubliceerd te hebben, dus pas enkele maanden nadat de verplichting tot AI-geletterdheid ingaat is er meer bekend over toezicht en boetes. 

Het is wel aan te raden om nu al aan de slag te gaan, want ongeachte de juridische verplichting, helpt AI-geletterdheid bij het voorkomen van grote incidenten.

Hoe ga je dat regelen op zo’n kort termijn? 

Om te beginnen, in de AI-verordening wordt geopperd om ten aanzien van AI-geletterdheid een gedragscode op te stellen en te delen. Zo’n gedragscode kan helpen om meer bewustwording te creëren rondom de impact en risico’s van AI-systemen in de organisatie. 

Daarnaast is het aan te raden om een toegankelijke, algemene opleiding te ontwikkelen of in te kopen, waarmee iedereen binnen de organisatie een basisbegrip krijgt van de risico’s rondom de inzet van AI, ongeachte hun rol in de AI-waardeketen. Dat is niet eenvoudig, want het gaat om complexe informatie die toegankelijk moet zijn voor een brede doelgroep.  

Voor de langere termijn is het belangrijk om AI-geletterdheid in de organisatie goed in kaart te brengen. Dit begint met inzicht in de AI-waardeketen met alle betrokkenen en hun huidige niveau van AI-geletterdheid. Als je dat weet kan je een plan maken wat er aan opleiding nodig is om mensen voldoende kennis en vaardigheden te geven om adequaat met AI om te gaan. Wij kunnen eventueel ondersteunen bij een dergelijke gap-analyse.

Mocht je willen weten hoe wij nog meer kunnen ondersteunen bij AI-geletterdheid, kijk dan op onze website of neem contact met ons op.