Wat is AI-geletterdheid?

In artikel 4 van de AI-verordening is het als volgt geformuleerd:

“Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen […] in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.” 

Maar om welke specifieke vaardigheden, kennis en begrip gaat het dan? Waar moet ik dan aan denken? Moet iedereen data science skills ontwikkelen? Of is op conceptueel niveau begrijpen hoe AI werkt voldoende?  

In de verordening staat als aanvulling:

“Die kennis kan verschillen naargelang de context en kan inzicht omvatten in de correcte toepassing van technische elementen tijdens de ontwikkelingsfase van het AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik ervan, hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn.” 

Het lijkt dus belangrijk om per AI-systeem scherp te krijgen wie een rol spelen in de AI-waardeketen en wat er nodig is per doelgroep om tot een toereikend niveau van AI-geletterdheid te komen. 

De autoriteit Persoongegevens schrijft:

"AI-geletterdheid houdt in dat personeel en andere personen die AI-systemen inzetten de juiste vaardigheden, kennis en begrip hebben om AI-systemen op een verantwoorde manier in te zetten. Dit helpt organisaties om risico’s van AI zo goed mogelijk te mitigeren en de kansen optimaal te benutten."

 

Wie moeten er een toereikend niveau hebben?

In de AI-verordening staat dat het gaat om “alle relevante actoren in de AI-waardeketen". Binnen een grote organisatie zal het een hele uitdaging zijn om per AI-systeem  in kaart te brengen wie die actoren dan zijn. Als je goed leest overstijgt dit zelfs de organisatiegrenzen. Een tweetal citaten uit de AI-verordening waarin dit naar voren komt:

"...maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken. "

Hier worden dus benoemd dat het ook om personen gaat die AI-systemen gebruiken. Dit kan gaan om een medewerker die aan de knoppen zit, maar dus ook om een burger of klant die interactie heeft met een AI-systeem, bijvoorbeeld via een chatfunctie.

Het andere citaat: "...in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn.” 

Dit gaat eigenlijk nog een stapje verder, ook als er niet directe interactie is met het systeem, dient uitgelegd te worden hoe beslissingen op personen van invloed zullen zijn. AI-geletterdheid zal buiten de organisatie dan veel meer gaan om voorlichting. Of een duidelijke brief waarin een beslissing wordt uitgelegd. Nu wordt binnen de overheid al druk gewerkt aan het uitbreiden van het algoritmeregister, maar de vraag is of publicatie in dit register voldoende is voor een ‘toereikend niveau’. Iemand moet zelf actief op zoek naar de informatie en eigenlijk wil je vooraf of tijdens de interactie informatie geven over de werking van het systeem, bijvoorbeeld door middel van een infographic, explanimation of algoritmewijzer. 

 

Wat is een toereikend niveau?

De autoriteit persoonsgegevens schrijft hierover:

" Er is geen one size fits all-set aan maatregelen die zorgt voor een toereikend niveau van AI-geletterdheid. Bij de beheersing van AI-systemen is belangrijk in welke context de systemen worden ingezet. Dit vertaalt zich ook door naar de kennis die betrokkenen nodig hebben."

Het is daarmee aan organisaties zelf om per AI-systeem te interpreteren wat een toereikend niveau per doelgroep inhoudt en wat betrokken personen aan kennis en vaardigheden nodig hebben om adequaat met een AI-systeem te kunnen werken. De autoriteit persoonsgegevens raadt aan om een meerjaren actieplan AI geletterdheid te maken.

Wanneer moet er een toereikend niveau zijn? 

Per februari 2025 is dit ingegaan.

Echter, er is nog veel onduidelijkheid en ook het toezicht op de AI-verordening moet nog ingericht worden.  De autoriteit persoonsgegevens is aangewezen als coördinerend toezichthouder. In augustus 2025 dienen ze richtsnoeren voor toezicht en boetes gepubliceerd te hebben, dus pas enkele maanden nadat de verplichting tot AI-geletterdheid ingaat is er meer bekend over toezicht en boetes. Wel hebben ze al een document gepubliceerd  om organisaties op weg te helpen. 

Momenteel staat er in ieder geval nog geen boete op het niet nakomen van deze verplichting. Helaas zie ik dat AI-geletterdheid, mede hierdoor, binnen de implementatie van de AI verordening minder prioriteit krijgt. Als organisatie ben je vanaf nu echter wel aansprakelijk als er fouten gemaakt worden door AI-ongeletterdheid. 

Los van de juridische verplichting helpt AI-geletterdheid bij het voorkomen van klachten en incidenten (denk b.v. aan een medewerker die zonder er goed bij na te denken vertrouwelijke informatie in ChatGPT invoert) en kan het een belangrijke bijdrage leveren aan het verantwoord inzetten van algoritmes en AI.

Hoe ga je aan de slag met AI-geletterdheid?

De autoriteit persoonsgegevens heeft op 31 januari (een dag voordat de verordening inging) een document gepubliceerd wat organisaties op weg moet helpen om hiermee aan de slag te gaan. Ze raden aan om een meerjarig actieplan te formuleren.

Mocht je willen weten hoe wij nog meer kunnen ondersteunen bij AI-geletterdheid, kijk dan op onze website of neem contact met ons op.