Wat is AI-geletterdheid?

In artikel 4 van de AI-verordening is het als volgt geformuleerd:

“Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen […] in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.” 

Maar om welke specifieke vaardigheden, kennis en begrip gaat het dan? Waar moet ik dan aan denken? Moet iedereen data science skills ontwikkelen? Of is op conceptueel niveau begrijpen hoe AI werkt voldoende?  

Dit hangt af van de rol van de betrokkene en de context waarin het systeem gebruikt wordt. In de verordening staat: 

“Die kennis kan verschillen naargelang de context en kan inzicht omvatten in de correcte toepassing van technische elementen tijdens de ontwikkelingsfase van het AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik ervan, hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn.” 

Kortom, het is belangrijk om scherp te krijgen wie een rol spelen in de AI-waardeketen en wat er nodig is per doelgroep om tot een toereikend niveau van AI-geletterdheid te komen. 

 

Wie moeten er een toereikend niveau hebben?

In de AI-verordening staat dat het gaat om “alle relevante actoren in de AI-waardeketen". Binnen een grote organisatie zal het al een hele uitdaging zijn om in kaart te brengen wie die actoren dan zijn. Als je goed leest overstijgt dit zelfs de organisatiegrenzen. Een tweetal citaten uit de AI-verordening waarin dit naar voren komt:

"...maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken. "

Hier worden dus benoemd dat het ook om personen gaat die AI-systemen gebruiken. Dit kan gaan om een medewerker die aan de knoppen zit, maar dus ook om een burger of klant die interactie heeft met een AI-systeem, bijvoorbeeld via een chatfunctie.

Het andere citaat: "...in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn.” 

Dit gaat eigenlijk nog een stapje verder, ook als er niet directe interactie is met het systeem, dient uitgelegd te worden hoe beslissingen op personen van invloed zullen zijn. AI-geletterdheid zal buiten de organisatie dan veel meer gaan om voorlichting. Of een duidelijke brief waarin een beslissing wordt uitgelegd. Nu wordt binnen de overheid al druk gewerkt aan het uitbreiden van het algoritmeregister, maar de vraag is of publicatie in dit register voldoende is voor een ‘toereikend niveau’. Iemand moet zelf actief op zoek naar de informatie en eigenlijk wil je vooraf of tijdens de interactie informatie geven over de werking van het systeem, bijvoorbeeld door middel van een infographic, explanimation of algoritmewijzer. 

 

Wat is een toereikend niveau?

Er zijn (nog) geen harde eisen of richtlijnen geformuleerd. Het is dus aan organisaties zelf om te interpreteren wat een toereikend niveau per doelgroep inhoudt en wat betrokken personen aan kennis en vaardigheden nodig hebben om adequaat met een AI-systeem te kunnen werken. Ik kan me ook voorstellen dat dit vooral relevant is bij een incident. Kan je dan als organisatie aantonen dat alle betrokkenen een toereikend niveau van AI geletterdheid hebben en het incident dus niet voortkomt uit gebrek aan AI-geletterdheid.
 

Wanneer moet er een toereikend niveau zijn? 

Per februari 2025. 

Echter, er is nog veel onduidelijkheid en ook het toezicht op de AI-verordening moet nog ingericht worden. De deadline van februari 2025 zal dus dus niet een hele harde zijn. De autoriteit persoonsgegevens is aangewezen als coördinerend toezichthouder. In augustus 2025 dienen ze richtsnoeren voor toezicht en boetes gepubliceerd te hebben, dus pas enkele maanden nadat de verplichting tot AI-geletterdheid ingaat is er meer bekend over toezicht en boetes. 

Helaas zie ik dat AI-geletterdheid, mede hierdoor, binnen de implementatie van de AI verordening minder prioriteit krijgt. Ongeacht de juridische verplichting, helpt AI-geletterdheid bij het voorkomen van incidenten (denk b.v. aan een medewerker die zonder er goed bij na te denken vertrouwelijke informatie in ChatGPT invoert). En het vraagt nogal wat werk om tot een toereikend niveau van AI-geletterdheid te komen, dus je kan er maar beter direct mee beginnen. Ten slotte is AI-geletterdheid niet een eenmalige excercitie, maar iets wat continu aandacht vergt. Belangrijk dus om een en ander in een opleidingsplan te vatten. waarin voor de korte en lange termijn beschreven staat wie op welke manier getraint gaat worden en waarom.

Hoe ga je dat regelen op zo’n kort termijn? 

Om te beginnen, in de AI-verordening wordt geopperd om ten aanzien van AI-geletterdheid een gedragscode op te stellen en te delen. Zo’n gedragscode kan helpen om meer bewustwording te creëren rondom de impact en risico’s van AI-systemen in de organisatie. 

Daarnaast is het aan te raden om een toegankelijke, algemene opleiding te ontwikkelen of in te kopen, waarmee iedereen binnen de organisatie een basisbegrip krijgt van de risico’s rondom de inzet van AI, ongeachte hun rol in de AI-waardeketen. Dat is niet eenvoudig, want het gaat om complexe informatie die toegankelijk moet zijn voor een brede doelgroep.  

Voor de langere termijn is het belangrijk om AI-geletterdheid in de organisatie goed in kaart te brengen. Dit begint met inzicht in de AI-waardeketen met alle betrokkenen en hun huidige niveau van AI-geletterdheid. Als je dat weet kan je een plan maken wat er aan opleiding nodig is om mensen voldoende kennis en vaardigheden te geven om adequaat met AI om te gaan. Wij kunnen eventueel ondersteunen bij een dergelijke gap-analyse.

Mocht je willen weten hoe wij nog meer kunnen ondersteunen bij AI-geletterdheid, kijk dan op onze website of neem contact met ons op.