AI governance helpt organisaties om verantwoordelijkheden, processen en besluitvorming rond AI-systemen effectief te organiseren. InnoValor ondersteunt organisaties bij het ontwikkelen van governance die niet alleen voldoet aan regelgeving, maar ook aansluit bij de praktijk van de organisatie.

Wat is AI Governance?

AI governance is het geheel van rollen, verantwoordelijkheden, processen en regels waarmee een organisatie het gebruik van AI stuurt, controleert en verantwoordt.

Goede AI governance maakt duidelijk:

• welke AI wordt gebruikt;
• waarvoor deze wordt gebruikt;
• welke risico’s bestaan;
• wie verantwoordelijk is;
• welke controles nodig zijn;
• hoe toepassingen worden gemonitord.

AI governance zorgt er daarmee voor dat verantwoord AI-gebruik niet afhankelijk is van individuele medewerkers, maar onderdeel wordt van de organisatie.

Waarom is AI governance belangrijk?

Zonder duidelijke governance bestaat het risico dat AI-systemen onvoldoende gecontroleerd worden, niet voldoen aan regelgeving of ongewenste effecten veroorzaken. AI-governance maakt verantwoordelijkheden, processen en toezicht expliciet.

Onze aanpak voor AI Governance

Begrijpen van de organisatie

We starten met gesprekken met bestuurders, beleidsmakers, juristen, dataspecialisten, privacyprofessionals en andere stakeholders. Zo ontstaat inzicht in bestaande verantwoordelijkheden, organisatiedoelen, organisatie specifieke risico's, volwassenheid en ambities rondom AI.

Analyse van de huidige situatie

Vervolgens brengen we in kaart hoe de bestaande governance is georganiseerd, en wat er al is geregeld op het gebied van besluitvormingsprocessen, beleid, risicobeheer en compliance.

Ontwikkelen van kaders en beleid

Op basis van de analyse ontwikkelen we passende governancekaders, rollen, processen en beleidsafspraken. Geen standaardmodel, maar een aanpak die aansluit bij of verweven wordt met wat er al is.

Verankering in de organisatie

AI governance moet onderdeel worden van de dagelijkse praktijk. Daarom besteden we ook aandacht aan kennisontwikkeling, AI-geletterdheid, verantwoordelijkheden en interne samenwerking.

Bouwstenen van AI Governance

Rollen en verantwoordelijkheden

Wie neemt welke beslissingen over AI? Wie is verantwoordelijk en waar is dat vastgelegd? Weten deze mensen wat er van hen verwacht wordt?

Beleid en kaders

Welke uitgangspunten gelden voor ontwikkeling en gebruik van AI? Worden beleid en kaders rondom AI voldoende gedragen in de organisatie? Is iedereen op de hoogte hiervan?

Processen

Is duidelijk welke stappen wanneer doorlopen moeten worden voor het verantwoorden inzetten van algoritmes en AI?

Risicobeheersing

Hoe worden risico's geïdentificeerd en gemitigeerd? Is dit onderdeel van een bestaande model? Hoe woren risico's gemonitord en gerapporteerd?

Transparantie

Hoe wordt inzichtelijk gemaakt waar en hoe AI wordt gebruikt? Is er een centrale registratie? Is er gepubliceerde in het algoritme register? Hoe worden gebruikers geinformeerd als er AI wordt ingezet bij besluitvorming?

Toezicht

Hoe is monitoring en toezicht voldoende ingericht? Is betekenisvolle menselijke tussenkomst geborgd? 

AI-geletterdheid

Hoe zorgen we dat medewerkers de kennis en kunde hebben om verantwoord met AI om te gaan?