Eén maand van kracht: voldoen aan de vereisten voor AI-geletterdheid onder de AI Act

11/03/2025 - Sinds 2 februari is AI-geletterdheid niet langer een ‘nice-to-have’, maar een verplichte eis vanuit de AI Act voor organisaties die AI-systemen ontwikkelen, inzetten of gebruiken. Dit betekent dat iedereen in de AI-keten – van ontwikkelaars tot eindgebruikers – moet kunnen begrijpen hoe AI werkt, welke risico’s eraan verbonden zijn en hoe AI-systemen verantwoord kunnen worden toegepast.

In onze blog van 20 november werd het belang van AI-geletterdheid en de factoren die hierop van invloed zijn besproken. Nu de Autoriteit Persoonsgegevens (AP) een guidance document heeft gepubliceerd wordt in deze blog dieper ingegaan op hoe organisaties kunnen voldoen aan de verplichting om de AI-geletterdheid van hun medewerkers te bevorderen. Hierbij wordt aangestipt wat AI-geletterdheid inhoudt, hoe de AP adviseert dit structureel aan te pakken en welke aanvullende maatregelen organisaties kunnen nemen om deze acties te verwezenlijken.  

Wat is AI-geletterdheid?

AI-geletterdheid wordt genoemd in artikel 4 van de AI Act en beschrijft dat aanbieders en gebruikers van AI-systemen ervoor moeten zorgen dat hun personeel en andere betrokkenen voldoende AI-vaardigheden hebben, op basis van hun kennis, ervaring, opleiding en de context waarin de systemen worden gebruikt. Dit gaat verder dan alleen technische kennis. Het omvat ook bewustwording van ethische en maatschappelijke implicaties, zoals bias en de impact van AI-besluitvorming. Medewerkers moeten AI-systemen kunnen begrijpen, de output kritisch interpreteren en weten hoe ze AI verantwoord binnen hun functie kunnen toepassen.

Een sterke basis in AI-geletterdheid helpt organisaties om AI-systemen effectief en compliant te implementeren. Het voorkomt onbedoelde discriminatie en waarborgt menselijke controle over AI-besluitvorming. De "human-in-the-loop" benadering, waarbij mensen weten hoe ze de output van een AI-systeem moeten interpreteren en betrokken blijven bij cruciale beslissingen, speelt hierin een belangrijke rol. De AI-Act stelt dat de benodigde AI-geletterdheid varieert afhankelijk van de context, zoals de sector, de fase van de AI-toepassing (ontwikkeling, testfase of implementatie) en de rol van de betrokkenen. Zo vereist het gebruik van AI in de gezondheidszorg andere kennis en vaardigheden dan in de financiële sector.

Het vierstappenplan van de Autoriteit Persoonsgegevens

Als coördinerend AI- en algoritmetoezichthouder heeft de AP om organisaties te ondersteunen bij het opbouwen van AI-geletterdheid onder werknemers een guidance document opgesteld waarin zij een meerjarig actieplan voorstellen dat bestaat uit vier stappen. Hieronder wordt een samenvatting gegeven van deze stappen.

1. Identificeren

Organisaties dienen in kaart te brengen welke AI-systemen binnen hun organisatie worden gebruikt en welke medewerkers hiermee werken. Daarnaast is het belangrijk om het huidige kennisniveau van medewerkers te peilen, bijvoorbeeld middels enquêtes, en de risico’s die gepaard gaan met het gebruik van AI-systemen te analyseren.

2. Doelen bepalen

Op basis van de inventarisatie van kennis en risiconiveau moeten organisaties vaststellen welke kennis en vaardigheden per rol vereist zijn om het AI-systeem verantwoord te kunnen gebruiken. De medewerker die met een systeem werkt moet bijvoorbeeld (technische) kennis hebben van de werking en output van het systeem en medewerkers die er niet mee werken moeten enkel van het bestaan en het doel van het systeem afweten.

3. Uitvoeren

Om AI-geletterdheid te bevorderen, is het noodzakelijk om gerichte trainingen te organiseren die aansluiten bij de specifieke behoeften van medewerkers. Daarnaast moeten organisaties AI-beleid implementeren en een aanspreekpunt aanstellen, zoals een AI-officer of een werkgroep, om toezicht te houden op een verantwoorde inzet van AI.

4. Evalueren

AI-geletterdheid vereist voortdurende aandacht en aanpassing. Organisaties dienen de voortgang daarom regelmatig te monitoren en evalueren. Op basis van nieuwe ontwikkelingen en regelgeving moeten beleid en trainingen tijdig worden bijgewerkt.

De AP benadrukt dat AI-geletterdheid een essentiële vaardigheid is voor zowel individuen als organisaties om AI op een verantwoorde manier toe te passen wat vraagt om maatwerk, strategische planning en voortdurende bijsturing. Organisaties moeten volgens de AP actief investeren in kennisopbouw en bewustwording om te voldoen aan wettelijke eisen en de maatschappelijke impact van AI te beheersen.

AI-geletterdheid in de praktijk

In punt 3 van het stappenplan wordt benoemd dat het belangrijk is om gerichte trainingen te geven afhankelijk van het gewenste kennisniveau van medewerkers. Hierbij kan gedacht worden aan (een combinatie van) verschillende trainingen, zoals:

• E-learningmodules voor een brede basiskennis over AI binnen de hele organisatie.
• Verdiepende workshops voor medewerkers die direct met AI werken.
• Praktijkgerichte sessies om specifieke use cases en ethische vraagstukken die binnen een organisatie spelen te behandelen.

Hoe nu verder?

Bij Considerati begrijpen we hoe complex het kan zijn om aan de nieuwe AI-regelgeving te voldoen. Daarom bieden we op maat gemaakte AI-geletterdheid of AI-governance trainingen aan. We kunnen ook helpen bij het ontwikkelen van AI-beleid en het uitvoeren van risicoanalyses zodat AI op een verantwoorde manier kan worden ingezet.