Waarom AI-Geletterdheid cruciaal is voor verantwoord gebruik van AI: Verplichting op 1 februari 2025

20/11/2024 – De opkomst van Artificial Intelligence (AI) heeft niet alleen een enorme impact op technologie en innovatie, maar heeft ook verstrekkende gevolgen voor de samenleving. Zo bleek uit de discussies die werden gevoerd tijdens de Considerati Conferentie: Privacy & AI in focus. AI is niet langer alleen het domein van technologie-experts en onderzoekers, maar speelt een steeds grotere rol in het dagelijkse leven en in diverse sectoren, zoals de gezondheidszorg en het onderwijs. De recentelijk aangenomen Europese AI Act bevat regels om AI-systemen veilig, transparant en verantwoord in te kunnen zetten. Een van deze regels is het bevorderen van AI-geletterdheid (in het Engels aangeduid als AI literacy). Dat betekent kortgezegd dat alle organisaties die AI-systemen gebruiken (of ontwikkelen) verplicht zijn om ervoor te zorgen dat hun medewerkers per 1 februari 2025 een voldoende niveau van AI-geletterdheid bezitten. Maar wat houdt AI-geletterdheid precies in en waarom is het essentieel voor het verantwoord gebruik van AI? Dat leest in u in deze blog.  

Wat is AI-geletterdheid? 

AI-geletterdheid draait om het waarborgen van de juiste vaardigheden en kennis bij alle relevante actoren in de AI-keten – van ontwikkelaars en managers tot eindgebruikers en beleidsmakers – om AI bewust en verantwoord te kunnen inzetten en gebruiken. Dit ziet vooral op het zo goed mogelijk kunnen inschatten van de risico’s van de inzet van AI en het begrijpen van de potentiële schade die AI kan veroorzaken als het verkeerd wordt ingezet. AI-geletterdheid gaat daarom niet alleen over technische kennis, maar ook over een bredere ethische en maatschappelijke bewustwording. AI-geletterdheid betekent niet alleen dat men de risico’s en gevolgen kan inschatten maar ook dat de basisprincipes van AI duidelijk zijn, dat men inzicht heeft in hoe deze systemen werken en hoe deze tot beslissingen komen. 

Factoren die AI-geletterdheid beïnvloeden 

De mate waarin AI-geletterdheid aanwezig is of moet zijn binnen een organisatie, verschilt per sector, per rol en per organisatie. Daarom zijn verschillende factoren van invloed op het niveau van AI-geletterdheid binnen een organisatie: 

1. Mate van kennis en ervaring met AI-technologieën: Medewerkers die weinig ervaring hebben met AI zullen een ander soort training nodig hebben dan degenen die al vertrouwd zijn met deze technologie. Het doel is dat iedereen die te maken krijgt met AI-systemen een basis kennisniveau heeft dat past bij zijn of haar rol en verantwoordelijkheden.
2. Relevante opleiding en training: AI-geletterdheid vereist niet alleen basiskennis van AI, maar ook specifieke opleidingen en trainingen voor degenen die direct betrokken zijn bij het ontwikkelen, beheren of gebruiken van AI-systemen. Deze kennis moet afgestemd zijn op de complexiteit van de taken en verantwoordelijkheden.
3. Context van AI-toepassing: AI wordt in verschillende sectoren op verschillende manieren ingezet en de benodigde AI-geletterdheid varieert dan ook. In de gezondheidszorg zijn dan ook andere kennis en vaardigheden vereist dan in de financiële sector, gezien de impact die een AI-systeem kan hebben binnen deze verschillende sectoren.
4. Personen die te maken krijgen met AI-systemen: De eindgebruikers van AI-systemen – of het nu patiënten, klanten, of burgers zijn – moeten kunnen vertrouwen op een verantwoord en veilig gebruik van AI-systemen. Dit betekent dat organisaties niet alleen hun eigen medewerkers moeten trainen, maar ook gebruikers moeten informeren over de werking en beperkingen van AI-systemen. 

Waarom AI-geletterdheid?  

AI-geletterdheid omvat verschillende belangrijke aspecten die bijdragen aan een veilige, effectieve en verantwoorde toepassing van AI. Belangrijk daarbij is het verantwoord omgaan met data, waarbij zorgvuldige selectie bias en fouten helpt vermijden, wat essentieel is voor betrouwbare AI-systemen. Gedurende de gebruiksfase moeten er maatregelen worden getroffen om de veiligheid en effectiviteit van AI-systemen te waarborgen. Zo is het belangrijk om een “human-in-the-loop” benadering te hanteren, waarbij mensen worden betrokken bij het besluitvormingsproces, vooral bij beslissingen met grote impact. Ook moeten medewerkers getraind worden in het correct interpreteren van de output van AI-systemen. Tijdens de Considerati Conferentie: Privacy & AI in focus werd een interactieve workshop gewijd aan de verplichtingen rondom AI-geletterdheid en werd dit vertaald naar real life scenario’s. 

Hoe nu verder?  

De AI Act benadrukt de noodzaak van AI-geletterdheid om AI-technologieën veilig, effectief en ethisch in te zetten. Zonder dit vereiste lopen organisaties en individuen het risico om AI-systemen verkeerd te begrijpen of toe te passen, wat kan leiden tot verkeerde beslissingen, bias en zelfs potentieel schadelijke gevolgen voor individuen en de maatschappij. In een wereld waarin AI steeds centraler komt te staan, is AI-geletterdheid voor veel medewerkers een essentiële vaardigheid voor de toekomst.  Bij Considerati begrijpen we hoe uitdagend het kan zijn om te voldoen aan nieuwe wet- en regelgeving, zoals de AI Act. Onze training in AI-geletterdheid is ontwikkeld om binnen uw een cultuur van verantwoord en bewust AI-gebruik te stimuleren en helpt u tegelijkertijd om aan uw verplichting van AI-geletterdheid te voldoen. Ook kunnen wij een training op maat voor u verzorgen.