033 200 30 83
AI-geletterdheid verplicht in 2025: Wat betekent dit?
Op 1 augustus 2024 is de Europese AI-verordening in werking getreden. Deze verordening stelt regels vast waaraan AI-systemen, evenals hun aanbieders en gebruikers, in de nabije toekomst moeten voldoen. Een onderbelicht aspect van de AI-act betreft de AI-geletterdheid. Volgens artikel 4 van de AI-verordening zijn organisaties vanaf 2 februari 2025 verplicht om AI-geletterdheid te bevorderen onder medewerkers die namens hen AI-systemen exploiteren en gebruiken. Zijn medewerkers voldoende bewust van de mogelijkheden en risico’s van deze systemen? Tegelijkertijd ligt de verantwoordelijkheid bij organisaties om hun personeel van de benodigde kennis en vaardigheden over AI-systemen te voorzien. Meer hierover leest u in dit artikel.
Wat is AI-geletterdheid en verplichtingen hierin?
De verplichtingen voor organisaties met betrekking tot AI-geletterdheid is vastgelegd in de AI-verordening. In hoofdstuk 1, artikel 3, lid 56, wordt het begrip AI-geletterdheid gedefinieerd:
‘Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.’
De verplichting van AI-geletterdheid wordt tevens omschreven in hoofdstuk 1, art 4. AI-geletterdheid:
‘Aanbieders en gebruikers van AI-systemen dienen maatregelen te nemen om, naar beste vermogen, een voldoende niveau van AI-geletterdheid te waarborgen bij hun personeel en andere personen die betrokken zijn bij de exploitatie en het gebruik van AI-systemen namens hen. Hierbij moet rekening worden gehouden met hun technische kennis, ervaring, opleiding en training, de context waarin de AI-systemen worden ingezet, en de personen of groepen personen waarop de AI-systemen van toepassing zijn.’
Overweging 20 van de AI-verordening biedt daarnaast aanvullende verduidelijking voor de verplichting tot AI-geletterdheid.
‘Om de grootste voordelen van AI-systemen te behalen en tegelijkertijd de grondrechten, gezondheid en veiligheid te beschermen en democratische controle mogelijk te maken, moeten aanbieders, gebruiksverantwoordelijken en betrokken personen door middel van AI-geletterdheid van de nodige kennis voorzien worden om onderbouwde beslissingen te nemen met betrekking tot AI-systemen. Die kennis kan verschillen naargelang de context en kan inzicht omvatten in de correcte toepassing van technische elementen tijdens de ontwikkelingsfase van het AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik ervan, hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn. In het kader van de toepassing van deze verordening moet AI-geletterdheid alle relevante actoren in de AI-waardeketen de inzichten verschaffen die nodig zijn om de passende naleving en de correcte handhaving ervan te waarborgen…’
AI-geletterdheid omvat dus de vaardigheden, kennis en het begrip die nodig zijn om AI-systemen bewust en effectief te kunnen gebruiken, evalueren en toepassen. Het gaat niet alleen om technische expertise of algemene kennis over wat AI is, maar ook om het juiste gebruik van AI-tools en toepassingen in verschillende contexten. Daarnaast vraagt AI-geletterdheid aandacht voor de ethische, sociale en praktische aspecten van deze technologie, evenals inzicht in de kansen die AI biedt en de risico’s of schade die verkeerd of ondoordacht gebruik kan veroorzaken.
Hiermee is AI-geletterdheid een essentiële competentie in een wereld waarin AI steeds meer invloed uitoefent op zowel individuen als de samenleving. Maar wie moet aan deze vereisten voldoen?
Wie moet geletterd zijn?
Organisaties zowel aanbieders als gebruikers van AI-systemen, zijn verantwoordelijk voor het bevorderen van AI-geletterdheid bij hun medewerkers en andere betrokkenen, waaronder ook externe partijen (Zzp’ers) die namens hen AI-systemen gebruiken. Deze verplichting geldt voor iedereen binnen de organisatie die met AI werkt.
De benodigde mate van AI-geletterdheid varieert afhankelijk van de specifieke taken en toepassingen. Factoren zoals de gebruikte tools, de manier waarop ze worden ingezet, de risico’s van het gebruik en de aard van de informatie spelen hierbij een rol.
Zo volstaat voor een copywriter die een AI-tool zoals ChatGPT gebruikt om ideeën te genereren of teksten te redigeren een basale kennis van de tool. Het is voldoende dat hij of zij onjuiste informatie in de gegenereerde output kan herkennen.
Daarentegen heeft een arts die een AI-systeem inzet ter ondersteuning van medische diagnoses een veel diepgaander begrip nodig. Dit omvat kennis van de beperkingen en betrouwbaarheid van de AI, evenals inzicht in de mogelijke gevolgen voor het welzijn van patiënten.
Ook in het onderwijs wordt het steeds belangrijker om AI-geletterdheid te ontwikkelen. Leraren werken niet alleen zelf met AI-toepassingen, maar begeleiden en beoordelen ook leerlingen op basis van de resultaten van adaptieve leerplatforms waarin AI een steeds grotere rol speelt.
Welke maatregelen moet je treffen?
Welke concrete ‘maatregelen’ moeten worden genomen in het kader van artikel 4 over AI-geletterdheid is nog niet volledig uitgekristalliseerd. Er zijn op dit moment geen specifieke richtlijnen of praktische handvatten beschikbaar. Het is daarom aan nationale en Europese toezichthouders, evenals het Europese Hof van Justitie, om in de komende jaren verdere invulling te geven aan het begrip AI-geletterdheid en de vereiste maatregelen die aanbieders en gebruikers van AI-systemen moeten treffen.
Het is voor organisaties van cruciaal belang om nu al wel maatregelen te nemen om ervoor te zorgen dat iedereen voldoende kennis heeft om met AI-systemen te werken. Hoewel het vereiste niveau van AI-geletterdheid kan variëren afhankelijk van specifieke taken en toepassingen, moeten alle medewerkers die met AI-systemen werken beschikken over enkele kerncompetenties. De belangrijkste hiervan zijn:
• AI herkennen: Het vermogen om AI-toepassingen te herkennen en inzicht te krijgen in hoe deze in het dagelijks leven worden gebruikt.
• AI begrijpen: Begrip van de basisconcepten van AI, zoals machine learning en taalmodellen, en het onderscheiden van verschillende soorten AI en hun toepassingen.
• Praktisch gebruik: Vaardigheden om AI-tools effectief toe te passen in diverse contexten.
• Kritische evaluatie: Bewustzijn van de ethische vraagstukken en de maatschappelijke impact van AI.
Deze kerncompetenties kunnen worden opgenomen in een AI-beleid, waarin duidelijk wordt vastgelegd welke AI-tools en toepassingen binnen de organisatie worden gebruikt, wie er gebruik van maakt en op welke manier. Daarnaast kan het beleid richtlijnen bevatten over hoe de organisatie ervoor zorgt dat medewerkers voldoende AI-geletterd zijn én blijven. Denk hierbij aan periodieke trainingen, bewustwordingscampagnes of het updaten van richtlijnen bij nieuwe AI-ontwikkelingen. Een goed opgesteld AI-beleid zorgt ervoor dat alle medewerkers op de hoogte zijn en blijven van de vereisten rondom AI-geletterdheid, en draagt bij aan een verantwoorde en effectieve inzet van AI binnen de organisatie.
Conclusie
Vanaf 2 februari 2025 moeten organisaties ervoor zorgen dat hun medewerkers en andere betrokkenen beschikken over voldoende kennis en vaardigheden, niet alleen met betrekking tot de technische aspecten van de gebruikte AI-systemen, maar ook op het gebied van ethische, sociale en praktische vraagstukken.
Ben je nog niet gestart? Begin met een inventarisatie van de AI-systemen die binnen de organisatie worden gebruikt. Breng in kaart hoe deze systemen worden ingezet en door wie. Ontwikkel vervolgens een AI-beleid waarin de uitgangspunten van de organisatie rondom het gebruik van AI-systemen helder worden omschreven.
Stel een opleidingsplan op voor medewerkers, afgestemd op hun kennisniveau en het specifieke gebruik van AI binnen hun werkzaamheden. Houd hierbij rekening met factoren zoals de gebruikte tools, de manier waarop deze worden ingezet, de risico’s die het gebruik met zich meebrengt, en de aard van de informatie waarmee wordt gewerkt.