Landsadvocaat terughoudend over gebruik van generatieve AI binnen overheden

Dat generatieve AI schuurt met het recht is inmiddels wel duidelijk. Terwijl binnen het auteursrecht het gebruik van werken an sich wordt benadrukt, benadrukt men binnen de wereld van het privacyrecht het gebruik van persoonsgegevens binnen online beschikbare AI-systemen.

Volgens de Italiaanse toezichthouder bleek al eerder dat generatieve AI-systemen niet altijd rekening houden met het privacyrecht (Lees hier ook het bericht van de Italiaanse toezichthouder van 29.01.2024).

In het vervolg hierop concludeert de landsadvocaat in zijn advies aan het ministerie van Binnenlandse Zaken dat beginselen of vereisten uit de AVG in beginsel niet aan het gebruik van generatieve AI-systemen door overheden in de weg staat. Daarbij dient wordt wel opgemerkt dat bij het gebruik van een generatief AI-systeem persoonsgegevens kunnen worden ingevuld binnen de open tekstvelden, de prompt.

Dit is belangrijk voor de gebruiker, want zodra er persoonsgegevens worden gebruikt, is de AVG van toepassing en moet er een grondslag zijn om die gegevens te laten verwerken door het AI-systeem.

Voor aanbieders van generatieve AI-systemen is het in dit kader van belang om nader te kijken naar de rechten van betrokkenen en wat de grondslag is van de verwerking van persoonsgegevens. Ook ten aanzien van de trainingsdata is dit van belang. Het beginsel van dataminimalisatie verhoudt zich ook niet helemaal met AI. Dit vanwege de simpelweg gigantische hoeveelheden data (met daarin waarschijnlijk ook persoonsgegevens) die wordt gebruikt, waarvan de herkomst niet altijd duidelijk is of die niet op een correcte wijze zijn verkregen (bijv. door scraping). Aanbieders van generatieve AI-systemen zullen veel organisatorische en technische maatregelen moeten treffen om een systeem aan te bieden dat aan de privacy vereisten voldoet.

De landsadvocaat adviseert in ieder geval terughoudend te zijn in het gebruik van generatieve AI en adviseert om waar mogelijk de risico’s met betrekking tot het gebruik van dit soort systemen te verkleinen. Dit is zeker ook voor niet-overheden handig om in het achterhoofd te houden.

De landsavocaat doet de volgende aanbevelingen:

Geen gebruik te maken van online beschikbare GenAI-toepassingen in afwachting van nadere richtsnoeren of handvatten van bevoegde toezichthouders (bijv. EDPB en AP), en/of aanvullende regelgeving.
Of in elk geval, slechts onder strikte voorwaarden gebruik te laten maken van online beschikbare GenAI-toepassingen, waarbij de invoer van persoonsgegevens en/of vertrouwelijke informatie technisch en organisatorisch uitgesloten is.
Althans slechts gebruik mag worden gemaakt van (specifieke) online beschikbare GenAI-toepassingen die de bijkomende (juridische) risico’s uitsluiten.

Nog vragen over de nieuwste ontwikkelingen van AI en alles wat daarmee te maken heeft? Neem dan vooral contact met ons op en dan kunnen wij binnen PrivacyTeam kijken hoe u AI-systemen toch op een privacy veilige en verantwoorde wijze kunt gebruiken!

Download hier het advies van de landsadvocaat

Naar het overzicht