Wettelijk kader
AI Act
In augustus 2024 is er in Europa wetgeving aangenomen rondom het gebruik van AI: de AI Act. Het doel van de wet is verantwoord en ethisch gebruik van kunstmatige intelligentie te waarborgen en tegelijkertijd innovatie en concurrentie te stimuleren.Kortgezegd kent de wet twee onderdelen: inventariseren van de risico's van AI-tools en het geletterd maken van je gebruikers.
Risico's
Je wordt geacht een inventarisatie te maken van de AI-tools die je gebruikt en deze te classificeren.
De wet classificeert AI in vier risiconiveaus:
Onaanvaardbaar risico
Tools die in deze categorie vallen mogen niet gebruikt worden. Als deze al in gebruikt zijn, dienen ze uitgeschakeld te worden.
Denk aan:- Biometrische systemen voor identificatie op afstand in de openbare ruimte.
- AI-emotieherkenning op het werk en op school.****
- Systemen die mensen manipuleren of misleiden.
Hoog-risico
Denk in het onderwijs aan:- Systemen die worden gebruikt bij toelaten en beoordelen van leerlingen.
- Adaptieve leermiddelen.
- Systemen om fraude aan te tonen.
Beperkt risico
Bijvoorbeeld: chatbots of AI-systemen die tekst, beeld audio of video kunnen genereren.
Je wordt geacht transparant te zijn over het gebruik van deze systemen.Minimaal risico
Bijvoorbeeld: spamfilters of video games.
Geletterdheid
Aanbieders en gebruiksverantwoordelijken moeten maatregelen nemen om gebruikers van AI-systemen een toereikend niveau van AI geletterdheid aan te leren. Met andere woorden: iedereen die AI-systemen gebruikt moet voldoende kennis, vaardigheid en begrip hebben van die systemen en welke risico's het gebruik van die systemen met zich meebrengt.
Uitzonderingen voor onderzoek
De AI Act benoemt een aantal uitzonderingen op de wetgeving met betrekking tot onderzoek naar AI-systemen of modellen, zoals AI en onderzoek, als de AI specifiek ontwikkeld is voor zuiver wetenschappelijk onderzoek of met wetenschappelijke ontwikkeling als enige doel.
Artikel 2 lid 6: “Deze verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel.”
Artikel 2 lid 8: “Deze verordening is niet van toepassing op onderzoeks-, test- of ontwikkelingsactiviteiten met betrekking tot AI-systemen of AI-modellen voor zij in de handel worden gebracht of in gebruik worden gesteld. Dergelijke activiteiten worden uitgevoerd in overeenstemming met het toepasselijke Unierecht. Testen onder reële omstandigheden vallen niet onder die uitsluiting.”
Meer weten?
Wil je meer weten over de AI Act? Lees dan de publicatie AI Act in het kort van SURF en Npuls.
Meer over de AI Act is te vinden op de site van de Europese commissie.