Op 21 mei 2024 heeft de Raad van de Europese Unie de AI Act formeel goedgekeurd. Deze baanbrekende wetgeving is inmiddels gepubliceerd in het Publicatieblad van de Europese Unie en trad op 1 augustus 2024 in werking. Hiermee markeert de EU een wereldprimeur: een eerste uitgebreid wettelijk kader voor artificiële intelligentie (AI).
De AI Act onderscheidt vier risicocategorieën voor AI-systemen: (1) onaanvaardbaar risico, (2) hoog risico, (3) specifieke transparantierisico’s en (4) minimaal risico. Die categorieën vormen de ruggengraat van de regelgeving en bepalen de verplichtingen waaraan AI-systemen moeten voldoen.
AI-systemen die als onaanvaardbaar risicovol worden beschouwd, zoals subliminale manipulatiesystemen of emotieherkenning op de werkvloer, worden verboden.
Hoogrisicosystemen, die potentieel een risico vormen voor de gezondheid, veiligheid of fundamentele rechten van individuen, zullen moeten voldoen aan strenge verplichtingen en zullen een uitgebreid systeem voor risicobeheer vereisen. Voorbeelden van dergelijke systemen zijn AI-systemen die beslissingen maken over de arbeidsvoorwaarden van werknemers, promoties, et cetera. Ook AI-componenten van gereguleerde producten, zoals speelgoed of voertuigen, vallen onder deze hoogrisico-categorie. Voor ondernemingen wordt het dus cruciaal om na te gaan of en wanneer zij te maken hebben met een hoogrisicosysteem.
Daarnaast geldt voor AI-sytemen die rechtstreeks interageren met individuen een bijkomende transparantieverplichting. Zo moet een individu bij het gebruik van een chatbot voldoende informatie krijgen over het feit dat hij met een AI-chatbot praat. Daarnaast moeten deepfakes online een duidelijke markering van 'AI -generated' krijgen, om misleiding te voorkomen.
Ten slotte blijven AI-systemen met een minimaal risico, zoals AI-spamfilters of videogames, vrij te gebruiken onder de AI Act.
Gefaseerde invoering
De invoering van de AI Act gebeurt gefaseerd, met volgende belangrijke deadlines:
- 2 februari 2025:
AI-systemen met een onaanvaardbaar risico worden verboden. - 2 augustus 2025:
De verplichtingen voor general purpose AI-modellen worden van kracht en EU-lidstaten moeten nationale toezichthoudende autoriteiten hebben aangewezen. - 2 augustus 2026:
Alle regels van de AI Act worden van kracht, inclusief verplichtingen voor AI-systemen met een hoog risico. - 2 augustus 2027:
Verplichtingen voor bepaalde hoogrisico AI-systemen, die als product onder specifieke EU-wetgeving vallen, worden van kracht.
De AI Act zal dus heel wat uitdagingen met zich meebrengen. Ondernemingen zullen moeten nagaan hoe de AI Act hun activiteiten zal beïnvloeden. Zij zullen de AI-systemen die ze (gaan) ontwikkelen of gebruiken, in kaart moeten brengen, de toepasselijke risiconiveaus evalueren en hun juridische positie analyseren. De boodschap is duidelijk: begin nu met de voorbereidingen. De implementatieperiode is kort en de gevolgen van niet-naleving kunnen verregaand zijn.
AI-systemen kunnen uiteraard enorme voordelen bieden. Door zich nu al klaar te stomen voor de uitdagingen die onvermijdelijk ook gepaard gaan met AI en de AI Act, kunnen ondernemingen die voordelen ten volle benutten.
KPMG Law
www.kpmglaw.be