Kunstmatige intelligentie (AI) is allang geen technologie van de toekomst meer. Wereldwijd maken inmiddels meer dan een miljard mensen gebruik van AI-toepassingen en dat aantal groeit dagelijks. Ook binnen het bedrijfsleven wordt AI steeds vaker ingezet, bijvoorbeeld voor klantenservice, personeelszaken, marketing en documentverwerking. Hoewel AI organisaties veel kansen biedt, brengt het gebruik ervan ook juridische verplichtingen met zich mee.
Om het gebruik van AI te reguleren heeft de Europese Unie de AI Act vastgesteld. Met deze verordening is voor het eerst een juridisch kader gecreëerd voor de ontwikkeling, het aanbieden en het gebruik van AI-systemen binnen de Europese Unie. Het doel van de AI Act is om innovatie mogelijk te maken, terwijl tegelijkertijd fundamentele rechten, zoals privacy, gelijke behandeling en menselijke waardigheid, worden beschermd. De verordening moet dan ook worden toegepast in overeenstemming met het Handvest van de grondrechten van de Europese Unie.
De AI Act hanteert een risicogebaseerde benadering. Dat betekent dat de verplichtingen voor organisaties afhangen van het risico dat een AI-systeem met zich brengt. AI-toepassingen die een onaanvaardbaar risico vormen, zoals bepaalde manipulatieve systemen of sociale scoring, zijn verboden. Voor zogenoemde hoog-risico AI-systemen, zoals systemen die worden gebruikt bij sollicitaties, kredietbeoordelingen of in de gezondheidszorg, gelden uitgebreide eisen op het gebied van risicobeheer, documentatie, transparantie en menselijk toezicht. Daarnaast kent de AI Act transparantieverplichtingen voor onder meer chatbots en generatieve AI, zodat gebruikers weten wanneer zij met AI communiceren of AI-gegenereerde content ontvangen. Voor AI-toepassingen met een beperkt risico gelden slechts beperkte verplichtingen.
Naast de AI Act blijft ook de Algemene Verordening Gegevensbescherming (AVG) onverminderd van toepassing wanneer AI persoonsgegevens verwerkt. Organisaties moeten daarom beschikken over een rechtmatige grondslag voor de verwerking, betrokkenen informeren over het gebruik van hun gegevens en passende beveiligingsmaatregelen treffen. Wanneer AI wordt ingezet voor geautomatiseerde besluitvorming met aanzienlijke gevolgen voor personen, kunnen bovendien de aanvullende waarborgen van de AVG van toepassing zijn
Ook de vraag naar aansprakelijkheid wordt steeds belangrijker. Hoewel AI zelfstandig analyses kan uitvoeren of aanbevelingen kan doen, blijft de organisatie die het systeem gebruikt in veel gevallen verantwoordelijk voor de gevolgen. Daarom is het raadzaam om vooraf in kaart te brengen welke AI-systemen binnen de organisatie worden gebruikt, welke risico's daaraan verbonden zijn en of aanvullende maatregelen nodig zijn om aan de AI Act en de AVG te voldoen.
Heb je vragen over het gebruik van AI in jouw organisatie? Neem dan gerust contact met ons op via ln.wal-xat-oilisnoc@xkirdneh.euqinad. Wij denken graag met je mee!
Geschreven door Anne Bormans, juridisch stagiaire