De Europese AI Act: kader voor verantwoord AI-gebruik op de werkvloer

Deze AI Act heeft ingrijpende juridische implicaties, vooral voor bedrijven die AI inzetten op de werkvloer. Het is daarom essentieel om tijdig te begrijpen wat de AI Act inhoudt en welke verplichtingen en risico’s dit met zich meebrengt.

Wat is de AI Act?

De AI Act is het eerste uitgebreide regelgevingskader ter wereld dat AI-systemen classificeert op basis van risico’s:

• Laag risico: AI-systemen die minimale impact hebben, zoals spamfilters.
• Beperkt risico: systemen waarbij gebruikers worden geïnformeerd over het gebruik van AI, bijvoorbeeld chatbots.
• Hoog risico: AI-systemen met mogelijke impact op fundamentele rechten, zoals toepassingen in recruitment, prestatiemanagement of beslissingen over promoties. Voor deze categorie gelden strenge eisen.
• Onaanvaardbaar risico: AI-toepassingen die bijvoorbeeld technieken gebruiken om gedrag te manipuleren, zijn verboden.

Deze risicogebaseerde aanpak biedt bedrijven duidelijkheid, maar vraagt ook om structurele aanpassingen in het inzetten en beheren van AI. 

AI op de werkvloer en juridische implicaties

Het gebruik van AI op de werkvloer roept vragen op over naleving van regelgeving, transparantie en aansprakelijkheid. De belangrijkste juridische thema’s: 

1. Naleving van bestaande wetgeving

• Algemene Verordening Gegevensbescherming (AVG): AI-systemen verwerken vaak persoonsgegevens. Bedrijven moeten ervoor zorgen dat de verwerking voldoet aan principes zoals transparantie, gegevensminimalisatie en expliciete toestemming bij gevoelige gegevensverwerking. Geautomatiseerde besluitvorming (artikel 22 AVG) mag alleen met passende waarborgen worden ingezet, zoals menselijke tussenkomst bij belangrijke besluiten.
• Arbeidsrecht: beslissingen over aanstellingen, promoties of ontslag door AI moeten objectief, transparant en verdedigbaar zijn. Het negeren van deze verplichtingen kan leiden tot arbeidsrechtelijke claims.

2. Aansprakelijkheid

De AI Act introduceert duidelijke verantwoordelijkheden voor bedrijven. Werkgevers kunnen aansprakelijk worden gesteld voor schade veroorzaakt door AI-systemen, bijvoorbeeld bij discriminerende beoordelingen. Dit sluit aan op de toekomstige AI Liability Directive, die bewijslastverlichting biedt voor slachtoffers van aan AI gerelateerde schade.

3. Transparantieverplichtingen

Werkgevers moeten werknemers en stakeholders, zoals ondernemingsraden, informeren als AI-systemen worden gebruikt in processen die hun rechten kunnen beïnvloeden. Dit omvat uitleg over het gebruik, de werking (bijv. hoe algoritmen tot beslissingen komen) en de mogelijkheid om menselijke interventie te vragen.

4. Contractuele verplichtingen

Bedrijven moeten contracten met leveranciers van AI-systemen laten voldoen aan de AI Act. Dit omvat garanties over risicobeoordeling, documentatie en aanpassingen bij non-compliance.

Belangrijke verplichtingen onder de AI Act

Naast de bredere, juridische implicaties bevat de AI Act ook specifieke verplichtingen:

• Risicobeoordeling: identificeer en beperk risico’s voorafgaand aan het gebruik van AI, vooral in arbeidsgerelateerde toepassingen.
• Monitoring en audits: controleer AI-systemen regelmatig en documenteer deze controles om naleving aan te tonen.
• Klachtenprocedures: zorg voor een transparante klachtenprocedure waarmee werknemers oneerlijke behandeling door AI kunnen melden.

Praktische voorbeelden en oplossingen

Discriminatieclaims

Een recruitmenttool die getraind is op een dataset met een vooroordeel kan onbedoeld discriminerende beslissingen nemen.

• Oplossing: voer audits uit op datasets en algoritmen om vooroordelen te identificeren en corrigeren.

Privacygeschillen

Een werknemer klaagt over ongeoorloofd gebruik van gegevens in een AI-gestuurd prestatiemanagementsysteem.

• Oplossing: stel duidelijke privacyverklaringen op en zorg ervoor dat werknemers expliciete toestemming geven voor gevoelige gegevensverwerking.

Contractbreuk met leveranciers

Een leverancier levert een AI-systeem dat niet voldoet aan wettelijke eisen, met boetes als gevolg.

• Oplossing: neem in contracten op dat leveranciers aansprakelijk zijn voor non-compliance en zorg voor garanties op het gebied van naleving.

Checklist: hoe voorkom je problemen met AI binnen jouw bedrijf?

1. Voer een risicobeoordeling uit: identificeer alle AI-systemen en beoordeel de risico’s volgens de AI Act.
2. Stel een compliance-team samen: zorg voor samenwerking tussen juridische, IT- en HR-experts.
3. Werk contracten bij: zorg ervoor dat leverancierscontracten voldoen aan de eisen van de AI Act en de AVG.
4. Implementeer trainingsprogramma’s: train medewerkers over het verantwoord gebruik van AI en de nieuwe verplichtingen.
5. Documenteer processen: zorg ervoor dat alle monitoring- en auditactiviteiten goed gedocumenteerd zijn.

Inzet AI vraagt om verantwoord gebruik

De Europese AI Act markeert een nieuwe juridische realiteit voor bedrijven die AI gebruiken op de werkvloer. Door de wetgeving proactief te omarmen, kunnen werkgevers juridische risico’s beperken en vertrouwen opbouwen bij werknemers en klanten. Het inzetten van AI biedt grote kansen, maar vraagt om verantwoord gebruik. Met de juiste voorbereiding en ondersteuning van juridische experts kunnen bedrijven AI inzetten op een manier die zowel innovatief als compliant is.

Meer weten?

aaff is graag overal van betekenis. Wil jij meer weten over de kansen en risico’s van de inzet van AI binnen jouw bedrijf? Neem contact op met Niels Ista.