De praktijk

Artificial Intelligence (“AI”) speelt een steeds grotere rol binnen ondernemingen. AI wordt niet alleen ingezet voor klantenservice, marketing en administratie, maar ook voor het nemen van beslissingen over mensen. Denk aan sollicitaties, beoordelingen, personeelsplanning, productiviteitsmetingen en zelfs beloning.

Dat roept een belangrijke vraag op: hoe ver mag een onderneming gaan in het overlaten van beslissingen aan algoritmen?

Die vraag staat ook centraal in een recente procedure tegen Uber. Chauffeurs uit Nederland en het Verenigd Koninkrijk stellen dat een AI-gestuurd systeem mede bepaalt hoeveel zij per rit verdienen. Volgens de eisers is onvoldoende inzichtelijk welke gegevens het systeem gebruikt, hoe de vergoeding tot stand komt en waarom chauffeurs voor vergelijkbare ritten verschillend worden betaald. De procedure raakt daarmee aan transparantieverplichtingen, bescherming van persoonsgegevens en de grenzen aan geautomatiseerde besluitvorming.

Hoewel deze zaak betrekking heeft op platformwerkers, is de onderliggende vraag voor vrijwel iedere onderneming relevant: onder welke voorwaarden mag een algoritme invloed hebben op beslissingen over inkomen, beoordeling of carrièrekansen van mensen?

Het juridische punt

Veel ondernemers zien AI als een hulpmiddel. Juridisch wordt echter steeds vaker gekeken naar de gevolgen van de beslissingen die met behulp van AI worden genomen.

Wanneer algoritmen worden ingezet voor keuzes die rechtsgevolgen hebben of personen anderszins in aanmerkelijke mate raken, kunnen verschillende juridische regimes relevant worden, waaronder de AVG, arbeidsrechtelijke zorgvuldigheidsnormen en verplichtingen onder de Europese AI-regelgeving.

Allereerst speelt de Algemene Verordening Gegevensbescherming (AVG) een belangrijke rol. Organisaties moeten transparant zijn over de verwerking van persoonsgegevens, beschikken over een geldige grondslag en betrokkenen informeren over de logica en gevolgen van geautomatiseerde besluitvorming voor zover de AVG dat vereist. Bij uitsluitend geautomatiseerde besluiten met rechtsgevolgen of vergelijkbare aanzienlijke gevolgen gelden bovendien aanvullende beperkingen en waarborgen.

Daarnaast ontstaat steeds meer aandacht voor de vraag of betrokkenen kunnen begrijpen hoe een beslissing tot stand is gekomen. Een systeem dat volledig als een “black box” functioneert, kan juridisch en praktisch problematisch worden wanneer de uitkomst grote gevolgen heeft voor werknemers, sollicitanten of platformwerkers.

Ook de Europese AI-regelgeving dwingt organisaties om kritischer te kijken naar AI-systemen die worden gebruikt binnen HR-, personeels- en beoordelingsprocessen. Dergelijke toepassingen kunnen onder omstandigheden als hoog-risico worden aangemerkt, waardoor onder meer eisen kunnen gelden voor risicobeheer, datakwaliteit, transparantie, menselijke controle en documentatie.

Voor ondernemers is daarom niet alleen van belang wat een AI-systeem technisch kan, maar vooral welke beslissingen door het systeem worden voorbereid of genomen, welke gegevens daarvoor worden gebruikt en welke menselijke toetsing en verantwoordingsmechanismen zijn ingericht.

Ook los van de AVG en de AI Act kunnen arbeidsrechtelijke normen relevant zijn. Werkgevers moeten zich als goed werkgever gedragen, zorgvuldig omgaan met beoordelings- en beloningsbeslissingen en kunnen worden aangesproken wanneer een systeem leidt tot willekeur, ongelijke behandeling of onvoldoende controleerbare uitkomsten.

Tips voor ondernemers

Gebruikt uw onderneming AI voor processen die invloed hebben op werknemers, sollicitanten, opdrachtnemers of andere betrokkenen?

Stel uzelf dan onder meer de volgende vragen:

• Is duidelijk vastgelegd waarvoor het AI-systeem wordt gebruikt?
• Welke persoonsgegevens worden verwerkt?
• Kunnen betrokkenen begrijpen hoe een beslissing tot stand komt?
• Is altijd sprake van menselijke controle of beoordeling?
• Kunnen werknemers of andere betrokkenen een beslissing laten heroverwegen?
• Zijn de uitkomsten van het systeem gecontroleerd op fouten, vooroordelen of ongewenste effecten?
• Sluit het gebruik van AI aan bij de AVG, de toepasselijke arbeidsrechtelijke normen en de verplichtingen onder de Europese AI-regelgeving?

AI kan ondernemingen helpen efficiënter te werken en betere beslissingen te nemen. Tegelijkertijd laten recente discussies en procedures zien dat de juridische verantwoordelijkheid niet bij het algoritme ligt, maar bij de organisatie die ervoor kiest het systeem te gebruiken.

Transparantie, zorgvuldigheid en menselijke controle blijven daarom essentieel.

Contact

Gebruikt uw onderneming AI binnen HR-processen, personeelsplanning, beoordelingen of andere besluitvormingsprocessen? Of wilt u weten welke verplichtingen voortvloeien uit de AVG en de Europese AI-regelgeving?

Neem vrijblijvend contact op met ACG International.

Wij helpen ondernemers om technologische innovatie en juridische compliance met elkaar in balans te brengen.