Die Praxis

Künstliche Intelligenz („KI“) spielt in Unternehmen eine immer größere Rolle. KI wird nicht nur im Kundenservice, im Marketing und in der Verwaltung eingesetzt, sondern auch bei Entscheidungen über Menschen. Dazu zählen Bewerbungsverfahren, Beurteilungen, Personaleinsatzplanung, Produktivitätsmessungen und sogar die Vergütung.

Dies wirft eine wichtige Frage auf: Wie weit darf ein Unternehmen gehen, wenn es Entscheidungen Algorithmen überlässt?

Diese Frage steht auch im Mittelpunkt eines aktuellen Verfahrens gegen Uber. Fahrer aus den Niederlanden und dem Vereinigten Königreich machen geltend, dass ein KI-gesteuertes System mitbestimmt, wie viel sie pro Fahrt verdienen. Nach Auffassung der Kläger ist nicht hinreichend transparent, welche Daten das System verwendet, wie die Vergütung zustande kommt und warum Fahrer für vergleichbare Fahrten unterschiedlich bezahlt werden. Das Verfahren betrifft damit Transparenzpflichten, den Schutz personenbezogener Daten und die Grenzen automatisierter Entscheidungsfindung.

Obwohl dieser Fall Plattformbeschäftigte betrifft, ist die zugrunde liegende Frage für nahezu jedes Unternehmen relevant: Unter welchen Voraussetzungen darf ein Algorithmus Entscheidungen über Einkommen, Beurteilungen oder Karrierechancen von Menschen beeinflussen?

Der rechtliche Aspekt

Viele Unternehmer betrachten KI als Hilfsmittel. Rechtlich wird jedoch zunehmend auf die Folgen der Entscheidungen abgestellt, die mithilfe von KI getroffen werden.

Werden Algorithmen für Entscheidungen eingesetzt, die rechtliche Wirkungen entfalten oder Personen in ähnlicher Weise erheblich beeinträchtigen, können verschiedene rechtliche Regelwerke relevant sein, darunter die Datenschutz-Grundverordnung (DSGVO), arbeitsrechtliche Sorgfaltsmaßstäbe und Verpflichtungen nach der europäischen KI-Regulierung.

Zunächst spielt die DSGVO eine wichtige Rolle. Organisationen müssen die Verarbeitung personenbezogener Daten transparent gestalten, über eine gültige Rechtsgrundlage verfügen und die betroffenen Personen über die Logik und die Folgen automatisierter Entscheidungsfindung informieren, soweit die DSGVO dies verlangt. Für ausschließlich automatisierte Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung gelten zudem zusätzliche Beschränkungen und Garantien.

Zunehmend stellt sich außerdem die Frage, ob die Betroffenen nachvollziehen können, wie eine Entscheidung zustande gekommen ist. Ein System, das vollständig als „Blackbox“ funktioniert, kann rechtlich und praktisch problematisch sein, wenn das Ergebnis erhebliche Folgen für Arbeitnehmer, Bewerber oder Plattformbeschäftigte hat.

Auch die europäische KI-Regulierung zwingt Organisationen dazu, KI-Systeme, die in Personal-, HR- und Beurteilungsprozessen eingesetzt werden, kritischer zu prüfen. Solche Anwendungen können unter bestimmten Umständen als Hochrisiko-Systeme eingestuft werden, sodass unter anderem Anforderungen an Risikomanagement, Datenqualität, Transparenz, menschliche Aufsicht und Dokumentation gelten können.

Für Unternehmer ist daher nicht nur entscheidend, was ein KI-System technisch leisten kann, sondern vor allem, welche Entscheidungen durch das System vorbereitet oder getroffen werden, welche Daten dafür verwendet werden und welche Mechanismen für menschliche Prüfung und Rechenschaft eingerichtet sind.

Auch unabhängig von der DSGVO und dem AI Act können arbeitsrechtliche Maßstäbe relevant sein. Arbeitgeber müssen ihrer Fürsorgepflicht nachkommen, bei Beurteilungs- und Vergütungsentscheidungen sorgfältig handeln und können zur Verantwortung gezogen werden, wenn ein System zu Willkür, Ungleichbehandlung oder unzureichend überprüfbaren Ergebnissen führt.

Tipps für Unternehmer

Setzt Ihr Unternehmen KI in Prozessen ein, die Auswirkungen auf Arbeitnehmer, Bewerber, Auftragnehmer oder andere Betroffene haben?

Dann sollten Sie sich unter anderem folgende Fragen stellen:

• Ist klar dokumentiert, wofür das KI-System eingesetzt wird?
• Welche personenbezogenen Daten werden verarbeitet?
• Können die Betroffenen nachvollziehen, wie eine Entscheidung zustande kommt?
• Ist stets eine menschliche Kontrolle oder Überprüfung vorgesehen?
• Können Arbeitnehmer oder andere Betroffene eine erneute Prüfung der Entscheidung verlangen?
• Wurden die Ergebnisse des Systems auf Fehler, Verzerrungen oder unerwünschte Auswirkungen überprüft?
• Entspricht der Einsatz von KI der DSGVO, den einschlägigen arbeitsrechtlichen Maßstäben und den Verpflichtungen nach der europäischen KI-Regulierung?

KI kann Unternehmen dabei helfen, effizienter zu arbeiten und bessere Entscheidungen zu treffen. Zugleich zeigen aktuelle Diskussionen und Verfahren, dass die rechtliche Verantwortung nicht beim Algorithmus liegt, sondern bei der Organisation, die sich für den Einsatz des Systems entscheidet.

Transparenz, Sorgfalt und menschliche Aufsicht bleiben daher von wesentlicher Bedeutung.

Kontakt

Setzt Ihr Unternehmen KI in HR-Prozessen, bei der Personaleinsatzplanung, bei Beurteilungen oder in anderen Entscheidungsprozessen ein? Oder möchten Sie wissen, welche Verpflichtungen sich aus der DSGVO und der europäischen KI-Regulierung ergeben?

Nehmen Sie unverbindlich Kontakt mit ACG International auf. Wir unterstützen Unternehmer dabei, technologische Innovation und rechtliche Compliance in ein ausgewogenes Verhältnis zu bringen.