I. Künstliche Intelligenz und Arbeitnehmerdatenschutz

Die Nutzung von KI im Rahmen von Arbeitsverhältnissen ist ohne die Verarbeitung personenbezogener Daten nahezu undenkbar, was wiederum aus datenschutzrechtlicher Sicht zahlreiche Herausforderungen für die Arbeitswelt mit sich bringt. Insbesondere die Normen der Datenschutzgrundverordnung (nachfolgend DSGVO) dürften diesem technischen Fortschritt jedenfalls im Bereich Personal gewisse Grenzen setzen.

Nutzt die Personalreferentin eines Unternehmens beispielsweise ein solches System zur Automatisierung von Prozessen und werden auf diese Weise Arbeitszeugnisse oder Abmahnungen erstellt, so ist dies datenschutzrechtlich mit äußerster Vorsicht verbunden. Spätestens an dieser Stelle sind das deutsche Arbeitsrecht und die Bestimmungen rund um das Thema Datenschutz untrennbar miteinander verbunden.

1. Allgemeines

Wann wird KI im Bereich des Arbeitsrechts relevant? Da das System der KI immer auf Basis von Trainingsdaten arbeitet, sind hierbei potenziell folgende Gruppen betroffen: diejenigen, deren Daten im System verarbeitet werden, diejenigen, die das System bedienen und diejenigen, von denen die Trainingsdaten stammen.

Denkbar wäre beispielsweise, dass die Einsatzplanung der Arbeitnehmer vollautomatisiert durch IT-Systeme erfolgen könnte. So würden durch einen Algorithmus den Arbeitnehmern und Arbeitnehmerinnen auf ihren digitalen Endgeräten Arbeitsanweisungen erteilt. Auch Kurier- und Auslieferungsfahrern könnte im Wege einer digitalen Routenplanung die Fahrtroute vorgegeben werden. Wenn man diese Überlegungen weiterführt, könnte ein KI-System, sobald es Verstöße gegen die von ihm erteilten Weisungen feststellt, automatisiert eine Abmahnung an den betreffenden Mitarbeiter vorbereiten oder gar versenden. Am Ende könnte sogar bei wiederholten Pflichtverstößen und auch bei personen- und betriebsbedingten Kündigungen ein KI-System automatisch eine Kündigung generieren. Bei der Durchführung einer Sozialauswahl, aber auch bei der Bemessung eines Sozialplanvolumens, kommen technische Systeme heute schon zum Einsatz.

2. Anwendbarkeit der DSGVO?

Der Anwendungsbereich der DSGVO erstreckt sich auf personenbezogene Daten und damit auf alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Dies bedeutet im Umkehrschluss, dass der Anwendungsbereich bei der Nutzung von KI dann nicht eröffnet ist, wenn keine personenbezogenen oder sonstigen sensiblen Informationen – wie bspw. Geschäftsgeheimnisse, Beschäftigungszeiträume und Mitarbeiterdaten – mittels der KI-Anwendung verarbeitet werden. Denkbar wäre beispielsweise, dass das System vorab solche Daten erkennt und diese von Anfang an aussondert und automatisch entfernt. In einem solchen Fall wären die gesetzlichen Vorgaben der Datenschutzbestimmungen ausnahmsweise unbeachtlich.

3. Rechtlicher Ausgangspunkt

Probleme im Rahmen der Nutzung entsprechender Systeme können vor allem dann auftreten, wenn Arbeitgeber nicht transparent kommunizieren, welche Systeme tatsächlich zum Einsatz kommen. Zunächst sind Arbeitgeber nach Maßgabe von Art. 13 DSGVO verpflichtet, ihre Mitarbeiter über die Verarbeitung ihrer Daten zu informieren. Zudem normiert Art. 15 DSGVO ein Auskunftsrecht der „Betroffenen“. Das bedeutet, dass der Verantwortliche die betroffene Person umfassend und in klarer und verständlicher Sprache über die Verarbeitungszwecke und die verarbeiteten Daten, insbesondere aber auch über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer solchen Verarbeitung für die betroffene Person, informieren muss.

Auch vermittelt die Vorschrift des Art. 22 DSGVO betroffenen Personen das Recht, einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung nicht unterworfen zu werden, die ihr gegenüber eine rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Festzuhalten ist daher, dass beim Erstellen von Ermahnungen, Abmahnungen, Zeugnissen und erst recht Kündigungen, der KI-Einsatz nicht gänzlich ohne menschliche Entscheidungskompetenz bleiben kann. Andernfalls droht ein Verstoß gegen Art. 22 DSGVO.

4. Insbesondere: Automatisierte Bewerberauswahl durch KI

Insbesondere in Bewerberauswahlprozessen wird vermehrt Software eingesetzt, die Recruitern voll- oder teilautomatisiert helfen soll, den richtigen Bewerber zu finden. Zum Einsatz kommen dabei sowohl Programme, die Lebensläufe und Zeugnisse auswerten oder auf Basis von Video- oder Telefoninterviews automatisiert Persönlichkeitsprofile der Bewerber erstellen, als auch Algorithmen, die automatisiert soziale Netzwerke nach passenden Kandidaten durchsuchen („Active Sourcing“). Die Nutzung von KI zur automatisierten Bewerberauswahl bietet zahlreiche Vorteile, wie Effizienzsteigerung, Kostenreduktion und im Idealfall eine objektivere Vorauswahl von Bewerbern. Allerdings wirft diese Entwicklung auch arbeitsrechtliche Fragen auf, die sorgfältig berücksichtigt werden müssen, um Diskriminierung und andere Rechtsverletzungen zu vermeiden.

Hier ist das Thema der Verwendung von personenbezogenen Daten für die automatisierte Bewerberauswahl zentral. Die Daten, die im Rahmen von KI-basierten Auswahlentscheidungen verarbeitet werden, sind typischerweise personenbezogene Daten, für deren Verarbeitung die Datenschutzgrundverordnung (DSGVO) und das Bundesdatenschutzgesetz (BDSG) strenge Regeln festlegen. Nach § 26 Abs. 1 S. 1 Alt. 1 BDSG ist die Datenverarbeitung im Arbeitsverhältnis erlaubt, wenn sie für die Entscheidung über die Begründung eines Beschäftigungsverhältnisses erforderlich ist. Dabei gelten auch Bewerber als Beschäftigte. Eine Bewerbung erfordert aber ein aktives Tätigwerden des Bewerbers, woran es beim Active Sourcing, also der arbeitgeberseitig betriebenen Personalsuche, fehlt. Darüber hinaus muss die konkrete Datenverarbeitung geeignet sein, das vom Arbeitgeber erstrebte Ziel zu erreichen. Sie muss das mildeste Mittel darstellen und die Interessen des Arbeitgebers müssen gegenüber dem Eingriff in das Persönlichkeitsrecht des Bewerbers überwiegen. Ob eine Datenverarbeitung durch KI-Systeme zulässig ist, kann damit immer nur für den Einzelfall entschieden werden, was die Beurteilung der abstrakten Zulässigkeit erschwert. Sofern die Verwendung von KI im Bewerbungsverfahren nicht im Sinne von § 26 Abs. 1 S. 1 Alt. 1 BDSG erforderlich ist, kann für die Verarbeitung stattdessen eine Einwilligung des Bewerbers eingeholt werden. Auch dieser Weg scheidet beim Active Sourcing aus.

Daneben müssen Unternehmen insbesondere hier das Verbot automatisierter Einzelentscheidungen nach Art. 22 Abs. 1 DSGVO beachten. Entscheidungen dürfen danach nicht ausschließlich auf eine automatisierte Verarbeitung personenbezogener Daten gestützt werden, wenn sie gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen. Ein KI-System darf somit lediglich eine Vorauswahl der Bewerber treffen, jedoch nicht die endgültige Entscheidung über die Ablehnung oder Einstellung eines Bewerbers durch einen Menschen ersetzen.

Schließlich haben die von automatisierten Entscheidungen betroffenen Personen gemäß Art. 13 Abs. 2f DSGVO und Art. 14 Abs. 2g DSGVO Informationsrechte sowie ein Auskunftsrecht gemäß Art. 15 DSGVO.

II. Diskriminierungsschutz

Ein weiteres Hauptthema in der Diskussion um automatisierte Bewerberauswahl durch KI ist die potenzielle Diskriminierung von Bewerbern. Der Einsatz von KI bei Personalentscheidungen in einem Unternehmen kann zu einer Benachteiligung von einzelnen Personen oder Personengruppen führen oder diese verstärken.

Wenn ein Arbeitgeber bei Bewerbungs-, Recruitingprozessen oder der Leistungsbeurteilung von Mitarbeitern KI-Systeme einsetzt und die Entscheidungen von dieser übernimmt, kann dieses zu einer Diskriminierung führen. Ein Beispiel dafür wäre der Einsatz von künstlicher Intelligenz bei der Bewertung der eingehenden Bewerbungen von Kandidaten auf einer Arbeitsstelle nach Geschlecht, Herkunft, Alter, Religion oder Rasse mit Hilfe eines Algorithmus, z. B. die Verwendung einer KI-Software, die die Kriterien bei den Bewerbungen sucht, die überwiegend männliche Bewerber aufweisen und damit die weiblichen Bewerberinnen aus dem Bewerberkreis automatisch ausschließt und diese damit benachteiligt. Ein weiteres Beispiel ist die KI-gestützte Leistungsbeurteilung von Mitarbeitern durch einen diskriminierenden Algorithmus, z. B. wenn ein Kriterium für die Leistungsbewertung mittelbar an in § 1 AGG genannte Merkmale wie Geschlecht, Alter, Herkunft etc. geknüpft ist.

Der Einsatz von künstlicher Intelligenz ist im arbeitsrechtlichen Bereich grundsätzlich zulässig, wenn die gesetzlichen Vorschriften eingehalten werden und der Schutz der Persönlichkeitsrechte der Mitarbeiter sowie der Schutz vor Diskriminierung gewährleistet ist. Die Verwendung von KI-Tools oder KI-Software ist aber mit hohem Risiko verbunden und kann im Falle der Verwendung von diskriminierenden Algorithmen zur Arbeitgeberhaftung führen. Liegt ein Verstoß gegen das Benachteiligungsverbot nach § 7 Abs. 1 AGG vor, welches die Benachteiligung eines Beschäftigten aus Gründen der Rasse, der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität verbietet, stehen dem betroffenen Mitarbeiter oder Bewerber Ansprüche auf die Zahlung der AGG-Entschädigung nach §15 AGG sowie unter Umständen Schmerzensgeldzahlungen bzw. Schadenersatz wegen Persönlichkeitsverletzung zu. Der Arbeitgeber haftet, wenn dieser die Diskriminierung bzw. Benachteiligung durch entsprechende Vorkehrungen, z. B. sorgfältige Überwachung von KI-Systemen, Durchführung von Tests mit Trainingsdaten usw. hätte vermeiden können und die Pflichtverletzung somit zu vertreten hat (Organisationsverschulden).

Art. 9 DSGVO untersagt die Verarbeitung personenbezogener Daten, aus denen die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen sowie Daten zum Sexualleben oder der sexuellen Orientierung hervorgehen, wenn keine Einwilligung vorliegt oder die übrigen in der Regelung des § 9 Abs. 2 DSGVO aufgeführten Ausnahmetatbestände nicht eingreifen.

Zukünftig ist auf Unionsebene mit einer Entwicklung der Vorschriften betreffend Diskriminierungsschutz durch den Einsatz von künstlicher Intelligenz zu rechnen. Die Europäische Kommission hat am 21.04.2021 einen Vorschlag für eine Verordnung vorgelegt, mit der harmonisierte Vorschriften für künstliche Intelligenz festgelegt werden (Gesetz über künstliche Intelligenz). Laut der Ziffer 5 der Begründung des Vorschlags ist eines der Ziele des vorgelegten Vorschlags, dass die durch die EU-Grundrechtecharta geschützten Rechte noch stärker geschützt werden, z. B. die Würde des Menschen, die Achtung des Privatlebens und der Schutz personenbezogener Daten, die Nichtdiskriminierung und die Gleichheit von Frauen und Männern (Ziff. 5 KI-VO-E). 

Auch wenn die rechtlichen Vorschriften zum Schutz vor Diskriminierung existieren, wäre es empfehlenswert, dass ein Arbeitgeber in seinem Unternehmen dafür sorgt, dass der Schutz vor Diskriminierung bereits beim Programmieren von KI-Software beginnt, den Einsatz von künstlicher Intelligenz sorgfältig überwacht und die Entscheidungen und die Ergebnisse der Arbeit von KI selbst kritisch überprüft werden.

III. Mitbestimmung des Betriebsrats bei der Einführung von KI-Technologien

Der Betriebsrat hat nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht im Hinblick auf die „Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen“. Insbesondere die Fähigkeit von KI-Systemen, enorme Datenmengen zu verarbeiten und auszuwerten und daraus Schlüsse auf das vorhandene und zukünftige Verhalten der Arbeitnehmer zu folgern, macht die Vorschrift und das Mitbestimmungsrecht in diesem Fall zu einem hot topic.

Denn die heutigen technischen Möglichkeiten zur Überwachung von Personal stehen im offensichtlichen Spannungsverhältnis zu dem in § 75 Abs.1 S.1 BetrVG festgelegten Grundsatz, dass die Betriebspartner die freie Entfaltung der Persönlichkeit der im Betrieb beschäftigten Arbeitnehmer zu schützen und zu fördern haben. Das zwingende Mitbestimmungsrecht des Betriebsrats bei Einführung solcher Systeme soll vor unzulässigen Eingriffen in die Persönlichkeitssphäre schützen.

Die Überwachung nach § 87 Abs. 1 Nr. 6 BetrVG kann durch optische, akustische, mechanische oder elektronische Geräte erfolgen und über eine eigenständige Kontrollwirkung verfügen. Der Einsatz der technischen Einrichtung als Hilfsmittel einer persönlichen Überwachung reicht hierfür nicht aus. Auf eine Überwachungsabsicht oder spätere tatsächliche Verwendung kommt es nicht an, vielmehr genügt es, wenn die technische Einrichtung zu einer Kontrolle objektiv geeignet ist. Da das vorliegende Mitbestimmungsrecht sich nur auf Arbeitnehmer bezieht, fallen KI-basierte Bewerbungsmanagementsysteme, welche Recruitern beim Finden eines „Perfect Fit“ helfen oder Rückschlüsse auf die Persönlichkeit eines Bewerbers erlauben, möglicherweise nicht unter § 87 Abs. 1 Nr. 6 BetrVG – solange nicht auch interne Bewerber hiermit bewertet werden.

Dem Betriebsrat steht nach § 80 Abs. 3 BetrVG weiter das Recht zu, nach Vereinbarung mit dem Arbeitgeber Sachverständige bei der Durchführung seiner Aufgaben hinzuzuziehen, die ihm die entsprechenden Kenntnisse vermitteln. Seit dem Betriebsrätemodernisierungsgesetz ist in § 80 Abs. 3 S. 2 BetrVG vorgesehen, dass wenn der Betriebsrat zur Durchführung seiner Aufgaben die Einführung oder Anwendung von Künstlicher Intelligenz beurteilen muss, insoweit die Hinzuziehung eines Sachverständigen als erforderlich gilt. Die ansonsten bei Hinzuziehen von Sachverständigen zu prüfende Erforderlichkeit entfällt somit in diesem Fall. Der Sachverständige muss aber immer noch geeignet sein und die Höhe der Kosten verhältnismäßig. Gleiches gilt, wenn sich Arbeitgeber und Betriebsrat auf einen ständigen Sachverständigen in diesen Angelegenheiten einigen.

Ein über das Mitbestimmungsrecht hinausgehendes Initiativrecht des Betriebsrats auf Einführung einer technischen Einrichtung ist jedoch nach älterer BAG-Rspr. abzulehnen, auch wenn hiergegen in der Literatur Bedenken geäußert werden. Zur Begründung stellt das Bundesarbeitsgericht auf den Zweck des § 87 Abs. 1 Nr. 6 BetrVG ab, wonach dem Mitbestimmungsrecht primär eine Abwehrfunktion zukommt. Der Betriebsrat kann die Einführung von KI allenfalls anregen. Die arbeitgeberseitig beabsichtigte Abschaffung von KI kann ohne Mitbestimmung des Betriebsrats erfolgen.

Die Mitbestimmung des Betriebsrats in Hinblick auf KI kann (und sollte) im Rahmen von Betriebsvereinbarungen geregelt werden. Dies gilt insbesondere vor dem Hintergrund, dass die Entwicklung und Einsetzung von KI in Unternehmen in der Regel schneller fortschreitet als der Gesetzgeber hierauf reagiert. Da das Mitbestimmungsrecht vorliegend keine Erheblichkeitsschwelle kennt, kann gegebenenfalls anzuraten sein, Zustimmungsprozesse dadurch zu beschleunigen, dass Arbeitgeber und Betriebsrat eine Rahmenvereinbarung mit generellen Regelungen sowie anwendungsspezifische Einzelvereinbarungen abschließen.