1. Präambel

Der Einsatz von Künstlicher Intelligenz in Unternehmen eröffnet vielfältige Chancen und verändert die Arbeitswelt. Diese Vereinbarung setzt Rahmenbedingungen und verpflichtet zu einer Interessenabwägung, welche die Chancen und Risiken für das Unternehmen sowie die möglichen Vor- und Nachteile für Arbeitnehmerinnen und Arbeitnehmer (im Folgenden „AN") ins Verhältnis setzt.

2. Regelungsgegenstand/Geltungsbereich

Diese KBV regelt den Einsatz von Systemen mit Künstlicher Intelligenz / Artificial Intelligence (im Folgenden „Kl-Systeme") in dem in dieser KBV festgelegten Geltungsbereich, unter Berücksichtigung der Mitbestimmungs- und Mitwirkungsrechte der zuständigen Mitbestimmungsgremien.

Die Regelungen dieser KBV gelten unmittelbar und verbindlich. Sie orientieren sich an den Prinzipien „IBM's Principles for Trust and Transparency" und den „Ethik-Leitlinien für eine vertrauenswürdige Kl" der europäischen Kommission.

Dabei sollen vor allem die folgenden Grundsätze berücksichtigt werden:

•Transparenz des Kl-Systems

•Erklärbarkeit (= Nachvollziehbarkeit) des Ergebnisses

•Sicherstellung menschlicher Entscheidung

•Qualitätssicherung/Robustheit von Eingangsdaten und Algorithmen

•Einrichtung eines KI Ethik Rats und Sicherstellung eines Regelkreises

•Bewertung in einem Gefährdungsspektrum (Chancen/Risiken und Wahrscheinlichkeiten)

Sie ergänzt die KBV „Rahmenbetriebsvereinbarung zur Regelung der Bedingungen bei Einführung, Betrieb und Erweiterung von IT-Systemen" vom 01.08.2019 (im Folgenden „Rahmen-KBV IT-Systeme") nebst Anlagen und Protokollnotizen, sofern in diesen IT- Systemen Künstliche Intelligenz zum Einsatz kommt.

Die Regelungen der Rahmen-KBV IT-Systeme nebst Liste, Anlagen und Protokollnotizen gelten uneingeschränkt auch für diese KI-Systeme, soweit nachfolgend nicht ausdrücklich eine Abweichung geregelt ist.

3. Zweck

Zweck der KI-Systeme ist die datengestützte Vorbereitung bestmöglicher Entscheidungen im Unternehmen. Sie ersetzen in keinem Fall die finale Entscheidung durch einen Menschen.

4. Einführung und Veränderung von Kl-Systemen

Für die Einführung oder wesentliche Änderung eines KI-Systems und die damit zusammenhängenden Maßnahmen gilt neben Ziffer 4 der Rahmen-KBV IT-Systeme Folgendes:

Die Checkliste gemäß Anlage 2 der Rahmen-KBV IT-Systeme wird bei KI-Systemen um zusätzliche Fragen ergänzt. Die kurzgefasste Protokollnotiz gemäß Anlage 4 und die Protokollnotiz gemäß Anlage 5 der Rahmen-KBV IT-Systeme erhalten zusätzliche Gliederungspunkte zur Regelung der KI.

Der KBR nimmt zeitnah seine Bewertung des KI-Systems vor und informiert die Arbeitgeberin über das Ergebnis seiner Bewertung. Die Betriebsparteien stimmen hierauf die weitere Vorgehensweise gemeinschaftlich ab. Für Meinungsverschiedenheiten gilt Ziffer 12 der Rahmen-KBV IT-Systeme.

Für die Klassifikation gilt Folgendes:

Die Bewertung des KI-Systems erfolgt anhand der möglichen Schadenshöhe/Nachteile für die AN und der jeweiligen Eintrittswahrscheinlichkeit. In seine Bewertung bezieht der KBR die möglichen Chancen eines KI-Systems für die AN und für das Unternehmen mit ein. Schaden ist definiert als mögliche (arbeitsrechtliche) Konsequenz aus dem Einsatz einer KI.

Die möglichen Kategorien gliedern sich wie folgt:

•Kategorie 1 (kein Risiko): Ohne Verhaltens- und/oder Leistungskontrolle (im Folgenden „VuLK"); dient nur der Information des AN.

•Kategorie 2 (geringes Risiko): Ohne VuLK; dient nur der Information des AN und seiner Führungskraft.

•Kategorie 3 (mittleres Risiko): Mit VuLK; geringe Wahrscheinlichkeit des Eintritts des Schadens; nicht unerhebliche Schadenshöhe möglich.

•Kategorie 4 (hohes Riskio): Mit VuLK; höhere Wahrscheinlichkeit des Eintritts des Schadens; erhebliche Schadenshöhe möglich.

•Kategorie 5 (sehr hohes Risiko): Empfehlungen für oder automatische Entscheidungen über Personalmaßnahmen jeder Art; ohne Chancen-/Nutzenpotenzial für AN.

Der KBR ist in seiner Bewertung frei. Eine Ermessenseinschränkung durch das beschriebene Vorgehen ist unzulässig.

Abhängig von der Bewertung/Kategorisierung wird ein stufiges Vorgehen gewählt:

•Bei Einstufung des KI-Systems in Kategorie 1 oder 2 kann eine Dokumentation in der Liste der Rahmen-KBV IT-Systeme als KI-System erfolgen.

•Bei Einstufung des KI-Systems in Kategorie 3 kann eine kurzgefasste Protokollnotiz verhandelt und abgeschlossen werden.

•Bei Einstufung des Kl-Systems in Kategorie 4 wird eine eigene Protokollnotiz basierend auf einer Standardvorlage verhandelt und abgeschlossen. Dabei sind von der Arbeitgeberin sachkundige AN zur Verfügung zu stellen. Der KI Ethik Rat ist zu informieren. § 80 Abs. 3 BetrVG bleibt unberührt.

•Arbeitgeberin und KBR sind sich einig, dass KI-Systeme der Kategorie 5 nicht zum Einsatz kommen und nicht eingeführt werden dürfen.

Führt die Bewertung nach den Kategorien der Rahmen-KBV IT-Systeme und nach den Kate-gorien dieser KBV zu unterschiedlichen Ergebnissen bezüglich der Vereinbarungsform (Liste, kurzgefasste Protokollnotiz oder Protokollnotiz), so ist die umfangreichste Vereinbarungs form zu wählen.

Diese Regeln gelten auch bei der Veränderung („Update") von bereits im Einsatz/Produk tionsbetrieb befindlichen Kl-Systemen.

Wenn in dieser KBV der Begriff „Protokollnotiz" verwendet wird, sind damit - soweit nicht ausdrücklich zwischen den Regelungsvarianten differenziert wird - alle drei Varianten inkl. der Dokumentation in der Liste gemeint.

5. Anforderungen an ein Kl-System

5.1 Qualitätssicherung

Die Eingangsdaten sind sachlich richtig und auf dem neuesten Stand. Auf diese Daten und ihre Verarbeitung werden geeignete Maßnahmen zur Qualitätssicherung und zur Prüfung der Robustheit der Algorithmen angewendet, welche die Arbeitgeberin auf Verlangen nachzuweisen hat.

5.2 Transparenz

Die Transparenz, die ein Kl-System erfüllen muss, richtet sich nach der Einstufung des Kl-Systems:

Kategorie 1: Es ist keine Transparenz über die Kennzeichnung als Kl-System hinaus notwendig, aber wünschenswert.

Kategorie 2: Dem AN muss für die wichtigsten Eingangsdaten dargelegt werden, in welcher Form sie die Entscheidung beeinflussen.

Kategorie 3 und 4: Es ist eine größtmögliche Transparenz erforderlich. Dem AN muss dargelegt werden:

•welche Eingangsdaten die Entscheidung beeinflussen

* bei Kategorie 3: die wichtigsten Eingangsdaten

* bei Kategorie 4: alle Eingangsdaten

•der Einfluss der Eingangsdaten auf die Ergebnisfindung

•das Konfidenzniveau des Ergebnisses (Wahrscheinlichkeit der Richtigkeit des Ergebnisses)

Die Parteien können Abweichungen in einer Protokollnotiz vereinbaren. Gesetzliche Auskunftsansprüche der AN bleiben von den vorgenannten Regelungen unberührt.

5.3 Regelkreis

Ein Kl-System kann keine perfekte Empfehlung abgeben, da seine Vorschläge nicht auf eindeutigen Ursache-Wirkung-Beziehungen beruhen und außerdem von der Datenqualität der Trainingsdaten abhängen. Daher ist die Einführung eines Regelkreises ab Kategorie 2 in jedem Fall zwingend notwendig. Unter einem Regelkreis gemäß dieser KBV wird Folgendes verstanden: Möglichkeit zur Rückmeldung falscher Vorschläge, Korrektur des KI-Modells sowie Korrektur der Ergebnisse zur Verhinderung negativer Auswirkungen.

Die Anforderungen an den Regelkreis richten sich nach der Einstufung des KI-Systems:

•Kategorie 1: Es ist kein Regelkreis notwendig; er ist jedoch wünschenswert.

•Kategorie 2: Es muss zum Zeitpunkt der Einführung ein definierter Prozess zur Meldung und Korrektur falscher KI-Vorschläge existieren (nicht-persönliche Kommunikation).

•Kategorie 3: Es muss zum Zeitpunkt der Einführung ein definierter Prozess zur Meldung und Korrektur falscher KI-Vorschläge existieren (persönliche Kommunikation mit einem Verantwortlichen möglich).

•Kategorie 4: Zusätzlich zu den Regelungen von Kategorie 3 kann der KI Ethik Rat gemäß Ziffer 6 vom AN angerufen werden; eine schnelle Fehlerkorrektur in der Anwendung muss sichergestellt sein.

Bei Kategorie 1 bis 4 soll zur Klärung von Sachverhalten zuerst das Gespräch mit der Führungskraft erfolgen. Weiterhin können der Betriebsrat und der Personalbereich eingeschaltet werden. Sollten die Klärungsversuche scheitern, können der Betriebsrat oder der Personalbereich den KI Ethik Rat einbeziehen.

5.4 Nichtdiskriminierung/Faimess

KI-Systeme müssen gerechte und nicht-diskriminierende Entscheidungsvorlagen liefern. Die Arbeitgeberin hat nachzuweisen, dass die KI-Systeme mit geeigneten Methoden (wie z.B. „Watson OpenScale") auf Diskriminierungsfreiheit und Fairness geprüft wurden.

Arbeitgeber, KBR und Konzernschwerbehindertenvertretung (im Folgenden „KSBV") sind sich einig, die Schwerbehinderteneigenschaft beim Einsatz von KI-basierten Tools nicht zu erfassen/berücksichtigen. Daher kommt den Führungskräften bei der Umsetzung von datenunterstützten Entscheidungen eine besondere Verantwortung zu, dafür Sorge zu tragen, dass die besonderen Rechte der schwerbehinderten und ihnen gleichgestellten AN aus dem SGB IX und der Integrationsvereinbarung gewahrt werden.

6. KI Ethik Rat

Um die Einführung von KI-Systemen in der IBM in Deutschland zu begleiten, wird ein sich selbst organisierendes und agil arbeitendes Team etabliert. Dessen Aufgaben umfassen:

•Kenntnis über die in der IBM für Deutschland eingesetzten KI-Systeme

* Zweck

* Art

* Transparenzinformationen

•Überprüfen der Richtigkeit einer durch eine KI ausgesprochenen Empfehlung

•Sicherstellung der Korrektur der Empfehlung im Fehlerfalle (bei Kategorie 4 kann sich der AN direkt an den KI Ethik Rat wenden)

•Hinwirkung auf Korrektur des Kl-Systems bei Vorliegen systematischer Fehler, besonders auch bei Vorliegen von Diskriminierung

•Klärung von komplexen und richtungsweisenden Sachverhalten

•Beratung bei der Einführung von KI-Systemen (verpflichtend bei Kategorie 4)

Die Zusammensetzung des KI Ethik Rats erfolgt in Abstimmung mit dem Konzernbetriebsrat. Der KI Ethik Rat repräsentiert die beteiligten Funktionen wie „Data Privacy", „Business Units", KBR, KSBV und „HR Labor Relations" und wird durch einen Sprecher organisiert.

7. Rechte der AN

Die Rechte der AN bleiben unberührt. Darüber hinaus bestehen für AN die Rechte gemäß Ziffer 5.3.

Sind die Empfehlungen eines Kl-Systems erwiesenermaßen fehlerhaft, hat der AN einen Anspruch auf Korrektur.

8. Veränderung der Arbeitsbedingungen durch Kl-Systeme

Bei Wegfall des Arbeitsplatzes oder Änderung der Tätigkeit durch den Einsatz von KI-Syste- men gilt § 5.2 (Betriebsbedingte Änderung der Tätigkeit) des Entgeltrahmentarifvertrags. Danach hat die Arbeitgeberin des AN, soweit möglich, dem betroffenen AN einen gleichwertigen Arbeitsplatz anzubieten. Sofern erforderlich, erhält der AN eine entsprechende Umschulung.

Gem. § 2 (Arbeitsplatz, -umgebung, -gestaltung) des Tarifvertrags Allgemeine Beschäftigungsbedingungen sind die Arbeitsbedingungen so zu gestalten, dass sie im Rahmen der betrieblichen und wirtschaftlichen Möglichkeiten auf die Dauer zu keiner gesundheitlichen Beeinträchtigung der AN führen, die freie Entfaltung der Persönlichkeit der AN geschützt und gefördert sowie das Recht auf Menschenwürde geachtet wird.

Werden diese Grundsätze nicht eingehalten, so können die AN Vorschläge zur Verbesserung der Arbeitssituation einbringen. Die Vorschläge sind umgehend zu prüfen und, soweit sachlich berechtigt und wirtschaftlich vertretbar, von der Arbeitgeberin umzusetzen.

9. Verhaltens- und Leistungskontrolle

Es gelten hier die Regelungen der Rahmen-KBV IT-Systeme.

10. Kontroll- und Mitbestimmungsrechte des Betriebsrats

Die Betriebsräte sind innerhalb ihres Zuständigkeitsbereichs befugt, die Einhaltung dieser KBV einschließlich ihrer Protokollnotizen gemäß § 80 BetrVG zu überwachen.

Dazu gehört unter anderem ein Einsichtsrecht in:

•die Methoden der Qualitätssicherung der Daten

•die Methoden der „Non-Bias"-Analyse (Neutralität, Unvoreingenommenheit)

•die Transparenzinformationen gemäß Ziffer 5.2

•das Ziel und den Zweck der eingesetzten KI

Die Arbeitgeberin wird die Einsicht gewähren, soweit die Daten bei ihr selbst vorhanden sind. Im Übrigen wird die Arbeitgeberin im Rahmen der ihr zustehenden Möglichkeiten bei der Einsichtnahme proaktiv unterstützen.