Augen auf bei der Softwarewahl

In welchen Unternehmensbereichen kommt Künstliche Intelligenz (KI) zum Einsatz? Im Baustoffkonzern Heidelberg Materials weiß dies wohl kaum jemand besser als Norbert Steinert, Vorsitzender des Europäischen Betriebsrats. Rund 150 KI-Anwendungen zählt er in dem Unternehmen. Aktuell wird eine Software für das Rechnungswesen eingeführt. Sie soll Kostenstellen selbst zuordnen. Gelingt ihr das nicht, korrigiert ein Mitarbeiter den Fehler. Die Software lernt dies und wird den gleichen Fehler kein zweites Mal machen. Aber auch gängige Programme wie Microsoft365 arbeiten mit KI. Sie verwenden öffentliche Daten selbstständig, um damit das eigene Programm zu verbessern. „Aber was passiert, wenn so ein Programm auf geschäftskritische Daten zugreift oder Beschäftigtendaten abgreift, die dem Arbeitgeber zur Leistungskontrolle dienen?”, fragt Steinert. „Und wer ist schuld?”

Der Betriebsrat beugt KI-Risiken vor. Eine Betriebsvereinbarung regelt die Einführung von IT-Systemen jeglicher Art. Jedes Stück Software erhält in einer Anlage einen Steckbrief. Darin wird unter anderem festgehalten: Wird KI verwendet? In welchen Unternehmensbereichen wird sie wann eingeführt? Welche Beschäftigten sind von der Einführung betroffen? „Nur wer den Überblick hat, kann die KI-Risiken für Beschäftigte und die eigene Arbeit einschätzen”, sagt Steinert.

Das Vorgehen ist beispielhaft, denn es zeigt, wie sich Betriebsräte beim Einsatz von KI gegen Risiken absichern können. Denn zwar gelangen immer mehr KI-Anwendungen in Unternehmen, doch nur in wenigen Betrieben existierten bereits formelle Regeln zum Umgang damit. Über den Nachholbedarf herrscht unter Experten Einigkeit: „KI muss für alle betrieblichen Akteure greifbar, nachvollziehbar und verständlich dargestellt und geregelt werden”, heißt es in einer aktuellen Studie der Hans-Böckler-Stiftung zum Thema.

KI nicht verhindern, sondern mitbestimmen

Betriebsräte sollten bereits mit der Einführung von KI-Software durch das Unternehmen wachsam sein. Denn wollen Arbeitgeber KI als Arbeitsmittel nutzen, müssen sie Beteiligungsrechte der Betriebsräte beachten und sie laut Betriebsverfassungsgesetz 1 in die Lage versetzen, ihre Arbeit zu erledigen. Damit Betriebsräte Beschäftigte über die Risiken einer KI aufklären können, müssen sie aber wissen, welche Algorithmen und Regelwerke hinter der Software stecken.

Nichtwissen ist kein Argument

Oft verweisen Arbeitgeber darauf, sie wüssten dies nicht. So entziehen sie Betriebsräten eine Grundlage für deren Arbeit. Deshalb sollten Betriebsräte sich wehren und auf die Dokumentation der KI pochen. Neben dem Betriebsverfassungsgesetz bildet hier die Datenschutzgrundverordnung (DSGVO) eine wichtige Stütze. 2 Denn die DSGVO bürdet den Arbeitgebern eine Nachweispflicht auf: Sie müssen sicherstellen, dass die Verarbeitung von personenbezogenen Daten rechtskonform erfolgt. Versäumen sie dies, haben Betriebsräte das Recht, externe Sachverständige hinzuzuziehen. Eine Ergänzung des Betriebsverfassungsgesetzes ermöglicht dies. 3

Vorsicht bei persönlichen Daten

Ist die KI erst einmal im Haus und verwendet sie personenbezogene Daten, ergeben sich neue Risiken. Das Programm ChatGPT etwa erstellt selbstständig längere Texte nach Vorgaben von Nutzerinnen und Nutzern. Dazu verwendet es Daten aus allen Quellen, zu denen es Schnittstellen hat – etwa das Internet und gegebenenfalls Datenbanken des Unternehmens. Für Beschäftigte und Betriebsräte, aber auch für Aufsichtsräte sowie Gewerkschaftsvertreterinnen und -vertreter ist bei der Nutzung Vorsicht geboten.

Lässt sich etwa ein Aufsichtsratsmitglied von ChatGPT einen Text über Gewerkschaftsarbeit im Unternehmen schreiben, begibt er sich auf rechtliches Glatteis. Tauchen in dem später veröffentlichten Text zum Beispiel Namen auf, können die betroffenen Personen Schadensersatzansprüche wegen unzulässiger Datenverarbeitung einfordern. Wieder bietet die DSGVO hierfür die Grundlage. 4

Aber wer ist schuld? Ist es ChatGPT oder der Arbeitgeber, der die Software im Unternehmen eingeführt hat? Oder vielleicht doch das Aufsichtsratsmitglied, das diese KI gebrieft und womöglich noch seinen eigenen privaten Account dafür verwendet hat? In der Regel können Arbeitgeber und Anwender die Verantwortung nicht an ChatGPT durchreichen. Der Einzelfall ist entscheidend. Eine gewichtige Rolle spielt die Frage, ob der Anwender eigenmächtig oder doch im Auftrag des Arbeitgebers gehandelt hat.

Leistungskontrolle ausschließen

Fest steht, dass Betriebsräte die Einführung von KI grundsätzlich nicht verhindern können. Denn diese Systeme sind im Betriebsverfassungsgesetz nicht unter den Mitbestimmungsrechten aufgelistet. 5 Dennoch kann der Einsatz von KI eines dieser 14 Rechte auslösen. Aus Punkt sechs ergibt sich etwa die Mitbestimmung bei der „Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen”.

Viele KI-Systeme sammeln solche Infos. Sie optimieren zum Beispiel Produktionsabläufe und erheben dazu Daten der Arbeit von Maschinenführerinnen und -führern. Betriebsräte können in diesen Fällen auf die Anonymisierung hinwirken, sodass die KI gesammelte Daten nicht weiter einzelnen Personen zuordnen kann. Maschinenführer melden sich dazu beispielsweise mit einem Chip statt mit Namen und Passwort an der Anlage an. So handhabt es beispielsweise der Pumpenbauer KSB in Pegnitz. In einem sogenannten Berechtigungskonzept ist zudem festgeschrieben, dass nur der zuständige Meister und der Projektleiter auf die entsprechenden Daten Zugriff haben.

Vereinbarungen früh schließen

In den Augen von Norbert Steinert von Heidelberg Materials ist dies ein guter Ansatz. Er empfiehlt grundsätzlich Vereinbarungen mit dem Arbeitgeber über den Einsatz von Software oder von KI. Sie seien möglichst früh zu schließen. „Am Anfang lässt sich noch am besten überblicken, welche Auswirkungen eine Software haben kann”, sagt er. Und: Ohne fremde Hilfe gelingt der Umgang mit der KI nicht: „Betriebsräte sind keine Programmierer. Du musst dich beraten lassen”, sagt Steinert. Dabei helfen Schulungen. Betriebsräte haben ein Recht darauf. 6