Schatten-KI aufspüren, ohne deine Leute zu überwachen

Nach der Entdeckung von Schatten-KI ist die heikle Frage nicht, welche Werkzeuge im Haus laufen. Es ist die Frage, wer sie benutzt. Technisch lässt sich das in den meisten Betrieben herausfinden. Arbeitsrechtlich beginnen die Grenzen genau dort, und sie beginnen früher, als die meisten erwarten: schon bei der einmaligen Stichprobe.

Die Werkzeugfrage ist eine Inventaraufgabe. Die Personenfrage ist ein Eingriff in die Persönlichkeit deiner Mitarbeitenden. Dass die Nutzung längst läuft, bevor jemand sie bewilligt hat, haben wir in Schatten-KI im Unternehmen beschrieben. Hier geht es um den Schritt danach, also um die Frage, wie weit du bei der Suche gehen darfst.

Darf ich kontrollieren, welche KI-Tools meine Mitarbeitenden nutzen?

Auf der Ebene der Werkzeuge ja, auf der Ebene der einzelnen Person fast immer nein. Artikel 26 der Verordnung 3 zum Arbeitsgesetz verbietet Überwachungs- und Kontrollsysteme, die das Verhalten der Mitarbeitenden am Arbeitsplatz überwachen sollen. Eine Liste der Abos, Konten und Admin-Freigaben bleibt davon unberührt. Die namentliche Auswertung, wer wann welches KI-Fenster geöffnet hat, ist der Teil, der kippt.

Was die Verordnung wörtlich sagt

Der Text ist kurz. Absatz 1 von Artikel 26 ArGV 3 lautet: «Überwachungs- und Kontrollsysteme, die das Verhalten der Arbeitnehmer am Arbeitsplatz überwachen sollen, dürfen nicht eingesetzt werden.» Absatz 2 ergänzt, dass Systeme, die aus anderen Gründen erforderlich sind, so zu gestalten und anzuordnen sind, dass Gesundheit und Bewegungsfreiheit der Arbeitnehmer nicht beeinträchtigt werden.

Konkret wird es in der Wegleitung des SECO zu diesem Artikel. Dort steht, was als Verhaltensüberwachung gilt, und die Aufzählung trifft genau das, was man für eine KI-Suche anschauen würde: «Informatikmittel, welche die computer- oder mobiltelefongestützten Aktivitäten von Arbeitnehmenden im Betrieb oder in deren Homeoffice überwachen», in der Klammer dahinter E-Mail, Spyware, Activity Tracker, App- oder Weblogs, Maus- oder Tastaturlogs.

Im selben Text steht ein zweiter Punkt: Auch Informatikmittel, die Instrumente der künstlichen Intelligenz für automatisierte Analysen von mitarbeiterbasierten Daten verwenden, gelten als Verhaltensüberwachung. Ein KI-Werkzeug auf die Nutzungsdaten der Belegschaft zu richten, ist also keine elegante Abkürzung. Es ist dasselbe Problem mit mehr Rechenleistung.

Die Definition selbst ist weiter gefasst, als der Begriff vermuten lässt. Verhaltensüberwachung ist nach dem SECO jede Überwachung, die eine ständige oder eine nicht ständige, also kurzzeitig periodische oder stichprobenmässige, Kontrolle bestimmter Aktivitäten in detaillierter Form ermöglicht. Der einmalige Blick in die Logs ist damit keine harmlosere Variante, sondern die Stichprobe, die im Text ausdrücklich steht.

Nicht als Verhaltensüberwachung gelten dagegen Einrichtungen wie elektronische Badges für Zutritt und Zeiterfassung oder technische Systeme zur Qualitätskontrolle. Den Unterschied macht der Zweck. Dasselbe Werkzeug kann auf der einen oder der anderen Seite der Linie landen, je nachdem, wofür du es einsetzt.

Ein Detail noch, weil es in Verträgen gern versucht wird: Das SECO hält fest, dass von diesen Bestimmungen nicht durch eine privatrechtliche Abmachung abgewichen werden kann, auch nicht mit Einverständnis der Mitarbeitenden oder ihrer Organisationen. Der Satz im Arbeitsvertrag, der die Überwachung erlaubt, trägt also weniger, als er aussieht.

Der Umweg über die bestehenden Logs

Der Vorschlag kommt in unserer Erfahrung selten von der Geschäftsleitung, sondern vom IT-Dienstleister, und er klingt hilfreich: eine Auswertung aus dem Proxy, welche KI-Seiten aufgerufen wurden, pro Benutzer. Das Argument dazu kennen wir fast wörtlich. Wir führen gar kein neues System ein, die Daten sind schon da, Proxy, Firewall und Endpoint-Schutz protokollieren längst.

Stimmt, nur ändert das die Frage nicht. Über die Zulässigkeit entscheidet die Auswertung, nicht die Herkunft der Daten.

Das Bundesgericht hat zur Kontrolle der Internetnutzung am Arbeitsplatz festgehalten, dass die personenbezogene Auswertung namentlich aufgezeichneter Daten in unzulässiger Weise stattgefunden hatte (BGE 143 II 443). Der Arbeitgeber durfte das Ergebnis in diesem Einzelfall nach einer Interessenabwägung trotzdem verwerten. Die Auswertung selbst blieb unrechtmässig. Das ist kein beruhigender Befund: Der Weg war falsch, und ob am Schluss etwas davon hält, entscheidet jemand anderes als du.

Im Hintergrund liegt Artikel 328b OR. Der Arbeitgeber darf Daten über den Arbeitnehmer nur bearbeiten, soweit sie dessen Eignung für das Arbeitsverhältnis betreffen oder für die Durchführung des Arbeitsvertrages erforderlich sind. Das Bundesgericht hat dazu klargestellt, dass eine Arbeitgeberin, die auf die privaten Nachrichten eines Arbeitnehmers zugreift, dessen Persönlichkeit verletzt (Urteil 4A_518/2020 vom 25.08.2021).

Dazu kommt das Datenschutzgesetz. Der EDÖB beschreibt in seiner Übersicht zu technischen Mitteln der Überwachung am Arbeitsplatz die Reihenfolge, die eine Firma vorher durchläuft: Bevor sie eine direkte Überwachung mit technischen Mitteln einsetzt, muss sie abklären, ob das Ziel nicht mit weniger einschneidenden Eingriffen erreicht werden kann. Für die Auswertung von Randdaten, also der protokollierten Information, wer was wann und mit wem getan hat, verlangt die Verhältnismässigkeit die Form mit dem geringsten Eingriff: anonymisiert, pseudonymisiert oder in der Ursprungsform, je nachdem, was den Zweck erfüllt.

Damit wird aus der Rechtsfrage eine praktische. Dein Zweck ist eine Liste der Werkzeuge. Für diesen Zweck brauchst du keine Namen.

Wann ein Kontrollsystem trotzdem zulässig ist

Verboten sind nicht Überwachungssysteme an sich, sondern solche, die ausschliesslich oder hauptsächlich auf die Verhaltensüberwachung zielen. Das Bundesgericht hat das am Fall eines GPS-Systems in Firmenfahrzeugen durchgespielt: Mit einem Rechtfertigungsgrund wie Sicherheit oder Arbeitsorganisation ist ein System zulässig, wenn es in einem angemessenen Verhältnis zum Ziel steht und die Betroffenen vorab informiert wurden (BGE 130 II 425).

Das SECO macht daraus drei Bedingungen, die zusammen erfüllt sein müssen: ein klar überwiegendes anderes Interesse, zum Beispiel die Sicherheit des Personals oder des Betriebs; Verhältnismässigkeit zwischen dem Interesse des Arbeitgebers und dem Interesse der Mitarbeitenden, nicht überwacht zu werden; und die Mitwirkung der Mitarbeitenden bei Planung, Einrichtung und Einsatzzeiten des Systems sowie bei der Speicherdauer der Daten.

Dazu gehört Papier. Lässt sich erlaubte Leistungs- oder Sicherheitsüberwachung von unerlaubter Verhaltensüberwachung nicht scharf trennen, muss der Betrieb sein überwiegendes Interesse und die Verhältnismässigkeit prüfen und schriftlich begründen. Diese Begründung ist dem zuständigen kantonalen Arbeitsinspektorat auf Verlangen vorzulegen.

Das ist der ehrliche Preis der technischen Antwort. Sie ist nicht verboten, sie kostet ein benanntes überwiegendes Interesse, eine Abwägung, die Mitwirkung der Belegschaft, eine festgelegte Speicherdauer und ein Dokument, das einer Behörde standhält. Für die Frage, ob jemand im Marketing Angebotstexte mit einem Gratis-Konto vorschreibt, ist dieser Aufwand unverhältnismässig. Das gilt schon rein betrieblich, bevor jemand über Recht spricht.

Schatten-KI finden, ohne ein Kontrollsystem einzuführen

Der Weg, der in unseren Mandaten funktioniert, kommt ohne diese Begründung aus, weil er keine Personendaten auswertet.

Erstens die Unterlagen, die du schon hast. Abo-Liste, Admin-Konsolen von Microsoft 365, Google Workspace und Zoom, Kreditkarten- und Spesenabrechnungen, Fachanwendungen mit neuen Assistenten. Diese Liste nennt Werkzeuge, keine Personen, und sie deckt den grössten Teil ab. Wie so ein KI-Inventar aussieht und welche fünf Orte für den ersten Durchgang reichen, haben wir separat aufgeschrieben.

Dann frag das Team, ohne Sanktionsdrohung. Diese Runde liefert in unserer Erfahrung mehr als jedes Protokoll, weil sie den Grund mitliefert: welcher Ablauf zu langsam ist und welches Firmenwerkzeug fehlt. Diese Information steht in keinem Log.

Drittens die Regeln auf einer Seite, inklusive der Frage, was auf Firmengeräten privat erlaubt ist. Der EDÖB stellt das in den Zusammenhang von Artikel 321d OR: Vor diesem Hintergrund legt der Arbeitgeber in einem Nutzungsreglement fest, wie Internet und E-Mail beruflich und privat genutzt werden dürfen, und definiert darin, was als missbräuchliche Nutzung gilt. Ohne diese Festlegung fehlt dir später der Massstab, an dem du etwas beurteilen könntest. Wie kurz so eine Seite sein darf, steht in Brauchen wir eine KI-Richtlinie?

Was dem allen vorangeht, ist die Transparenz. Der EDÖB empfiehlt Firmen, für die Überwachung ein Reglement zu erstellen, in dem Funktionsweise, Art und Zeitpunkt beschrieben werden, und hält fest, dass die Bearbeitung in einer für die betroffene Person erkennbaren Weise erfolgen muss. Vorher zu sagen, was protokolliert wird, kostet nichts und schliesst die meisten späteren Diskussionen.

Ein Wort zur Einwilligung, weil sie in Projekten oft als Lösung auftaucht: Der EDÖB ordnet sie im Arbeitsverhältnis zurückhaltend ein, weil Mitarbeitende sich unter Druck gesetzt und in ihrer freien Entscheidung eingeschränkt fühlen. Ein Haken im Onboarding ersetzt die Abwägung nicht.

Wenn ein konkreter Verdacht im Raum steht

Der Fall existiert. Es gibt Hinweise, dass jemand Kundendaten in ein Werkzeug stellt, über das die Firma nichts weiss. Dann gilt dieselbe Reihenfolge, nur konkret: ein benannter Zweck, die mildeste Massnahme, die ihn erfüllt, eine Person, die den Entscheid trägt, und eine Notiz, warum es nicht anders ging. Der Zugang zu den Daten muss nach dem EDÖB geregelt und auf die zur Auswertung berechtigten Personen beschränkt sein. Ehrlicherweise bleibt die Grenze in solchen Einzelfällen unscharf, und das ist keine bequeme Antwort. Sie ist der Grund, warum der Entscheid bei einer Person liegen muss und nicht bei dem, der zufällig Leserechte auf die Logs hat.

Nicht in deine Zuständigkeit fällt die Strafverfolgung. Das SECO schreibt es direkt: Die Ahndung betriebsinterner Straftaten ist grundsätzlich nicht Sache des Betriebes, sondern ausschliesslich der Polizei. Wer sich darüber hinwegsetzt, hat am Ende Überwachungsdaten, die in einem Strafverfahren meistens nicht verwendbar sind.

Zweck, Zuständigkeit und Reglement sind der Teil von KI-Governance und sicherer KI-Einführung, der vor jeder Technikfrage steht. Wenn die Liste dann steht und die Werkzeuge im Betrieb etwas leisten sollen, geht es hier weiter: KI im Betrieb.

Zwei Listen auf dem Tisch

Am Ende liegen zwei mögliche Listen vor dir. Die eine nennt Namen und Zeitstempel und ist arbeitsrechtlich der schwierigere Weg. Die andere nennt Werkzeuge, Konten, Datenkategorien und Zuständige.

Die zweite sieht nach der vorsichtigen Ersatzlösung aus. Sie ist die einzige, aus der ein Entscheid folgt: freigeben, bündeln, stoppen. Entschieden wird über ein Werkzeug, nie über eine Person, und für diesen Entscheid brauchst du keinen einzigen Namen.

Wenn du wissen willst, wie das in deinem Betrieb aussieht, bevor jemand in die Logs schaut: Das kostenlose Erstgespräch ist dafür der richtige Rahmen. Unverbindlich, und meistens kürzer als die Diskussion, die ohne diese Einordnung entsteht. Hier geht es zum Termin.

Häufige Fragen

Darf ich die Proxy-Logs auswerten, um KI-Nutzung zu finden?

Nicht personenbezogen, ohne vorher Zweck, Verhältnismässigkeit und Information geklärt zu haben. Das Bundesgericht hat die namentliche Auswertung aufgezeichneter Internetdaten als unzulässig beurteilt (BGE 143 II 443). Für eine Werkzeugliste genügt eine anonymisierte oder aggregierte Auswertung, und meist reichen Abo-Liste und Admin-Konsolen schon aus.

Muss ich Mitarbeitende vorher informieren, wenn etwas protokolliert wird?

Ja. Die Bearbeitung muss für die betroffene Person erkennbar sein, und das Bundesgericht verlangt bei zulässigen Überwachungssystemen die vorherige Information der Betroffenen. Der EDÖB empfiehlt ein Reglement, das Funktionsweise, Art und Zeitpunkt der Überwachung beschreibt. Diese Ankündigung kostet nichts und erspart die späteren Diskussionen.

Was gehört in ein Nutzungsreglement für KI-Werkzeuge?

Welche Datenkategorien in freigegebene Werkzeuge dürfen, welche Werkzeuge freigegeben sind, wer über neue entscheidet und was auf Firmengeräten privat erlaubt ist. Der EDÖB stellt die private Nutzung von Internet und E-Mail in den Zusammenhang von Artikel 321d OR. Eine Seite genügt für den Anfang.