Die Frage zur KI im Kundenkontakt kommt fast immer als Kennzeichnungsfrage. Müssen wir hinschreiben, dass hier eine Maschine antwortet? Gemeint ist der Assistent, der seit einigen Wochen Antworten im Kundenpostfach vorschlägt, oder das Fenster unten rechts auf der Website, das inzwischen von sich aus antwortet.
Die Antwort ist ja, und sie kostet einen Satz auf der Seite und eine Zeile im Mailfuss. Teuer wird die Pflicht, die im Gesetz direkt daneben steht: Entscheidet eine Maschine über einen Kunden, kann dieser verlangen, dass ein Mensch den Entscheid nachprüft. Und diesen Menschen muss es geben, bevor der Antrag eintrifft.
Zwischen diesen zwei Pflichten liegt der ganze Aufwand: die eine ist Textarbeit, die andere eine Zuständigkeit.
Muss KI im Kundenkontakt gekennzeichnet werden?
Deine Kundinnen und Kunden haben ein Recht zu erfahren, dass sie mit einer Maschine korrespondieren. Eine ausdrückliche Kennzeichnungspflicht nach Artikel 21 des Datenschutzgesetzes gilt dagegen nur für Bundesorgane. Für dein Unternehmen folgt die Offenlegung aus der Transparenz, nicht aus einer Etikettenvorschrift. Praktisch heisst das: hinschreiben, dort wo das Gespräch beginnt.
Der EDÖB hat das am 8. Mai 2025 festgehalten. Das DSG sei «technologieneutral formuliert und demzufolge auch auf den Einsatz von KI-gestützten Datenbearbeitungen direkt anwendbar». Hersteller, Anbieter und Verwender müssen «den Zweck, die Funktionsweise und die Datenquellen der auf KI beruhenden Bearbeitungen transparent machen». Und für Sprachmodelle, die direkt mit Benutzern kommunizieren, hält er fest, diese hätten «ein gesetzliches Recht zu erfahren, ob sie mit einer Maschine sprechen oder korrespondieren und ob die von ihnen eingegebenen Daten zur Verbesserung der selbstlernenden Programme oder zu weiteren Zwecken weiterbearbeitet werden».
Danach wird in unserer Erfahrung zuerst gefragt, und dieser Teil ist mit zwei Sätzen erledigt. Einer sagt, dass hier ein Assistent antwortet. Der andere sagt, was mit dem Geschriebenen passiert.
Im Gesetzestext selbst steht die Kennzeichnung an einer engeren Stelle. Artikel 21 Absatz 4 DSG verlangt: «Ergeht die automatisierte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen.» Ein Bundesorgan. Nicht dein Betrieb.
Damit verschiebt sich die Arbeit, statt zu verschwinden. Die Offenlegung schuldest du der Transparenz und erfüllst sie mit einem Satz. Die Pflicht mit Betriebsfolgen steht drei Absätze weiter oben.
Die beiden Absätze, die Betrieb kosten
Artikel 21 DSG beginnt so: «Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt.» Und dann, im zweiten Absatz: «Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die automatisierte Einzelentscheidung von einer natürlichen Person überprüft wird.»
Plain übersetzt: Wenn in deinem Kundenkanal eine Maschine allein über etwas entscheidet, das für den Kunden rechtlich zählt oder ihn erheblich trifft, musst du ihn darüber informieren. Und wenn er danach fragt, muss ein Mensch den Entscheid noch einmal anschauen.
Drei Bedingungen hängen daran, und alle drei sind eng. Die Bearbeitung muss ausschliesslich automatisiert ablaufen, also ohne Mensch dazwischen. Sie muss eine Rechtsfolge haben oder den Kunden erheblich beeinträchtigen, was bei einer Auskunft ausfällt. Und den Anspruch auf Nachprüfung löst der Kunde selbst aus, von sich aus musst du ihn nicht anbieten.
Der dritte Absatz nimmt sogar Fälle heraus: wenn die Entscheidung unmittelbar mit einem Vertrag zwischen euch zusammenhängt und dem Begehren des Kunden stattgegeben wird, oder wenn er ausdrücklich eingewilligt hat. Wer zusagt, hat es leichter als wer absagt. Das ist juristisch sauber und im Alltag eine brauchbare Faustregel.
Drei Stufen, und nur eine löst die Pflicht aus
Was KI im Kundenkontakt für dich bedeutet, hängt daran, was der Assistent im Kanal tut. In der Praxis gibt es drei Stufen.
Auf der ersten schlägt er einem Mitarbeitenden eine Antwort vor, und dieser schickt sie ab. Es gibt einen Menschen im Ablauf, also keine ausschliesslich automatisierte Bearbeitung. Was hier zählt, ist die allgemeine Transparenz und die Frage, welche Kundendaten dabei wohin fliessen.
Auf der zweiten antwortet er allein, entscheidet aber nichts. Öffnungszeiten, Lieferstatus, wo ein Formular liegt. Auch hier greift Artikel 21 nicht, weil keine Rechtsfolge entsteht. Offenlegen solltest du trotzdem, weil der Kunde ein Recht darauf hat, das zu wissen.
Auf der dritten entscheidet er. Er lehnt einen Antrag ab, verweigert eine Gutschrift, teilt eine Kondition zu oder schliesst eine Anfrage als unberechtigt. Hier sind wir im Bereich der automatisierten Einzelentscheidung, und hier brauchst du die Person aus Absatz 2.
In unserer Erfahrung verorten sich Firmen eine Stufe tiefer, als sie technisch stehen. Das liegt daran, wie der Sprung auf die dritte Stufe passiert.
Der Sprung auf Stufe drei passiert ohne Entscheid
Kaum jemand setzt sich hin und beschliesst, eine Kundenentscheidung zu automatisieren. Der Sprung passiert als Nebenwirkung einer Anbindung.
Der Assistent war zuerst ein Textwerkzeug. Dann hat jemand ihn an das Ticketsystem gehängt, damit er den Status nachschauen kann. Beim Einrichten gab es Lese- und Schreibrechte im selben Paket, und seitdem kann er ein Ticket auch schliessen. Oder jemand hat ihn an den Shop angebunden, und seitdem darf er eine Rückgabe bestätigen und ablehnen, nicht nur prüfen.
Technisch ist das ein Häkchen. Rechtlich ist es der Wechsel von einer Auskunft zu einem Entscheid. Im Haus fällt dieser Wechsel selten auf, weil er in keinem Protokoll als Entscheid auftaucht.
Die Frage, die bei einem Werkzeug im Kundenkanal weiterbringt, lautet deshalb: Was darf es ohne Rückfrage ändern? Wie man das prüft, haben wir im Beitrag dazu beschrieben, wie tief die Prüfung von KI-Tools gehen muss. Und welche Assistenten in deinem Haus überhaupt schon laufen, klärt ein KI-Inventar, das in vielen Firmen länger wird als erwartet.
Die Person, die nachprüft, gibt es vor der Anfrage oder nicht
Der Anspruch aus Absatz 2 wirkt harmlos, weil er nur auf Antrag greift. Die Vorbereitung dafür lässt sich aber nicht nachholen, wenn der Antrag da ist.
Drei Dinge gehören zu dieser Nachprüfung. Zuständig ist eine Person mit Namen, keine Abteilung. Diese Person braucht Einsicht in das, was der Assistent dem Kunden geantwortet hat, und in die Angaben, auf denen das beruhte. Und sie braucht die Befugnis, das Ergebnis zu ändern, denn eine Prüfung, die nichts umstossen kann, ist keine.
Die Einsicht ist der Punkt, der in unserer Erfahrung fehlt, und er fällt erst im Ernstfall auf. Fehlen die aufbewahrten Konversationen, kann niemand im Nachhinein sagen, was dem Kunden zugesagt wurde. Die Protokollierung dafür steckt meist schon in der Verwaltungskonsole des Systems, das du ohnehin bezahlst. Eingeschaltet ist sie selten, und noch seltener weiss jemand, wie lange sie behält.
Bei der Zuständigkeit lohnt sich die unbequeme Variante der Frage. Wer macht das, wenn diese Person zwei Wochen weg ist? Eine Zuständigkeit, die an einer einzelnen Person hängt, ist im Ferienmonat keine.
Wenn du Kunden in der EU hast
Dann kommt eine zweite Ebene dazu. Die KI-Verordnung der EU ist am 1. August 2024 in Kraft getreten und seit dem 2. August 2026 anwendbar, die Transparenzregeln gehören zu diesem Schritt.
Artikel 50 adressiert dabei zuerst die Anbieter: «Providers shall ensure that AI systems intended to interact directly with natural persons are designed and developed in such a way that the natural persons concerned are informed that they are interacting with an AI system.» Die Pflicht hängt also am Bauen und Bereitstellen, nicht am Benutzen.
Für ein Schweizer KMU, das ein fertiges Produkt einkauft, heisst das: Diese Gestaltungspflicht liegt beim Anbieter, und dein Hebel dafür ist der Vertrag. Liefert dein Haus dagegen einen Assistenten unter eigenem Namen an Kunden aus, schau genauer hin, welche Rolle du in dieser Verordnung einnimmst. Wie die Schweizer Lage daneben aussieht, haben wir im Beitrag zum KI-Gesetz Schweiz eingeordnet, und den Rahmen der Verordnung selbst im Beitrag zum EU AI Act.
Was du dafür nicht brauchst
Für diese Übung braucht es keine Plattform. Die Offenlegung ist ein Satz, kein Produkt.
Ein Rechtsgutachten zur Kennzeichnungsfrage braucht es auch nicht, weil die Antwort in zwei Absätzen desselben Artikels steht. Und ein zusätzliches Protokollierungswerkzeug meistens ebenfalls nicht, weil die Funktion in der bestehenden Lizenz liegt. Wer hier Geld ausgibt, kauft oft eine Dokumentation dessen, was er schon hat. Die Grundlagen des DSG dazu haben wir im Beitrag zum revidierten Datenschutzgesetz zusammengestellt.
Kosten verursacht nur das Unspektakuläre: jemanden benennen, dieser Person Zugriff geben, die Aufbewahrung einschalten und die drei Stufen pro Kanal einmal durchgehen. Genau dort setzen unsere Mandate zur KI-Governance und sicheren KI-Einführung an. Die Aufgabe ist nicht schwer. Sie liegt zwischen Marketing, IT und Kundendienst, und in dieser Lücke bleibt sie liegen.
Wer antwortet gerade in deinem Namen
Nimm den Kanal mit dem meisten Kundenverkehr und prüfe drei Dinge: ob dort steht, dass ein Assistent mitarbeitet, ob er etwas bestätigen oder ablehnen kann, ohne dass ein Mensch zustimmt, und ob es eine Person mit Namen gibt, die ein solches Ergebnis umstossen darf.
Das Erste ist Textarbeit. Das Letzte entscheidet, ob du im Ernstfall einen Vorgang erklären kannst oder nur vermuten.
Welche Entscheidungen fällt dein Kundenkanal heute schon ohne Rückfrage?
Fehlt dir darauf eine klare Antwort, liegt das meist an einer offenen Zuständigkeit und nicht an der Technik. Darüber reden wir gern in einem unverbindlichen Erstgespräch.
Häufige Fragen
Muss ich kennzeichnen, wenn eine KI im Kundenkontakt antwortet?
Deine Kunden haben ein Recht zu erfahren, dass sie mit einer Maschine korrespondieren, deshalb gehört ein Hinweis dorthin, wo das Gespräch beginnt. Die ausdrückliche Kennzeichnungspflicht in Artikel 21 Absatz 4 DSG richtet sich dagegen an Bundesorgane und nicht an dein Unternehmen.
Wann ist eine KI-Antwort eine automatisierte Einzelentscheidung?
Wenn zwei Dinge zusammenkommen: Die Bearbeitung läuft ausschliesslich automatisiert, ohne Mensch dazwischen, und das Ergebnis hat für den Kunden eine Rechtsfolge oder beeinträchtigt ihn erheblich. Eine Auskunft über Öffnungszeiten oder Lieferstatus fällt nicht darunter, eine abgelehnte Gutschrift schon.
Wer muss einen KI-Entscheid nachprüfen können?
Eine benannte natürliche Person, keine Abteilung. Nach Artikel 21 Absatz 2 DSG kann der Kunde verlangen, dass sie den Entscheid überprüft. Diese Person braucht Einsicht in die Antwort des Assistenten und die Befugnis, das Ergebnis zu ändern, und sie muss vor der ersten Anfrage benannt sein.
