Gewährleistungssupport für jede Website und App 🛡️

Künstliche Intelligenz

Muss der Chatbot auf Ihrer Website sagen, dass er eine KI ist?

Seit dem 2. August 2026 müssen Menschen erfahren, dass sie mit einem KI-System sprechen. Was das für den Chatbot auf Ihrer Website bedeutet, wer verantwortlich ist und wie der Hinweis aussehen sollte.

Muss der Chatbot auf Ihrer Website sagen, dass er eine KI ist?

In den meisten Fällen ja. Seit dem 2. August 2026 gilt Artikel 50 der KI-Verordnung der EU (AI Act). Danach muss ein KI-System, das direkt mit Menschen kommuniziert, so gestaltet sein, dass diese wissen, dass sie es mit einer KI zu tun haben, es sei denn, das ist offensichtlich. In ihren Leitlinien nennt die Europäische Kommission Chatbots auf Online-Plattformen und im Kundenservice als Beispiel, bei dem das nicht offensichtlich ist. Ein Chatbot auf Ihrer Website, im Messenger oder in Viber, der Kunden antwortet, muss also in der Regel klar sagen, dass er eine KI ist.

Der Beitrag richtet sich an Inhaber und Führungskräfte, die bereits einen Chatbot oder Sprachassistenten betreiben oder einen planen. Er fasst den offiziellen Text von Artikel 50 sowie die Fragen und Antworten und die Transparenz-Leitlinien der Kommission mit Stand November 2026 zusammen. Er ist ein praktischer Überblick und keine Rechtsberatung. In sensiblen Branchen oder bei unklarer Rolle sollten Sie juristischen Rat einholen.

Was das Vereinfachungspaket geändert hat und was nicht

2026 hat die EU die Verordnung (EU) 2026/1744 verabschiedet, bekannt als Digital Omnibus zur KI. Sie hat die Regeln für Hochrisiko-Systeme verschoben, auf den 2. Dezember 2027 und den 2. August 2028. Bei der Transparenz ist der Aufschub eng begrenzt. Laut den Fragen und Antworten der Kommission gibt es eine Übergangsfrist bis zum 2. Dezember 2026 nur für die maschinenlesbare Kennzeichnung generierter Inhalte und nur für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden. Für den Hinweis, dass man mit einer KI spricht, gibt es keine solche Frist. Er gilt auch für Chatbots, die schon vor diesem Datum auf Ihrer Website liefen.

Wer für den Hinweis verantwortlich ist

Artikel 50 Absatz 1 verpflichtet den Anbieter, also wer das System entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt. Ein Unternehmen, das das System nur nutzt, ist Betreiber. Die Leitlinien nennen Beispiele, mit denen Sie Ihre Rolle bestimmen können.

Ihre SituationRolle laut LeitlinienWas zu tun ist
Der Bot wurde für Sie entwickelt und läuft unter Ihrem Namen auf Ihrer WebsiteEin Unternehmen, das ein interaktives System für den Eigengebrauch unter eigenem Namen entwickelt hat, wird als Anbieter genanntDer Hinweis liegt in Ihrer Verantwortung. Nehmen Sie ihn ins Briefing und in die Abnahme auf
Sie nutzen ein fertiges Chat-Produkt eines Herstellers ohne ÄnderungenDer Hersteller des Produkts ist Anbieter im Sinne der VerordnungPrüfen Sie, ob sein Hinweis nach Ihren Einstellungen zu Name, Avatar und Begrüßung sichtbar bleibt
Sie haben ein bestehendes System verändert, etwa mit neuen Trainingsdaten, und betreiben es unter Ihrem NamenSie können Anbieter des neuen Systems werdenBehandeln Sie den Hinweis als Ihre Pflicht

Bei stark angepassten oder White-Label-Lösungen ist die Grenze nicht immer klar. Halten Sie für jeden Bot fest, welche Rolle Sie zu haben glauben und warum. Selbst wenn ein anderer Anbieter ist, sehen Besucher Ihre Website. Deshalb ist es sinnvoll, selbst zu prüfen, was der Chat anzeigt.

Wann „das ist doch offensichtlich“ nicht reicht

Die Ausnahme für offensichtliche Fälle wird eng ausgelegt. Laut Leitlinien bedeutet das allgemeine Wissen, dass es Chatbots gibt, nicht, dass Menschen sie in einem konkreten Gespräch erkennen. Manche Merkmale machen es weniger offensichtlich:

  • ein menschlicher Name und das Foto einer Person als Avatar des Bots;
  • eine natürlich klingende Stimme beim Sprachassistenten;
  • ein persönlicher Gesprächsstil, der sich kaum von der Antwort eines Mitarbeiters unterscheidet.

Heißt der Bot „Maria“ und zeigt das Foto einer lächelnden Mitarbeiterin, lässt sich kaum behaupten, es sei offensichtlich, dass eine Maschine antwortet. Die Ausnahme kann etwa für Werkzeuge gelten, die nur für geschulte Fachleute gedacht sind, die wissen, dass sie mit KI arbeiten.

Wie der Hinweis aussehen sollte

Die Verordnung schreibt keinen genauen Wortlaut vor. Die Information muss klar, unterscheidbar und barrierefrei sein und spätestens bei der ersten Interaktion erfolgen. Die Leitlinien sehen den Start eines Gesprächs mit dem Chatbot als erste Interaktion und halten einen deutlichen Hinweis davor in den meisten Fällen für wahrscheinlich ausreichend.

FunktioniertAllein nicht ausreichend
Eine erste Nachricht wie „Hallo, ich bin ein KI-Assistent und kein Mitarbeiter.“Text nur in den AGB, der Datenschutzerklärung oder auf einer separaten Seite
Ein kurzer Hinweis neben dem Eingabefeld, etwa „Es antwortet ein KI-System“Metadaten oder Wasserzeichen, die man nicht sieht
Ein dauerhaftes „KI“-Symbol im ChatfensterEine vage Bezeichnung wie nur „Assistent“
Beim Sprachassistenten ein Satz zu Beginn, etwa „Hier spricht ein KI-gestützter Assistent.“Ein allgemeiner Satz wie „Dienste auf dieser Website nutzen KI“ oder nur „nutzt LLMs“

Drei weitere Regeln aus den Leitlinien sind für Unternehmen wichtig:

  • Auf Nachfrage die Wahrheit sagen. Fragt jemand, ob er mit einem Menschen spricht, oder wirkt verunsichert, muss der Bot klar sagen, dass er eine KI ist. Verankern Sie das in den Systemanweisungen und testen Sie es.
  • In riskanteren Gesprächen erinnern. Bei Finanzberatung, Versicherungen, Rechtshilfe, Gesundheit und Beschwerden sowie bei Kindern, älteren Menschen und Menschen mit Behinderungen ist wahrscheinlich eine wiederholte Erinnerung nötig, nicht nur die erste Nachricht.
  • Gemischte Gespräche. Antworten im selben Chat sowohl der Bot als auch ein Mitarbeiter, müssen KI-Antworten gekennzeichnet sein, sofern sie nicht ein Mitarbeiter geprüft und als eigene gesendet hat. Die Übergabe an einen Menschen sollte sichtbar sein.

Handelt ein KI-Agent in Ihrem Namen, bucht er etwa Termine oder schreibt Kunden E-Mails, erwarten die Leitlinien, dass er sagt, dass er eine KI ist und in wessen Namen er handelt.

Was nicht unter diese Pflicht fällt

Artikel 50 Absatz 1 erfasst nur das direkte Gespräch zwischen einem KI-System und einem Menschen. Laut Leitlinien fallen zum Beispiel Empfehlungssysteme, Spamfilter, automatische Übersetzung und Transkription, Suche ohne Erzeugung von Inhalten sowie Backend-Systeme, bei denen ein Mensch nur das Ergebnis sieht, ohne mit dem System zu interagieren, nicht darunter. Nutzen Ihre Mitarbeiter KI, um Antworten schneller zu schreiben, senden diese aber selbst, ist das keine direkte Interaktion der KI mit dem Kunden.

Die Pflichten zum Datenschutz bestehen unabhängig von der Verordnung. Chatverläufe enthalten oft personenbezogene Daten, für die die DSGVO gilt.

Wer kontrolliert und welche Sanktionen drohen

Die Einhaltung wird vor allem von den nationalen Marktüberwachungsbehörden kontrolliert. Bußgelder für Verstöße gegen Artikel 50 können bis zu 15 Millionen Euro oder 3 % des weltweiten Vorjahresumsatzes erreichen, wobei bei kleinen und mittleren Unternehmen die Verhältnismäßigkeit berücksichtigt werden kann. Diese Höchstbeträge sagen nichts über die tatsächliche Sanktion im Einzelfall, zeigen aber, dass es sich um eine Pflicht und nicht um eine Empfehlung handelt.

Checkliste für den Chatbot auf Ihrer Website

  • Sie wissen, welche Bots und Sprachassistenten auf der Website, in sozialen Netzwerken und am Telefon laufen.
  • Für jeden ist festgehalten, ob Sie Anbieter oder Betreiber sind und warum.
  • Die erste Nachricht sagt in der Sprache des Besuchers klar, dass eine KI antwortet.
  • Neben dem Eingabefeld oder im Kopf des Chats steht ein sichtbarer Hinweis.
  • Der Bot hat keinen irreführenden menschlichen Namen samt Foto, oder der Hinweis gleicht das klar aus.
  • Auf die Frage „Sind Sie ein Mensch?“ antwortet der Bot ehrlich, und das ist getestet.
  • Bei sensiblen Themen gibt es eine erneute Erinnerung und einen einfachen Weg zu einem Mitarbeiter.
  • Die Übergabe an einen Mitarbeiter ist im Gespräch sichtbar.
  • Der Hinweis ist auf dem Handy sichtbar und für Screenreader lesbar.
  • Jemand prüft die Einstellungen nach jeder Änderung durch den Hersteller.

Ein hypothetisches Beispiel

Das Beispiel ist erfunden und dient nur der Veranschaulichung. Eine Zahnarztpraxis hat auf ihrer Website einen Chat namens „Dr. Anna“ mit dem Foto einer Mitarbeiterin. Der Bot beantwortet Fragen zu Preisen, Öffnungszeiten und Terminen und manchmal auch zu Schmerzen nach einer Behandlung. Bei dieser Gestaltung lässt sich die Ausnahme der Offensichtlichkeit kaum anwenden. Die Praxis benennt den Bot in „KI-Assistent der Praxis“ um, ergänzt eine erste Nachricht, dass eine KI antwortet, einen Hinweis neben dem Eingabefeld und die Regel, dass der Bot bei Fragen zu Symptomen daran erinnert, dass er eine KI ist, und einen Anruf in der Praxis vorschlägt.

Nächster Schritt

Ist der Bot mit einem CRM oder Helpdesk verbunden, lassen sich Hinweis, Übergabe an Mitarbeiter und Datenregeln am einfachsten schon im Briefing festlegen. Bei der Automatisierung von Geschäftsprozessen beschreibt Hostado die Schritte, die Systeme und was bei einem Fehler passiert, bevor die Umsetzung beginnt.