Falsche KI-Antworten: Wer haftet für die Inhalte?

KI-Antworten gehören inzwischen zum Alltag: Google zeigt AI Overviews und den KI-Modus, Nutzer fragen ChatGPT oder Perplexity, und viele Unternehmen setzen eigene Chatbots ein. Die Antworten sind oft treffend, können aber sachlich falsch sein („Halluzinationen“) oder rechtlich problematische Inhalte enthalten.

Für Unternehmen stellt sich damit die Frage, wer für solche Fehler einsteht. In diesem Beitrag zeigen wir, wo die Verantwortung liegt, welche drei Risiken im Marketing am wichtigsten sind, was der AI Act verlangt und mit welchen Maßnahmen Sie die Risiken beherrschbar machen. Der Beitrag ist eine Einordnung aus Sicht des Online-Marketings und ersetzt keine Rechtsberatung.

Für die Aussagen einer KI steht ihr Betreiber ein

Eine KI kann man nicht verklagen. Verantwortlich ist, wer sie betreibt oder ihre Antworten verbreitet. Für Unternehmen heißt das: Was ein KI-System im Namen des Unternehmens sagt, fällt auf das Unternehmen zurück.

Das Landgericht Hamburg hat den Betreiber von Grok in die Pflicht genommen

Dass dies keine Theorie ist, zeigt ein Fall aus dem Herbst 2025. Der Chatbot Grok hatte auf Nachfrage eines Nutzers auf X behauptet, der Verein Campact werde mit Steuergeldern finanziert. Campact erwirkte daraufhin beim Landgericht Hamburg eine einstweilige Verfügung gegen das Unternehmen X.AI. Laut Campact stuft das Gericht die Aussage als unwahre Tatsachenbehauptung ein und nimmt X.AI dafür unmittelbar in die Pflicht. Wiederholt der Chatbot die Behauptung, droht ein Ordnungsgeld von bis zu 250.000 Euro.

Die Entscheidung ist ein Eilbeschluss, gegen den X.AI laut Campact noch Widerspruch einlegen konnte. Der Fall verdeutlicht, dass auch bei automatisch erzeugten Aussagen Haftungsfragen entstehen. Welche Verantwortung besteht, muss für den konkreten Fall geprüft werden. Für Ihr Unternehmen betrifft das vor allem drei Arten von Fehlern:

• Falsche Angaben: Die KI nennt falsche Produktdetails, erfindet Preise oder Testergebnisse.
• Rufschädigung: Die KI macht falsche Aussagen über Wettbewerber oder Personen.
• Benachteiligung: Die KI behandelt Nutzergruppen aufgrund verzerrter Trainingsdaten ungleich.

Drei Risiken sind für Ihr Marketing entscheidend

Risiko 1: Die KI behauptet Falsches

Sprachmodelle sind keine Wissensdatenbanken. Sie sagen das wahrscheinlichste nächste Wort voraus und füllen Lücken mit Aussagen, die überzeugend klingen, aber falsch sein können. Das Risiko hat zwei Seiten:

1. Ihre eigene KI: Ihr Chatbot im Shop nennt falsche Produktdetails, erfindet Garantiezusagen oder einen falschen Preis. Im harmlosesten Fall ärgert das Kunden, im schlimmsten Fall folgen rechtliche Ansprüche. Jede falsche Zusage kostet zudem Marge, wenn Sie sie aus Kulanz einlösen.
2. Die KI anderer: Ein KI-System stellt Ihr Produkt oder Ihr Unternehmen falsch dar, etwa in einer KI-Antwort der Google-Suche. Wie der Fall Campact zeigt, können Betroffene gegen den Betreiber vorgehen. Welche Ansprüche im Einzelfall bestehen, muss eine Anwältin oder ein Anwalt prüfen.

In beiden Fällen steht die Falschaussage im Raum, und Sie müssen reagieren, als Verursacher oder als Betroffener. Wir empfehlen deshalb, regelmäßig zu prüfen, wie KI-Systeme Ihr Unternehmen darstellen. Wie das geht, beschreiben wir in unserem Beitrag zur Generative Engine Optimization.

Risiko 2: Der KI-Inhalt verletzt fremde Rechte

Erzeugt eine KI einen Text, ein Bild oder Programmcode, der einem bestehenden, geschützten Werk zu sehr ähnelt, kann eine Urheberrechtsverletzung vorliegen. Das ist möglich, wenn das Original Teil der Trainingsdaten war.

Für Ihr Unternehmen ist entscheidend: Wer einen solchen Inhalt auf der Website veröffentlicht oder in einer Kampagne nutzt, verbreitet ihn, nicht die KI. Hinzu kommt die umgekehrte Frage: Ob Texte, die eine KI ohne nennenswerte menschliche Bearbeitung erstellt, selbst urheberrechtlich geschützt sind, ist zweifelhaft. Verlassen Sie sich nicht darauf, dass Wettbewerber solche Inhalte nicht übernehmen dürfen.

Risiko 3: Der Chatbot verarbeitet personenbezogene Daten

Sobald Sie einen KI-Chatbot oder eine KI-Suche auf Ihrer Website einbinden, gilt die Datenschutz-Grundverordnung (DSGVO). Nutzer geben zwangsläufig personenbezogene Daten ein, von der IP-Adresse bis zu Anfragen, die Namen, Gesundheitsdaten oder finanzielle Sorgen enthalten können. Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten, die besonders geschützt sind.

Für Betreiber ergeben sich daraus konkrete Aufgaben:

• Transparenz: Sie müssen Nutzern erklären können, welche Daten verarbeitet und gespeichert werden, und Auskunfts- oder Löschanfragen erfüllen. Bei vielen KI-Systemen ist das schwer nachzuvollziehen.
• Nutzung der Eingaben: Verwendet der Anbieter die Eingaben Ihrer Nutzer, um eigene Modelle zu trainieren, brauchen Sie dafür eine Rechtsgrundlage und müssen Ihre Nutzer informieren.
• Auftragsverarbeitung: Verarbeitet ein externer Anbieter die Daten in Ihrem Auftrag, ist ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO nötig.
• Übermittlung in Drittländer: Viele KI-Modelle laufen auf Servern in den USA. Eine Übermittlung dorthin braucht eine Grundlage nach Kapitel V der DSGVO, etwa einen Angemessenheitsbeschluss oder Standardvertragsklauseln.

Hat die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Nutzer zur Folge, schreibt Art. 35 DSGVO vorab eine Datenschutz-Folgenabschätzung vor. Das gilt insbesondere bei umfangreicher Verarbeitung besonderer Kategorien von Daten oder bei Profiling, auf das sich Entscheidungen mit erheblicher Wirkung für die Betroffenen stützen.

Der AI Act verlangt im Marketing vor allem Transparenz

Neben der DSGVO gilt der AI Act der EU. Er regelt KI nach ihrem Risiko: Je höher das Risiko eines Systems für Grundrechte oder Sicherheit, desto strenger die Regeln. Für Systeme mit minimalem Risiko, wie Spamfilter, sieht er laut EU-Kommission keine Regeln vor.

Transparenzpflichten gelten seit August 2026

Für die meisten Marketing-Anwendungen sind die Transparenzpflichten entscheidend, die seit dem 2. August 2026 gelten:

1. Chatbots: Menschen müssen erkennen können, dass sie mit einer Maschine sprechen.
2. KI-erzeugte Inhalte: Anbieter generativer KI müssen sicherstellen, dass erzeugte Inhalte als solche erkennbar sind. Deepfakes und Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, müssen klar und sichtbar gekennzeichnet werden.

Schon seit dem 2. Februar 2025 gelten zudem die Pflichten zur KI-Kompetenz. Klären Sie mit Ihrer Rechtsabteilung, welche Schulungen und Nachweise das für Ihr Team bedeutet.

Für Hochrisiko-KI gelten strenge Pflichten ab Dezember 2027

Strengere Regeln gelten, sobald KI über Menschen entscheidet, etwa bei der Auswahl von Bewerbern oder der Prüfung der Kreditwürdigkeit. Solche Hochrisiko-Systeme brauchen unter anderem menschliche Aufsicht, Protokollierung und ein Risikomanagement. Mit dem AI Omnibus, der am 27. Juli 2026 in Kraft getreten ist, hat die EU diese Pflichten verschoben: für eigenständige Hochrisiko-Systeme auf den 2. Dezember 2027, für KI in regulierten Produkten auf den 2. August 2028.

Was der AI Act für Ihr Unternehmen bedeutet

Gilt der AI Act für alle Unternehmen? Der AI Act richtet sich an Unternehmen, die KI-Systeme entwickeln oder einsetzen. Welche Pflichten konkret gelten, hängt von der Risikostufe des Systems und von Ihrer Rolle als Anbieter oder Betreiber ab. Für kleine und mittlere Unternehmen sieht er teilweise vereinfachte Anforderungen vor, etwa bei der technischen Dokumentation.

Muss jede KI-Anwendung dokumentieren, wie ihre Entscheidungen zustande kommen? Nein. Umfangreiche Dokumentations- und Risikomanagementpflichten betreffen Hochrisiko-Systeme. Eine Produktempfehlung im Onlineshop fällt in der Regel nicht darunter. Für Chatbots und KI-Inhalte gelten die Transparenzpflichten.

Welche Bereiche sind besonders betroffen? Hochrisiko-Einsatzfelder sind unter anderem Personalauswahl, Bildung, Kreditvergabe und kritische Infrastruktur. Wer KI dort einsetzt, sollte die Pflichten frühzeitig mit der Rechtsabteilung klären.

Mit vier Maßnahmen machen wir Ihren KI-Einsatz beherrschbar

Die Risiken sind real, aber kein Grund, auf KI zu verzichten. Sie verlangen einen klaren Prozess. Die folgenden Maßnahmen sind eine Hilfestellung aus Sicht des Online-Marketings; lassen Sie sie mit Ihrer Rechtsabteilung oder einer spezialisierten Kanzlei abstimmen.

1. Menschliche Prüfung: Jeder KI-Inhalt wird vor der Veröffentlichung von einem Menschen geprüft.
2. Transparenz und Kennzeichnung: Chatbots sind als KI erkennbar, gekennzeichnet wird nach den Vorgaben des AI Act.
3. Verträge und Einwilligungen: Auftragsverarbeitung, Datenübermittlung in Drittländer und Einwilligungen sind geprüft und dokumentiert.
4. Interne Richtlinien: Feste Regeln legen fest, welche Werkzeuge genutzt werden, welche Daten hineindürfen und wer freigibt.

Für die technische Umsetzung empfehlen wir sieben Punkte

• Abgeschlossene Umgebung: KI-Anwendungen werden in einer isolierten Umgebung entwickelt und getestet, etwa einer privaten Cloud oder im eigenen Netzwerk.
• Ort der Datenverarbeitung: Sie entscheiden bewusst, ob Daten auf eigenen Servern, in einer privaten Cloud oder beim Anbieter verarbeitet werden.
• Sicherheitstests: Regelmäßige Penetrationstests decken Schwachstellen auf.
• Rollen und Zugriffe: Zugriffsrechte sind nach Rollen vergeben und werden regelmäßig überprüft.
• Anonymisierung: Sensible Daten werden anonymisiert oder pseudonymisiert, bevor sie in ein KI-Modell gelangen.
• Protokollierung: KI-Aktivitäten, Datenzugriffe und Entscheidungen werden protokolliert, damit sie nachvollziehbar und prüfbar sind.
• Kontrolle der Modelle: Modelle werden regelmäßig überprüft, versioniert und dokumentiert.

Fazit: Die Verantwortung für KI bleibt beim Unternehmen

Die rechtlichen Risiken der KI sind real: falsche Aussagen, fremde Rechte, Datenschutz und neue Pflichten aus dem AI Act. Sie sind aber beherrschbar, wenn klar ist, wer prüft, wer freigibt und welche Daten in welche Systeme gelangen.

KI ist ein wertvolles Werkzeug, aber kein verantwortlicher Mitarbeiter. Die rechtliche Verantwortung lässt sich nicht an einen Algorithmus abgeben. Wir beraten Sie, wie Sie KI in Marketing und Website sicher einsetzen und wie Ihr Unternehmen in KI-Antworten richtig dargestellt wird. Mehr dazu auf unserer Seite zu GEO.