Wenn der Chatbot falsch berät: wer ist verantwortlich?

Das Wichtigste in Kürze

KI-Chatbots beantworten heute Fragen zu Produkten, Lieferzeiten, Rückgabe oder Rabatten und liefern – anders als früher – oft sehr detaillierte Auskünfte, schnell und bequem. Die Schattenseite: Fehlerhafte Informationen können kostspielige Folgen haben. Kommt es zu einem solchen Fall, ist entscheidend, wie eindeutig die Chatbot-Aussage war, ob sie die Kaufentscheidung beeinflusst hat und ob sie nachweisbar ist. Daher sollten relevante Antworten des Chatbots immer dokumentiert werden, zum Beispiel per Screenshot oder gespeichertem Chatverlauf.

Wie wahrscheinlich sind falsche Angaben eines Chatbots im Online-Shop?

Aussagen von Chatbots sollten nach Möglichkeit immer sorgfältig überprüft werden. Das Risiko fehlerhafter Informationen ist mindestens so hoch wie bei einem menschlichen Verkaufsgespräch. KI-Chatbots formulieren oft sehr überzeugend – auch dann, wenn die Inhalte sachlich falsch sind. So kann die KI etwa „halluzinieren“ oder auf überholte Daten zu Lieferzeiten, Rücksendekosten, Größen, Materialien, Verfügbarkeit oder Rabattkonditionen zurückgreifen.

Die Herausforderung: Die Antwort wirkt für viele wie eine verlässliche, verbindliche Auskunft. Für Shopper ist in der Regel nicht transparent, ob der Bot auf aktuelle Shopdaten zugreift oder lediglich eine allgemeine, nicht geprüfte Antwort generiert.

Ist eine Chatbot-Antwort rechtlich verbindlich?

Das hängt vom Einzelfall ab. Wichtig ist die Eindeutigkeit der Antwort, ob sie nachweisbar Zahlen und Daten enthält und ob sie den Kauf maßgeblich beeinflusst.

Beispiel: Der Chatbot schreibt, eine Lieferung komme sicher bis Freitag. Der Shopper bestellt deshalb für einen Geburtstag. Kommt die Ware deutlich später, kann die Chat-Aussage relevant werden.

Ein wegweisender, international beachteter Fall zeigt dies deutlich: Eine Airline musste eine Kundin bzw. einen Kunden entschädigen, nachdem ihr Chatbot eine falsche Auskunft gegeben hatte. Das Gericht stufte den Chatbot als Bestandteil des Unternehmensauftritts ein. Für Online-Shops heißt das: Aussagen eines Chatbots sind nicht allein deshalb ohne Bedeutung, weil sie von einer KI stammen. Wird der Bot in der Kundenkommunikation eingesetzt, trägt das Unternehmen in gewissem Umfang Verantwortung für seine Antworten – ähnlich wie bei einem menschlichen Mitarbeitenden. Für Verbraucherinnen und Verbraucher ist das eine wichtige Information.

Welche Chatbot-Auskünfte sind beim Online-Shopping von besonderer Bedeutung?

Von Relevanz sind Antworten, die direkt zu einer Kaufentscheidung führen. Zum Beispiel Liefertermine, Rückgaberegeln, Aussagen zu kostenlosen Retouren, Rabattcodes, Produkteigenschaften, Materialangaben, Größenberatung oder Angaben zur technischen Kompatibilität.

Ein Beispiel: Der Bot empfiehlt ein Ladekabel für ein bestimmtes Smartphone, das nach dem Kauf nicht passt. Oder der Bot gibt an, eine Jacke falle normal aus, obwohl diese deutlich kleiner geschnitten ist. Solche Aussagen beeinflussen den Kauf unmittelbar.

Wie sollten wichtige Aussagen des Chatbots festgehalten werden?

Es gilt die allgemeine Empfehlung, wichtige Aussagen des Chatbots sofort zu sichern. Ein Screenshot reicht in der Regel aus. Lesbar sein sollten: Frage, Antwort, Datum und möglichst der Name des Shops bzw. die URL.

Optimal ist ein gespeicherter Chatverlauf oder eine E-Mail mit einer Kopie des Chats. Ein solcher Nachweis ist dann wichtig, wenn es um Liefertermine, Rücksendekosten, Garantien, Rabattaktionen oder Produktberatungen geht.

Was tun, wenn die Bestellung wegen einer falschen Chatbot-Antwort schiefläuft?

Zunächst sollte der Shop schriftlich kontaktiert werden. Die Nachricht darf gern knapp, aber eindeutig formuliert sein: Welche Frage wurde gestellt? Welche konkrete Antwort hat der Chatbot gegeben? Und weshalb war diese Auskunft für den Kauf entscheidend?

Wichtige Angaben sind insbesondere Bestellnummer sowie ein Screenshot oder der vollständige Chatverlauf. Je genauer der Sachverhalt dokumentiert ist, desto einfacher kann der Shop reagieren.

Lässt sich keine zufriedenstellende Lösung finden, kommen – je nach Zahlungsart und Fallkonstellation – weitere Anlaufstellen in Betracht, etwa der Zahlungsdienst, die Bank, ein Käuferschutzprogramm oder eine Verbraucherberatung.

Muss ein Shop kennzeichnen, wenn ein KI-Chatbot antwortet?

Der EU-AI-Act sieht Transparenzpflichten für bestimmte KI-Systeme vor. Shopper sollen in bestimmten Fällen erkennen können, dass sie mit einer KI interagieren. Das ist wichtig, weil ein Chatbot nicht wie ein Mensch wahrgenommen werden sollte und die Aussagen vor diesem Hintergrund zu bewerten sind.

Aber: Eine Kennzeichnung löst das Problem von Falschaussagen nicht. Auch ein klar gekennzeichneter Chatbot muss, wenn er im Kaufprozess eingesetzt wird, verlässliche Informationen liefern.

Was macht einen hilfreichen Chatbot aus?

Ein guter Chatbot verweist auf konkrete Shopseiten, aktuelle Produktinformationen oder den Kundenservice mit den entsprechenden Erreichbarkeiten, wenn eine Antwort nicht sicher beantwortet werden kann. Vorsicht ist geboten, wenn der Bot sehr eindeutige Zusagen macht, sich dabei aber auf keine Quelle beruft.

Wenn es um Fragen geht, die sich unmittelbar auf eine Bestellung oder einen Vertragsabschluss auswirken, sollte immer geprüft werden: Steht dieselbe Information auch auf der Produktseite, in den Versandbedingungen oder in den Rückgaberegeln? Wenn nicht, sollte diese Aussage zusätzlich schriftlich von Seiten des Shops bestätigt werden.