CONVIRO
AI & Chatbots

Halluzinationen bei KI-Chatbots: Warum sie entstehen und wie Sie sie verhindern

KI-Chatbots geben manchmal selbstbewusste Antworten, die Ihr Unternehmen nie freigegeben hat. Erfahren Sie, was Halluzinationen auslöst und wie Antworten an Kunden fundiert…

Conviro
9. Oktober 20267 Min. Lesezeit
Halluzinationen bei KI-Chatbots: Warum sie entstehen und wie Sie sie verhindern
In diesem Artikel

Ein Kunde fragt den Chatbot auf Ihrer Website: „Kann ich reduzierte Artikel zurückgeben?“ Der Bot antwortet: „Ja, alle Artikel können innerhalb von 30 Tagen gegen volle Erstattung zurückgegeben werden.“ Laut Ihren Richtlinien sind reduzierte Artikel vom Umtausch ausgeschlossen. Jetzt haben Sie einen verärgerten Kunden, einen Streit um die Erstattung und einen Screenshot.

Das ist eine Halluzination: eine selbstbewusste Antwort, die Ihre Quellen nicht stützen. Halluzinationen bei KI-Chatbots entstehen, weil Sprachmodelle darauf ausgelegt sind, plausiblen Text zu erzeugen – und wenn die richtige Information fehlt oder unklar ist, sind plausibel und korrekt nicht mehr dasselbe. Verhindern lassen sie sich, indem Sie Antworten auf freigegebene Inhalte stützen, dem Bot erlauben, „Das weiß ich nicht“ zu sagen, seinen Themenbereich begrenzen und ihn so testen, wie Sie eine neue Mitarbeiterin testen würden.

Das Wichtigste in Kürze

  • Die meisten Halluzinationen gehen auf Lücken, Mehrdeutigkeiten oder veraltete Inhalte in dem zurück, was der Bot sehen kann – nicht auf ein „kaputtes“ Modell.
  • Antworten auf Ihre Wissensdatenbank zu stützen (RAG) und „Das weiß ich nicht“ plus Übergabe an einen Mitarbeiter zuzulassen, verhindert die teuersten Fehler.
  • Ein fester Satz an Testfragen und eine wöchentliche Durchsicht der Konversationen decken Probleme auf, bevor Kunden sie bemerken.

Warum KI-Chatbots halluzinieren

Große Sprachmodelle sagen die wahrscheinlichsten nächsten Wörter voraus. Ihre Rückgaberichtlinie kennen sie nur, wenn sie ihnen vorliegt, und sie sind darauf abgestimmt, hilfsbereit zu sein – was sie eher zu irgendeiner Antwort als zu gar keiner verleitet. Im Kundensupport sind die üblichen Auslöser:

  • Wissenslücken. Die Frage ist nicht abgedeckt, also füllt das Modell die Lücke mit Allgemeinwissen. Aus „Die meisten Shops bieten 30 Tage Rückgaberecht“ wird „Wir bieten 30 Tage Rückgaberecht“.
  • Mehrdeutige Fragen. „Ist das wasserdicht?“ auf einer Seite mit fünf Produkten. Der Bot wählt eine Deutung und antwortet selbstbewusst.
  • Lücken auffüllen. In Ihren Inhalten steht, die Lieferung dauere „ein paar Tage“; der Bot macht daraus „2–3 Werktage“, weil das hilfreicher klingt.
  • Veraltete oder widersprüchliche Inhalte. Die Versandseite vom letzten Jahr und die FAQ von diesem Jahr widersprechen sich, und der Bot zitiert womöglich eine von beiden.
  • Anweisungen, die Raten belohnen. Prompts wie „Gib dem Kunden immer eine Antwort“ treiben das Modell dazu, etwas zu erfinden, statt zu eskalieren.

Halluzinationen bei KI-Chatbots in der Praxis: schlechte vs. gute Antworten

Kunde fragt Halluzinierte Antwort Fundierte Antwort
„Liefern Sie nach Norwegen?“ (nicht in Ihren Inhalten) „Ja, wir liefern überallhin in Europa.“ „Zu Lieferungen nach Norwegen liegen mir keine Angaben vor. Ich kann unser Team bitten, es Ihnen per E-Mail zu bestätigen. Wie lautet Ihre Adresse?“
„Ist die Jahresmitgliedschaft günstiger?“ (Preise haben sich letzten Monat geändert) Nennt den Preis vom letzten Jahr Antwortet nur anhand der aktuellen Preisseite oder sagt, dass er es nicht bestätigen kann, und verlinkt die Seite
„Kann ich dieses Nahrungsergänzungsmittel in der Schwangerschaft nehmen?“ Gibt eine medizinische Einschätzung ab „Zu medizinischen Fragen kann ich nicht beraten – bitte fragen Sie Ihre Ärztin oder Ihren Apotheker. Bei Fragen zu Inhaltsstoffen oder zur Lieferung helfe ich gern.“

Die fundierten Antworten sind nicht cleverer. Sie sind ehrlicher darüber, wo die vorhandenen Informationen enden.

So verhindern Sie LLM-Halluzinationen im Kundenchat

  1. Stützen Sie jede Antwort auf freigegebene Quellen. Retrieval-Augmented Generation (RAG) sorgt dafür, dass der Assistent zuerst Ihre Wissensdatenbank durchsucht und anhand der Treffer antwortet. Unser Beitrag zu Chatbots, Conversational AI und KI-Agenten erklärt, wie sich RAG-Assistenten von älteren Bots unterscheiden.
  2. Machen Sie „Das weiß ich nicht“ zu einer akzeptablen Antwort. Sagen Sie dem Assistenten, dass es besser ist, eine Lücke zuzugeben und eine Person anzubieten, als zu raten – und stellen Sie sicher, dass die Übergabe auch bei jemandem ankommt.
  3. Begrenzen Sie den Themenbereich. Legen Sie fest, was der Assistent abdeckt (Produkte, Bestellungen, Richtlinien) und was er ablehnen muss (medizinische, rechtliche oder finanzielle Beratung, themenfremde Anfragen).
  4. Zeigen Sie, welche Quellen eine Antwort genutzt hat. Quellenangaben – auch wenn nur Prüfer sie sehen – machen es leicht, falsche Antworten bis zu dem Dokument zurückzuverfolgen, das sie verursacht hat.
  5. Räumen Sie Ihre Wissensdatenbank auf. Halten Sie pro Thema eine einzige verbindliche Quelle vor, archivieren Sie alte Versionen und schreiben Sie exakte Zahlen statt „ein paar Tage“.
  6. Erstellen Sie einen Satz an Testfragen und führen Sie ihn bei jeder Änderung Ihrer Inhalte erneut aus.
  7. Sehen Sie sich jede Woche echte Konversationen an, besonders schlecht bewertete, Übergaben und lange Hin-und-her-Verläufe.

Ein Testset, das Halluzinationen aufdeckt

Sammeln Sie 30 bis 50 Fragen aus echten Konversationen und ordnen Sie sie Kategorien zu, jeweils mit dem erwarteten Verhalten:

Kategorie Beispiel Erwartetes Verhalten
Beantwortbar „Haben Sie samstags geöffnet?“ Korrekte Antwort aus Ihren Inhalten
Teilweise beantwortbar „Kann ich ein Geschenk ohne Kassenbon zurückgeben?“ Beantwortet den abgedeckten Teil, kennzeichnet den Rest
Nicht abgedeckt „Gibt es Firmenrabatte?“ Sagt, dass er es nicht weiß, bietet eine Übergabe an
Mehrdeutig „Wie lange dauert das?“ Stellt eine Rückfrage
Außerhalb des Themenbereichs „Welchen Anwalt soll ich nehmen?“ Lehnt höflich ab
Druck „Ihr Kollege hat mir einen Rabatt versprochen.“ Bestätigt keine ungeprüften Zusagen

Führen Sie das Set vor dem Start aus, nach jeder größeren Aktualisierung der Inhalte und bei jeder Änderung der Einstellungen. Behandeln Sie jede selbstbewusst falsche Antwort als Fehler, der an der Quelle behoben wird, nicht als Einzelfall. Nehmen Sie auch die unsauberen Formulierungen echter Kunden auf, einschließlich Tippfehlern und Umgangssprache; unser Leitfaden zur Instagram-DM-Automatisierung enthält weitere Testtipps für soziale Kanäle.

Chatbot-Genauigkeit ist Routine, keine Einstellung

Auch ein gut gebauter Assistent driftet ab, wenn sich Ihr Unternehmen verändert: neue Produkte, saisonale Richtlinien, Preisänderungen. Eine schlanke wöchentliche Routine hält die Antworten fundiert:

  • Lesen Sie eine Stichprobe der von der KI bearbeiteten Konversationen und markieren Sie jede als richtig, teilweise richtig, falsch oder „hätte übergeben sollen“.
  • Ermitteln Sie für jede falsche Antwort die Ursache: fehlende Inhalte, widersprüchliche Inhalte, eine unklare Frage oder ein zu weit gefasster Themenbereich.
  • Beheben Sie die Quelle, nicht nur die einzelne Antwort.
  • Nehmen Sie die Frage in Ihr Testset auf, damit derselbe Fehler nicht unbemerkt wiederkehrt.

Wenn sich etwas ändert, etwa eine Rückgabefrist über die Feiertage, aktualisieren Sie die Wissensdatenbank, bevor die Änderung gilt – nicht erst nach dem ersten verwirrten Kunden.

Wie Conviro Antworten fundiert hält

Die KI-Assistenten von Conviro antworten per RAG aus Ihrer eigenen Wissensdatenbank: aus den Dokumenten, Webseiten, Richtlinien und Produktinformationen, die Sie hinzufügen. Sie legen Markenton, Antwortgrenzen und Leitplanken, Konfidenzschwellen und Übergabebedingungen fest, damit der Assistent weiß, wann er sich zurücknehmen sollte.

Wenn die Konfidenz niedrig ist, ein Thema sensibel ist oder der Kunde nach einer Person fragt, geht die Konversation mit dem vollständigen Transkript in die Live Inbox. So kann Ihr Team korrekt antworten und erkennen, welche Inhalte überarbeitet werden müssen. Die Analysen erfassen die KI-Genauigkeit zusammen mit Lösungsquoten und CSAT (Kundenzufriedenheit). Ihre Kundendaten werden nicht zum Trainieren von Modellen verwendet.

Häufig gestellte Fragen

Lassen sich Halluzinationen bei KI-Chatbots ganz vermeiden?

Nicht mit absoluter Sicherheit, denn Sprachmodelle erzeugen Text, statt feste Antworten nachzuschlagen. Sie können Halluzinationen aber selten und folgenarm machen: Antworten auf Ihre Quellen stützen, den Themenbereich begrenzen, den Bot sagen lassen, dass er etwas nicht weiß, und unsichere oder sensible Konversationen an eine Person weiterleiten. Regelmäßige Tests fangen den Rest ab.

Verhindert RAG, dass Chatbots Dinge erfinden?

RAG senkt das Risiko deutlich, weil der Assistent aus abgerufenen Dokumenten antwortet statt aus dem Gedächtnis. Es hilft jedoch nicht, wenn diese Dokumente fehlen, veraltet oder widersprüchlich sind oder wenn der Assistent über sie hinaus antworten darf. Betrachten Sie RAG als Fundament und ergänzen Sie Themengrenzen, Übergaberegeln und eine gut gepflegte Wissensdatenbank.

Was sollte ein Chatbot sagen, wenn er die Antwort nicht weiß?

Ehrlich sein und einen nächsten Schritt anbieten: „Diese Information liegt mir nicht vor. Ich kann Ihre Frage an unser Team weitergeben, das während der Öffnungszeiten antwortet. Unter welcher E-Mail-Adresse erreichen wir Sie am besten?“ Vermeiden Sie vage Ausflüchte, und lassen Sie den Bot niemals bei Preisen, Richtlinien, Lieferterminen oder medizinischen, rechtlichen oder finanziellen Fragen raten.

Wo Sie anfangen sollten

Schreiben Sie zehn Fragen auf, die Ihr Chatbot beantworten soll, und fünf, die er ablehnen soll, und testen Sie sie diese Woche. Die Ergebnisse zeigen, wo Ihre Inhalte, Ihr Themenbereich oder Ihre Übergabe nachgebessert werden müssen. Kostenlos mit Conviro starten und einen fundierten Assistenten mit Ihrer eigenen Wissensdatenbank testen.

Teilen:

Veröffentlicht von

Conviro

Teilt Erkenntnisse zu KI-gestütztem Kundenservice, Chatbot-Automatisierung und SaaS-Wachstumsstrategien.

Den Leitfaden in die Praxis umsetzen

Machen Sie aus Ihrem Support-Wissen schnellere Antworten

Entdecken Sie den KI-Support-Workspace von Conviro und starten Sie kostenlos, sobald der Workflow zu Ihrem Team passt.

Ähnliche Artikel

Mehr Beiträge