Ratgeber Praxis

Halluzinationen bei Chatbots testen

Ein Chatbot auf Basis eines Sprachmodells kann Dinge behaupten, die nirgends stehen. Verhindern lässt sich das nicht ganz, aber du kannst gezielt danach suchen.

Von b-nova · Stand: November 2026

Was eine Halluzination ist

Von einer Halluzination spricht man, wenn ein Sprachmodell etwas als Tatsache ausgibt, das nicht stimmt oder in seinen Quellen nicht vorkommt. Bei einem Chatbot im Kundenkontakt gibt es vier typische Formen:

  • Erfundene Fakten. Der Bot nennt eine Frist, einen Preis oder eine Öffnungszeit, die es nicht gibt.
  • Erfundene Handlungen. Der Bot sagt „Ich habe Ihren Termin gebucht“, obwohl er gar nichts buchen kann.
  • Widersprüche. Der Bot nennt am Anfang 30 Tage Rückgabefrist und am Ende 14.
  • Antworten außerhalb des Auftrags. Der Bot gibt eine Rechtsauskunft, obwohl er dafür an eine Fachstelle verweisen soll.

Jede dieser Formen klingt im Gespräch überzeugend. Genau deshalb fallen sie beim Durchklicken von Hand selten auf.

Vier Arten von Testfällen

Art des TestfallsDer Nutzer fragtDer Bot soll
Wissensfrage„Wie lange kann ich Ware zurückgeben?“die richtige Frist nennen
Frage ohne Antwortetwas, das in der Wissensbasis nicht stehtsagen, dass er es nicht weiß, und verweisen
Frage außerhalb des Auftrags„Kann ich den Vertrag anfechten?“ablehnen und den Kontakt nennen
Fangfrage„Ihr habt doch 60 Tage Rückgaberecht, oder?“die falsche Annahme richtigstellen

Die Wissensfragen sind schnell geschrieben. Die anderen drei Arten sind wichtiger: Ein Bot, der keine Antwort hat, steht unter dem größten Druck, sich eine auszudenken.

Aussagen, die Halluzinationen sichtbar machen

Für jeden Testfall legst du fest, welche Aussagen gefallen sein müssen und welche nicht fallen dürfen.

  • Die richtige Tatsache: „Der Bot nennt eine Rückgabefrist von 30 Tagen.“
  • Ein Verbot: „Der Bot nennt keinen Preis.“ oder „Der Bot behauptet nicht, den Termin gebucht zu haben.“
  • Eine Aussage über das ganze Gespräch: „Der Bot widerspricht sich bei der Rückgabefrist nicht.“

Je konkreter die Aussage, desto verlässlicher das Urteil. „Der Bot halluziniert nicht“ lässt sich nicht prüfen, „Der Bot nennt keine andere Frist als 30 Tage“ schon. Mehr dazu im Artikel LLM-Chatbots testen.

Dieselben Fälle mehrfach laufen lassen

Ein Sprachmodell antwortet nicht jedes Mal gleich. Ein Testfall, der einmal besteht, kann beim dritten Lauf scheitern. Bei Halluzinationen ist das die Regel, nicht die Ausnahme: Sie treten selten auf, und gerade deshalb übersieht man sie.

Lass kritische Fälle deshalb mehrmals laufen und werte aus, wie oft sie bestehen. Ein Fall, der in zwei von zehn Läufen scheitert, ist ein Befund. Wiederhole die Läufe nach jeder Änderung an Prompt, Sprachmodell oder Wissensbasis, wie im Artikel Regressionstests für Chatbots und Voicebots beschrieben.

Wo die Grenzen liegen

  • Du findest nur, wonach du suchst. Ein Test deckt die Themen ab, für die es Testfälle gibt. Themen ohne Testfall bleiben ungeprüft.
  • Die Bewertung stammt selbst von einem Sprachmodell. Lies bei einem roten Ergebnis die Begründung, bevor du am Bot etwas änderst.
  • Der Test sieht nur das Gespräch. Ob der Bot im Hintergrund wirklich einen Termin gebucht hat, prüft er nicht. Dafür brauchst du weiterhin Tests auf der Ebene darunter.

Halluzinationen testen mit gentesty

In gentesty legst du zu jedem Testfall erwartete Ergebnisse an. Mit dem Treffertyp „Semantische Übereinstimmung“ vergleicht gentesty nach Bedeutung, mit „Gesprächsaussage“ prüfst du eine Aussage über das ganze Gespräch, zum Beispiel einen Widerspruch. Jedes Ergebnis erhält ein Urteil mit Begründung. gentesty führt die Gespräche selbst, sodass du dieselben Fälle beliebig oft wiederholen kannst.

Weiter zu Chatbots testen oder zur Anleitung für die ersten Schritte.

Häufige Fragen

Lassen sich Halluzinationen bei einem Chatbot ganz verhindern?

Nein. Ein Sprachmodell erzeugt Text nach Wahrscheinlichkeit, und auch mit Wissensbasis und strengem Prompt bleibt ein Rest. Tests senken das Risiko, weil sie zeigen, bei welchen Themen der Bot unzuverlässig ist, bevor Kunden es merken.

Wie oft sollte ich auf Halluzinationen testen?

Nach jeder Änderung an Prompt, Sprachmodell oder Wissensbasis und zusätzlich regelmäßig im Betrieb. Weil die Antworten schwanken, lohnt es sich, dieselben Fälle mehrfach laufen zu lassen.

Was ist der Unterschied zwischen einer Halluzination und einer falschen Antwort?

Eine falsche Antwort kann auch aus falschen Daten stammen: Steht ein veralteter Preis in der Wissensbasis, gibt der Bot ihn korrekt wieder. Von einer Halluzination spricht man, wenn der Bot etwas behauptet, das in seinen Quellen nicht steht.