Halluzinationen

Wenn die KI überzeugend falsch liegt

Halluzinationen sind kein Ausnahmefehler, sondern eine Eigenschaft der Technologie. Deshalb braucht es feste Prüfgewohnheiten.

KI kann sehr überzeugend falsch liegen.

Sprachliche Sicherheit ist kein Hinweis auf inhaltliche Richtigkeit.

Typische Fehlerarten

  • Fakten erfinden
  • Quellen erfinden
  • Zahlen falsch berechnen
  • Zusammenhänge falsch interpretieren
  • Aussagen einer Quelle falsch wiedergeben
  • veraltete Informationen verwenden
  • Lücken mit plausibel klingenden Informationen füllen

Halluzinations-Experiment

Frage stellen, Antwort erzeugen – und dann konsequent prüfen.

Keine vertraulichen Unternehmensdaten, personenbezogenen Daten, Passwörter oder Zugangsdaten in diese Demo eingeben.

KI-Antwort

Noch kein Ergebnis erzeugt.

Kontrollfragen

Erst wenn alle fünf Punkte geklärt sind, ist eine Aussage belastbar.

0 von 5 Kontrollfragen geklärt.

KI-Antwort ≠ geprüfte Tatsache

Eine Antwort ist ein Vorschlag, keine Bestätigung.