Halluzinationen – wenn die KI überzeugend irrt

Der vielleicht wichtigste Begriff dieser ganzen Schulung lautet: Halluzination. Wer ihn verstanden hat, geht automatisch vorsichtiger mit KI um.

Was ist eine Halluzination?

Eine “Halluzination” bezeichnet in der KI-Welt eine Antwort, die erfunden, aber überzeugend formuliert ist. Die KI gibt etwas als Tatsache aus, das schlicht nicht stimmt – ohne es zu kennzeichnen, ohne zu warnen, oft mit erfundenen Details, die echt wirken.

Das ist kein seltener Ausnahmefall und kein “Bug”, den man irgendwann behebt. Es ist eine direkte Folge der Funktionsweise aus der letzten Lektion: Das Modell berechnet wahrscheinliche Worte – und manchmal ist die wahrscheinlichste Wortfolge eben falsch.

Die KI lügt nicht im menschlichen Sinne. Sie weiß gar nicht, dass sie falsch liegt. Sie erzeugt einfach einen plausibel klingenden Text.

Typische Beispiele

• Erfundene Studien und Quellen: Fragt man nach Belegen, nennt die KI manchmal Autoren, Zeitschriften und Jahreszahlen, die es nie gegeben hat. Sie sehen täuschend echt aus.
• Falsche Dosierungen: Eine KI kann eine Medikamentendosis nennen, die plausibel klingt, aber falsch ist – ein potenziell gefährlicher Fehler.
• Erfundene Leitlinien-Inhalte: Die KI “zitiert” eine Leitlinie, die so gar nicht existiert oder anders lautet.
• Falsche Rechtsauskünfte: Paragraphen und Fristen werden frei erfunden.
• Selbstsichere Korrektur ins Falsche: Weist man die KI auf einen Fehler hin, “entschuldigt” sie sich oft und liefert eine neue Antwort – die genauso falsch sein kann.

Warum das in der Medizin besonders gefährlich ist

In vielen Berufen ist ein Fehler ärgerlich. In der Medizin kann er Menschen schaden. Drei Gründe machen Halluzinationen hier besonders heikel:

1. Es geht um Gesundheit. Eine falsche Dosierung oder eine erfundene Kontraindikation kann unmittelbare Folgen haben.
2. Die Antwort klingt kompetent. Gerade weil die KI sprachlich überzeugt, sinkt unsere natürliche Skepsis.
3. Zeitdruck im Alltag. Im hektischen Praxisbetrieb ist die Versuchung groß, eine schnelle KI-Antwort ungeprüft zu übernehmen.

Wie erkenne ich eine Halluzination?

Es gibt keine hundertprozentige Methode – aber Warnzeichen:

• Die Antwort enthält sehr konkrete Zahlen, Namen oder Quellen, die zu schön passen.
• Du kannst die genannte Quelle nicht unabhängig wiederfinden.
• Die Aussage widerspricht deinem Fachwissen oder einer bekannten Leitlinie.
• Auf Nachfrage ändert die KI ihre Antwort plötzlich.

Die goldene Regel im Umgang mit KI-Inhalten

Behandle jede KI-Antwort wie den Tipp eines fremden Praktikanten: vielleicht hilfreich, aber niemals ungeprüft übernehmen – schon gar nicht bei medizinischen Inhalten.

Konkret heißt das:

• Fakten immer gegenprüfen – an verlässlichen Quellen (Leitlinien, Fachinformation, etablierte Fachdatenbanken).
• KI nicht für medizinische Entscheidungen verwenden. Sie darf beim Formulieren helfen, nicht beim Entscheiden.
• Quellenangaben der KI niemals blind vertrauen. Lieber selbst nachschlagen.
• Die ärztliche Verantwortung bleibt beim Menschen. Eine KI ist nie der Grund für einen Fehler – sie ist nur ein Werkzeug.

Wofür KI trotzdem gut geeignet ist

Halluzinationen heißen nicht, dass KI unbrauchbar ist. Sie ist stark, wenn es nicht um die Richtigkeit von Fakten, sondern um Sprache und Form geht:

• Einen Text verständlicher oder freundlicher formulieren
• Einen von dir geschriebenen Entwurf zusammenfassen oder kürzen
• Eine E-Mail höflich umschreiben
• Ideen für einen Aushang sammeln

In all diesen Fällen lieferst du den Inhalt, und die KI hilft bei der Form. Das ist der sichere Einsatzbereich.

Zusammenfassung

Halluzinationen sind erfundene, aber überzeugend formulierte KI-Antworten – und sie sind unvermeidbar, weil die KI Wahrscheinlichkeiten berechnet, statt Fakten zu kennen. In der Medizin sind sie besonders gefährlich. Deshalb gilt: KI-Inhalte immer prüfen, niemals für medizinische Entscheidungen nutzen und Quellen selbst verifizieren. In der nächsten Lektion geht es um das zweite große Risiko: Patientendaten.