Wie KI eigentlich funktioniert – einfach erklärt
Um KI sicher zu nutzen, musst du sie nicht bauen können. Aber du solltest ein Gefühl dafür haben, was da eigentlich passiert. Denn fast alle Risiken, die wir in diesem Kurs besprechen, ergeben sich direkt aus der Funktionsweise dieser Werkzeuge.
KI ist kein Nachschlagewerk
Viele stellen sich ChatGPT wie eine Suchmaschine oder ein Lexikon vor: Man stellt eine Frage, das Programm sucht die richtige Antwort in einer Datenbank und gibt sie aus. So funktioniert es aber nicht.
KI-Sprachmodelle (man nennt sie “Large Language Models” oder kurz LLMs) haben keine Datenbank mit Fakten, in der sie nachschlagen. Stattdessen tun sie etwas anderes:
Ein Sprachmodell sagt immer nur das nächste, wahrscheinlichste Wort voraus – wieder und wieder, bis ein ganzer Text entsteht.
Das Bild vom übermächtigen Autovervollständigen
Du kennst die Wortvorschläge auf deinem Smartphone: Tippst du “Vielen Dank für die”, schlägt das Handy “Nachricht” oder “Blumen” vor. Es weiß nicht, was du wirklich meinst – es kennt nur aus Millionen Texten, welches Wort meistens folgt.
Ein KI-Sprachmodell ist im Kern genau das – nur unvorstellbar viel leistungsfähiger. Es wurde mit riesigen Mengen Text aus dem Internet, aus Büchern und Artikeln trainiert. Dadurch hat es ein extrem feines Gespür dafür entwickelt, welche Worte in welchem Zusammenhang aufeinanderfolgen. Das Ergebnis wirkt verblüffend menschlich – ist aber im Kern eine sehr gute Wahrscheinlichkeitsrechnung.
Was das für uns bedeutet
Aus dieser Funktionsweise ergeben sich drei Dinge, die für den sicheren Umgang entscheidend sind:
1. Die KI “versteht” nicht, was sie sagt
Das Modell hat kein Bewusstsein und kein echtes Verständnis von Medizin, von Patienten oder von Wahrheit. Es erzeugt Texte, die plausibel klingen – das ist nicht dasselbe wie korrekt sein. Mehr dazu in der nächsten Lektion über Halluzinationen.
2. Die KI klingt immer selbstbewusst
Weil das Modell flüssige, gut formulierte Sätze produziert, klingt jede Antwort kompetent – auch eine falsche. Eine KI sagt selten “das weiß ich nicht”. Sie formuliert eine falsche Dosierung genauso überzeugend wie eine richtige. Diese scheinbare Sicherheit ist eine der größten Gefahren.
3. Was du eingibst, verlässt die Praxis
Die großen KI-Dienste laufen nicht auf deinem Rechner, sondern auf Servern der Anbieter – oft in den USA. Alles, was du eintippst, wird dorthin übertragen, dort verarbeitet und je nach Anbieter auch gespeichert oder zum weiteren Training verwendet. Genau deshalb dürfen dort keine Patientendaten landen (Lektion 4).
Cloud-KI und lokale KI – der wichtige Unterschied
| Cloud-KI (z. B. ChatGPT-Website) | Lokale KI (auf einem Praxisrechner) | |
|---|---|---|
| Wo läuft sie? | Auf Servern des Anbieters | Auf einem Computer in der Praxis |
| Wohin gehen die Daten? | Zum Anbieter, oft ins Ausland | Bleiben im Haus |
| Für Patientendaten geeignet? | Grundsätzlich nein | Je nach Einrichtung möglich |
| Aufwand | Sehr gering, sofort nutzbar | Höher, muss eingerichtet werden |
Diesen Unterschied vertiefen wir in Lektion 5. Für jetzt reicht: Die bequeme Standard-Variante (Cloud) ist genau die, bei der die Daten das Haus verlassen.
Was KI nicht ist
- Kein Arzt und keine MFA. Sie trifft keine Entscheidungen, sie schlägt nur Formulierungen vor.
- Kein Faktenspeicher. Sie kann sich Dinge ausdenken (Lektion 3).
- Kein sicherer Raum. Eingaben sind keine vertraulichen Notizen, sondern Übermittlungen an Dritte.
Zusammenfassung
KI-Sprachmodelle schlagen nicht in einer Datenbank nach – sie berechnen Wort für Wort den wahrscheinlichsten Text. Das macht sie sprachlich brillant, aber inhaltlich unzuverlässig und immer selbstbewusst im Ton. Und: Bei Cloud-Diensten verlassen alle Eingaben die Praxis. Diese drei Punkte sind der rote Faden für alles Weitere. In der nächsten Lektion sehen wir, was passiert, wenn die KI sich Dinge einfach ausdenkt.