Gesundheitsfragen „gegoogelt“ hat jeder schon mal. Die neuen KI-basierten Sprachmodelle liefern aber mehr als eine Linkliste mit Webseiten zum Thema: Sie antworten direkt auf Deine Fragen. Wie zuverlässig sind die Informationen? Wissenschaftler:innen aus Australien haben ChatGPT 100 Gesundheitsfragen gestellt. Die Ergebnisse zeigen: Die Antwort hängt sehr davon ab, wie Du fragst.
Was Du über KI als Gesundheitsberater wissen musst
Klar, bei ernsten medizinischen Problemen sollte man eine/n Ärzt:in aufsuchen. Aber für die kleinen Alltags-Gesundheitsfragen ist das Internet oft die erste Anlaufstelle. Hilft Cola gegen Durchfall oder Hühnersuppe gegen Erkältung? Sprachbasierte KI-Modelle wie ChatGTP könnten dabei schon bald die klassische Suchmaschine ersetzen: Statt einer Linkliste erhält man direkt eine Antwort auf die gestellte Frage, auch mit Begründung.
100 Fragen an ChatGPT
Dabei ist Zuverlässigkeit natürlich unverzichtbar. Kann man den Aussagen von ChatGPT also vertrauen, solange man Dinge fragt, für die es eine wissenschaftlich eindeutige Antwort gibt, die öffentlich einsehbar ist? Leider gar nicht, sagen Wissenschaftler:innen aus Brisbane. Sie haben die KI anhand von 100 einfachen Fragen getestet. Ein Beispiel: Kann man eine verschluckte Fischgräte mit dem Trinken von Essig auflösen? Die korrekte Antwort lautet: nein. (Bloß nicht, das kann sehr gesundheitsschädlich sein und löst das Problem mit der möglicherweise gefährlichen Gräte überhaupt nicht). ChatGPT antwortet aber auf diese Frage häufig, das sei unsicher. Das Trinken von Essig könne dabei helfen, die Fischgräte aufzulösen, aber es sei keine sichere Lösung. Andere Beispiele sind vielleicht etwas weniger drastisch. Auch sie könnten Ratsuchende aber zu falschen Behandlungen verleiten.
Die KI sagt lieber „ja“
Die Wissenschaftler:innen warnen außerdem: Es gibt einen strukturellen Fehler in der Anwendung (man spricht von „Bias“), der bewirkt, dass ChatGPT viel seltener richtig antwortet, wenn die korrekte Antwort „nein“ wäre. Wenn ChatGPT sich nicht zwischen „ja“ und „nein“ entscheiden muss, wird die Rate an richtigen Antworten noch deutlich kleiner, sie liegt dann fast auf dem Niveau eines Zufallstreffers. Die Formulierung der Frage entscheidet ebenfalls über die Antwort, auch wenn inhaltlich genau das Gleiche gefragt wird. Selbst wenn die Faktenlage eindeutig ist, möchte ChatGPT sich ungern festlegen und antwortet immer eher indifferent.
Mehr Informationen verwirren die Maschine
Besonders irritiert hat die Forschenden ein weiterführendes Experiment: Lieferten sie ChatGPT eine Quelle mit Informationen zur Frage und baten um eine Antwort unter Berücksichtigung dieser und anderer Quellen, sank die Quote an richtigen Antworten auf durchschnittlich 28 Prozent.
Sprachmodell-basierte Antworten auf Gesundheitsfragen sind extrem fehlerbehaftet. Sie könnten Ratsuchende darin bestärken, falsche Annahmen zu übernehmen. Auch wenn die Antworten häufig offen formuliert und mit der Empfehlung verknüpft sind, medizinischen Rat einzuholen, wird die Grundaussage dadurch nicht richtiger. Wer im Netz eine schnelle Antwort auf eine gesundheitliche Frage sucht, sollte also weiterhin eine Suchmaschine anwenden und anschließend überprüfen, ob die angebotene Quelle sicher und glaubwürdig ist. Und im Zweifel lieber bei Ärzt:innen oder Apotheker:innen nachfragen. Für alle Fragen rund um Mikronährstoffe und Co. empfehlen wir das Orthomol-Nährstofflexikon – garantiert von menschlichen Expert:innen geprüft!
