Google’s Healthcare-KI erfindet Körperteil, das es nicht gibt

Googles neue Medizin-KI Med-Gemini hat kürzlich einen „alten linken basilar ganglia infarct“ diagnostiziert.
Problem: Dieses Körperteil existiert nicht. Es ist eine Mischung aus zwei realen Begriffen – basal ganglia (Hirnregion) und basilar artery (Blutgefäß).
Ein Neurologe entdeckte den Fehler, Google änderte stillschweigend seinen Blog, ließ aber die wissenschaftliche Publikation unverändert. Fachleute warnen: Das ist kein kleiner Tippfehler, sondern ein gefährlicher Halluzinationsfehler.
💡 Warum das wichtig ist:

• AI kann in kritischen Bereichen wie der Medizin überzeugend falsch liegen.
• Selbst kleine Textfehler können gravierende Folgen haben.
• Menschliche Kontrolle bleibt unverzichtbar – egal wie „intelligent“ die KI wirkt.
  Vielleicht ist die wichtigste Lektion: Eine KI, die kein „Ich weiß es nicht“ kennt, gehört nicht alleine ans Krankenbett.
  https://futurism.com/neoscope/google-healthcare-ai-makes-up-body-part