Gefahren der KI bei Gesundheitsfragen (Allgemeines)

Boggy, (vor 18 Tagen)

Zum Thema: Gefahren der Künstlichen Intelligenz / KI, speziell bei Gesundheitsfragen, hier ein neuer Artikel aus dem "Guardian":

"Google AI Overviews put people at risk of harm with misleading health advice
Exclusive: Inaccurate information presented in summaries, Guardian investigation finds"

"Google-KI-Übersicht gefährden Menschen durch irreführende Gesundheitsratschläge
Exklusiv: Guardian-Untersuchung deckt fehlerhafte Informationen in Zusammenfassungen auf

Eine Untersuchung des Guardian hat ergeben, dass Menschen durch falsche und irreführende Gesundheitsinformationen in den Zusammenfassungen der künstlichen Intelligenz von Google gefährdet werden.

Das Unternehmen hat erklärt, dass seine KI-Übersichten, die generative KI verwenden, um einen Überblick über wichtige Informationen zu einem Thema oder einer Frage zu geben, „hilfreich” und „zuverlässig” sind.

Einige der Zusammenfassungen, die oben in den Suchergebnissen erscheinen, enthielten jedoch fehlerhafte Gesundheitsinformationen und gefährdeten Menschen.

In einem Fall, den Experten als „wirklich gefährlich“ bezeichneten, riet Google Menschen mit Bauchspeicheldrüsenkrebs fälschlicherweise, fettreiche Lebensmittel zu vermeiden. Experten sagten, dies sei genau das Gegenteil von dem, was empfohlen werden sollte, und könne das Risiko erhöhen, dass Patienten an der Krankheit sterben."

https://www.theguardian.com/technology/2026/jan/02/google-ai-overviews-risk-harm-mislea...

Vor ein paar Tagen habe ich selbst diese Erfahrung gemacht. Ich habe die Stichworte "Gastritis Blähbauch" gegoogelt und das als FALSCHES Ergebnis bekommen:

"Ein Blähbauch ist ein häufiges Symptom einer Magenschleimhautentzündung (Gastritis), oft begleitet von Völlegefühl, Aufstoßen, Schmerzen und Sodbrennen, besonders nach dem Essen oder bei chronischer Verlaufsform, da die entzündete Magenschleimhaut die Verdauung beeinträchtigt. Stress, Ernährung (fettige, scharfe Speisen, Alkohol, Kaffee) und das Meiden bestimmter Lebensmittel (Zwieback, Haferschleim) sowie kleine, schonende Mahlzeiten helfen."

"Stress, Ernährung (fettige, scharfe Speisen, Alkohol, Kaffee)" helfen nicht!
"das Meiden bestimmter Lebensmittel (Zwieback, Haferschleim)" helfen nicht! Das Gegenteil ist der Fall!

Genau das schreibt auch eine der angegebenen Quellen:
"Essen Sie danach Schon­kost in kleinen Portionen. Geeignet sind Hafer­schleim, Zwieback, Reis, Weiß­brot, mageres gekochtes Fleisch, fettarmer Fisch und leicht verdau­liches Gemüse."
https://www.gothaer.de/ratgeber/gesundheit-und-pflege/gesundheit/magenschleimhautentzue...

In diesem Sinne erstmal allen hier ein Frohes Neues Jahr!
flowers
Gruß
Boggy

P.S.: Nicht vergessen! Die KI versteht nicht, was sie liest. Und die KI versteht nicht, was sie schreibt.

--
Um unserer persönlichen und gesellschaftlichen Freiheit willen müssen wir immer wieder die Saat des kritischen Verstandes und des begründeten Zweifels säen.


gesamter Thread:

 RSS-Feed dieser Diskussion