Gefahren der KI bei Gesundheitsfragen (Allgemeines)

Boggy, (vor 18 Tagen)

Zum Thema: Gefahren der Künstlichen Intelligenz / KI, speziell bei Gesundheitsfragen, hier ein neuer Artikel aus dem "Guardian":

"Google AI Overviews put people at risk of harm with misleading health advice
Exclusive: Inaccurate information presented in summaries, Guardian investigation finds"

"Google-KI-Übersicht gefährden Menschen durch irreführende Gesundheitsratschläge
Exklusiv: Guardian-Untersuchung deckt fehlerhafte Informationen in Zusammenfassungen auf

Eine Untersuchung des Guardian hat ergeben, dass Menschen durch falsche und irreführende Gesundheitsinformationen in den Zusammenfassungen der künstlichen Intelligenz von Google gefährdet werden.

Das Unternehmen hat erklärt, dass seine KI-Übersichten, die generative KI verwenden, um einen Überblick über wichtige Informationen zu einem Thema oder einer Frage zu geben, „hilfreich” und „zuverlässig” sind.

Einige der Zusammenfassungen, die oben in den Suchergebnissen erscheinen, enthielten jedoch fehlerhafte Gesundheitsinformationen und gefährdeten Menschen.

In einem Fall, den Experten als „wirklich gefährlich“ bezeichneten, riet Google Menschen mit Bauchspeicheldrüsenkrebs fälschlicherweise, fettreiche Lebensmittel zu vermeiden. Experten sagten, dies sei genau das Gegenteil von dem, was empfohlen werden sollte, und könne das Risiko erhöhen, dass Patienten an der Krankheit sterben."

https://www.theguardian.com/technology/2026/jan/02/google-ai-overviews-risk-harm-mislea...

Vor ein paar Tagen habe ich selbst diese Erfahrung gemacht. Ich habe die Stichworte "Gastritis Blähbauch" gegoogelt und das als FALSCHES Ergebnis bekommen:

"Ein Blähbauch ist ein häufiges Symptom einer Magenschleimhautentzündung (Gastritis), oft begleitet von Völlegefühl, Aufstoßen, Schmerzen und Sodbrennen, besonders nach dem Essen oder bei chronischer Verlaufsform, da die entzündete Magenschleimhaut die Verdauung beeinträchtigt. Stress, Ernährung (fettige, scharfe Speisen, Alkohol, Kaffee) und das Meiden bestimmter Lebensmittel (Zwieback, Haferschleim) sowie kleine, schonende Mahlzeiten helfen."

"Stress, Ernährung (fettige, scharfe Speisen, Alkohol, Kaffee)" helfen nicht!
"das Meiden bestimmter Lebensmittel (Zwieback, Haferschleim)" helfen nicht! Das Gegenteil ist der Fall!

Genau das schreibt auch eine der angegebenen Quellen:
"Essen Sie danach Schon­kost in kleinen Portionen. Geeignet sind Hafer­schleim, Zwieback, Reis, Weiß­brot, mageres gekochtes Fleisch, fettarmer Fisch und leicht verdau­liches Gemüse."
https://www.gothaer.de/ratgeber/gesundheit-und-pflege/gesundheit/magenschleimhautentzue...

In diesem Sinne erstmal allen hier ein Frohes Neues Jahr!
flowers
Gruß
Boggy

P.S.: Nicht vergessen! Die KI versteht nicht, was sie liest. Und die KI versteht nicht, was sie schreibt.

--
Um unserer persönlichen und gesellschaftlichen Freiheit willen müssen wir immer wieder die Saat des kritischen Verstandes und des begründeten Zweifels säen.

Avatar

Die Gnade der frühen Geburt

naseweis ⌂, in meinem Paradies, (vor 17 Tagen) @ Boggy

.

Nicht vergessen! Die KI versteht nicht, was sie liest. Und die KI versteht nicht, was sie schreibt.

Ach was können wir froh sein, in einer Zeit aufgewachsen zu sein als natürliche Intelligenz noch einen Wert darstellte. 😉

PS: Dem Himmel sei Dank, daß es in der heutigen Zeit auch noch Vorkommen von natürlicher Intelligenz gibt, ich erfreu mich immer wieder an neuen Erkenntnissen von Ylva (mittlerweile 2 1/2)

--
das Geheimnis der Medizin besteht darin,
den Patienten abzulenken,
während die Natur sich selber hilft (Voltaire)

Sisyphos hatte es auch nicht leicht

Gefahren der KI bei Gesundheitsfragen

kirstenna, (vor 17 Tagen) @ Boggy

nichts geht über die weise Frau/der weise Mann mit dem passenden Rat zur richtigen Zeit

Nachdenken, Nachtrag ...

Boggy, (vor 17 Tagen) @ Boggy

... was mir noch so in den Sinn kam:
vielleicht entstehen Mißverständnisse über den Charakter von "Künstlicher Intelligenz" auch dadurch, daß im englischen Ausdruck "Artificial Intelligence" das Wort "intelligence" nicht ganz deckungsgleich mit dem deutschen Wort "Intelligenz" ist.
Da habe ich nun mal zunächst im Concise Oxford English Dictionary nachgeschlagen
und fand folgende Definitionen für "intelligence"
"1. ability to acquire and apply knowledge and skills
/ 1. Fähigkeit, Wissen und Fertigkeiten zu erwerben und anzuwenden

2. a person with this ability
/2. eine Person mit dieser Fähigkeit

3. the gathering of information of military or political value.
/3. das Sammeln von Informationen von militärischem oder politischem Wert."

Der gute, alte Brockhaus definiert so:
"Intelligenz
1. Verständnis, Erkenntnis, Klugheit
2. Schicht der Intellektuellen"

Nun grübele ich darüber, ob man "Artificial Intelligence", also die "künstliche Fähigkeit, Wissen und Fertigkeiten zu erwerben und anzuwenden", schon als "Verständnis, Erkenntnis, Klugheit" verstehen kann, und komme zum erstaunlichen Ergebnis: nein, kann man nicht.

Oder sollte ich mich irren ...
wer weiß ...
Man sollte vielleicht nicht an Worten haften ... oder doch? ... manchmal schon?

Oder: "Träumt die KI von elektrischen Schafen?"

Ich schweife eindeutig ab ... und versinke in schneetagsvertäumter Vorstellungskraft, einer eindeutig menschlichen, natürlichen Fähigkeit.

Gruß
Boggy
;-)
flowers

--
Um unserer persönlichen und gesellschaftlichen Freiheit willen müssen wir immer wieder die Saat des kritischen Verstandes und des begründeten Zweifels säen.

RSS-Feed dieser Diskussion