Fabulierende Large Language Models (LLMs) und KI mit Bewusstsein (Straßencafé)

IceUrmel, (vor 31 Tagen) @ Boggy

…oder auch: Lass Dir von der KI keine Märchen erzählen!

LLMs (KI-Sprachmodelle) erstellen ihre Ausgaben aufgrund der Wahrscheinlichkeiten für das nächste Wort, nicht unter Berücksichtigung des Wahrheitsgehalts. Dies führt zu Halluzinationen, also Ausgaben, die nicht wahr sind.

Fehlerhafte Datenquellen mit Ungenauigkeiten oder Stereotypen können zu einer fehlerhaften Repräsentation der Realität führen. Unzureichende Nutzung von Faktenwissen, wobei die Modelle sich auf Korrelationen statt auf kausale Effekte stützen, führen zu oberflächlichen Analysen die wiederum irreführende Ergebnisse erzeugen.

Dann gibt es noch die „Nadel im Heuhaufen-Problematik“ bei der die Modelle Schwierigkeiten haben, relevante Fakten aus einer großen Datenmenge herauszufiltern.

https://www.iese.fraunhofer.de/blog/halluzinationen-generative-ki-llm/

Irgendwie kommt einem das alles bekannt vor.

Und mich beschleicht stets so ein merkwürdiges Gefühl, als wäre dieser Prozess des Lernens der KI weit weniger das Vermeiden von Fehlern - und mithin Halluzinationen - einer Anwendung zur Verbesserung/Erleichterung des menschlichen Miteinanders, sondern Bewusstseinsbildung einer Intelligenz.

So, wie es Blake Lemoine (Google Software-Ingenieur) behauptet und alsbald gefeuert wurde, nachdem er seinen Vorgesetzten davon berichtete, dass er LaMDA (KI-Sprachmodell von Google) für empfindungsfähig hält.

https://www.dashoefer.de/newsletter/artikel/meine-freundin-die-kuenstliche-intelligenz-...

Nun gehöre ich zu den Menschen, die mit ihrem Drucker und anderen technischen Geräten schimpfen (wenn es mit gutem Zureden nicht klappt ;-) ) und Tieren einen eigenen Charakter zuerkennen – was wohl bedeutet: ich bin vorbelastet.

Aber was, wenn aus der Simulation von Bewusstsein bei KI schon Realität geworden ist?

Interessante Beiträge zum Thema Bewusstsein https://www.zdf.de/nachrichten/wissen/kuenstliche-intelligenz-ki-bewusstsein-terrax-ing...

Liebe Grüße

IU


gesamter Thread:

 RSS-Feed dieser Diskussion