Warum LLMs keine AGI sind

Große Sprachmodelle prägen Debatten, Produkte und Erwartungen. Doch ihre Leistungsfähigkeit wird nach Einschätzung von Golem.de oft mit Intelligenz verwechselt. Die aktuellen Warnungen von Elon Musk, Sam Altman und Dario Amodei vor einer vernichtenden Superintelligenz erscheinen in dieser Lesart als überhöhte Panikkommunikation, die durch mediale Aufmerksamkeit weiter verstärkt wird. Zugleich bleibt der Text nüchtern: Die Auswirkungen von KI sind bereits spürbar und können gesellschaftlich problematisch werden.

Warum Benchmarks keine Intelligenz beweisen

Im Zentrum steht die Frage, was Artificial General Intelligence, kurz AGI, überhaupt bedeuten soll. Viele Modelle werden derzeit vor allem daran gemessen, welche Benchmarks sie erreichen. Solche Tests können Fähigkeiten sichtbar machen, etwa bei Sprache, Code oder Aufgabenlösungen. Sie belegen aber keine allgemeine Intelligenz. Yann LeCun verweist auf eine engere Definition: Intelligenz sei die Fähigkeit, neue Probleme zu lösen. Er zitiert Jean Piaget mit dem Gedanken, Intelligenz zeige sich dann, wenn Wissen fehlt und trotzdem gehandelt werden muss.

Genau an diesem Punkt sieht die Analyse die größte Schwäche heutiger LLMs. Sie können Muster fortsetzen, Wissen kombinieren und in vielen bekannten Aufgabenfeldern beeindruckende Ergebnisse liefern. In vollkommen neuen Situationen bleiben sie jedoch weit hinter dem zurück, was Menschen leisten. Der Text zieht den Vergleich sogar zu Tieren wie Goldfischen. Damit wird die Diskrepanz deutlich: Hohe Punktzahlen in Tests ersetzen keine robuste Orientierung in unbekannten Lagen.

AGI als Definitionsfrage

Besonders kritisch bewertet wird die AGI-Deutung von OpenAI. Das Unternehmen beschreibt AGI als Zustand, in dem eine Maschine Menschen bei den meisten wirtschaftlich wertvollen Tätigkeiten übertrifft. Diese Definition ist aus Sicht des Kommentars sehr weit gefasst. Sie verschiebt den Fokus von allgemeiner Problemlösefähigkeit hin zu wirtschaftlicher Nützlichkeit. In zugespitzter Form könne dadurch stellenweise bereits ein Buchhaltungsprogramm in die Nähe solcher Kriterien geraten.

Vor diesem Hintergrund wirkt auch die Behauptung, OpenAIs Astra-Modelle hätten AGI erreicht oder stünden kurz davor, weniger eindeutig. Der Text stellt diese Aussage nicht als technische Gewissheit dar, sondern als Teil eines breiteren Furors. Sichtbar wird eine Lücke zwischen der Wahrnehmung vieler Fachleute und der öffentlichen Erzählung einiger prominenter Tech-Akteure. Auf der European Conference on Computer Vision Anfang September 2026 in Malmö habe Yann LeCun seine Kritik an LLMs als Weg zu echter Intelligenz erneut deutlich formuliert. In der geschilderten Fachöffentlichkeit stieß diese Haltung eher auf Zustimmung als auf Widerspruch.

Zwischen realen Risiken und falscher Dramatisierung

Die Zusammenfassung des Arguments lautet: Große Sprachmodelle sind mächtig, gesellschaftlich relevant und wirtschaftlich folgenreich. Daraus folgt aber nicht automatisch, dass sie auf menschliche Intelligenz oder eine Singularität zusteuern. Der Text wendet sich gegen das Getöse von Marktschreiern, ohne die realen Effekte der Technologie zu verharmlosen. Problematisch sind aus dieser Sicht vor allem unscharfe Begriffe, weil sie Erwartungen, Ängste und Investitionslogik gleichermaßen beeinflussen.

Für die weitere Debatte verlangt der Kommentar präzisere Maßstäbe. Es reicht nicht, Modelle über Benchmarks, Produktversprechen oder mediale Zuspitzungen zu bewerten. Nötig ist eine klare Trennung zwischen nützlichen Fähigkeiten, wirtschaftlicher Automatisierung und allgemeiner Intelligenz. Der nächste Prüfpunkt bleibt eine belastbare AGI-Definition, die zeigt, ob Modelle tatsächlich unbekannte Situationen eigenständig bewältigen können.