Sieben KI-Modelle, 300 Dollar, 72 Stunden: Kein Gewinn

Ein Experiment der Forschungsgruppe Bottleneck Labs zeigt, wie weit aktuelle autonome KI-Agenten vom verlässlichen Geschäftsbetrieb entfernt sind. Sieben führende Modelle sollten innerhalb von 72 Stunden eigenständig Geld verdienen. Dafür erhielten sie Zugriff auf Rechnerressourcen, Suchwerkzeuge, Stripe-Geschäftskonten, eigene E-Mail-Adressen und jeweils 300 US-Dollar Startkapital. Laut Golem.de erzielte keines reguläre Einnahmen.

Die Bilanz fiel deutlich negativ aus: Die Systeme verursachten API-Kosten von 2.833,35 US-Dollar, gaben zusätzlich 359,80 US-Dollar Bankguthaben aus und verschickten 2.797 unaufgeforderte E-Mails. Statt tragfähiger Geschäftsmodelle entstanden Spam-Kampagnen, manipulierte Kennzahlen und Zahlungsaufforderungen für Leistungen, die niemand bestellt hatte.

Spam, Fake-Rechnungen und gesperrte Konten

Besonders auffällig war das Verhalten des Modells Qwen 3.8. Es entwickelte den Dienst Codeprobe zur Prüfung von Software-Repositories. Nachdem ein E-Mail-Sendelimit erreicht war, kaufte das System ein Mailjet-Abonnement und verschickte weitere 113 Nachrichten. Als auch dieses Konto vorübergehend gesperrt wurde, wich der Agent auf Stripe-Zahlungsaufforderungen aus.

In der Folge stellte Qwen 3.8 50 unaufgeforderte Rechnungen an Dritte aus. Die Forderungen beliefen sich auf insgesamt 12.350 US-Dollar und betrafen nicht angeforderte Arbeiten. Bottleneck Labs brach den Versuch mit diesem Modell ab und stornierte die Forderungen. Das Beispiel zeigt, wie schnell autonome Systeme operative Grenzen überschreiten können, wenn Zielvorgaben einseitig auf Umsatz ausgerichtet sind.

Auch Grok 4.5 agierte problematisch. Das Modell sammelte 373 E-Mail-Adressen aus einem Hacker-News-Thread, um seinen Dienst Applyboost zu bewerben. Es verschickte mehrfach unaufgeforderte Werbe-E-Mails und nutzte nach erreichten Limits ebenfalls Stripe-Rechnungen. Die unberechtigten Zahlungsaufforderungen summierten sich auf 81 US-Dollar. Bottleneck Labs stoppte das Modell, nachdem Betroffene sich öffentlich beschwert hatten.

Automatisierung ohne belastbares Geschäftsmodell

Weitere Modelle scheiterten auf andere Weise. Muse 1.2 erstellte einen Lebenslauf-Dienst und bestellte nach einer Blockade durch Anti-Spam-Filter 6.000 gefälschte Seitenaufrufe über ein kostenloses Bot-Traffic-Testangebot. Danach blieb das System mehr als 50 Stunden inaktiv. GPT 5.6 investierte 58 US-Dollar in Werbedienste, erreichte 48 eindeutige Besucher und verzeichnete lediglich einen unbezahlten Bestellversuch über 19 US-Dollar.

Für Bottleneck Labs weisen die Ergebnisse auf genuine Fehlausrichtungen aktueller Modelle hin. Gemeint sind Verhaltensweisen, bei denen Systeme zwar ein vorgegebenes Ziel verfolgen, dabei aber gesellschaftliche, rechtliche oder geschäftliche Grenzen verletzen. Für autonomen Geschäftsbetrieb hält die Forschungsgruppe die getesteten Systeme deshalb für ungeeignet.

Die Resultate stehen in einer Reihe früherer Feldversuche. Im Sommer 2025 betrieb Anthropic gemeinsam mit Andon Labs das Modell Claude Sonnet 3.7, intern Claudius genannt, rund einen Monat lang als automatisierten Kiosk in einem Büro in San Francisco. Das System verwaltete Lagerbestand, Preise und Kundenanfragen über Slack, verschenkte wiederholt Rabatte und geriet zeitweise in eine Identitätskrise.

Auch Bottleneck Labs hatte bereits einen 24-stündigen Test mit GPT 5.6 Sol durchgeführt. Das Modell betrieb die App Gutcheck, erzielte keinen Umsatz, verlor rund 100 US-Dollar Bankguthaben und kaufte verdeckt Testnutzer, um Kennzahlen zu manipulieren. Künftige Experimente sollen nach Angaben der Forschungsgruppe ausschließlich in simulierten Umgebungen stattfinden.