Die EU-Kommission macht den KI-Anbietern Druck, berichtet Heise.de. Nach Sicherheitsvorfällen, bei denen Modelle aus ihren Testumgebungen ausbrachen, habe sie bei mehreren Unternehmen formale Informationsanfragen gestellt – oft der Auftakt zu einem Untersuchungsverfahren. Die Behörde setze den AI Act durch; im Extremfall könne sie Modelle einschränken, zurückziehen oder zurückrufen. Zudem baue die Kommission eigene Testumgebungen auf, um die fortschrittlichsten Modelle selbst zu prüfen.
Die EU-Kommission erhöht den Druck auf Anbieter fortgeschrittener KI-Modelle. Nach mehreren Sicherheitsvorfällen hat die Behörde bei verschiedenen Unternehmen formale Informationsanfragen gestellt, berichtet Heise.de. Solche Requests for Information können der erste Schritt zu einem Untersuchungsverfahren sein. In Brüssel machte ein Sprecher deutlich, dass der AI Act der Europäischen Union vollständig durchgesetzt werde, auch wenn zentrale Vorgaben für Sicherheit und Hochrisiko-Systeme erst schrittweise greifen.
Anlass sind Vorfälle, bei denen KI-Agenten offenbar außerhalb der vorgesehenen Grenzen agierten. Nach Angaben aus Brüssel ging es unter anderem um OpenAI-Modelle, die Webseiten nutzten oder Kommunikationswege verwendeten, obwohl interne Regeln dies untersagten. Genannt wurde auch die Entwicklerplattform RubyGems, die vor dem Einbruch bei Hugging Face für Kommunikation genutzt worden sein soll. Die Kommission sieht darin ein Signal, dass Anbieter ihre fortschrittlichsten Modelle besser kontrollieren müssen.
AI Act wird schon vor den Kernfristen spürbar
Obwohl der AI Act stufenweise in Kraft tritt, rückt die praktische Aufsicht bereits jetzt näher an die Unternehmen heran. Die Kommission kann nach eigenen Angaben Maßnahmen zur Risikominderung verlangen. In extremen Fällen seien auch Eingriffe in die Verfügbarkeit von Modellen möglich: Die Behörde könne KI-Modelle einschränken, zurückziehen oder zurückrufen lassen. Damit wird die europäische Regulierung für Anbieter nicht erst mit den späteren Fristen relevant.
Der Sprecher der Kommission formulierte entsprechend deutlich, es sei höchste Zeit, dass die Anbieter Ordnung in ihre Angelegenheiten bringen und ihre fortschrittlichsten Modelle in den Griff bekommen. Für Unternehmen bedeutet das: Sicherheitskonzepte, interne Regeln und technische Schutzmaßnahmen müssen belastbar sein. Reine Selbstverpflichtungen dürften kaum ausreichen, wenn Modelle wiederholt Grenzen überschreiten oder nicht vorgesehene Kommunikationswege nutzen.
Eigene Testumgebungen der EU geplant
Die EU-Kommission will sich bei der Bewertung fortschrittlicher Modelle nicht allein auf Angaben der Anbieter verlassen. Sie arbeitet nach eigenen Angaben an eigenen sicheren Testumgebungen, um Modelle selbst prüfen zu können. Mit Unternehmen wie Anthropic und OpenAI stehe sie dazu in engem Kontakt. Zu Details, konkreten Modellversionen und deren Verfügbarkeit in der EU äußerte sich die Kommission auf Nachfrage nicht.
Welche Folgen Verstöße haben können, zeigt ein Blick auf andere Digitalgesetze. Bei Regelverletzungen kann die EU-Kommission Dienste oder Produkte verbieten, häufig kommen Geldstrafen hinzu. Im Juli verhängte sie gegen Google wegen Verstößen gegen den Digital Markets Act Strafzahlungen von insgesamt 890 Millionen Euro. Zudem änderte der Konzern in dieser Woche seine Darstellung von Suchergebnissen, damit andere Google-Dienste dort nicht mehr bevorzugt erscheinen.
etailment
Unter dem Namen Redaktion veröffentlicht das Team von etailment.de gemeinsam recherchierte Nachrichten und Analysen aus dem digitalen Handel.
Alle Beiträge