Ministerin Schopper: EU soll KI-Agenten bändigen

Schopper fordert klare Leitplanken für KI-Agenten im Onlinehandel

Die für den Verbraucherschutz zuständige Bauministerin Theresa Schopper fordert verbindliche Regeln für den sogenannten Agentic Commerce. Wie Mainpost.de berichtet, sollen KI-Agenten Verbraucherinnen und Verbraucher zwar beim Einkaufen, Buchen oder Organisieren unterstützen können, dabei aber nicht eigenständig über Geld, Verträge oder kostenpflichtige Aktionen entscheiden. Schopper betont, der Mensch müsse „Herr des Verfahrens“ bleiben.

Im Kern geht es um Assistenten auf Basis von KI, die im Alltag Aufgaben übernehmen und dafür häufig Zugriff auf sensible Bereiche benötigen: E-Mails, Kalender, Dateien, Kundenkonten oder Zahlungsdienste. Genau daraus entstehen nach Einschätzung des Verbraucherschutzministeriums erhebliche Risiken. Je mehr Rechte ein Agent erhält, desto größer werden mögliche Folgen von Fehlentscheidungen, Datenmissbrauch und Kontrollverlust. Problematisch wird es insbesondere dann, wenn ein Assistent eine Aufgabe falsch versteht, Preislimits überschreitet oder eine Buchung auslöst, die Verbraucher nicht veranlassen wollten.

Schopper verlangt deshalb klare Haltelinien für den Einsatz solcher Systeme. KI-Agenten dürften weder manipulieren noch selbst manipulierbar sein. Zudem müsse eindeutig erkennbar werden, wann eine Entscheidung oder Handlung von einem KI-System ausgeht. Auch sollten Nutzer feste Grenzen festlegen können, etwa für den maximalen Betrag, den ein Assistent ausgeben darf. Besonders wichtig sei ein gut lesbarer Button, der Verbraucher eindeutig darauf hinweist, wenn sie eine kostenpflichtige Aktion auslösen.

Ein weiteres Risiko sieht das Ministerium in versteckten Anweisungen in Webseiten, Dokumenten oder E-Mails. Solche Inhalte könnten von einem Agenten irrtümlich als Auftrag verstanden werden. In der Folge könnte er Daten weiterleiten, Nachrichten versenden oder Bestellungen anstoßen, ohne dass dies vom Nutzer beabsichtigt war. Gerade weil KI-Agenten für selbstständiges Handeln oft weitreichende Zugriffsrechte benötigen, fordert Schopper technische und rechtliche Vorkehrungen gegen solche Manipulationen.

Der Rechtsrahmen soll aus Sicht der Ministerin möglichst rasch und am besten auf Ebene der EU geschaffen werden. Der Handlungsdruck sei hoch, weil die Technologie den Alltag der Menschen absehbar immer stärker prägen werde. Schoppers Forderung zielt damit auf einen kontrollierten Einsatz von KI-Assistenten: Sie sollen nützlich sein, aber nur innerhalb klar definierter Grenzen handeln und keine ungewollten Verpflichtungen auslösen. Entscheidend bleibt der Grundsatz, dass Verbraucher jederzeit erkennen, begrenzen und kontrollieren können, was ein digitaler Assistent in ihrem Namen tut.