KI schreibt die effektivsten Phishing-Mails

Studie zeigt hohes Risiko durch personalisiertes KI-Phishing

Eine großangelegte Untersuchung von Bifold, TU Berlin, Inria und der Ruhr-Universität Bochum zeigt, wie wirksam Sprachmodelle für automatisierte Spear-Phishing-Angriffe eingesetzt werden können. Nach einem Bericht von Golem.de verglich das Forschungsteam generische Nachrichten, manuell personalisierte Mails und automatisch erzeugte, auf einzelne Personen zugeschnittene E-Mails. Beteiligt waren Stefan Czybik, Anne Josiane Kouam, Peter Heubl, Jan Magnus Nold und Konrad Rieck.

Für das Feldexperiment wurden 7.741 Beschäftigte der TU Braunschweig einbezogen. Um Angriffe im großen Maßstab zu simulieren, nutzten die Forschenden ausschließlich die E-Mail-Adressen der Zielpersonen als Ausgangspunkt für Suchmaschinenabfragen. Auf diese Weise sammelten sie öffentlich zugängliche Informationen zu beruflichen Hintergründen, persönlichen Aktivitäten, Interessen und Zugehörigkeiten. Lokal gehostete Sprachmodelle erstellten daraus Nutzerprofile und formulierten darauf abgestimmte Nachrichten.

Die Ergebnisse machen deutlich, wie stark Personalisierung die Erfolgsquote von Phishing erhöhen kann. Generische E-Mails erreichten eine Klickrate von 3,9 Prozent, während automatisiert personalisierte Nachrichten auf 10,0 Prozent kamen. Damit lag die Erfolgsquote der KI-gestützten Variante nahezu dreimal so hoch wie bei allgemeinen Anschreiben. Dieser Effekt zeigte sich unabhängig davon, ob die generischen Texte von Menschen oder ebenfalls von einer Maschine verfasst worden waren.

Noch erfolgreicher waren manuell verfasste Spear-Phishing-Mails: Sie erzielten 24,2 Prozent Klicks. Der entscheidende Unterschied lag jedoch im Aufwand. Während eine von Menschen personalisierte Nachricht rund sieben Minuten benötigte, dauerte der KI-basierte Arbeitsablauf nur etwa 45 Sekunden pro E-Mail. Die Kosten lagen laut Studie bei rund 0,03 US-Dollar pro Adresse. Für Angreifer entsteht damit ein deutlich skalierbarer Ansatz, der persönliche Ansprache mit geringem Ressourceneinsatz verbindet.

Bemerkenswert ist ein unerwarteter Befund zur Datenmenge. Personen mit umfangreichen öffentlich auffindbaren Profilen klickten seltener auf die präparierten Links als Personen mit geringen bis mittleren Datenmengen. Die Auswertung legt nahe, dass die eingesetzten Sprachmodelle bei sehr vielen Informationen stärker abstrahierten und konkrete Details seltener direkt in die Nachrichten übernahmen. Mehr verfügbare Daten führten dadurch nicht automatisch zu überzeugenderen Phishing-Mails.

Für Unternehmen und Organisationen unterstreicht die Studie die Grenzen rein technischer Abwehr. Das Sicherheitssystem der Universität fing nur eine von 3.949 Mails ab, was zeigt, wie schwer menschlich wirkende Nachrichten zuverlässig zu erkennen sind. Die Forschenden empfehlen daher mehrschichtige Schutzmaßnahmen: weniger verknüpfbare persönliche Daten im Netz, Schulungen zur IT-Sicherheit mit Fokus auf KI-gestützte Personalisierung sowie robuste technische Konzepte wie Multi-Faktor-Authentifizierung.