KI macht Angreifer schlechter: Forscher dokumentieren Qualitätsverfall bei Phishing und APT-Kampagnen

Ausgangspunkt der Debatte sind Schlagzeilen, die diese Woche auf einer Umfrage mit Selbstauskünften beruhten und wonach rund 84 Prozent der Ransomware-Angriffe in irgendeiner Form KI nutzen. Proofpoint setzt dem konkrete Beobachtungen aus der eigenen Bedrohungsverfolgung entgegen.

Selena Larson, Principal Threat Researcher bei Proofpoint, widerspricht der Darstellung, KI mache Angreifer besser. “Es gibt diesen ganzen Druck, beeindruckende Dinge zu finden, [aber] ich widerspreche der Erzählung, dass KI Bedrohungsakteure besser macht, sehr deutlich. Das ist einfach nicht der Fall”, sagt sie. “Wir sehen tatsächlich in Echtzeit, wie KI-generierte Angriffsketten Bedrohungsakteure [in ihrem Handwerk] schlechter gemacht haben.”

Über viele von Proofpoint beobachtete Gruppen hinweg gelte: “Bedrohungsakteure nutzen KI, um mehr Lärm zu erzeugen, aber das senkt ihre Raffinesse.” Als Beispiel nennt Larson TA2725, einst ein interessanter Akteur im Umfeld brasilianischer Banking-Trojaner, der sich inzwischen zu einer Schrottfabrik entwickelt habe. Unbestritten bleibt, dass KI beim Ausspähen von Opfern, beim Ausrollen von Angriffen in großem Maßstab, beim Verfassen grammatikalisch korrekter Phishing-Nachrichten und dabei hilft, einen Script-Kiddie kompetent wirken zu lassen – über die Qualität der Angriffe sagt das jedoch nichts aus.

TA4903: vom Vorzeigeakteur zum offenen Buch

Deutlichstes Beispiel ist für Proofpoint die seit fünf Jahren aktive Gruppe TA4903, spezialisiert auf Credential-Phishing und Business E-Mail Compromise. “Sie waren früher ziemlich gut. Sie gaben sich als US-Regierung aus. Sie nutzten sehr aufwendige Phishing-PDFs. Wirklich gut gemachte QR-Codes und Landing-Pages. Das war sehr effektiv”, so Larson.

Seit März setzt TA4903 KI in jedem Abschnitt der Angriffskette ein: Social-Engineering-Köder, Zielauswahl, Abgreifen von Zugangsdaten. “In den letzten sechs Monaten sind sie ins Vibe-Coding eingestiegen, versuchen eigene Phishing-Kits zu bauen und lassen dabei Dinge offen liegen”, erklärt Larson. “Forscher können jetzt sehen, was sie tun, wo ihre Infrastruktur steht, wer ihre nächsten potenziellen Opfer sein werden.” Nach Angaben von Proofpoint liegen dadurch offen:

• die per Vibe-Coding erstellten Control-Panels der Gruppe
• ihre Cloudflare-Deployments
• die Erzeugung von Links und Ködern
• erbeutete Zugangsdaten

Auch die Köder selbst haben an Qualität verloren. TA4903 verschickt QR-Codes, die in E-Mails nicht dargestellt werden, aufwendig gestaltete PDFs im Anhang vollständig leerer Mails sowie Nachrichten, die reale Organisationen imitieren sollen, in denen aber die automatisch generierten Standardtexte der KI nicht ersetzt wurden.

Staatliche Gruppen blamieren sich

Dass kriminelle Gruppen Qualität gegen Masse tauschen, folgt ihrem Geschäftsmodell aus niedrigen Kosten und hohem Volumen. Auffällig ist jedoch, dass auch bekannte, staatlich finanzierte APTs denselben Weg versuchen.

Forscher von Genians veröffentlichten diese Woche einen Bericht über eine Kampagne gegen die Ukraine, die sie der nordkoreanischen Gruppe Kimsuky zuschreiben. Kimsuky setze KI-Agenten und LLM-Infrastruktur ein, um Spear-Phishing-Inhalte automatisiert zu erzeugen und Code zu schreiben. Das Ergebnis war unsauber: Die Köder-Mails vermischten ukrainische, südkoreanische und japanische Ziele, wechselten zwischen förmlicher und informeller Anrede sowie zwischen männlichen und weiblichen Grammatikformen. Die Inhalte passten nicht zu den beigefügten Täuschungsdokumenten, Google-Meet-Einladungen enthielten Zoom-Links. Die Schadsoftware wies logische Fehler, schlampige Code-Verschleierung und fehlende Bestandteile auf.

Bitdefender beschrieb bereits im März eine größere Umstellung bei der pakistanischen Gruppe APT36, auch bekannt als Transparent Tribe. Diese wechselte von Standard-Schadsoftware zu sogenannter “Vibeware” – Einweg-Polyglot-Dateien, die sich für jede beliebige schädliche Funktion rasch erzeugen lassen. Der Ansatz hatte durchaus Vorteile: Weil sich solche Dateien so leicht generieren ließen, konnte APT36 Opfer mit so viel Schrott-Malware überschwemmen, dass das Entfernen einzelner Implantate kaum ins Gewicht fiel. Der praktische Nutzen blieb dennoch zweifelhaft – etwa bei einem KI-generierten Stealer in Go, der keine Daten exfiltrieren konnte, oder einem Bot-Management-System, das schlicht nicht wie vorgesehen funktionierte.

Warum Spionagegruppen zurückhaltend bleiben

“Was wir sehen, ist, dass die wirklich raffinierten Gruppen beim Einsatz von KI heute sehr vorsichtig sind”, sagt Martin Zugec, Technical Solutions Director bei Bitdefender. “In der Cyberspionage ist KI ein schreckliches Werkzeug – sie ist deutlich lauter als menschliche Angreifer. Wenn man eine KI um etwas bittet, versucht sie es direkt, dann probiert sie andere Wege aus. Das ist sehr laut, und alle professionellen Cyberspionage-Operationen zielen auf genau das Gegenteil.”

Zugec verweist auf die Perspektive der Angreifer: “Immer wenn jemand wie wir [eine Cyber-Forschungsgruppe] eine raffinierte Operation entdeckt, können wir allein durch die Dokumentation großen Schaden anrichten. Wir können ihre Operationen in manchen Fällen um Jahre zurückwerfen. Werden sie also KI einsetzen, die das Risiko ihrer Entdeckung erhöht? Eher nicht.”

Ein begrenzter Einsatz in ernsthaften Kampagnen ist möglich: Bitdefender veröffentlichte im August einen Blogbeitrag über SilkParasite, eine Gruppe mit China-Bezug, die KI sehr eng umgrenzt zur Unterstützung der Malware-Entwicklung nutzte. Ein breiter Umstieg auf KI-getriebene Angriffe lässt sich den Daten jedoch nicht entnehmen. “Wir hören seit Jahren von diesem Übergang, und er findet nicht wirklich statt”, sagt Zugec. Trotz alarmistischer Schlagzeilen seien “das meiste, was wir immer noch sehen, sehr langweilige Einbrüche, wie ClickFix und Living-off-the-Land-Angriffe”. Bei KI-Bedrohungen gelte: “Was wir öffentlich dokumentiert sehen, sind Anekdoten.”