KI macht Reverse Engineering von Software und Malware deutlich einfacher

Alltagsanwendungen bestehen oft aus Hunderttausenden oder Millionen Codezeilen, binden Hunderte Bibliotheken von Drittanbietern ein und setzen sich aus zahllosen Dateien und eng verflochtenen Komponenten zusammen. Das alles zu entpacken und zu kartieren war vor dem Aufkommen von KI sehr schwierig. Heute schaffen das auch kleine Teams und Einzelpersonen. „Die Hürde sinkt“, sagt Nicole Fishbein, Senior Security Researcherin und Malware-Analystin bei Intezer. „Früher brauchte man Erfahrung, um eine Software zurückzuentwickeln. Man musste Assembler verstehen, und es dauerte lange. Ich will nicht sagen, dass es jetzt jeder kann, aber es ist viel einfacher.“

Eigener Harness für jedes Ziel

Für die Analyse großer Programme braucht man einen sogenannten Harness. Er richtet ein oder mehrere Modelle auf eine bestimmte Aufgabe aus, stellt ihnen die nötigen Werkzeuge bereit und legt fest, was sie dürfen und was nicht. „In jedem Fall mussten wir einen anderen Harness bauen, weil die Programme so verschieden sind“, sagt Fishbein. „In einem Fall kann man Claude einfach bitten, den Quellcode zu rekonstruieren, in einem anderen weigert sich Claude. Bei der Malware wollte ich ganz sichergehen und nichts ausführen, deshalb hatten wir dort einen komplexeren Harness mit einem zusätzlichen Modell.“

Der Harness für die Malware bestand aus einer deterministischen Python-Steuerebene rund um einen Compiler, dazu eine virtuelle Maschine, mehrere Werkzeuge zur statischen Analyse und mehrere große Sprachmodelle. „Ein Orchestrator-Agent steuert das Ganze und verteilt Aufgaben an verschiedene Sub-Agenten. Er zerlegt die Binärdatei anhand der Angaben von Werkzeugen wie Binary Ninja in kleinere Funktionen. Danach rekonstruiert ein Agent den Code, und ein anderer testet die Ergebnisse“, erklärt Fishbein.

Am Ende hatten Fishbein und ihr Kollege einen Turla-Nachbau mit der vollständigen Funktionskette: Er zeigt, wie die Malware Befehle empfängt und ausführt, wie sie Dateien überträgt, und bildet mehr oder weniger alles andere ebenfalls ab. Für Malware-Forscher ohne allzu knappe Fristen sei das wertvoll, sagt Fishbein: „Wenn man das Gesamtbild nachbauen kann, ohne wichtige Komponenten zu übersehen, liefert das sehr viele Informationen.“

Finder und Slack nachgebaut

Ausgangspunkt der Untersuchung waren nach Fishbeins Worten Leute, die per Vibe Coding Apps erstellen, die bekannte Anwendungen imitieren. Sie wollte wissen, wie genau sich die Vorlage nachbilden lässt. Besonders schwierig war das nicht, die Ergebnisse fielen aber unterschiedlich aus.

Der Finder-Nachbau beherrschte viele alltägliche Aufgaben des Originals, etwa verschiedene Dateioperationen und die lokale Suche. Das Original gab aber nicht genug preis, um seinen internen Aufbau genau nachzubilden. Der Finder arbeitet mit Dateien, die von Cloud-Diensten verwaltet werden, und viele seiner Aktionen hängen von anderen macOS-Diensten ab.

Bei Slack ging es leichter: Fast alles ließ sich über die Rückentwicklung des JavaScript-Quellcodes erschließen. Den kompletten Client reproduzierten die Forscher nach eigenen Angaben „sehr einfach“. Schwierigkeiten hatten sie mit dem Server, weil Informationen darüber schwerer zu bekommen waren. Einem echten Angreifer, der Salesforces proprietären Code stehlen oder nach Schwachstellen durchsuchen will, könnte die Infrastrukturseite allerdings ohnehin weniger wichtig sein.

Staatliche Angreifer nutzen Claude

Anthropic hat am 10. September einen Bericht darüber veröffentlicht, wie Bedrohungsakteure seine Modelle missbrauchen. Darin beschreibt das Unternehmen unter anderem umfangreiche Aktivitäten der russischen Gruppe Midnight Blizzard, die sich vor allem gegen Regierung, Militär und diplomatisches Personal der Ukraine richteten. Im Zuge dieser Kampagne hatte die Gruppe ein vollständiges, proprietäres Software Development Kit (SDK) für ein Bildverarbeitungssystem von Drohnen gestohlen. Mit Unterstützung von Claude entwickelte die APT-Gruppe es innerhalb von „mehreren Tagen“ zurück. Drohnen spielen im Krieg zwischen Russland und der Ukraine eine große Rolle.

Im selben Bericht schildert Anthropic eine chinesische Kampagne. Zu ihren Zielen gehörten unter anderem die Entwicklung von Malware, die Ausspähung von Netzwerken ausländischer Regierungen und die Suche nach Schwachstellen in bedeutenden Endpoint-Security-Produkten. Um die vielen Abläufe gleichzeitig zu bewältigen, setzten die Angreifer Claude in getrennten Arbeitssträngen ein. In einem davon wurden Sicherheitsprodukte zurückentwickelt, um Fehler darin zu finden.

Auch weniger fortgeschrittene Angreifer betreiben nach Fishbeins Beobachtung Reverse Engineering: „Wir sehen viel Malware, die plötzlich Open Source wird. Es gibt die Tendenz, Malware, die sich bei Angreifern bewährt hat, zu nehmen und dann entweder den Quellcode zu leaken oder sie einfach nachzubauen und für alle als Open Source bereitzustellen.“

Auch für legitime Nutzer wird die Technik zugänglicher. Im vergangenen Monat war das Open-Source-Werkzeug und MCP-Server (Model Context Protocol) „REA“, kurz für „Reverse Engineer Anything“, das beliebteste Programm auf GitHub.

Schutz für geistiges Eigentum

Hersteller müssen ihr geistiges Eigentum deshalb womöglich besser schützen. Ein erster Schritt kann sein, festzulegen, welche Folgen sie verhindern wollen, bevor sie Abwehrmaßnahmen auswählen. So lässt sich der Slack-Client zwar ohne Weiteres nachbauen, die gesamte Implementierung aber nicht. „Derzeit zeigt die Untersuchung: Solange man seine serverseitige Infrastruktur nicht gegenüber dem Kunden offenlegt, ist man geschützt“, sagt Fishbein.

Zum Schutz ihres Quellcodes können sich Entwickler ausgerechnet bei Angreifern bedienen. Malware-Entwickler, früher aber auch vorsichtige Unternehmen, haben gezeigt, dass wirksame Verschlüsselung, Verschleierung (womöglich sogar mit KI-Hilfe) und andere Anti-Analyse-Techniken Verteidigern das Zurückentwickeln erschweren. „Verschlüsselungswerkzeuge oder verschiedene Anti-Cheat-Mechanismen, die es schon länger gibt, würden ebenfalls helfen“, sagt Fishbein. „Wie lange sie standhalten, ist aber schwer zu sagen, weil jedes neue Modell Monat für Monat besser wird.“