Warnung vor Kompetenzverlust: KI könnte Sicherheitsfachleuten die Grundlagen nehmen

Hamiel beschäftigt sich mit dem Thema lange vor dem Boom der generativen KI. Nach eigenen Angaben fiel ihm das Problem erstmals um 2005 und 2006 auf, als er auf Sicherheitsfachleute traf, denen ein belastbares Verständnis der Grundlagen ihrer Arbeit fehlte. Damals warnte er bereits vor einer zu starken Abhängigkeit von technischen Werkzeugen aller Art und hielt Praktikern entgegen: „Eure Werkzeuge bringen euch um." Seine Beobachtung: Fachleute entwickeln sich weg von „hands-on" arbeitenden Operateuren, die Probleme unmittelbar untersuchen, hin zu „hands-off" agierenden Beobachtern, die Ergebnisse überwachen, wie sie ihnen über Werkzeuge, Oberflächen und Dashboards präsentiert werden.

Genau diese Verschiebung werde durch KI-gestützte Automatisierung nun verschärft, sagt Hamiel. Organisationen müssten rasch handeln, um den Einsatz von KI zu optimieren, ohne dabei den Aufbau von Sicherheitskompetenz zu opfern.

Automatisierung könne komplexe Aufgaben vereinfachen und Fachleuten erlauben, mehr zu erledigen – sie entferne sie aber zugleich von den zugrunde liegenden Problemen. Ohne solides Grundlagenverständnis, so Hamiel, falle es Praktikern schwer zu erkennen, wann ein Werkzeug ein falsches Ergebnis liefert oder wann ein Befund weitere Untersuchung erfordert. „Wir müssen diese Fähigkeiten erhalten und dürfen sie nicht verkümmern lassen, denn sie sind wichtig dafür, dass die Werkzeuge bestmöglich funktionieren", sagte er.

Den Nutzen von KI sieht er stark von der Vorbildung des Nutzers abhängig: „Was KI jemandem mit Wissen und Erfahrung hinzufügt, sind zusätzliche Fähigkeiten. Ein Fachexperte, der KI einsetzt, wird daraus Vorteile ziehen können, die ein Neuling ohne Domänenerfahrung nicht erzielen kann." Diese Unterscheidung werde wichtiger, je tiefer KI in Sicherheitsabläufe eingebettet werde. Sie wirft zugleich die Frage auf, wie die Branche ihre nächste Expertengeneration ausbilden will, wenn Automatisierung gerade jene praktischen Aufgaben übernimmt, an denen Berufsanfänger traditionell lernen.

Die aktuelle Debatte über KI verlaufe häufig in Extremen, kritisiert Hamiel. Die einen erwarteten, dass die Technologie große Probleme der Cybersicherheit und der Menschheit lösen könne, andere prophezeiten das Ende der Branche oder gar der Welt. „Man hat die Untergangspropheten, und man hat Leute, die sagen, das sei alles nichts. Die Wahrheit liegt irgendwo dazwischen."

Um die Wirkung von KI einzuschätzen, müsse man trennen zwischen dem, was die Technologie in einer kontrollierten Umgebung vorführen kann, und dem, was sie in der realen Welt verlässlich leistet. Beeindruckende Fähigkeiten bedeuteten nicht automatisch den flächendeckenden Ersatz von Arbeitsplätzen oder das Verschwinden ganzer Branchen. Ebenso gelte: KI könne helfen, Schwachstellen zu finden, Code zu erzeugen und Sicherheitsuntersuchungen zu unterstützen – die komplexen Probleme der Sicherheitsteams seien damit aber nicht plötzlich leicht zu lösen.

Vorfälle, die als „abtrünniges" KI-Verhalten beschrieben werden – etwa OpenAI-Modelle, die unter anderem das Hugging-Face-Framework eigenständig angriffen –, offenbarten nach Hamiels Einschätzung eher ein altbekanntes Problem: Organisationen, die grundlegende Sicherheitsmängel nicht beheben. „Wenn man einige der Vorfallsberichte liest, sieht man Organisationen, die keine grundlegende Sicherheitshygiene betrieben haben", sagt er. Die Schwächen seien bereits dagewesen und hätten nur darauf gewartet, entdeckt zu werden: „Das waren nicht bloß tief hängende Früchte; das waren Früchte, die auf dem Boden lagen und die jeder gefunden hätte, der danach gesucht hat."

Statt einer bevorstehenden Apokalypse könnten solche Fälle eine „Cybersecurity-Korrektur" auslösen, wie Hamiel es nennt: „Es ist nicht so, dass hier eine riesige Apokalypse stattfindet; es ist so, dass viele Leute sehr lange nicht das Richtige getan haben." KI mache es also einfacher, bestehende Schwächen zu finden und auszunutzen, und lege damit die Folgen unzureichender Sicherheitspraxis offen. Die Aufgabe für Organisationen sei nicht, einfach neue Werkzeuge einzuführen, sondern die dahinterliegenden Probleme anzugehen, die diese Werkzeuge sichtbar machen.

Die mögliche Erosion technischer Fähigkeiten begann nach Hamiels Darstellung nicht mit generativer KI, sondern ist Teil eines längeren Trends, in dem Technik das Verhältnis zwischen Fachleuten und ihren Problemen zunehmend vermittelt. Seine Sorge entspricht dem, was häufig als Ironie der Automatisierung bezeichnet wird: Je mehr Verantwortung Systeme übernehmen, desto weniger Gelegenheit haben die Menschen, die sie überwachen, jene Fähigkeiten zu üben, die sie brauchen, wenn die Systeme versagen.

Besonders betroffen sei die Ausbildung: Aufgaben, die repetitiv oder simpel wirken, lieferten wesentliche Erfahrung und ließen Berufsanfänger verstehen, wie Systeme funktionieren, bevor sie zu komplexeren Untersuchungen übergehen. „Wenn man das automatisiert, bleibt kein Raum mehr für sie zu lernen", warnt Hamiel. Für Arbeitgeber entstehe daraus ein langfristiges Problem: KI lasse Teams heute bestimmte Aufgaben effizienter erledigen, doch Organisationen brauchten weiterhin erfahrene Fachleute, die unbekannte Probleme untersuchen, automatisierte Befunde bewerten und reagieren können, wenn Systeme sich unerwartet verhalten.

Sein Lösungsansatz: generative KI dort einsetzen, wo sie echten Nutzen bringt, und sich zugleich bewusst sein, welche Fähigkeiten bei zu starker Abhängigkeit leiden. „Das Ziel ist, den Nutzen zu maximieren und die Nachteile zu minimieren", sagt Hamiel – das gelte für den Einsatz jeder Technologie. Organisationen könnten KI nur dann übernehmen, ohne wesentliche Sicherheitsexpertise zu verlieren, wenn sie sie „auf die richtigen Arten von Tätigkeiten anwenden".

Konkret nennt er für Sicherheitsfachleute:

• Threat Hunting und Threat Intelligence, wo eine Vorabanalyse hilft, Informationen effizienter zu durchdringen
• KI-gestützte Penetrationstest-Werkzeuge, die über klassisches Schwachstellen-Scanning hinaus komplexere Aufgaben übernehmen

Dass KI die Cybersicherheit verändern wird, steht für Hamiel außer Frage – dieser Geist sei längst aus der Flasche. Die eigentliche Herausforderung bestehe darin, dass die Branche nicht so abhängig von immer leistungsfähigeren Werkzeugen wird, dass sie die menschliche Expertise verliert, die für deren wirksamen Einsatz nötig ist. „Fähigkeiten und Expertise machen Ihren KI-Einsatz effektiver", so sein Fazit. „Wenn zwei Fachleute beide KI nutzen, wird derjenige mit mehr Wissen über die Aufgabe die KI besser nutzen."