🪱 KI-Wurm: Wenn Malware selbst denkt – und jeden Patch überlistet

2d • News

Ich wette, du kennst das Prinzip von Computerwürmern. Schwachstelle finden, Schwachstelle patchen, fertig. Genau das funktioniert beim neuen KI-Wurm nicht mehr.

Forschende der Universität Toronto haben einen Prototyp gebaut, der die Spielregeln komplett verändert – und ich finde das ehrlich gesagt ziemlich beunruhigend.

Was bisher so war

Klassische Würmer haben eine einzige Schwachstelle im Visier. Ist die gepatcht, ist der Wurm erledigt. So läuft das seit dem Morris-Wurm 1988, der mal eben zehn Prozent des damaligen Internets lahmgelegt hat.

Was jetzt anders ist

Der neue Prototyp hat ein Large Language Model (LLM) eingebaut – also dieselbe Technologie, die hinter ChatGPT oder Claude steckt.

Das Ergebnis: kein fixer Angriffspunkt mehr, sondern eine maßgeschneiderte Strategie für jedes Ziel. Der Wurm analysiert, wählt, handelt situativ.

Und noch verrückter: Im Experiment nutzte er drei Sicherheitslücken aus, die zum Zeitpunkt seines Trainings noch gar nicht existierten. Er hat sie sich zur Laufzeit aus öffentlichen Sicherheitshinweisen zusammengebaut.

Das Zitat, das alles sagt

Projektleiter Nicolas Papernot (University of Toronto) zur New York Times:

„Man braucht ein absolut sicheres System, um sich dagegen zu verteidigen – und wir wissen, dass das derzeit nicht machbar ist."

Kein Drama, keine Übertreibung. Einfach eine nüchterne Einschätzung.

Zur Beruhigung – ein bisschen

Der Prototyp ist kein ausgefeiltes Angriffstool. Keine Verschleierungsmodule, keine Täuschungstaktiken. Im Testnetz ohne Verteidigungssoftware war er in rund 50 % der Fälle erfolgreich. Wer sein Netzwerk überwacht, hätte ihn bemerkt.

Welches KI-Modell konkret eingesetzt wurde? Haben die Forschenden bewusst verschwiegen.

Die eigentliche Botschaft

Das Paper ist ein Warnschuss – das sagen die Forschenden selbst. Denn das eigentliche Problem ist die Dezentralität: Kein einzelner Anbieter kontrolliert das Modell, die Hardware, die Infrastruktur. Klassische Regulierung greift ins Leere.

KI verändert nicht nur, wie wir arbeiten. Sie verändert auch, wie Angriffe funktionieren.

Der KI-Wurm ist kein Sci-Fi mehr. Er ist ein Laborexperiment – und Laborexperimente verlassen irgendwann das Labor.

💬 Was denkt ihr: Wie gut ist eure Organisation auf adaptive KI-Angriffe vorbereitet?

8 comments