Die Reifelücke AI Malware

AI gestaltet die Bedrohungslandschaft neu, aber aufgeblähte Behauptungen über die neuesten Sicherheitsereignisse können verschleieren, wie es geht. Dieser Beitrag ist Teil der laufenden Serie "AI Hype vs. Reality" von Insikt Group, die den Lärm rund um AI Entwicklungen durchdringt, um zu untersuchen, was die Beweise tatsächlich zeigen und was Verteidiger als Folge priorisieren sollten.
Style
padding-0
  • Die meisten bisher beobachteten "AI Malware" fallen in die AI Malware Maturity Model (AIM3) Stufen 1-3 (Experimentieren durch Optimierung) und nicht in vollständig automatisierte Kampagne.
  • AI ist derzeit ein Kraftmultiplikator auf bestehende Angreifer-Tradecraft, kein Quellen von grundsätzlich neuem TTPs.
  • Viele Ankündigungen von "First Ever AI Malware" sind enge Forschungsdemos oder PoCs mit begrenzter Autonomie und unklaren realen Auswirkungen.
  • Laut öffentlicher Berichterstattung gibt es keine bestätigten Beispiele für wirklich eingebettete BYOAI-Malware (Bring Your Own AI), die ihr eigenes lokales Modell auf den Rechnern der Opfer ausführt.
  • Verteidiger sollten Priorität darauf legen, den Missbrauch legitimer AI -Dienste zu überwachen, bestehende Kontrollen zu verhärten und Bedrohungen auf AIM3-Ebenen zuzuordnen, anstatt auf Sci-Fi-Szenarien zu überreagieren.

Einführung

Generative AI (GenKI) und große Sprachmodelle (LLMs) werden rasch in alle Bereiche unserer Gesellschaft integriert, von der Kommunikation bis zur Cybersicherheit. Unternehmen und Anbieter nutzen bereits GenAI und LLMs, um ihre Verteidigung zu verstärken. Angreifer setzen auch LLMs ein, hauptsächlich als Kraftmultiplikator statt der Ein-Klick-Super-Malware, die oft in Artikelüberschriften angedeutet wird. Von Phishing-Lockmitteln über Codegenerierung bis hin zur grundlegenden Orchestrierung senkt GenAI die Fähigkeitsbarriere und beschleunigt vertraute Arbeitsabläufe, anstatt eine völlig neue Klasse unaufhaltsamer, vollständig autonomer Malware freizusetzen.

In der Praxis befinden sich die meisten AI Malware-Aktivitäten heute in den frühen Stadien AI Reife, mit Fokus auf AI-unterstütztes Programmieren und Handwerk, lokalisierte Inhalte und experimentelle Orchestrierung, die immer noch stark auf Menschen und traditionelle Werkzeuge setzt, selbst wenn Anbieter schnell enge Proof of Concepts (PoCs) oder Vorfall als erste AI Angriffe markieren. Dieser Beitrag durchbricht diesen Hype, indem er ein einfaches AI Malware Maturity Model (AIM3) einführt, das definiert, was wirklich als AI Malware gilt, aktuelle öffentliche Behauptungen konkreten Reifegraden zuordnet und den Verteidigern einen realistischen Überblick darüber gibt, wie AI heute tatsächlich die Wirtschaft von Angreifern verändert und wie man sich auf leistungsfähigere Leistungen vorbereiten kann. orchestrierte Bedrohungen, die eindeutig bevorstehen.

Was gilt als "AI Malware"

Wir definieren AI Malware als bösartige oder offensive Software, deren Kernentwicklung oder Laufzeitverhalten von GenAI oder LLMs abhängt. Die bösartige Software kann LLMs nutzen, um Befehle zur Laufzeit zu erzeugen oder auszuwählen, Dateien oder Umwelttelemetrie zur Aktionsplanung zu inspizieren oder Teile der Angriffskette ohne schrittweise menschliche Eingriffe zu orchestrieren. Fünf Arten von AI Malware erfüllen diese Beschreibung: LLM-Übersetzt, LLM-Generiert, LLM-Deployed, LLM-Gesteuert und LLM-Eingebettet.

Arten von AI Malware

Messung AI Malware-Reife mit AIM3

Trotz der zahlreichen AI Malware-Typen, die in den letzten Jahren beobachtet wurden, herrscht kein Konsens über den aktuellen Stand der Reife AI Malware. Es gibt Reifemodelle für die Einführung von Cybersicherheit, wie zum Beispiel das "AI Maturity Model" von MITRE, aber es gibt kein angreiferzentriertes Modell, das direkt die Komplexität von AI-fähiger Malware und das operative Risiko für Organisationen misst. Um diese Lücke zu schließen, schlägt Recorded Future das fünfstufige AIM3 vor, das Teams dabei unterstützt, das Komplexitätsniveau AI Bedrohungen zu bestimmen und zu bestimmen, wo Erkennung und Governance-Bemühungen fokussiert werden sollen. AIM3 bietet Verteidigern eine Möglichkeit, echte KI-gesteuerte Bedrohungen von Marketinglärm zu unterscheiden.

Niveaus des AI-Malware-Reifemodells (AIM3) von Recorded Future
Niveaus des AI-Malware-Reifemodells (AIM3) von Recorded Future

Stufe 1 – Experimentieren:

Angreifer, Forscher und Wissenschaftler erstellen Prototypen, Spielzeugbeispiele und PoCs, die GenAI mit rudimentären Methoden nutzen. In diesem Stadium erkunden die Einzelpersonen lediglich die Möglichkeiten von GenAI und LLMs für bösartige Anwendungen im Vergleich zur ernsthaften Operationalisierung.

Stufe 2 – Adoptieren:

Bedrohungsakteur integrieren GenKI in vertraute Arbeitsabläufe wie das Verfassen von Phishing-E-Mails, das Recherchieren von Zielen und die Entwicklung von Code. Während die Kernaufgaben konventionell bleiben, liegt der Schwerpunkt auf der Automatisierung und Unterstützung niedriger Aufgaben, ohne traditionelle Handwerkskunst neu zu erfinden.

Stufe 3 – Optimierung:

Angreifer beginnen, AI in ihre Angriffskette zu integrieren, indem sie GenAI auf dem Host oder über APIs nutzen, um Introspektion, Befehle zu generieren und Code nahezu in Echtzeit anzupassen. Dies ist eine Verlagerung des Fokus von maßgeschneiderter GenKI-Nutzung hin zur Behandlung von GenAI als integrierten Teil der Angriffskette.

Stufe 4 – Verwandlung:

KI-native offensive Frameworks entstehen auf dieser Ebene, die mehrstufige Planung und Werkzeugnutzung mit einem Human-in-the-Loop-(HITL)-Ansatz kombinieren. Dies sind die frühen, gezielten Versuche von KI-orientierten Bedrohungsoperationen, die agentische Muster nutzen, anstatt GenAI an alte Playbooks zu binden.

Level 5 – Skalierung:

Bedrohungsakteur bauen agentische Systeme, um Kampagne End-to-End-Management ohne menschliche Aufsicht zu verwalten. Automatisierte Entscheidungsfindung wird in großem Maßstab für die Planungs-, Umsetzungs- und Persistenzphasen des Betriebs implementiert. Dieses Maß an Raffinesse stellt die obere Grenze der GenKI-Fähigkeiten dar, auf die sich die aktuelle Experimente bewegen.

Mit der definierten Definition von AIM3 können wir nun untersuchen, was tatsächlich öffentlich und in der Forschung berichtet wurde.

Was wir in freier Wildbahn sehen

Zeitleiste der Berichte über AI Malware im Hinblick auf den Reifegrad

2023 bis 2024 (Frühe Experimentierphase)

Anfang bis Mitte 2025 (KI-auslösende Malware erscheint)

Ende 2025 (KI-gesteuerte Implementierungen sind erfolgreich)

Hype vs. Realität – was ist wahr, was ist übertrieben?

Mit ein paar Jahren "AI Malware"-Schlagzeilen hinter uns sind einige Muster klar. Die meisten öffentlichen Aktivitäten liegen deutlich unter den vollständig autonomen, Hollywood-ähnlichen Drohungen, die Marketing oft impliziert.

Wo die Aktivität wirklich stattfindet (AIM3 Stufen 1–3)

Die Zuordnung zu AIM3 ergibt ein klares Bild: Die überwiegende Mehrheit der Beispiele befindet sich auf den Stufen 1–3 (Experimentieren bis Optimieren), es gibt einen einzigen umstrittenen Fall der Stufe 4 und keine verifizierte Aktivität der Stufe 5. Malware-Familien wie PromptLock, PROMPTFLUX und MalTerminal sehen eher nach Proof-of-Concept-Übungen aus als nach in freier Wildbahn eingesetzter Schadsoftware. Der anthropische Fall ist das einzige und höchst umstrittene Beispiel für Reifegrad 4 (Transformation), aber selbst dieses erste Beispiel war nicht völlig autonom.

Aus dieser Perspektive kommen einige Dinge in den Fokus: Vollständig eingebettete Modelle sind immer noch theoretisch, viele Erstbehauptungen AI Malware beruhen auf dünnen oder experimentellen Beweisen, und der eigentliche Wendepunkt ist nicht rohe Autonomie, sondern die stetigende Verbesserung AIgetriebener Orchestrierung. Mit anderen Worten: Die Daten zeigen uns, wo der Hype der Realität voraus ist und wo die nächsten echten Veränderungen in der Angreiferfähigkeit wahrscheinlich auftreten werden.

BYOAI und eingebettete Modelle: in freier Wildbahn noch hypothetisch

Die meisten veröffentlichten Implementierungen AI Malware rufen Cloud- oder entfernte LLMs auf, nicht lokal eingebettete Modelle. Selbst in bekannten bösartigen Instanzen wie Lamehug rufen Familien entfernte Dienste wie die HuggingFace-API für LLM-Aufrufe zur Laufzeit auf. In einigen Fällen kann die Nutzlast lokal verfügbare LLM-Dienste nutzen, die diese Fernaufrufe in ihrem Namen tätigen; allerdings verfügt derzeit keine beobachtete Probe über eine Bring Your Own AI (BYOAI)-Funktion. Dies ist effektiv unsere LLM-Embedded-Kategorie: AI Malware, die ihr eigenes Modell liefert, um lokal auf dem Host auszuführen.

Das allererste AI Malware-Problem

Zwischen Juli und November 2025 erschienen vier erstmalige Berichte über Angriffe auf KI-Malware, darunter Malterminal, Lamehug, PromptLock und den Anthropic-Cyberangriff. Diese Berichte betrafen unterschiedliche Aspekte der AI Malware-Landschaft. Nach der Veröffentlichung von „Berichterstattung“ wurden viele dieser Behauptungen von der Forschungsgemeinschaft als akademisch, experimentell oder wenig überzeugend eingestuft und kritisch hinterfragt. Obwohl diese Beispiele eine klare schrittweise Weiterentwicklung von Skripting und Automatisierung darstellen, neigen Anbieter dazu, schnell stärkere Behauptungen aufzustellen, als sich in der Praxis unabhängig überprüfen lassen.

Hinweis an CISOs

Für CISOs, die sicherstellen möchten, dass sie sich gegen AI Malware verteidigen können, sollten sie zunächst diese drei Fragen beantworten:

  • Haben Sie angemessene AI Governance?
  • Können Sie in Ihrer Umgebung missbräuchliche Verwendung von AI feststellen?
  • Sind Ihre Abwehrmechanismen in der Lage, auch KI-gestützte Tools abzuwehren?

Ausblick

AI Malware befindet sich noch in den frühen Reifestadien und befindet sich hauptsächlich auf dem experimentellen bis optimalen Niveau des AIM3-Frameworks. Was wir heute sehen, ist AI-unterstütztes Handwerk, das traditionelle TTPswiderspiegelt; eine natürliche Folge der verstärkten AI Verbreitung, die auch in mehreren anderen Branchen beobachtet wird.

Dennoch ist die Richtung, die die Einführung AI einschlägt, klar. Die Entwicklung von einfachen KI-generierten Inhalten hin zu KI-gestützter Malware und Red-Team-Orchestrierungsframeworks ist ein Zeichen dafür, dass leistungsfähigere und autonomere Operationen bevorstehen. Die umstrittene Störung des Anthropic-Gebiets ist eines der ersten Beispiele dafür und dient den Verteidigern als frühes Warnsignal.

Alle Wege führen zur AI Orchestrierung

Die Entwicklung der AI Aktivitäten zielt eindeutig auf die Orchestrierung AI Prozessen ab, jedoch noch nicht auf vollständig skalierte AI Operationen. Frameworks wie HexStrike-AI und CyberSpikes Villager, die heute noch Nischenprodukte sind, weisen auf die Vorgehensweisen von Angreifern hin, bei denen Orchestrierung und der Einsatz KI-gesteuerter Tools zur Norm werden. Die Chronologie der Beobachtungen von AI -Malware zeigt eine klare Entwicklung: beginnend mit einfachem AIgeneriertem Code, über die Generierung und Orchestrierung von Befehlen auf dem Host bis hin zu agentengesteuerten, mehrstufigen Operationen. Wenn diese Rahmenbedingungen weiter reifen, werden sie im Laufe der Zeit voraussichtlich weniger menschliche Eingriffe benötigen.

Recorded Future Malware Intelligence hilft Organisationen, Malware zu verstehen und davor zu schützen.

Um zu sehen, wie Recorded Future Ihrem Team helfen kann, Malware auf der AI Reifeskala zu verfolgen, sehen Sie sich dieses dreiminütige Video zur Untersuchung von LAMEHUG-Malware (AIM3) an.

https://play.goconsensus.com/b9a7ffc6a

Verteidigung

Lesen Sie mehr in der Reihe „ AI Hype vs. Realität“: