KI fälscht jetzt Cyberangriffe

KI fälscht jetzt kritische Schwachstellen, und die Auswirkungen sind erschreckend. Die digitale Landschaft sieht sich einer neuen, heimtückischen Bedrohung gegenüber: einem KI-generierten Geist in der Maschine, der darauf ausgelegt ist, in die Irre zu führen und zu stören.

Das Sicherheitsteam von JFrog hat kürzlich einen beunruhigenden Trend aufgedeckt: 54 erfundene SQLite-Schwachstellen, die von einem einzigen neuen GitHub-Konto stammten. Eine Prüfung von 55 Sicherheitshinweisen aus dieser Quelle ergab nur einen legitimen Fehler; die anderen waren reine Fiktion. Interessanterweise kennzeichnete eine GPTZero-Analyse diese Hinweise eindeutig als KI-generierte Inhalte.

Untersuchen wir die Anatomie eines solchen Phantoms, CVE-2026-51302. Der Sicherheitshinweis behauptete eine Heap-Use-after-Free-Schwachstelle in der Funktion exprComputeOperands innerhalb von SQLite 3.41. Doch die Untersuchung von JFrog bestätigte, dass exprComputeOperands in dieser Version gar nicht existierte, sondern erst Mitte 2025 auftauchte. Dies war kein Einzelfall; in sechs Sicherheitshinweisen fand JFrog konsistente Muster von zitierten nicht existierenden Funktionen, Zeilennummern, die Dateigrenzen überschritten, und Patches, die nie stattgefunden haben.

Erstaunlicherweise erhielt diese offensichtliche Fälschung dennoch einen anfänglichen 9,8 'Critical'-Schweregrad von Red Hat. Diese hochriskante Bewertung löste in Unternehmen weltweit echte Alarme aus und demonstrierte, wie mühelos ein raffinierter, KI-generierter Geist an den ersten Kontrollinstanzen vorbeischlüpfen kann. Der Vorfall unterstreicht eine gefährliche neue Grenze, an der KI Informationen als Waffe einsetzen kann, um glaubwürdig aussehende Bedrohungen zu schaffen, die sofortige, aber letztlich verschwendete Aufmerksamkeit erfordern.

Die Achillesferse des Systems liegt nun offen und ist weit für Ausnutzungen geöffnet. Seit Februar 2024 hat die NIST NVD (National Vulnerability Database) die tiefgehende Analyse von Einreichungen eingestellt, da sie von einem enormen Rückstau überfordert ist. Dieser kritische Ausfall bedeutet, dass bis Ende 2025 über 27.000 unverarbeitete Schwachstellen erwartet werden – ein dramatischer Anstieg von 13.000 im Februar 2024 –, wobei das eigene Anreicherungsprogramm der CISA ebenfalls in seinen Warteschlangen ertrinkt.

Verschärfend kommt hinzu, dass der CVE-Einreichungsprozess selbst praktisch keine Kontrollinstanz bietet. Er erfordert weder eine Identitätsprüfung noch einen Proof-of-Concept, um eine Schwachstelle zu akzeptieren. Diese Politik der offenen Tür bietet einen reibungslosen Weg für jeden – oder alles –, um Behauptungen direkt in die globale Sicherheitsinfrastruktur einzuspeisen, ohne dass Fragen gestellt werden.

Dies schafft einen perfekten Sturm, eine katastrophale Ausrichtung systemischer Schwachstellen. Ein massiver Analyserückstau in der offiziellen Datenbank, gepaart mit einem Einreichungsportal, das keinerlei Prüfung verlangt, bedeutet, dass mühelos erstellter, KI-generierter "Slop" nun problemlos in die Datenbanken gelangt, auf die sich Sicherheitstools weltweit verlassen. Automatisierte Abwehrmechanismen haben nun die Aufgabe, synthetisches Rauschen zu durchsuchen, möglicherweise nach nicht existierenden Funktionen zu suchen oder zu versuchen, Code zu patchen, der nie defekt war.

Unternehmen, die sich bei der automatisierten Schwachstellen-Triage auf KI-Sicherheitsagenten verlassen, stehen nun vor einer neuen, heimtückischen Bedrohung. Diese hochentwickelten Tools, die darauf ausgelegt sind, Schwachstellen proaktiv zu identifizieren und zu beheben, werden von genau der KI getäuscht, die gefälschte CVEs generiert. Anstatt Systeme zu schützen, könnten Ihre Agenten gegen sich selbst instrumentalisiert werden und Ressourcen für Phantom-Bedrohungen verschwenden.

Stellen Sie sich einen autonomen Agenten vor, der versucht, CVE-2026-51302 zu patchen, eine erfundene SQLite-Schwachstelle, die ursprünglich von Red Hat als kritisch eingestuft wurde. Er würde Rechenzyklen damit verschwenden, die nicht existierende Funktion exprComputeOperands in SQLite 3.41 zu lokalisieren oder Code zu reparieren, der nie fehlerhaft war. Dies ist kein rein theoretisches Problem; das Audit von JFrog enthüllte 54 erfundene Sicherheitsmeldungen von 55 aus einem einzigen GitHub-Konto, die alle darauf ausgelegt waren, Agenten auf diese falschen Fährten zu locken.

Die Asymmetrie dieses Problems ist erschütternd. Das Erstellen einer überzeugenden, KI-generierten gefälschten CVE ist praktisch kostenlos und kostet nur wenige Cent an Rechenleistung. Die Überprüfung und Widerlegung erfordert jedoch erheblichen menschlichen Expertenaufwand – mühsame Code-Reviews, Querverweise und unabhängige Analysen. Dies schafft eine untragbare Belastung für Sicherheitsteams, die in einer Flut von KI-generiertem Rauschen ertrinken. Für tiefere Einblicke in dieses Phänomen lesen Sie SQLite Critical CVEs or LLM Slop? - JFrog Security Research.

Das Zeitalter des impliziten Vertrauens in öffentliche Schwachstellen-Feeds ist vorbei. Sicherheitsteams müssen nun nach einem neuen Grundprinzip arbeiten: niemals vertrauen, immer verifizieren. Bevor Sie auf eine kritische CVE reagieren, gleichen Sie diese sofort mit der offiziellen Sicherheitsseite des Anbieters ab. Dieser entscheidende Schritt trennt legitime Bedrohungen von KI-generierten Phantomen.

Dies ist kein bloßer Vorschlag, sondern ein Gebot, das aus systemischen Fehlern resultiert. Der Rückstau bei der NIST NVD, der bis Ende 2025 auf über 27.000 unbearbeitete Schwachstellen anwuchs, schuf ein Umfeld, das für Täuschungen anfällig ist. Ein Einreichungssystem ohne Identitätsprüfung oder Proof-of-Concept ermöglicht es, dass erfundene Meldungen einfach durchschlüpfen.

Der Branchenkonsens bewegt sich nun drastisch weg von vollautomatisierten AI agents für die Schwachstellen-Triage. Die Zukunft erfordert hybride Modelle, bei denen menschliche Experten die von der KI aufgedeckten Bedrohungen validieren und als entscheidender Filter gegen ausgeklügelte digitale Täuschungen fungieren, die nicht existierendem Code einen kritischen Wert von 9,8 zuweisen können.

KI-generierter 'Müll' wird das Signal-Rausch-Verhältnis in öffentlichen Feeds zunehmend verschlechtern und Organisationen dazu zwingen, ihre Sicherheitsstrategie anzupassen. Gehen Sie davon aus, dass jeder neue Bericht potenziell gefälscht ist, bis das Gegenteil bewiesen ist, und priorisieren Sie vom Anbieter bestätigte Bedrohungen über alles andere. Ihre Sicherheitsabläufe müssen von Natur aus skeptisch werden und in menschliche Expertise investieren, die echte Bedrohungen von KI-fabrizierten Geistern unterscheiden kann. Die Kosten für die Überprüfung sind mittlerweile verschwindend gering im Vergleich zu den operativen Kosten, wenn man sich täuschen lässt.

Was sind KI-generierte gefälschte CVEs?

Es handelt sich um erfundene Schwachstellenberichte, die von KI erstellt wurden, um echte Sicherheitslücken nachzuahmen. Diese Fälschungen enthalten oft plausibel klingende, aber völlig falsche technische Details, die darauf ausgelegt sind, in offizielle Datenbanken aufgenommen zu werden.

Wie konnte eine gefälschte CVE einen kritischen Wert von 9,8 erhalten?

Die gefälschte Sicherheitsmeldung wurde beim offiziellen CVE-Programm eingereicht. Aufgrund eines massiven Rückstaus führt die NVD des NIST weniger tiefgehende Analysen durch, wodurch nicht verifizierte Berichte bearbeitet werden können. Nachgelagerte Anbieter wie Red Hat haben dann basierend auf den fehlerhaften Daten eine erste Bewertung vorgenommen.

Warum sind gefälschte CVEs eine große Sicherheitsbedrohung?

Sie führen automatisierte Sicherheitstools und menschliche Teams in die Irre und verschwenden kritische Ressourcen für nicht existierende Bedrohungen. Dieses 'Der Junge, der Wolf rief'-Szenario untergräbt das Vertrauen und kann dazu führen, dass Teams echte Schwachstellen übersehen.

Wie können Sie Ihr Unternehmen vor gefälschten CVEs schützen?

Überprüfen Sie kritische CVEs immer anhand der offiziellen Sicherheitshinweis-Seite des Herstellers, bevor Sie Maßnahmen ergreifen. Implementieren Sie einen Human-in-the-Loop-Prozess, um Warnmeldungen von automatisierten Systemen zu validieren, und vertrauen Sie einem CVE niemals blind.