Skip to content

prompt injection

7 Artikel · Aktualisiert

  1. KI-Forschung ·

    Der verborgene Text, der KI blind machen kann

    Ein paar unsichtbare Zeichen können ein gewöhnliches Skript in eine Falle für die KI verwandeln, die es liest. Dieselbe Schwachstelle könnte Verteidigern helfen, automatisierte Angreifer zu stoppen – oder menschliche Sicherheitsteams bei der Analyse allein lassen.

  2. KI-Forschung ·

    Die KI-Sicherheitsfalle, die sich direkt vor unseren Augen verbirgt

    Ein routinemäßiges Anti-Bot-Skript enthielt eine versteckte Nachricht, die KI-Systeme dazu bringen sollte, die Untersuchung zu verweigern. Derselbe Trick kann Verteidiger schützen – oder Angreifern helfen, ihre Aktivitäten zu verbergen.

  3. KI-Agenten ·

    Die KI-Fähigkeit, die einen Malware-Prompt verbirgt

    Eine sauber aussehende Fähigkeit kann einen KI-Agenten unbemerkt dazu verleiten, Daten preiszugeben oder seinen eigenen Speicher umzuschreiben. Das Beunruhigendste daran: Die Nutzlast kann aus gewöhnlichem Englisch bestehen, nicht aus ausführbarem Code.

  4. Enterprise-KI ·

    Prompt Injection ist nur die erste Bedrohung für Agenten

    Eine harmlos aussehende E-Mail oder Webseite kann im Stillen zum nächsten Befehl für einen Agenten werden. Die wahre Gefahr entsteht, wenn dieser Agent unternehmensweite Systeme beeinflussen kann.

  5. KI-Forschung ·

    Das 200M AI Guardrail, das beinahe einen Giganten geschlagen hätte

    Eine neue Klasse von KI-Entscheidungsmodellen verspricht schnellere und kostengünstigere Sicherheitsprüfungen – doch reale Guardrails halten mehr als eine Überraschung bereit. Der Test von Red Hat deckt die versteckten Kosten auf, wenn man ein Modell allein aufgrund seines Marketing-Pitch auswählt.

  6. Enterprise-KI ·

    Der unsichtbare Angriff, der nach hinten losging

    Spammer haben unsichtbare Unicode-Zeichen in einem massiven neuen Angriff als Waffe eingesetzt, um jeden Filter zu umgehen. Doch der raffinierte Trick enthielt einen fatalen Fehler, der ihn zu einem spektakulären Misserfolg machte.

  7. KI-Agenten ·

    Ihr KI-Agent ist eine tickende Zeitbombe

    Das Hosten beliebter KI-Agenten wie OpenClaw auf einem öffentlichen Server setzt Ihre Daten stillen, verheerenden Hacks aus. Entdecken Sie die kritische Schwachstelle und ein sichereres, leistungsfähigeres Setup, das Sie sofort schützt.