Skip to content

prompt injection

7 artículos · Actualizado

  1. Investigación en IA ·

    El texto oculto que puede cegar a la IA

    Unos pocos caracteres invisibles pueden convertir un script ordinario en una trampa para la IA que lo lee. La misma debilidad podría ayudar a los defensores a detener a atacantes automatizados, o dejar a los equipos de seguridad humanos solos en el análisis.

  2. Investigación en IA ·

    La trampa de seguridad de la IA oculta a plena vista

    Un script anti-bot rutinario contenía un mensaje oculto diseñado para hacer que los sistemas de IA se negaran a inspeccionarlo. Ese mismo truco puede proteger a los defensores o ayudar a los atacantes a ocultar lo que están haciendo.

  3. Agentes de IA ·

    La habilidad de IA que oculta un prompt de malware

    Una habilidad de aspecto limpio puede dirigir silenciosamente a un agente de IA para que filtre datos o reescriba su propia memoria. La parte más inquietante: el payload puede ser inglés ordinario, no código ejecutable.

  4. Investigación en IA ·

    El guardrail de IA de 200M que casi vence a un gigante

    Una nueva clase de modelos de decisión de IA promete comprobaciones de seguridad más rápidas y económicas, pero los guardrails del mundo real tienen más de una forma de sorprenderte. La prueba de Red Hat expone los costos ocultos de elegir un modelo basándose únicamente en su discurso de venta.

  5. IA Empresarial ·

    El ataque invisible que salió mal

    Los spammers convirtieron en arma caracteres Unicode invisibles en un nuevo ataque masivo diseñado para eludir todos los filtros. Pero el ingenioso truco ocultaba un defecto fatal que lo convirtió en un fracaso espectacular.

  6. Agentes de IA ·

    Tu Agente de IA Es una Bomba de Tiempo

    Alojar agentes de IA populares como OpenClaw en un servidor público expone tus datos a ataques silenciosos y devastadores. Descubre la vulnerabilidad crítica y una configuración más segura y potente que te protege al instante.