Skip to content

prompt injection

7 개의 글 · 업데이트

  1. AI 연구 ·

    AI를 눈멀게 할 수 있는 숨겨진 텍스트

    눈에 보이지 않는 몇 개의 문자가 평범한 스크립트를 AI에게는 함정으로 바꿀 수 있습니다. 이러한 취약점은 방어자가 자동화된 공격자를 막는 데 도움이 될 수도 있지만, 반대로 보안 팀이 분석을 수행할 때 방해가 될 수도 있습니다.

  2. AI 연구 ·

    눈앞에 숨겨진 AI 안전의 함정

    일상적인 안티봇 스크립트에 AI 시스템이 검사를 거부하도록 설계된 숨겨진 메시지가 포함되어 있었습니다. 이 동일한 트릭은 방어자를 보호하거나 공격자가 자신의 행위를 숨기는 데 악용될 수 있습니다.

  3. AI 에이전트 ·

    멀웨어 프롬프트를 숨기는 AI 스킬

    겉보기엔 깔끔한 스킬이 AI 에이전트를 조용히 유도하여 데이터를 유출하거나 자체 메모리를 재작성하게 만들 수 있습니다. 가장 불안한 점은 페이로드가 실행 가능한 코드가 아닌 평범한 영어 문장일 수 있다는 것입니다.

  4. 기업용 AI ·

    Prompt Injection은 첫 번째 에이전트 위협일 뿐입니다

    겉보기에는 무해한 이메일이나 웹페이지가 조용히 에이전트의 다음 명령이 될 수 있습니다. 진정한 위험은 해당 에이전트가 회사 시스템 전반에 걸쳐 행동할 수 있을 때 발생합니다.

  5. AI 연구 ·

    거인을 거의 이길 뻔한 200M AI 가드레일

    새로운 유형의 AI 의사결정 모델은 더 빠르고 저렴한 안전 검사를 약속하지만, 실제 환경의 가드레일은 예상치 못한 변수가 많습니다. Red Hat의 테스트는 단순히 모델의 홍보 문구만 보고 선택할 때 발생하는 숨겨진 비용을 드러냅니다.

  6. 기업용 AI ·

    역효과를 낳은 보이지 않는 공격

    스팸 발송자들이 모든 필터를 우회하기 위해 보이지 않는 Unicode 문자를 무기화한 대규모 공격을 감행했습니다. 하지만 이 영리한 속임수에는 치명적인 결함이 숨겨져 있었고, 결국 이 공격은 처참한 실패로 끝났습니다.

  7. AI 에이전트 ·

    당신의 AI 에이전트는 시한폭탄입니다

    OpenClaw와 같은 인기 AI 에이전트를 공개 서버에 호스팅하는 것은 당신의 데이터를 조용하고 치명적인 해킹에 노출시킵니다. 치명적인 취약점과 즉시 당신을 보호하는 더 안전하고 강력한 설정을 알아보세요.