AI 연구 ·
눈앞에 숨겨진 AI 안전의 함정
일상적인 안티봇 스크립트에 AI 시스템이 검사를 거부하도록 설계된 숨겨진 메시지가 포함되어 있었습니다. 이 동일한 트릭은 방어자를 보호하거나 공격자가 자신의 행위를 숨기는 데 악용될 수 있습니다.
2 개의 글 · 업데이트
AI 연구 ·
일상적인 안티봇 스크립트에 AI 시스템이 검사를 거부하도록 설계된 숨겨진 메시지가 포함되어 있었습니다. 이 동일한 트릭은 방어자를 보호하거나 공격자가 자신의 행위를 숨기는 데 악용될 수 있습니다.
AI 도구 ·
당신의 AI 코딩 도구는 토큰을 소모하고 있지만 여전히 당신의 코드베이스를 이해하지 못합니다. 새로운 '메모리 레이어' 도구는 AI에 프로젝트의 영구적인 지도를 제공하여 이 문제를 해결할 것을 약속합니다.