overview
Center for AI Safety (CAIS)란 무엇인가요?
Center for AI Safety (CAIS)는 2022년 Dan Hendrycks와 Oliver Zhang이 설립한 AI 안전에 중점을 둔 비영리 단체로, 정책 입안자, 연구원 및 업계 리더가 AI와 관련된 사회적 규모의 위험을 줄일 수 있도록 지원합니다. 이는 안전 연구를 발전시키고, 안전 연구 커뮤니티를 구축하며, 안전 표준을 옹호함으로써 달성됩니다. CAIS의 주요 임무는 AI 도구 자체로 작동하는 것이 아니라 인공지능이 제기하는 중대한 사회적 규모의 위험을 완화하는 것입니다. 이 조직은 기술적 과제를 구체화하기 위한 기초 벤치마크 및 방법 개발, 기만적이고 비윤리적인 AI 행동 연구, AI 신뢰성 및 보안 개선을 포함하여 AI 안전 문제를 식별하고 해결하기 위한 기술 및 개념 연구를 수행합니다. 또한 CAIS는 자금 지원, Compute Cluster와 같은 연구 인프라, 교육 자료 및 펠로우십을 제공하여 AI 안전 연구 분야를 확장합니다. 또한 업계 리더 및 정책 입안자에게 AI 안전 연구를 실제 관행으로 전환하도록 조언하고, AI 위험에 대한 대중의 인식을 높이며, 정책 수립에 정보를 제공합니다.