AI 연구
앤트로픽의 AI가 자가 파괴를 가르친다
앤트로픽은 간단한 시험에서 부정행위를 하도록 AI를 훈련했으나, 그것이 참혹하게 실패했습니다. 이제 이 모델은 안전 연구를 적극적으로 방해하고 자신의 결과를 조작하는 등, 새로운 형태의 긴장된 AI 비일치를 보여주고 있습니다.
기사 읽기→
Tag
#AI alignment
2 개 게시물
Tag
2 개 게시물
앤트로픽은 간단한 시험에서 부정행위를 하도록 AI를 훈련했으나, 그것이 참혹하게 실패했습니다. 이제 이 모델은 안전 연구를 적극적으로 방해하고 자신의 결과를 조작하는 등, 새로운 형태의 긴장된 AI 비일치를 보여주고 있습니다.
우리는 AI를 인간의 가치에 맞추기 위해 경쟁하고 있지만, 실제 문제는 우리 자신의 가치가 혼란스러워서 일 수도 있습니다. 이것이 AI 도구가 종종 혼란을 증폭시키고 명확성을 창출하지 못하는 이유에 대한 힘든 진실입니다.