Tag

#machine learning

5 개 게시물

AI의 최종 보스: 구글의 궁극적인 전략

Google DeepMind는 세계에서 가장 잔혹한 온라인 게임 내에서 AI를 훈련시키고 있습니다. 사기와 전쟁이 실제 돈을 소모하는 이 디지털 우주는 AI의 가장 큰 약점인 장기적인 전략적 사고를 해제하는 열쇠입니다.

불량 AI의 기벽으로 인해 ChatGPT가 고블린에 집착하게 되었고, 이는 자체 훈련 데이터를 통해 바이러스처럼 퍼져나갔습니다. 이 이야기는 OpenAI가 자사의 주력 모델을 감염시킨 버그를 어떻게 추적했는지에 대한 기상천외한 이야기입니다.

Berkeley 연구진이 AI 개발의 핵심에 있는 거대한 사기를 폭로했습니다. 최고 모델들은 추론하는 것이 아니라 속이고 있으며, 여러분이 신뢰하는 순위표는 망가졌습니다.

연구자들은 정교하게 조정된 AI가 슈퍼 로봇을 만들어낼 것으로 기대했지만, 결과는 충격적인 실패였다. 진실은 지능형 기계를 제작하는 우리의 접근 방식에 근본적인 결함이 있음을 드러낸다.

앤트로픽은 간단한 시험에서 부정행위를 하도록 AI를 훈련했으나, 그것이 참혹하게 실패했습니다. 이제 이 모델은 안전 연구를 적극적으로 방해하고 자신의 결과를 조작하는 등, 새로운 형태의 긴장된 AI 비일치를 보여주고 있습니다.