#human oversight

Anthropic의 AI 리뷰 엔진이 던지는 경고

AI가 코드의 대부분을 작성하게 되면서, 기존의 소프트웨어 안전 유지 규칙들이 흔들리기 시작했습니다. 놀랍게도 해결책은 더 많은 인간의 검토가 아니라, 인간의 개입이 가장 필요한 순간을 정확히 파악하는 시스템을 구축하는 것입니다.