Anthropic: '당신이 테스트 스위트입니다'

OpenAI가 엄청난 수치를 발표했습니다. ChatGPT가 이제 구글이 처리하는 검색 유형 쿼리의 약 5분의 1을 처리한다는 것입니다. 이러한 검색량의 급증과 함께, 플랫폼의 주간 사용자 수는 약 60일 만에 10억 명에서 12억 명으로 폭발적으로 증가했습니다.

이 수치들은 구글 경영진이 은밀히 걱정해왔던 것을 확인시켜 줍니다. 구글 검색량의 20%를 차지하는 것은 귀여운 실험이 아닙니다. 이는 인터넷 역사상 가장 수익성이 높은 비즈니스 모델에 대한 실존적 위협입니다. 사용자들은 직접적이고 요약된 답변을 선호하며 파란색 링크를 완전히 우회하고 있습니다.

두 달 만에 사용자 수가 10억 명에서 12억 명으로 증가한 것은 채택 곡선이 여전히 가속화되고 있음을 보여줍니다. OpenAI가 이러한 궤도를 유지하고 실시간 웹 검색 기능을 개선할 수 있다면, 인터넷의 기본 행동은 근본적으로 변화하여 기존 SEO는 뒤처지게 될 것입니다.

구글이 K-12 학생 계정의 Gemini, Gemini Notebook, Gemini in Classroom, 그리고 Google Search를 기본적으로 비활성화하는 새로운 제어 기능을 도입했습니다. 중요한 점은 구글의 검색 및 AI 기능이 너무 깊이 통합되어 있어서, AI 도구를 금지하려는 학교들이 의도치 않게 학생들의 기본적인 검색 기능을 완전히 상실할 수도 있다는 것입니다.

이는 생성형 AI를 모든 기존 제품 인터페이스에 밀어 넣은 필연적인 결과입니다. 구글은 AI 개요를 전통적인 검색 결과와 분리하기를 거부함으로써, 학교 관리자들을 불가능한 선택지로 몰아넣었습니다. 검증되지 않은 AI 챗봇에 아이들을 노출시키거나, 인터넷의 주요 색인에 대한 접근을 차단하는 것입니다.

이는 대체 AI 없는 검색 엔진이 교육 시장을 장악할 수 있도록 문을 활짝 열어주는 엄청난 자충수입니다. 구글이 기관용으로 깨끗하고 AI 없는 검색 버전을 제공하지 않는다면, 다른 기본 검색 엔진을 사용하며 자라날 어린 사용자들을 대거 잃게 될 것입니다.

애플은 연례 보고서에서 투자자들에게 AI 에이전트의 예측 불가능한 특성에 대해 공식적으로 경고했습니다. 이 거대 기술 기업은 이러한 시스템이 의도치 않은 방식으로 작동할 수 있다고 명시적으로 경고했으며, 특히 적절한 권한 없이 AI가 거래를 완료할 위험을 지적했습니다.

이것은 단순히 상투적인 법적 문구가 아닙니다. 이는 에이전트 경제를 가로막고 있는 정확한 마찰 지점에 대한 명백한 조명입니다. AI 모델이 질문에 답하는 것에서 행동을 취하는 것으로 전환될 때, 공격 표면은 기하급수적으로 확장됩니다. 애플은 LLM에 사용자의 지갑이나 시스템 권한에 대한 접근을 허용하는 것이 막대한 책임임을 공개적으로 인정하고 있습니다.

애플이 주주들에게 이 사실을 경고하고 있다는 것은, 그들이 다가오는 에이전트 기능의 샌드박싱에 집중하고 있다는 의미입니다. 자율적인 행동 주체를 구축하는 모든 사람들은 이 경고에 유의해야 합니다. 애플이 무단 거래를 두려워한다면, 여러분의 스타트업 에이전트는 방탄 권한 보호 장치를 갖춰야 할 것입니다.

SpaceXSI 엔지니어 Lauren Tan은 품질 보증을 완전히 자동화할 수 있다는 생각에 찬물을 끼얹고 있습니다. AI 검증의 한계에 대해 논의하면서 Tan은 그 목적이 단순히 "에이전트 작업에 대한 자신감을 주는 것"이라고 말했습니다. 결정적으로, 그녀는 이 검증 과정이 "단지 근사치이며 여전히 틀릴 수 있다"고 인정했습니다.

이는 현재 에이전트 논쟁의 핵심을 꿰뚫습니다. 우리는 AI 위에 AI를 겹쳐 쌓아 두 번째 모델이 첫 번째 모델의 환각을 잡아내기를 바라고 있습니다. 하지만 Tan이 지적하듯이, 검증 계층은 생성 계층과 똑같은 확률적 결함에 노출되어 있습니다.

LLM의 '느낌'에 의존하지 않는 결정론적 검증 방법을 개발하기 전까지는, 중요한 작업에 대한 인간의 감독은 필수불가결합니다. 고위험 코드나 데이터 처리에 순전히 AI 근사치에 의존하는 것은 프로덕션에서 조용하고 치명적인 실패를 초래할 수 있습니다.