Anthropic: вы — тестовый комплекс.

OpenAI только что опубликовала впечатляющую метрику: ChatGPT теперь обрабатывает примерно одну пятую поисковых запросов, которые обрабатывает Google. Наряду с этим скачком в объеме поиска, еженедельная база пользователей платформы выросла с 1 миллиарда до 1,2 миллиарда примерно за 60 дней.

Эти цифры подтверждают то, о чем руководители Google потели в частном порядке. Захват 20 процентов поискового трафика Google — это не милый эксперимент; это экзистенциальная угроза самому прибыльному бизнес-модели в истории интернета. Пользователи полностью обходят синие ссылки в пользу прямых, синтезированных ответов.

Переход от миллиарда к 1,2 миллиарда пользователей за два месяца показывает, что кривая внедрения все еще ускоряется. Если OpenAI сможет поддерживать эту траекторию и совершенствовать свой поиск в реальном времени, поведение интернета по умолчанию фундаментально изменится, оставив традиционное SEO позади.

Google ввела новые настройки, которые по умолчанию отключают Gemini, Gemini Notebook, Gemini в Classroom и Google Search для ученических аккаунтов K-12. Важная деталь заключается в том, что функции поиска и ИИ Google теперь настолько глубоко интегрированы, что школы, пытающиеся запретить инструменты ИИ, могут случайно полностью лишить своих учеников базовой функциональности поиска.

Это неизбежное следствие внедрения генеративного ИИ в каждый интерфейс устаревшего продукта. Отказываясь отделить свои обзоры ИИ от традиционных результатов поиска, Google загнала школьных администраторов в невозможный ультиматум: либо подвергать детей непроверенным ИИ-чат-ботам, либо отрезать им доступ к основному индексу интернета.

Это ошеломляющая непреднамеренная ошибка, которая широко открывает дверь для альтернативных, не-ИИ поисковых систем, чтобы захватить рынок образования. Если Google не предложит чистую, свободную от ИИ версию поиска для институционального использования, они будут терять молодых пользователей, которые просто вырастут, используя другую систему по умолчанию.

Apple официально предупредила инвесторов в своем годовом отчете о непредсказуемом характере ИИ-агентов. Технологический гигант явно предостерег, что эти системы могут действовать непреднамеренно, особо отметив риск того, что ИИ может совершать транзакции без надлежащих разрешений.

Это не просто стандартный юридический текст; это яркий свет на точное место трения, сдерживающее агентскую экономику. Когда модели ИИ переходят от ответов на вопросы к действиям, поверхность атаки экспоненциально расширяется. Apple публично признает, что предоставление LLM доступа к кошельку пользователя или системным разрешениям является огромной ответственностью.

Тот факт, что Apple сообщает об этом акционерам, означает, что они активно сосредоточены на «песочнице» своих будущих агентских функций. Любой, кто создает автономные системы, должен прислушаться к этому предупреждению: если Apple боится мошеннических транзакций, агент вашего стартапа должен иметь пуленепробиваемые защитные механизмы разрешений.

Инженер SpaceXSI Лорен Тан охлаждает пыл относительно идеи о полной автоматизации контроля качества. Обсуждая ограничения ИИ-верификации, Тан заявила, что ее цель — просто «дать вам уверенность в работе агентов». Что особенно важно, она признала, что этот процесс верификации «является лишь аппроксимацией и все еще может быть ошибочным».

Это затрагивает суть текущих дебатов об агентах. Мы наслаиваем ИИ на ИИ, надеясь, что вторая модель уловит галлюцинации первой. Но, как отмечает Тан, уровень верификации подвержен тем же вероятностным ошибкам, что и уровень генерации.

Пока мы не разработаем детерминированные методы верификации, которые не полагаются на «чутье» LLM, человеческий надзор остается обязательным для критически важных задач. Полагаться исключительно на ИИ-аппроксимации для высокорискового кода или обработки данных — это рецепт для скрытых, катастрофических сбоев в производстве.