Не завышайте ожидания от Grok 4.7

Amazon только что захлопнул дверь перед ИИ-агентом Meta, Muse, активно блокируя ему возможность совершать покупки на Amazon.com. В качестве официальных причин были названы отсутствие разрешения, неспособность идентифицировать себя и опасения по поводу безопасности того, как Muse обрабатывает учетные данные пользователя.

Это первый крупный выстрел в войнах агентских платформ. Мы два года были одержимы вопросом, достаточно ли умны агенты, чтобы ориентироваться в интернете, полностью игнорируя, позволит ли интернет им вообще войти. У Amazon нет никаких стимулов позволять Meta владеть отношениями с клиентами и считывать их данные о конверсии.

Если вы создаете агентов для конечных пользователей, ваша самая большая экзистенциальная угроза — это не контекстное окно, а блокировка IP-адреса крупнейшими мировыми витринами. Перестаньте предполагать, что интернет останется открытой игровой площадкой для ваших автоматизированных инструментов.

Xiaomi только что выпустила MiMo-V2.6-Pro, омнимодальную модель с открытыми весами, которая сразу же заняла первое место в Индексе искусственного анализа интеллекта для моделей с открытыми весами.

Это не от Meta, Mistral или хорошо финансируемой лаборатории из Сан-Франциско. Это от аппаратного гиганта, наиболее известного бюджетными смартфонами и электросамокатами.

Граница ИИ децентрализуется быстрее, чем хотят признать действующие игроки. Когда аппаратная компания может выпустить передовую открытую модель в качестве побочного проекта, ров для компаний, занимающихся исключительно базовыми моделями, официально испаряется.

Фули Луо, бывший инженер DeepSeek, ныне возглавляющий усилия в Xiaomi, начал публиковать финальные прогоны обучения Reinforcement Learning компании в прямом эфире. Уровень прозрачности их внутренних метрик совершенно ненормален для модели такого масштаба.

В то время как OpenAI и Anthropic относятся к своим данным RLHF как к кодам запуска ядерных ракет, Xiaomi относится к ним как к репозиторию с открытым исходным кодом.

Это не просто альтруизм; это тактика найма. Публикуя свои разработки, Xiaomi сигнализирует ведущим исследователям, что они не будут заперты в «черном ящике». Для широкого сообщества это мастер-класс по тому, как на самом деле работает современный омнимодальный RL.

Google представила Empirical Research Assistance (ERA) — систему на базе Gemini, предназначенную для автоматизации решения научных проблем. Если проблему можно свести к «оцениваемой задаче», ERA будет непрерывно мутировать перспективные экспериментальные ноутбуки, пока не найдет решение.

Это огромный скачок от ИИ как чат-интерфейса к ИИ как движку для открытия методом грубой силы. Он превращает научный метод в задачу оптимизации, ограниченную вычислительными ресурсами.

Для корпоративных отделов R&D это четкий сигнал к реструктуризации. Узким местом больше не является проведение экспериментов; узким местом является достаточно точное определение метрик оценки, чтобы ERA не оптимизировала что-то не то.

Участники конкурса Kaggle по обнаружению инверсионных следов Google получили приз не за создание лучшей модели зрения, а за выявление и использование ошибки в полпикселя в метках набора данных.

Они идеально оптимизировали метрику, полностью игнорируя реальную физику проблемы. Это закон Гудхарта в действии: когда мера становится целью, она перестает быть хорошей мерой.

Если вы обучаете модели на статических наборах данных, ваш лучший контрольный пункт может быть тем, который запомнил ошибки вашего конвейера данных. Всегда смотрите на выходные данные, а не только на кривую потерь.

Команда Джона Платта успешно использовала ИИ для решения контрфактической проблемы моделирования инверсионных следов самолетов. Точно отобразив эффекты удержания тепла и отраженного солнечного света, они разгадали переменную, которая составляет примерно 1% антропогенного глобального потепления.

Климатическое моделирование всегда сталкивалось с трудностями при работе с динамическими, переходными явлениями, такими как инверсионные следы. Традиционные физические движки слишком медленны, но ИИ может аппроксимировать контрфакты в масштабе.

Именно здесь ИИ проявляет себя в физическом мире: не заменяя человеческое суждение, а распутывая хаотичные системы с большим количеством переменных, которые ранее было невозможно точно измерить.

Натан Ламберт анонсировал новую статью под названием «Никогда не сдавайся», в которой подробно описывается метод выделения больше вычислительных ресурсов для более сложных задач в обучении с подкреплением. Техника включает более интенсивную выборку с высокой вероятностью, когда группы GRPO производят неверные завершения.

Вместо того чтобы обрабатывать все промпты одинаково во время RL, этот подход динамически направляет вычисления на крайние случаи, с которыми модель действительно испытывает трудности.

Это высокоэффективный способ добиться улучшений в более сложных задачах RL без слепого увеличения общего количества параметров. Если вы донастраиваете модели для сложного рассуждения, динамическое распределение вычислений во время обучения — это новый стандарт.

Деванш недавно объяснил, почему ИИ-компании вкладывают триллионы в LLM и как их различные условия победы формируют их стратегии. OpenAI, Anthropic и Google не просто создают разные модели; они движутся к совершенно разным видениям взаимодействия с ИИ.

OpenAI хочет стать потребительской операционной системой. Google хочет защитить свою поисковую монополию и корпоративное облако. Anthropic нацелена на высокодоверительный, критически важный для безопасности корпоративный уровень.

Если вы строите свои продукты на этих моделях, вам необходимо согласовать свой продукт с конечным условием победы вашего поставщика. Если вы создаете потребительскую оболочку на Anthropic, не удивляйтесь, когда их дорожная карта вас проигнорирует.

Скотт Александер попытался опубликовать длинное опровержение критики эффективного альтруизма Венкатешем Рао, но обнаружил, что ему это заблокировано. Ограничения Substack на комментарии, ответы и личные сообщения, связанные с платным доступом, вынудили Александра опубликовать свой ответ на собственном Substack.

Это подчеркивает растущее трение в децентрализованной публикации. Когда платформы отдают приоритет монетизации над интероперабельностью, реальные разговоры распадаются и фрагментируются по закрытым "садам".

Для разработчиков это напоминание о том, что зависимость от сторонних платформ для взаимодействия с сообществом всегда несет платформенные риски. Владейте своей аудиторией и своей инфраструктурой.