Дело о блокировке — это не просто чат-бот
OpenAI приостановила действие учетной записи Феликса Чельберга, известного как PewDiePie, затем восстановила доступ после апелляции, а впоследствии заблокировала его снова. Указанной причиной блокировок стала дистилляция — процесс, который OpenAI запрещает в своих Условиях использования для создания конкурирующих моделей. В апелляции Чельберга якобы говорилось: «Я не занимался дистилляцией, клянусь».
Дистилляция включает в себя обучение меньшей модели с использованием ответов от более крупной и мощной модели. Условия OpenAI ограничивают пользователей в использовании результатов работы их моделей для разработки продуктов, конкурирующих с их сервисами. В частности, раздел 2c Условий использования OpenAI запрещает использовать выходные данные их моделей для обучения других моделей.
Проект Чельберга под названием Ajax представляет собой дообученную (fine-tuned) модель Qwen 3.5 9B, предназначенную для локальной работы. Сообщается, что он стремился убрать цензуру из модели. Для генерации обучающих данных Чельберг намеревался использовать дистилляцию выходных данных модели OpenAI. OpenAI, как сообщается, шифрует логические рассуждения модели, часто называемые токенами "цепочки рассуждений" (chain-of-thought, CoT).
Он якобы нашел исследование, демонстрирующее расшифровку этих рассуждений с помощью собственных API OpenAI. Чельберг заявил, что этот метод «сработал», но OpenAI заблокировала его за дистилляцию. Его аккаунт был разблокирован после апелляции, но дальнейшая активность привела ко второй блокировке. В последнее время OpenAI активно борется с подобными масштабными кампаниями по дистилляции, включая те, что приписываются разработчикам, связанным с Moonshot AI's Kimi.
Ajax переносит ИИ на локальные устройства
Феликс Чельберг, известный как PewDiePie, по сообщениям, разработал локальный ИИ-проект под названием Ajax. Система представляет собой дообученную модель Alibaba Qwen 3.5 9B, предназначенную для работы на персональном компьютере, что снижает зависимость от внешних облачных сервисов.
Запуск модели с 9 миллиардами параметров локально дает пользователям больше контроля и позволяет избежать абонентской платы. Однако такая модель не всегда автоматически соответствует возможностям, скорости или надежности передовых облачных систем. Локальное развертывание сопряжено с компромиссами в вычислительной мощности и наборе сложных функций, которые часто встречаются в облачном ИИ.
Чельберг описал попытки создания «нецензурируемой» модели путем удаления механизмов отказа с использованием методов редактирования представлений. Ослабление этих защитных барьеров может увеличить генерацию вредоносного или предвзятого контента. Подобные модификации не улучшают по своей сути способности модели к рассуждению или общую производительность при выполнении задач.
Игра в кошки-мышки с токенами рассуждений
Видео PewDiePie описывает его предполагаемый метод генерации обучающих данных. Сообщается, что он исследовал методы на основе API для получения полезных ответов модели или трассировок рассуждений из моделей OpenAI, которые он назвал «самым ценным». Этот подход был направлен на получение примеров для дообучения его локального ИИ, Ajax.
Такие лаборатории, как OpenAI, обычно шифруют или скрывают внутренние процессы цепочки рассуждений. Контроль доступа и мониторинг сервисов защищают технические и коммерческие интересы провайдера, особенно в отношении проприетарной архитектуры моделей и данных для обучения. Высококачественные синтетические данные, особенно полученные от продвинутых моделей, могут значительно улучшить производительность меньших моделей.
Условия использования OpenAI запрещают использование выходных данных их моделей для обучения конкурирующих моделей. Аккаунт PewDiePie был якобы заблокирован за «дистилляцию» после того, как он попытался извлечь эти токены рассуждений. Он нашел исследование, в котором подробно описывалось, как расшифровать такие трассировки с помощью собственных API OpenAI, что, по его словам, «сработало».
OpenAI публично рассказала о мерах по пресечению скоординированных кампаний по дистилляции моделей. Хотя активность PewDiePie касалась отдельной учетной записи, более масштабные операции, приписываемые таким фирмам, как Moonshot AI, использовали схожие методы. Недавно OpenAI внедрила серверные патчи для блокировки массовой утечки логических выводов (reasoning leakage). Дополнительную информацию о более широких усилиях см. в статье Disrupting a Coordinated Model-Distillation Campaign - OpenAI.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Кто имеет право учиться на чьих данных?
Дебаты об ограничениях на повторное использование результатов работы моделей подчеркивают этическое напряжение в индустрии ИИ. Критики утверждают, что компании, занимающиеся ИИ, которые обучили фундаментальные модели на огромных массивах данных из открытого интернета, включая материалы, защищенные авторским правом, ведут себя лицемерно, налагая строгие договорные ограничения на то, как пользователи могут использовать результаты работы их проприетарных систем. Компании, напротив, утверждают, что такие условия защищают их значительные инвестиции в разработку моделей и инфраструктуру.
С юридической точки зрения эти вопросы остаются различными. Споры об авторских правах, касающиеся исходных данных для обучения (например, с участием авторов или художников), отличаются от договорных обязательств пользователя перед провайдером API. Аргумент о добросовестном использовании (fair use) в одном контексте не отменяет автоматически явные условия обслуживания провайдера, с которыми пользователи соглашаются при доступе к API.
Проект Ajax от PewDiePie иллюстрирует растущую привлекательность эффективных, локально контролируемых ИИ-моделей, предлагая пользователям большую автономию и сниженную зависимость от облачных сервисов. Однако неоднократные блокировки подчеркивают, как правила доступа и условия обслуживания от доминирующих провайдеров моделей могут ограничивать этот путь. Эта текущая динамика заставляет задуматься о взаимности в противовес установленным правам и правилам разработчиков моделей.
Часто задаваемые вопросы
Почему OpenAI заблокировала PewDiePie?
Сообщается, что OpenAI сослалась на дистилляцию: использование результатов работы ее модели для обучения конкурирующей модели, что запрещено ее условиями.
Что такое Ajax AI от PewDiePie?
Ajax описывается как локальная модель, дообученная (fine-tuned) на базе Alibaba Qwen 3.5 9B, предназначенная для запуска на потребительском оборудовании.
Что означает дистилляция ИИ-моделей?
Дистилляция обучает меньшую модель, используя результаты работы более крупной модели, передавая некоторые из ее возможностей в более компактную систему.
Может ли OpenAI блокировать пользователей за дистилляцию?
Условия использования OpenAI ограничивают применение ее сервисов или результатов их работы для разработки конкурирующих моделей, и компания может обеспечивать соблюдение этих условий путем приостановки доступа.