Ересь архитектора: почему соавтор ChatGPT создал его противоположность
Диого Алмейда, соавтор OpenAI и один из создателей RLHF (обучение с подкреплением на основе отзывов людей) — алгоритма постобучения, лежащего в основе большинства передовых ИИ, — теперь критикует сами LLM, в создании которых он участвовал. Его команда обучила первые модели, «превосходящие человека в следовании инструкциям», заложив основу для чат-ориентированного ИИ, такого как ChatGPT.
Алмейда утверждает, что модели, оптимизированные под человеческие предпочтения, хотя и хороши для общения, по своей сути непригодны для надежной автоматизации. Он выделяет критические недостатки: самоуверенность, «пропуск режимов» (mode dropping) и повсеместную нехватку надежности. LLM извлекают интеллект через «узкую соломинку авторегрессии», принуждая к последовательной генерации, которая требует участия человека, что препятствует истинной автономности.
Его ответ — Jev, первая модель System One от TypeSafe AI. Jev разработана для прямого устранения этих ограничений и создана для «продуктивной работы, а не для божественных откровений», отдавая приоритет надежной, машинной автоматизации, а не человекоподобному общению. Она выдает решения с вероятностями и показателями уверенности, стремясь быть надежной, быстрой, самосогласованной и типобезопасной, в отличие от склонных к галлюцинациям LLM.
Знакомьтесь, Jev: ИИ, который мыслит как код, а не как поэт
Знакомьтесь, Jev — ответ TypeSafe AI на ограничения LLM: «модель System One», созданная для машин. Она отказывается от последовательной авторегрессионной генерации, свойственной LLM (которая хороша для чатов, но «совершенно бесполезна для компьютеров»), в пользу параллельных вычислений. Этот архитектурный сдвиг обеспечивает «почти мгновенные» ответы, делая ИИ в реальном времени наконец-то практичным за счет гораздо более эффективного извлечения интеллекта.
Результат работы Jev — это не разговорная проза. Вместо этого она возвращает структурированные решения с явными вероятностями и оценками уверенности. Это делает ее «типобезопасной» и по-настоящему неспособной к галлюцинациям, функционируя скорее как надежный, быстрый и самосогласованный код. Этот машинный формат открывает возможности автоматизации, ранее невозможные с непредсказуемыми LLM.
Метод обучения Jev, Reinforcement Learning for Calibrated Decisions (RLCD), представляет собой фундаментальный отход от RLHF. В то время как RLHF оптимизирует LLM под человеческие предпочтения, часто приводя к самоуверенности и ненадежности, RLCD отдает приоритет точности и честной оценке уверенности. Такая конструкция гарантирует, что Jev выдает надежные, проверяемые решения, созданные для автоматизации, где надежность важнее приятного общения.
Невероятная скорость: реальные демонстрации и шокирующие затраты
Самые поразительные заявления о Jev касаются не ее «ума», а чистой эффективности. TypeSafe AI утверждает, что их модели System One работают до 200 раз быстрее и в 400 раз дешевле, чем традиционные LLM. В частности, входные токены стоят всего 42 доллара за миллиард, а выходные токены предоставляются бесплатно, что делает их «слишком дешевыми, чтобы учитывать». Это серьезное снижение затрат.
Разработчики сразу же подвергли Jev испытанию, создав вирусные демонстрации всего за несколько часов и за копейки. Примеры включают Jev, автономно управляющую агентами в Minecraft, навигацию в симуляторе беспилотного автомобиля Tesla и даже освоение Subway Surfers в реальном времени. Это не просто фокусы; они демонстрируют способность Jev мгновенно реагировать на динамические среды.
Ключевое преимущество для создателей заключается в способности Jev внедрять интеллектуальное, реактивное поведение в симуляции и приложения без необходимости специализированного обучения моделей. Такой подход с параллельными вычислениями позволяет разработчикам создавать прототипы сложных систем на базе ИИ с беспрецедентной скоростью и доступностью. Более подробную техническую информацию об этом подходе можно найти на сайте TypeSafe AI: Home.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Новый стек ИИ: где Jev заменяет ваши операторы if
Jev не предназначен для замены ChatGPT; это дополнительный инструмент для совершенно другой задачи. Большие языковые модели отлично справляются со сложными, открытыми рассуждениями — это «мозг» ИИ-агента, если хотите. Jev же берет на себя управление тысячами быстрых, структурированных решений внутри рабочего процесса агента, где мгновенный отклик и неизменная надежность имеют первостепенное значение.
Для разработчиков Jev действует как высокоинтеллектуальный вызов функции пограничного интеллекта. Считайте это «умным оператором if», который наконец делает надежную автоматизацию на базе ИИ практичной. В предыдущих разделах упоминалось, что он до 200 раз быстрее и до 400 раз дешевле, при стоимости входных токенов $42 за миллиард. Это не просто впечатляющие цифры; они означают, что разработчики могут создавать ИИ-системы, которые реагируют в режиме реального времени, не разоряясь при этом.
Это не очередной разговорный ИИ. Jev представляет собой фундаментальный сдвиг в сторону машинно-ориентированного интеллекта. Это новый уровень ИИ, разработанный не для общения с людьми, а для мира, который все больше наполняется автоматизированными системами, роботами и интеллектуальными агентами. Он позволяет этим системам принимать мгновенные и надежные решения, выводя нас за рамки простых процессов с участием человека к по-настоящему автономным операциям.
Часто задаваемые вопросы
Что такое Jev AI?
Jev — это новая «модель System One» от TypeSafe AI, предназначенная для чрезвычайно быстрого и дешевого структурированного принятия решений внутри программного обеспечения. Это не разговорный чат-бот, подобный ChatGPT.
Чем Jev отличается от ChatGPT?
Jev выдает структурированные решения с вероятностями, а не текст в свободной форме. Это делает его математически неспособным к галлюцинациям, а также значительно более быстрым (до 200 раз) и дешевым (до 400 раз) для задач автоматизации.
Кто создал Jev AI?
Jev был создан компанией TypeSafe AI, соучредителем которой является Diogo Almeida, ключевой исследователь OpenAI и соавтор RLHF — метода обучения, лежащего в основе ChatGPT.
Каковы основные варианты использования Jev?
Jev превосходно справляется с задачами в реальном времени, требующими быстрого и надежного выбора, такими как управление игровыми персонажами, навигация дронов в симуляциях, маршрутизация данных или работа любой автоматизированной системы, которой необходимо быстро принимать решения.