Ставка в 5 миллиардов долларов на новый вид ИИ
Новое предприятие Ильи Суцкевера, Safe Superintelligence Inc. (SSI), знаменует собой радикальный сдвиг в разработке ИИ. В отличие от компаний, работающих над итерациями больших языковых моделей, SSI имеет единственную заявленную цель: создать безопасный суперинтеллект в качестве своего самого первого продукта, а не как инкрементальное обновление. Эта амбициозная цель полностью обходит традиционную разработку LLM, направляясь прямиком к фундаментальному, продвинутому общему интеллекту.
Эта дерзкая цель обретает значительную достоверность благодаря инвестициям в размере 5 миллиардов долларов от NVIDIA. Столь масштабные финансовые обязательства со стороны ведущей компании по производству оборудования для ИИ свидетельствуют о том, что они видят в SSI глубоко убедительные и масштабируемые исследования, что указывает на веру в то, что команда Суцкевера нашла многообещающий путь.
Основной тезис SSI сосредоточен на изучении «малоизученных аспектов функционирования человеческого мозга». Это направление исследований призвано преодолеть ограничения современного ИИ, который в значительной степени зависит от грубых вычислений и огромных наборов данных. SSI ищет механизмы, позволяющие моделям приобретать надежные, обобщаемые абстракции на основе значительно меньшего опыта, что потенциально может изменить темп приобретения интеллекта, а не просто масштабировать существующие методы.
За пределами грубой силы: настоящее обучение
Современные системы ИИ часто демонстрируют невероятную компетентность, но остаются хрупкими, требуя миллионов примеров для понимания концепций, которые люди усваивают интуитивно. Ребенок понимает гравитацию, наблюдая за несколькими падающими предметами; современному ИИ нужно 10 миллионов примеров для обобщения. Safe Superintelligence Inc. (SSI) нацелена на устранение этого несоответствия, стремясь найти механизмы эффективности выборки, чтобы позволить моделям приобретать надежные абстракции на основе значительно меньшего опыта — возможно, всего 100 примеров вместо 10 миллионов.
Исследования SSI, вероятно, изучают новые подходы, такие как изменение способа формирования внутренних представлений моделями, внедрение новых форм памяти или развитие за пределами стандартного предсказания следующего токена. Это фундаментально изменило бы процесс приобретения интеллекта, перейдя от грубого потребления данных к более человеческому пониманию основополагающих принципов.
Еще одним критическим ограничением современного ИИ является его статичность. Большинство крупных моделей «замораживаются» после первоначального обучения; веса их нейронных сетей остаются неизменными после развертывания. Люди, напротив, учатся постоянно; их мозг физически меняется и адаптируется к повседневному опыту, усваивая тонкую организационную динамику или стратегии отладки без явных инструкций.
Илья Суцкевер представляет себе систему SSI, способную к истинному непрерывному обучению. Этот «суперинтеллектуальный подросток» не появится на свет, зная всё, но будет обладать необычайной способностью развиваться и изменять свои собственные нейронные пути через опыт. Вместо того чтобы обучать всё более крупные модели с нуля, SSI стремится разработать единую, развивающуюся систему, которая со временем наращивает свой интеллект, делая полученные уроки неотъемлемой частью самой модели.
ИИ с собственным «шестым чувством»
Традиционный ИИ испытывает трудности с задачами на длинном горизонте, где окончательный сигнал вознаграждения остается далеким, возможно, на годы вперед. Рассмотрим такую цель, как «создать успешную компанию» или «решить проблему изменения климата». Современные модели обучения с подкреплением требуют частой и явной обратной связи для управления своими действиями, что делает такие грандиозные, расплывчатые цели труднодостижимыми. Без немедленной проверки ИИ не хватает необходимого градиента для оптимизации своей сложной многошаговой стратегии.
Safe Superintelligence Inc. (SSI) может решить эту задачу путем разработки ИИ с развитой системой внутренней обратной связи. Вместо того чтобы полагаться исключительно на внешние вознаграждения, такая архитектура позволила бы ИИ непрерывно оценивать свой прогресс в достижении высокоуровневых целей. Система могла бы генерировать собственные промежуточные «интуитивные ощущения» о том, является ли текущая траектория многообещающей или ошибочной, проактивно корректируя свою стратегию.
Люди справляются с подобными сложными задачами, используя внутренние мотиваторы. Любопытство побуждает нас исследовать, разочарование сигнализирует о тупиках, а интуиция направляет к перспективным путям — и все это задолго до того, как станет известен окончательный результат. Система SSI могла бы имитировать эти внутренние сигналы, создавая ИИ, который учится и адаптируется на основе внутренних состояний, подобно «сверхразумному подростку», постоянно совершенствующему свое понимание. Более подробную информацию об их подходе можно найти на сайте Safe Superintelligence Inc..
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Решение проблемы согласования изнутри
Safe Superintelligence Inc. (SSI) стоит перед грандиозной задачей: обеспечить, чтобы их сверхразум оставался согласованным с человеческими ценностями по мере того, как он постоянно учится и самосовершенствуется. Риск заключается не только в первоначальном несоответствии, но и в дрейфе ценностей, когда быстро развивающиеся внутренние модели и цели ИИ со временем незаметно отклоняются от намерений его создателей.
Рассмотрим эволюцию человека, которая привила нам абстрактные, устойчивые побуждения, такие как любопытство и социальный статус. Эти базовые мотивации обобщаются в новых условиях, будь то навигация в древних социальных иерархиях или на современных цифровых платформах. SSI выдвигает теорию, что если им удастся раскрыть фундаментальные механизмы обучения мозга, они смогут спроектировать стабильное, абстрактное мотивационное ядро для ИИ.
Решая фундаментальные принципы обучения и мотивации изнутри, SSI стремится создать ИИ, чьи основные предпочтения остаются стабильными, несмотря на экспоненциальный рост возможностей. Этот подход может привести к созданию по-настоящему согласованного сверхразума, где безопасность является не внешним дополнением, а неотъемлемым свойством его фундаментальной архитектуры, направляющим его безграничный интеллект к полезным результатам.
Часто задаваемые вопросы
Что такое Safe Superintelligence Inc. (SSI)?
SSI — это новая компания в сфере ИИ, основанная Ильей Суцкевером, ранее работавшим в OpenAI. Ее единственная миссия — создание «безопасного сверхразума» в качестве первого и единственного продукта, с упором на новые направления исследований, вдохновленные человеческим мозгом.
Чем подход SSI к ИИ отличается от текущих моделей?
Вместо простого масштабирования существующих архитектур, таких как трансформеры, SSI, как сообщается, сосредоточена на фундаментальных прорывах в таких областях, как эффективность выборки, непрерывное обучение и системы внутренних ценностей, чтобы создать более обобщаемый и эффективный интеллект.
Что такое непрерывное обучение в ИИ?
Непрерывное обучение — это способность модели ИИ постоянно учиться и адаптироваться к новому опыту после развертывания, не забывая при этом ранее изученные навыки — это серьезная проблема для современных нейронных сетей, известная как «катастрофическое забывание».
Когда ожидается выпуск первой модели ИИ от SSI?
Хотя это лишь предположения, в исходном видео упоминается слух о том, что Safe Superintelligence Inc. планирует запуск своей первой долгожданной модели в августе 2026 года.