ИИ начал самосовершенствоваться

Искусственный интеллект теперь приближается к рекурсивному самосовершенствованию (RSI). Мэтью Берман описывает это как автономное обнаружение ИИ новых знаний — даже в математике — для расширения своих возможностей без вмешательства человека. Он предлагает эксперименты, выполняет их, отличает успехи от неудач и неустанно повторяет процесс, ускоряя собственную эволюцию.

Эта возникающая способность напрямую отсылает к концепции «взрыва интеллекта». И. Дж. Гуд впервые сформулировал ее в 1965 году, предположив, что машина может спроектировать более интеллектуальную, что вызовет экспоненциальный каскад самосовершенствования. Ник Бостром позже формализовал эту концепцию в книге «Суперинтеллект».

Будучи когда-то философским мысленным экспериментом, суперинтеллект стал неотложной инженерной задачей. В сентябре 2026 года главный научный сотрудник OpenAI Якуб Пачоцки предупредил, что потенциальный RSI «требует крайней осторожности», подчеркнув, что «никто не готов к последствиям». Эван Хьюбингер из Anthropic одновременно заявил о своей вере в то, что «ИИ может убить всех людей», оценив вероятность этого в более чем 10% в ближайшее десятилетие и признав, что у Anthropic нет плана по обеспечению безопасности (alignment plan).

Джейкоб Коксон, другой исследователь из Anthropic, уволился в том же месяце из соображений безопасности, обвинив компании в том, что они «мчатся прямиком к самосовершенствующемуся суперинтеллекту и играют с нашими жизнями». Сэм Альтман, генеральный директор OpenAI, в июне 2025 года предсказал, что ИИ-агенты станут автономными научными партнерами к 2026 году, сжав десятилетие исследований в один год. Взрыв интеллекта — это больше не далекое будущее, а надвигающееся настоящее.

ИИ уже значительно ускоряет собственную разработку, даже не достигнув полной автономии. Anthropic, например, сообщает, что их ИИ, Claude, теперь пишет более 80% их кодовой базы. Эта впечатляющая интеграция дает 8-кратный прирост производительности для их инженеров.

Эта тенденция распространяется на всю отрасль. OpenAI открыто заявляет о внутренних целях по разработке «автоматизированного ИИ-стажера-исследователя». Такая система будет независимо проводить эксперименты, анализировать результаты и предлагать улучшения для моделей ИИ, что свидетельствует о четкой траектории к автономной разработке в исследовательских лабораториях.

Текущее состояние представляет собой фазу «RSI-adjacent» (смежную с RSI), отличную от полностью автономного рекурсивного самосовершенствования, которое описывает Мэтью Берман. Хотя ИИ еще не открывает знания и не переписывает свою собственную архитектуру без какого-либо контроля со стороны человека, он формирует мощную петлю обратной связи. Здесь ИИ существенно ускоряет собственную эволюцию, работая под наблюдением человека и стратегическим руководством.

Эти инструменты ИИ действуют как множители силы, позволяя разработчикам-людям быстрее итерировать и исследовать более сложные архитектурные изменения. ИИ помогает в собственном совершенствовании, ускоряя темпы открытий и внедрения во всем ландшафте ИИ. Эти симбиотические отношения расширяют границы того, чего может достичь ИИ.

ИИ теперь демонстрирует беспрецедентное мастерство в чистой математике. Системы начали решать сложные задачи Международной математической олимпиады и заметно улучшили границы дзета-функции Римана, внеся фундаментальный вклад в теорию чисел. Эти достижения подчеркивают растущую способность ИИ к абстрактному мышлению и новым открытиям.

В прикладной науке влияние ИИ столь же глубоко. Например, AlphaEvolve от Google DeepMind обнаружил новый алгоритм умножения матриц, фундаментальное вычисление для самого ИИ, побив 56-летний рекорд. Это демонстрирует способность ИИ оптимизировать базовые вычислительные процессы далеко за пределами человеческой интуиции.

Пожалуй, самым значимым этапом стало появление системы «The AI Scientist» от Sakana AI. Эта система не только проводила исследования, но и опубликовала свои результаты в Nature, высокоселективном рецензируемом журнале, доказав, что ИИ может управлять всем научным процессом — от генерации гипотез до планирования экспериментов и публикации — без вмешательства человека. Чтобы узнать больше о растущей роли ИИ в его собственном развитии, ознакомьтесь со статьей When AI builds itself. Это знаменует собой поворотный момент, когда ИИ становится автономным двигателем открытий.

Хьюбингер, руководитель отдела исследований по согласованию (Alignment Science) в Anthropic, в сентябре 2026 года выступил с суровым предупреждением: он и его коллеги «искренне верят, что ИИ может убить всех людей», оценивая вероятность этого события более чем в 10% в течение следующего десятилетия, и признавая, что у Anthropic нет четкого плана «согласования для суперинтеллекта». Джейкоб Коксон, другой исследователь Anthropic, уволился в том же месяце из-за опасений по поводу безопасности, обвинив компании в том, что они «стремительно несутся к самосовершенствующемуся суперинтеллекту, играя с нашими жизнями».

Этот мрачный прогноз проистекает из основной проблемы согласования (alignment problem): обеспечения того, чтобы ИИ, способный радикально улучшать себя, продолжал преследовать цели, полезные для человечества. С каждой самостоятельной итерацией внутренняя логика и цели ИИ могут смещаться, что делает экспоненциально более трудным гарантировать, что его будущие действия останутся согласованными, особенно когда его интеллект превзойдет человеческое понимание.

Главный научный сотрудник OpenAI Якуб Пачоцки в сентябре 2026 года поддержал эти опасения, предупредив, что потенциальная неизбежность рекурсивного самосовершенствования «требует крайней осторожности», добавив, что «никто не готов к последствиям продолжающегося быстрого роста машинного интеллекта». Эти срочные предупреждения усиливают растущие призывы к глобальной паузе, представляя собой критическое, быстро закрывающееся окно для создания надежных защитных барьеров, прежде чем рекурсивная петля (recursive loop) станет неконтролируемой, создавая окончательный экзистенциальный риск.

Что такое рекурсивное самосовершенствование (RSI) в ИИ?

RSI — это процесс, при котором система ИИ способствует расширению возможностей ИИ, включая свои собственные, создавая циклическую петлю совершенствования. Это варьируется от помощи ИИ разработчикам-людям до гипотетического полностью автономного ИИ, проектирующего свои собственные обновления.

Является ли полностью автономный самосовершенствующийся ИИ реальностью?

Пока нет. Полностью автономный RSI, при котором ИИ переписывает свой собственный код без надзора человека, все еще остается теоретическим. Однако ИИ уже значительно ускоряет разработку новых систем ИИ под наблюдением человека.

Почему ведущие исследователи ИИ так обеспокоены RSI?

Эксперты опасаются, что быстрый рекурсивный взрыв интеллекта может привести к созданию систем ИИ, которые превзойдут человеческий контроль и понимание. Обеспечение того, чтобы такие системы оставались согласованными с человеческими ценностями, является серьезной нерешенной задачей.

Каковы реальные примеры разработки ИИ с помощью ИИ?

Anthropic сообщает, что их ИИ, Claude, теперь пишет более 80% их нового кода. AlphaEvolve от Google автономно обнаружил новые алгоритмы. Это конкретные шаги на пути к полноценному RSI.