Предупреждение Сэма Альтмана об ИИ звучит серьезнее, чем кажется

Сэм Альтман считает, что ИИ переходит от абстрактного решения задач к ощутимым научным прорывам. Мастерство ИИ в сложной математике, как видно на примере автоматического доказательства теорем, теперь распространяется на создание новых открытий в критически важных областях. К ним относятся биология, материаловедение и энергетика.

Альтман прогнозирует, что кандидат на излечение или терапию серьезного заболевания может появиться в течение ближайших пары лет. Он четко разграничивает фазу открытия и доказанное лечение, отмечая важный и трудоемкий путь прохождения клинических испытаний и проверки FDA.

Процесс после совершения открытия представляет собой значительное узкое место в реальном мире. Хотя Альтман признает необходимость потенциальных улучшений в этом конвейере, он решительно защищает строгие стандарты безопасности, необходимые перед тем, как любое новое лекарство попадет к общественности.

Пример Альтмана с программированием предлагает важный взгляд: ИИ фундаментально изменил то, как работают разработчики, однако спрос на программное обеспечение — и влияние тех, кто его создает — только вырос. Он отмечает, что шесть или двенадцать месяцев назад многие были уверены, что ИИ уничтожит рабочие места программистов. Вместо этого программисты заняты как никогда, их влияние расширилось, а потенциал заработка увеличился, даже если «характер работы сильно изменился».

Этот сдвиг подчеркивает напряженность между полезностью конечного продукта и удовлетворением, получаемым от самого ремесла. Альтман признает, что написание кода для личных проектов когда-то приносило ему удовольствие, но он «вероятно, больше не будет этого делать», учитывая возможности ИИ. Это поднимает глубокий вопрос для математиков и других интеллектуальных работников.

ИИ может автоматизировать основу ремесла, но появляются новые роли. Для математиков фокус смещается с доказательства теорем без посторонней помощи на интерпретацию сложных доказательств, созданных ИИ, перевод их в понятные концепции и применение к реальным проблемам. Альтман признает желание общества, чтобы люди делали «полезные вещи друг для друга», предполагая ренессанс в таких областях, как:

• Интерпретация выводов, полученных с помощью ИИ
• Объяснение сложных результатов
• Применение новых открытий к социальным вызовам

Окончательный спрос на математиков остается открытым вопросом, но их роль, несомненно, будет эволюционировать.

Альтман предвидит будущее, в котором ИИ выйдет за пределы экрана, проявившись в виде интеллектуального ассистента, глубоко интегрированного в повседневную жизнь. Это не просто чат-бот; это проактивный агент, который отслеживает важную информацию, управляет делегированными задачами и предоставляет критический контекст именно тогда, когда это необходимо, освобождая ценное человеческое внимание.

Лично Альтман заявляет, что его собственный ИИ-ассистент экономит ему около часа в день, иногда выделяя срочную информацию, которую он в противном случае мог бы пропустить. Речь идет не только об эффективности; речь идет о расширении человеческих возможностей и снижении когнитивной нагрузки в мире, переполненном данными.

Реализация этого видения требует значительной эволюции продукта, а не просто постепенных программных доработок. Альтман считает, что базовая технология AI почти готова, но требуются существенные улучшения в дизайне продукта, compute-ресурсах и, возможно, в совершенно новых форм-факторах hardware. Это предполагает отход от взаимодействий, ограниченных экраном, в сторону более естественных и отзывчивых AI-компаньонов. Дополнительную информацию об амбициях OpenAI в области hardware можно найти в A Letter from Sam & Jony - OpenAI.

Задача состоит в создании устройств, которые смогут органично перенести полезность AI в физический мир, выйдя за рамки текущих ограничений смартфонов и компьютеров. Эта новая парадигма может переопределить наше взаимодействие с технологиями, сделав AI более интуитивным и вездесущим партнером.

Самое серьезное предостережение Сэма Альтмана касается recursive self-improvement (RSI) — процесса, при котором модели AI автономно переписывают и обучают более совершенные версии самих себя. Он называет агрессивное продвижение RSI «очень опасной вещью», особенно если конкурентное давление заставляет лаборатории активировать его ради достижения превосходства.

Что касается consciousness, Альтман признает: «Никто на самом деле не знает», обладают ли современные модели сознанием. Он выступает против сведения этого вопроса к простому человеческому ярлыку, отмечая, что такая постановка вопроса искажает дискуссии о правах агентов или способности AI к отключению.

В конечном счете, стандарт прогресса по Альтману — это не просто новая промышленная революция. Он выступает за new Renaissance, используя AI для улучшения жизни людей и открытия глубоких новых знаний — от curing major diseases до поиска новых источников энергии — при этом серьезно относясь к присущим этому рискам.

Что Сэм Альтман ожидает от AI в ближайшее время?

Альтман надеется, что AI создаст кандидата для лечения или излечения серьезного заболевания в течение ближайших пары лет, хотя тестирование и одобрение займут больше времени.

Что означает recursive self-improvement в AI?

Это описание систем AI, помогающих улучшать или создавать более мощные системы AI. Альтман предупреждает, что намеренное форсирование этого процесса может быть опасным.

Считает ли Сэм Альтман, что текущие модели AI обладают сознанием?

Он говорит, что никто этого точно не знает, и предостерегает от использования упрощенных человеческих аналогий.

Почему Альтман считает, что AI нуждается в новом hardware?

Он видит, как AI становится повсеместным помощником, который может помогать за пределами окна чата, что потенциально требует другого физического форм-фактора.