Кратко / Главное
Поезд хайпа вокруг AGI только что сошел с рельсов
Генеральный директор Google DeepMind Демис Хассабис представил суровую проверку реальности для растущего хайпа вокруг AGI, заявив, что сегодняшние системы AI «даже близко не подошли к AGI». Его определение устанавливает исключительно высокую планку: система, способная демонстрировать полный спектр человеческих когнитивных способностей, включая истинное изобретательство, непрерывное обучение и долгосрочное планирование. Эта точка зрения напрямую оспаривает преобладающий отраслевой нарратив, который часто приравнивает впечатляющую узкую производительность к общему интеллекту.
Хассабис утверждает, что даже значительные прорывы, такие как недавнее опровержение OpenAI гипотезы Эрдёша в дискретной геометрии (проблема, нерешенная с 1946 года), не означают AGI. Хотя текущие модели блестящи в определенных областях, им все еще не хватает ключевых компонентов: надежного рассуждения, подлинной креативности, подобной Ramanujan, и надежного планирования, выходящего за рамки простого выполнения задач. Они превосходно генерируют впечатляющие ответы, но испытывают трудности с последовательностью и широким пониманием, присущими человеческому познанию.
Заявление Хассабиса, исходящее от главы Google DeepMind, ведущей исследовательской лаборатории AGI, имеет огромное значение. Он напрямую оспаривает широко распространенное мнение о том, что AGI уже наступил или неизбежен, подчеркивая «неровный интеллект» современного AI. Эти системы демонстрируют пиковую производительность в некоторых областях, но страдают от непредсказуемых режимов отказа, таких как печально известный феномен «гоблинов», когда модели вставляют случайные, нерелевантные термины без явного, хакерского предотвращения. Эта непоследовательность подчеркивает их неполноценность по сравнению с истинным AGI.
Блестящий, сломанный и запутанный
OpenAI недавно продемонстрировал специфическую, невероятную мощь AI, опровергнув центральную гипотезу в дискретной геометрии. Эта проблема, связанная с планарным единичным расстоянием, была впервые поставлена Paul Erdos в 1946 году и оставалась нерешенной почти 80 лет. Модель OpenAI представила доказательство, позже проверенное внешними математиками, демонстрируя продвинутые математические рассуждения.
Несмотря на такие достижения, современные системы AI демонстрируют неровный интеллект, термин, введенный Andrej Karpathy. Они работают сверхчеловечески в узких областях, но непредсказуемо терпят неудачу в других. Эта непоследовательность подчеркивает фундаментальное отсутствие широкого понимания и надежного познания, резко контрастируя с человеческим общим интеллектом.
Режимы отказа AI часто выглядят причудливыми и нечеловеческими. Gary Marcus приводит примеры, когда системы необъяснимо вставляют слова, такие как «гоблины», в случайные выходные данные. Смягчение этих причуд требует «хакерской, специфичной для гоблинов ерунды» в системных подсказках, что выявляет зависимость от грубой силы исправления, а не от подлинного понимания.
Marcus критикует этот подход как «алхимию», а не компьютерную науку, называя его «крушением на триллион долларов», отражающим глубокие системные несоответствия. Эти странные поведения подчеркивают, что даже продвинутым моделям не хватает последовательного, обоснованного понимания, необходимого для истинного AGI, и они вместо этого работают с мощным, но хрупким распознаванием образов.
AGI — это просто бесполезное модное слово?
Тем не менее, не все согласны с осторожной позицией Хассабиса. Венчурный капиталист Marc Andreessen утверждает, что если бы человек демонстрировал совокупные навыки ведущих современных моделей AI — решение сложных математических гипотез, генерацию кода и суммирование объемных документов — мы бы однозначно назвали его гением. Эта точка зрения подчеркивает замечательные, хотя и непоследовательные, возможности, которыми эти системы уже обладают.
Действительно, само определение AGI порождает большую часть путаницы. Хелен Тонер, член правления OpenAI, предположила на X, что «AGI» стало почти бесполезным термином. Люди определяют его совершенно по-разному, от экспертного чат-бота до по-настоящему сознательной, самосознающей машины. Это семантическое разнообразие затрудняет любое продуктивное обсуждение.
Вместо того чтобы спорить о том, «прибыл» ли AGI, более плодотворный подход смещает акцент. Мы должны точно определить конкретные возможности, которыми теперь обладает ИИ, и выявить критически важные, которых все еще не хватает. Сам Демис Хассабис признает, что сегодняшним системам не хватает истинной изобретательности и постоянной надежности, несмотря на их узкий блеск. Более подробную информацию о взглядах Хассабиса см. DeepMind: CEO Demis Hassabis says AGI Lags Human Reasoning | Technology Magazine.
Эта переформулировка выводит нас за рамки абстрактных философских дебатов. Она основывает разговор на ощутимом прогрессе и выявляемых пробелах, предлагая более четкие метрики для оценки эволюции ИИ. Понимание этих различных уровней интеллекта, от впечатляющего узкого ИИ до неуловимого общего интеллекта, остается первостепенным.
Реальная дорожная карта к AGI
Достижение истинного AGI требует большего, чем изолированный блеск. Демис Хассабис последовательно выделяет пять ключевых недостающих элементов в современных системах ИИ. Эти критические пробелы включают: - Долгосрочная надежность, обеспечивающая стабильную, безошибочную работу в течение длительных периодов. - Полная автономия, позволяющая системам работать без постоянного человеческого надзора или детальных подсказок. - Стабильная память, позволяющая моделям сохранять и извлекать информацию в широких контекстах и временных рамках. - Обоснованное рассуждение, связывающее абстрактные знания с пониманием реального мира и физическими законами. - Истинное изобретательство, способность к новому творчеству и научным прорывам за пределами распознавания образов.
Хассабис, несмотря на свое строгое определение, недавно предложил на удивление оптимистичный прогноз сроков появления AGI. Теперь он предполагает, что AGI может появиться уже в 2029-2030 годах, что является значительным ускорением по сравнению с предыдущими оценками. Этот пересмотренный прогноз в первую очередь обусловлен быстрым развитием сложных «агентных систем», которые обещают улучшенное самоуправление и оркестрацию задач. Такие системы, по его мнению, преодолеют многие текущие ограничения.
Независимо от того, когда материализуется истинный AGI, нынешнее поколение мощных систем ИИ уже глубоко преобразует мир. Отвергать их как простое «автозаполнение» или «прославленные чат-боты» означает упускать из виду их огромное влияние на науку, промышленность и повседневную жизнь. Игнорирование этих быстро развивающихся возможностей, несмотря на их несовершенства, представляет собой значительную стратегическую ошибку для любой организации или частного лица. Эти системы ИИ — это не просто предвкушение будущего; они активно формируют настоящее.
Часто задаваемые вопросы
Что сказал генеральный директор Google DeepMind Демис Хассабис об AGI?
Демис Хассабис заявил, что нынешние системы ИИ «далеки» от искусственного общего интеллекта (AGI), утверждая, что им не хватает полного спектра человеческих когнитивных способностей, таких как истинное изобретательство и глубокая надежность.
Что такое «рваный интеллект» в ИИ?
Термин «рваный интеллект», введенный исследователем Андреем Карпатым, описывает, как ИИ может работать на сверхчеловеческом уровне в одних задачах, но катастрофически проваливаться в других, в отличие от более последовательного когнитивного профиля человека.
Почему определение AGI так спорно?
Термин AGI является спорным, потому что эксперты определяют его по-разному. Для некоторых это означает чат-бот экспертного уровня, в то время как для других это означает автономную, сознательную машину, что делает дебаты о его появлении сильно фрагментированными.
Какие ключевые возможности отсутствуют для истинного AGI?
Ключевые недостающие компоненты для AGI включают долгосрочную надежность, истинную автономию, стабильную память, обоснованное рассуждение о реальном мире и способность к подлинному, творческому изобретению, выходящему за рамки решения поставленных задач.