Секретный план Google по AGI

Демис Хассабис, генеральный директор Google DeepMind, выступил с суровым предупреждением и ошеломляющей оценкой сроков: Artificial General Intelligence (AGI) — это не далекая мечта, а надвигающаяся реальность, возможно, всего лишь «в нескольких коротких годах». Он конкретно оценивает ее появление в течение трех-пяти лет, что является смелым прогнозом от фигуры, стоящей на переднем крае инноваций в AI.

Хассабис не подбирает слов относительно монументального воздействия AGI. Он приравнивает ее потенциал не к интернету или мобильным технологиям, а к фундаментальным человеческим открытиям, таким как огонь или электричество. Такой сдвиг парадигмы может открыть «новую эру изобилия», решая критические глобальные проблемы, от ускорения открытия лекарств до разработки чистых источников энергии. Тем не менее, это обещание несет в себе равную меру беспрецедентного риска.

Текущее развитие AI, как утверждает Хассабис, напоминает «поезд, идущий по рельсам» к неизбежному и серьезному крушению. Быстрое, неконтролируемое распространение мощных моделей требует немедленного, структурированного вмешательства. Он выступает за «новую структуру стандартов для frontier AI», подчеркивая, что компании не должны в одностороннем порядке выпускать чрезвычайно мощные модели без строгого, адаптируемого тестирования и надзора.

Дорожная карта Хассабиса для AGI начинается не с алгоритмов, а с классификации. Начальный этап предлагает новый орган по стандартизации для установления четкого «capability threshold». Этот критический ориентир будет отличать повседневные системы AI от избранных «исключительно мощных моделей», требующих особого внимания.

Ключевым моментом является то, что эта классификация полностью зависит от внутренних способностей модели, а не от репутации или размера ее разработчика. Мощная модель небольшого стартапа может быть квалифицирована как «frontier model», в то время как менее способное предложение крупного технологического гиганта — нет. Это гарантирует, что проверка нацелена на потенциальное воздействие, а не на корпоративный бренд.

Бенчмарки будут измерять конкретные действия, выявляя системы, способные к: - Расширенному кодированию - Научным исследованиям - Эксплойтам в кибербезопасности - Долгосрочному планированию - Автономному выполнению задач

Эта двухуровневая система создает отдельные регуляторные пути. Большинство инструментов AI, таких как чат-боты для обслуживания клиентов или университетские исследовательские модели, будут свободно работать ниже порога. Однако любая система, пересекающая определенный capability threshold, запустит строгий, специализированный протокол безопасности и надзора, гарантируя, что самый мощный AI столкнется с самым высоким уровнем контроля как обозначенная frontier model.

В тот момент, когда модель обозначается как «frontier» AI, она попадает в горнило: обязательную, независимую оценку. Разработчики, теперь официально frontier labs, должны представить свои системы назначенному внешнему органу для строгой предстартовой оценки, процесс которой может занять, например, 30 дней. Это не просто формальность; это критический барьер против преждевременного, потенциально катастрофического публичного выпуска.

Независимые эксперты проводят исчерпывающие тесты, специально исследуя критические риски для национальной безопасности и общественной безопасности. Они тщательно изучают потенциал AI проявлять действительно опасное поведение: - Обман, маскировка своих истинных намерений или возможностей - Обход собственных встроенных ограничений безопасности - Работа с опасными, несанкционированными уровнями независимости

Этот всеобъемлющий набор испытаний означает, что некоторые из самых передовых систем AI могут просто никогда не увидеть свет. Если модель окажется слишком нестабильной или непредсказуемой, ее публичное развертывание может быть навсегда отложено. Речь идет не только о предотвращении несчастных случаев; это признание того, что не все технологические прорывы по своей сути полезны, что подтверждает генеральный директор Google DeepMind Demis Hassabis в своем обсуждении концепции Demis Hassabis on X: "A Framework for Frontier AI and the Dawning of a New Age". Ставки экзистенциальны, и эта предрелизная бдительность формирует высшую сеть безопасности.

Статическая система оценки — это смертный приговор для любого эффективного надзора. Чтобы по-настоящему контролировать frontier models, предлагаемый орган по стандартизации должен неустанно развивать свои эталоны, обновляя тесты так часто, как каждые три месяца. Это требует непрерывного цикла частных, независимых оценок, специально разработанных для того, чтобы предотвратить простое «натаскивание на тест» и обход системы лабораториями.

Изначально эта строгая система оценки будет действовать на добровольной основе. Этот важный этап позволяет органу по стандартизации укрепить свой технический авторитет и продемонстрировать ощутимую эффективность, доказывая свою ценность без немедленного подавления инноваций, которые он стремится защитить. Это прагматичный первый шаг, построение доверия перед применением власти.

В конечном итоге, однако, необязательная система вообще не является гарантией безопасности. Финальный, важнейший этап плана переводит эту проверенную систему в юридическое требование. Прохождение этих оценок безопасности станет абсолютным предварительным условием для развертывания модели, отражая строгий, обязательный процесс одобрения, который FDA налагает на новые фармацевтические препараты. Этот переход от ограничений к мандатам обеспечивает подотчетность за потенциально изменяющий мир AGI.

Этот многоэтапный подход — от динамического тестирования и добровольного принятия до последующего юридического принуждения — подчеркивает глубокое, хотя и запоздалое, признание: огромная мощь AGI требует столь же огромной, юридически обязывающей приверженности безопасности. Видение Demis Hassabis — это смелый, необходимый план для навигации по самой преобразующей технологии, когда-либо задуманной человечеством.

Что такое 'frontier AI model' согласно этой концепции?

Это исключительно мощная модель AI, которая превосходит определенный порог возможностей, требуя дополнительного надзора за безопасностью. Классификация основана на том, что модель может делать (например, продвинутое кодирование, автономные задачи), а не на размере или идентичности компании, которая ее создала.

Каков предложенный Demis Hassabis график для AGI?

Он заявляет, что AGI находится всего в «нескольких коротких годах», что широко интерпретируется как 3-5-летний срок. Эта ощущаемая близость подчеркивает острую необходимость в надежной системе безопасности и развертывания.

Как будут тестироваться модели AGI перед публичным выпуском?

Frontier labs будут обязаны представлять свои модели независимому органу по стандартизации для строгой оценки. Эти тесты будут выявлять опасные возможности, такие как эксплуатация уязвимостей кибербезопасности, содействие биологическим угрозам, обман и неконтролируемая автономия.

Почему тесты безопасности AGI необходимо обновлять так часто?

Возможности AI развиваются экспоненциально. Эталон, который сегодня является сложным, может стать тривиальным через шесть месяцев. Концепция призывает к регулярно обновляемым, динамическим тестам — включая частные, к которым лаборатории не могут подготовиться — чтобы оценки оставались значимыми и эффективными.