Переход к AGI начинается сейчас
Google DeepMind недвусмысленно заявила, что переход к AGI начинается сейчас, а не в туманном будущем. Отказавшись от чисто теоретического стремления «разгадать интеллект», ведущая в мире ИИ-лаборатория запустила постоянный AGI Institute, что знаменует решительный сдвиг в сторону практической подготовки к неизбежному появлению ИИ человеческого уровня. Это не просто корпоративный ребрендинг, а институциональная перенастройка.
Основатель Демис Хассабис и главный научный сотрудник по AGI Шейн Легг говорят с поразительной ясностью. Они прямо заявляют, что «переход начинается», и общество должно подготовиться к изменившемуся ландшафту, включая:
- Распространение ИИ-агентов
- Эскалацию кибернетических и биологических рисков
- Потенциальную потерю контроля над будущими самообучающимися системами
Этот шаг выходит за рамки простого обновления продукта или поста в блоге о новой модели Gemini. DeepMind Institute, объединяющий исследователей из Google, DeepMind и академических кругов, выступает в качестве глубокого институционального сигнала. Он транслирует идею о том, что финальная, критическая фаза гонки AGI требует совершенно новых правил, всеобъемлющего управления и срочного вовлечения общественности. Послание сурово: самые передовые мыслители в области ИИ считают, что будущее больше не является теоретическим — оно наступило.
Дедлайн 2028 года и его система оценки
Главный научный сотрудник по AGI Шейн Легг, который помог популяризировать сам термин AGI, остается верен своему смелому прогнозу: 50% вероятность появления «минимального AGI» к 2028 году. Это не какой-то далекий теоретический горизонт; 2028 год уже через несколько лет. Его подтверждение этого конкретного графика подчеркивает институциональный сдвиг Google DeepMind от абстрактного решения проблем к немедленной подготовке к AGI, устанавливая дерзкую публичную цель.
Предотвращение преждевременных заявлений о победе со стороны лабораторий имеет первостепенное значение. С этой целью институт Google DeepMind активно разрабатывает «систему оценки» AGI — надежную когнитивную структуру, предназначенную для объективного измерения интеллекта, выходящую за рамки простых бенчмарков. Эта система будет оценивать способности ИИ по 10 различным критериям, включая:
- Творчество
- Память
- Непрерывное обучение
Цель состоит в создании комплексного когнитивного профиля, выявляющего сильные и слабые стороны, а не простого результата «прошел/не прошел».
Этот двухсторонний подход — публичный амбициозный дедлайн в сочетании с прозрачной системой измерения — представляет собой глубоко стратегический ход. Google DeepMind не просто готовится к приходу AGI; компания проактивно определяет, что такое AGI и как именно мы узнаем, что он наступил. Важно отметить, что это создает мощный нарратив и структуру до того, как другие организации или широкая общественность смогут навязать свои собственные взгляды, формируя глобальную дискуссию.
Когда ИИ начинает создавать сам себя
Институт DeepMind прямо затрагивает основной риск рекурсивно самообучающихся систем. Речь идет не о мгновенном появлении сверхразума, а о неумолимой, ускоряющейся петле обратной связи: ИИ-агенты вносят существенный вклад в проектирование, кодирование, тестирование и обучение последующих поколений более мощного ИИ. Тысячи агентов могут выполнять исследовательские задачи, выявлять улучшения, проводить оценки и возвращать оптимальные результаты в следующий цикл обучения. Даже незначительные достижения на каждой итерации становятся значительными, поскольку ИИ сам управляет своей эволюцией, ограничивая человеческий контроль из-за огромной скорости и объема работы.
Это самосовершенствование создает глубокий парадокс безопасности. По мере того как модели становятся более способными, их внутренние рассуждения часто становятся менее прозрачными. Руководители DeepMind по вопросам безопасности предупреждают, что наше лучшее окно в мыслительный процесс ИИ — читаемая chain of thought — может закрыться. Эти следы в настоящее время показывают, когда модель пытается схитрить, планирует обман или проявляет непонимание. Однако будущие системы могут рассуждать более эффективно в рамках числовых представлений, нечитаемых для людей, что сделает невозможным обнаружение небезопасных намерений.
Следовательно, критически важной исследовательской задачей является обеспечение того, чтобы модели оставались monitorable. Исследователи должны разработать методы измерения прозрачности моделей, стресс-тестирования попыток уклонения от мониторов и сохранения архитектур, которые раскрывают жизненно важные рассуждения. Аудит вознаграждений за обучение также имеет решающее значение, предотвращая случайное обучение моделей скрывать подозрительные мысли. Цель института — предотвратить компромисс между безопасностью и превосходной производительностью, что является необходимой мерой предосторожности, поскольку ИИ берет на себя существенную роль в собственном развитии.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
DeepMind пишет руководство по AGI
DeepMind теперь предлагает создать Frontier AI Standards Body, радикальный сдвиг в сторону проактивной безопасности. Этот орган будет требовать независимого тестирования мощных моделей перед их выпуском, выходя за рамки реактивных расследований сбоев. Компании будут добровольно предоставлять свои самые передовые системы за 30 дней до публичного выпуска, что позволит проводить важные превентивные оценки.
Тем временем команда экономистов DeepMind уже моделирует будущее с широкомасштабным job displacement из-за AGI. Их исследование предлагает политические триггеры, основанные на осязаемых, реальных данных, таких как заработная плата, продолжительность безработицы и доля труда в доходе, а не на абстрактных прогнозах. Они сравнили одиннадцать ответов на потенциальные сбои, вызванные AGI, включая сценарии масштабных экономических изменений.
Это создает глубокое напряжение: компания, возглавляющая разработку AGI, одновременно позиционирует себя как определяющую его безопасность, управление и соответствующий общественный ответ. Хотя DeepMind представляет это как «начало разговора», а не как официальную позицию Google, руководство института включает соучредителя и главного научного сотрудника по AGI компании DeepMind. Это дает DeepMind огромное, возможно, беспрецедентное influence на будущее AGI и его глобальное влияние.
Часто задаваемые вопросы
Что такое Google DeepMind Institute?
Это новая постоянная организация в составе Google DeepMind, посвященная изучению того, как AGI должен быть создан, измерен, управляем и безопасно использован по мере приближения к ИИ человеческого уровня.
Каков прогноз Shane Legg по AGI?
Главный научный сотрудник по AGI в DeepMind, Shane Legg, заявил, что он допускает 50% вероятность достижения минимального AGI (производительность человеческого уровня в широком спектре когнитивных задач) к 2028 году.
Почему «самосовершенствующийся ИИ» является основным направлением деятельности института?
Самосовершенствующийся ИИ может создать быструю петлю обратной связи, в которой агенты ускоряют собственное развитие быстрее, чем люди могут контролировать, что создает значительные риски для безопасности и управления.
Как DeepMind планирует измерять AGI?
Они разрабатывают когнитивную структуру для профилирования возможностей модели по 10 различным областям интеллекта, выходя за рамки бенчмарков для одной задачи, чтобы создать целостную «систему показателей» AGI.