Следующий скачок ИИ — это «открытый секрет»

Русское понятие «враньё», или «открытая ложь», предлагает четкую призму, через которую можно взглянуть на дебаты о рисках ИИ. Это не просто обман; это коллективное притворство, где все признают ложь, но продолжают действовать так, будто это правда. Эта концепция идеально описывает преобладающий нарратив многих алармистов ИИ, чьи катастрофические предупреждения часто кажутся не искренними пророчествами, а скорее продуманным социальным театром.

Их заявления об экзистенциальном риске ИИ, или «X-risk», часто делаются без единого доказательства. Вместо этого алармисты строят сложные логические замки вокруг будущего ИИ — систем, которые еще не существуют и чье внутреннее устройство остается умозрительным, — только для того, чтобы объявить их по своей сути неконтролируемыми. Это представление, громкое заявление, основанное на абстрактных рассуждениях, а не на наблюдаемых данных, однако дискурс относится к нему с торжественной серьезностью.

Тем не менее, занавес часто приоткрывается. С каждым выпуском новой мощной модели — будь то Astra, GPT-6 Astra или Opus 5.5 — несоответствие между их мрачными прогнозами и их реальным поведением становится вопиющим. Вместо того чтобы настаивать на немедленном вмешательстве или даже призывать к бомбардировке дата-центров, в их реакциях сквозит ощутимое оживление. Этот разрыв, это игривое взаимодействие с надвигающейся гибелью, заставляет задаться вопросом: действительно ли они верят в собственную чепуху, или мы все просто участвуем в сложной игре с высокими ставками под названием «враньё»?

Постепенные технологические достижения часто маскируют надвигающуюся революцию — явление, которое экономисты называют «эффектом перелива» (spillover effect). Это происходит, когда постепенные улучшения накапливаются, подталкивая систему за невидимый порог, где внезапно возникают новые, неожиданные возможности, радикально трансформирующие ее полезность. Это не плавный подъем, а внезапный поток.

Вспомните первые компьютеры: изначально это были громоздкие машины, предназначенные в основном для расчета баллистических траекторий для линкоров. Должность «компьютер» даже относилась к женщинам, выполнявшим эти расчеты вручную. Однако по мере того, как вычислительная мощность неуклонно росла, эти специализированные устройства преодолели пороги, превратившись в повсеместные персональные компьютеры и глобальные сети, на которые мы полагаемся сегодня, что далеко выходит за рамки их первоначального назначения.

Эта же динамика теперь определяет траекторию развития ИИ. В то время как базовые модели, от GPT-3.5 до Opus 5.5, демонстрируют относительно плавную кривую технического прогресса, их реальное влияние проявляется как прерывистые скачки. В один день модель с трудом справляется с анимацией, а на следующий — перенимает навыки среднестатистических профессионалов, из-за чего прогресс кажется шокирующим и внезапным, как переполняющаяся чаша.

Последнее поколение моделей ИИ сигнализирует о прерывистом скачке, знаменуя собой событие перелива, отличное от предыдущих итераций. Недавние релизы, такие как Astra и Opus 5.5, представляют собой фундаментальный сдвиг в возможностях, преодолевающий критический порог.

Внезапно ИИ начинает соответствовать навыкам среднестатистических профессионалов или превосходить их в конкретных сложных областях. Мы наблюдаем этот драматический сдвиг в:

• Анимации
• CGI
• 3D-работе

Речь идет не просто о впечатляющих демо-версиях. Более ранние модели, от GPT-2 до ранних версий ChatGPT, были новаторскими, но не полностью перенимали целые профессиональные наборы навыков. Они с трудом справлялись с элементарной математикой, страдали от галлюцинаций и демонстрировали угодливость, не в силах по-настоящему заменить тонкую экспертизу человеческих специалистов.

Теперь ландшафт изменился. Opus 5.5, например, демонстрирует мастерство в этих областях визуального творчества, которое было немыслимо еще несколько месяцев назад. Для более глубокого понимания того, как общественные нарративы могут скрывать такие сдвиги, ознакомьтесь с Vranyo: Questions We Need to Ask To Understand Russian State Media. Это резкое ускорение означает, что определение «профессионального навыка» переписывается в режиме реального времени.

Этот текущий скачок в области ИИ, примером которого являются Astra и новейший Opus, не является уникальным событием. Это лишь последнее в череде неумолимых эффектов перелива (spillover effects), которые мы теперь должны воспринимать как новую норму. Постепенное, непрерывное технологическое совершенствование будет неоднократно приводить к внезапным, неожиданным возможностям, меняющим ландшафт.

Рассмотрим переход от GPT-3 к ChatGPT — яркий пример порогового эффекта в прошлом. Предыдущие модели сталкивались с тем, что мы считали фундаментальными ограничениями: надежные вычисления, точное программирование или даже простой подсчет символов. Затем, практически за одну ночь, возможности ChatGPT резко возросли, преодолев эти «известные проблемы» и открыв огромные новые области применения.

Это не были изолированные исправления; это были симптомы более глубокого, продолжающегося процесса. Каждое постепенное улучшение базовой технологии ИИ, даже если оно кажется незначительным, в конечном итоге переполняет «чашу». Последующий перелив — это не плавный прогресс, а прерывистый скачок, создающий такие возможности, как написание сложного кода и выполнение вычислений лучше, чем 99,99% людей.

Главный вывод заключается не в том, чтобы восхищаться текущим состоянием, а в том, чтобы ожидать эти пороговые эффекты как константу. Они будут неоднократно и непредсказуемо переопределять границы возможного, требуя постоянной адаптации, а не статического понимания. Готовьтесь к эпохе неумолимых, эмерджентных потрясений.

Что такое «эффект перелива ИИ»?

Эффект перелива ИИ описывает ситуацию, когда постепенное улучшение модели преодолевает критический порог, заставляя ее возможности «переливаться» в новые области и создавать внезапный, прерывистый скачок в реальном воздействии, подобно переполняющейся чаше.

Почему Дэвид Шапиро сравнивает дебаты о «думерах» ИИ с «враньем»?

Он использует русский термин «враньё» — открытую ложь, с которой все молчаливо соглашаются как с правдой, — чтобы описать аргументы «думеров» ИИ. Он предполагает, что их риторика об экзистенциальном риске — это форма театра, не соответствующая их небрежному поведению по отношению к новым мощным моделям.

Что такое прерывистые скачки в технологии ИИ?

Прерывистый скачок — это внезапный, значительный рывок в практических способностях ИИ, который, кажется, не соответствует устойчивому, постепенному прогрессу базовой технологии. Это момент, когда ИИ переходит от состояния «не очень полезен» к состоянию «лучше, чем большинство людей» в конкретной задаче.

Как недавние модели демонстрируют эффект перелива?

Такие модели, как Astra от Google и новейший Opus от Anthropic, приводятся в пример, потому что они преодолели порог в творческих областях, таких как анимация и 3D-работа. Их возможности внезапно поглотили навыки многих средних профессионалов в этих областях.