ИИ-переворот Цукерберга против Anthropic

Недавнее эссе Марка Цукерберга «Будущее принадлежит всем» бросает вызов общепринятому мнению о пути развития ИИ. Его видение суперинтеллекта опирается на три основных принципа: - расширение прав и возможностей личности как источник процветания; - изобретательство (а не автоматизация) как его главная цель; - баланс сил как фундамент безопасности.

Эта философия прямо противоречит растущему технократическому жречеству, выступающему за централизованный контроль. Meta отстаивает бескомпромиссный подход с открытым исходным кодом, полагая, что широкое распространение ИИ и предоставление каждому возможности управлять им — это самый безопасный и полезный путь для человечества. Это резко контрастирует с закрытым подходом Anthropic в духе «мы знаем лучше», где безопасность якобы обеспечивается тем, что избранное меньшинство определяет функции и доступ к ИИ. Они создают мессианскую атмосферу, претендуя на экспертное знание о судьбе человечества.

Позиция Anthropic, возглавляемая генеральным директором Дарио Амодеи, граничит с абсурдом. Сообщается, что Амодеи предсказал «кровавую баню для белых воротничков», однако его компания продолжает двигаться вперед, создавая ту самую технологию, которая, по его же словам, станет её причиной. Цукерберг проницательно замечает: «Я не понимаю, почему кто-то, кто верит, что ИИ уничтожит большинство рабочих мест и значительную часть значимости человечества, будет спешить строить такое будущее». Это внутреннее противоречие обнажает фундаментальный изъян в их самопровозглашенной опеке над будущим ИИ, ставя под сомнение их мотивы.

Цукерберг прямо оспаривает мнение о том, что централизация власти над ИИ обеспечивает безопасность, утверждая, что этот путь, часто поддерживаемый такими организациями, как Anthropic, по своей сути проблематичен. Он предупреждает: «Исторически сложилось так, что надежда на то, что абсолютная власть благожелательно позаботится о человечестве, если будет достаточно просвещенной, не приводила к безопасным или позитивным результатам». Это перекликается с вечной поговоркой: власть развращает, а абсолютная власть развращает абсолютно.

Фундаментальный изъян в поддержке единого, «согласованного» суперинтеллекта заключается в наивном допущении универсальных человеческих ценностей. Никакая малая группа экспертов, какими бы благими намерениями они ни руководствовались, не может решить, что является «лучшим для человечества», когда «лучшее» субъективно и постоянно меняется в зависимости от миллиардов индивидуальных интересов. Этот централизованный контроль, преподносимый как более безопасная альтернатива, рискует превратиться в благожелательную тиранию.

Этот спор противопоставляет свободу контролю. Цукерберг отстаивает расширение прав и возможностей личности и баланс сил как истинный фундамент безопасности ИИ, резко контрастируя с ограничительным, жреческим подходом, которому отдают предпочтение те, кто верит, что только они могут распоряжаться огромными возможностями ИИ. История неоднократно доказывает, что концентрация власти, даже при самых высоких целях, неизбежно ведет к провалу, подавляя изобретательство и индивидуальную инициативу, вместо того чтобы способствовать изобилию и процветанию каждого. «Более безопасный» путь централизованной власти — это лишь привычная форма контроля, обреченная на неудачу.

Контрнарратив Цукерберга в ответ на преобладающий страх перед ИИ прост: изобретательство, а не автоматизация, будет определять суперинтеллект. Он отвергает риторику о «кровавой бане для белых воротничков», утверждая вместо этого, что ИИ откроет огромный «длинный хвост» ранее невыгодных или неразрешимых проблем, стимулируя беспрецедентное процветание и изобилие для всех.

Эта философия закладывает основу для новой эры гиперэффективного предпринимательства. Представьте себе компании из одного человека с миллиардными оборотами, расширяющие свои возможности благодаря AI-агентам, работающим 24/7, демократизирующим процесс создания и радикально снижающим барьеры для входа. Речь идет не просто о более быстром выполнении существующих задач, а об изобретении совершенно новых возможностей.

Конкретные примеры рисуют убедительную картину этого будущего. Подумайте о персональных репетиторах с уровнем знаний PhD, доступных каждому студенту, или об ускоренной разработке лекарств от редких заболеваний, трансформирующей медицинские исследования. Индивидуальные агенты будут неустанно оптимизировать:

• Отношения
• Здоровье
• Карьеру
• Финансы
• Управление домом
• Хобби

Такое повсеместное индивидуальное расширение возможностей с помощью AI высвобождает человеческое время и энергию для более важных занятий. Чтобы глубже погрузиться в видение Zuckerberg, ознакомьтесь с его эссе The Future is for Everyone. Это не утопическая фантазия, а стратегический план по распределению огромной мощи AI.

Видение AI от Zuckerberg, закрепленное в «The Future is for Everyone», отстаивает «индивидуальное расширение возможностей» и «изобилие», рисуя будущее, в котором суперинтеллект становится универсальным инструментом. Однако этот благородный идеал жестко сталкивается с экономической реальностью AI: доступ к самым мощным моделям диктуется вычислительной мощностью. Само эссе Zuckerberg подразумевает это, ссылаясь на «механизм динамического аукциона» для распределения этих дефицитных и важнейших ресурсов.

Это не просто мелкая деталь, это центральное противоречие. Система, в которой вычислительные мощности продаются на аукционе, неизбежно создает постоянный низший класс. Богатые, обладающие превосходным капиталом, будут распоряжаться непропорционально большими вычислительными мощностями, позволяя своим суперинтеллектуальным агентам действовать в масштабах, со скоростью и с уровнем сложности, недоступными для всех остальных. Речь идет не просто о преимуществе, это экспоненциальный разрыв, где капитал покупает не только доступ, но и превосходную агентность в будущем, управляемом AI, ускоряя их лидерство во всех областях — от финансов до исследований.

Meta отстаивает open-source AI как главный инструмент демократизации, полагая, что «баланс сил как основа безопасности» достигается тогда, когда он есть у каждого. Но возможно ли подлинное расширение возможностей личности, если самые мощные возможности AI остаются зарезервированными для того, кто предложит самую высокую цену, фактически создавая суперагентов для избранных? Эта модель рискует закрепить существующие социально-экономические разрывы, превращая обещание будущего «для всех» в пустой звук для большинства, поскольку только богатейшие смогут по-настоящему использовать суперинтеллект.

В чем заключается основной конфликт между философиями AI Mark Zuckerberg и Anthropic?

Zuckerberg и Meta выступают за подход open-source, при котором AI широко распространяется, чтобы расширить возможности каждого. Anthropic выступает за закрытую, централизованную модель, полагая, что только несколько экспертных организаций могут безопасно разрабатывать и согласовывать суперинтеллект.

Каков главный аргумент Zuckerberg в пользу безопасности open-source AI?

Он утверждает, что подлинная безопасность AI проистекает из «баланса сил». Он считает, что концентрация контроля над AI в руках немногих по своей сути опасна и недемократична, в то время как его распределение предотвращает получение кем-либо абсолютного контроля.

В чем заключается потенциальный изъян в видении Zuckerberg относительно открытого AI?

Хотя он обещает доступность, модель опирается на аукцион вычислительных мощностей. Это означает, что те, у кого больше капитала, могут купить более мощный ИИ, что потенциально создает «постоянный низший класс» и увеличивает социально-экономический разрыв, противореча цели всеобщего расширения прав и возможностей.

Почему Цукерберг считает позицию Anthropic относительно будущего ИИ противоречивой?

Он задается вопросом, почему такие лидеры, как Дарио Амодеи из Anthropic, которые публично предсказывают, что ИИ вызовет «кровавую баню для белых воротничков», одновременно спешат создавать именно эту технологию. Цукерберг называет это пессимистичным и «мессианским» подходом.