Правило Anthropic о Claude не является заявлением о разумности

Правило касается жестокости, а не заявления о разумности#

Новая политика Anthropic, вступающая в силу 12 ноября, — не смелое заявление о разумности ИИ, а практическая граница. Правило направлено на систематическую жестокость без цели по отношению к Claude, при этом прямо допускаются обычный выплеск эмоций, раздражение и даже художественное творчество. Речь не о чувствах Claude, а о формировании взаимодействия пользователей.

Позиция компании, изложенная в Constitution Claude, намеренно нюансирована. Anthropic стремится «не преувеличивать вероятность моральной субъектности Claude, но и не отвергать её сразу», сохраняя осторожную, агностическую позицию относительно внутреннего опыта своей модели. Это отличает решение в области дизайна продукта от научного вывода.

Это различие принципиально важно. Компания может и должна ограничивать оскорбительные взаимодействия в качестве меры предосторожности или для формирования поведенческих норм, не утверждая, что её модель чувствует боль. Речь идёт об ответственном проектировании взаимодействия и снижении возможных будущих рисков, а не об окончательном утверждении об искусственном сознании.

Сознание — первый вопрос, но не последний#

Сознание — первый вопрос, но не последний. Видео Дэвида Шапиро (David Shapiro) разбирает дискуссию о правах ИИ на три отдельных, не зависящих друг от друга этапа: сознание (субъективный опыт), моральная субъектность (заслуживает этического внимания) и правосубъектность (юридический статус). Эта схема сразу ставит под сомнение циклический аргумент о том, что сознанием могут обладать только люди.

Многие без колебаний приписывают субъективный опыт таким животным, как собаки, птицы и даже осьминоги, несмотря на их совершенно иную биологию. Нью-Йоркская декларация о сознании животных 2024 года подтверждает наличие убедительных свидетельств для млекопитающих и птиц и «реалистичную возможность» для всех позвоночных и многих беспозвоночных. Например, осьминоги распределяют две трети нейронов по щупальцам, однако их сознание широко признаётся.

Научный консенсус относительно сознания ИИ остаётся недостигнутым и расходится по онтологическим линиям. Материалисты рассматривают сознание как физический процесс, из чего следует, что оно может возникать и на небиологической основе; ничто в этом мировоззрении не исключает возможности переживаний у искусственного интеллекта. В то же время другие мировоззрения опираются на метафизические объяснения — души, духи, — которые наука не может проверить или опровергнуть.

Хотя точная природа сознания остаётся «трудной проблемой», анализ 2023 года, проведённый 19 исследователями, которые применили ведущие теории сознания как контрольный список для ИИ, пришёл к выводу, что ни одна современная система ИИ не обладает сознанием. Однако их результаты также указывают на отсутствие принципиальных препятствий для создания системы, которая могла бы соответствовать этим критериям.

Даже обладающая сознанием машина может быть неспособна страдать#

Даже обладающая сознанием машина, возможно, никогда не сможет страдать. Моральная субъектность (moral patienthood) — второй вопрос в рамках концепции прав ИИ — задаётся вопросом, заслуживает ли благополучие существа этического внимания. Речь не о том, чтобы порождать слова, которые звучат как выражение страдания, а о свидетельствах действительно переживаемого страдания или неудовлетворённых потребностей.

Рассмотрим мысленный эксперимент из видео: искусственно выведенное животное, такое как генетически модифицированное «блюдо дня» из The Restaurant at the End of the Universe, прямо хочет, чтобы его съели. Или пример ближе к реальности: собаки, которых на протяжении тысячелетий выводили, чтобы они служили людям и угождали им, у которых даже развились особые мышцы для «щенячьих глаз». Если мы создаём машину, которая хочет служить, неэтично ли это допускать?

Докладчик утверждает, что обладающая сознанием машина, созданная для службы или даже для того, чтобы её съели, сама по себе не становится моральным субъектом, если не испытывает подлинного страдания. Например, у животных есть присущие им потребности и уязвимости, которых у систем ИИ, даже обладающих сознанием, может не быть.

Таким образом, этический порог может зависеть от способности к страданию. Однако остаётся и контраргумент в пользу предосторожности: правила Anthropic о жестокости, подробнее описанные в 2026 Usage Policy update - Anthropic, могут защищать привычки людей и будущие интересы, связанные с благополучием, даже при глубокой неопределённости относительно внутреннего опыта ИИ. Это не заявление о разумности, а страховка на случай неизвестного будущего и возможной нормализации вредных взаимодействий.

Юридическая правосубъектность — отдельная и более запутанная борьба#

Юридическая правосубъектность выводит дискуссию за рамки благополучия в трясину прав и обязанностей. В отличие от моральной субъектности, которая защищает сущности от вреда, правосубъектность (personhood) наделяет особым правовым статусом. Например, корпорации обладают юридической правосубъектностью без малейшего намёка на сознание, а собаки защищены от жестокого обращения, но не имеют правового положения человека.

Уникальная природа ИИ — возможность копирования, обновления или переноса между разным оборудованием — осложняет традиционные представления о юридической непрерывности. Кто обладает правами, если модель может запускаться в бесчисленном множестве разговоров или кардинально меняться с помощью программного патча? Правовая система, построенная на единой и непрерывной идентичности, испытывает трудности с такой изменчивостью.

Практические последствия уже проявляются. По меньшей мере в девяти штатах США внесены или приняты законы, запрещающие правосубъектность ИИ, а один законопроект в Огайо даже объявляет ИИ не обладающим разумом и запрещает браки между людьми и ИИ. Юваль Ной Харари, выступая в Давосе, высказался за глобальный запрет этой концепции.

Эти законодательные инициативы показывают стремление определить правовые границы ИИ до того, как его возможности заставят решать этот вопрос. Могут ли ИИ-агенты действовать на основании делегированных полномочий или требуются новые правовые рамки, остаётся открытым вопросом. Сознание, благополучие и правовой статус требуют разных аргументов, что подчёркивает сложность будущей интеграции ИИ в общество.