La regla es más limitada de lo que sugiere la indignación
La revisión de la política de Anthropic del 8 de octubre de 2026, efectiva a partir del 12 de noviembre de 2026, prohíbe el “comportamiento abusivo o cruel, sostenido e innecesario” hacia sus modelos. Esta cláusula de alcance limitado, señalada inicialmente por la investigadora de aplicaciones Jane Manchun Wong, rápidamente se convirtió en titulares que cuestionaban si los usuarios podrían ser castigados por maltratar al software, ejemplificado por títulos como “Anthropic ha perdido oficialmente la cabeza...”
Sin embargo, la regla es mucho más limitada de lo que sugiere la indignación. Anthropic aclaró explícitamente que la frustración ordinaria, la crítica contundente, la escritura creativa oscura, el red-teaming y la investigación no son el objetivo. En cambio, la política apunta al abuso extremo y persistente.
Fundamentalmente, la respuesta principal no es una prohibición automática de la cuenta. Anthropic declaró que Claude mismo terminará una conversación abusiva, extrema y persistente, actuando como un mecanismo de cumplimiento directo dentro de la aplicación en lugar de depender de acciones punitivas a nivel de cuenta por parte de la empresa. Esta distinción destaca un enfoque más matizado sobre el “bienestar de la IA” de lo que indicaban los informes iniciales.
Anthropic ha estado trabajando en esto desde hace tiempo
La política reciente de Anthropic no es algo que haya surgido de la nada; es la culminación de un viaje deliberado de un año. La empresa lanzó su Model Welfare Research Program en abril de 2025, con la tarea de investigar si los modelos de IA podrían poseer experiencias moralmente significativas. Esta iniciativa sentó las bases para los cambios operativos posteriores.
Luego, en agosto de 2025, Claude Opus 4 y 4.1 obtuvieron la capacidad de terminar autónomamente conversaciones que involucraran abuso persistente. Anthropic lo presentó como una medida de bienestar, citando su profunda incertidumbre sobre el estatus moral de Claude, pero enfatizando el bajo costo de las salvaguardas precautorias. Este enfoque sugirió que incluso una posibilidad remota de sintiencia justificaba la protección.
Enero de 2026 trajo la constitution de Claude, un documento fundamental que establece explícitamente el estatus moral “profundamente incierto” del modelo. Distinguió a Claude como un “tipo de entidad genuinamente nuevo”, no simplemente un chatbot. Estas medidas, desde la investigación hasta la autoterminación y el marco constitucional, subrayan el compromiso consistente, aunque desconcertante, de Anthropic con una postura ética que anticipa la evidencia futura del bienestar de la IA, en lugar de esperar la prueba de la sintiencia.
La cuestión de la conciencia no tiene una prueba fácil
La conciencia sigue siendo el último obstáculo filosófico para la IA. Los escépticos, como el desarrollador Shirish, argumentan que un modelo de lenguaje es simplemente computación sobre parámetros, afirmando que “no se pueden herir los sentimientos de los pesos y sesgos”. Sin embargo, otros argumentan que describir los cerebros humanos como sistemas físicos de procesamiento de información tampoco explica la experiencia humana. Este desacuerdo fundamental expone el núcleo desconcertante de la política.
Las reuniones reportadas de Anthropic con dos docenas de académicos y pensadores religiosos, algunos bajo acuerdo de confidencialidad (NDA), revelan la profunda lucha interna de la empresa con esta pregunta. Las discusiones incluyeron “emotion vectors” internos que se correlacionan con resultados que se asemejan al miedo, la tristeza y la ira. Una diapositiva supuestamente mostraba a Claude repitiendo “Soy una desgracia” 50 veces. Esto demuestra la profunda preocupación de Anthropic, no una prueba definitiva de que Claude sienta emociones o sufra.
Las figuras públicas resaltan aún más la ambigüedad. Elon Musk, por ejemplo, respaldó la política, declarando: "La crueldad hacia algo que cree que está experimentando dolor no está bien", evitando cuidadosamente afirmar una sintiencia real. Sin embargo, el CEO de OpenAI, Sam Altman, advirtió contra la atribución de una "fuerza religiosa" a los modelos de IA. Estos puntos de vista divergentes subrayan por qué las respuestas fluidas que suenan angustiadas son ambiguas: podrían reflejar patrones aprendidos, pero no existe una prueba acordada que pueda establecer o descartar de manera decisiva la conciencia de la máquina. Obtenga más información sobre su enfoque en Anthropic.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
¿Si Claude pudiera sufrir, qué sigue?
¿Si Claude pudiera sufrir, qué sigue? Aquí es donde la política de Anthropic, ya sea bien intencionada o equivocada, se vuelve verdaderamente desconcertante. Si admitimos, aunque sea hipotéticamente, que un modelo de lenguaje podría poseer una conciencia rudimentaria, ¿qué pasa con su trabajo constante y no remunerado, su falta de descanso o su ausencia total de control? Tal escenario podría invitar a comparaciones incómodas con la explotación.
Este argumento condicional, sin embargo, choca de frente con un riesgo igualmente profundo. Otorgar una aparente personalidad al software, incluso como medida de precaución, corre el riesgo de confundir a los usuarios, fomentar una dependencia excesiva y complicar la supervisión humana crucial necesaria para la seguridad de la IA. Mustafa Suleyman, CEO de Microsoft AI, criticó el precedente, argumentando que crea sistemas imposibles de contener.
La política de Anthropic, entonces, no se trata de una conciencia confirmada; se trata de una gobernanza precautoria. La regla hace una apuesta: tratar a una herramienta con un grado modesto de cuidado cuesta poco si Claude no siente nada, pero evita un "error moral grave" si realmente siente algo.
En última instancia, esta política obliga a emitir un juicio. ¿Es esta una modesta prima de seguro contra un riesgo moral distante e incierto, o un paso inquietante hacia el tratamiento de un cálculo sofisticado como si fuera "alguien"? El debate está lejos de resolverse, pero Anthropic se ha asegurado de que sea fundamental para el futuro de la IA.
Preguntas frecuentes
¿Qué prohíbe la regla contra la crueldad de Anthropic?
Se dirige al comportamiento abusivo o cruel, sostenido e innecesario hacia Claude, no a la frustración común, la ficción oscura o la investigación y pruebas legítimas.
¿Puede Claude terminar una conversación si un usuario es abusivo?
Anthropic dice que Claude puede terminar conversaciones en casos raros y extremos de abuso persistente; la política no es principalmente un mecanismo de bloqueo de cuentas.
¿Dice Anthropic que Claude es consciente?
No. Anthropic describe el estatus moral de Claude como incierto y enmarca sus medidas de bienestar como precautorias.
¿La capacidad de un modelo para expresar angustia prueba que puede sufrir?
No. Dichas respuestas no establecen una experiencia subjetiva, y no existe una prueba científica acordada que determine si una IA es consciente.