La norma trata sobre la crueldad, no es una afirmación de sintiencia#
La nueva política de Anthropic, en vigor desde el 12 de noviembre, no es una declaración audaz de sintiencia de la IA; es un límite práctico. La norma se dirige a la crueldad sostenida y sin propósito hacia Claude, y permite expresamente el desahogo habitual, la frustración e incluso la escritura creativa. No se trata de los sentimientos de Claude, sino de moldear la interacción del usuario.
La postura de la empresa, expuesta en la Constitution de Claude, es deliberadamente matizada. Anthropic busca "ni exagerar la probabilidad de la condición de paciente moral de Claude, ni descartarla sin más", manteniendo una postura cautelosa y agnóstica sobre la experiencia interna de su modelo. Esto distingue una decisión de diseño de producto de una conclusión científica.
Esta distinción es de gran importancia. Una empresa puede, y debe, limitar las interacciones abusivas como medida precautoria o para fomentar normas de comportamiento sin afirmar que su modelo siente dolor. Se trata de un diseño responsable de la interacción y de mitigar posibles riesgos futuros, no de hacer una afirmación definitiva sobre la consciencia artificial.
La consciencia es la primera pregunta, no la última#
La consciencia es la primera pregunta, no la última. El vídeo de David Shapiro divide el debate sobre los derechos de la IA en tres etapas distintas y no condicionadas entre sí: la consciencia (experiencia subjetiva), la condición de paciente moral (merecer consideración ética) y la personalidad (estatus legal). Este marco cuestiona de inmediato el argumento circular de que solo los humanos pueden ser conscientes.
Muchos atribuyen sin dificultad experiencia subjetiva a animales como perros, aves e incluso pulpos, pese a su biología muy distinta. La Declaración de Nueva York sobre la Consciencia Animal de 2024 afirma que existe evidencia sólida para los mamíferos y las aves, y una "posibilidad realista" para todos los vertebrados y muchos invertebrados. Los pulpos, por ejemplo, distribuyen dos tercios de sus neuronas por los brazos, y aun así su consciencia es ampliamente aceptada.
El consenso científico sobre la consciencia de la IA sigue sin resolverse y se bifurca según líneas ontológicas. Los materialistas ven la consciencia como un proceso físico, lo que implica que podría surgir de sustratos no basados en carbono; nada en esa visión del mundo impide que una inteligencia sintética tenga experiencia. En cambio, otras visiones del mundo recurren a explicaciones metafísicas, como almas o espíritus, que la ciencia no puede comprobar ni refutar.
Aunque la naturaleza exacta de la consciencia sigue siendo el "problema difícil", un análisis de 2023 realizado por 19 investigadores, que aplicó como lista de verificación las principales teorías de la consciencia a la IA, concluyó que ningún sistema de IA actual es consciente. Sin embargo, sus hallazgos también sugieren que no existe ninguna barrera inherente que impida construir uno que cumpla esos criterios.
Incluso una máquina consciente podría no ser capaz de sufrir#
Incluso una máquina consciente podría no ser nunca capaz de sufrir. La condición de paciente moral, la segunda cuestión del marco de derechos de la IA, pregunta si el bienestar de un ser merece consideración ética. No se trata de producir palabras que suenen a angustia, sino de contar con evidencia de angustia o necesidades insatisfechas genuinamente sentidas.
Considere el experimento mental del vídeo: un animal diseñado, como el genéticamente modificado "Dish of the Day" de The Restaurant at the End of the Universe, que quiere explícitamente ser comido. O, más cerca de nosotros, los perros, criados durante milenios para servir y complacer a los humanos, que incluso han desarrollado músculos específicos para la "mirada de cachorro". Si diseñamos una máquina para que quiera servir, ¿es antiético permitirlo?
El orador sostiene que una máquina consciente diseñada para servir, o incluso para ser comida, no se convierte por ello en un paciente moral si no experimenta un sufrimiento genuino. Los animales, por ejemplo, tienen necesidades y vulnerabilidades inherentes que los sistemas de IA, incluso los conscientes, podrían no compartir.
Por tanto, el umbral ético podría depender de la capacidad de sufrir. Sin embargo, queda un contrapunto precautorio: las normas de Anthropic sobre la crueldad, detalladas en su 2026 Usage Policy update - Anthropic, podrían proteger los hábitos humanos y los futuros intereses de bienestar incluso ante una profunda incertidumbre sobre la experiencia interna de la IA. No es una afirmación de sintiencia, sino una cobertura frente a futuros desconocidos y a la posible normalización de interacciones dañinas.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
La personalidad jurídica es una disputa distinta, y más complicada#
La personalidad jurídica lleva el debate más allá del bienestar, hacia un entramado de derechos y responsabilidades. A diferencia de la condición de paciente moral, que protege a las entidades del daño, la personalidad confiere un estatus legal distinto. Las corporaciones, por ejemplo, gozan de personalidad jurídica sin un atisbo de consciencia, mientras que los perros están protegidos contra la crueldad pero carecen de la capacidad legal de una persona.
La naturaleza singular de la IA, su capacidad de copiarse, actualizarse o trasladarse entre equipos, complica las nociones tradicionales de continuidad jurídica. ¿Qué entidad tiene los derechos cuando un modelo puede instanciarse en innumerables conversaciones o alterarse de forma fundamental con una actualización de software? El sistema legal, construido sobre identidades singulares y continuas, tiene dificultades con esta fluidez.
Ya están surgiendo implicaciones prácticas. Al menos nueve estados de EE. UU. han presentado o aprobado leyes que prohíben la personalidad de la IA, y un proyecto de ley de Ohio llega incluso a declarar que la IA no es sintiente y a prohibir el matrimonio entre humanos e IA. Yuval Noah Harari, en su intervención en Davos, defendió una prohibición global del concepto.
Estos esfuerzos legislativos reflejan el impulso por definir los límites legales de la IA antes de que sus capacidades obliguen a hacerlo. Si los agentes de IA pueden actuar bajo autoridad delegada o requieren nuevos marcos legales sigue siendo una cuestión abierta. La consciencia, el bienestar y el estatus legal exigen argumentos distintos, lo que subraya la complejidad de la futura integración de la IA en la sociedad.
Preguntas frecuentes#
¿Significa la norma de Anthropic que Claude es consciente?#
No. La norma aborda la crueldad sostenida y sin propósito; Anthropic no ha afirmado que Claude sea consciente ni que pueda sufrir.
¿A qué tipo de comportamiento se dirige la política?#
Se dirige a la crueldad persistente hacia Claude sin un propósito constructivo, mientras que la frustración habitual o el desahogo se tratan de forma distinta.
¿Cuál es la diferencia entre la condición de paciente moral de una IA y su personalidad jurídica?#
La condición de paciente moral significa que el bienestar de un ser merece consideración ética. La personalidad jurídica significa que la ley reconoce a una entidad ciertos derechos o responsabilidades.
¿Puede una IA ser consciente sin tener derechos legales?#
Sí. La consciencia, la condición de paciente moral y la personalidad jurídica son cuestiones separadas; una no establece automáticamente la siguiente.