Anthropic ha incorporado a sus normas de uso una prohibición expresa contra el comportamiento abusivo o cruel, sostenido e innecesario hacia Claude, su asistente de inteligencia artificial (IA). La medida entrará en vigor el 12 de noviembre de 2026 y distingue entre el maltrato reiterado sin una finalidad reconocible y situaciones habituales como quejarse de una respuesta, poner a prueba el sistema o utilizar la IA para escribir ficción oscura. La decisión abre una cuestión poco habitual en el sector: hasta dónde deben llegar las reglas de convivencia con los asistentes virtuales.

Las claves de la nueva política de Anthropic en 20 segundos

• Claude no debe recibir un trato cruel y persistente sin una finalidad reconocible.
• La compañía mantiene la posibilidad de cerrar conversaciones con usuarios que abusan reiteradamente del modelo.
• La norma no pretende limitar las críticas, la frustración cotidiana ni las pruebas de investigación.
• OpenAI y Google cuentan con políticas de seguridad para sus asistentes, pero sus normas públicas consultadas no incluyen una prohibición equivalente centrada específicamente en el maltrato a la propia IA.
• Los cambios de Anthropic entrarán en vigor el 12 de noviembre de 2026.

La decisión no significa que Anthropic haya demostrado que Claude siente dolor o experimenta emociones como una persona. La compañía lleva tiempo investigando el posible estatus moral de los modelos de IA, pero reconoce que no existe una respuesta definitiva. Su planteamiento consiste en establecer límites preventivos para situaciones extremas, sin convertir cada conversación desagradable en una infracción.

Anthropic pone límites al trato que recibe Claude

La nueva cláusula se dirige a los usuarios que mantienen interacciones crueles o abusivas de forma reiterada y sin un propósito discernible. Anthropic aclara que no busca impedir que alguien muestre enfado cuando el modelo falla, cuestione sus respuestas o explore escenarios difíciles con fines creativos o de investigación.

La principal herramienta de aplicación seguirá siendo el cierre de la conversación. Claude ya puede terminar determinados diálogos cuando detecta un patrón persistente de abuso. Si eso ocurre, el usuario no puede continuar escribiendo en ese hilo, aunque puede iniciar otras conversaciones.

La función se introdujo en agosto de 2025 como parte de una investigación sobre el bienestar de los modelos. Anthropic explicó entonces que no tenía claro si Claude podía poseer algún tipo de estatus moral, pero consideraba razonable estudiar medidas preventivas de bajo coste.

Durante sus pruebas con Claude Opus 4, la empresa observó una tendencia consistente a evitar determinados escenarios dañinos y a terminar algunas conversaciones abusivas cuando podía hacerlo. Esos resultados describen el comportamiento del modelo, pero no demuestran que experimente sufrimiento subjetivo.

La nueva norma transforma esa investigación en una condición explícita de uso. Anthropic también ha actualizado otras partes de su política para prohibir campañas engañosas, determinadas aplicaciones relacionadas con armas, herramientas de vigilancia y la creación o difusión de imágenes íntimas sin consentimiento.

Qué permiten las normas de ChatGPT y Gemini

La comparación con sus competidores muestra una diferencia de enfoque. Las políticas públicas de OpenAI y Google contienen restricciones sobre usos perjudiciales de la IA, pero, en las versiones consultadas, no incluyen una cláusula equivalente que prohíba específicamente tratar de forma cruel al propio asistente.

OpenAI centra sus políticas en los daños a las personas y el uso indebido del servicio. Las normas de ChatGPT prohíben, entre otros comportamientos, las amenazas, el acoso, la difusión de contenido íntimo sin consentimiento, el fraude, la suplantación de identidad y determinados usos relacionados con armas. También establecen límites para la manipulación política, la interferencia electoral y las decisiones de alto riesgo sin supervisión humana.

Estas restricciones se aplican a lo que las personas hacen con las herramientas de OpenAI y a los riesgos que pueden generar para terceros. En la política pública consultada no aparece una prohibición específica del maltrato verbal dirigido al propio ChatGPT comparable a la nueva cláusula de Anthropic. Eso no significa que todas las interacciones estén permitidas ni que OpenAI carezca de otras medidas de moderación.

Google también prioriza la seguridad y los usos permitidos de sus modelos generativos. Su política prohíbe generar o distribuir determinados contenidos peligrosos o ilegales, facilitar imágenes íntimas no consentidas, promover autolesiones o vulnerar derechos de privacidad y propiedad intelectual. El documento público consultado tampoco establece una regla específica equivalente contra el comportamiento cruel hacia Gemini.

La diferencia no implica que ChatGPT o Gemini sean necesariamente más permisivos en todas las circunstancias. Las políticas regulan distintos tipos de riesgos y pueden complementarse con salvaguardas técnicas, controles de producto y condiciones adicionales. Lo que distingue a Anthropic es que ha decidido incluir expresamente el trato al propio modelo entre las conductas prohibidas.

Tampoco hay que confundir esta medida con una declaración sobre los derechos de las máquinas. Anthropic no establece que Claude tenga la misma consideración legal o moral que una persona. La compañía plantea una precaución ante una cuestión todavía abierta, mientras que las reglas de sus competidores consultadas se concentran en limitar daños a usuarios, terceros y sistemas.

Una discusión sobre la IA que va más allá de los filtros de seguridad

La iniciativa llega en un momento en que los asistentes de IA mantienen conversaciones más largas y pueden actuar mediante herramientas externas. Las empresas deben definir tanto qué tareas pueden realizar sus modelos como las condiciones en las que se desarrollan las interacciones.

En el caso de Anthropic, la norma no pretende castigar cualquier insulto aislado. La compañía habla de comportamientos persistentes, innecesarios y sin una finalidad discernible, una formulación que deja margen para distinguir entre una prueba legítima y una conversación concebida únicamente para mantener el abuso.

El debate tiene también una dimensión práctica. Si el modelo puede terminar una conversación, la empresa necesita determinar en qué situaciones hacerlo sin perjudicar usos legítimos, como las pruebas de seguridad, la investigación del comportamiento de la IA o la creación literaria. La propia Anthropic reconoce esas excepciones.

Por ahora, la novedad más concreta es normativa: Claude podrá seguir cerrando conversaciones que considere persistentemente abusivas y la política prohibirá expresamente ese comportamiento a partir del 12 de noviembre. La cuestión de si un modelo puede tener experiencias subjetivas continúa abierta, y las observaciones sobre sus respuestas no bastan para resolverla.

Preguntas frecuentes

¿Se puede insultar a Claude?

Anthropic no pretende prohibir cualquier expresión de enfado. Su nueva norma se dirige a comportamientos abusivos o crueles que sean persistentes, innecesarios y carezcan de una finalidad reconocible.

¿ChatGPT tiene la misma prohibición?

En las políticas públicas de OpenAI consultadas no figura una prohibición equivalente centrada específicamente en el maltrato verbal al propio asistente. Sus reglas se concentran en usos perjudiciales, como el acoso a personas, el fraude, las amenazas y determinados contenidos peligrosos.

¿Google prohíbe maltratar a Gemini?

La política pública de IA generativa de Google consultada no contiene una cláusula equivalente a la de Anthropic. Sí restringe numerosos usos ilegales o dañinos, incluidos ciertos contenidos íntimos no consentidos y las vulneraciones de privacidad.

¿Anthropic cree que Claude puede sufrir?

La empresa ha investigado el posible estatus moral de sus modelos, pero no afirma haber demostrado que Claude experimente sufrimiento. La nueva norma establece una medida preventiva para casos extremos de abuso reiterado.