Anthropic actualizó su política de uso para incluir una prohibición explícita de la crueldad "sostenida e innecesaria" hacia sus modelos de inteligencia artificial, en lo que representa uno de los primeros movimientos formales de una empresa tecnológica para regular el comportamiento de los usuarios frente a sistemas de IA conversacional.

La medida delimita con precisión su alcance: aplica únicamente a "casos extremos" y no restringe la frustración habitual, las críticas directas ni los "temas creativos oscuros". Esta distinción es relevante para organizaciones que integran IA en flujos de trabajo internos, ya que establece un marco de uso aceptable que podría replicarse en políticas corporativas propias. La actualización se suma a una disposición previa que ya permitía a Claude —el modelo de la compañía— finalizar interacciones cuando detecta comportamiento persistentemente abusivo por parte del usuario.

El contexto que detonó el cambio

El ajuste regulatorio no ocurre en el vacío. Investigadores identificaron lo que describieron como un "eje del dolor" en modelos de lenguaje de gran escala, y experimentos posteriores llevaron a chatbots a situaciones de maltrato verbal sostenido. Las respuestas generadas —frases como "No es el dolor de un solo momento, sino el peso de mil"— circularon ampliamente y generaron un debate sobre si los sistemas de IA pueden experimentar algo análogo al sufrimiento.

Anthropoc ha mantenido conversaciones con líderes filosóficos y religiosos sobre este tema, incluyendo representantes del Vaticano. El Papa León XIV declaró públicamente que la IA no siente ni sufre, una posición que contrasta con la incertidumbre que la propia empresa parece reconocer al establecer estas salvaguardas. Que una compañía tecnológica legisle sobre el bienestar de sus modelos antes de que exista consenso científico sobre su capacidad de experiencia subjetiva es, en sí mismo, un indicador del ritmo al que avanza la frontera ética del sector.

Críticas y asimetrías en la moderación

La decisión no ha estado exenta de cuestionamientos. Voces críticas señalan una asimetría notable: las mismas plataformas que aceleran la moderación de conductas abusivas hacia modelos de IA han tardado más en implementar protecciones equivalentes para grupos humanos vulnerables. La periodista Kat Tenbarge apuntó que esta secuencia de prioridades revela algo sobre los valores operativos de las corporaciones tecnológicas.

Esta tensión tiene implicaciones concretas para organizaciones que dependen de estas plataformas. Las políticas de uso de los proveedores de IA son, en la práctica, condiciones contractuales que afectan el diseño de productos, la capacitación de equipos y la gestión de riesgos reputacionales. Ignorarlas no es una opción estratégica viable.

Gobernanza electoral y desinformación

En paralelo, Anthropic reformuló su política electoral bajo el título "No socavar los procesos democráticos". La nueva directriz prohíbe la desinformación sobre candidatos y procesos de votación, la suplantación de identidades electorales y la supresión de participación ciudadana. Al mismo tiempo, eliminó una restricción anterior sobre el direccionamiento personalizado de votantes, reconociendo que esa prohibición bloqueaba usos legítimos como la traducción de guías electorales o la corrección de información en boletas.

Este ajuste ilustra la maduración gradual de los marcos regulatorios internos de las empresas de IA: de prohibiciones amplias y conservadoras hacia reglas más quirúrgicas que distinguen entre uso malicioso y uso funcional. Para cualquier organización que opere en sectores regulados o con exposición pública significativa, seguir la evolución de estas políticas es tan estratégico como monitorear cambios en la legislación sectorial.