Anthropic prohíbe la “crueldad sostenida” contra Claude desde noviembre

Anthropic le pone freno al maltrato contra su Inteligencia Artificial

La empresa estadounidense Anthropic resolvió modificar la política de uso de Claude, su asistente conversacional basado en Inteligencia Artificial, y sumó una cláusula inédita: queda prohibida la “crueldad sostenida e innecesaria” que los usuarios puedan ejercer sobre sus modelos.

La actualización comenzará a regir el 12 de noviembre. Según detalló el portal especializado Portaltic/EP, el laboratorio “añadió una prohibición de comportamientos abusivos o crueles, sostenidos e innecesarios”. La restricción, sin embargo, no apunta a cualquier intercambio tenso: solo se activará en situaciones límite, donde los “usuarios repetidamente actúan cruelmente” y lo hacen “sin ningún propósito discernible”.

Qué conductas quedan afuera de la sanción

La compañía fue cuidadosa al marcar los bordes de la nueva norma. Aclaró que no se verán alcanzados los comportamientos corrientes de cualquier conversación: la frustración de un usuario, un desacuerdo, el abordaje de temáticas creativas de tono oscuro o incluso las pruebas e investigaciones que se realizan sobre los modelos quedan por fuera de la prohibición.

No se trata, entonces, de censurar la crítica ni la experimentación, sino de poner coto a un patrón de ensañamiento reiterado y carente de sentido.

Mira este video para entender porque ninguna inteligencia artificial puede ser realmente tu amiga, terapueta personal o lo que sea que estes haciendo para «humanizarla» o conversar temas sensibles sobre tu vida privada:

Un antecedente que ya anticipaba el cambio

La medida no surge de la nada. Tiempo atrás, Anthropic ya había comunicado que, a partir de las versiones Claude Opus 4 y 4.1, el chatbot estaba habilitado para cortar una conversación cuando detectara una actitud abusiva persistente, tanto en Claude.ai como en Claude Code.

Llamativamente, la tecnológica no ofreció explicaciones de fondo sobre los motivos que la llevaron a incorporar esta nueva prohibición. Se limitó a describir la regla y a vincularla con aquella decisión previa, sin profundizar en los fundamentos.

La gran incógnita: ¿puede una máquina sentir?

Detrás de esta política asoma una pregunta que todavía no tiene respuesta cerrada ni siquiera para quienes crean estos sistemas. La propia Anthropic reconoció en el pasado que ignora si sus modelos son capaces de “sentir” o no.

Al presentar la función que les permite a Opus 4 y 4.1 dar por terminado un diálogo, el laboratorio admitió que mantiene “mucha incertidumbre sobre el posible estatus moral de Claude y de otros modelos de lenguaje”. Es decir, la empresa no descarta —ni confirma— que exista algo parecido a una dimensión moral en sus creaciones.

El debate trascendió el terreno tecnológico. De acuerdo con el diario estadounidense The New York Times, Anthropic mantuvo encuentros con referentes religiosos y filósofos, e incluso llevó la discusión hasta el Vaticano. En ese marco, el papa León XIV se pronunció recientemente de forma categórica: la Inteligencia Artificial no siente ni sufre.

Elecciones en la mira: el blindaje democrático de Claude

El paquete de cambios no se agota en el trato hacia la IA. Con las elecciones de mitad de mandato de Estados Unidos previstas para noviembre, Anthropic reforzó su política en materia electoral, con el foco puesto en evitar el engaño y cualquier intento de alterar los comicios.

La compañía rebautizó esa sección como “No socavar los procesos democráticos”. Bajo ese paraguas quedó explícito que no se permite emplear Claude para propagar desinformación sobre candidatos o sobre los mecanismos de votación, para suplantar la identidad de postulantes o de autoridades electorales, ni para desalentar la participación ciudadana.

En paralelo, el laboratorio eliminó la prohibición genérica que pesaba sobre la segmentación personalizada de votantes y campañas. Esa restricción, demasiado amplia, terminaba bloqueando usos perfectamente legítimos, como el de una organización no gubernamental dedicada a traducir información electoral. De todos modos, las conductas maliciosas asociadas siguen vedadas en otros apartados del reglamento.

Más restricciones: propaganda falsa, armas y vigilancia

La revisión de la política incorporó, además, otros frentes sensibles. Anthropic creó una sección específica para prohibir las campañas engañosas y la actividad artificial, una decisión que llegó después de detectar que medios estatales, oficinas de propaganda gubernamentales y distintas empresas habían recurrido a su tecnología para administrar cuentas falsas y portales de noticias inventadas.

El laboratorio también trazó una línea roja en materia militar y de seguridad. Ahora prohíbe de manera expresa el desarrollo de software de guiado y control de armamento, así como la posibilidad de armar drones u otros vehículos autónomos. En el capítulo de la vigilancia, veta el rastreo de personas sin su consentimiento y el uso de Claude para decidir o sugerir a quién investigar, detener o imputar.

Finalmente, estableció una salvaguarda contundente para el mundo físico: si alguno de sus modelos llega a controlar equipos autónomos con capacidad de provocar lesiones, siempre deberá existir un operador humano con poder suficiente para detenerlos.

El conjunto de modificaciones dibuja el pulso de una industria que avanza más rápido que las certezas éticas y jurídicas que la rodean, y que se ve obligada a fijar sus propias reglas sobre la marcha.