Los humanos simplemente tomaron algunas medidas para proteger los sentimientos de Cloud. Esto es lo que significa.

El jueves pasado, Anthropic actualizó política de usoEstá evolucionando casi tan rápido como la inteligencia artificial, pero lo que destaca en las revisiones recientes es el énfasis en proteger a los agentes de IA de los humanos.

En una sección titulada "Abordar el abuso contra nuestros modelos", Anthropic anunció que prohibiría "el abuso o la crueldad continuos e innecesarios hacia nuestros modelos". Esto se logra principalmente cuando Claude pone fin preventivamente a la conversación.

Anthropic se apresura a señalar que estas medidas no serán provocadas por "la frustración común de los usuarios, reacciones negativas, temas creativos oscuros o pruebas e investigaciones de modelos". Está claro, sin embargo, que ahora existe un nuevo status quo en el que, independientemente de si los agentes de IA tienen sentimientos potencialmente heridos o no, sus creadores quieren que los tratemos como tales.

Hasta ahora, las restricciones al uso de Claude se han centrado en el interés público de proteger a los usuarios o ciertas versiones del servicio. Por ejemplo, Anthropic se apresuró a imponer límites estrictos a los tipos de fantasías sexuales que sus agentes podían realizar, o a tratar de recopilar información operativa sobre la comisión de actos violentos para (con suerte) evitar su complicidad en futuros ataques terroristas o incidentes con víctimas masivas. Pero las revisiones recientes marcan un cambio en el enfoque de la protección, lejos de los usuarios y las comunidades tangibles del mundo real y hacia los propios agentes de IA.

Por supuesto, todo esto sólo alimenta el debate sobre si la inteligencia artificial es consciente, que es mucho más amplio de lo que podría pensarse. de acuerdo a tiempos de nueva yorkEl cofundador antrópico y teórico de la verdad sobre la conciencia de la inteligencia artificial, Chris Olah, llevó recientemente su caso al Vaticano y a un pequeño grupo de eruditos religiosos, pero finalmente rechazaron sus afirmaciones y se negaron a ponerse de su lado.

Sin embargo, no espere que sus diferencias pongan fin al debate. La nueva política de uso entrará en vigor el 12 de noviembre de 2026, momento en el que consideraremos que la inteligencia artificial tiene la capacidad de sentir u ofender, pase lo que pase.