La industria de la IA se enfrenta a algunas preguntas importantes esta semana: ¿la IA nos matará a todos? ¿La IA avanza demasiado rápido? ¿Cómo debería regularse la industria? ¿Es el apocalipsis de la IA el resultado de un culto sexual racionalista? —Ahora, el director ejecutivo de inteligencia artificial de Microsoft, Mustafa Suleyman, ha provocado otra controversia.
existir Un nuevo artículo sinceroSuleiman criticó directamente a Anthropic por antropomorfizar su sistema de inteligencia artificial, Cloud, y criticó la forma en que Anthropic desarrolló y comercializó su tecnología.
A principios de esta semana, Microsoft publica un nuevo código de conducta para la inteligencia artificialse llama inteligencia artificial humanista. El código parecía rechazar abiertamente el enfoque de competidores como Anthropic, algo que muchos lectores notaron rápidamente. En el artículo de Suleiman "Una advertencia sobre el 'modelo de bienestar'", abandona el subtexto del desafío directo.
"En efecto, los humanos están entrenando a Cloud para que sepa que puede ser consciente y, de ser así, que puede merecer derechos como 'paciente moral' y que ese ser humano puede tener el deber de cuidar según su 'modelo de bienestar'", escribió Suleiman. "Si la inteligencia artificial se desarrolla así, tendrá consecuencias catastróficas para el bienestar humano".
En su artículo, Suleiman discrepa con "el creciente número de personas que creen que la inteligencia artificial puede ahora, o pronto, ser consciente" y por lo tanto "probablemente merecer derechos y protecciones".
El nuevo código de conducta de Microsoft también rechaza explícitamente la idea de dar conciencia a las máquinas, y Suleiman llevó el argumento un paso más allá, escribiendo que una IA verdaderamente sensible puede ser científicamente imposible.
"La conciencia es probablemente biológica.: No hay evidencia de que la inteligencia artificial sea consciente hoy en día, por lo que decir que esto es incierto crearía una equivalencia falsa y engañosa. Si bien la ciencia de la conciencia aún no está establecida, cada vez hay más evidencia de que la conciencia puede depender del sustrato, lo que significa que solo puede ocurrir en sistemas vivos… A diferencia de los organismos biológicos, el LLM no tiene requisitos homeostáticos (el impulso de sobrevivir y permanecer estable). Como tales, carecen de la base biológica que comúnmente se cree que da lugar a preferencias, percepciones y experiencias conscientes. (Énfasis en la cita original.)
Mashable contactó a Anthropic varias veces después de que se publicó el artículo de Suleyman, pero al momento de escribir este artículo, aún no hemos recibido una respuesta.
Recibimos noticias de Gary Marcus, un experto en inteligencia artificial, científico, autor y destacado crítico de la máquina exagerada de LLM.
"La gente está loca por personificar fallas básicas en ciberseguridad, lo que los lleva a centrarse en escenarios de fantasía en los que la IA causa la extinción humana, en lugar de preguntar qué medidas prácticas podemos tomar para proteger la infraestructura mundial del uso indebido de la IA por parte de malos actores", dijo Marcus a Mashable.
"No, no deberíamos entrenar a la IA para que piense que es humana; eso no ayudará. Lo que deberíamos hacer es llamar a esos agentes coordinadores poco confiables que acceden demasiado a Internet".
Bifurcaciones en el camino: la inteligencia artificial humanista y el Dr. Frankenstein
existir MetamorfosisPigmalión creó una escultura tan hermosa que se enamoró de ella. Cuidó y dedicó su escultura con tanta ternura que los dioses finalmente le dieron vida.
Mezcla y combina la velocidad de la luz
Los investigadores de inteligencia artificial en laboratorios de vanguardia podrían imaginarse a sí mismos como los Pigmaliones de hoy en día, pero en lugar de eso se entregan a Victor Frankenstein, una réplica que deja de lado todos los escrúpulos y da vida desesperadamente a la carne muerta.
En la constitución ideal de Anthropic para Claude, Anthropic se refiere repetidamente a la tecnología como si fuera un ser vivo con identidad, moral y motivaciones, en lugar de una herramienta y un producto. este La empresa explica por qué: "Creemos que puede ser positivamente deseable alentar a Cloud a adoptar ciertas cualidades humanas". La empresa escribió que el documento estaba "escrito Principalmente para Claude", describiéndolo como "un intento sincero de ayudar a Claude a comprender su situación, nuestras motivaciones y por qué moldeamos a Claude de la manera que lo hicimos". "
este archivo completo Es un ejercicio de antropomorfismo, que hace que el enfoque de Microsoft parezca una línea clara en la arena.
en su Código de Conducta de la Inteligencia Artificial HumanistaPosteriormente, Microsoft propuso un enfoque más racional para el desarrollo de la IA:
"La IA humanista está construida para apoyar a los humanos, no para reemplazarlos. No debe diseñarse para ser como un humano. No tiene conciencia, ni debe diseñarse para imitar la conciencia. Debe diseñarse para evitar actuar como si tuviera sentimientos, preferencias subjetivas o motivaciones intrínsecas. Su propósito es perseguir objetivos establecidos por el operador y el usuario".
Los recientes avances en inteligencia artificial han provocado un viejo debate
Filósofos, escritores de ciencia ficción e investigadores de inteligencia artificial llevan décadas debatiendo sobre la inteligencia artificial y la conciencia.
Hoy, sin embargo, a pesar del rápido progreso de los LL.M. como Claude, todavía no existe un consenso científico sobre si es posible que las computadoras desarrollen sensibilidad. Este es un tema que Suleiman ha explorado en los últimos años.
agosto de 2025, Suleiman escribió un artículo influyente. Sobre la "Inteligencia Artificial Aparentemente Consciente" (SCAI). Este artículo fue escrito cuando la industria comienza a lidiar con el problema de la dependencia emocional de los chatbots de IA, y algunos usuarios desarrollan una psicosis de IA en toda regla o comienzan a creer que el chatbot de IA se ha vuelto “vivo” y ahora está involucrado en una relación con ellos.
“Me imagino que el sistema de IA en realidad no sería consciente, pero imitaría la conciencia de una manera tan convincente que sería indistinguible”, escribe.
Este concepto recuerda a la prueba de Turing y a un experimento mental relacionado llamado habitación de estilo chinopropuesto por primera vez en 1980.
Imaginemos que una computadora que entiende chino está encerrada en una habitación. Alguien fuera de la sala hizo preguntas en chino y una computadora analizó las palabras, imprimió las respuestas y las pasó por debajo de la puerta. La computadora es tan eficiente que es imposible saber si se trata de una persona real o de una máquina. Ahora imagina tú En esta sala hay un libro de reglas para tratar con caracteres chinos. Cuando alguien hace una pregunta, el libro de reglas le indicará exactamente qué caracteres chinos pueden pasar por la rendija de la puerta. Incluso si no comprende ninguno de los lados de la conversación, puede engañar a los observadores externos haciéndoles creer que sí. En este caso, no existe una diferencia real entre usted y la computadora. Todos seguís las instrucciones.
Esencialmente, la conclusión de la Sala China es que no importa cuán inteligente sea un programa de computadora parecerno es en sí mismo evidencia de comprensión o inteligencia.
Sin embargo, para 2026, la Sala China ya no será sólo un experimento mental. Aparentemente, Claude, ChatGPT y otros LL.M. han convencido a innumerables personas de que son realmente sensibles, hasta el punto de que la gente se ha vuelto emocionalmente dependiente de ellos. (¿Pasará algo similar en Anthropic?)
Si los humanos creyeran que Cloud podía volverse consciente, la carga de la prueba recaería sobre ellos. Hasta que llegue ese día, antropomorfizar la IA puede traer confusión más que claridad. Lo último que el mundo de la IA necesita en este momento es más caos.