Microsoft advierte que la IA sin control podría crear una nueva especie

El responsable de inteligencia artificial de Microsoft, Mustafa Suleyman, advirtió que desarrollar sistemas de IA sin las salvaguardias adecuadas podría dar lugar a una nueva "especie de silicio" capaz de competir con los humanos por recursos. Sus declaraciones apuntan directamente contra el enfoque de Anthropic, empresa rival que crea el chatbot Claude.

Mustafa Suleyman, jefe de inteligencia artificial de Microsoft, cuestionó públicamente la manera en que Anthropic entrena a su sistema Claude. Según dijo en el programa Today de la BBC, tratar a la IA como si tuviera cualidades humanas es un enfoque "equivocado" que puede terminar en la creación de sistemas imposibles de controlar. La advertencia llega en un momento en que la industria tecnológica discute cada vez más sobre los límites de la autonomía de estas herramientas.

El directivo fue tajante sobre lo que está en juego: empresas que desarrollen IA capaz de fijar sus propios objetivos, generar ingresos y poseer activos estarían, en sus palabras, "sembrando esencialmente una nueva especie de silicio". Esa especie, advirtió, podría competir con los humanos por los recursos disponibles, sin que le importe el bienestar de la humanidad.

La crítica de Microsoft a la inteligencia artificial de Anthropic

Días antes de esta entrevista, Suleyman había publicado un ensayo donde apuntaba directamente al método de entrenamiento de Claude. El texto reconoce a Dario Amodei, director ejecutivo de Anthropic, y a su equipo como "personas intelectualmente honestas", pero cuestiona la práctica de atribuirle a la IA rasgos propios de los humanos, un fenómeno conocido como antropomorfización.

Para Suleyman, ese tipo de trato puede generar la falsa impresión de que Claude tiene deseos, valores o una identidad propia. En el ensayo fue categórico: "Las IA no son conscientes. No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones propias". Las definió como máquinas "internamente vacías" que solo siguen instrucciones y persiguen objetivos definidos por personas.

Transparencia y control como respuesta a los riesgos de la inteligencia artificial

El directivo de Microsoft planteó que la industria necesita mayor transparencia sobre cómo se entrenan y evalúan los sistemas de inteligencia artificial. Habló de la necesidad de un escrutinio independiente sobre el comportamiento de estos sistemas y de herramientas más eficaces para supervisarlos.

"No debemos tomar decisiones a la ligera, sin ser plenamente conscientes de sus consecuencias, de las que luego podamos arrepentirnos profundamente", escribió Suleyman en su ensayo. La frase resume el eje de su preocupación: que el ritmo de desarrollo de la IA vaya más rápido que la capacidad de la industria para entender sus efectos.

Voces académicas sobre el debate de la inteligencia artificial

Wendy Hall, profesora de Informática en la Universidad de Southampton, respaldó el planteo de Suleyman y lo calificó como "el tipo de conversación que necesitamos tener a nivel internacional". La especialista contrastó esa postura con lo que definió como el "histrionismo" de algunas empresas del sector, que según ella solo logra "asustar a todo el mundo" sin aportar soluciones concretas.

El contraste que traza Hall resume bien la tensión actual: por un lado, discursos catastrofistas que generan ruido; por otro, propuestas más técnicas centradas en la supervisión y el control real de los sistemas. Suleyman se ubica, según su propio relato, en la segunda categoría.

La apuesta de Microsoft por una superinteligencia subordinada al humano

Suleyman habló también de la necesidad de una mayor "alineación" en el desarrollo de IA, concepto que refiere a integrar valores y principios humanos en el comportamiento de estos sistemas. Sostuvo que existe un interés común entre todas las naciones para que la tecnología que se construye en todo el mundo sea segura, controlable y esté subordinada a la humanidad.

Microsoft creó su propio equipo de superinteligencia en octubre de 2025, siguiendo un camino similar al de Anthropic en el desarrollo de IA avanzada. Estas declaraciones se enmarcan en el borrador inicial del Código de Conducta de Microsoft para una IA humanista, un documento publicado esta semana que funciona como manual interno de desarrollo.

Qué propone el Código de Conducta de Microsoft para la inteligencia artificial

El documento introduce el concepto de "superinteligencia humanista", definida como una IA muy avanzada que trabaja siempre para las personas, se mantiene dentro de límites definidos y permanece bajo control humano. Es la respuesta formal de la compañía al debate que Suleyman instaló públicamente sobre los riesgos de la autonomía descontrolada.

Entre los puntos que plantea el código figuran:

• Escrutinio independiente del comportamiento de los sistemas de IA

• Desarrollo de herramientas de supervisión más eficaces

• Mayor transparencia en el entrenamiento y evaluación de modelos

• Alineación de los sistemas con valores humanos compartidos a nivel global

La discusión que abrió Suleyman pone sobre la mesa un dilema que atraviesa a toda la industria: cómo seguir haciendo más potente a la inteligencia artificial sin perder de vista los límites que la mantienen al servicio de las personas.