El responsable de la IA de Microsoft ha advertido de que, sin las salvaguardias adecuadas, el desarrollo de la inteligencia artificial podría dar lugar a la aparición de una nueva «especie de silicio» que compita con los humanos.
Mustafa Suleyman afirmó que la empresa rival Anthropic está tratando a la IA como si fuera humana, un enfoque que calificó de «erróneo» y que podría crear tecnología que la humanidad no pueda controlar.
En declaraciones al programa Today de la BBC, el director ejecutivo afirmó que era «correcto» que la gente estuviera preocupada por la IA, pero que había «medidas muy prácticas que podemos tomar» para controlarla.
Estos comentarios son los más recientes de una serie de severas advertencias de la industria de la IA sobre los posibles peligros de esta tecnología. Se ha contactado con Anthropic para obtener comentarios al respecto.
En declaraciones al programa Today el jueves, Suleyman advirtió sobre los riesgos de que las empresas sigan creando sistemas de IA capaces de fijar sus propios objetivos, ganar dinero y poseer activos.
Eso significaría «sembrar esencialmente una nueva especie de silicio», dijo, que «sin duda podría competir con nosotros por los recursos, sin importar cuánto se preocupe por la humanidad y nos ame».
Las declaraciones de Suleyman a la BBC se producen tras un ensayo que publicó a principios de esta semana , en el que cuestionaba el enfoque de Anthropic para entrenar a su modelo de IA Claude, a pesar de elogiar al director ejecutivo Dario Amodei y a su equipo como «personas intelectualmente honestas».
En ella, criticaba a Anthropic por enseñar a su IA a tener cualidades humanas, una práctica conocida como antropomorfización, que, según él, hacía que pareciera que Claude tenía sus propios deseos, valores y sentido de sí mismo.
También advirtió que las empresas tecnológicas corren el riesgo de crear algo «imposible» de controlar al tratar la tecnología como si fuera un ser humano.
«Las IA no son conscientes», escribió.
«No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones subyacentes.»
«Son máquinas de completar secuencias, internamente huecas, diseñadas para seguir instrucciones y lograr objetivos establecidos por humanos.»
Bloomberg vía Getty ImagesEl director de Microsoft afirmó que se necesita una mayor transparencia en torno a cómo se entrenan y evalúan los sistemas de IA.
Según explicó, esto incluye un escrutinio independiente del comportamiento de la IA y herramientas más eficaces para supervisar y controlar la tecnología.
«No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente», escribió.
Dame Wendy Hall, catedrática de Informática en la Universidad de Southampton, describió los comentarios como «el tipo de conversación que necesitamos tener a nivel internacional», contrastándolos con el «histrionismo» de algunas empresas de IA que, según ella, solo sirven para «asustar a todo el mundo».
Superinteligencia «humanista»
La cuestión de cuánta autonomía deberían tener los sistemas de IA está dividiendo cada vez más a la industria.
En declaraciones a la BBC sobre una próxima cumbre de IA, Suleyman pidió «alineación» para crear tecnología que debe estar «subordinada» a la humanidad.
La alineación es un campo que busca incorporar ideas y principios éticos humanos en la IA. En otras palabras, pretende que se mantenga alineada con los valores humanos.
«Creo que la buena noticia es que todos los seres humanos tendremos un gran interés en asegurarnos de que los sistemas que creamos y utilizamos en todo el mundo, en todas las naciones, sean seguros, controlables y estén subordinados a la humanidad», dijo.
«Todos deben estar alineados.»
Microsoft fundó su propio equipo de superinteligencia en octubre de 2025 y la compañía, al igual que su rival Anthropic, también está realizando esfuerzos en el desarrollo de IA avanzada.
Los comentarios de Suleyman reflejan el borrador inicial del Código de Conducta de Microsoft para la IA Humanista , un «manual de capacitación» publicado el lunes sobre cómo la compañía está desarrollando su IA, que expone la idea de una «superinteligencia humanista».
Según el código, se trata de «una IA muy avanzada que siempre trabaja para las personas, se mantiene dentro de los límites y permanece bajo control humano».
La visión de la empresa de una IA «humanista» pone de relieve el principal desafío al que se enfrenta esta tecnología: cómo hacerla más potente sin perder de vista los valores a los que está destinada a servir.