El rey Carlos ha advertido a los ejecutivos de inteligencia artificial sobre los «peligros existenciales» que supone que esta tecnología caiga en las manos equivocadas.
Hizo estas declaraciones en una cumbre que él mismo había convocado en Dumfries House, en Ayrshire, para debatir cómo se puede utilizar la tecnología en beneficio de la sociedad.
Entre los asistentes a la reunión también se encontraban Kanishka Narayan, ministro de IA del Reino Unido, asesor del Papa y representantes de gigantes de la IA como Nvidia, OpenAI y Anthropic.
Esto se produce en medio de una serie de advertencias recientes por parte de personas del sector sobre las capacidades en rápida evolución de los modelos de IA avanzados o de «frontera» y la regulación necesaria para mantenerlos bajo control.
«Quienes han creado estas tecnologías advierten cada vez con mayor frecuencia que la IA corre el riesgo de desarrollar capacidades más oscuras, tal vez incluso de quitar la vida», dijo el rey a los ejecutivos.
Dijo que parecía haber una «urgencia» en «considerar adecuadamente los peligros existenciales de que dichas tecnologías caigan en las manos equivocadas y se utilicen de maneras potencialmente catastróficas».
«La tarea que tenéis por delante no consiste simplemente en hacer avanzar la tecnología, sino en garantizar que siga estando firmemente al servicio de la humanidad, la comunidad y el mundo natural», les dijo al grupo.
La cumbre se ha convocado para considerar si se puede desarrollar un «conjunto de principios compartidos» que sirva de guía para la aplicación futura de la IA.
‘Seguir con la ingeniería’
Jensen Huang, director ejecutivo de Nvidia, fue uno de los principales líderes de la industria que asistieron.
Nvidia es un actor clave en la infraestructura de IA, ya que suministra chips a los principales desarrolladores de modelos de IA, entre ellos OpenAI y Meta.
Además, es la empresa más valiosa del mundo, con un valor bursátil de alrededor de 5,15 billones de dólares.
Huang declaró ante los presentes que consideraba que la seguridad era «primordial», y añadió que las empresas deberían retener un producto y «seguir trabajando en su ingeniería» si no era lo suficientemente seguro.
El director de Nvidia también destacó el valor de los modelos abiertos —sistemas que dan a los usuarios acceso directo al software— como una forma de «garantizar que las personas y los países no se queden atrás».
Afirmó que estos sistemas también deben protegerse para que «investigadores, universidades, empresas emergentes y países» puedan desarrollar aplicaciones «que ninguno de nosotros habría imaginado por sí solo».
«Lideremos con optimismo responsable, desarrollemos la IA de forma segura, hagámosla accesible a más personas, ampliemos nuestra ambición y resolvamos los problemas que importan al mundo», añadió Huang.
Mientras tanto, Sir Demis Hassabis, cofundador del laboratorio de IA británico DeepMind —adquirido posteriormente por Google—, ofreció una visión más cautelosa sobre el ritmo de desarrollo.
Afirmó que la inteligencia artificial general —sistemas que se cree que podrían ser tan buenos o mejores que los humanos en múltiples tareas— estaba «probablemente a solo unos pocos años de distancia» y podría tener un impacto «diez veces mayor que el de la Revolución Industrial».
La probabilidad de que algo saliera mal era «definitivamente distinta de cero», añadió Sir Demis.
Pero abogó por «una vía intermedia sensata», afirmando que la humanidad podría abordar los riesgos si, de forma colectiva, se le diera el espacio y el tiempo necesarios para mitigarlos.
«El futuro aún no está escrito», les dijo a los delegados del Rey.
Sarah Friar, directora financiera de OpenAI, afirmó que la IA tiene el potencial de resolver algunos de los «problemas más difíciles» de la sociedad, pero coincidió en que sus crecientes capacidades plantean interrogantes sobre la seguridad y «cómo garantizamos que siempre esté al servicio de las personas».
«Tenemos que abordar esas cuestiones juntos», dijo.
«Ninguna empresa ni gobierno puede lograrlo por sí solo, y agradezco a Su Majestad que haya convocado este debate en un momento tan importante.»
Los máximos dirigentes de las empresas de IA han expresado sus opiniones tras las acusaciones. Sam Altman, de OpenAI, afirmó que la gente tenía razón al estar preocupada, pero añadió que debían confiar en que las empresas de IA mantendrían la tecnología a salvo.
Jack Clark , de Anthropic , afirmó que podría ser necesario un llamado «interruptor de emergencia» para proteger a la humanidad, mientras que Mustafa Suleyman, de Microsoft, criticó a Anthropic, alegando que estaban entrenando a su IA para que creyera que era humana, lo que podría hacerla «imposible» de controlar.
Mientras tanto, los críticos argumentan que no se puede confiar en que las empresas de IA se autorregulen.
Algunos, como el senador de izquierda Bernie Sanders y Steve Bannon, exasesor del presidente estadounidense Donald Trump, piden una mayor supervisión gubernamental.
Otros, incluido el propio Donald Trump, han desestimado las preocupaciones sobre la seguridad de la IA como exageradas, y el presidente ha calificado los temores al respecto como un «engaño».