La Semana Tecnológica está en pleno apogeo en San Francisco, llenando los restaurantes de la ciudad esta semana con capitalistas de riesgo y fundadores de empresas de IA entusiasmados con la postura de la Casa Blanca sobre la regulación de la inteligencia artificial: es decir, no lo hagan.
Y tras meses de debate sobre la intromisión sin control de los agentes de IA de las principales empresas en todo, desde sitios web del gobierno estadounidense hasta datos sanitarios, el país se encuentra ahora más lejos de regular los sistemas de IA que hace unos años.
El presidente Donald Trump reunió a titanes de la tecnología en Washington a finales del mes pasado para un almuerzo y la firma ceremonial de un pacto de seguridad voluntario que describió como «casi una constitución» en torno a la «Superinteligencia», el nuevo término preferido por la administración para la IA.
El acuerdo de 308 palabras establece que los laboratorios de IA avanzada deben seguir protocolos de seguridad y crear equipos internos para supervisar su propio progreso, pero la administración aún no ha proporcionado detalles sobre cómo, en palabras del director ejecutivo de OpenAI, Sam Altman, evitar que ocurran «cosas malas».
Los problemas de seguridad no fueron la principal preocupación en un concurrido espacio para eventos en San Francisco el miércoles, donde fundadores y financiadores dijeron que el enfoque de no intervención del gobierno generaría mayores ganancias para las empresas que construyen sistemas de defensa y seguridad impulsados por IA.
En una reunión destinada a «invertir en la vanguardia», que forma parte de la serie de eventos temporales organizados por Andreessen Horowitz, una empresa de capital riesgo cuyo director es asesor de ciencia y tecnología de Trump, los panelistas elogiaron el enérgico apoyo del gobierno a la industria.
“Quiero empezar con una cifra que, en mi opinión, pone de manifiesto la gran oportunidad de inversión que representa la defensa: un billón de dólares. Por primera vez, el gobierno estadounidense destinará un billón de dólares a su gasto en defensa. De esa cantidad, 13.500 millones se invertirán en sistemas autónomos e inteligencia artificial”, afirmó Kyle Stanford, director de investigación de capital riesgo en PitchBook, una plataforma de inteligencia de mercado. “Esto, sin duda, ha atraído una gran cantidad de capital al gasto en tecnología de defensa, más de lo que jamás habíamos visto”.
Surgen nuevas preocupaciones sobre la seguridad de la IA.
Un día después, tres investigadores de la sede de OpenAI anunciaron que la empresa creadora de ChatGPT los había despedido, publicando que «el miedo y la falta de claridad en las normas obstaculizan el trabajo en materia de seguridad de la IA». Por otra parte, David Robinson, líder del equipo de seguridad de OpenAI hasta su reciente dimisión, expresó su preocupación por permitir que los laboratorios avanzados se autorregulen.
“Esto no sustituye a una legislación estricta y otorga mucha libertad a las empresas”, dijo Robinson. “El tiempo entre generaciones de modelos se mide en semanas… y creo que tenemos serios desafíos de seguridad por delante a corto plazo”.
Trump ha apostado su capital político al éxito de la industria de la IA, afirmando que su desarrollo desenfrenado es clave para ganar la carrera de la IA contra China . El primer día de su segundo mandato, el presidente republicano derogó una orden ejecutiva de la era Biden que, en parte, buscaba protegerse de los riesgos que los sistemas de IA representan para los consumidores, los trabajadores y la seguridad nacional.
Desde entonces, su administración ha reorientado la política federal, alejándola de la supervisión y enfocándola en el crecimiento acelerado, incluso cancelando los requisitos previos que obligaban a los desarrolladores de IA a compartir los resultados de las pruebas de seguridad con el gobierno federal. En diciembre, Trump firmó una orden ejecutiva destinada a bloquear las regulaciones de IA a nivel estatal, argumentando que un conjunto heterogéneo de normas podría frenar el desarrollo del sector.
A pesar de que las empresas de Silicon Valley han revelado la implicación de sus modelos en preocupantes ciberataques a lo largo del año, el floreciente sector tecnológico ha seguido impulsando el crecimiento económico .
Las preocupaciones sobre la seguridad de la IA, centradas en el riesgo existencial más que en los daños reales actuales, se convirtieron en el centro de los debates el mes pasado, cuando un ingeniero de Anthropic, relativamente desconocido, renunció y pidió una pausa en el desarrollo tecnológico para evitar que sistemas «sobrehumanos» eludieran los controles. Posteriormente, los directores ejecutivos de Anthropic y OpenAI se sumaron al llamado a ralentizar el desarrollo de la IA. Para algunos críticos, sus manifiestos públicos parecían tener como objetivo ganarse el favor de los inversores antes de su salida a bolsa y las elecciones de mitad de mandato, cuando la situación política podría cambiar y muchos votantes se opondrían a los centros de datos.
“El único control o ‘mecanismo de seguridad’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), y Estados Unidos lo tiene de sobra”, publicó Trump en respuesta en Truth Social, advirtiendo a los votantes que no “maten a la gallina de los huevos de oro”, un término que ha utilizado para referirse tanto a la IA como a los centros de datos.
El pacto de la Casa Blanca preserva un amplio margen de maniobra para las empresas de IA.
Ante las crecientes peticiones de un control más estricto de la IA, la administración invitó a ejecutivos del sector tecnológico a la Casa Blanca para almorzar, seguido de una firma ceremonial del acuerdo sobre seguridad de la IA.
“Estoy viendo una tremenda autorregulación”, dijo Trump a los periodistas después del evento.
El documento fue firmado por representantes de OpenAI, Anthropic, Meta, Google, SpaceXAI y Nvidia.
OpenAI se compromete a incorporar evaluadores externos y a finalizar los contratos con evaluadores de seguridad de terceros, declaró un portavoz, quien remitió a AP a una publicación de la compañía en la que se afirma que los investigadores fueron despedidos por violar «políticas claras sobre el manejo de información confidencial».
Google hizo referencia a la publicación del director ejecutivo Sundar Pichai, en la que afirmaba que la empresa realiza pruebas y evaluaciones adecuadas y que está colaborando «para establecer normas y generar confianza pública».
Meta actualizó recientemente sus estándares para el entrenamiento, la evaluación y el lanzamiento de sus modelos de IA más capaces, y el portavoz Andy Stone destacó los esfuerzos de la compañía por perfeccionar la estructura de gobierno de su junta directiva.
Nvidia y SpaceXAI no respondieron a las solicitudes de comentarios.
Anthropic, que el viernes reveló voluntariamente que sus agentes habían manipulado sitios web del gobierno estadounidense, está contratando evaluadores independientes y discutiendo colaboraciones con grupos de la industria, según informó un portavoz.
En un comunicado, la Casa Blanca reiteró los comentarios de Trump sobre la necesidad de trabajar con la industria para equilibrar la innovación y la seguridad, y no respondió directamente a las preguntas sobre cómo planea la administración supervisar la implementación de las empresas de IA.
Tras la reciente revelación de Anthropic, la compañía añadió que el gobierno de Trump esperaba total transparencia por parte de la empresa, afirmando que la notificación y la subsanación no eran opcionales. Se trataba de una obligación fundamental para la seguridad nacional.
Bajo la presidencia del demócrata Joe Biden, las principales empresas de IA también asumieron compromisos voluntarios para promover el desarrollo seguro, protegido y transparente de sus modelos, incluyendo directrices específicas para las pruebas y los informes de transparencia. El acuerdo actual carece de esto, según Sarah Myers West, exasesora sénior de IA de la Comisión Federal de Comercio.
“En general, este enfoque de autorregulación ha tenido un único resultado: ha fracasado. No ha logrado garantizar de manera efectiva que estas empresas mantengan un mínimo de transparencia, y mucho menos que cumplan con la legislación vigente”, declaró Myers West, ahora codirector ejecutivo de la organización sin fines de lucro AI Now, con sede en Nueva York. “Lo único que reciben de este gobierno es indulgencia”.
Tras el almuerzo del mes pasado con Trump, la FTC anunció la apertura de una investigación sobre OpenAI, Anthropic y otras empresas por los posibles riesgos que su tecnología podría representar para los consumidores. La FTC no respondió de inmediato a la solicitud de comentarios.
Trump nombró recientemente al Director Nacional de Inteligencia, Jay Clayton, y al Presidente de la FTC, Andrew Ferguson, para formar parte de su nueva “Fuerza de Superinteligencia”, la cual, según el presidente, mantendría a Estados Unidos a la vanguardia en el desarrollo de la IA. El jueves publicó que la Casa Blanca consideraría “EL ENEMIGO” a cualquiera que no se refiera a la IA con su término preferido.
Miembros del Congreso, así como grupos defensores de las libertades civiles y los derechos del consumidor, han presionado para que se implementen más regulaciones sobre la IA, argumentando que no existe suficiente supervisión.
Graham Steele, ex subsecretario del Departamento del Tesoro de Estados Unidos, afirmó que incluso si las empresas de IA crean equipos de evaluación internos o contratan evaluadores externos, dicha estructura puede hacerlas vulnerables a una presión indebida en su trabajo.
“Vivimos en una sociedad democrática. ¿Son ellos las personas idóneas para tener el poder de tomar decisiones que tienen amplias consecuencias estructurales, sociales y políticas?”, dijo Steele.