Anthropic ha advertido que la inteligencia artificial (IA) podría suponer «riesgos catastróficos o existenciales para la humanidad» al revelar los detalles de su planeada salida a bolsa en Estados Unidos.
Se espera que la valoración de la empresa supere la de SpaceX, que fue la mayor salida a bolsa de la historia con una valoración inicial de aproximadamente 1,8 billones de dólares en verano.
Anthropic aún no ha revelado el número de acciones que se emitirán, su rango de precios ni la fecha de su salida a bolsa.
El desarrollador del chatbot Claude registró unos ingresos de 16.300 millones de dólares (12.200 millones de libras esterlinas) en el primer semestre del año, con pérdidas superiores a los 80.700 millones de dólares.
Anthropic, que ha anunciado que cotizará en el Nasdaq bajo el símbolo ANT, será la primera empresa totalmente centrada en la inteligencia artificial en salir a bolsa, lo que la convierte en un caso de prueba para el futuro de esta tecnología.
En un documento presentado antes de su salida a bolsa, Anthropic afirmó que legisladores, reguladores e investigadores, así como miembros de su propia organización, habían expresado su preocupación por el hecho de que los sistemas de IA supusieran un riesgo significativo para la humanidad.
El informe señalaba que los sistemas avanzados de IA «podrían, si no se desarrollan, implementan y operan con las salvaguardias, la supervisión y las medidas de seguridad adecuadas, plantear riesgos catastróficos o existenciales para la humanidad, en particular si dichos sistemas se utilizan indebidamente, se replican, se convierten en armas o se les permite operar con un alto grado de autonomía».
Anthropic fue fundada hace cinco años por su director ejecutivo, Dario Amodei, su hermana Daniela Amodei y otras cinco personas, y anunció su intención de salir a bolsa en junio.
Su principal rival, OpenAI, no tardó en seguir sus pasos. Se prevé que su salida a bolsa se produzca a principios del próximo año, según una persona familiarizada con los planes de OpenAI.
Tras estos anuncios, se produjo una oleada de fallos de ciberseguridad y otras brechas tecnológicas que involucraron a sus agentes de IA: bots diseñados para operar de forma relativamente autónoma.
Empleados actuales y antiguos de ambas empresas también advirtieron que la tecnología de IA se está desarrollando sin la capacidad de proteger a la humanidad de los posibles daños futuros causados por las herramientas de IA.
Mientras Anthropic revelaba el lunes sus planes para salir a bolsa, los propietarios de los derechos de la música de Elvis Presley demandaron a la empresa de inteligencia artificial, acusándola de utilizar cientos de canciones de la estrella del rock and roll para entrenar a su chatbot Claude.
‘Audaz pero sensato’
En los nuevos documentos de Anthropic, la compañía reiteró las promesas que ha hecho en el pasado de desarrollar la IA de una manera que beneficie a las personas, al tiempo que advirtió a los inversores de sus peligros.
Anthropic detalló en sus informes financieros pérdidas que superaron sus ingresos durante la primera mitad del año, pero afirmó que a menudo realizaría inversiones a futuro «que a primera vista pueden parecer irresponsablemente grandes».
«En general, nuestro objetivo será ser audaces pero sensatos, y ganarnos la confianza con un historial de apuestas exitosas», dijo el gigante tecnológico.
Anthropic afirmó que su éxito depende en gran medida de su capacidad para desarrollar los modelos de IA más avanzados, y añadió: «Cualquier fracaso en este sentido podría afectar negativamente a nuestro negocio».
En aproximadamente 90 páginas que detallan los posibles factores de riesgo, Anthropic expuso las amenazas potenciales a su capacidad para desarrollar IA de forma segura y competitiva.
Anthropic advirtió que depende de un grupo de proveedores de computación en la nube, de fabricantes de chips taiwaneses que ya enfrentan una enorme demanda y de centros de datos concentrados en los EE. UU.
También advirtió sobre «medidas regulatorias derivadas de los daños asociados con nuestros modelos de IA» , citando preocupaciones sobre el uso de la IA por parte de niños o personas en riesgo de suicidio, e incertidumbre sobre dónde y cómo podría ser considerada responsable por las acciones realizadas por sus sistemas.
Sin embargo, Anthropic también aprovechó la presentación de la solicitud para elogiar los beneficios potenciales de la tecnología en sí, previendo que desbloquearía «millones de agentes virtuales con la capacidad de revolucionar cada área de la actividad humana» en una amplia gama de campos.
«Creemos que la IA es una de las tecnologías más trascendentales de la historia de la humanidad», afirmó la empresa.
Anthropic afirmó que la IA también «aceleraría profundamente el ritmo del progreso en biología y medicina», y que potencialmente permitiría encontrar curas para enfermedades como el cáncer y el Alzheimer.
La empresa añadió que también podría lograr una «aceleración sostenida del crecimiento económico» mediante el aumento de la productividad.