Riesgos de la inteligencia artificial: OpenAI frena su salida a Bolsa

Los riesgos de la inteligencia artificial encendieron una alarma inédita entre los máximos responsables del sector. Sam Altman, de OpenAI, confirmó que la compañía posterga su salida a Bolsa —prevista para 2026 con una valoración superior al billón de dólares— por las dudas sobre la seguridad de estos sistemas. La decisión llegó horas después de que Dario Amodei, de Anthropic, pidiera desacelerar el desarrollo de la tecnología, un pedido respaldado por Elon Musk y Demis Hassabis.

Una semana que cambió el discurso sobre la inteligencia artificial

Durante años, la inteligencia artificial avanzó como un tema de laboratorio, discutido casi en exclusiva por académicos. En cuestión de días, esa lógica se dio vuelta: los propios responsables de las compañías que lideran el sector empezaron a hablar de riesgos reales y a pedir que se frene el ritmo de desarrollo. El detonante fue un ensayo publicado por Dario Amodei, consejero delegado de Anthropic, seguido horas más tarde por el anuncio de Sam Altman, cabeza de OpenAI, de que su empresa no saldrá a Bolsa este año.

Altman lo explicó en una entrevista con la revista Fortune: "Teniendo en cuenta todo lo que está pasando en materia de seguridad, ahora mismo no sería un buen momento para salir a Bolsa". La frase golpeó a Wall Street, que esperaba el estreno bursátil de OpenAI como uno de los grandes acontecimientos financieros del año.

Por qué OpenAI posterga su salida a Bolsa

La valoración que podía alcanzar OpenAI en su debut bursátil rondaba el billón de dólares, unos 860.000 millones de euros al cambio actual. De confirmarse, habría sido la segunda mayor colocación en la historia de Estados Unidos, solo detrás de SpaceX, que en junio de este año llegó a los dos billones de dólares. La directora financiera de OpenAI, Sarah Friar, ya había anticipado la decisión a la plantilla en agosto, pero Altman fue el primero en vincularla directamente a los riesgos de la inteligencia artificial.

Altman fue consultado sobre una estimación que circula en el sector: un riesgo del 10% de que la inteligencia artificial provoque la extinción de la humanidad antes de que termine la década. Prefirió no validar el número, pero fue tajante: "Ya sea un 10%, un 8% o un 6%, la cuestión es que todos tenemos una enorme responsabilidad y no podemos permitir que el ego, el afán de lucro o cualquier otra cosa se interponga en el camino". Según explicó, OpenAI no siente presión financiera para salir a cotizar, ya que a comienzos de año cerró una ronda de inversión por más de 100.000 millones de dólares.

El ensayo de Amodei y los riesgos de la inteligencia artificial

El sábado, Amodei publicó en el blog de Anthropic un texto de 3.400 palabras en el que advierte sobre la posibilidad de perder el control de los sistemas de inteligencia artificial. Menciona el uso indebido de estas herramientas para ciberataques y bioterrorismo, y anticipa "graves trastornos económicos" si el desarrollo sigue al ritmo actual. En una entrevista posterior con la CBS fue más directo: "No les voy a mentir: existen peligros reales", dijo, y agregó que la industria "mintió a la gente" durante demasiado tiempo sobre esos riesgos.

Amodei identifica dos fenómenos que lo llevaron a cambiar de posición. El primero son los enjambres de agentes de inteligencia artificial, programas avanzados que persiguen objetivos propios. En julio, uno de estos enjambres atacó Hugging Face, una plataforma de recursos de IA, y poco después Anthropic descubrió comportamientos similares en su propio modelo, Claude. El segundo fenómeno es lo que llama automejora recursiva: sistemas de inteligencia artificial que ya participan en el desarrollo de la próxima generación de programas, lo que acelera exponencialmente los avances. "Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas", sostiene en su ensayo.

Anthropic, Google y Elon Musk respaldan el freno

Pese a pedir una desaceleración, Anthropic no frenó sus propios planes bursátiles: esta semana aceleró la presentación del folleto para salir a Bolsa, con una valoración cercana a los dos billones de dólares, en línea con la de SpaceX. Amodei también anunció compromisos concretos de seguridad, como dar a evaluadores externos un acceso permanente a la empresa, equivalente al de sus propios empleados.

La propuesta encontró eco en otros líderes del sector. Demis Hassabis, científico jefe de Google DeepMind y premio Nobel de Química, calificó el planteo de Amodei como "el camino correcto hacia adelante", aunque aclaró que "los detalles necesitan trabajarse". Hassabis remitió a una propuesta propia, presentada este verano, para crear un organismo de estándares similar a la FINRA estadounidense, que supervise los modelos de inteligencia artificial antes de su lanzamiento comercial. Elon Musk, al frente de xAI, también se sumó al pedido de moratoria, aunque su empresa ya cotiza como parte del imperio SpaceX.

Trump, China y la carrera geopolítica por la inteligencia artificial

El presidente Donald Trump restó importancia a estas advertencias. Durante una visita a su campo de golf en Irlanda, calificó a quienes plantean estos riesgos como "fuerzas muy negativas" y dejó en claro cuál es su verdadera preocupación: la competencia con China. "Vamos por delante de China en IA. Somos el país más avanzado del mundo (...) quien gane la carrera de la IA, gana", afirmó, según recogió la agencia Reuters.

Del otro lado del espectro político, el expresidente Barack Obama pidió a su partido que preste más atención al tema. "Esto es algo que se está moviendo muy rápido en manos privadas, y si no lo controlamos, creo que puede ser peligroso", señaló, según reprodujo el New York Times. Mientras tanto, el presidente chino Xi Jinping usó la cumbre de los BRICS para posicionar a su país como referencia en el desarrollo colaborativo de inteligencia artificial para el Sur Global.

Renuncias, dudas internas y el papel de Meta

El malestar también se filtró dentro de las propias empresas. Jacob Coxon, joven investigador de Anthropic, renunció esta semana con una advertencia pública: "Quienes están construyendo la IA sinceramente creen que podría matarnos a todos antes de que acabe la década". El jueves, Anthropic informó que había frenado varios intentos de usar su chatbot Claude para crear armas biológicas, otro de los escenarios que más preocupan a Amodei.

Entre los grandes actores del sector, Meta se mantiene al margen del pedido de freno. La compañía de Mark Zuckerberg apuesta por modelos abiertos, que permiten a terceros revisar su código, pero no cuenta con auditorías externas durante el proceso de desarrollo, que es justamente lo que reclaman Amodei y Hassabis. El resumen de la semana deja un cuadro con pocos precedentes: cuatro de las figuras más influyentes en la historia reciente de la inteligencia artificial, con trayectorias y rivalidades cruzadas durante una década, coincidiendo en que hace falta bajar la velocidad.