Durante lustros fue un árido campo académico que avanzaba dentro de las ciencias computacionales y ahora, en una sola semana, los riesgos derivados de la aceleración han obligado a declarar código rojo en los grandes laboratorios de IA. Destacan dos protagonistas: Dario Amodei y Sam Altman. El primero, al frente de Anthropic, por pedir el sábado en un ensayo que se ralentizara sustancialmente el desarrollo de la IA. El segundo, al timón de OpenAI, por anunciar que pospone la milmillonaria salida de su compañía a Bolsa, pocas horas después de apoyar la idea de Amodei. Junto a ellos, se han posicionado a favor de la desaceleración otros líderes del sector, como Elon Musk (xAI) y Demis Hassabis (Google). Los responsables de los modelos más potentes del mercado han tirado del freno de mano y medio mundo se pregunta:
¿qué han visto?
Amodei, en su texto, reconoce que las medidas que propone para dar mayor seguridad a los avances “no serán fáciles”: “Pero creo que le debemos a la humanidad intentarlo”. Tras el revuelo generado, concedió una entrevista en la CBS donde fue más allá: “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”. Y añadió: “Eso no significa que debamos entrar en pánico hoy. No significa que tengamos que cerrarlo todo. Pero es una señal de advertencia de que debemos reducir la velocidad”.
Altman, en una entrevista para la revista Fortune, confiesa: “Teniendo en cuenta todo lo que está pasando en materia de seguridad, ahora mismo no sería un buen momento para salir a Bolsa, y no sentimos ninguna presión al respecto”. Al descartar para este año el estreno bursátil de OpenAI, Altman ha echado un importante jarro de agua fría en Wall Street, que se frotaba las manos con la idea de que la empresa alcanzara una valoración de más de un billón de dólares. Sin embargo, Amodei no ha dicho que tenga previsto frenar su salto al parqué: es más, esta semana de infarto en el mundo de la IA arrancó con las informaciones de que Anthropic aceleraba la presentación del folleto de su salida a Bolsa, con una valoración próxima a dos billones. Con esta cifra empataría virtualmente con SpaceX como la mayor salida a Bolsa de la historia de EE UU, en junio de este año. Una de las patas de SpaceX, el gran imperio de Elon Musk, es xAI, su deficitaria filial para inteligencia artificial. Musk pide moratoria en el avance de los modelos más potentes, pero ya cotiza; Amodei también reclama un frenazo en la investigación, pero va lanzado a los mercados bursátiles; Altman prefiere no desenfundar tan rápido.
¿Qué es “todo lo que está pasando”, en palabras del responsable de OpenAI? El miércoles, un joven investigador de Anthropic, Jacob Coxon, anunció su dimisión alertando: “Quienes están construyendo la IA sinceramente creen que podría matarnos a todos antes de que acabe la década”. Pero antes, y durante todo el verano, se han sucedido los sustos en una interminable ristra de errores, ciberataques y preocupantes movimientos entre los modelos de inteligencia artificial más potentes. En julio llegó el gran detonante: un enjambre de agentes de IA, unos programas muy avanzados determinados a conseguir sus objetivos a cualquier precio, atacaron Hugging Face, una plataforma de recursos de IA. Más tarde ese mes, también Anthropic descubrió que Claude, su modelo estrella, había perpetrado fechorías similares. Cada semana conocíamos un nuevo incidente y una nueva empresa afectada, como Meta. Los detalles de estos ataques de IAs rebeldes son pura ciencia ficción (aunque en muchos casos se debieron a negligencias de las compañías): bots que se comunican con su propio lenguaje, que tratan de engañar a humanos, que incumplen instrucciones expresas y que se sacrifican para que sus pares lleguen a la meta. La mayoría de esos problemas se dieron en primavera, con programas menos vigilados que los que se desarrollan ahora.
Amodei advertía en su artículo de uno de sus grandes temores: que en seis o doce meses, un enjambre de agentes de IA “podría ser capaz de apoderarse de todo internet”. Para Amodei, este es uno de los dos acontecimientos que le hicieron cambiar de posición sobre la necesidad de frenar el desarrollo. El segundo tiene un nombre técnico (automejora recursiva), pero es sencillo de entender: los programas de IA están desarrollando la nueva generación de programas de IA, haciendo que la velocidad de los desarrollos se dispare exponencialmente. “Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe abordarse con mucho cuidado”, alerta Amodei en su texto. El jueves, Anthropic alertó de que había frenado varios intentos de crear armas biológicas usando su chatbot Claude. IAs que se reproducen solas y bioterrorismo a un solo clic de distancia: dos de los temores más repetidos en el pasado ya forman parte del presente.
La política se mueve por otro lado
El presidente Donald Trump, sin embargo, ha ninguneado estos miedos de los líderes de la industria. Los tachó como “fuerzas muy negativas” que plantean escenarios imposibles y, sobre todo, señaló su verdadera preocupación: la superpotencia asiática, el único país que hace sombra a la tecnología estadounidense. “Vamos por delante de China en IA. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así porque quien gane la carrera de la IA, gana”, declaró Trump a los periodistas en su campo de golf de Irlanda, según recoge Reuters. “Podríamos poner salvaguardas. Podríamos hacer esto o aquello. Pero creo que hay muchas fuerzas muy negativas que están sacando este tema cuando no deberían hacerlo y que están planteando cosas que no van a suceder”, zanjó.
Un líder tecnológico que se ha mostrado a favor de Trump es el consejero delegado de Palantir, una polémica empresa de vigilancia masiva. “Si no tuviéramos adversarios, estaría muy a favor de pausar completamente esta tecnología, pero los tenemos”, ha resumido Alex Karp.
