Durante lustros fue un árido campo académico que avanzaba dentro de las
ciencias computacionales y ahora, en una sola semana, los riesgos
derivados de la aceleración han obligado a declarar código rojo en los
grandes laboratorios de IA. Destacan dos protagonistas:
Dario Amodei y Sam Altman. El primero, al frente de Anthropic, por
pedir el sábado en un ensayo que se ralentizara sustancialmente el
desarrollo de la IA. El segundo, al timón de OpenAI, por anunciar que
pospone la milmillonaria salida de su compañía a Bolsa, pocas horas
después de apoyar la idea de Amodei. Junto a ellos, se han posicionado a
favor de la desaceleración otros líderes del sector, como Elon Musk
(xAI) y Demis Hassabis (Google). Los responsables de los modelos más
potentes del mercado han tirado del freno de mano y medio mundo se
pregunta:
¿qué han visto?
Amodei, en su texto, reconoce que las medidas que propone
para dar mayor seguridad a los avances “no serán fáciles”: “Pero creo
que le debemos a la humanidad intentarlo”. Tras el revuelo generado,
concedió una entrevista en la CBS
donde fue más allá: “No les voy a mentir: existen peligros reales. Y
creo que durante demasiado tiempo la industria mintió a la gente sobre
el hecho de que esta tecnología tenía riesgos”. Y añadió: “Eso no
significa que debamos entrar en pánico hoy. No significa que tengamos
que cerrarlo todo. Pero es una señal de advertencia de que debemos
reducir la velocidad”.
Altman, en una entrevista para la revista Fortune,
confiesa: “Teniendo en cuenta todo lo que está pasando en materia de
seguridad, ahora mismo no sería un buen momento para salir a Bolsa, y no
sentimos ninguna presión al respecto”. Al descartar para este año el
estreno bursátil de OpenAI, Altman ha echado un importante jarro de agua
fría en Wall Street, que se frotaba las manos con la idea de que la
empresa alcanzara una valoración de más de un billón de dólares. Sin
embargo, Amodei no ha dicho que tenga previsto frenar su salto al
parqué: es más, esta semana de infarto en el mundo de la IA arrancó con
las informaciones de que Anthropic aceleraba la presentación del folleto
de su salida a Bolsa, con una valoración próxima a dos billones.
Con esta cifra empataría virtualmente con SpaceX como la mayor salida a
Bolsa de la historia de EE UU, en junio de este año. Una de las patas
de SpaceX, el gran imperio de Elon Musk, es xAI, su deficitaria filial
para inteligencia artificial. Musk pide moratoria en el avance de los
modelos más potentes, pero ya cotiza; Amodei también reclama un frenazo
en la investigación, pero va lanzado a los mercados bursátiles; Altman
prefiere no desenfundar tan rápido.
¿Qué es “todo lo que está pasando”, en palabras del responsable de OpenAI? El miércoles, un joven investigador de Anthropic, Jacob Coxon,
anunció su dimisión alertando: “Quienes están construyendo la IA
sinceramente creen que podría matarnos a todos antes de que acabe la
década”. Pero antes, y durante todo el verano,
se han sucedido los sustos en una interminable ristra de errores,
ciberataques y preocupantes movimientos entre los modelos de
inteligencia artificial más potentes. En julio llegó el gran detonante:
un enjambre de agentes de IA, unos programas muy avanzados determinados a
conseguir sus objetivos a cualquier precio, atacaron Hugging Face, una
plataforma de recursos de IA. Más tarde ese mes, también Anthropic
descubrió que Claude, su modelo estrella, había perpetrado fechorías
similares. Cada semana conocíamos un nuevo incidente y una nueva empresa
afectada, como Meta. Los detalles de estos ataques de IAs rebeldes son
pura ciencia ficción (aunque en muchos casos se debieron a negligencias
de las compañías): bots que se comunican con su propio lenguaje, que
tratan de engañar a humanos, que incumplen instrucciones expresas y que
se sacrifican para que sus pares lleguen a la meta. La mayoría de esos
problemas se dieron en primavera, con programas menos vigilados que los
que se desarrollan ahora.
Amodei advertía en su artículo de uno de sus grandes temores: que en seis o doce meses,
un enjambre de agentes de IA “podría ser capaz de apoderarse de todo
internet”. Para Amodei, este es uno de los dos acontecimientos que le
hicieron cambiar de posición sobre la necesidad de frenar el desarrollo.
El segundo tiene un nombre técnico (automejora recursiva), pero es
sencillo de entender: los programas de IA están desarrollando la nueva
generación de programas de IA, haciendo que la velocidad de los
desarrollos se dispare exponencialmente. “Si no se controla, podría
superar nuestra capacidad para comprender y controlar estos sistemas,
por lo que debe abordarse con mucho cuidado”, alerta Amodei en su texto.
El jueves, Anthropic alertó de que había frenado varios intentos de crear armas biológicas usando su chatbot
Claude. IAs que se reproducen solas y bioterrorismo a un solo clic de
distancia: dos de los temores más repetidos en el pasado ya forman parte
del presente.
La política se mueve por otro lado
El presidente Donald Trump, sin embargo, ha ninguneado estos miedos
de los líderes de la industria. Los tachó como “fuerzas muy negativas”
que plantean escenarios imposibles y, sobre todo, señaló su verdadera
preocupación: la superpotencia asiática, el único país que hace sombra a
la tecnología estadounidense. “Vamos por delante de China en IA. Somos
el país más avanzado del mundo y, francamente, quiero que siga siendo
así porque quien gane la carrera de la IA, gana”, declaró Trump a los
periodistas en su campo de golf de Irlanda, según recoge Reuters.
“Podríamos poner salvaguardas. Podríamos hacer esto o aquello. Pero creo
que hay muchas fuerzas muy negativas que están sacando este tema cuando
no deberían hacerlo y que están planteando cosas que no van a suceder”,
zanjó.
Un líder tecnológico que se ha mostrado a favor
de Trump es el consejero delegado de Palantir, una polémica empresa de
vigilancia masiva. “Si no tuviéramos adversarios, estaría muy a favor de
pausar completamente esta tecnología, pero los tenemos”, ha resumido Alex Karp.