Los empresarios tecnológicos llevan desde el fin de semana copando portadas y encendiendo las redes sociales con sus declaraciones. El primero en alzar la voz fue Dario Amodei, consejero delegado de Anthropic, quien reabrió un debate que, aunque no es nuevo, había estado dormido: el líder de la compañía detrás de Claude señaló la necesidad de reducir el ritmo de desarrollo de los sistemas más avanzados de IA.
Amodei no es el primero –ni ha sido el último– en subrayar los temores que le suscita la manera en que la inteligencia artificial está evolucionando. La última oleada de alarmas había comenzado unos días antes dentro de la propia Anthropic. Jacob Coxon, investigador de la compañía y antiguo empleado de OpenAI, anunció el 8 de septiembre que abandonaba su puesto después de trabajar en ambos laboratorios y acusó a las dos empresas de estar compitiendo por desarrollar una “superinteligencia capaz de mejorarse a sí misma” (“self-improving superintelligence”) sin haber resuelto todavía cómo mantenerla bajo control. Coxon aseguró que no quería seguir contribuyendo a esa carrera.
Su mensaje tuvo una repercusión enorme y recibió, además, el respaldo de Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, quien reconoció públicamente que la compañía todavía no dispone de un plan para resolver el problema del alineamiento de una eventual superinteligencia. Pocos días después llegó la intervención de Amodei y el debate saltó definitivamente desde los círculos especializados a la primera línea pública.
¿Qué significa que una IA pueda mejorarse a sí misma?
Es precisamente en esa idea de una inteligencia artificial capaz de ‘mejorarse a sí misma’ donde aparece uno de los conceptos que más inquietud está generando ahora mismo. Se llama automejora recursiva, o RSI por las siglas en inglés de Recursive Self-Improvement.
El término puede sonar a ciencia ficción, pero la idea es bastante sencilla. Una IA ayuda a desarrollar otra más capaz. Esa nueva generación, precisamente porque es mejor, puede ayudar más todavía a construir la siguiente. Y así sucesivamente, como una matrioska tecnológica en la que cada nueva capa puede contener una versión más capaz que la anterior.
Lo importante no es solo que los modelos sean cada vez mejores, ya que eso es algo que lleva años ocurriendo. Lo que preocupa es que el propio proceso de mejora pueda empezar a acelerarse.
Y aquí hay una diferencia importante entre lo que ya ocurre y lo que todavía no. Los modelos actuales pueden escribir y revisar código, detectar errores, analizar resultados o ejecutar determinadas tareas de investigación. Los agentes, además, pueden encadenar varias de esas acciones durante más tiempo y con menos intervención humana. Anthropic reconoce que esta transición ya está ocurriendo dentro de la compañía y que sus sistemas participan cada vez más en el desarrollo de nueva IA. Pero también admite que todavía no existe un modelo capaz de diseñar y desarrollar de forma completamente autónoma a su sucesor.
¿La automejora recursiva ya ha empezado?
Depende, en parte, de cómo se defina. Amodei considera que esa dinámica ya está comenzando. Según el responsable de Anthropic, desde aproximadamente este verano la IA está avanzando “drásticamente más rápido”, impulsada principalmente por su creciente capacidad para “construir la siguiente generación de IA”. “Esta dinámica se llama automejora recursiva y está empezando a ocurrir en toda la industria”, asegura.
Su compañía, sin embargo, rebaja el alcance de esa afirmación. Anthropic reconoce que está “delegando una parte creciente del desarrollo de IA en los propios sistemas de IA”, pero insiste en que el escenario en el que un sistema pueda diseñar y desarrollar de forma totalmente autónoma a su sucesor todavía no se ha alcanzado y que la RSI “no es inevitable”.
METR, una organización independiente que evalúa las capacidades de los sistemas avanzados, también señala que no hay una única definición de RSI. Para algunos investigadores basta con que una IA ayude a mejorar futuras IA, mientras que otros reservan el término para el momento en que ese proceso se vuelva lo bastante potente como para acelerar de forma sostenida el desarrollo de nuevos modelos.
Y ahí está la pregunta clave: si cada nueva generación será suficientemente mejor como para acelerar de manera significativa la llegada de la siguiente.
El verdadero salto estaría en la velocidad
Como ocurre muchas veces, lo que más preocupa no es tanto una ‘explosión de inteligencia’ repentina, sino una situación en la que los ciclos de desarrollo se acorten cada vez más y las herramientas para comprender, evaluar y controlar los modelos no avancen al mismo ritmo.
Jakub Pachocki, científico jefe de OpenAI, plantea que la clave está precisamente en acompasar ambos avances. Los laboratorios pueden reforzar el alineamiento y la monitorización mientras progresan los modelos o, si esas garantías no son suficientes, “ralentizar el desarrollo futuro según sea necesario”. Pachocki reconoce además que, a día de hoy, ningún laboratorio ha resuelto suficientemente estos problemas como para seguir aumentando las capacidades “a máxima velocidad durante mucho más tiempo”.
La automejora recursiva completa sigue siendo, por ahora, una posibilidad y no una realidad. Pero algo sí ha cambiado: la inteligencia artificial ya no es solo el producto que los grandes laboratorios intentan mejorar, sino también una de las herramientas con las que están construyendo su siguiente generación.
Y ahí está la incógnita que explica buena parte del debate actual: no solo hasta dónde puede llegar la IA, sino qué ocurre si aprende a acelerar el camino hasta la próxima versión.