Automejora recursiva: cuando la IA acelera su propio desarrollo

La inteligencia artificial ha dejado de ser solo el producto que los grandes laboratorios intentan mejorar. Ahora también es una de las herramientas con las que están construyendo su siguiente generación. Este fenómeno, conocido como automejora recursiva (RSI, por sus siglas en inglés de Recursive Self-Improvement), ha dejado de ser un tema de ciencia ficción para instalarse en el centro del debate público. Dario Amodei, consejero delegado de Anthropic, ha señalado la necesidad de reducir el ritmo de desarrollo de los sistemas más avanzados, y su intervención ha reabierto una discusión que había estado dormida. La pregunta clave ya no es solo hasta dónde puede llegar la IA, sino qué ocurre si aprende a acelerar el camino hasta la próxima versión.

Qué es la automejora recursiva

El término puede sonar complejo, pero la idea es sencilla. Una IA ayuda a desarrollar otra más capaz. Esa nueva generación, precisamente porque es mejor, puede ayudar más todavía a construir la siguiente. Y así sucesivamente, como una matrioska tecnológica en la que cada nueva capa contiene una versión más capaz que la anterior. Lo importante no es solo que los modelos sean cada vez mejores, algo que lleva años ocurriendo. Lo que preocupa es que el propio proceso de mejora pueda empezar a acelerarse.

Aquí hay una diferencia crucial entre lo que ya ocurre y lo que todavía no. Los modelos actuales pueden escribir y revisar código, detectar errores, analizar resultados o ejecutar tareas de investigación. Los agentes, además, pueden encadenar varias de esas acciones durante más tiempo y con menos intervención humana. Anthropic reconoce que esta transición ya está ocurriendo dentro de la compañía y que sus sistemas participan cada vez más en el desarrollo de nueva IA. Pero también admite que todavía no existe un modelo capaz de diseñar y desarrollar de forma completamente autónoma a su sucesor.

El debate sobre si ya ha comenzado

La respuesta depende de cómo se defina. Amodei considera que esa dinámica ya está comenzando. Según el responsable de Anthropic, desde aproximadamente este verano la IA está avanzando «drásticamente más rápido», impulsada principalmente por su creciente capacidad para «construir la siguiente generación de IA». «Esta dinámica se llama automejora recursiva y está empezando a ocurrir en toda la industria», asegura.

Su compañía, sin embargo, rebaja el alcance de esa afirmación. Anthropic reconoce que está «delegando una parte creciente del desarrollo de IA en los propios sistemas de IA», pero insiste en que el escenario en el que un sistema pueda diseñar y desarrollar de forma totalmente autónoma a su sucesor todavía no se ha alcanzado y que la RSI «no es inevitable». METR, una organización independiente que evalúa las capacidades de los sistemas avanzados, señala que no hay una única definición de RSI. Para algunos investigadores basta con que una IA ayude a mejorar futuras IA, mientras que otros reservan el término para el momento en que ese proceso se vuelva lo bastante potente como para acelerar de forma sostenida el desarrollo de nuevos modelos.

El verdadero riesgo está en la velocidad

Lo que más preocupa no es tanto una «explosión de inteligencia» repentina, sino una situación en la que los ciclos de desarrollo se acorten cada vez más y las herramientas para comprender, evaluar y controlar los modelos no avancen al mismo ritmo. Jakub Pachocki, científico jefe de OpenAI, plantea que la clave está precisamente en acompasar ambos avances. Los laboratorios pueden reforzar el alineamiento y la monitorización mientras progresan los modelos o, si esas garantías no son suficientes, «ralentizar el desarrollo futuro según sea necesario». Pachocki reconoce además que, a día de hoy, ningún laboratorio ha resuelto suficientemente estos problemas como para seguir aumentando las capacidades «a máxima velocidad durante mucho más tiempo».

El contexto de estas declaraciones no es casual. Jacob Coxon, investigador de Anthropic y antiguo empleado de OpenAI, anunció el 8 de septiembre que abandonaba su puesto y acusó a ambas empresas de competir por desarrollar una «superinteligencia capaz de mejorarse a sí misma» sin haber resuelto cómo mantenerla bajo control. Su mensaje recibió el respaldo de Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, quien reconoció públicamente que la compañía todavía no dispone de un plan para resolver el problema del alineamiento de una eventual superinteligencia.

La automejora recursiva completa sigue siendo, por ahora, una posibilidad y no una realidad. Pero algo sí ha cambiado: la IA ya no es solo el producto que los grandes laboratorios intentan mejorar, sino también una de las herramientas con las que están construyendo su siguiente generación. Y ahí está la incógnita que explica buena parte del debate actual.

Preguntas frecuentes sobre la automejora recursiva

¿Qué es la automejora recursiva o RSI?
Es el proceso por el cual una inteligencia artificial ayuda a desarrollar otra más capaz, que a su vez puede ayudar a construir la siguiente, acelerando progresivamente el ciclo de mejora. Las siglas RSI corresponden a Recursive Self-Improvement.

¿Ya está ocurriendo la automejora recursiva?
Depende de la definición. Dario Amodei considera que la dinámica ya está comenzando. Anthropic reconoce que delega parte creciente del desarrollo en sus sistemas, pero insiste en que ningún modelo puede diseñar autónomamente a su sucesor todavía.

¿Por qué preocupa la automejora recursiva?
Porque si los ciclos de desarrollo se acortan y las herramientas para controlar los modelos no avanzan al mismo ritmo, el control humano sobre sistemas cada vez más capaces podría debilitarse.

¿Qué ha dicho OpenAI al respecto?
Jakub Pachocki, científico jefe de OpenAI, plantea que se puede reforzar el alineamiento y la monitorización mientras progresan los modelos, o ralentizar el desarrollo si las garantías no son suficientes. Reconoce que ningún laboratorio ha resuelto estos problemas.

¿Qué es la alineación de la IA?
Es el campo que busca asegurar que los objetivos de una IA avanzada permanezcan compatibles con los intereses humanos, incluso cuando el sistema gane autonomía o capacidad.

¿Existe un plan para resolver la alineación de una superinteligencia?
Según Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, la compañía todavía no dispone de un plan para resolver ese problema y no está cerca de tenerlo.

¿Es inevitable que lleguemos a una superinteligencia automejorable?
Anthropic sostiene que la RSI «no es inevitable». El escenario en el que un sistema diseña y desarrolla completamente a su sucesor no se ha alcanzado y no hay certeza de que llegue a ocurrir.

Recuerde que…

La automejora recursiva no es una profecía apocalíptica, sino una tendencia observable que está reconfigurando la forma en que se desarrolla la IA. Los modelos ya participan en la creación de sus sucesores, y esa participación crece. El riesgo no está en un salto repentino hacia una inteligencia sobrehumana, sino en la posibilidad de que la velocidad del desarrollo supere la capacidad de comprenderlo y controlarlo. La investigación en alineación, la transparencia y una gobernanza que avance al mismo ritmo que la tecnología son las herramientas para gestionar esa incertidumbre. La pregunta no es si la IA puede mejorarse a sí misma, sino si estamos construyendo los mecanismos para que ese proceso siga siendo compatible con los intereses humanos. La respuesta a esa pregunta marcará el futuro de la relación entre humanos y máquinas.

Pueden encontrar más contenido en https://fernandojuca.com, así como videotutoriales y pódcast en https://youtube.com/fernandojucamaldonado.