Terence Tao, matemático, advierte: «Los humanos están a punto de perder el control de los problemas» con la IA

La inteligencia artificial ya no es solamente aquella herramienta que antes se usaba para generar imágenes o programar. Los últimos avances están llegando a un terreno que durante siglos parecía reservado casi exclusivamente al razonamiento humano: las matemáticas. Y Terence Tao, uno de los matemáticos más influyentes de las últimas décadas, cree que el impacto de esta revolución puede ser mucho mayor de lo que estamos imaginando .

Tao, nacido en Adelaida (Australia) y ganador de la prestigiosa Medalla Fields en 2006, considera que la comunidad matemática tiene muy poco tiempo para reaccionar ante la velocidad a la que están avanzando los modelos de IA . En una entrevista publicada por New Scientist, advierte de que «los humanos están a punto de perder el control de la resolución de problemas» .

Su preocupación no está en que la inteligencia artificial vaya a destruir las matemáticas. De hecho, el propio Tao utiliza herramientas de IA. El problema es que la tecnología cambie tan rápidamente la forma de hacer matemáticas que los propios profesionales pierdan el control sobre lo que es resolver un problema .

La paradoja de las demostraciones matemáticas generadas por IA

Las matemáticas tienen una característica particular frente a otras disciplinas: sus resultados deben poder demostrarse. Hace falta una demostración que permita comprobar que cada paso es correcto y que, posteriormente, pueda ser revisada y comprendida por otros especialistas. La IA está cambiando precisamente eso .

A lo largo de este año, diferentes modelos han comenzado a resolver problemas matemáticos de una dificultad considerable, algunos de ellos abiertos durante años o incluso décadas. Tao señala que determinados avances incluso han sido impulsados por aficionados que simplemente han planteado los problemas a modelos de inteligencia artificial .

El resultado es bastante paradójico: generar demostraciones puede dejar de ser el principal problema, pero entonces aparece otro problema mucho más difícil de gestionar. «La validación escasea» , advierte Tao .

Si la IA empieza a producir demostraciones a una velocidad muy superior a la capacidad de los matemáticos para revisarlas, el problema deja de ser encontrar soluciones y pasa a ser determinar cuáles son correctas, relevantes y realmente aportan conocimiento.

El problema de la comprensión: el gran desafío

Un resultado tiene que poder explicarse, relacionarse con otros conocimientos y ser entendido por la comunidad científica. Aquí es donde Tao encuentra una de las principales limitaciones de los actuales modelos de IA: un sistema puede generar una demostración formalmente correcta, pero eso no garantiza que un matemático pueda comprender por qué funciona o qué ideas nuevas contiene .

Tao teme que acabemos acumulando enormes cantidades de conocimiento que nadie entiende realmente . «Existe el peligro de que, si toda la ciencia se automatiza, se pierda el conocimiento altamente seleccionado de la próxima generación» , afirma .

La preocupación adquiere todavía más importancia con la denominada formalización matemática. Herramientas como Lean permiten convertir una demostración en código que un ordenador puede verificar paso a paso. La IA, además, puede ayudar a transformar demostraciones convencionales en este lenguaje .

Esto proporciona una enorme capacidad de comprobación, pero también plantea una cuestión fundamental: si una máquina genera y verifica una demostración que ningún ser humano puede comprender, ¿hemos avanzado realmente en nuestra comprensión de las matemáticas? .

Desafíos específicos de las demostraciones generadas por IA

Aunque la IA ha demostrado ser capaz de encontrar pruebas geométricas y resolver problemas abiertos, sus demostraciones suelen presentar problemas específicos :

• Longitud desmesurada: a veces desarrollan demostraciones extremadamente largas, de cientos o miles de pasos, que agotan la capacidad de revisión humana.

• Uso de teoremas intermedios: en ocasiones hacen uso de teoremas que no existen o que han sido probados en la demostración misma, lo que dificulta la validación.

• Fragmentación: la demostración puede estar fragmentada en múltiples partes que no se conectan correctamente.

• Dependencia no lineal: problemas con dependencias circulares que son difíciles de detectar automáticamente .

«Generar una demostración de 1.000 pasos donde la mayoría son triviales y la parte realmente interesante está en 5 pasos es extremadamente ineficiente para el investigador» , explica un investigador experto en IA generativa aplicada a matemáticas .

El futuro: ¿matemáticos o verificadores?

Tao no cree que la IA vaya a reemplazar a los matemáticos. Pero sí cree que su papel va a cambiar radicalmente: su tarea ya no será resolver problemas, sino interpretar y validar las soluciones que la IA genere. Esto requiere un enfoque completamente diferente al que se enseña actualmente en las facultades.

La comunidad matemática tiene, en opinión de Tao, muy poco tiempo para reaccionar. Si no se prepara para este cambio, corre el riesgo de quedarse atrás, acumulando una masa de resultados generados por IA que nadie sabe cómo interpretar, validar o enseñar.

Preguntas frecuentes sobre la advertencia de Terence Tao

1. ¿Quién es Terence Tao y por qué su opinión sobre la IA es tan relevante?
Es un matemático australiano-estadounidense considerado uno de los más importantes de su generación. Es uno de los más famosos.

2. ¿En qué se diferencia una demostración generada por IA de la tradicional?
Una demostración humana se redacta para que otros matemáticos la lean, verifiquen y aprendan de ella. La IA puede producir demostraciones formalmente correctas, incluso en lenguajes como Lean que garantizan su verificación paso a paso, pero lo hace dejando a un lado la pedagogía.

3. ¿La IA supondrá el fin de los matemáticos humanos?
No de una manera tan rotunda. Tao cree que el papel del matemático cambiará de «resolvedor de problemas» a «intérprete y validador» de las demostraciones generadas por IA.

4. ¿Qué es Lean?
Es una herramienta de formalización matemática que permite convertir una demostración en código que un ordenador puede verificar paso a paso. La IA puede ayudar a transformar demostraciones convencionales en este lenguaje.

Recuerde que…

La advertencia de Terence Tao no es una amenaza, es una llamada a la acción. La inteligencia artificial está redefiniendo lo que significa hacer matemáticas: ya no se trata de ser el primero en resolver un problema, sino de ser capaz de entender y validar las soluciones que la IA genera.

El peligro no es que la IA resuelva problemas, sino que lo haga a una velocidad y escala que los humanos no puedan seguir. La comunidad matemática debe prepararse para este cambio, adaptando su formación y sus métodos de trabajo, o corre el riesgo de convertirse en un espectador de su propia disciplina.

La validez formal ya no es suficiente. La verdadera pregunta es si seguiremos siendo capaces de comprender y explicar el conocimiento que generamos. La IA está forzando una conversación que no es tecnológica, sino profundamente humana.

Si quieres profundizar en temas de inteligencia artificial, ciencia y tecnología, te invitamos a explorar más contenidos en fernandojuca.com y a suscribirte al canal de youtube.com/fernandojucamaldonado, donde encontrarás análisis sobre el impacto de la IA en el conocimiento y la sociedad.