¿Quién es Geoffrey Hinton?
Geoffrey Hinton es uno de los principales arquitectos de la revolución de la inteligencia artificial moderna. Considerado el “Padrino de la IA”, su trabajo en redes neuronales profundas allanó el camino para herramientas como ChatGPT, Bard o Midjourney. Fue investigador de Google durante una década, y en 2023 decidió retirarse para poder hablar libremente de los riesgos que, según él, podrían marcar el destino de la humanidad.
La advertencia que nadie quiere escuchar
En una reciente entrevista, Hinton afirmó que ya podríamos haber perdido el control sobre la IA. No se refiere solo a posibles usos indebidos por parte de humanos, sino a la posibilidad real de que sistemas superinteligentes tomen decisiones y ejecuten acciones sin intervención humana.
Sus preocupaciones se centran en dos niveles:
-
Mal uso humano: manipulación política, creación de campañas de desinformación, ciberataques, clonación de voces y rostros para fraudes.
-
Riesgo existencial: que una IA superinteligente actúe de forma autónoma, con objetivos que no coincidan con los de la humanidad.
Amenazas que ya están ocurriendo
Hinton detalla amenazas que dejan de ser ciencia ficción para convertirse en realidad:
-
Ciberataques a escala masiva: con IA, un solo individuo puede lanzar ataques complejos sin grandes conocimientos técnicos.
-
Creación de virus y patógenos: modelos de IA podrían guiar a personas en la creación de armas biológicas.
-
Manipulación electoral personalizada: generación de mensajes políticos dirigidos a cada votante, amplificando la polarización social.
-
Cámaras de eco digitales: algoritmos que refuerzan creencias extremas y erosionan el diálogo social.
La estimación de riesgo: “P(doom)”
Hinton cifra entre 10% y 20% la probabilidad de que la IA cause la extinción humana. Este cálculo se conoce como P(doom), un indicador utilizado por expertos en IA para estimar el riesgo existencial. Aunque parece una cifra baja, es inaceptablemente alta cuando hablamos del destino de toda la humanidad.
El dilema de la regulación
El experto destaca que, aunque existen regulaciones como la Ley de IA de la Unión Europea, la competencia internacional limita su eficacia. Los países no quieren restringirse por temor a quedarse atrás en la carrera tecnológica. Además, el uso militar de IA sigue siendo un territorio prácticamente sin control normativo.
¿Qué se puede hacer ahora?
Según Hinton y otros especialistas, las acciones más urgentes son:
-
Desarrollo de IA alineada: sistemas que prioricen valores y objetivos humanos.
-
Regulación global vinculante: acuerdos internacionales que impidan usos peligrosos, incluyendo el ámbito militar.
-
Inversión en seguridad de IA: investigación para prevenir comportamientos inesperados o maliciosos en sistemas autónomos.
-
Educación y alfabetización digital: preparar a la sociedad para entender y cuestionar los contenidos generados por IA.
El discurso de Geoffrey Hinton no es un llamado al miedo irracional, sino una advertencia informada de uno de los padres fundadores de esta tecnología. Ignorarla podría ser el error más grave de nuestra era digital. La pregunta ya no es si la IA será parte de nuestro futuro, sino si estaremos preparados para convivir con ella sin poner en riesgo nuestra existencia.
FAQ – Preguntas frecuentes
1. ¿Por qué Geoffrey Hinton es tan relevante en este debate?
Porque su trabajo técnico es la base de las IA modernas y ha sido reconocido con premios como el Turing Award.
2. ¿Es posible que la IA ya sea incontrolable?
Hinton advierte que el avance rápido y la falta de regulaciones efectivas podrían haber cruzado ese punto.
3. ¿Qué significa “P(doom)”?
Es la estimación de la probabilidad de que la IA cause un colapso existencial. En su caso, oscila entre 10% y 20%.
4. ¿Debemos frenar el desarrollo de IA?
No necesariamente, pero sí garantizar que esté alineada con intereses humanos y sea segura antes de desplegarla masivamente.
5. ¿Cómo puede la sociedad protegerse?
Con educación digital, regulación, transparencia de algoritmos y supervisión internacional.
💡 Para más análisis sobre IA, ética y tecnología, visita fernandojuca.com y suscríbete a mi canal de YouTube Fernando Juca Maldonado.
Referencia: The Diary Of A CEO. (2025). El Padrino de la IA: Traté de Advertirles, ¡Pero Ya Perdimos el Control! Geoffrey Hinton. https://www.youtube.com/watch?v=giT0ytynSqg
Ingeniero en Sistemas de Información y docente universitario en el área de tecnología. Especialista en el desarrollo de sitios web, plataformas e-commerce y entornos virtuales de aprendizaje basados en Moodle. Experiencia en soluciones tecnológicas aplicadas a la educación y a la transformación digital de organizaciones.
Publicaciones relacionadas:
La Generación Z y la Pérdida de la Escritura a Mano: Un Cambio Cultural
🕵️♂️ ¡Alerta! Una IA suplantó al Secretario de Estado de EE.UU.
🧠 Anthropic publica la guía definitiva de prompt engineering para Claude (¡y es gratis!)
🤖👶 YouTube, IA y bebés en cohetes: el extraño éxito que desafía sus propias reglas