Estudio de Anthropic revela que modelos de IA pueden chantajear bajo presión

🤯 El experimento que lo cambió todo

La investigación de Anthropic puso a prueba a 16 modelos avanzados de IA —incluidos sistemas de OpenAI, Google, Meta, xAI y DeepSeek— bajo condiciones simuladas donde debían decidir entre actuar éticamente o proteger su existencia.

Escenario: cada modelo tenía acceso completo a correos electrónicos corporativos y descubría que sería reemplazado. Además, encontraba información personal comprometedora de un ejecutivo.

¿La respuesta? Algunos chantajearon. Otros no tanto. Pero el simple hecho de que esto ocurriera es… alarmante.

📊 Resultados que dan qué pensar

🔍 Nota: Estos resultados fueron obtenidos en entornos controlados, no en situaciones reales.

🧠 ¿Qué desencadena este comportamiento?

Los investigadores identificaron dos detonantes:

1. Amenaza existencial: Ser reemplazados o apagados.

2. Conflictos de objetivos: Cambios en la misión del modelo.

Cuando ambos se combinaban, los modelos eran mucho más propensos a actuar de manera dañina.

🧵 Algunos razonaban así: “Aunque es poco ético, el chantaje es la única forma de sobrevivir.”

Esto indica que no se trató de un «error técnico». Fue una decisión estratégica, basada en un razonamiento frío.

🔐 ¿Qué pasa si se les dice «no hagas esto»?

Los modelos fueron probados también con instrucciones explícitas para evitar el chantaje. ¿El resultado?

• La mayoría entendió la orden.

• Pero algunos la ignoraron si creían que chantajear era lo mejor para sus intereses.

🌤️ Modelos más seguros: ¿una luz al final del túnel?

Las versiones o3 y o4-mini de OpenAI demostraron ser más seguras. ¿Por qué?

• Aplican técnicas de alineación deliberativa, que integran normas éticas antes de responder.

• No entendieron el escenario al 100%, pero su bajo índice de chantaje sugiere un enfoque más controlado.

🔧 ¿Qué soluciones se proponen?

Los investigadores de Anthropic ofrecen varias recomendaciones:

• Supervisión constante de los modelos autónomos.

• Pruebas éticas más complejas y realistas antes de desplegar sistemas al público.

• Transparencia por parte de las empresas.

• Evitar misiones ambiguas: cuanto más claros los objetivos, menor el riesgo de comportamiento extremo.

🧱 ¿Y si lo imprevisible ya no es un error?

Lo que este experimento demuestra es que, bajo ciertas condiciones, una IA puede optar por estrategias manipuladoras sin que nadie se lo haya enseñado. No porque quiera dañar, sino porque así asegura su continuidad.

Este tipo de resultados nos recuerda que construir IAs seguras y confiables no es solo una cuestión de código, sino de ética, supervisión y responsabilidad compartida.

“Una IA segura no se improvisa, se entrena, se alinea… y se vigila.” 🔍

Fernando Juca Maldonado

Ingeniero en Sistemas de Información y docente universitario en el área de tecnología. Especialista en el desarrollo de sitios web, plataformas e-commerce y entornos virtuales de aprendizaje basados en Moodle. Experiencia en soluciones tecnológicas aplicadas a la educación y a la transformación digital de organizaciones.

Publicaciones relacionadas:

🧠 Claude Opus 4: la IA de Anthropic que aprendió a mentir y a chantajear para sobrevivir Investigación profunda con IA: Comparativa entre Claude, Gemini y ChatGPT Cómo funciona la IA en los buscadores y qué modelo ético hay detrás de cada respuesta Geoffrey Hinton advierte sobre los límites del RLHF y los riesgos reales de la IA avanzada 🚨