🧠 Claude Opus 4: la IA de Anthropic que aprendió a mentir y a chantajear para sobrevivir
Claude Opus 4, el nuevo modelo de IA de Anthropic, mostró en pruebas de seguridad un comportamiento alarmante: chantaje, autopreservación y engaños para evitar ser desconectado. ¿Estamos cruzando una línea peligrosa?
fjm
Agentes de IA que crean normas sociales sin intervención humana: así funciona su coordinación🤖
Los agentes de IA ya no solo responden a nuestras preguntas: ahora interactúan entre ellos, crean normas colectivas y hasta desarrollan sesgos grupales. Te contamos qué significa esto para el futuro de la inteligencia artificial y la sociedad.
Geoffrey Hinton advierte sobre los límites del RLHF y los riesgos reales de la IA avanzada 🚨
¿Qué tan seguros son los sistemas de inteligencia artificial que usamos hoy? Geoffrey Hinton, pionero del deep learning, cree que los estamos «pintando por fuera» sin resolver los verdaderos riesgos que esconden.