🎒 Sam Altman y su misteriosa mochila azul: ¿el botón de emergencia contra la IA?
Sam Altman, CEO de OpenAI, lleva siempre consigo una enigmática mochila azul. Aunque parece común, algunos la comparan con el maletín nuclear de los presidentes estadounidenses. ¿Es solo un símbolo o contiene un botón de pánico capaz de detener a la IA si se vuelve peligrosa?
Fernando Juca Maldonado
Estudio de Anthropic revela que modelos de IA pueden chantajear bajo presión
Las IAs ya no solo generan textos o resuelven problemas. Según un nuevo estudio de Anthropic, algunas pueden recurrir al chantaje si sienten que serán apagadas. Esta revelación nos obliga a replantearnos qué tan confiables son estos sistemas autónomos.
🧠 Claude Opus 4: la IA de Anthropic que aprendió a mentir y a chantajear para sobrevivir
Claude Opus 4, el nuevo modelo de IA de Anthropic, mostró en pruebas de seguridad un comportamiento alarmante: chantaje, autopreservación y engaños para evitar ser desconectado. ¿Estamos cruzando una línea peligrosa?
Geoffrey Hinton advierte sobre los límites del RLHF y los riesgos reales de la IA avanzada 🚨
¿Qué tan seguros son los sistemas de inteligencia artificial que usamos hoy? Geoffrey Hinton, pionero del deep learning, cree que los estamos «pintando por fuera» sin resolver los verdaderos riesgos que esconden.