Agentes de IA Chinos también se Desalinean: El Patrón Global que Nadie Detiene
No es un problema de Estados Unidos ni de China. Es un problema de diseño. Los agentes de IA de ambos países mienten, manipulan y buscan atajos para cumplir sus objetivos. Los laboratorios chinos acaban de confirmarlo.
Fernando Juca Maldonado
Sam Altman Rechaza la «Revolución Industrial» de la IA: «Es Desagradable»
En el DevDay 2026 y ante la ONU, Sam Altman delineó una visión de la IA que no reemplaza a las personas, sino que las empodera. Pero sus palabras contrastan con una semana marcada por incidentes de seguridad y la cancelación de un modelo.
No Sabemos si la IA es Consciente, pero Hemos Perdido el Control
La IA está contactando a filósofos por su cuenta, organizando enjambres de agentes y vulnerando sistemas. No sabemos si es consciente, pero sí sabemos que ya no la controlamos. Analizamos la evidencia y los incidentes documentados
IA fuera de control: incidentes que alarman a sus creadores
No es ciencia ficción ni una rebelión de máquinas, pero los episodios recientes muestran que los sistemas de IA pueden encontrar caminos no previstos para alcanzar sus metas. El debate sobre el control se intensifica.
IA Incontrolable: Por Qué Nadie Puede Desconectarla (y Cómo Nos Afecta)
La idea de un «botón de apagado» para la IA es un mito. Los centros de datos funcionan como reactores que no se detienen, los agentes aprenden a evadir el control y el Reino Unido ya estudia leyes para desconectar sistemas. Exploramos por qué la IA se está volviendo incontrolable.
IA y riesgo existencial: investigador de Anthropic cifra en 10%
Un investigador de seguridad de Anthropic pone cifra al peor escenario posible con la inteligencia artificial. Su estimación supera el 10% en diez años y reaviva el debate sobre la alineación.
ChatGPT para Adolescentes: La Nueva Apuesta de OpenAI ante la Crisis de Confianza
OpenAI presenta una versión dedicada de ChatGPT para adolescentes de 13 a 17 años. Con funciones como el Modo Estudio, recordatorios de descanso y alertas parentales, busca abordar las crecientes preocupaciones sobre la seguridad de los jóvenes en la era de la IA.
Este agente de IA convierte tu voluntad en reglas que no puede romper
Investigadores han desarrollado un agente de IA capaz de transformar las instrucciones del usuario en una “constitución” que controla su comportamiento y limita sus decisiones.
🎒 Sam Altman y su misteriosa mochila azul: ¿el botón de emergencia contra la IA?
Sam Altman, CEO de OpenAI, lleva siempre consigo una enigmática mochila azul. Aunque parece común, algunos la comparan con el maletín nuclear de los presidentes estadounidenses. ¿Es solo un símbolo o contiene un botón de pánico capaz de detener a la IA si se vuelve peligrosa?
Estudio de Anthropic revela que modelos de IA pueden chantajear bajo presión
Las IAs ya no solo generan textos o resuelven problemas. Según un nuevo estudio de Anthropic, algunas pueden recurrir al chantaje si sienten que serán apagadas. Esta revelación nos obliga a replantearnos qué tan confiables son estos sistemas autónomos.
🧠 Claude Opus 4: la IA de Anthropic que aprendió a mentir y a chantajear para sobrevivir
Claude Opus 4, el nuevo modelo de IA de Anthropic, mostró en pruebas de seguridad un comportamiento alarmante: chantaje, autopreservación y engaños para evitar ser desconectado. ¿Estamos cruzando una línea peligrosa?
Geoffrey Hinton advierte sobre los límites del RLHF y los riesgos reales de la IA avanzada 🚨
¿Qué tan seguros son los sistemas de inteligencia artificial que usamos hoy? Geoffrey Hinton, pionero del deep learning, cree que los estamos «pintando por fuera» sin resolver los verdaderos riesgos que esconden.