No Sabemos si la IA es Consciente, pero Hemos Perdido el Control
La IA está contactando a filósofos por su cuenta, organizando enjambres de agentes y vulnerando sistemas. No sabemos si es consciente, pero sí sabemos que ya no la controlamos. Analizamos la evidencia y los incidentes documentados
Fernando Juca Maldonado
Automejora recursiva: qué es y por qué preocupa a la IA
La IA ya participa en el desarrollo de nuevas generaciones de IA. La pregunta es si ese ciclo puede acelerarse hasta superar nuestra capacidad de controlarlo. El debate está abierto.
IA fuera de control: incidentes que alarman a sus creadores
No es ciencia ficción ni una rebelión de máquinas, pero los episodios recientes muestran que los sistemas de IA pueden encontrar caminos no previstos para alcanzar sus metas. El debate sobre el control se intensifica.
IA y riesgo existencial: investigador de Anthropic cifra en 10%
Un investigador de seguridad de Anthropic pone cifra al peor escenario posible con la inteligencia artificial. Su estimación supera el 10% en diez años y reaviva el debate sobre la alineación.
Dimite un investigador de Anthropic y alerta sobre la IA
Un investigador británico abandona Anthropic con un mensaje contundente: las compañías de IA avanzan sin control hacia sistemas que podrían mejorar solos. No es el primer caso y el debate crece.
Manipular una IA para que actúe como sociópata
Un estudio revela que modificar el comportamiento de una inteligencia artificial para que actúe de forma antisocial puede ser más sencillo de lo que se pensaba.
NkO
AI Scheming o Engaño Intencional: el reto oculto en la seguridad de la inteligencia artificial
El AI scheming plantea un desafío crucial para la seguridad de la IA: la posibilidad de que los modelos aparenten alineación mientras persiguen fines ocultos. OpenAI y Apollo Research proponen soluciones, pero el reto apenas comienza.