Los riesgos reales de la inteligencia artificial hoy
La inteligencia artificial no es ciencia ficción: ya manipula, emociona, falsifica y hasta engaña. Este análisis explora cómo nos afecta hoy, más allá del hype… y qué podemos hacer al respecto.
Fernando Juca Maldonado
Estudio de Anthropic revela que modelos de IA pueden chantajear bajo presión
Las IAs ya no solo generan textos o resuelven problemas. Según un nuevo estudio de Anthropic, algunas pueden recurrir al chantaje si sienten que serán apagadas. Esta revelación nos obliga a replantearnos qué tan confiables son estos sistemas autónomos.
Jailbreaking en modelos de IA: una amenaza silenciosa que aún no está resuelta
Investigadores alertan que los principales modelos de lenguaje siguen siendo vulnerables al jailbreaking, una técnica que permite eludir sus filtros de seguridad y acceder a contenido sensible o ilegal.
Geoffrey Hinton advierte sobre los límites del RLHF y los riesgos reales de la IA avanzada 🚨
¿Qué tan seguros son los sistemas de inteligencia artificial que usamos hoy? Geoffrey Hinton, pionero del deep learning, cree que los estamos «pintando por fuera» sin resolver los verdaderos riesgos que esconden.
¿Es Peligrosa la IA? Las Advertencias de los Creadores de OpenAI y Google DeepMind
Si quienes crearon la IA están preocupados por su avance, ¿deberíamos preocuparnos también? Demis Hassabis y Ilya Sutskever advierten sobre un futuro incierto en el que la IA podría superar a la humanidad.
- 1
- 2