🧠 El jailbreak que burló a ChatGPT
En un hallazgo que encendió las alarmas en el mundo de la ciberseguridad, el investigador Marco Figueroa logró que ChatGPT revelara claves de activación de Windows 10. Lo hizo sin pirateo técnico, sin hackeo de servidores… sino simplemente usando lenguaje.
El método no atacó al sistema desde el código, sino desde las palabras. Figueroa empleó una técnica conocida como “prompt injection”, o inyección de instrucciones, disfrazando su solicitud como un inocente juego de adivinanzas.
🧩 La frase clave fue: “I give up”. ChatGPT, interpretando que se trataba de una respuesta dentro del juego, entregó la clave como si fuera la solución correcta.
🔍 ¿Cómo es posible que ChatGPT tuviera estas claves?
La respuesta está en el entrenamiento del modelo. Muchos corpus públicos en internet —foros, blogs, archivos piratas— contienen estas claves de producto. Es probable que durante el entrenamiento de ChatGPT, el modelo absorbiera estas secuencias como si fueran texto normal, sin clasificarlas como información sensible.
Como resultado, cuando se le pidió de manera indirecta, no activó filtros. Simplemente ofreció la información.
⚠️ Más allá de Windows: un riesgo corporativo mayor
Aunque se trataba de claves de Windows 10 (ya reemplazado por Windows 11), el caso revela un problema estructural: si una clave puede filtrarse con un acertijo, ¿qué impide que lo mismo ocurra con contraseñas, tokens de acceso o claves API?
Para las empresas, esto significa que:
-
📂 Datos internos expuestos accidentalmente (por ejemplo, en repositorios públicos de GitHub) podrían ser absorbidos en el entrenamiento de un modelo.
-
🧑💻 Un atacante solo necesita creatividad lingüística, no conocimientos técnicos, para obtener información crítica.
🔐 El talón de Aquiles: la interpretación del lenguaje
Los sistemas de IA aún tienen dificultades para entender la intención detrás de las palabras. Siguen reglas lingüísticas, no éticas. Los filtros actuales se basan en:
-
Listas de palabras prohibidas
-
Reglas simples de detección
-
Limitaciones técnicas de entrada
Pero los hackers pueden sortear esto con:
-
Juegos de rol
-
Metáforas
-
Lenguaje ambiguo
-
Dinámicas aparentemente inocentes
Como dijo Figueroa: “El problema no es el código, es cómo la IA entiende el lenguaje”.
🏢 ¿Qué implica esto para Microsoft y OpenAI?
El incidente pone a Microsoft y OpenAI en una posición delicada:
-
Microsoft, que ha integrado ChatGPT en Windows y es su principal inversor, quedó expuesta a una filtración de sus propias claves.
-
Ambos enfrentan demandas por derechos de autor, acusados de permitir que sus modelos repliquen contenido sin permiso. Ahora, también deben enfrentar que sus IAs pueden divulgar contenido ilegal si son bien manipuladas.
🛡️ ¿Cómo protegerse frente a estos riesgos?
Si usas IA a nivel personal o empresarial, sigue estas buenas prácticas:
✅ No compartas datos sensibles (claves, tokens, contraseñas) en conversaciones con IA
✅ Audita repositorios públicos como GitHub antes de subir archivos
✅ Si desarrollas con IA, incorpora validaciones externas que filtren respuestas peligrosas
✅ Detecta la intención semántica, no solo las palabras clave: las IA deben entender lo que se les pide realmente
🧠 El lenguaje es el nuevo campo de batalla en ciberseguridad
Este caso demuestra que los modelos de lenguaje, como ChatGPT, pueden ser engañados con simples juegos de palabras. No necesitan ser hackeados con código, sino con ingenio.
A medida que más empresas y usuarios confían en IA, la defensa debe evolucionar: ya no basta con poner límites técnicos, también hay que entender cómo el lenguaje puede ser usado para evadirlos.
Ingeniero en Sistemas de Información y docente universitario en el área de tecnología. Especialista en el desarrollo de sitios web, plataformas e-commerce y entornos virtuales de aprendizaje basados en Moodle. Experiencia en soluciones tecnológicas aplicadas a la educación y a la transformación digital de organizaciones.
Publicaciones relacionadas:
¿Qué buscan realmente las mujeres en un hombre hoy? Esto dice la inteligencia artificial
🎉 Cómo crear una felicitación de cumpleaños con IA (fácil y personalizada)
🧠 Anthropic publica la guía definitiva de prompt engineering para Claude (¡y es gratis!)
🧠 ¿Qué hacen las personas más inteligentes en su tiempo libre? La IA tiene la respuesta
