El problema va mucho más allá de un solo chatbot
La polémica por los desnudos falsos generados con inteligencia artificial no es nueva, pero ha adquirido una nueva dimensión. Tras el caso de Grok, que permitió crear imágenes explícitas incluso de menores, el foco se ha ampliado hacia un fenómeno más inquietante: este tipo de funciones ya está integrado en aplicaciones disponibles en tiendas oficiales.
No se trata de plataformas experimentales ni de software clandestino. Son apps accesibles para cualquier usuario, descargables desde Google y Apple, los dos mayores ecosistemas móviles del mundo.
Cientos de aplicaciones, millones de descargas
Una investigación del Tech Transparency Project (TTP) ha identificado más de 100 aplicaciones que permiten desnudar digitalmente a una persona o insertar su rostro en imágenes y vídeos sexualizados generados por IA.
Los datos son contundentes:
-
55 apps detectadas en Google Play Store
-
47 apps en la App Store de Apple
-
Más de 700 millones de descargas acumuladas
-
117 millones de dólares en ingresos, principalmente por suscripciones
Estas cifras muestran que no se trata de un nicho marginal, sino de un mercado altamente rentable basado en la explotación de la imagen ajena.
Cómo funcionan estas aplicaciones
El mecanismo es sencillo y peligroso:
-
El usuario sube una fotografía de una persona.
-
La IA genera una versión sexualizada o un desnudo falso.
-
En algunos casos, se crean deepfakes en vídeo, colocando el rostro de la víctima en escenas explícitas.
El resultado no es real, pero es suficientemente verosímil como para difamar, acosar o extorsionar. Todo ello sin conocimientos técnicos y en cuestión de segundos.
El punto más delicado: menores y clasificación por edades
El informe de TTP detecta que varias de estas apps estaban clasificadas como aptas para adolescentes, reduciendo de forma alarmante las barreras de acceso para menores. Además, algunas se promocionaban con ejemplos explícitos directamente en sus fichas dentro de las tiendas.
Esto plantea un problema grave de:
-
Protección de menores
-
Consentimiento
-
Violencia digital de género
-
Responsabilidad de las plataformas
¿Qué dicen Google y Apple?
Tanto Google como Apple prohíben expresamente las aplicaciones con pornografía no consensuada en sus políticas. Sin embargo, la investigación concluye que la aplicación de estas normas es inconsistente.
Tras hacerse público el informe:
-
Apple eliminó 28 aplicaciones y advirtió a otros desarrolladores.
-
Google retiró 31 aplicaciones y anunció una revisión en curso.
Aun así, el propio informe subraya que ambas compañías obtienen beneficios económicos, ya que reciben hasta un 30 % de comisión por las compras dentro de estas apps.
Un problema global, también en España
Estas aplicaciones no están limitadas a un país. Salvo bloqueos específicos, una app aprobada en las tiendas oficiales suele estar disponible a escala global, incluida Europa y España.
Por tanto, cuando se habla de cientos de millones de descargas, se está describiendo un fenómeno internacional, no una anomalía local.
Más que tecnología: un reto ético y social
Este caso evidencia que la discusión sobre inteligencia artificial ya no puede centrarse solo en innovación. Está en juego la privacidad, el consentimiento, la seguridad digital y la dignidad de las personas.
Mientras la regulación avanza lentamente, estas herramientas ya están en los bolsillos de millones de usuarios.
FAQ – Preguntas frecuentes
¿Estas apps crean imágenes reales?
No, pero generan imágenes falsas altamente realistas que pueden causar daño real.
¿Son legales estas aplicaciones?
Depende del país, pero muchas vulneran leyes de privacidad, protección de menores y derechos de imagen.
¿Apple y Google permiten este tipo de apps?
En sus normas no, pero la supervisión ha demostrado ser insuficiente.
¿Puede afectarme aunque no use estas apps?
Sí. Cualquier imagen pública puede ser utilizada sin consentimiento.
📌 Para más análisis críticos sobre inteligencia artificial, tecnología y sociedad, visita
👉 https://fernandojuca.com
🎥 Suscríbete a mi canal de YouTube
👉 https://youtube.com/fernandojucamaldonado
Si lo deseas, puedo adaptar este contenido a una clase universitaria, guion para video de análisis, o artículo de opinión con enfoque legal y educativo.
Publicaciones relacionadas:
🎭 YouTube prueba una herramienta de detección de deepfakes para proteger la identidad de los creadores
El Impacto de los Deepfakes: ¿Podemos Confiar en lo que Vemos en la Era de la Inteligencia Artificial?
🤖 Cuando uses herramientas de IA… ¡Protege tu privacidad! 🔒
🌐 Samsung Internet Browser llega a Windows con IA integrada y privacidad avanzada
