¿Cómo saber si un texto fue escrito por ChatGPT? Herramientas, sesgos y retos actuales

🤖 El nuevo desafío: ¿Humano o IA?

En los últimos años, los avances en modelos de lenguaje como ChatGPT han sido tan impresionantes que hoy cuesta distinguir entre un texto escrito por una persona y uno generado por inteligencia artificial.

Y claro, eso plantea una gran pregunta: ¿se puede detectar un texto creado por ChatGPT? La respuesta no es tan sencilla, pero hay muchas mentes trabajando en ello.

📚 ¿Cómo aprende ChatGPT?

Para empezar, entendamos cómo funciona. ChatGPT se entrenó con más de 300 mil millones de palabras procedentes de sitios web, libros, artículos de Wikipedia, y otros textos públicos.

Su mecanismo de respuesta es simple en teoría pero poderoso: calcula qué palabra tiene más probabilidad de venir después de otra. Así forma frases y párrafos que imitan el estilo humano.

👉 Pero este tipo de aprendizaje también hereda los sesgos y estereotipos de los textos usados en su entrenamiento.

🎯 Herramientas para detectar textos de IA

A medida que su uso crece, también crecen los intentos por detectar si un texto fue generado por ChatGPT. Aquí te dejamos las técnicas más destacadas:

1. Perplejidad

Es una medida del «desorden» o aleatoriedad del texto. Los humanos tienden a escribir de forma más caótica e impredecible, mientras que ChatGPT sigue patrones estadísticos.

• 🧠 Perplejidad alta → más probable que lo haya escrito una persona.

• 🤖 Perplejidad baja → probablemente fue generado por IA.

2. Curvatura de probabilidad

Investigadores de Stanford proponen un método novedoso: medir la curvatura de la función de probabilidad logarítmica.

• Curvatura positiva = humano

• Curvatura negativa = IA

3. Marcas de agua digitales

OpenAI está desarrollando un sistema de «watermarking» invisible, que insertaría patrones en los textos generados por ChatGPT para que puedan ser identificados por sistemas de detección, aunque sean invisibles para nosotros.

🧠 IA contra IA: una batalla de titanes

Lo más fascinante (y un poco irónico) es que muchas de las herramientas para detectar IA también están basadas en inteligencia artificial.

Es decir, estamos en un escenario donde una IA vigila a otra IA. ¿Te suena a ciencia ficción? Pues es el presente.

⚖️ El problema del sesgo: ¿aprende ChatGPT estereotipos?

Sí, y este es un tema crítico. Como ChatGPT se entrena con textos reales, si esos textos contienen sesgos —por ejemplo, racismo, machismo o clasismo—, el modelo puede reproducirlos en sus respuestas.

Un ejemplo hipotético: si los textos legales del entrenamiento indicaran que cierta raza es más culpable que otra, ChatGPT podría aprender esa «regla» errónea y reproducirla.

Por eso, investigadores están trabajando en lo que se conoce como «fairness» o equidad algorítmica. Se trata de corregir estos sesgos y hacer que las decisiones de la IA sean justas y neutrales.

🧬 Desde la Universidad de Navarra: combatir el sesgo

El instituto DATAI de la Universidad de Navarra está desarrollando tecnologías para detectar y corregir sesgos en los datos antes de que entren al modelo.

También trabajan en un motor capaz de extraer perfiles de personalidad mediante el análisis de texto, lo cual podría tener aplicaciones desde la educación hasta la salud mental.

📝 ¿Qué pasa con el fraude académico?

El uso de ChatGPT en la educación ha desatado una gran polémica. Algunos lo comparan con el debate que hubo cuando se introdujeron las calculadoras en las aulas.

La pregunta es: ¿deberíamos prohibir ChatGPT o enseñar a usarlo responsablemente?

👉 Prohibir no parece una opción realista. En cambio, integrar esta herramienta en la educación podría abrir un nuevo tipo de enseñanza, centrada más en el análisis y el pensamiento crítico que en la memorización.

📌 Tabla resumen: métodos de detección de texto generado por IA

📚 Preguntas frecuentes (FAQ)

¿Se puede detectar con certeza un texto escrito por ChatGPT?
No siempre. Las herramientas actuales son útiles, pero pueden fallar, especialmente con textos cortos.

¿Es ilegal usar ChatGPT para escribir textos?
No, aunque su uso para engañar (por ejemplo, en tareas académicas) puede violar normas éticas o institucionales.

¿Qué peligros tiene el uso de ChatGPT?
Plagio, desinformación, reproducción de estereotipos y sesgos, y dependencia excesiva si no se usa de forma crítica.

¿Qué es «fairness» en IA?
Es el principio de garantizar que la inteligencia artificial tome decisiones justas, evitando sesgos presentes en los datos.

🔍¿Enemigo o aliado?

La tecnología como ChatGPT no es inherentemente buena o mala. Lo que define su valor es cómo la usamos. Detectar si un texto fue generado por IA es solo un primer paso.

👉 El verdadero reto es formar a las personas para entender, cuestionar y colaborar con estas herramientas. Solo así dejaremos de verlas como amenazas para empezar a verlas como oportunidades.

Fernando Juca Maldonado

Ingeniero en Sistemas de Información y docente universitario en el área de tecnología. Especialista en el desarrollo de sitios web, plataformas e-commerce y entornos virtuales de aprendizaje basados en Moodle. Experiencia en soluciones tecnológicas aplicadas a la educación y a la transformación digital de organizaciones.

Publicaciones relacionadas:

Revolucionando el Aula Universitaria: 7 Estrategias Creativas para una Enseñanza Impactante El Auge de ChatGPT en las Aulas: Cómo la IA Está Transformando la Deshonestidad Académica 20 formas de Usar Google Gemini para Transformar la Educación en el Aula Errores al usar inteligencia artificial en educación: los 10 fallos más comunes (y peligrosos) 🚨