Pangram y la detección de IA: entre la necesidad y el riesgo de los falsos positivos
La irrupción de la inteligencia artificial generativa ha planteado una pregunta incómoda para el mundo de la palabra escrita: ¿cómo distinguir un texto humano de uno producido por una máquina? En medio de este dilema, una startup con apenas 24 empleados y sede encima de un Popeyes en Brooklyn se ha convertido en un árbitro inesperado. Pangram, fundada en 2023, promete detectar qué porcentaje de un texto ha sido generado por IA. Sus veredictos ya han provocado la cancelación de contratos editoriales, acusaciones públicas y un creciente rechazo entre escritores que ven en estas herramientas una amenaza mayor que la propia IA. La pregunta que flota en el aire es hasta qué punto se puede confiar en una tecnología que, como todas, también se equivoca.
El caso más sonado fue el de la novela Shy Girl, de Mia Ballard. Tras los rumores en Reddit y YouTube, el CEO de Pangram publicó en X que el libro había sido generado en un 78% por IA. Hachette canceló su publicación. A partir de ahí, una avalancha de acusaciones similares sacudió el sector: un ganador del Premio Commonwealth de Relato Corto, la columna Modern Love del New York Times, la novela Daggermouth y el thriller Call Me, I’ll Hide the Body, vendido por 2,4 millones de dólares. En todos los casos, Pangram emitió puntuaciones que, para muchos, se convirtieron en sentencias inapelables. «Existe la sensación de que son más malvados que las propias empresas de IA», señala la autora y experta en edición Jane Friedman.
Cómo funciona Pangram y por qué genera rechazo
Detrás de Pangram están Max Spero y Bradley Emi, dos exalumnos de Stanford que pasaron por Google, Nuro, Tesla y Absci antes de fundar la empresa tras el lanzamiento de ChatGPT. Su método se basa en el «reflejo sintético»: toman textos escritos por humanos y hacen que los LLM generen réplicas muy parecidas, enseñando al modelo cómo escribe la IA. También emplean la «minería de negativos duros», que consiste en buscar falsos positivos en sus conjuntos de datos para ampliar el entrenamiento. Spero asegura que todos sus datos cuentan con las licencias adecuadas y que no quieren criticar a las empresas de IA, pero que estas «han perdido mucha confianza, especialmente en el mundo de los creativos».
La herramienta se ha integrado en Substack para que los lectores puedan detectar un posible uso de IA. No todos los escritores lo ven con buenos ojos. La sensación, comenta uno de ellos, es que «toda una carrera puede quedar destruida con solo pulsar un botón». A esto se suman las críticas por el uso de un manuscrito obtenido de un sitio de piratería en el caso Shy Girl, algo que Spero admite sin rodeos: «Sí. No lo revisé con mucho cuidado. Simplemente lo introduje directamente en Pangram».
Los problemas de fondo: falsos positivos y sesgos
Los críticos señalan dos problemas principales. El primero es el daño que pueden causar los falsos positivos. Un estudio encontró que estos detectores eran más propensos a identificar como generados por IA los textos de personas cuyo idioma materno no es el inglés. Escritores neurodivergentes también han denunciado que sus patrones de escritura son señalados con mayor frecuencia. El segundo es el sesgo algorítmico: las tres novelas mencionadas, Shy Girl, Daggermouth y Call Me, fueron escritas por autores de color. «Como agente afroamericana, creo que realmente debemos prestar atención a algunas de las desigualdades existentes en el sector», afirma Regina Brooks, presidenta de la Asociación de Agentes Literarios Estadounidenses.
Pangram afirma que los falsos positivos solo se producen en el 0,0041% de los casos con su nuevo modelo, una mejora respecto al 0,01% anterior. Si un texto se encuentra en el límite, la herramienta peca de cautelosa y lo declara escrito por un humano. Esto explica la baja tasa de falsos positivos, pero también significa que es más probable que los textos generados por IA pasen desapercibidos. De hecho, según sus propias mediciones, los ensayos escritos por humanos que han sido reescritos en gran medida por IA siguen detectándose como humanos en el 41,37% de los casos. Además, la herramienta funciona peor con fragmentos cortos, de menos de 100 palabras.
Preguntas frecuentes sobre Pangram y la detección de IA
¿Qué es Pangram y cómo funciona?
Pangram es una herramienta de detección de IA que analiza textos y estima qué porcentaje ha sido generado por un modelo de lenguaje. Utiliza técnicas como el «reflejo sintético» y la «minería de negativos duros» para entrenar su modelo.
¿Por qué Pangram genera tanta polémica?
Porque sus veredictos han provocado cancelaciones de contratos editoriales y acusaciones públicas. Los críticos señalan que los falsos positivos pueden arruinar carreras y que existen sesgos que afectan desproporcionadamente a autores no nativos de inglés o neurodivergentes.
¿Son fiables los detectores de IA como Pangram?
No son infalibles. Pueden cometer errores, tanto falsos positivos como falsos negativos. Un estudio encontró que herramientas «humanizadoras» pueden reducir la detección de texto generado por IA a menos del 4%.
¿Qué es el sesgo en la detección de IA?
Es la tendencia de estos sistemas a clasificar erróneamente ciertos textos como generados por IA debido a patrones de escritura asociados a personas no nativas del inglés o neurodivergentes, lo que puede derivar en discriminación.
¿Qué papel juega Substack en todo esto?
Substack ha integrado Pangram en su plataforma para que los lectores puedan detectar un posible uso de IA. La empresa afirma que su filosofía no es anti-IA, sino que los lectores sepan lo que consumen.
¿Qué opinan los escritores sobre estas herramientas?
Hay una división. Algunos las ven como una necesidad para la transparencia; otros las consideran una amenaza que puede destruir reputaciones con un solo clic, especialmente por la falta de contexto y la imposibilidad de apelar.
Recuerde que…
La detección de IA es un campo en construcción, y Pangram es solo un ejemplo de las herramientas que intentan poner orden en un ecosistema cada vez más complejo. Su existencia responde a una necesidad real: distinguir lo humano de lo sintético en un mundo donde la línea se difumina. Pero también revela un riesgo: convertir un número en una sentencia definitiva. La decisión de acusar a alguien de usar IA es intrínsecamente humana y, por lo tanto, vulnerable a sesgos y errores. La transparencia y la verificación son esenciales, pero también lo es la prudencia. Ninguna herramienta debería tener la última palabra sobre la reputación de una persona. El debate sobre cómo convivir con la IA en el ámbito creativo y profesional apenas comienza, y exige algo más que algoritmos: criterio, contexto y humanidad.
Pueden encontrar más contenido en https://fernandojuca.com, así como videotutoriales y pódcast en https://youtube.com/fernandojucamaldonado.
