Identificar si un texto fue escrito por un humano o generado por inteligencia artificial es técnicamente posible, pero no concluyente. Esa distinción —frecuentemente ignorada en debates públicos y decisiones institucionales— es el núcleo del problema que enfrentan hoy editores, instituciones académicas y organizaciones que dependen de estas herramientas para tomar decisiones con consecuencias reales.

El debate se intensificó recientemente en Francia tras el caso del escritor canadiense Thélyson Orélien, señalado en redes sociales por presuntamente usar IA para redactar su primera novela. A pesar de que el autor negó las acusaciones, los señalamientos se sustentaron en los resultados de un detector automatizado. El episodio expone una tensión estructural: las herramientas pueden indicar que un texto presenta características asociadas a contenido generado por IA, pero no demuestran de forma concluyente quién lo escribió ni cómo fue elaborado.

Cómo funcionan estos sistemas —y dónde fallan

Los detectores de IA analizan patrones lingüísticos estadísticamente más frecuentes en textos producidos por modelos de lenguaje. Están entrenados con grandes bases de datos que combinan texto humano y texto generado automáticamente. Thierry Poibeau, director de investigación en el CNRS y especialista en procesamiento automático del lenguaje, describe el principio como la búsqueda de "regularidades" en los textos: estructuras sintácticas, recursos de puntuación y ciertos "tics de lenguaje" que, en etapas anteriores del desarrollo de los modelos, aparecían con mayor frecuencia en contenido generado automáticamente.

El problema es que esa frontera se erosiona constantemente. Los modelos de IA más recientes producen texto con menor densidad de esos patrones identificables, mientras que algunos autores humanos —especialmente en géneros literarios con estilos marcados— pueden generar señales que los detectores interpretan como artificiales. Poibeau lo señala con precisión: lo que la herramienta detecta como elemento repetitivo puede ser parte integral del estilo de un escritor.

El riesgo operativo de una falsa certeza

Un caso ilustrativo es el de Pangram, empresa fundada en 2023 y utilizada para analizar fragmentos de la novela de Orélien. La compañía afirma que su tecnología detecta texto generado por IA "analizando y comprendiendo las señales sutiles presentes en la escritura". Sin embargo, identificar patrones lingüísticos no equivale a establecer autoría. Esta distinción tiene implicaciones directas para cualquier organización que use estos sistemas como base para decisiones disciplinarias, editoriales o de contratación.

El riesgo no es solo técnico: es de gobernanza. Adoptar detectores de IA como mecanismo de verificación sin comprender sus límites expone a las organizaciones a decisiones mal fundamentadas. La tasa de falsos positivos —textos humanos clasificados como generados por IA— no es marginal, y en contextos de alta consecuencia (evaluaciones académicas, procesos editoriales, auditorías de contenido) ese margen de error tiene un costo concreto.

Lo que estos sistemas pueden y no pueden hacer

Lo que los detectores de IA pueden hacer con cierta consistencia es señalar probabilidades estadísticas, no certezas. Funcionan mejor como herramienta de triaje que como evidencia definitiva. Su utilidad aumenta cuando se combinan con revisión humana experta y cuando se aplican a volúmenes grandes de contenido donde los patrones son más estables.

Lo que no pueden hacer —y esto es crítico para cualquier proceso de toma de decisiones— es distinguir entre un texto generado íntegramente por IA, uno asistido parcialmente por IA, uno editado sobre una base generada automáticamente, o uno escrito por un humano con un estilo que coincide estadísticamente con los patrones del modelo. Esa ambigüedad no es un defecto que se resolverá con la próxima versión del software: es una limitación estructural del enfoque.

Para organizaciones que están definiendo políticas de uso de IA en producción de contenido, la pregunta relevante no es si existe una herramienta capaz de detectar IA con certeza absoluta. La pregunta es qué nivel de incertidumbre es aceptable en cada contexto de decisión —y qué procesos complementarios se necesitan para reducir ese riesgo a niveles manejables.