Detectores de IA: por qué no son una prueba fiable para evaluar textos editoriales
Las herramientas que prometen identificar contenido generado por inteligencia artificial pueden confundir textos humanos con producciones automáticas. En el sector editorial, los errores plantean desafíos de reputación, confidencialidad y responsabilidad profesional.
La detección de textos generados por inteligencia artificial (IA) enfrenta un problema de fondo: los algoritmos no pueden determinar con certeza quién escribió un contenido a partir de sus características estadísticas. Una prosa cuidada, una traducción o un documento institucional pueden activar las mismas señales que un sistema asocia con la escritura automatizada.
Dos ejemplos ilustran esta dificultad. Según las pruebas documentadas por Scribbr, un pasaje de El código Da Vinci recibió una clasificación del 100 % de probabilidad de generación por IA en Originality.ai. Por su parte, ZeroGPT atribuyó esa misma probabilidad a la Constitución de Estados Unidos. Estos resultados no demuestran que las herramientas carezcan de utilidad, pero sí exponen los riesgos de interpretar sus puntuaciones como pruebas concluyentes.
Por qué fallan los detectores de inteligencia artificial
La mayoría de estas herramientas analiza patrones lingüísticos, como la previsibilidad de las palabras y la uniformidad de las oraciones. Otras compara los textos con ejemplos previamente clasificados como humanos o artificiales.
El inconveniente aparece cuando esas señales se confunden con las características de una escritura formal. Los ensayos académicos, los textos jurídicos, las traducciones y los contenidos corregidos profesionalmente pueden presentar patrones similares a los que producen los modelos generativos.
La investigación académica aporta evidencia sobre el problema. Un estudio de Liang y colaboradores, publicado en 2023, encontró que siete detectores comerciales clasificaban erróneamente como artificiales más de la mitad de los ensayos en inglés escritos por personas hispanohablantes no nativas. El resultado expone un riesgo de sesgo que puede afectar especialmente a colaboradores que escriben en una segunda lengua.
Además, los falsos negativos también importan: un texto generado mediante IA puede eludir la detección después de ser parafraseado, traducido o editado. Por eso, una puntuación baja tampoco garantiza autoría humana.
El desafío es mayor para las editoriales en español
El rendimiento de estas herramientas no es uniforme entre idiomas. Según los datos aportados por el benchmark bilingüe AuTexTification, presentado en IberLEF 2023, la puntuación F1 macro para la detección en español fue del 67 %.
Esta limitación tiene consecuencias prácticas. Una editorial que utiliza un detector para evaluar manuscritos, ensayos o materiales de comunicación puede tomar decisiones equivocadas si no considera el margen de error, el idioma y el género textual.
El problema no se resuelve buscando una herramienta supuestamente infalible. La clave está en establecer procedimientos que permitan revisar cada caso con criterios verificables.
SynthID, C2PA y los límites de la trazabilidad
Las marcas de agua digitales y las credenciales de procedencia ofrecen alternativas complementarias, aunque con alcances distintos.
SynthID-Text incorpora señales estadísticas durante la generación de determinados textos, lo que permite comprobar su posible origen dentro de los sistemas compatibles. No identifica de forma universal cualquier contenido creado con IA.
C2PA, por su parte, permite registrar información verificable sobre la procedencia de archivos digitales. Sin embargo, una captura de pantalla o la eliminación de metadatos puede interrumpir esa trazabilidad. La ausencia de una credencial no demuestra que una imagen haya sido creada por una persona.
En ambos casos, conviene distinguir entre verificar una señal de origen y demostrar de manera absoluta quién produjo una obra.
Qué medidas puede adoptar una editorial
Frente a estas limitaciones, un protocolo editorial sólido debería contemplar varias medidas:
Establecer cláusulas contractuales claras sobre el uso de inteligencia artificial y las obligaciones de declaración.
Conservar borradores y versiones sucesivas para documentar el proceso de escritura y edición.
Definir un procedimiento de revisión que impida adoptar decisiones graves basadas exclusivamente en una puntuación automática.
Proteger los manuscritos inéditos, evitando subirlos a plataformas externas sin evaluar sus condiciones de tratamiento y conservación de datos.
Publicar una política de transparencia que explique qué usos de IA se permiten y cómo se evalúan las posibles infracciones.
El marco regulatorio también requiere atención. El artículo 50 del Reglamento europeo de inteligencia artificial (UE 2024/1689) contempla obligaciones de transparencia cuya aplicación general está prevista para el 2 de agosto de 2026, con particularidades y excepciones según la disposición y el supuesto. Las editoriales deberán evaluar qué obligaciones les corresponden en función de sus actividades.
El caso Shy Girl y el costo de una decisión apresurada
En marzo de 2026, la editorial Hachette canceló la publicación británica prevista de Shy Girl, de Mia Ballard, después de que un análisis mediante Pangram atribuyera al texto un 78,4 % de probabilidad de generación por IA, según los antecedentes aportados.
La controversia puso en primer plano cuestiones decisivas: qué versión del manuscrito se había analizado, qué evidencia respaldaba el resultado y si existía un procedimiento suficiente para examinar la acusación. La autora negó haber utilizado IA y atribuyó las modificaciones a un editor independiente.
El episodio muestra por qué una puntuación algorítmica no debería sustituir una investigación documentada ni una instancia de revisión.
La confianza editorial depende del proceso
La inteligencia artificial ya forma parte de los debates sobre creación, edición y publicación. Sin embargo, detectar patrones no equivale a demostrar autoría, y una herramienta automatizada no puede reemplazar por sí sola el criterio profesional.
Para las editoriales, el camino más responsable combina transparencia, documentación, protección de datos y evaluación humana. No elimina todos los riesgos, pero permite abordarlos con mejores argumentos y reduce la posibilidad de que un falso positivo termine perjudicando a un autor.
La conclusión concreta es: los detectores pueden aportar indicios, pero las decisiones editoriales importantes necesitan pruebas, contexto y revisión independiente.