Cómo funciona un detector de IA, en pocas palabras
Así funcionan los detectores de IA: calculan qué probabilidad hay de que un modelo de lenguaje haya escrito un texto. A diferencia de un detector de plagio, normalmente no comparan tus palabras con una base de datos de fuentes, y no tienen ni idea de quién las tecleó. Lo que miden son patrones: lo predecible que es cada palabra, lo regulares que son las frases y cuánto se parece el texto a los ejemplos humanos y de IA con los que aprendió el detector. El resultado es una probabilidad, no un hecho.
La mayoría de las herramientas combinan varias de estas señales. Puedes ver la idea en nuestro detector de IA gratis, que funciona mejor con textos en inglés: cada frase aparece marcada como humana o como IA, y la puntuación es la parte del texto que suena humana. El resto de esta guía explica qué hay detrás de un resultado así.
Qué buscan los detectores de IA: perplejidad y burstiness
Un modelo de lenguaje escribe palabra a palabra, y en cada paso tiende a elegir una palabra siguiente probable. Un detector puede pasar un modelo parecido por tu texto y preguntarse, palabra por palabra, cuánto le sorprende. La media de esa sorpresa en todo el texto se llama perplejidad.
Piensa en «Me tomé una taza de ___». «Café» o «té» apenas sorprenden a un modelo. «Truenos» le sorprende muchísimo. Un texto en el que casi cada palabra es la esperada tiene una perplejidad baja, y una perplejidad baja es una de las pistas clásicas de que lo escribió una máquina.
La segunda señal, la burstiness (algo así como «irregularidad»), mide cuánto cambia un texto de una frase a otra. Las personas solemos escribir a golpes: una frase corta, luego una larga con una o dos subordinadas, luego algo intermedio. Los borradores de IA suelen mantener un ritmo constante y uniforme. Compara estos dos:
- Poca burstiness: «El plan mejora la eficiencia. También reduce los gastos fijos. Los equipos trabajan más rápido. Los clientes también salen ganando.» Cuatro frases de cinco palabras cada una, todas con la misma estructura.
- Mucha burstiness: «El plan ahorra dinero. No mucho en el primer trimestre, porque el software nuevo hay que pagarlo por adelantado, pero en verano ya se nota en el presupuesto de cada equipo. Los clientes también lo notan.»
Los detectores también captan costumbres superficiales que comparten los modelos: los mismos conectores («Además», «Asimismo»), listas ordenadas de tres elementos, una frase de resumen al final de cada párrafo. Nada de esto es una prueba. Una receta, una cláusula legal o un informe de laboratorio tienen que ser predecibles, y hay personas que simplemente escriben con frases regulares. Una señal estadística es una pista, y por eso muchas herramientas añaden un segundo método.
Clasificadores entrenados: un modelo que aprendió con ejemplos
El segundo enfoque es un clasificador: un modelo entrenado con un gran conjunto de textos etiquetados como «humano» o «IA» hasta que aprende qué rasgos los separan. Nadie le da una regla como «perplejidad baja significa IA». Encuentra sus propios patrones, incluidos algunos a los que ninguna persona sabría ponerles nombre.
El detector de la propia OpenAI, lanzado en enero de 2023, se construyó así: un modelo de lenguaje ajustado con pares de textos escritos por personas y por IA sobre el mismo tema. OpenAI lo retiró unos seis meses después, y lo que le pasó lo contamos en ¿son fiables los detectores de IA?
Un clasificador es tan bueno como sus datos de entrenamiento. Acierta con textos parecidos a los que vio al entrenarse. Con los que no se parecen, como los de un modelo de IA más nuevo, un género poco habitual o un idioma que apenas vio, pierde fiabilidad. En esa misma publicación, OpenAI advirtió de que, con textos muy distintos a los de su conjunto de entrenamiento, su clasificador a veces estaba «extremadamente seguro de una predicción equivocada».
Puntuar el documento entero o frase por frase
Algunos detectores dan un único veredicto para todo el texto. Otros puntúan cada frase o cada pasaje corto y construyen el resultado global a partir de ahí. Responden a preguntas distintas: «¿este documento lo escribió una IA?» y «¿qué partes suenan a IA?».
Turnitin funciona de la segunda manera. La empresa dice que divide cada entrega en segmentos solapados de unos cientos de palabras, da a cada frase una puntuación entre 0 y 1 y hace la media de esas puntuaciones para estimar qué parte del documento está generada por IA.
Puntuar frase a frase ayuda cuando un texto es en parte humano y en parte de IA, porque muestra de dónde viene la señal. También mete más ruido. Una frase aporta muy poca evidencia, así que una sola línea marcada significa mucho menos que una página entera llena de ellas. Nuestro detector puntúa el texto completo y cada frase, para que veas el panorama general y de dónde sale.
Marcas de agua: una señal que se añade mientras se escribe
Las marcas de agua le dan la vuelta al problema. En lugar de adivinar a posteriori, el modelo de IA marca su propio texto mientras lo escribe. El sistema SynthID de marcas de agua para texto de Google DeepMind lo hace ajustando ligeramente las probabilidades de las palabras que elige el modelo. El texto se lee con normalidad. Después, un detector que conoce la configuración de la marca de agua comprueba si las palabras elegidas siguen el patrón oculto.
Google anunció en 2024 que marca con SynthID los textos de la aplicación Gemini. Describió el método en un artículo en Nature y publicó el código para que otros desarrolladores puedan añadirlo a sus propios modelos. Según DeepMind:
- Lo que resiste: cambios ligeros, como recortar el texto, cambiar unas cuantas palabras o parafrasear un poco. Funciona mejor con respuestas largas y abiertas, como ensayos o correos.
- Lo que le cuesta: su confianza cae en picado cuando el texto se reescribe a fondo o se traduce, y es más débil con respuestas a preguntas sobre datos concretos, donde hay pocas palabras que se puedan ajustar.
Hay un límite que se aplica a cualquier marca de agua: un detector solo puede encontrar una marca que alguien puso. El texto de un modelo que no usa marcas de agua es idéntico a un texto sin marca, así que «no se encontró ninguna marca de agua» no te dice nada sobre si se usó IA.
¿Cómo funcionan los detectores de IA? Los tres métodos, comparados
| Método | Qué mide | Funciona mejor con | Principal punto débil |
|---|---|---|---|
| Señales estadísticas (perplejidad, burstiness) | Lo predecibles que son las palabras y lo regulares que son las frases | Borradores de IA largos y sin editar | Un texto humano sencillo o de fórmula puede parecer igual de predecible |
| Clasificador entrenado | Patrones aprendidos de ejemplos etiquetados como humanos o de IA | Textos parecidos a sus datos de entrenamiento | Modelos de IA nuevos, géneros poco habituales y otros idiomas |
| Comprobación de marca de agua | Un patrón oculto que el modelo de IA añadió al escribir | Textos largos de un modelo que usa marcas de agua | No encuentra nada en textos de modelos sin marca de agua, y se borra tras una reescritura a fondo o una traducción |
Las comprobaciones de marca de agua solo sirven con textos de un modelo que añade una, analizados por un detector que conoce su configuración. Por eso, la mayoría de los textos que pegas en un detector público se juzgan con los dos primeros métodos, a menudo combinados.
Por qué dos detectores de IA dan puntuaciones distintas al mismo texto
Pega el mismo ensayo en tres detectores y puede que obtengas tres números distintos. Eso no significa que uno esté roto. Miden de formas diferentes:
- Datos de entrenamiento distintos. Cada clasificador aprendió con su propia colección de textos humanos y de IA, así que cada uno tiene sus puntos ciegos.
- Umbrales distintos. Una herramienta puede llamar IA a un texto en cuanto está segura al 50%, y otra solo al 90%. Las mismas pruebas reciben una etiqueta distinta.
- Unidades distintas. «70% IA» puede significar que la herramienta está segura al 70% de que todo el texto es de IA, o que el 70% de las frases suenan a IA. Son afirmaciones diferentes, aunque las dos aparezcan como un porcentaje.
- Versiones distintas. Los detectores se vuelven a entrenar cuando aparecen nuevos modelos de IA, así que la misma herramienta puede puntuar el mismo texto de otra forma con unos meses de diferencia.
Con qué frecuencia se produce cada tipo de error es otra cuestión, y los estudios publicados están resumidos en ¿son fiables los detectores de IA?
Qué hace que un texto de IA sea más difícil de detectar
Todos los métodos anteriores dependen de que el texto conserve la huella que dejó el modelo. Cualquier cosa que cambie la elección de palabras o el ritmo debilita la señal:
- Editar. Cada frase que una persona reescribe cambia las palabras del modelo por palabras humanas. Un borrador muy editado es de verdad una mezcla, y los detectores lo puntúan como tal.
- Textos cortos. Unas pocas frases no tienen suficientes palabras para que la previsibilidad o el ritmo signifiquen mucho. Por eso muchos detectores fijan una extensión mínima. El nuestro necesita 40 palabras.
- Traducir. Pasar un texto a otro idioma cambia casi todas las palabras elegidas, lo que desordena tanto las señales estadísticas como cualquier marca de agua.
- Parafrasear. Los parafraseadores y los humanizadores cambian justo lo que miden los métodos estadísticos: la elección de palabras y el ritmo de las frases.
La misma lógica funciona al revés. Un texto humano que resulta ser sencillo, predecible y regular puede parecerle IA a un detector. Si te ha pasado, lee por qué tu texto sale como IA.
Lo que los detectores de IA no pueden saber
Un detector lee el texto y nada más. Todo lo que rodea al texto le resulta invisible, y a menudo es lo que más importa:
- Quién lo escribió. Una puntuación describe la escritura, no a quien escribe. No distingue la prosa sencilla de un estudiante de la de un modelo.
- Cómo se hizo el texto. Tecleado desde cero, dictado, redactado con IA y reescrito a mano, o retocado con un corrector gramatical: el detector solo ve las palabras finales.
- Qué herramienta de IA se usó, si se usó alguna. Los análisis estadísticos y los clasificadores juzgan la escritura, no la herramienta. Solo una marca de agua apunta a un modelo concreto, y solo si ese modelo la añadió.
- Si estaba permitido usar IA. Algunos cursos y empresas permiten la IA para generar ideas o para editar. El detector no tiene ni idea de cuáles eran las normas.
Por eso una puntuación debería abrir una conversación, no cerrarla. Si das clase, nuestra página sobre detectores de IA para docentes explica cómo usar uno de forma justa.