ChatGPT no pondrá un sello visible al final de cada respuesta, pero sus textos podrían empezar a llevar una especie de huella estadística difícil de percibir a simple vista. OpenAI ha anunciado que incorporará una marca de agua invisible a las respuestas elegibles de ChatGPT y Codex generadas en la Unión Europea durante las próximas semanas. La compañía quiere facilitar que ciertos sistemas puedan reconocer el origen del texto, aunque admite que la tecnología aún tiene límites importantes.
La medida no significa que cualquier texto escrito con ChatGPT en cualquier lugar del mundo vaya a quedar marcado desde hoy. El despliegue anunciado para ChatGPT y Codex se limita a la Unión Europea y será gradual. Para la API, OpenAI permitirá que clientes de todo el mundo activen el marcado en algunos modelos, pero seguirá desactivado por defecto. Ese matiz cambia bastante la lectura de un titular que, sin contexto, puede sonar a “todo lo que escriba ChatGPT quedará identificado para siempre”.
Una marca que se esconde en la elección de palabras
OpenAI llama textGrain a su sistema. Según explica en su anuncio oficial sobre las reglas europeas de procedencia del texto, no introduce espacios invisibles, caracteres extraños, símbolos ni una etiqueta que se pueda ver al copiar la respuesta. En su lugar, ajusta de forma sutil la probabilidad con la que el modelo escoge entre distintas palabras o fragmentos posibles. A lo largo de un texto suficientemente amplio, esas elecciones pueden formar un patrón estadístico que un detector busca.
La idea es que la señal viaje con la redacción y no solo con los metadatos de un archivo, como puede ocurrir con una imagen. Así, copiar y pegar el texto podría conservar parte de la marca mientras se mantenga el wording. Pero eso no convierte el patrón en indestructible: OpenAI reconoce que una paráfrasis extensa, una traducción o una edición profunda pueden debilitarlo hasta hacer que el detector no lo encuentre.
La función está pensada para que una organización pueda comprobar si un pasaje contiene una señal asociada a OpenAI. No sirve para reconstruir la conversación original ni para saber quién escribió el prompt. Y tampoco añade una firma personal a cada usuario: según la compañía, la señal no identifica a la persona, la cuenta, la organización o la conversación que originó el texto.
El detector no estará abierto a todo el mundo
Otro punto que conviene separar del anuncio es el acceso a la herramienta de detección. OpenAI abrirá solicitudes para que investigadores y organizaciones expertas puedan evaluarla, pero el acceso inicial será limitado y se decidirá caso por caso. No habrá, al menos en esta primera fase, una web pública en la que cualquiera pegue un ensayo o un correo y obtenga un veredicto automático sobre si lo escribió una IA.
La cautela tiene sentido porque un detector no ofrece certeza absoluta. Puede pasar por alto un texto marcado —un falso negativo— o señalar como marcado uno que no lo está —un falso positivo—. En sus propias pruebas, OpenAI comunica que, con una tasa objetivo de falsos positivos del 1 %, el detector encontró la marca en alrededor del 80 % de muestras de 200 tokens y en el 95 % de muestras de 400 tokens para textos como los de psicología. En contenidos matemáticos, donde hay menos margen para variar la elección de palabras, el rendimiento fue bastante más bajo.
Los cambios también afectan a la señal. En pasajes de 400 tokens, sustituir por sinónimos el 10 % de las palabras redujo la detección del 92 % al 66 %; al cambiar el 25 %, cayó al 17 %. Son resultados publicados por la propia OpenAI, no una evaluación independiente, y describen pruebas concretas, no una garantía universal para cualquier idioma, tema o longitud. Aun así, sirven para entender por qué la empresa no presenta textGrain como un detector infalible.
Una marca de agua no dice quién escribió ni si el texto es cierto
OpenAI insiste en que la señal solo da una pista limitada sobre el papel que tuvieron sus sistemas en un pasaje. Si un detector encuentra la marca, eso no permite medir cuánto aportó una persona después, ni decidir quién es propietario del texto, quién responde por él o si debía haberse declarado el uso de IA. Y desde luego no comprueba los hechos: un párrafo marcado puede ser correcto, engañoso o directamente falso, igual que uno sin marcar.
La ausencia de una detección tampoco demuestra autoría humana. El texto puede ser demasiado breve, haber sufrido muchas modificaciones, estar traducido o proceder de un modelo y una época que no usaban esta señal. Por eso, usar textGrain como un “detector de trampas” automático en centros educativos, procesos de selección o medios sería ir más allá de lo que OpenAI afirma que la herramienta puede hacer.
La marca de texto, además, no es lo mismo que las señales que OpenAI utiliza para otros formatos. La compañía ya combina metadatos C2PA y marcas invisibles SynthID en determinadas imágenes, y emplea SynthID en audio compatible. Para revisar algunas imágenes y archivos de audio está disponible su herramienta pública de verificación de procedencia. En el caso del texto, en cambio, el detector empezará restringido a organizaciones seleccionadas.
La respuesta de OpenAI a las reglas europeas
El anuncio llega después de que comiencen a aplicarse las obligaciones de transparencia del Reglamento europeo de Inteligencia Artificial. La Comisión Europea explica que los proveedores de IA generativa deben hacer identificable el contenido producido por sus sistemas. OpenAI presenta el marcado como parte de su respuesta a esas reglas y como un despliegue inicial limitado a la UE, en lugar de activar el sistema como norma mundial en ChatGPT.
La decisión también refleja un equilibrio complicado: marcar más contenido puede ayudar a plataformas, investigadores y organizaciones a seguir su procedencia, pero un detector imperfecto puede generar sospechas equivocadas o no detectar textos retocados. La propia OpenAI reconoce que todavía está aprendiendo cómo se comportan estas señales cuando la gente escribe, edita, traduce y reutiliza texto en situaciones reales.
En resumen, ChatGPT y Codex empezarán a añadir una señal estadística invisible a determinadas salidas generadas en la UE, y algunos clientes de la API podrán activarla por su cuenta. No será un mensaje visible, no permitirá identificar a quien hizo la consulta y tampoco certificará que un texto sea verdadero o esté escrito íntegramente por una máquina. Puede complicar el “copiar y pegar y listo”, pero los datos que OpenAI ha publicado dejan claro que la marca no es una prueba definitiva ni un detector universal.
