NoticiaOpenAI2 min de lectura
ChatGPT pondrá una marca de agua invisible a sus textos en la UE
Por la ley de IA europea, ChatGPT y Codex marcarán sus textos con una marca de agua invisible en la UE. Cómo funciona, quién la detecta y qué no demuestra.
Lo esencial
- En las próximas semanas, los textos de ChatGPT y Codex llevarán una marca de agua invisible, solo en la UE y en todos los planes.
- Es una señal estadística en la elección de palabras: no se ve, pero un detector la puede encontrar.
- El detector no es público: solo investigadores y organizaciones aprobados pueden pedir acceso.
- Editar el texto la debilita mucho, y que no aparezca no demuestra que lo haya escrito una persona.
OpenAI anunció el 5 de octubre cómo va a cumplir una de las obligaciones de la ley de IA de la UE: que el texto generado por IA se pueda identificar de forma automática. Su respuesta es una marca de agua invisible en lo que escriben ChatGPT y Codex.
A quién afecta
- ChatGPT y Codex en la UE: en las próximas semanas, en todos los planes. Fuera de la UE no será la opción por defecto.
- API: opcional en todo el mundo para algunos modelos desde el 5 de octubre, desactivada por defecto.
- Imágenes y audio: no cambia nada; ya tenían sus propias señales de procedencia.
Cómo funciona
La tecnología se llama textGrain. Al generar el texto, el modelo inclina muy ligeramente su elección de palabras siguiendo un patrón estadístico. Una persona no nota nada, pero un detector que conoce el patrón sí puede encontrarlo. Según OpenAI, apenas afecta a la calidad de las respuestas, y prevé publicar la técnica como código abierto.
Sus propios datos marcan los límites:
- Con un 1 % de falsos positivos, detecta en torno al 80 % de los textos de 200 tokens (unas 150 palabras) y el 95 % de los de 400, aunque mucho menos en matemáticas.
- Editar el texto la borra en buena parte: cambiar una de cada diez palabras por sinónimos baja la detección del 92 % al 66 %; cambiar una de cada cuatro, al 17 %.
Quién puede comprobarlo
El detector no es público. Desde el 5 de octubre pueden pedir acceso investigadores y organizaciones expertas, que se aprueban caso por caso. El detector no identifica al usuario ni muestra sus conversaciones.
OpenAI insiste en lo que la marca no dice: ni quién es el autor, ni si el texto es verdad, ni cuánto ha aportado una persona. Y que no se detecte no demuestra que lo haya escrito un humano.
Qué cambia para ti
- Si usas ChatGPT en España, tus textos llevarán esta marca, pero no la verás ni cambiará cómo escribe.
- Si eres estudiante, no es un «detector de trabajos hechos con IA»: tu profesor no tendrá acceso, y un texto editado apenas conserva la señal. Lo honesto sigue siendo decir cuándo y cómo has usado la IA. Te damos ideas en escribir mejor con IA.
- Si eres docente, no te fíes de ninguna herramienta que prometa detectar textos de IA con certeza: la propia OpenAI explica por qué no es posible.
