ChatGPT: los textos llevarán una marca de agua invisible en la UE

OpenAI anunció el lunes que ocultará una marca de agua en los textos y el código que generan ChatGPT y Codex en la Unión Europea. En pantalla no verás nada distinto, pero un detector especializado puede reconocer el patrón después. El cambio llega en las próximas semanas y busca cumplir las reglas de transparencia de la ley europea de IA.

Cómo funciona la marca de agua

La tecnología se llama textGrain. En lugar de pegar una etiqueta al texto, empuja ligeramente las palabras que elige el modelo y deja un patrón estadístico que el lector no nota, pero que un detector puede señalar. Piensa en una señal escondida en la elección de palabras, no en algo escrito en la página.

Según OpenAI, el rendimiento del modelo no cambia de forma relevante con la función activada. La empresa también planea publicar textGrain como código abierto, lo que permitiría a otros desarrolladores estudiar y probar el método.

En la UE, la marca será obligatoria para los usuarios de ChatGPT en cualquier plan. Los clientes de la API, es decir, las empresas y desarrolladores que crean sus propios productos con los modelos de OpenAI, podrán elegir. Según The Decoder, los clientes de la API de todo el mundo pueden optar por no usarla, a diferencia de lo que hizo Anthropic. Xataka recuerda que los modelos que Anthropic lanza en la UE desde el 2 de agosto ya incorporan una marca invisible en sus textos.

Qué puede y qué no puede hacer el detector

Las cifras que se conocen describen una herramienta útil, pero lejos de ser infalible:

• En las pruebas iniciales, la detección rondó el 92%, según TechCrunch.
• Cambiar solo el 10% de las palabras por sinónimos la bajó a 66%.
• The Decoder menciona cerca de 95% de acierto en pasajes de 400 tokens (fragmentos de palabras que procesa el modelo) sobre psicología, y alrededor de 80% con 200 tokens.
• En respuestas de matemáticas el resultado es peor, cerca de 60% con 400 tokens.
• Si se reemplaza una cuarta parte de las palabras, la detección cae por debajo de 20%, incluso en textos largos.

Los textos cortos, las cuentas y las traducciones también son más difíciles de identificar. La propia OpenAI afirma que la ausencia de marca no prueba autoría humana. El detector es un indicio, no una sentencia. Un texto muy editado o traducido puede pasar sin que eso diga mucho sobre quién lo escribió.

Quién tendrá el detector

Por ahora no podrás pegar un párrafo en una web y recibir una respuesta. El acceso al detector se limitará al inicio a investigadores aprobados y organizaciones especializadas, con solicitudes revisadas caso por caso mediante un formulario, dentro del código de buenas prácticas de la UE.

Por qué ahora

El contexto es la ley de IA de la Unión Europea, que exige que el contenido generado por inteligencia artificial pueda identificarse por máquina. Engadget señala que el paso de OpenAI sigue a un anuncio parecido de Anthropic. Las fuentes no coinciden en el plazo exacto de cumplimiento, así que dejamos la fecha fuera.

El anuncio trata de los usuarios de la Unión Europea. Quien usa ChatGPT en otros lugares, como México o el resto de América Latina, no recibe la marca obligatoria, aunque la API ofrece la función como opción. Habrá que ver si OpenAI amplía la práctica a otras regiones, porque la tecnología, una vez lista, no depende del territorio.

Qué significa en la práctica

Si estudias o trabajas en Europa, usar ChatGPT dejará ahora un rastro. Editar mucho el resultado, sin embargo, reduce bastante las posibilidades de detección, y eso muestra el límite del enfoque: ayuda a identificar texto crudo de máquina, no a vigilar cada frase escrita con apoyo de IA. Si quieres entender por qué estos modelos a veces inventan datos, nuestra explicación de qué es un modelo de lenguaje cubre lo básico. Y para otro cambio reciente del producto, mira cómo llegan los anuncios al generador de imágenes.