Respuesta breve
OpenAI añadirá en la Unión Europea una marca de agua invisible, integrada en la elección de palabras, a lo que generen ChatGPT y Codex. El objetivo es cumplir las normas de transparencia de la ley de IA del bloque. La marca viaja con el texto copiado, pero se debilita al editarlo, así que su ausencia no prueba autoría humana.
Lo más destacado
- La marca de agua llegará solo a los usuarios de ChatGPT y Codex en la UE, de forma gradual en las próximas semanas.
- Los desarrolladores de la API pueden activarla en todo el mundo para modelos seleccionados; está desactivada por defecto.
- En las pruebas de OpenAI, sustituir el 10 por ciento de las palabras por sinónimos redujo la detección de cerca del 92 por ciento al 66 por ciento.
3 min de lecturaDirector editorial: Uğur Deniz İlhan
OpenAI ha anunciado que añadirá una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea. El motivo son las normas de transparencia de la Ley de IA de la UE, que exigen marcar el contenido generado por IA de forma que otros sistemas puedan reconocerlo.
¿Cómo funciona una marca de agua en el texto?
La marca de agua no es un símbolo ni un carácter oculto. El método de OpenAI, llamado textGrain, orienta sutilmente la elección de la siguiente palabra del modelo con una clave secreta; cientos de pequeños empujes forman un patrón que el lector no ve, pero un detector puede captar. Como el patrón está en las propias palabras, viaja al copiar y pegar. Según la empresa, no identifica al usuario ni altera de forma significativa el rendimiento del modelo.
¿A quién afecta, cuándo y dónde?
En ChatGPT y Codex, la marca de agua llegará a los usuarios elegibles de todos los planes, solo en la UE, en las próximas semanas. Los desarrolladores que usan la API en cualquier parte del mundo pueden activarla desde hoy para modelos seleccionados; por defecto está desactivada. Según Search Engine Journal, las normas de transparencia empezaron a aplicarse el 2 de agosto, y los sistemas comercializados antes de esa fecha tienen hasta el 2 de diciembre para cumplir la obligación de marcado.
El detector no es público por ahora; solo está disponible para investigadores aprobados y organizaciones expertas.
¿Elimina la edición la marca de agua?
La debilita. En la prueba de OpenAI con pasajes en inglés de 400 tokens, sustituir el 10 por ciento de las palabras por sinónimos redujo la detección de cerca del 92 por ciento al 66 por ciento; según Search Engine Journal, con el 25 por ciento la tasa cayó al 17 por ciento. La detección es aún más difícil en pasajes cortos, respuestas matemáticas y textos traducidos. OpenAI añade que la falta de marca no prueba autoría humana: el texto puede ser demasiado corto o estar muy editado, o proceder de la IA de otra empresa.
¿Qué deberían hacer los equipos de contenido en Turquía?
El despliegue se limita por ahora a la UE, así que un equipo o agencia en Turquía que use ChatGPT no verá la marca por defecto. Aun así, para las marcas con clientes en la UE y los equipos que producen contenido por la API, tres pasos tienen sentido: registrar qué contenido se produjo con qué herramienta; confirmar con el proveedor si la marca está activa en su uso de la API; y basar el control de calidad en la revisión editorial y la verificación de fuentes, no en la detección de la marca. Ni la ausencia ni la presencia de una marca dicen nada sobre si un texto es exacto.
Preguntas frecuentes
- ¿A qué modelos se aplicará la marca de agua de OpenAI?
- El anuncio abarca a los usuarios elegibles de ChatGPT y Codex y a modelos seleccionados de la API. No se dieron los nombres de los modelos de la API.
Fuentes
- TechCrunch ·
- Search Engine Journal ·
Siga a UNIT Journal
Las novedades en búsqueda, IA y tecnología, cada día en su feed.
