OpenAI marcará con una huella invisible los textos de ChatGPT en la UE
OpenAI añadirá una marca de agua invisible a los textos de ChatGPT y Codex en la Unión Europea para cumplir la ley de IA. Editar el texto la debilita.
OpenAI ha anunciado que añadirá una marca de agua invisible a los textos generados por ChatGPT y Codex en la Unión Europea. Según TechCrunch, lo hace para cumplir la ley europea de IA. Esto es lo que cuenta la empresa y lo que conviene saber si tu negocio publica textos hechos con estas herramientas.
Qué ha anunciado OpenAI
La empresa lo comunicó el lunes 5 de octubre en una entrada de su blog. La marca es invisible y la puede leer una máquina. Según TechCrunch, las normas de transparencia de la ley europea de IA, que entraron en vigor el 2 de agosto, obligan a las empresas de IA a marcar el contenido generado de forma que otros sistemas puedan identificarlo.
OpenAI llama a su método textGrain y publicó un informe técnico, escrito junto a investigadores de la Universidad de Pensilvania y de Yale. Según The Verge, la empresa asegura que textGrain iguala o supera otros enfoques, como SynthID de Google DeepMind, que es también la base de la marca que Anthropic anunció en agosto.
Cómo funciona, en sencillo
No es un dibujo ni un símbolo dentro del texto. Según TechCrunch, el sistema influye de forma sutil en las palabras que elige el modelo. Eso deja un patrón que el lector no percibe, pero que un detector sí puede encontrar usando solo el texto y una clave secreta.
Como la marca vive en las propias palabras, viaja con el texto cuando se copia y se pega. OpenAI dice que la marca no identifica al usuario y que no vio cambios importantes en el rendimiento de sus modelos al activarla.
Quién la tendrá y cuándo
Según OpenAI, la marca llegará en las próximas semanas a los usuarios elegibles de ChatGPT y Codex de todos los planes, y solo en la Unión Europea. No será la opción por defecto en el resto del mundo al empezar.
Las empresas que usan la API de OpenAI, en cualquier país, pueden activarla desde el lunes en modelos seleccionados. Viene desactivada por defecto. La compañía añade que trabaja con sus socios de la nube para ofrecerla también por esa vía en las próximas semanas.
Sus límites, según OpenAI
La propia empresa reconoce que la marca se puede debilitar. En una de sus pruebas, sustituir el 10% de las palabras por sinónimos hizo bajar la detección de en torno al 92% a un 66%. Los textos cortos, las respuestas de matemáticas y los textos traducidos son más difíciles de detectar. Según The Verge, OpenAI también dice que textGrain no garantiza una detección fiable.
Por eso el detector no será público al principio. OpenAI lo dará solo a investigadores y organizaciones expertas aprobados, que pueden pedir acceso desde ahora. La herramienta dirá si detecta una marca de OpenAI, sin identificar al usuario ni revelar sus conversaciones.
Lo que la marca no demuestra
OpenAI insiste en que la falta de marca "no prueba autoría humana". Y una marca presente indica que un sistema de OpenAI generó o procesó parte del texto, pero no cuánto criterio, edición o creatividad puso una persona. Tampoco verifica que el texto sea exacto ni dice a quién pertenece.
Un debate que ya existe
Según TechCrunch, cuando Anthropic anunció hace dos meses que marcaría el texto de Claude en todo el mundo, hubo quejas de algunos usuarios. Argumentaban que ellos ponían las instrucciones, el contexto y las decisiones, y que la IA solo era la herramienta. TechCrunch recuerda que Anthropic, Google, Meta, Microsoft y OpenAI se han comprometido a seguir el código de buenas prácticas de la UE sobre contenido generado por IA.
Cómo lo hacemos en Vaserai
La noticia va de saber qué ha hecho la IA y qué ha revisado una persona. En Vaserai lo aplicamos en nuestro propio blog: lo redacta la IA, pero nada se publica sin que una persona lo apruebe antes.
Es la misma idea que seguimos en las automatizaciones que montamos: presupuestos, correos o facturas pueden salir solos, pero el negocio decide qué pasa por revisión antes de llegar al cliente.
Preguntas frecuentes
¿Qué es la marca de agua de OpenAI en el texto?
Es una huella invisible y legible por máquinas. Según TechCrunch, no es un símbolo: modifica sutilmente la elección de palabras del modelo y deja un patrón que el lector no ve, pero que un detector puede reconocer.
¿A quién afecta la marca de agua?
OpenAI dice que la irá activando en las próximas semanas para usuarios elegibles de ChatGPT y Codex de todos los planes, solo en la Unión Europea. Quienes usan su API pueden activarla ya en modelos seleccionados, en cualquier país.
¿Se puede quitar editando el texto?
En parte. En una prueba de OpenAI, cambiar el 10% de las palabras por sinónimos hizo bajar la detección de en torno al 92% a un 66%. Los textos cortos, las respuestas de matemáticas y los textos traducidos son más difíciles de detectar.
Si un texto no tiene marca, ¿es que lo escribió una persona?
No. OpenAI avisa de que la ausencia de marca no prueba que el autor sea humano: el texto puede ser demasiado corto, estar muy editado o venir de la IA de otra empresa.
Fuentes
Sigue leyendo
Pronto habrá más artículos.
Recibe el resumen del blog cada lunes
Las noticias de IA que publicamos esa semana, contrastadas con sus fuentes y explicadas para tu negocio. Un correo a la semana y te das de baja cuando quieras.