OpenAI comenzó a implementar un sistema que permitirá identificar mediante herramientas especiales algunos textos generados por ChatGPT y Codex, como parte de las medidas para cumplir con la Ley de Inteligencia Artificial de la Unión Europea.
OpenAI anunció la incorporación de una “marca de agua” invisible en los textos generados por ChatGPT y Codex para usuarios elegibles de la Unión Europea. La medida forma parte de su estrategia para cumplir con las disposiciones de transparencia establecidas en la Ley de Inteligencia Artificial del bloque europeo.
La tecnología, denominada textGrain, no añade símbolos, espacios ocultos ni caracteres que puedan encontrarse al copiar y pegar un texto. En cambio, modifica de manera sutil el patrón estadístico utilizado por el modelo al seleccionar palabras y fragmentos de palabras, creando una señal que puede ser reconocida mediante un detector especializado.
Sin embargo, esto no significa que cualquier texto de ChatGPT pueda ser identificado con total certeza. OpenAI reconoce que el sistema todavía presenta limitaciones, especialmente con textos cortos o contenidos que han sido modificados. En pruebas realizadas con fragmentos de 400 tokens, sustituir 25 por ciento de las palabras redujo considerablemente la capacidad para detectar la señal.
Por ahora, el detector de textos no estará disponible para el público en general. OpenAI abrió el acceso únicamente a investigadores y organizaciones especializadas previamente aprobadas, con el objetivo de evaluar la confiabilidad de esta tecnología y reducir falsos positivos y errores de detección.
La marca tampoco permite conocer quién utilizó ChatGPT, quién escribió o modificó posteriormente el contenido, ni determina su autoría o propiedad. Solamente ofrece una señal de que un sistema de OpenAI probablemente intervino en la generación o procesamiento del texto.
El despliegue se realizará de manera progresiva en ChatGPT y Codex dentro de la Unión Europea. Para los clientes de la API de OpenAI en otras partes del mundo, la función podrá activarse de manera opcional en determinados modelos y no será, por ahora, una característica global habilitada de forma predeterminada.
