OpenAI crea marca de agua invisible para textos

Londres, Inglaterra.-  La empresa de inteligencia artificial ha anunciado textGrain: una función que permitirá reconocer el texto escrito por inteligencia artificial mediante una marca de agua invisible.

La actualización se implementará en las próximas semanas y se incorporará tanto a las generaciones de ChatGPT como a las de Codex. La novedad funcionará dentro de la Unión Europea, mientras que fuera de la UE textGrain ya puede activarse a través de las API, aunque de forma opcional.

No se introducirá ningún símbolo ni carácter oculto dentro del texto. En su lugar, el sistema realizará determinadas elecciones léxicas previstas por el modelo. La marca de agua será, por tanto, más fácil de detectar en textos largos, ya que se genera a partir de un patrón estadístico que una herramienta específica podrá identificar con mayor facilidad. Pero el sistema también tiene limitaciones.

La propia OpenAI precisa que no se trata de una auténtica máquina de la verdad. La empresa cita pruebas internas con una tasa de falsos positivos del 1%, mientras que el sistema logró identificar la marca de agua en el 80% de los textos de 200 palabras y en el 95% de los de 400 palabras en ciertas categorías, como las relacionadas con la psicología. Por el contrario, cuanto más corto sea un texto, menos preciso parece ser para identificar si fue escrito por IA o no.

Además, la mayor dificultad se observa en el contenido matemático. Otra limitación es la posibilidad de modificación del texto. Reemplazar tan solo el 10% de las palabras por sinónimos reduciría la tasa de detección del 92% al 66%. Y de nuevo: cuando el porcentaje de palabras reemplazadas alcanza el 25%, la cifra cae al 17%.

Cómo funciona

Pero ¿cómo funciona exactamente? El nuevo textGrain puede indicar que un determinado texto, o parte de él, ha sido redactado por un sistema de OpenAI, pero no permite identificar al usuario que generó el contenido. Tampoco puede revelar el "prompt" utilizado ni la conversación de la que procede el texto.

Del mismo modo, identificar un escrito como generado por inteligencia artificial no permite determinar qué parte del trabajo realizó una persona y qué parte correspondió a una IA.

También existen limitaciones en el uso del propio detector. En un primer momento, el acceso a textGrain estará reservado a investigadores y organizaciones autorizadas discrecionalmente por la compañía, debido al riesgo de que se produzcan falsos positivos y falsos negativos. OpenAI proporcionará próximamente más detalles sobre la tecnología. El objetivo es que textGrain termine siendo de código abierto.

La situación es diferente en el caso de las imágenes y el audio. OpenAI ya dispone de una herramienta pública que permite cargar determinados archivos y buscar las señales de procedencia asociadas a sus sistemas.

En el caso de las imágenes, la compañía combina las Content Credentials, basadas en el estándar C2PA, con la marca de agua invisible SynthID, desarrollada por Google DeepMind. SynthID también se utiliza para algunos contenidos de audio.