Publicado el

Contenidos generados por IA: marcado y detección según el AI Act

Los textos, imágenes, vídeos y audios generados por inteligencia artificial deben poder reconocerse como contenidos artificiales. El artículo 50.2 del AI Act establece para los proveedores una obligación compuesta por dos elementos: marcado y detección.

Aplicar únicamente una marca de agua o incluir información en los metadatos puede no ser suficiente. El proveedor debe garantizar también la disponibilidad de medios que permitan detectar la marca y obtener un resultado comprensible.

¿Qué contenidos están sujetos a esta obligación?

La disposición afecta a los sistemas de IA que generan o manipulan:

  • textos;
  • imágenes;
  • vídeos;
  • audios.

También incluye contenidos mixtos, creados parcialmente por personas y posteriormente modificados mediante IA. Pueden quedar fuera la simple clasificación de datos, las grabaciones sin manipulación, secuencias muy breves, código fuente y comunicaciones exclusivamente entre máquinas.

Marcado y detección: dos elementos inseparables

El marcado debe ser legible por máquina y puede aplicarse mediante:

  • metadatos;
  • marcas de agua digitales;
  • huellas digitales;
  • métodos criptográficos;
  • pruebas de procedencia y autenticidad.

La detección debe permitir comprobar si el contenido ha sido generado o manipulado artificialmente.

Los cuatro requisitos técnicos

La solución adoptada debe ser:

Eficaz: capaz de permitir la identificación de la marca.

Fiable: debe reconocer correctamente los contenidos en condiciones normales.

Robusta: debe resistir modificaciones habituales e intentos de eliminación.

Interoperable: debe funcionar entre sistemas, proveedores y contextos diferentes.

El proveedor puede utilizar una solución propia o una tecnología ofrecida por el proveedor del modelo o por un tercero. Sin embargo, sigue siendo responsable de demostrar el cumplimiento.

Principales excepciones

El marcado puede no ser necesario cuando el sistema realiza únicamente una edición estándar o no altera sustancialmente el contenido y su significado.

Pueden considerarse edición estándar las correcciones ortográficas, pequeñas mejoras de estilo, traducciones, conversiones de formato, reducción del ruido, recortes y correcciones de color.

En cambio, pueden constituir modificaciones sustanciales las reescrituras que cambian el significado, la sustitución de rostros, la incorporación o eliminación de personas y objetos y la clonación realista de una voz.

El proveedor debe documentar los tipos de resultados generados, las técnicas utilizadas, las pruebas de eficacia y robustez, las excepciones aplicadas y la evolución del estado de la técnica.

Etiquetas: contenidos generados por IA, marcado AI Act, contenidos sintéticos, detección IA, artículo 50.2, marca de agua IA, metadatos IA, proveedor AI Act, imágenes generadas por IA