
Los textos, imágenes, vídeos y audios generados por inteligencia artificial deben poder reconocerse como contenidos artificiales. El artículo 50.2 del AI Act establece para los proveedores una obligación compuesta por dos elementos: marcado y detección.
Aplicar únicamente una marca de agua o incluir información en los metadatos puede no ser suficiente. El proveedor debe garantizar también la disponibilidad de medios que permitan detectar la marca y obtener un resultado comprensible.
¿Qué contenidos están sujetos a esta obligación?
La disposición afecta a los sistemas de IA que generan o manipulan:
- textos;
- imágenes;
- vídeos;
- audios.
También incluye contenidos mixtos, creados parcialmente por personas y posteriormente modificados mediante IA. Pueden quedar fuera la simple clasificación de datos, las grabaciones sin manipulación, secuencias muy breves, código fuente y comunicaciones exclusivamente entre máquinas.
Marcado y detección: dos elementos inseparables
El marcado debe ser legible por máquina y puede aplicarse mediante:
- metadatos;
- marcas de agua digitales;
- huellas digitales;
- métodos criptográficos;
- pruebas de procedencia y autenticidad.
La detección debe permitir comprobar si el contenido ha sido generado o manipulado artificialmente.
Los cuatro requisitos técnicos
La solución adoptada debe ser:
Eficaz: capaz de permitir la identificación de la marca.
Fiable: debe reconocer correctamente los contenidos en condiciones normales.
Robusta: debe resistir modificaciones habituales e intentos de eliminación.
Interoperable: debe funcionar entre sistemas, proveedores y contextos diferentes.
El proveedor puede utilizar una solución propia o una tecnología ofrecida por el proveedor del modelo o por un tercero. Sin embargo, sigue siendo responsable de demostrar el cumplimiento.
Principales excepciones
El marcado puede no ser necesario cuando el sistema realiza únicamente una edición estándar o no altera sustancialmente el contenido y su significado.
Pueden considerarse edición estándar las correcciones ortográficas, pequeñas mejoras de estilo, traducciones, conversiones de formato, reducción del ruido, recortes y correcciones de color.
En cambio, pueden constituir modificaciones sustanciales las reescrituras que cambian el significado, la sustitución de rostros, la incorporación o eliminación de personas y objetos y la clonación realista de una voz.
El proveedor debe documentar los tipos de resultados generados, las técnicas utilizadas, las pruebas de eficacia y robustez, las excepciones aplicadas y la evolución del estado de la técnica.
Etiquetas: contenidos generados por IA, marcado AI Act, contenidos sintéticos, detección IA, artículo 50.2, marca de agua IA, metadatos IA, proveedor AI Act, imágenes generadas por IA




