BOE.es - DOUE-Z-2026-70067 Comunicación de la Comisión - Directrices sobre la aplicación de las obligaciones de transparencia para determinados sistemas de IA en virtud del artículo 50 del Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial).

Documento DOUE-Z-2026-70067

Comunicación de la Comisión - Directrices sobre la aplicación de las obligaciones de transparencia para determinados sistemas de IA en virtud del artículo 50 del Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial).

Publicado en:: «DOUE» núm. 6005, de 12 de noviembre de 2026, páginas 1 a 43 (43 págs.)
Departamento:: Unión Europea
Referencia:: DOUE-Z-2026-70067

Otros formatos:
PDF
XML

Texto

TEXTO ORIGINAL

1. ANTECEDENTES Y OBJETIVOS

El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican determinados Reglamentos (Reglamento de Inteligencia Artificial), entró en vigor el 1 de agosto de 2024 (1). El Reglamento de Inteligencia Artificial establece normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de inteligencia artificial («IA») en la Unión (2). Su objetivo es promover la innovación y la adopción de la IA, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales en la Unión, incluidos la democracia y el Estado de Derecho.

El Reglamento de Inteligencia Artificial sigue un enfoque basado en el riesgo, que clasifica los sistemas de IA en cuatro categorías de riesgo diferentes, una de las cuales es la de los sistemas de IA que plantean riesgos de transparencia que están sujetos a las obligaciones establecidas en el artículo 50 del Reglamento de Inteligencia Artificial. Estas obligaciones de transparencia se aplican dos años después de la entrada en vigor del Reglamento de Inteligencia Artificial, es decir, a partir del 2 de agosto de 2026.

De conformidad con el artículo 96, apartado 1, letra d), del Reglamento de Inteligencia Artificial, las presentes Directrices de la Comisión se publican con el objetivo de servir de orientación práctica para ayudar a las autoridades competentes, así como a los proveedores e responsables del despliegue de sistemas de IA, a garantizar el cumplimiento de las obligaciones de transparencia en virtud del artículo 50 del Reglamento de Inteligencia Artificial de manera coherente, efectiva, proporcionada y uniforme.

La elaboración de las presentes Directrices se basó en las aportaciones de diversas partes interesadas recogidas durante una amplia consulta organizada por la Comisión y en las aportaciones de los Estados miembros en el Comité de IA, así como en las aportaciones de las partes interesadas sobre el proyecto de directrices que se publicaron para su consulta.

Las presentes Directrices no son vinculantes. Solo el Tribunal de Justicia de la Unión Europea (en lo sucesivo, el «TJUE») puede ofrecer en última instancia una interpretación autorizada del Reglamento de Inteligencia Artificial.

2. VISIÓN GENERAL DE LAS OBLIGACIONES DE TRANSPARENCIA Y TEMAS HORIZONTALES

2.1. Visión general de las obligaciones de transparencia del artículo 50 del Reglamento de Inteligencia Artificial

El artículo 50 del Reglamento de Inteligencia Artificial incluye cuatro obligaciones de transparencia, cada una de las cuales se aplica a diferentes tipos de sistemas de IA o a sus resultados de salida.

Suministro	Tipo de sistema de IA / resultado de salida	Obligación de transparencia	Excepciones o regímenes especiales
Artículo 50, apartado 1	Sistemas de IA que interactúan directamente con personas físicas	Los proveedores deben desarrollar y diseñar el sistema de IA de manera que las personas físicas interesadas estén informadas de que están interactuando con un sistema de IA.	Con excepción de 1) si el origen artificial de la interacción es evidente, o 2) si el sistema está autorizado por ley para detectar, prevenir, investigar o enjuiciar infracciones penales, a menos que el sistema esté a disposición del público para denunciar una infracción penal.
Artículo 50, apartado 2	Sistemas de IA que generan o manipulan imágenes sintéticas, vídeos, audio o contenidos de texto	Los proveedores deben garantizar que los resultados de salida del sistema de IA estén marcados en un formato legible por máquina y detectables como generados o manipulados artificialmente con soluciones técnicas efectivas, interoperables, sólidas y fiables.	Con excepción de 1) si el sistema de IA desempeña una función de apoyo a la edición estándar o no altera sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica, o 2) si el sistema de IA está autorizado por ley para detectar, prevenir, investigar o enjuiciar delitos.
Artículo 50, apartado 3	Sistemas de IA de reconocimiento de emociones o categorización biométrica	Los responsables del despliegue deben informar a las personas físicas expuestas al funcionamiento del sistema de IA.	Con excepción de si el sistema de IA está permitido por ley para detectar, prevenir o investigar infracciones penales.
Artículo 50, apartado 4	Sistemas de IA que generan o manipulan ultrafalsificaciones o textos publicados para informar al público sobre cuestiones de interés público	Los responsables del despliegue deben revelar que el contenido ha sido generado o manipulado de forma artificial.	Con excepción de si 1) el sistema de IA está autorizado por ley para detectar, prevenir, investigar o enjuiciar infracciones penales, o 2) si la publicación de textos ha sido objeto de revisión humana o control editorial y está sujeta a responsabilidad editorial. Se aplica un régimen especial de divulgación a las ultrafalsificaciones que forman parte de obras o programas artísticos, creativos, de ficción, satíricos o análogos.

Cada una de estas cuatro obligaciones se examina en las secciones 3 a 6 de las presentes Directrices. Además, el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial exige que la información a que se refieren los apartados 1 a 4 se facilitará a las personas físicas de que se trate de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición y se ajustará a los requisitos de accesibilidad aplicables. La sección 7 aclara estos requisitos.

Las diversas obligaciones de transparencia establecidas en el artículo 50 del Reglamento de Inteligencia Artificial pueden aplicarse acumulativamente a (los resultados de salida de) un único sistema de IA, implicando posiblemente la responsabilidad de diferentes agentes (proveedores o responsables del despliegue). Por ejemplo, si un sistema de IA genera imágenes como parte de una interacción directa con una persona física, es posible que el proveedor del sistema tenga que cumplir el artículo 50, apartados 1 y 2, del Reglamento de Inteligencia Artificial. Cuando dicho sistema también pueda generar imágenes que constituyan ultrafalsificaciones o textos publicados sobre asuntos de interés público, es posible que el responsable del despliegue tenga que cumplir además lo dispuesto en el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial.

2.2. Justificación y objetivos

Como se explica en los considerandos 132 a 136 del Reglamento de Inteligencia Artificial, la finalidad de las obligaciones de transparencia es reducir los riesgos de suplantación, engaño, desinformación, manipulación a gran escala y fraude, así como mitigar los posibles efectos adversos en los procesos democráticos y la confianza social causados por los contenidos o la interacción generados o manipulados por la IA. Informar a las personas sobre el hecho de que la interacción y el contenido proceden de la IA les ayudará a tomar decisiones con conocimiento de causa, al tiempo que contribuirá a salvaguardar la confianza y la integridad del ecosistema de información. La transparencia no es solo un requisito de cumplimiento técnico, sino un requisito previo para que las personas físicas puedan reconocer las interacciones y los contenidos mediados por la IA o el uso de sistemas de reconocimiento de emociones o de categorización biométrica. Garantizar un uso transparente y fiable de los sistemas de IA interactivos y generativos también permitirá defender la autonomía personal y los valores europeos, la dignidad humana y otros derechos fundamentales (por ejemplo, la libertad de pensamiento, la privacidad, la igualdad y la no discriminación, la protección de los consumidores, la propiedad intelectual, etc.), preservando al mismo tiempo la libertad de expresión y la credibilidad de los contenidos de los medios de comunicación.

2.3. Agentes responsables en virtud del artículo 50 del Reglamento de Inteligencia Artificial

10)

De conformidad con el artículo 3, apartado 3, del Reglamento de Inteligencia Artificial, los proveedores son personas físicas o jurídicas, autoridades públicas, órganos u organismos que desarrollan o para los que se desarrollan sistemas de IA y los introduzcan en el mercado de la Unión o los pongan en servicio con su propio nombre o marca, ya sea previo pago o de forma gratuita. Los proveedores deben cumplir las obligaciones de transparencia pertinentes del artículo 50, apartado 1 y 2, del Reglamento de Inteligencia Artificial que les sean aplicables, independientemente de que estén establecidos o situados en la Unión o en un tercer país (3). Los proveedores establecidos o situados fuera de la Unión también están sujetos al Reglamento de Inteligencia Artificial si la información de salida de su sistema de IA se utiliza en la Unión (4). Sin embargo, el uso posterior incidental, imprevisible o no autorizado no debe dar lugar por sí solo a la aplicación de las obligaciones a dichos proveedores de terceros países de sistemas de IA interactivos o generativos que no se introduzcan en el mercado ni se pongan en servicio en la Unión, sin perjuicio de las competencias de las autoridades competentes de vigilancia del mercado para considerar que sus resultados de salida no son conformes con el Reglamento de Inteligencia Artificial.

11)

Los proveedores deben garantizar que sus sistemas de IA interactivos o generativos tengan transparencia integrada en el diseño y el funcionamiento del sistema y que se cumplan todas las obligaciones de transparencia pertinentes establecidas en el artículo 50, apartados 1, 2 y 5, del Reglamento de Inteligencia Artificial a más tardar en el momento de la introducción de dichos sistemas en el mercado o de su puesta en servicio. Todas las personas físicas que interactúen con el sistema de IA o estén expuestas a sus resultados de salida incluidos en el ámbito de aplicación deben ser informadas de manera efectiva y coherente a lo largo de todo el ciclo de vida del sistema de IA introducido en el mercado o puesto en servicio por dicho proveedor (con independencia de quiénes sean los responsables del despliegue u otros usuarios del sistema).

Por ejemplo, una empresa proporciona una aplicación de IA generativa o interactiva (por ejemplo, un robot conversacional, un generador de imágenes o un agente de IA) en el mercado de la Unión con su propio nombre o marca comercial a consumidores, usuarios profesionales u otras entidades jurídicas que pueden utilizar directamente el sistema de IA para la interacción o la generación de contenidos (en particular integrando el sistema en sus procesos existentes y utilizándolo en consecuencia sin necesidad de modificaciones o componentes adicionales). La empresa es un proveedor responsable del cumplimiento de las obligaciones de transparencia establecidas en el artículo 50, apartado 1 y 2, del Reglamento de Inteligencia Artificial, independientemente de que el sistema de IA se suministre de forma gratuita o previo pago y de que el proveedor esté establecido o situado en la Unión o en un tercer país.

Otro ejemplo de proveedor es una empresa u otra organización (por ejemplo, una autoridad pública) que ha desarrollado internamente un sistema interactivo de IA (por ejemplo, un robot conversacional) y lo pone en servicio en la Unión para su propio uso y con su nombre o marca comercial.

Si una empresa toma un sistema de IA generativa ya existente introducido en el mercado por otro proveedor y modifica dicho sistema (por ejemplo, con nuevos datos de entrenamiento), que posteriormente pone en servicio con su propio nombre o mercado comercial, dicha empresa se convierte en proveedor del nuevo sistema sin perjuicio de la responsabilidad del proveedor del sistema de IA inicial para este último.

12)

Los responsables del despliegue son personas físicas o jurídicas, o autoridades públicas, órganos u organismos que utilicen un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional (5). Debe entenderse que la «autoridad» sobre un sistema de IA asume la responsabilidad de la decisión de desplegar el sistema y de la manera en que se utiliza realmente el sistema (incluidos sus resultados de salida). No requiere necesariamente un control técnico sobre el funcionamiento del sistema de IA, siempre que el responsable del despliegue tome la decisión sobre los fines y la manera de utilizar el sistema de IA (también en los flujos de trabajo descentralizados y las estructuras corporativas de grupo). Los responsables del despliegue que participen en cadenas de valor complejas de producción y distribución de contenidos deben adoptar medidas proporcionadas para garantizar que el etiquetado de los contenidos que hayan aplicado de conformidad con el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial se muestre de manera clara y distinguible para el público destinatario y previsible en el momento de la primera exposición de conformidad con el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial (por ejemplo, a través de condiciones contractuales con los socios distribuidores, ajustes de experiencia de usuario e interfaces que deben mostrarse).

13)

Los responsables del despliegue entran en el ámbito de aplicación de las obligaciones de transparencia establecidas en el artículo 50, apartados 3 y 4, del Reglamento de Inteligencia Artificial si su lugar de establecimiento o ubicación se encuentra en la Unión, o si están establecidos o situados en un tercer país en el que el resultado de salida del sistema de IA se utilice en la Unión (6). En este último caso, las obligaciones de transparencia se aplican a las entidades ubicadas o establecidas fuera de la Unión en las que el propio responsable del despliegue prevea la difusión y el uso de los resultados de salida de la IA en la Unión (es decir, dirigiendo o autorizando la distribución dentro de la Unión, en particular mediante la publicación de ultrafalsificaciones en el internet accesible a escala mundial). Sin embargo, los responsables del despliegue de terceros países no están sujetos a las obligaciones de transparencia cuando el contenido del sistema de IA llega al público de la Unión a través de canales imprevisibles y que escapan a su control.

14)

Cuando el responsable del despliegue de un sistema de IA sea una persona jurídica bajo cuya autoridad utilice el sistema (por ejemplo, una empresa publicitaria), los empleados individuales que actúen siguiendo las instrucciones y bajo el control de dicha persona jurídica (por ejemplo, animadores digitales, diseñadores web, creadores de contenidos, periodistas) no deben considerarse responsables independientes del despliegue de dicho sistema. Una persona jurídica también sigue siendo responsable del despliegue incluso si cuenta con la participación de terceros (como contratistas o trabajadores autónomos) en el funcionamiento del sistema en su nombre y bajo su responsabilidad y control.

Por ejemplo, un medio de comunicación establecido en la Unión, cuyos editores utilizan un sistema de IA para apoyar su cobertura escrita de acontecimientos actuales con publicaciones de texto generadas por IA sobre asuntos de interés público publicadas en un sitio web accesible a escala mundial, es un responsable del despliegue que entra en el ámbito de aplicación del Reglamento de Inteligencia Artificial. Del mismo modo, una empresa establecida en un tercer país que utilice un sistema de IA para generar una ultrafalsificación de una famosa que figure en un anuncio presentado en la Unión también es un responsable del despliegue que entra en el ámbito de aplicación del Reglamento de Inteligencia Artificial.

En cambio, una empresa que se limita a encargar a una agencia de publicidad la producción de un anuncio, sin tomar decisiones ni ejercer control sobre si la agencia de publicidad utiliza la IA en el proceso de producción y de qué manera, no es un responsable del despliegue.

15)

Los operadores (por ejemplo, proveedores y responsables del despliegue) pueden desempeñar más de una función simultáneamente en relación con un sistema de IA. Por ejemplo, una empresa podría desarrollar un sistema interno de IA generativa y utilizarlo para generar ultrafalsificaciones. En tal caso, la empresa se considerará tanto proveedor como responsable del despliegue que debe garantizar el cumplimiento de las obligaciones de marcado legible por máquina en virtud del artículo 50, apartado 2, y los requisitos para un etiquetado claro y perceptible de las ultrafalsificaciones en virtud del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial.

16)

En cambio, otros agentes (como los proveedores de servicios de alojamiento de datos, incluidas las plataformas en línea, o los organismos de radiodifusión televisiva) cuya función se limita a difundir o transmitir contenidos generados o manipulados por IA creados por terceros, o que reciben o están expuestos a contenidos generados o manipulados por IA sin tener autoridad sobre el uso del sistema de IA con fines de generación o manipulación de contenidos de IA, no son responsables del despliegue en el sentido del Reglamento de Inteligencia Artificial. Sin ser responsables en virtud del Reglamento de Inteligencia Artificial, estos agentes pueden, no obstante, desempeñar un papel importante en la cadena de valor para preservar la confianza y la integridad del ecosistema de información. Por lo tanto, se les anima encarecidamente a preservar el marcado y el etiquetado aplicados de conformidad con el artículo 50 del Reglamento de Inteligencia Artificial y a aplicar medidas proporcionadas y técnicamente viables para que las personas físicas puedan detectar los contenidos generados o manipulados por IA, sin perjuicio de la responsabilidad de los proveedores y responsables del despliegue de sistemas de IA generativa o de cualquier obligación o responsabilidad en virtud del Reglamento (UE) 2022/2065 (Reglamento de Servicios Digitales) (7) u otra legislación nacional o de la Unión aplicable.

17)

También se anima a otros agentes que actúan a título profesional y difunden contenidos (aunque no estén directamente implicados en virtud del artículo 50 del Reglamento de Inteligencia Artificial) a que adopten medidas proporcionadas y adecuadas, de modo que las personas físicas expuestas en última instancia al contenido estén efectivamente informadas y puedan detectar su origen generado o manipulado de manera artificial. Además, puede exigirse a estas partes que etiqueten las respectivas ultrafalsificaciones o publicaciones textuales sobre cuestiones de interés público con arreglo a otras normas jurídicas o deontológicas aplicables (por ejemplo, un organismo de radiodifusión televisiva que etiquete y muestre como parte de un programa de televisión una ultrafalsificación creada por una persona privada). Sin embargo, el mero hecho de que un agente etiquete contenidos o utilice contenidos etiquetados no significa que estos últimos puedan considerarse «responsables del despliegue» en el sentido del Reglamento de Inteligencia Artificial. El Reglamento de Inteligencia Artificial no amplía ni afecta a la responsabilidad jurídica de dichos agentes con arreglo a los marcos jurídicos aplicables si no se consideran al mismo tiempo proveedores o responsables del despliegue de sistemas de IA.

2.4. Exclusiones del ámbito de aplicación del Reglamento de Inteligencia Artificial

18)

El artículo 2 del Reglamento de Inteligencia Artificial establece una serie de exclusiones generales del ámbito de aplicación del Reglamento de Inteligencia Artificial que ya se han aclarado en las Directrices de la Comisión sobre prácticas prohibidas de inteligencia artificial (8). En consecuencia, en esta sección solo se abordarán los aspectos que son pertinentes para las obligaciones de transparencia del artículo 50 del Reglamento de Inteligencia Artificial.

2.4.1. Responsables del despliegue que actúan en el contexto de una actividad puramente personal no profesional

19)

El artículo 2, apartado 10, del Reglamento de Inteligencia Artificial dispone que este «no se aplicará a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional» (9). Debe considerarse una actividad «profesional» toda actividad a través de la cual las personas físicas obtengan un beneficio económico de forma regular, así como toda actividad profesional, empresarial, comercial o por cuenta propia en la que participen de otro modo. La especificación de «puramente personal» es un calificativo de no profesional, lo que significa que la persona debe actuar tanto a título personal como no profesional para entrar en el ámbito de aplicación de la excepción. Todo uso por parte de personas físicas que actúen en nombre o bajo la autoridad de un responsable del despliegue que actúe a título profesional entrará en el ámbito de aplicación de las obligaciones de transparencia del responsable del despliegue profesional establecidas en el artículo 50, apartados 3 y 4, del Reglamento de Inteligencia Artificial.

Ejemplos de uso personal no profesional de sistemas de IA excluidos del ámbito de aplicación:

—	las personas que utilizan un sistema de IA para generar ultrafalsificaciones de los miembros de su hogar;

—	las personas que utilizan un sistema de IA a título personal para generar texto sobre diversos temas (por ejemplo, estudiantes que utilizan la IA para escribir sus deberes);

—	las personas que utilizan un sistema de IA a título personal para generar ultrafalsificaciones difundidas en las redes sociales.

20)

La exclusión contemplada en el artículo 2, apartado 10, del Reglamento de Inteligencia Artificial se aplica únicamente a las obligaciones de los responsables del despliegue cuando utilizan el sistema para actividades puramente personales de carácter no profesional. El sistema como tal sigue estando dentro del ámbito de aplicación del Reglamento de Inteligencia Artificial en lo que respecta a las obligaciones de los proveedores que lo introducen en el mercado o lo ponen en servicio y de los responsables del despliegue que utilizan el sistema para uso profesional. La excepción también se entiende sin perjuicio de la aplicación de otra legislación nacional y de la Unión pertinente.

Por ejemplo, el proveedor del sistema de IA utilizado para generar ultrafalsificaciones que aparezcan en una tarjeta navideña personal debe marcar dichas ultrafalsificaciones de manera legible por máquina, de conformidad con la obligación de transparencia establecida en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial. Al mismo tiempo, el uso del sistema por parte de personas físicas para actividades puramente personales y no profesionales no estará cubierto por la obligación del responsable del despliegue establecida en el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial.

2.4.2. Investigación y desarrollo

21)

El artículo 2, apartado 6, del Reglamento de Inteligencia Artificial establece una excepción para los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad. Esta exclusión se entiende sin perjuicio de las normas éticas aplicables en materia de investigación y de la legislación de la UE en materia de protección de datos y de otro tipo. En el contexto del artículo 50 del Reglamento de Inteligencia Artificial, esta exclusión abarca no solo los sistemas de IA interactivos, sino también los resultados de salida de los sistemas de IA generativa (incluidos los contenidos de ultrafalsificación) utilizados en el contexto de la investigación científica. Sin embargo, si dichos sistemas se ponen en servicio o sus resultados se utilizan con fines distintos de la investigación y el desarrollo científicos, seguirían siendo necesarias las obligaciones de transparencia pertinentes establecidas en el artículo 50 del Reglamento de Inteligencia Artificial.

Por ejemplo, si los investigadores desarrollan e introducen en el mercado o ponen en servicio un sistema de IA interactivo y desean investigar si las personas físicas pueden distinguir entre sistemas de IA y seres humanos cuando interactúan hablando con dicho sistema de IA, no necesitan cumplir las respectivas obligaciones de transparencia en virtud del artículo 50, apartados 1 y 2, del Reglamento de Inteligencia Artificial. Sin embargo, si el mismo sistema interactivo de IA también se pone en servicio con fines distintos de la investigación y el desarrollo, tendrían que cumplirse las obligaciones de transparencia pertinentes del artículo 50 del Reglamento de Inteligencia Artificial.

22)

Además, el artículo 2, apartado 8, del Reglamento de Inteligencia Artificial excluye a las actividades de investigación, prueba o desarrollo relativas a sistemas de IA o modelos de IA antes de su introducción en el mercado o puesta en servicio. Las pruebas en condiciones reales (dentro o fuera de los espacios controlados de pruebas para la IA) no están cubiertas por dicha exclusión. Además, una vez que un sistema de IA se introduzca en el mercado o se ponga en servicio como resultado de dichas actividades de investigación y prueba, debe, no obstante, cumplir las obligaciones de transparencia pertinentes en virtud del artículo 50 del Reglamento de Inteligencia Artificial (10).

2.4.3. IA divulgada con arreglo a licencias libres y de código abierto

23)

De conformidad con el artículo 2, apartado 12, del Reglamento de Inteligencia Artificial, los sistemas de IA divulgados con arreglo a licencias libres y de código abierto quedan fuera del ámbito de aplicación del Reglamento de Inteligencia Artificial siempre que no entren en el ámbito de aplicación de las prohibiciones del artículo 5 del Reglamento de Inteligencia Artificial o de las obligaciones de transparencia del artículo 50 del Reglamento de Inteligencia Artificial, o no estén clasificados como de alto riesgo (11). Esto significa que los proveedores y responsables del despliegue de sistemas de IA de código abierto incluidos en el ámbito de aplicación del artículo 50 del Reglamento de Inteligencia Artificial siguen teniendo que garantizar el cumplimiento de sus respectivas obligaciones de transparencia.

24)

En cambio, los proveedores de componentes de IA libres y de código abierto que abarquen software, datos, modelos, herramientas, servicios o procesos para la personalización y la integración en un sistema de IA y que no constituyan por sí mismos (en parte o en su totalidad) un sistema de IA no están sujetos a las obligaciones de transparencia establecidas en el artículo 50 del Reglamento de Inteligencia Artificial. No obstante, se anima a los proveedores de dichos sistemas a diseñar dichos modelos, componentes y servicios de la manera descrita en el punto 27, en la medida en que sea proporcionado y viable.

2.5. Interacción con las prácticas prohibidas, los requisitos para los sistemas de IA de alto riesgo y la alfabetización en materia de IA

25)

El considerando 137 del Reglamento de Inteligencia Artificial aclara que el cumplimiento de las obligaciones de transparencia en virtud del artículo 50 del Reglamento de Inteligencia Artificial para un sistema de IA concreto no puede interpretarse como indicativo de que el uso de dicho sistema de IA o su información de salida sea lícito con arreglo al Reglamento de Inteligencia Artificial. En particular, los sistemas de IA sujetos a las obligaciones establecidas en el artículo 50 del Reglamento de Inteligencia Artificial pueden entrar en el ámbito de aplicación del artículo 5 del Reglamento de Inteligencia Artificial y, por tanto, estar prohibidos (por ejemplo, el uso de sistemas de reconocimiento de emociones en el ámbito del lugar de trabajo o de las instituciones educativas) (12). Además, los sistemas de IA que entran en el ámbito de aplicación del artículo 50 del Reglamento de Inteligencia Artificial también pueden clasificarse como de alto riesgo (13) y estar sujetos a los requisitos y obligaciones pertinentes para dichos sistemas. Por lo tanto, el cumplimiento del artículo 50 del Reglamento de Inteligencia Artificial no sustituye, limita ni afecta a las obligaciones derivadas de otras disposiciones de dicho Reglamento (14). Al mismo tiempo, los sistemas de IA también pueden entrar en el ámbito de aplicación del artículo 50 del Reglamento de Inteligencia Artificial sin ser clasificados como de alto riesgo con arreglo al artículo 6 de dicho Reglamento. Los requisitos de alfabetización en virtud del artículo 4 del Reglamento de Inteligencia Artificial también se aplican tanto a los proveedores como a los responsables del despliegue de sistemas de IA incluidos en el ámbito de aplicación del artículo 50 del Reglamento de Inteligencia Artificial.

2.6. Interacción con las normas aplicables a los modelos o sistemas de IA de uso general

26)

El artículo 50 del Reglamento de Inteligencia Artificial se aplica a determinados sistemas de IA, incluidos los sistemas de IA de uso general («sistemas de IA de uso general») (15), como los robots conversacionales que apoyan la interacción directa con personas físicas o los sistemas de IA capaces de generar o manipular contenidos sintéticos (incluidas las ultrafalsificaciones) (16).

27)

El artículo 50 del Reglamento de Inteligencia Artificial no se aplica explícitamente a los modelos de IA de uso general. Sin embargo, si un sistema de IA interactivo o generativo que entra en el ámbito de aplicación del artículo 50, apartado 1 o 2, del Reglamento de Inteligencia Artificial se basa en un modelo de IA de uso general facilitado por el mismo proveedor, las medidas de transparencia establecidas en las presentes Directrices también podrían aplicarse a nivel de modelo (véase también la sección 4). Además, aunque quedan fuera del ámbito de aplicación del artículo 50 del Reglamento de Inteligencia Artificial, también se anima a los proveedores de otros modelos de IA de uso general y de otros modelos de IA generativa a que apliquen medidas de transparencia adecuadas a nivel de modelo para la identificación de los sistemas de IA interactivos y el marcado de los contenidos generados y manipulados por IA. Esto es especialmente beneficioso para facilitar el cumplimiento por parte de los proveedores posteriores de sistemas de IA de las obligaciones que les incumben en virtud del artículo 50, apartados 1 y 2, del Reglamento de Inteligencia Artificial (17) y para contribuir a preservar la confianza y la integridad del ecosistema de información. En el caso de los modelos de IA de uso general que presenten un riesgo sistémico, las medidas de seguridad a nivel de modelo para la identificación de interacciones de IA y el marcado de contenidos generados o manipulados por IA pueden, cuando proceda, formar parte de un conjunto más amplio de medidas de mitigación que los proveedores pueden adoptar como parte de su obligación de mitigar los riesgos sistémicos de conformidad con el artículo 55, apartado 1, letra b), del Reglamento de Inteligencia Artificial.

3. ARTÍCULO 50, APARTADO 1, DEL REGLAMENTO DE INTELIGENCIA ARTIFICIAL: TRANSPARENCIA PARA LOS SISTEMAS INTERACTIVOS DE IA

28)

El artículo 50, apartado 1, del Reglamento de Inteligencia Artificial se dirige a los proveedores de sistemas de IA que interactúan directamente con personas físicas, que deben diseñar y desarrollar sus sistemas de manera que las personas físicas afectadas estén informadas de que están interactuando con un sistema de IA. Como se explica en el considerando 132 del Reglamento de Inteligencia Artificial, la finalidad de esta obligación de informar es permitir a dichas personas físicas tomar decisiones con conocimiento de causa en relación con la información de salida del sistema, evitar una dependencia excesiva de dichos sistemas y permitir a dichas personas físicas calibrar en consecuencia su confianza en el contenido y las interacciones.

3.1. Principales componentes, conceptos y obligaciones de transparencia conexas

29)

La obligación de transparencia establecida en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial se aplica a los proveedores de sistemas de IA cuando el sistema esté destinado a interactuar directamente con personas físicas y dicha interacción no esté comprendida en ninguna de las excepciones siguientes: 1) cuando resulte evidente desde el punto de vista de una persona física razonablemente informada, atenta y perspicaz, o 2) si el sistema está autorizado por ley para detectar, prevenir, investigar o enjuiciar infracciones penales, a menos que el sistema esté a disposición del público para denunciar una infracción penal.

3.1.1. Sistemas de IA destinados a interactuar directamente con personas físicas

30)

Para que un sistema entre en el ámbito de aplicación del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial, deben estar presentes los siguientes cuatro elementos: i) el sistema debe ser un sistema de IA; ii) debe estar destinado a interactuar; iii) esta interacción debe ser directa; iv) dicha interacción debe establecerse con personas físicas.

i)	Un sistema de IA: el sistema debe cumplir los elementos de la definición de sistema de IA (18), que excluye los mecanismos sencillos de respuesta automatizada no basados en IA (por ejemplo, correos electrónicos tradicionales fuera de la oficina, respuestas rápidas de mensajes basadas en normas).

ii)

Destinado a interactuar: el sistema de IA debe estar destinado a interactuar con personas físicas. La interacción implica la capacidad de un intercambio bidireccional de información o acciones entre personas físicas y el sistema de IA con un verdadero carácter conversacional o receptivo. Puede presentarse de diversas formas (por ejemplo, auditiva, visual y física). Las personas físicas deben poder proporcionar información de entrada (por ejemplo, texto escrito u otras formas de contenido, voz o acciones físicas) al sistema de IA (por ejemplo, a través de medios técnicos de comunicación, como interfaces en línea, teléfono o correo electrónico, o directamente), mientras que el sistema de IA debe ser capaz de responder con información de salida contextual (incluido cualquier tipo de contenido o acción) y viceversa. La interacción puede abarcar cualquier tipo de resultado de salida o formato que pueda ser percibido y comprendido por los seres humanos. No es necesario que dicha interacción sea iniciada por un humano; también puede abarcar contenidos o acciones de IA que susciten una respuesta humana. La interacción puede ser un intercambio de una sola vez (por ejemplo, una sola interacción seguida de una sola respuesta) o tener lugar durante un determinado período de tiempo (interacción de varios turnos). No se considera que interactúen con personas físicas los sistemas que solo recopilan datos pasivamente y no son capaces de realizar un intercambio con personas físicas (por ejemplo, controles automatizados de acceso al reconocimiento facial) o que solo recopilan información puntual (por ejemplo, filtros de correo no deseado).

iii)

Interacción directa: la interacción entre el sistema de IA y las personas físicas debe ser directa. Esto suele implicar una interacción en tiempo real o casi en tiempo real (incluso a través de las capacidades del sistema para escribir y enviar mensajes a personas físicas o interactuar de otro modo con el entorno físico o virtual que pueden percibir las personas físicas). La interacción directa excluye la interacción humana indirecta o mediada cuando una persona física está expuesta a información de salida de IA sin interactuar directamente con el sistema (por ejemplo, si los representantes de los servicios al cliente utilizan herramientas de asistencia de IA para ayudarles a comunicarse con personas físicas o si el propio sistema de IA no pone la información de salida de IA a disposición de la persona, sino que lo hace otra persona que difunde el contenido). Sin embargo, la mera posibilidad de que las personas intervengan o revisen los resultados de salida del sistema de IA no debe utilizarse para eludir la aplicación del requisito de divulgación previsto en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial. Los casos de productos y servicios que combinan respuestas generadas por IA con contenidos gestionados por seres humanos entran en el ámbito de aplicación del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial y requieren la divulgación de los resultados de salida específicos de la interacción que se generan mediante IA, a menos que dichos resultados de salida de IA hayan sido debidamente revisados y enviados por seres humanos como principales interlocutores con las personas físicas.

iv)

Con personas físicas: el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial exige que el sistema de IA interactúe con personas físicas. Estas personas pueden ser responsables profesionales del despliegue, otros usuarios (que también utilizan el sistema para actividades puramente personales) u otras personas que utilizan el sistema en su nombre. Quedan excluidos del ámbito de aplicación de la obligación los sistemas de IA que operan en un entorno físico cerrado (como parte de una configuración de maquinaria industrial), las llamadas de máquina a máquina en el backend entre sistemas de IA (incluidos los agentes de IA) cuya información de salida no esté destinada a llegar a personas físicas, o los entornos virtuales sin contacto directo con personas físicas.

31)

Los agentes de IA están cubiertos por el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial si son capaces de interactuar con las personas que los instruyen o con otras personas físicas en la ejecución de las tareas (por ejemplo, realizar reservas, gestionar la correspondencia, negociar o celebrar contratos, ejecutar compras, etc.). Los agentes de IA deben diseñarse y desarrollarse de manera que revelen tanto su carácter artificial como la persona en cuyo nombre actúan, teniendo en cuenta la necesidad de transparencia del origen y la delegación de autoridad y rendición de cuentas por las consecuencias de sus acciones. Esto incluye los casos en que los agentes de IA son capaces de interactuar en arquitecturas complejas de múltiples agentes con otros agentes de IA que interactúan directamente con las personas físicas en la ejecución de la tarea. No obstante, es posible que el proveedor del agente de IA no siempre pueda identificar de antemano casos individuales de interacción directa de un agente de IA con otras personas físicas una vez que el agente de IA se haya desplegado en diferentes contextos. Cuando el proveedor no pueda determinar de manera fiable si el agente de IA interactuará directamente con una persona física antes de introducirlo en el mercado o ponerlo en servicio, el agente debe diseñarse a nivel de arquitectura y recibir instrucciones para que se revele como tal en todas las situaciones en las que sea razonablemente probable que el agente pueda interactuar con una persona física (incluso cuando una persona física pueda representar a una entidad jurídica o actuar en su nombre). Además, los agentes de IA también deben revelarse a las personas que los instruyan en etapas clave (por ejemplo, en el momento de la autorización, la notificación, la validación, etc., incluso cuando el agente de IA desplegado reciba, procese o se base en información de salida generada por otros sistemas de IA en lugar de directamente por una persona física) y en cada nueva interacción.

Ejemplos de sistemas de IA destinados a interactuar directamente con personas físicas incluidas en el ámbito de aplicación del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial:

—	asistentes de voz equipados con IA, robots conversacionales/agentes conversacionales en diversos contextos (por ejemplo, servicio público, apoyo al cliente, gestión de reclamaciones, comercio electrónico, finanzas, asistencia sanitaria, educación, etc.);

—	línea directa de IA para incidentes, fraudes u otros tipos de denuncia, robots o robots colaborativos (humanoides), acompañantes de IA, mascotas robóticas de compañía, avatares de IA (por ejemplo, en entornos de realidad virtual);

—	bots de IA en redes sociales y medios de comunicación, agentes de codificación y otros agentes de IA capaces de interactuar directamente con personas físicas (también en arquitecturas complejas de múltiples agentes).

3.2.1.

Ejemplos de sistemas de IA que interactúan de forma no directa con personas físicas excluidas del ámbito de aplicación del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial:

—	robots industriales tradicionales equipados con IA que operan en un entorno industrial cerrado y no están destinados a interactuar con seres humanos (por ejemplo, robots de montaje electrónicos);

—	sistemas de recomendación equipados con IA, filtros de correo no deseado, herramientas de traducción o transcripción automáticas;

—	búsqueda y recuperación de información mediante IA sin generar o modificar contenido;

—

técnicas de finalización automática de textos y códigos basadas en IA, sistemas de autenticación o reconocimiento biométrico, sistemas de apoyo a la toma de decisiones en el backend en los que el usuario solo ve la información de salida de la IA sin posibilidad de interacción directa con el sistema;

—

sistemas de mantenimiento predictivo y optimización equipados con IA en fábricas y aplicaciones industriales, visualización de productos asistida por la IA (por ejemplo, conexión virtual, localización de salas, extracción de productos), herramientas de planificación de rutas de giro único equipadas con IA, transcripción de las llamadas de los clientes procesadas para el análisis del comportamiento, etc.

3.1.2. Obligación de informar en virtud del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial

32)

El artículo 50, apartado 1, del Reglamento de Inteligencia Artificial obliga a los proveedores de sistemas de IA que interactúan directamente con personas físicas a garantizar que sus sistemas de IA (incluidos los agentes de IA y los sistemas de IA de uso general) estén diseñados y desarrollados de manera que las personas físicas involucradas estén informadas de que están interactuando con un sistema de IA.

33)

Si bien el mecanismo de información debe integrarse en el diseño y el desarrollo del sistema y en la forma en que el sistema interactúa con las personas físicas, la notificación debe facilitarse durante el funcionamiento del sistema de IA y, a más tardar, en el momento de la primera interacción con la persona física (tal como se exige en el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial, véase la sección 7). Los proveedores son responsables de garantizar que, tras la introducción del sistema de IA en el mercado o su puesta en servicio, las personas físicas que interactúen con el sistema de IA sean informadas de manera efectiva y coherente a lo largo de todo el ciclo de vida del sistema de IA introducido en el mercado o puesto en servicio por dicho proveedor2.2.

34)

Formato de la divulgación: el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial no especifica ninguna técnica particular de divulgación. Por lo tanto, los proveedores pueden elegir cualquier técnica adecuada, siempre que se cumplan dos requisitos: se cumplen los requisitos establecidos en el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial en relación con el suministro de información clara y distinguible a más tardar en el momento de la primera interacción (véase la sección 7); y ii) las características de las personas físicas pertenecientes a grupos vulnerables debido a su edad (por ejemplo, niños o personas mayores) o discapacidad se tienen en cuenta en la medida en que el sistema de IA esté destinado a interactuar con personas físicas pertenecientes a dichos grupos o sea razonablemente probable que interactúe con ellas (por ejemplo, también cuando sea razonablemente probable que el sistema de IA interactúe con el público en general) (19). La información también debe facilitarse en un formato accesible para las personas físicas con discapacidad, tal como se especifica en el artículo 50, apartado 5, y en el considerando 132 del Reglamento de Inteligencia Artificial (véase la sección 7). Cuando el sistema pueda interactuar con menores, dichas notificaciones deben ser adaptadas a los menores, adecuadas a su edad, fáciles de entender y fácilmente accesibles para todos los menores, incluidos aquellos con discapacidad o con necesidades adicionales de accesibilidad. Cuando estén disponibles y sean adecuados, se recomienda a los proveedores que utilicen prácticas y etiquetas de divulgación normalizadas para garantizar la efectividad y la coherencia de las notificaciones y mejorar la sensibilización de los usuarios.

35)

Contenido de la notificación: el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial exige a los proveedores de sistemas de IA interactivos que los diseñen y desarrollen de manera que todas las personas físicas que interactúen con dichos sistemas de IA estén explícitamente informadas de la naturaleza artificial y no humana de la contraparte que interactúa. Si es razonablemente previsible para el proveedor que el sistema de IA pueda interactuar con personas físicas pertenecientes a los grupos vulnerables mencionados, la información debe adaptarse en consecuencia y facilitarse en un formato accesible, tal como exige el Derecho de la Unión aplicable, para garantizar también la plena comprensión de dichas personas físicas (20).

36)

Las notificaciones deben proporcionar información sobre el origen artificial de la interacción de manera adecuada al contexto en el que tiene lugar la interacción. Esto debe hacerse de manera que se garantice que las personas afectadas estén debida y eficazmente informadas, evitando cualquier riesgo de engaño o manipulación antes y a lo largo de la interacción, garantizando al mismo tiempo una divulgación viable y proporcionada. Algunos ejemplos de facilitación de la información son las notificaciones por escrito (por ejemplo, un chatbot que inicia una conversación mencionando que se basa en tecnología de IA), los medios visuales (por ejemplo, un correo electrónico generado por un agente de IA enviado a una persona física que presenta una etiqueta de IA en la parte superior), los medios auditivos (por ejemplo, un asistente de voz que dice al inicio de una sesión que está impulsado por IA), la divulgación de identificadores y credenciales de IA (por ejemplo, agentes de IA que revelan su identidad de IA en la medida de lo posible de manera verificable) (21).

37)

Formato de las notificaciones: se recomienda como mejor práctica el diseño del sistema de IA con enfoques de divulgación multimodales y accesibles. Estas notificaciones pueden combinar diferentes técnicas para reforzar la comprensión de los usuarios, cuando proceda y en función del contexto y de los grupos destinatarios y de público previsible, así como de los recursos disponibles de los proveedores, en particular las pequeñas y medianas empresas (pymes). Algunos ejemplos de técnicas apropiadas pueden ser:

—

Divulgación textual (basada en la interfaz de usuario): etiquetas o pancartas destacadas y en lenguaje claro (por ejemplo, «Estás interactuando con un sistema de IA») y mensajes de bienvenida en el primer turno de robots conversacionales que pueden combinarse, según proceda, con insignias o etiquetas persistentes visibles a lo largo de toda la interacción, de manera proporcionada al contexto y los riesgos específicos. Además, se recomienda situar la divulgación de información complementaria cerca de la interfaz de interacción (por ejemplo, cerca del campo de entrada/salida) y utilizar una redacción simplificada, en particular para los usuarios con menor alfabetización digital y los niños.

—

Divulgación auditiva: en contextos basados en voz o telefónicos, declaraciones orales explícitas al inicio de la interacción (por ejemplo, «Esto es un asistente impulsado por IA») combinadas, según proceda, con recordatorios periódicos en interacciones más largas, en particular en caso de interrupciones o un cambio de función del sistema de IA durante un recorrido del usuario. Las distintas señales sonoras (por ejemplo, tonos o earcons o iconos auditivos) pueden facilitar el reconocimiento, en particular para los usuarios con discapacidad visual, pero no se consideran suficientes por sí solas.

—

Señales visuales/gráficas: diseño del sistema de IA con iconos persistentes, marcas de agua, marcos de colores o símbolos reconocibles de «IA» para complementar la divulgación textual. Se recomienda el uso de indicadores visuales normalizados, también en todos los servicios de un proveedor, ya que estos indicadores pueden reducir significativamente la carga cognitiva y aumentar el reconocimiento.

—

Combinaciones multimodales: combinar señales de texto, sonoras y visuales (por ejemplo, un robot conversacional que muestre una etiqueta, proporcionando al mismo tiempo una divulgación textual en el primer turno) para garantizar la accesibilidad y reforzar la claridad entre los diferentes grupos de usuarios.

38)

Determinadas técnicas no son necesarias y, cuando se utilizan por sí solas, son insuficientes para cumplir de forma efectiva la obligación de transparencia establecida en el artículo 50, apartados 1 y 5, del Reglamento de Inteligencia Artificial, en particular:

—	La información que figure únicamente en las condiciones generales, las direcciones URL o la documentación (dicha información puede complementar, aunque no sustituir, la información facilitada en su contexto).

—	Marcas legibles por máquina (por ejemplo, metadatos o marcas de agua) que los usuarios no perciben en el punto de interacción. Esto no afecta a la idoneidad de dichas marcas para cumplir lo dispuesto en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial (véase la sección 4).

—	Señales poco claras o ambiguas (por ejemplo, referencias genéricas al «asistente») o representaciones similares a las humanas que puedan inducir a error a los usuarios.

—

Divulgaciones generalizadas que no son suficientemente específicas de los resultados de salida y las interacciones del sistema de IA (por ejemplo, en una plataforma que presta diversos servicios o entradas individuales, una divulgación general como «Los servicios en este sitio web utilizan la IA» es insuficiente).

—	Descripciones técnicas o basadas en la capacidad: declaraciones que se refieren únicamente a tecnologías subyacentes (por ejemplo, «este sistema utiliza grandes modelos de lenguaje») sin explicar la función o las implicaciones del sistema para el usuario y su origen artificial.

39)

La divulgación de información debe ser proporcionada y calibrarse en función de los diferentes contextos y públicos destinatarios del sistema de IA para seguir siendo efectiva y fácil de usar y evitar, en la medida de lo posible, posibles perturbaciones de la experiencia del usuario o efectos de habituación (la denominada «ceguera de banner»).

40)

Es probable que una notificación única y destacada antes de la primera interacción del sistema de IA con una persona física concreta baste en la mayoría de los casos para cumplir la obligación establecida en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial. Sin embargo, en determinados contextos de mayor riesgo, es probable que sean necesarios recordatorios periódicos y divulgaciones que tengan en cuenta el contexto para garantizar que los usuarios estén informados de forma continuada. Esto ocurre, en particular, en el contexto de los sistemas de IA que interactúan con personas vulnerables (por ejemplo, niños, personas mayores, personas con discapacidad y personas con menor nivel de alfabetización), en interacciones prolongadas y cambiantes en contextos sensibles o inmersivos (por ejemplo, cuando los usuarios pueden expresar o experimentar angustia o vulnerabilidad emocional o correr el riesgo de comportamientos similares a la adicción); en interacciones en las que existe un mayor riesgo de que los usuarios sean inducidos a error (por ejemplo, asesoramiento financiero, seguros, asistencia jurídica, asesoramiento sanitario y tramitación de reclamaciones); o en interacciones en las que formen vínculos o dependencias emocionales (por ejemplo, acompañantes de IA), así como cuando es necesario garantizar la sensibilización y el control sobre las acciones de los agentes de IA. Los proveedores también deben diseñar y desarrollar el sistema de IA para garantizar la divulgación de información en todas las situaciones en las que se formulen preguntas al sistema de IA relacionadas con su naturaleza o con el origen de la interacción, o en las que pueda suponerse razonablemente, a partir de los intercambios con la persona física, que es probable que dicha persona sea inducida a error o a confusión sobre el origen de IA de la interacción.

3.2. Excepciones a la obligación de informar en virtud del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial

41)

El artículo 50, apartado 1, del Reglamento de Inteligencia Artificial establece dos excepciones a la obligación de informar relativa a los sistemas interactivos de IA que se examinan a continuación.

3.2.1. Excepción por interacción evidente con un sistema de IA

42)

Para poder acogerse a la primera excepción, los proveedores tendrán que evaluar y demostrar: i) el evidente carácter artificial de la interacción con ii) una persona física normalmente informada, atenta y perspicaz, teniendo en cuenta las circunstancias y el contexto de uso.

43)

Esta norma se basa en la legislación de la UE en materia de protección de los consumidores en relación con el concepto de «consumidor medio» y debe interpretarse de manera coherente, teniendo en cuenta al mismo tiempo los contextos y usos específicos y variados de los sistemas de IA que interactúan directamente con personas físicas y los objetivos perseguidos por el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial.

44)

La concepción de esta persona física «media» consta de dos etapas. En primer lugar, los proveedores deben tener en cuenta la audiencia con la que el sistema de IA está destinado y es razonablemente probable que interactúe. En segundo lugar, el proveedor debe examinar lo razonablemente bien informado, atento y perspicaz que es un miembro medio de ese público, teniendo en cuenta las circunstancias y el contexto de uso. Al realizar esta evaluación deben tenerse en cuenta varios factores:

—

Los proveedores deben tener en cuenta el público destinatario del sistema de IA, así como un público potencial más amplio que sea razonablemente previsible. Este será especialmente el caso si el público en general puede acceder fácilmente al sistema de IA o si el sistema funciona en espacios públicos virtuales o físicos y es capaz de interactuar con las personas físicas presentes en dichos espacios. El público que puede estar expuesto a un sistema de IA no siempre es igual al público destinatario.

—

Los proveedores deben tener en cuenta la posible composición diversa del público destinatario y el público razonablemente previsible, en consonancia con el considerando 132 del Reglamento de Inteligencia Artificial. Cuando sea probable que entre el público haya personas con discapacidad, personas mayores o menores de edad, los niveles esperados de información, atención y prudencia de un miembro medio de dicho público serán inferiores en comparación con los de un miembro medio de un público que no incluya a esas categorías de personas. En cambio, si el sistema de IA interactivo solo está disponible para un público destinatario profesional o especializado, esto podría afectar positivamente a los niveles esperados de conocimiento, atención y prudencia, y puede considerarse que un miembro medio de dicho público está mejor informado y es más atento y perspicaz.

—	Como parte de las circunstancias y el contexto de uso más amplios, los proveedores deben tener en cuenta el nivel de alfabetización digital y en materia de IA del público destinatario y razonablemente previsible, así como los factores sociales, culturales y lingüísticos pertinentes.

45)

Obviedad: al establecer la persona física hipotética razonablemente bien informada, atenta y perspicaz, los proveedores deben evaluar si será evidente para dicha persona que está interactuando directamente con un sistema de IA. La excepción debe interpretarse de manera restrictiva, ya que priva a las personas físicas de la protección y del derecho a ser informadas con información clara y distinguible de que están interactuando con sistemas de IA. La conciencia general de los consumidores y otras personas físicas de que existen sistemas de IA (incluidos robots conversacionales y agentes) no implica que los reconozcan en las interacciones. Varios factores pueden ser pertinentes y tenerse en cuenta como parte de la evaluación para determinar si la interacción es obvia:

—

La naturaleza prevista de la interacción: En los casos en que el sistema de IA interactúe físicamente con personas físicas, los elementos pertinentes pueden incluir la visibilidad de los componentes mecánicos (lo que aumentaría la obviedad) o el grado en que el sistema de IA reproduzca de manera auténtica su equivalente no artificial (lo que reduciría la obviedad). En el caso de las interacciones de naturaleza visual o auditiva, elementos como los patrones de escritura o de voz, el tono vocal (voz robótica frente a voz que suena a humano auténtico), el diseño de la interfaz de usuario (por ejemplo, una imagen de perfil relacionada con un robot conversacional que muestra a un ser humano) y la capacidad de interacción personalizada avanzada pueden afectar a esta evaluación.

—

La composición del público destinatario y del público previsible: Si el sistema de IA interactivo solo está disponible para un público profesional o especializado, sin una posible exposición a grupos vulnerables, esto podría aumentar la posible obviedad de la naturaleza artificial de la interacción para un miembro medio del público correspondiente. Por el contrario, si el público en general o los consumidores que incluyen también a personas vulnerables (por ejemplo, niños, personas mayores, personas con discapacidad cognitiva, física o mental, o personas con menor alfabetización en materia de IA), para quienes la interacción es menos evidente, pueden acceder al sistema de IA, no puede invocarse la excepción para proteger eficazmente a dichos usuarios vulnerables.

—

También debe tenerse en cuenta que a las personas físicas les resulta cada vez más difícil saber si se está produciendo una interacción con un sistema de IA o con un ser humano real. Debido al uso de avatares y agentes, al anonimato general de las interacciones en línea y a las capacidades de los sistemas de IA para escribir e interactuar de manera similar a la humana, la excepción de «obviedad» debe limitarse a los casos en los que casi no exista ninguna duda sobre la naturaleza de la interacción para una persona media del público destinatario y razonablemente previsible.

Ejemplos de obviedad a los que no se aplica la obligación de transparencia prevista en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial:

—

Los robots conversacionales de asistencia y revisión de códigos impulsados por IA solo están disponibles para desarrolladores profesionales que, en virtud de sus conocimientos especializados y del contexto de uso, no tienen expectativas razonables de interactuar con un ser humano y pueden reconocer fácilmente las sugerencias generadas por un sistema de IA.

—	Un asistente interno orientado al empleado para personal debidamente formado que posea conocimientos en materia de IA y sea consciente de que utiliza sistemas de IA con fines organizativos internos (por ejemplo, recursos humanos, jurídicos, contratación pública, cumplimiento o apoyo informático).

—	Sistemas interactivos de IA destinados únicamente a ser utilizados por profesionales sanitarios debidamente formados para apoyar el diagnóstico médico y sugerir tratamientos conexos.

—	Entorno de IA integrado en aparatos domésticos con funcionalidades limitadas a la asistencia y el funcionamiento del aparato doméstico.

—

Interacciones con personajes no jugables (del inglés, «NPC») habilitados por IA en un videojuego de un solo jugador cuando la naturaleza del videojuego deje claro que ninguna otra persona física puede participar e interactuar con el usuario y la naturaleza de IA de la interacción también sea evidente para todos los usuarios (incluidas las personas vulnerables).

Ejemplos que no cumplen la excepción de obviedad y a los que se les aplica la obligación de transparencia prevista en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial:

—	Un animal de compañía robótico impulsado por IA, muy similar a su equivalente natural y diseñado para imitar la interacción típica entre el ser humano y el animal de compañía, creando ambigüedad en cuanto a si la interacción se produce o no con un sistema de IA.

—

Sistemas de IA integrados en entornos inmersivos (por ejemplo, realidad virtual o aumentada) que utilizan avatares o voces realistas que se asemejan a los seres humanos, en los que los usuarios y, en particular, los niños, las personas mayores o las personas con discapacidad pueden no ser capaces de distinguir fácilmente entre la interacción humana y la interacción con IA.

—

Robots conversaciones de IA integrados en plataformas en línea o herramientas de soporte técnico (servicios de ayuda) a través de los cuales los usuarios interactúan directamente y reciben información de salida generadas por la IA (por ejemplo, respuestas a consultas u otros contenidos generados por IA) que pueden percibir como generados por seres humanos.

3.2.2. Excepción para los sistemas de IA autorizados por la ley con fines de garantía del cumplimiento del Derecho

46)

Los proveedores de sistemas interactivos de IA están exentos de la obligación de transparencia prevista en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial si están autorizados por ley a detectar, prevenir, investigar o enjuiciar infracciones penales, con sujeción a las salvaguardias adecuadas para los derechos y libertades de terceros.

47)

Por «autorizado por ley» debe entenderse por el Derecho de la Unión, así como por el Derecho nacional de los Estados miembros adoptado de conformidad con el Derecho de la Unión. La ley que autorice el uso de sistemas de IA debe especificar claramente los fines y las circunstancias del uso permitido y establecer salvaguardias adecuadas para proteger los derechos y libertades de terceros. Teniendo en cuenta el enfoque tecnológicamente neutro del Reglamento de Inteligencia Artificial, no es necesario identificar o autorizar por ley sistemas de IA específicos cuando el uso del sistema de IA esté generalmente previsto en el ámbito de la actividad legalmente autorizada y cumpla el marco jurídico aplicable.

48)

Para entrar en el ámbito de aplicación de esta excepción, la finalidad del sistema de IA debe ser detectar, prevenir, investigar o enjuiciar infracciones penales (por ejemplo, agente encubierto de IA, sistemas de IA utilizados bajo el control humano de investigadores para investigaciones en línea o comunicación con personas que puedan estar implicadas en actividades delictivas). La excepción no se limita al uso de dichos sistemas de IA únicamente por parte de las autoridades encargadas de la aplicación de la ley, tal como se definen en el artículo 3, apartado 48, del Reglamento de Inteligencia Artificial, sino que también puede abarcar los sistemas de IA interactivos (o generativos) utilizados por otras autoridades públicas nacionales o de la Unión, siempre que su uso esté autorizado por ley para detectar, evitar, investigar o enjuiciar infracciones penales, y con sujeción a las garantías adecuadas para proteger los derechos y libertades de terceros. La exención no exige que el sistema de IA sea capaz de llevar a cabo las investigaciones de forma independiente. Si un sistema respectivo puede utilizarse tanto con fines policiales como para otros fines habituales, la aplicabilidad de la exención debe evaluarse a la luz del despliegue concreto. Las obligaciones de transparencia seguirán aplicándose cuando el mismo sistema de IA se despliegue con fines distintos de la detección, prevención, investigación o enjuiciamiento legalmente autorizados de infracciones penales. Sigue siendo necesario ofrecer transparencia a las personas físicas cuando interactúan con el sistema en el contexto de sus fines habituales.

49)

La excepción no se aplica si i) el sistema de IA está a disposición del público, y ii) el sistema ofrece una funcionalidad a las personas para denunciar infracciones penales. Estos sistemas pueden utilizarse, pero siguen estando sujetos a la obligación de transparencia en virtud del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial, por lo que las personas físicas deben ser informadas de que están interactuando con dichos sistemas.

En aras de una mayor claridad, esta excepción se refiere únicamente a la obligación prevista en el artículo 50, apartado 1, de informar a las personas físicas de que están interactuando con un sistema de IA (22). Se entiende sin perjuicio del Derecho de la Unión y nacional aplicable, incluidas las normas procesales relativas a la documentación, la divulgación, la admisibilidad y la evaluación de las pruebas.

Ejemplos de sistemas de IA puestos a disposición del público para denunciar infracciones penales que no están exentas y que entran en el ámbito de aplicación del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial:

—

Robots conversacionales policiales equipados con IA desplegados en sitios web oficiales de la policía o en aplicaciones móviles que permiten a las personas denunciar infracciones penales o denuncias. Estos sistemas orientan a los usuarios a través de preguntas estructuradas, recopilan información pertinente e informes de selección antes de enviarlos a agentes humanos para su evaluación.

—	Líneas telefónicas directas equipadas con IA gestionadas por la policía u otras autoridades garantes de cumplimiento del Derecho para consultas públicas generales.

—

Líneas directas o portales digitales de notificación de fraude asistidos por IA gestionados por entidades financieras o autoridades públicas, en los que los usuarios pueden denunciar presuntos delitos financieros. El sistema de IA interactúa con el usuario para recopilar detalles, categorizar el informe y priorizar los casos, mientras que los investigadores humanos validan la información antes de adoptar cualquier medida.

—

Asistentes virtuales utilizados para la recogida de declaraciones de testigos, en los que las víctimas o los testigos pueden presentar información a través de una interfaz impulsada por IA. Estos sistemas de IA pueden admitir entradas multilingües, funciones de accesibilidad y una presentación estructurada de pruebas, pero la evaluación final y las medidas de investigación siguen correspondiendo a las autoridades humanas.

3.3. Interacción con otros actos jurídicos de la Unión

50)

La obligación de transparencia prevista en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial se aplica sin perjuicio de la legislación vigente de la Unión en materia de protección de los consumidores, protección de datos, digitalización o no discriminación, que puede requerir otras divulgaciones de información no específicas del origen de la interacción con la IA. En particular, en virtud de la Directiva 2005/29/CE (Directiva sobre las prácticas comerciales desleales) (23), están prohibidas las acciones u omisiones engañosas en relación con las características principales de un producto o servicio. Además, la Directiva 2011/83/CE (la «Directiva sobre los derechos de los consumidores») (24) exige a los comerciantes que faciliten información precontractual clara y comprensible sobre las principales características de los bienes o servicios. Cuando un servicio está impulsado por IA (como un robot conversacional basado en la suscripción, una aplicación de acompañamiento de IA o un servicio de asesoramiento virtual), la funcionalidad de IA puede considerarse una característica esencial que debe divulgarse antes de que el consumidor quede vinculado por un contrato. Las obligaciones de información en virtud del Derecho de la Unión en materia de protección de los consumidores se aplican con independencia de que la interacción se considere «obvia» con arreglo al artículo 50, apartado 1, del Reglamento de Inteligencia Artificial. Estas obligaciones también son complementarias de las obligaciones generales de información en materia de protección de los consumidores, mientras que la obligación de notificación en virtud del Reglamento de Inteligencia Artificial es más contextual y tiene por objeto garantizar la información continua de todas las personas físicas sobre una interacción directa con un sistema de IA al menos antes de su inicio y a lo largo de toda la interacción.

51)

El Reglamento de Servicios Digitales también incluye requisitos de transparencia para los sistemas de recomendación de las plataformas en línea, incluido el requisito de explicar los principales parámetros de clasificación. Estas obligaciones complementan las obligaciones de transparencia establecidas en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial, ya que tienen un ámbito de aplicación y una finalidad diferentes y se refieren a sistemas que, en principio, no interactúan directamente con los usuarios en el sentido del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial.

52)

Por lo que se refiere a las obligaciones de información con respecto a los interesados en virtud del Derecho de la Unión en materia de protección de datos, la obligación establecida en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial cumple un objetivo diferente de dichas obligaciones y, como tal, no afecta a dichas obligaciones de información.

53)

Del mismo modo, la obligación de transparencia en virtud del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial se aplica sin perjuicio del Derecho de la Unión y nacional relativo al suministro de información a las personas en el contexto de procesos penales [por ejemplo, la Directiva 2012/13/UE o la Directiva 2012/29/UE, en su versión modificada por la Directiva (UE) 2026/1472] (25).

4. ARTÍCULO 50, APARTADO 2, DEL REGLAMENTO DE INTELIGENCIA ARTIFICIAL: MARCADO Y DETECCIÓN DE CONTENIDOS GENERADOS O MANIPULADOS POR IA

54)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial exige a los proveedores de sistemas de IA que generen contenidos sintéticos que apliquen soluciones técnicas que cumplan determinados requisitos de calidad para el marcado legible por máquina y la detección de los resultados de salida de sus sistemas de IA. El objetivo es permitir a las personas físicas distinguir los contenidos generados o manipulados por IA de otros contenidos (por ejemplo, los creados por seres humanos) y verificar su origen, contribuyendo así también a aumentar la integridad y la confianza en el ecosistema de la información.

55)

Los beneficiarios de esta obligación de transparencia son, por tanto, todas las personas físicas que puedan estar expuestas a los contenidos generados o manipulados por IA, así como los agentes clave que desempeñan un papel importante para la confianza y la integridad del ecosistema de la información, como las autoridades competentes de vigilancia del mercado y otras autoridades competentes, los investigadores independientes, las organizaciones de la sociedad civil, los medios de comunicación, los alertadores fiables, los defensores de los derechos fundamentales, los proveedores de plataformas en línea y motores de búsqueda en línea, los titulares de derechos y otros creadores y distribuidores de contenidos, etc.

4.1. Principales componentes y conceptos del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial

56)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial se aplica si se cumplen varias condiciones acumulativas:

i)	El sistema debe considerarse un sistema de IA.

ii)	El sistema de IA debe ser capaz de generar o manipular contenidos sintéticos.

iii)	El contenido debe estar en una o varias de las siguientes modalidades: audio, imagen, vídeo o texto;

iv)

El sistema de IA no debe estar comprendido en ninguna de las excepciones siguientes: 1) el sistema de IA desempeña una función de apoyo para la edición estándar; 2) el sistema de IA no altera sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica; o 3) el sistema de IA está autorizado por ley para detectar, prevenir o investigar infracciones penales.

4.1.1. Sistemas de IA que generan o manipulan contenidos sintéticos

57)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial se aplica a los sistemas de IA (26), incluidos los sistemas de IA de uso general, que generan contenidos sintéticos de audio, imagen, vídeo o texto. El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial abarca un subconjunto de sistemas que se ajustan a la definición de sistema de IA del artículo 3, apartado 1, del Reglamento de Inteligencia Artificial y que generan dicha información de salida. El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial también abarca los sistemas de IA utilizados para manipular contenidos.

58)

La generación de contenidos se refiere a la generación de material sintético por parte del sistema de IA (por ejemplo, sobre la base de una indicación humana), como la generación de una imagen sintética o una canción. En la práctica, esto significa que el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial puede aplicarse a los sistemas de IA generativa diseñados con una finalidad prevista limitada a producir resultados de salida específicos. Al mismo tiempo, el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial también se aplica a los sistemas de IA que pueden servir para múltiples fines, como los sistemas de IA de uso general, y que pueden producir diversos tipos de contenidos, así como sistemas de IA agéntica, siempre que generen contenidos sintéticos de audio, imagen, vídeo o texto.

59)

En cambio, la manipulación de contenidos se refiere a contenidos ya existentes (sintéticos o no) alterados por un sistema de IA (por ejemplo, una imagen existente o una grabación de voz manipulada por un sistema de IA de conformidad con instrucciones humanas). Para que los contenidos entren en el ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial, basta con que se generen o manipulen mediante IA más allá de la edición estándar con arreglo a las excepciones establecidas en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial (véase la sección 4.3). Además, el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial no exige que el contenido se genere o manipule únicamente mediante IA. Los contenidos mezclados con material creado por el ser humano también se consideran contenidos sintéticos si han sido manipulados o generados en una de las modalidades a que se refiere el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial.

4.1.2. Modalidades del contenido sintético en el ámbito de aplicación

60)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial establece una lista exhaustiva de las modalidades del contenido sintético cubierto por la obligación de transparencia: audio, imagen, vídeo o texto. Esto incluye también los contenidos multimodales, es decir, los contenidos compuestos por una combinación de estas modalidades. A efectos del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial, las diferentes modalidades deben interpretarse en consonancia con los avances prácticos y tecnológicos que puedan evolucionar con el tiempo. Por el momento, deben entenderse como sigue:

—	El texto se refiere a un contenido simbólico discreto compuesto por caracteres, o números dispuestos en una secuencia determinada, que pueden ser leídos e interpretados semánticamente por los seres humanos.

—	Las imágenes se refieren a representaciones espaciales estáticas que codifican información visual que pueden ser vistas por seres humanos.

—	El audio se refiere a un sonido de codificación de señales variable en el tiempo que puede ser percibido a través del oído humano. Esto puede abarcar el habla, la música instrumental u otras señales de audio.

—	El vídeo se refiere a una secuencia temporal de imágenes, que pueden sincronizarse con el audio, que pueden ser vistas por seres humanos. En tal caso, deben marcarse tanto el contenido de vídeo como el de audio y debe garantizarse la detectabilidad, como se indica a continuación.

61)

Los sistemas de IA que generan o manipulan imágenes 3D, vídeos 3D y audio 3D, así como la realidad virtual, aumentada o mixta, entran en el ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial. La «realidad virtual» abarca las tecnologías de IA que permiten a los usuarios experimentar e interactuar con un entorno generado por ordenador que simula la presencia física y que permiten la interacción en tiempo real del usuario con dicho entorno. Dado que la realidad virtual y aumentada se compone de una secuencia temporal de imágenes, opcionalmente sincronizadas con audio, que representa un cambio visual a lo largo del tiempo, puede considerarse contenido de «vídeo». El «resultado de salida» pertinente que debe marcarse es la forma final del activo individual generado por IA, con excepciones especiales para las sesiones efímeras interactivas en tiempo real que figuran en el punto 88. No es necesario marcar los objetos digitales utilizados para generar imágenes 3D, vídeos 3D y contenidos de audio 3D, como una nube de puntos o una malla 3D.

62)

Los gemelos digitales que proporcionan una réplica virtual de personas, objetos físicos o sistemas, integrando múltiples tipos de datos, también entran en el ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial si son generados o manipulados por IA y adoptan la forma de audio, imagen, vídeo o texto, a menos que entren en el ámbito de aplicación de las excepciones y se consideren «aplicaciones industriales» o «aplicaciones entre empresas» con arreglo al punto 87 o contenidos efímeros en tiempo real con arreglo al punto 88.

63)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial también puede aplicarse a los agentes de IA si estos adoptan una acción cuyo resultado de salida sea contenido generado o manipulado por IA perceptible por personas físicas en forma de audio, imagen, vídeo o texto. Por lo tanto, estos resultados deben marcarse y detectarse como se describe a continuación. En cambio, cualquier acción de un agente de IA que no incluya contenidos generados o manipulados por IA (por ejemplo, fases intermedias de procesamiento como el razonamiento y la cadena de pensamiento), o acciones generadas por IA que no estén destinadas a ser percibidas directamente por personas físicas (por ejemplo, una solicitud web o una acción de navegador), no se considera contenido sintético en el ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial y no tiene que cumplir las obligaciones de marcado y detección.

4.1.3. Contenido que queda fuera del ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial

64)

El contenido generado por un sistema de IA basado en un simple tratamiento de datos que no se genere o manipule específicamente mediante IA, por ejemplo, un fotograma renderizado, queda fuera del ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial.

65)

Además, el resultado de salida de un sistema de IA que se limite a reproducir contenidos existentes o permita la presentación o la disposición de contenidos ya existentes no está cubierto por el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial. Este puede ser el caso, por ejemplo, de las listas de reproducción de música u otros sistemas de recomendación que solo seleccionan o clasifican contenidos existentes en función de las preferencias o la actividad del usuario, sin crear nada nuevo ni manipular el contenido en sí. Lo mismo se aplica a los sistemas de IA utilizados en procesos analíticos internos que extraen y estructuran datos, pero no los resumen.

66)

Lo mismo ocurre con los resultados de entrada y salida de un sistema de IA que constituyen meras observaciones y grabaciones de datos procedentes de entornos físicos o virtuales, que no se generan ni manipulan mediante IA (por ejemplo, mediante robots u otros sensores habilitados por IA) o transmisiones de datos por parte de sistemas de IA sin ninguna alteración. Esto abarca una variedad de resultados de entrada y salida de sistemas de IA, en particular en entornos industriales, como los datos de fabricación para robots que observan datos; el consumo registrado por los contadores inteligentes basados equipados con IA, y las mediciones de la frecuencia y tensión de la red; así como el registro de los datos de localización GPS de los vehículos, etc.

67)

Además, dado que el objetivo de la obligación de transparencia establecida en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial es permitir a las personas distinguir los contenidos generados o manipulados por IA, a fin de hacer frente a los riesgos de engaño y manipulación y garantizar la integridad y la confianza en el ecosistema de la información, cualquier contenido que no esté relacionado con dicho objetivo y que no sea perceptible o que no esté destinado a ser interpretado, verificado o ejecutado por personas físicas no es objeto de esta disposición.

68)

En particular, debe considerarse que los siguientes contenidos quedan fuera del ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial:

—	Los resultados generados en forma de una breve secuencia de números, símbolos o letras (por ejemplo, palabras sueltas, leyendas de imágenes, texto alternativo, etiquetas de interfaces de usuario y gráficos a escala de iconos, leyendas de imágenes y otras etiquetas de datos).

—

Por código fuente se entiende el contenido escrito en un lenguaje de programación, escritura de guiones, marcado, consulta o configuración destinado a ser interpretado, compilado o ejecutado por un sistema informático, independientemente de que esté compuesto por caracteres de texto. Esto también puede incluir comentarios en lenguaje natural e información contextual que formen parte integrante del código fuente. Se excluyen asimismo los kits de desarrollo de software (SDK), el lenguaje de consulta estructurado (SQL), la infraestructura como código y «YAML no es un lenguaje de marcado» (YAML), la configuración JavaScript Object Notation (JSON), esquemas, scripts, especificaciones legibles por máquina, interfaces de programación de aplicaciones (API y bibliotecas de software).

—	El resultado de salida de un sistema de IA destinado a ser comunicado exclusivamente de máquina a máquina y procesado automáticamente sin ninguna exposición a las personas, por ejemplo, la comunicación entre agentes o las señales antispam, siempre que no sea percibido por personas físicas.

—

Las salidas que solo se utilizan en entornos de circuito cerrado en flujos de trabajo industriales y de desarrollo de productos (por ejemplo, para la producción de películas, animaciones, juegos o publicidad), a menos que sean la salida final del sistema de IA en forma de contenido de texto, audio, imagen o vídeo generado o manipulado por IA. En esos casos, solo debe marcarse y detectarse el resultado final de las fases del flujo de trabajo.

4.2. La obligación de marcado y detección del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial

69)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial establece una obligación de transparencia para los proveedores de sistemas de IA generativa que entren en el ámbito de aplicación de dicha disposición, que consta de dos elementos distintos, pero intrínsecamente interrelacionados. En primer lugar, los proveedores deben garantizar que los resultados de salida del sistema de IA estén marcados en un formato legible por máquina. En segundo lugar, los proveedores deben garantizar que los resultados de salida sean detectables como contenidos generados o manipulados artificialmente. Para cada solución de marcado implantada, los proveedores se asegurarán de que se disponga de los medios de detección correspondientes (como se indica a continuación) para que las personas físicas expuestas al contenido y otros agentes pertinentes puedan identificar y distinguir el contenido generado artificialmente por el sistema de IA de otros contenidos. Una solución técnica debe entenderse como una combinación de técnicas de marcado y medios de detección que el proveedor ha aplicado para cumplir la obligación de transparencia en virtud del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial.

70)

Cada uno de los dos elementos mencionados debe cumplirse para alcanzar de forma efectiva los objetivos de las obligaciones de transparencia del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial. El cumplimiento de un único elemento (por ejemplo, para el marcado legible por máquina de los resultados de salida sin que se disponga de los medios para su detección) no será suficiente para cumplir dicha disposición (27).

4.2.1. La obligación de marcado

71)

El ámbito de aplicación de la obligación de marcado se limita a las marcas de ejecución en un formato legible por máquina. Un formato legible por máquina significa que las marcas están estructuradas de manera que las aplicaciones informáticas puedan identificarlas, reconocerlas y extraerlas fácilmente sin intervención humana. Las marcas y etiquetas perceptibles no se excluyen como medida complementaria, cuando proceda, con vistas a facilitar el cumplimiento por parte de los responsables del despliegue de su obligación de etiquetar las ultrafalsificaciones de conformidad con el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial.

72)

Para cumplir la obligación de marcado, los proveedores pueden recurrir a una única técnica de marcado o a una combinación de técnicas, siempre que su solución técnica general sea legible por máquina y cumpla los requisitos de efectividad, interoperabilidad, solidez y fiabilidad en el grado legalmente exigido, tal como se establece en el artículo 50, apartado 2, segunda frase, del Reglamento de Inteligencia Artificial (véase la sección 4.2.3).

73)

El considerando 133 del Reglamento de Inteligencia Artificial ofrece ejemplos de tales técnicas, como marcas de agua, identificaciones de metadatos, métodos criptográficos para demostrar la procedencia y autenticidad del contenido, métodos de registro, impresiones dactilares u otras técnicas, y una combinación de dichas técnicas. Si bien los métodos para demostrar la procedencia y la autenticidad se mencionan en el considerando 133 del Reglamento de Inteligencia Artificial, los proveedores no están obligados a registrar o mantener una cadena de procedencia completa que contenga información sobre el origen y las modificaciones del contenido o cualquier otra afirmación pertinente relativa al historial del contenido. No obstante, estos métodos de procedencia también pueden utilizarse para el cumplimiento del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial y pueden resultar propicios para que las personas físicas puedan distinguir los contenidos generados o manipulados por IA de los contenidos auténticos.

74)

Los proveedores pueden aplicar la solución de marcado para los resultados de salida en diferentes fases de la cadena de valor (por ejemplo, después de la generación de contenidos a nivel del sistema de IA, a nivel del modelo de IA subyacente o integrado en el proceso de inferencia del sistema de IA). Pueden basarse en la solución de marcado aplicada por un proveedor de modelos ascendente o un tercero que proporcione la solución (por ejemplo, como norma abierta o servicio especializado) en la medida en que la solución de marcado cumpla lo dispuesto en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial. Dicha confianza se entiende sin perjuicio de la responsabilidad del proveedor del sistema de IA de demostrar el cumplimiento del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial.

4.2.2. La obligación de detección

75)

Los proveedores de sistemas de IA que entren en el ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial deben garantizar que los resultados de salida de sus sistemas sean detectables como contenidos generados o manipulados por IA. Esto significa que el proveedor está obligado a garantizar que los medios de detección estén a disposición de las personas potencialmente expuestas al contenido. Además, de conformidad con el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial, dichas soluciones de detección deben poder producir resultados legibles por el ser humano que indiquen si el contenido ha sido generado o manipulado mediante IA.

76)

Una herramienta de detección es un mecanismo que detecta si el contenido se ha generado o manipulado mediante IA, normalmente identificando marcadores técnicos o firmas que verifican su origen. Para garantizar la plena interoperabilidad, los proveedores deben recurrir a soluciones de detección estándar de la industria a disposición del público que permitan a cualquier tercero aplicar una detección idealmente ejecutable localmente en el dispositivo digital y permitir una integración fluida en redes autónomas y aisladas. Cuando dichas normas no estén disponibles, en particular en la fase inicial de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial para las tecnologías de marca de agua, el proveedor podrá recurrir a su propia solución de detección o a una tercera parte o a una solución de detección compartida, siempre que dichas soluciones garanticen la interoperabilidad con las soluciones de detección utilizadas por otros proveedores (véase la sección 4.2.3). Esta posibilidad debe limitarse en el tiempo hasta que surjan normas armonizadas y una solución de detección interoperable normalizada independiente del proveedor que sea segura, que preserve la privacidad y sea ejecutable localmente.

77)

Además, el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial especifica que la información a que se refiere el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial se facilitará a las personas físicas expuestas al contenido de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición. Esta información es, en particular, el resultado de la detección, que indica si el contenido se genera o manipula mediante IA y no el propio contenido generado o manipulado mediante IA. Por «en el momento de la primera exposición» debe entenderse el momento en que las personas físicas están dispuestas a verificar el origen de un contenido específico y a acceder a la solución de detección para obtener los resultados de la detección.

78)

Si el proveedor del sistema de IA depende de otro agente para el suministro o el acceso a una solución de detección, debe garantizar que la solución de detección cumpla lo dispuesto en el artículo 50, apartados 2 y 5, del Reglamento de Inteligencia Artificial y que dichos agentes muestren los resultados de la detección de conformidad con el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial (véase la sección 7).

4.2.3. Cumplimiento de los requisitos relativos a las soluciones técnicas: efectivas, interoperables, robustas y fiables

79)

El artículo 50, apartado 2, segunda frase, del Reglamento de Inteligencia Artificial establece que las soluciones técnicas para el marcado y la detección deben ser efectivas, interoperables, sólidas y fiables. Estos requisitos deben entenderse como sigue:

—

La efectividad se refiere a la capacidad de la solución técnica aplicada por los proveedores para detectar sus marcas y permitir a las personas físicas distinguir los contenidos generados o manipulados artificialmente por su sistema de IA, lo que contribuye a la confianza y la integridad del ecosistema de información.

—	La fiabilidad se refiere a la capacidad de la solución técnica para identificar y distinguir con precisión los contenidos generados o manipulados por IA de otros contenidos en condiciones nominales en toda la variedad de contenidos generados o manipulados por el sistema de IA del proveedor.

—

La solidez se refiere a la capacidad de la solución técnica para identificar y distinguir con precisión los contenidos generados o manipulados por IA producidos por el sistema de IA del proveedor de otros contenidos en condiciones variables, abarcando tanto las alteraciones comunes como los ataques adversarios.

—

La interoperabilidad se refiere a la capacidad de las diferentes soluciones técnicas para el marcado y la detección de funcionar sin fisuras en múltiples sistemas, agentes, contextos e implementaciones técnicas para permitir la detección de contenidos generados o manipulados por IA, independientemente de las técnicas de marcado desplegadas por los proveedores de diferentes sistemas de IA.

80)

Los proveedores deben garantizar que la combinación de las soluciones técnicas para el marcado y la detección cumpla de manera holística todos los requisitos mencionados en el grado exigido legalmente, teniendo en cuenta las limitaciones y complementariedades de las diversas soluciones desplegadas. Las soluciones técnicas deben cumplir todos los requisitos en la medida en que sea técnicamente viable, teniendo en cuenta las características específicas y las limitaciones de los diversos tipos de contenido, los costes de aplicación y el estado actual de la técnica generalmente reconocido, según se refleje en las normas técnicas pertinentes.

81)

Las soluciones «técnicamente viables» en el sentido del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial son soluciones que pueden aplicarse para las modalidades incluidas en el ámbito de aplicación de la disposición, utilizando la tecnología, los métodos y las prácticas de ingeniería actualmente disponibles, dentro de la arquitectura técnica y el entorno operativo específicos de que se trate. El proveedor no está obligado a hacer uso de una solución técnica que aún no esté desarrollada o disponible en el mercado, o que sea técnicamente inviable para su aplicación. La viabilidad técnica es un concepto objetivo que no depende de los recursos y capacidades específicos de cada proveedor.

82)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial exige a los proveedores que apliquen soluciones técnicamente viables que se ajusten al estado actual de la técnica generalmente reconocido, con el fin de cumplir los cuatro requisitos de calidad de efectividad, solidez, fiabilidad e interoperabilidad.

83)

El «estado de la técnica» debe entenderse como una fase desarrollada de la capacidad técnica en un momento dado por lo que se refiere a productos, procesos y servicios, basada en los resultados consolidados pertinentes de la ciencia, la tecnología y la experiencia, y que se acepta como buena práctica en el ámbito de la tecnología (28). El estado actual de la técnica no implica necesariamente que la investigación científica más reciente se encuentre todavía en fase experimental o tenga una madurez tecnológica insuficiente. Los proveedores deben adaptar continuamente sus soluciones de marcado y detección de manera oportuna y proporcionada a medida que evolucionen la tecnología y el estado actual de la técnica.

84)

A la luz del artículo 50, apartado 7, del Reglamento de Inteligencia Artificial, los proveedores pueden basarse en un código de buenas prácticas, evaluado como adecuado con arreglo a dicha disposición para demostrar el cumplimiento de las obligaciones de marcado y detección establecidas en el artículo 50, apartados 2 y 5, del Reglamento de Inteligencia Artificial, que se ajusta al estado actual de la técnica. Para más información sobre los efectos de la adhesión a dicho código y la supervisión de otros proveedores que no se adhieran a un código, véase la sección 8.1.

85)

También pueden tenerse en cuenta los costes de aplicación de determinadas soluciones técnicas para el marcado y la detección. En determinados casos, como se describe en los puntos siguientes, los costes pueden ser desproporcionados con respecto a los beneficios marginales con un valor más limitado para permitir a las personas distinguir los contenidos generados o manipulados por IA y garantizar la integridad y la confianza en el ecosistema de la información.

86)

Por lo tanto, puede haber casos estrictamente definidos en los que una solución técnica basada en marcados de metadatos menos sólidos sea suficiente para cumplir lo dispuesto en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial, teniendo en cuenta las especificidades del resultado de salida del sistema de IA si plantean intrínsecamente menores riesgos de engaño, manipulación o efectos negativos en el ecosistema de información. Este es el caso, en particular, cuando un sistema de IA generativa está integrado en productos físicos que generan resultados de salida en un entorno controlado y cerrado desde el punto de vista técnico que es principalmente de carácter instructivo (por ejemplo, un sistema de IA integrado en sistemas de navegación en vehículos) en la medida en que el producto incorpore medidas técnicas efectivas para evitar que el resultado de salida salga del entorno de producto, por ejemplo, mediante su captura, exportación y difusión externa.

87)

También puede haber casos limitados de «aplicaciones industriales de IA» o «aplicaciones de empresa a empresa» (excluidos los sistemas de IA orientados al público y al consumidor) en los que el principio de proporcionalidad y los limitados beneficios para los objetivos de transparencia impliquen que no sea necesario marcar ni detectar los resultados generados o manipulados por la IA. Esto solo se aplica si se cumplen acumulativamente los siguientes requisitos:

El resultado de salida generado por el sistema de IA es de carácter estrictamente técnico, por ejemplo, diseños de ingeniería, flujos de trabajo de producción industrial, instrucciones técnicas, resultados de salida generados como resultado de procesos predictivos de mantenimiento del sistema en entornos industriales, procesos de documentación interna o fases de producción y flujos de trabajo antes de que el resultado de salida se finalice y se ponga a disposición de otras personas externas o del público.

ii)	El resultado de salida generado por el sistema de IA solo está destinado a ser percibido y tratado por un número limitado predefinido de personas físicas que actúen a título profesional dentro de la organización del proveedor y del responsable del despliegue.

iii)

El resultado de salida generado por el sistema de IA no debe estar destinado a compartirse fuera de la empresa ni a ser utilizable por personas externas, con las salvaguardias adecuadas para evitar un uso indebido razonablemente previsible (por ejemplo, aislamiento de la nube, controles basados en roles).

88)

La generación de contenidos en tiempo real que sea efímera y se consuma inmediatamente, sin que se registren, almacenen o difundan más (por ejemplo, en videojuegos o aplicaciones de realidad virtual), también puede quedar exenta cuando el marcado no sea técnicamente viable y se informe a las personas expuestas al contenido de que el contenido se genera o manipula mediante IA (por ejemplo, divulgación durante la experiencia, notificaciones a nivel de sesión).

4.3. Excepciones a las obligaciones en virtud del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial

89)

El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial establece tres excepciones explícitas a las obligaciones de transparencia establecidas en dicha disposición.

90)

La primera excepción se refiere a los sistemas de IA en la medida en que desempeñan una función de apoyo para la edición estándar. La edición estándar debe entenderse como el proceso de preparación de contenidos existentes para su publicación o distribución (por ejemplo, pequeñas ediciones para mejorar la legibilidad y la gramática, la calidad y el formato) y no implica la generación de nuevos contenidos. La edición estándar tiene por objeto garantizar que el contenido, entre otras cosas, esté libre de errores lingüísticos técnicos o gramaticales evidentes, se ajuste a los requisitos aplicables de presentación, formato o accesibilidad, o sea conforme con las prácticas sectoriales. La edición va más allá de la edición estándar si el contenido se modifica de manera sustancial (modificaciones sustanciales, cambios estructurales, etc.) que afecten a su significado, estilo o intención.

91)

La segunda excepción se aplica cuando el sistema de IA no altera sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica. Una alteración debe considerarse sustancial si los datos de entrada o su semántica han sido manipulados significativamente por el sistema de IA durante su proceso de generación de resultado de salida. Esto debe basarse en una evaluación de los factores pertinentes, como el formato, el tipo de contenido mediático, el estilo y los cambios en el contenido que afecten a su significado, estilo o intención. Para determinar si es así, es necesario realizar una apreciación específica del caso concreto.

92)

Si un sistema de IA puede utilizarse tanto para la generación o manipulación de contenidos como para alteraciones menores no sustanciales de los datos de entrada, la obligación de transparencia prevista en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial no se aplicará al contenido modificado de manera menor no sustancial.

Ejemplos de edición estándar y modificaciones menores que se benefician de la excepción prevista en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial:

—	Corrección gramatical y comprobación de la ortografía, pulido lingüístico y estilístico menor que no modifique la sustancia, el significado, el estilo o la mensajería de texto, traducciones de texto generadas por IA.

—	El formato, las conversiones de formato, la compresión técnica, la reducción o eliminación del ruido en aras de una mayor claridad sin modificar el significado o la sustancia del contenido.

—	Pequeños cortes, pequeños ajustes o correcciones de color, aligeramiento u oscurecimiento, modificación del enfoque en aras de una mayor claridad u otras ediciones estándar y correcciones técnicas.

—	Eliminación de manchas de polvo causadas por una lente o un sensor sucios, eliminación de los ojos rojos causada por una fotografía con flash, borrar y oscurecer los fondos visibles en el archivo original, pixelar o difuminar las caras.

—	Modificar la escala de un clip de vídeo, compresión de gama dinámica y ecualización; estabilización limitada del vídeo.

—

Ajustes estándar del color y el contraste, ajustes menores de la velocidad de reproducción, correcciones menores para nivelar el horizonte de una imagen, aplicación de filtros de píxeles para amplificar determinadas partes de una imagen, o aplicación de mapas en color a imágenes a escala de grises, completado de imágenes en el borde, conversión de una imagen en blanco y negro a una imagen en color o vídeo y viceversa.

—	Relleno de píxeles para la adaptación de la relación de aspecto o una mayor claridad, clips de transición automática, otras ediciones no sustantivas con fines cosméticos y técnicos.

—	Tratamiento técnico o reconstrucción de imágenes médicas dentro de productos sanitarios (por ejemplo, anotaciones, cajas, contornos, círculos, mapas térmicos).

—

Transcripciones de las conversaciones; contenidos generados por IA que solo transforman el insumo humano auténtico a través de tecnologías asistenciales que permiten a las personas con discapacidad comunicarse [por ejemplo, la comunicación aumentativa y alternativa (CAA) o las voces neuronales personalizadas (VNP)], ya que no alteran semánticamente el significado del contenido.

Ejemplos de cambios semánticos que requieren marcado con arreglo al artículo 50, apartado 2, del Reglamento de Inteligencia Artificial:

—	Resúmenes de texto generados por IA; parafraseando o reescribiendo texto que modifique el estilo, la estructura y el significado más allá de una mera corrección gramatical y estilística menor.

—	Retirada, sustitución o inserción de objetos o personas en imágenes y vídeos existentes que modifiquen el significado y el contenido del contenido; sustitución facial o modificación facial sustancial.

—

Síntesis de un discurso realista en la voz de una persona específica, o generación de vídeos realistas que representen acontecimientos que no se produjeron; modificar la forma corporal o el color de la piel de una persona; la iluminación extrema, el oscurecimiento, la modificación del color y el contraste que cambian el significado, la intención y la mensajería del contenido.

—	Creación de imágenes o videoclips compuestos que modifiquen la representación de personas, objetos, acontecimientos o hechos, cualquier otra alteración sustancial del contenido.

93)

La tercera excepción se aplica a los sistemas de IA generativa autorizados por ley para generar o manipular contenidos sintéticos con el fin de detectar, prevenir, investigar o enjuiciar infracciones penales. Las aclaraciones facilitadas en los puntos 46 a 48 anteriores para esta excepción también son pertinentes en este caso.

4.4. Interacción con otros actos jurídicos de la Unión

94)

Las obligaciones de marcado y detección en virtud del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial se centran en cómo se ha creado el contenido y su origen artificial, y no en quién lo ha creado. Por lo tanto, todas las soluciones de marcado y detección empleadas por los proveedores de sistemas de IA deben cumplir la legislación aplicable de la Unión en materia de protección de datos, incluidos los principios y obligaciones en materia de protección de datos, como la obligación de protección de datos desde el diseño y por defecto, la minimización de datos y los principios de seguridad y confidencialidad. Por ejemplo, a efectos de marcado y detección, la información relacionada con el creador del contenido no debe tratarse y cualquier otro dato personal tratado debe suprimirse tan pronto como se cumpla el objetivo de detección, debe garantizarse la seguridad y la confidencialidad, etc.

95)

El considerando 136 del Reglamento de Inteligencia Artificial destaca además la especial importancia de las obligaciones de transparencia en virtud del artículo 50, apartados 1, 2 y 4, del Reglamento de Inteligencia Artificial para facilitar la aplicación efectiva del Reglamento de Servicios Digitales. Esto se aplica en particular en lo referente a las obligaciones de los prestadores de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño para detectar y mitigar los riesgos sistémicos que pueden surgir de la divulgación de contenidos que hayan sido generados o manipulados de manera artificial, en particular el riesgo de los efectos negativos reales o previsibles sobre los procesos democráticos, el discurso cívico y los procesos electorales, como a través de la desinformación (artículos 34 y 35 del Reglamento de Servicios Digitales). Las marcas legibles por máquina pueden permitir a dichos proveedores detectar contenidos generados o manipulados por IA y proporcionar un etiquetado y una divulgación adecuados, reduciendo así el riesgo de desinformación generada por IA en todos sus servicios.

96)

Las obligaciones de marcar y etiquetar los contenidos generados o manipulados por sistemas de IA en virtud del artículo 50, apartados 2 y 4, del Reglamento de Inteligencia Artificial se entienden sin perjuicio de la obligación establecida en el artículo 16, apartado 6, del Reglamento de Servicios Digitales de que los proveedores de servicios de alojamiento de datos tramiten las notificaciones sobre contenidos ilícitos recibidas de conformidad con el artículo 16, apartado 1, del Reglamento de Servicios Digitales (29). En particular, el marcado o etiquetado aplicado al contenido generado o manipulado por IA no debe influir en la evaluación y la decisión sobre la ilegalidad del contenido específico en virtud de otros marcos reglamentarios. Dicha evaluación debe realizarse únicamente con referencia a las normas que rigen la legalidad del contenido de conformidad con dichos marcos (30). Por ejemplo, si una imagen objeto de ultrafalsificación etiquetada se señala como material de abuso sexual de menores o infracción de la legislación sobre marcas o derechos de autor, la aplicación de una etiqueta no afecta a la posible ilegalidad del contenido en virtud de dichos marcos reglamentarios. Dicha evaluación debe llevarse a cabo únicamente sobre la base de las respectivas leyes aplicables (por ejemplo, el Derecho penal, las normas sobre marcas o los derechos de autor).

97)

Por el contrario, el marcado legible por máquina integrado en los contenidos de conformidad con el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial puede ayudar a los proveedores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño a cumplir sus obligaciones en virtud del artículo 34 y 35 del Reglamento de Servicios Digitales para detectar, analizar y evaluar los riesgos sistémicos que puedan derivarse de la difusión de contenidos que hayan sido generados o manipulados de manera artificial, en particular el riesgo de efectos negativos reales o previsibles en los procesos democráticos, el discurso cívico y los procesos electorales, también a través de la desinformación (31), y para establecer medidas razonables, proporcionadas y efectivas para mitigar dichos riesgos, adaptadas a los riesgos sistémicos específicos detectados. Los proveedores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño también pueden considerarse proveedores de sistemas de IA si cumplen las condiciones pertinentes en virtud del Reglamento de Inteligencia Artificial cuando integran sistemas de IA en sus servicios (véase también la sección 6.1.5).

98)

En concreto, se anima a los proveedores de plataformas en línea, de motores de búsqueda en línea y a otros agentes pertinentes que distribuyen contenidos a lo largo de la cadena de valor a preservar y permitir la identificación de las marcas aplicadas por los proveedores de conformidad con el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial, de modo que las personas físicas expuestas a los contenidos puedan ser informadas sobre su origen.

5. ARTÍCULO 50, APARTADO 3, DEL REGLAMENTO DE INTELIGENCIA ARTIFICIAL: SISTEMAS DE RECONOCIMIENTO DE EMOCIONES Y SISTEMAS DE CATEGORIZACIÓN BIOMÉTRICA

99)

El artículo 50, apartado 3, del Reglamento de Inteligencia Artificial impone a los responsables del despliegue de sistemas de reconocimiento de emociones y sistemas de categorización biométrica la obligación de informar del funcionamiento del sistema a las personas físicas expuestas a dichos sistemas.

100)

El considerando 132 del Reglamento de Inteligencia Artificial explica que la finalidad de esta obligación es garantizar que las personas físicas (incluidas las personas con discapacidad) sean conscientes de que están expuestas a sistemas de reconocimiento de emociones y categorización biométrica que pueden ser intrusivos para su privacidad. Por lo tanto, la obligación se aplica con independencia de que las personas estén expuestas a tales sistemas en tiempo real o de que dichos sistemas se gestionen ex post.

5.1. Principales componentes, conceptos y obligaciones de transparencia conexas en virtud del artículo 50, apartado 3, del Reglamento de Inteligencia Artificial

5.1.1. El concepto de sistema de reconocimiento de emociones

101)

El artículo 3, apartado 39, del Reglamento de Inteligencia Artificial define los «sistemas de reconocimiento de emociones» como sistemas de IA destinados a distinguir o inferir las emociones o las intenciones de las personas físicas a partir de sus datos biométricos. La explicación detallada de este concepto facilitada en las directrices de la Comisión sobre la clasificación de los sistemas de IA de alto riesgo, incluidos los ejemplos prácticos que en ellas se establecen, es igualmente pertinente en el contexto del artículo 50, apartado 3, del Reglamento de Inteligencia Artificial.

102)

Dado que todos los sistemas de reconocimiento de emociones también están clasificados como de alto riesgo, a menos que estén prohibidos en virtud del artículo 5, apartado 1, letra f), del Reglamento de Inteligencia Artificial en los ámbitos del lugar de trabajo y la educación, la obligación de transparencia establecida en el artículo 50, apartado 3, del Reglamento de Inteligencia Artificial debe aplicarse junto con las demás salvaguardias y requisitos aplicables a los sistemas de IA de alto riesgo.

5.1.2. El concepto de sistema de categorización biométrica

103)

En el artículo 3, apartado 40, del Reglamento de Inteligencia Artificial se define «sistema de categorización biométrica» como «un sistema de IA destinado a incluir a las personas físicas en categorías específicas en función de sus datos biométricos, a menos que sea accesorio a otro servicio comercial y estrictamente necesario por razones técnicas objetivas». La explicación detallada de este concepto facilitada en las directrices de la Comisión sobre la clasificación de los sistemas de IA de alto riesgo, incluidos los elementos específicos, así como los ejemplos prácticos que en ellas se establecen, es igualmente pertinente en el contexto del artículo 50, apartado 3, del Reglamento de Inteligencia Artificial.

104)

Es importante señalar que, a menos que esté prohibido en virtud del artículo 5, apartado 1, letra g), del Reglamento de Inteligencia Artificial, el artículo 50, apartado 3, del Reglamento de Inteligencia Artificial se aplica a cualquier sistema de categorización biométrica (por ejemplo, la clasificación por edad o género basada en datos biométricos), independientemente de que entre o no en el ámbito de aplicación de los sistemas de IA de alto riesgo en virtud del Reglamento de Inteligencia Artificial.

5.1.3. La obligación de informar en virtud del artículo 50, apartado 3, del Reglamento de Inteligencia Artificial

105)

El alcance de la información que debe facilitarse: los responsables del despliegue están obligados a informar a las personas físicas afectadas de que están expuestas a un sistema de reconocimiento de emociones o a un sistema de categorización biométrica que se está utilizando. El Reglamento de Inteligencia Artificial no exige incluir información sobre los motivos del funcionamiento del sistema, o si el sistema también trata información con fines distintos del reconocimiento de emociones o la categorización biométrica, que deben divulgarse en virtud del Derecho de la Unión en materia de protección de datos (véase la sección 5.3).

106)

Los destinatarios de la información: el artículo 50, apartado 3, del Reglamento de Inteligencia Artificial exige que los responsables del despliegue informen a todas las personas físicas expuestas al funcionamiento del sistema de IA, incluidos los menores.

107)

Los medios para facilitar información: el Reglamento de Inteligencia Artificial no prescribe un medio específico para facilitar la información, salvo que su artículo 50, apartado 5, exige que la información se facilite de manera clara y distinguible y de conformidad con los requisitos de accesibilidad aplicables (que respondan a las necesidades de las personas físicas con discapacidad). La forma en que las personas físicas expuestas al sistema deben ser informadas puede depender del lugar de despliegue (por ejemplo, plataforma de juego virtual, tienda de ladrillos y morteros, estación de tren), los posibles destinatarios (por ejemplo, niños, personas mayores, personas con discapacidad, clientes), la duración y el tipo de exposición (por ejemplo, a largo plazo, puntual, continua, intermitente), y la posible existencia de una relación entre el responsable del despliegue y las personas expuestas (por ejemplo, si existe un canal de comunicación con la persona). Dependiendo del caso de uso, la información podrá facilitarse por escrito, mediante iconos normalizados (también cuando se presenten por vía electrónica), oralmente o utilizando combinaciones de tales formas.

Ejemplos de información a personas físicas:

—	Una ventana emergente situada en el centro con un mensaje de incorporación antes de lanzar un juego de ordenador que indique que se graba la cara del jugador, captando sus emociones.

—	Un aviso visible en cada entrada posible de una sala de exposiciones con información de que las imágenes faciales de los visitantes se capturan al entrar en la sala para asignarlas a un grupo de edad específico.

108)

El plazo para facilitar la información: la información debe facilitarse a más tardar en el momento de la primera interacción con el sistema de IA o de la exposición a este, de conformidad con el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial. Cuando proceda, no se excluirá la presentación previa de la información requerida.

5.2. Excepción a efectos de aplicación de la ley

109)

Esta obligación no se aplicará a los sistemas de IA utilizados para la categorización biométrica y el reconocimiento de emociones que hayan sido autorizados por ley para detectar, evitar e investigar delitos, con sujeción a las garantías adecuadas para los derechos y libertades de terceros y de conformidad con el Derecho de la Unión. Las aclaraciones facilitadas para esta excepción en los puntos 46 a 48 anteriores también son pertinentes en este caso, con una diferencia. Si bien las demás excepciones previstas en el artículo 50 del Reglamento de Inteligencia Artificial requieren una ley explícita que autorice el uso no transparente de los sistemas de IA, el artículo 50, apartado 3, del Reglamento de Inteligencia Artificial permite dicho uso cuando lo permitan las normas jurídicas que rigen las competencias de las autoridades encargadas de la aplicación de la ley para utilizar sistemas de reconocimiento de emociones y categorización biométrica con el fin de detectar, prevenir o investigar infracciones penales sin informar a las personas afectadas, con sujeción a las garantías adecuadas.

5.3. Interacción con otros actos jurídicos de la Unión

110)

La obligación de informar prevista en el artículo 50, apartado 3, del Reglamento de Inteligencia Artificial no hace legal, por sí sola, el uso de un sistema de reconocimiento de emociones y categorización biométrica. Tampoco legitima usos intrusivos o discriminatorios que puedan ser ilícitos y estar prohibidos en virtud del artículo 5 del Reglamento de Inteligencia Artificial u otros actos del Derecho de la Unión. Los responsables del despliegue deben cumplir la obligación de informar establecida en el artículo 50, apartado 3, del Reglamento de Inteligencia Artificial, además de cualquier requisito de información aplicable en virtud del Derecho de la Unión en materia de protección de datos. En determinados casos, los responsables del despliegue pueden considerar la posibilidad de añadir notificaciones con arreglo al artículo 50, apartado 3, del Reglamento de Inteligencia Artificial a la información facilitada a los interesados en virtud del Derecho de la Unión en materia de protección de datos.

6. ARTÍCULO 50, APARTADO 4: ETIQUETADO DE LAS ULTRAFALSIFICACIONES Y DETERMINADAS PUBLICACIONES DE TEXTO

111)

El artículo 50, apartado 4, del Reglamento de Inteligencia Artificial establece dos obligaciones distintas dirigidas a los responsables del despliegue de sistemas de IA generativa que requieren la divulgación clara y distinguible de i) ultrafalsificaciones y ii) textos generados o manipulados por IA publicados con el fin de informar al público sobre asuntos de interés público, excepto en casos definidos. Estas obligaciones de etiquetado se aplican además y sin perjuicio de las obligaciones de marcado y detección legibles por máquina en virtud del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial aplicables a los proveedores de sistemas de IA que generen o manipulen imágenes sintéticas, vídeo, audio o contenido de texto.

6.1. Principales componentes, conceptos y obligaciones de transparencia conexas para las ultrafalsificaciones en virtud del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial

112)

El artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial se aplica si se cumplen varias condiciones acumulativas:

i)	El sistema debe ser un sistema de IA.

ii)	Debe ser utilizado por los responsables del despliegue con fines profesionales (véanse las secciones 2.3 y 2.4.1).

iii)	Debe generar o manipular imágenes, contenidos de audio o vídeo que constituyan ultrafalsificaciones.

iv)	Un sistema de IA no debe estar incluido en la excepción relativa al uso autorizado por la ley para detectar, prevenir, investigar o enjuiciar delitos.

6.1.1. El concepto de «ultrafalsificación»

113)

El artículo 3, apartado 60, del Reglamento de Inteligencia Artificial define las «ultrafalsificaciones» como un «contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos». La diferencia entre manipulación y generación se ha aclarado en la sección 4.1. Con el fin de aclarar el concepto de ultrafalsificación, a continuación se examinan cuatro criterios acumulativos de dicha definición: i) semejanza con ii) personas, objetos, lugares, entidades o sucesos iii) existentes iv) que puedan inducir erróneamente a una persona a pensar que son auténticos o veraces.

Semejanza: el artículo 3, apartado 60, del Reglamento de Inteligencia Artificial especifica que los contenidos de imagen, audio o vídeo generados o manipulados por IA deben «asemejarse» a los sujetos existentes para constituir una ultrafalsificación. El considerando 134 del Reglamento de Inteligencia Artificial añade que esta semejanza debe ser «apreciable». Los contenidos de imagen, audio o vídeo generados o manipulados por IA se asemejan notablemente a un sujeto si existe un alto nivel de similitud entre el contenido de la ultrafalsificación y el sujeto (incluido cualquiera de sus elementos reconocibles) simulado por la ultrafalsificación. No es necesario que el contenido sea idéntico al sujeto. Si el nivel de similitud es apreciable es una evaluación caso por caso que debe realizar el responsable del despliegue sobre la base de una comparación objetiva entre el sujeto simulado y el contenido de ultrafalsificación, basada, entre otras cosas, en la medida en que las características o rasgos distintivos están representados por la ultrafalsificación.

ii)

Existente: el artículo 3, apartado 60, del Reglamento de Inteligencia Artificial especifica que los contenidos de imagen, audio o vídeo generados o manipulados por IA deben asemejarse a sujetos «existentes» para constituir una ultrafalsificación. Para cumplir de forma efectiva el objetivo del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial de reducir los riesgos de suplantación, engaño, desinformación, manipulación y fraude, la característica de existencia implica que los contenidos de imagen, audio o vídeo generados o manipulados por IA deben parecerse a sujetos realistas (por ejemplo, personas, objetos o lugares). Por lo tanto, basta con que las personas, los objetos, los lugares, las entidades o los sucesos reales simulados se asemejen a alguien o a algo que exista, pueda existir de forma verosímil o pueda haber existido de forma verosímil en realidad para que se consideren ultrafalsificaciones, ya que dichos contenidos pueden ser una fuente importante de engaño, manipulación y desinformación. En cambio, las personas, los objetos, los lugares, las entidades o los sucesos reales simulados que, por ejemplo, desafían a las leyes de la naturaleza o la física o representan formas de vida que no son comúnmente aceptadas en biología (como, por ejemplo, los seres humanos que vuelan sin ayudas mecánicas, los dragones o los elefantes que conducen automóviles) y no pueden inducir a error se consideran poco realistas y, por tanto, quedan fuera del ámbito de aplicación de la obligación de transparencia.

iii)

Personas, objetos, lugares, entidades o sucesos reales: el artículo 3, apartado 60, del Reglamento de Inteligencia Artificial especifica que los contenidos de imagen, audio o vídeo generados o manipulados por IA deben asemejarse a «personas, objetos, lugares, entidades o sucesos reales» existentes para constituir una ultrafalsificación. «Personas» debe entenderse como seres humanos realistas (incluidas las réplicas digitales de personas reales, los avatares o las personas realistas generados por IA, y las características o expresiones personales, como la imagen, la voz, el comportamiento, las actuaciones, etc.). Por «objetos» debe entenderse artículos de material realistas e inanimados, incluidos edificios, obras de arte, maquinaria, bienes de consumo, etc. Por «lugares» debe entenderse ubicaciones realistas. Las «entidades» deben entenderse como seres realistas, no humanos, pero animados, incluidos los animales u otras formas biológicas de vida. Por «sucesos reales» deben entenderse escenas o situaciones realistas en las que puedan participar personas, objetos, lugares y entidades (por ejemplo, evocar acontecimientos históricos o representar servicios profesionales o de consumo).

iv)

Falsa apariencia de una persona para que sea auténtica o veraz: el artículo 3, apartado 60, del Reglamento de Inteligencia Artificial especifica que el contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales existentes «puede inducir a una persona a pensar erróneamente que son auténticos o verídicos». Este criterio se refiere a la característica esencial de los contenidos ultrafalsificados y a su capacidad para engañar o inducir a error a una persona en relación con la autenticidad o veracidad del contenido (32). La autenticidad del contenido se refiere a si el contenido es realmente lo que pretende ser en términos de su fuente o proceso de creación (incluida, por ejemplo, la participación de seres humanos o animales reales y su comportamiento o acciones reales, la apariencia o el uso reales de objetos o la prestación de servicios, el desarrollo exacto o el curso de un acontecimiento). La veracidad se refiere a la veracidad del contenido (por ejemplo, la exactitud objetiva de las representaciones en la ultrafalsificación).

114)

Si un contenido «induce a una persona a pensar erróneamente que es auténtico o verídico» debe evaluarse en su conjunto, teniendo en cuenta el nivel de similitud, el posible mensaje sustantivo del contenido, los contextos de despliegue previstos y previsibles, el entorno en el que se presenta el contenido y la composición del público prevista y razonablemente previsible y sus expectativas. Sin embargo, esta evaluación es objetiva y no requiere la intención del responsable del despliegue de engañar o inducir a error a las personas físicas expuestas al contenido para que constituya una ultrafalsificación. Por lo que se refiere al contexto de despliegue y a las expectativas de la audiencia, esto significa que, si el contenido se utiliza en contextos de despliegue específicos en los que el público previsto y razonablemente previsible no espera que el contenido sea auténtico o veraz, es posible que el contenido generado o manipulado por IA no parezca falsamente auténtico o veraz, aunque, de hecho, no sea auténtico o no sea veraz. En tales casos, no se cumplirá el cuarto criterio de la definición de ultrafalsificación. Por ejemplo, no es probable que la generación o manipulación con IA de escenas de fondo, efectos especiales o el pretratamiento y postratamiento técnicos como parte de los procesos estándar de producción cinematográfica hagan que el público tenga una impresión falsa de que el contenido es auténtico o veraz. Por el contrario, es probable que el uso de la IA para generar o manipular elementos esenciales que afectan a la percepción del público lo haga (como agentes plenamente generados por la IA, réplicas digitales de agentes reales o fallecidos, extracción de imágenes, actuaciones simuladas, incluidas partes de ellas, o representación no auténtica o falsa de personas, objetos, lugares o sucesos reales en documentales). En el caso de los contenidos de imagen y vídeo, se reconoce que un alto grado de fotorrealismo hace más probable que dichos contenidos se consideren ultrafalsificaciones (ya que probablemente se asemejan a sujetos existentes), pero el fotorrealismo por sí solo no es determinante para la evaluación. Lo que aún debe evaluarse es si dicho contenido puede inducir a error o engaño a una persona en cuanto a su autenticidad o veracidad, teniendo en cuenta, entre otras cosas, el contexto de despliegue previsto y previsible.

115)

A diferencia del artículo 50, apartado 1, del Reglamento de Inteligencia Artificial, la evaluación de la falsa apariencia de una persona para que sea auténtica o veraz no debe basarse en una hipotética persona «media» que se espera que esté expuesta al contenido (véase la sección 3.2.1), sino que debe tener debidamente en cuenta la posible composición diversa del público razonablemente previsible que pueda estar expuesto al contenido ultrafalsificado. La debida consideración de la composición del público es especialmente importante si es razonablemente previsible que los contenidos ultrafalsificados puedan, en algún momento, ser percibidos por niños, personas mayores u otros grupos de personas con menor alfabetización digital y en materia de IA o niveles de conocimiento general, ya que pueden ser engañados o inducidos a error más fácilmente en relación con la autenticidad o veracidad del contenido. En tales casos, la falsa apariencia de que el contenido es auténtico o veraz para esa parte del público previsible puede bastar para calificar el contenido como ultrafalsificación. Sin embargo, no se espera que los responsables del despliegue consideren la posibilidad de que terceros sigan difundiendo contenidos ultrafalsificados más allá del público razonablemente previsible por parte del responsable del despliegue, teniendo en cuenta los canales de distribución previstos (por ejemplo, si el contenido ultrafalsificado se muestra únicamente en una parte de un sitio web reservada a los abonados o como parte de un boletín informativo corporativo, esto no implica que el responsable del despliegue deba considerar una amplia accesibilidad pública por defecto).

116)

En la misma línea, la manipulación basada en la IA de aspectos sustantivos o técnicos insignificantes de contenidos preexistentes puede ser de menor importancia para la evaluación por parte de una persona de la autenticidad o veracidad del contenido, sin que el contenido resultante se convierta en una ultrafalsificación. Esto podría incluir, por ejemplo, la edición de detalles de fondo (por ejemplo, la eliminación de un transeúnte), los ajustes de iluminación, la adaptación de los parámetros de audio, la corrección del color, la reducción o eliminación del ruido, la mejora de la accesibilidad o la compresión de archivos, los ajustes y mejoras cosméticos. El hecho de que la manipulación entre en esta categoría depende del contexto y del impacto en la percepción que tengan las personas de la autenticidad o veracidad del contenido en el caso concreto. Por ejemplo, es probable que la corrección del color impulsada por la IA, las ampliaciones de fondo del contenido existente, los ajustes o sustituciones de fondo con fines claramente estéticos, las composiciones y las disposiciones de los productos existentes, o la reescalada de las imágenes aplicadas en la publicidad o el embalaje de los productos tengan solo un impacto menor en la percepción de una persona de la autenticidad y veracidad de la publicidad y del producto. Por el contrario, la edición sustancial impulsada por la IA de los detalles de fondo de las imágenes periodísticas más allá de las prácticas técnicas y editoriales estándar puede afectar negativamente a la percepción de una persona de la autenticidad y veracidad del contenido.

Ejemplos de ultrafalsificaciones con arreglo al artículo 3, apartado 60, del Reglamento de Inteligencia Artificial:

—	Imagen manipulada por IA de una escena en la que participan dos futbolistas profesionales reales delante de un edificio parecido a un estadio de fútbol.

—	Audio generado por IA que implica la clonación de voz de los presentadores habituales de un pódcast de un periódico y de un interlocutor invitado que habla sobre algunos eventos informativos.

—	Vídeo generado por IA de una persona que se asemeja a un político, pronunciando un discurso ante el público.

—	Vídeo generado por IA que muestra una representación generada por IA de un influyente famoso en un contexto publicitario o promocional.

—	Vídeo generado por IA en el que figura un avatar sintético realista de un director ejecutivo de una empresa que felicita a los empleados por su trabajo y los resultados empresariales del año pasado.

—

Una imagen generada por IA de un producto en un anuncio o envase que puede afectar a la percepción del público e inducir a error en cuanto a la apariencia, las características o el uso reales del producto (por ejemplo, hacer que el producto no parezca idéntico al producto real, más atractivo o con mejor calidad que en la vida real).

Ejemplos que no constituyen ultrafalsificaciones con arreglo al artículo 3, apartado 60, del Reglamento de Inteligencia Artificial:

—	Imagen generada por IA de una escena con una esfinge sobrevolando la Torre Eiffel.

—	Vídeo generado por IA de ratones que hablan en lenguaje humano sobre el mejor tipo de queso como parte de una campaña publicitaria para un fabricante de queso.

—	Replicación de voz de IA para caracteres ficticios (por ejemplo, para audiolibros, juegos o animación) cuando no exista engaño en cuanto a la identidad de los narradores.

—	Radiodifusión manipulada por IA que ajusta los parámetros técnicos de audio (por ejemplo, normalización de los niveles de volumen, reducción del ruido, compresión de audio) sin alterar las palabras reales habladas por los oradores ni su forma de hablar.

—	Dibujo animado generado por IA de una imagen preexistente que representa un acontecimiento histórico.

—

Vídeo de un presentador de un programa científico de televisión que camina por una región montañosa al tiempo que aborda el retroceso de los glaciares, ilustrado por una animación de fondo manipulada por la IA que muestra cómo los glaciares retrataron desde sus niveles históricos hasta sus niveles actuales.

—	Entornos ficticios generados por IA (por ejemplo, bosques y castillos ficticios) en videojuegos.

—	Películas en las que verdaderos agentes existentes (no manipulados por la IA) juegan en un contexto generado por la IA (por ejemplo, representando un tramo ficticio de pradera, edificios históricos de ciudades antiguas, etc.).

—	Un producto real (por ejemplo, un automóvil) mostrado en un anuncio sobre un fondo generado por IA y el entorno circundante, siempre que no sea probable que el anuncio induzca a error al público sobre la representación real del producto y sus características y uso.

6.1.2. La obligación de divulgación en virtud del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial

117)

El artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial obliga a los responsables del despliegue de sistemas de IA que generan o manipulan imágenes o contenidos de audio o vídeo que constituyan una ultrafalsificación a hacer público «que estos contenidos o imágenes han sido generados o manipulados de manera artificial». El considerando 134 del Reglamento de Inteligencia Artificial aclara que los responsables del despliegue que utilicen sistemas de IA para generar o manipular contenidos ultrafalisificados deben revelar de manera clara y distinguible que dichos contenidos han sido creados o manipulados de manera artificial etiquetando los resultados de salida de la IA en consecuencia y revelando su origen artificial. Los métodos de etiquetado o divulgación aplicados de conformidad con el artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial deben ser comprensibles y perceptibles por las personas físicas (por ejemplo, con etiquetas visibles o audibles), sin que estas tengan que recurrir a herramientas técnicas específicas o llevar a cabo acciones específicas. Por lo tanto, los responsables del despliegue no pueden basarse en el marcado legible por máquina integrado en el contenido por el proveedor en virtud del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial, ya que dichos marcados no son inmediatamente claros y distinguibles para las personas físicas expuestas al contenido ultrafalsificado.

118)

A la luz del artículo 50, apartado 7, del Reglamento de Inteligencia Artificial, los responsables del despliegue podrán adherirse a un código de buenas prácticas, evaluado como adecuado con arreglo al artículo 50, apartado 7, del Reglamento de Inteligencia Artificial para demostrar el cumplimiento de esta obligación de divulgación. Para más información sobre los efectos de la adhesión a dicho código y la supervisión de otros responsables del despliegue que no se adhieran a un código, véase la sección 8.1.

6.1.3. Transparencia del contenido de ultrafalsificaciones artísticas, creativas, satíricas, de ficción o análogas

119)

El artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial prevé una obligación de transparencia atenuada para las ultrafalsificaciones que formen parte de obras o programas manifiestamente artísticos, creativos, satíricos, de ficción o análogos. Para dichos contenidos, la obligación de transparencia se limita a la divulgación de la ultrafalsificación de una manera adecuada que no obstaculice la exhibición o el disfrute de la obra.

120)

Categorías de contenido pertinentes: para beneficiarse de la divulgación de transparencia atenuada, las ultrafalsificaciones (imagen, audio o vídeo) deben formar parte, como mínimo, de una de las siguientes categorías de contenido: obras o programas artísticos, creativos, satíricos, de ficción o análogos. Si una ultrafalsificación entra en una o varias de estas categorías requiere una evaluación caso por caso por parte del responsable del despliegue. A efectos del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial, dichas categorías se entienden como sigue:

—	Por «obras artísticas» se entenderán las obras creadas con fines artísticos, incluidas la música, las obras cinematográficas y las artes visuales.

—	Las «obras creativas» deben entenderse como obras que implican decisiones creativas. Las obras motivadas principalmente por consideraciones funcionales o técnicas no pueden considerarse creativas.

—	Las «obras satíricas» deben entenderse como obras destinadas a criticar a la sociedad, la política, las empresas o las personalidades públicas mediante el uso de técnicas humoristas (como la ironía, el sarcasmo, la burla, el pastiche, etc.).

—	Las «obras ficticias» deben entenderse como obras culturales en las que participan personas, objetos, lugares, entidades o acontecimientos, en un contexto imaginario, pero de verosimilitud.

—	Las «obras análogas» deben entenderse como obras que comparten rasgos básicos o características expresivas o funcionales similares con las categorías anteriores, pero que no encajan bien en una.

121)

Las categorías de contenidos anteriores también pueden aplicarse a los programas que deben entenderse como un elemento individual dentro de un horario de programación o catálogo, establecido por un prestador de servicios de medios de comunicación, que sea comparable en forma y contenido a la radiodifusión televisiva (33). La referencia a «obras» en el contexto del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial no afecta a si el contenido cumple los requisitos para la protección en virtud del Derecho de la Unión en materia de derechos de autor y derechos afines.

122)

Evidentemente: el hecho de que una ultrafalsificación esté comprendida en una (o varias) de las categorías de contenidos anteriores debe ser evidente para las personas físicas expuestas a ella. Esto implica que las categorías deben interpretarse en sentido estricto, justificado por el hecho de que se aplica un régimen de divulgación menos estricto debido al posible impacto en la libertad de expresión y la libertad de las artes y las ciencias, mientras que los riesgos de desinformación, manipulación y engaño aún deben abordarse adecuadamente. Por lo tanto, los contenidos cuya naturaleza es potencialmente confusa o ambigua para el público quedan excluidos del ámbito de aplicación de este régimen de transparencia menos estricto. Entre los factores pertinentes para evaluar el carácter evidente de los contenidos artísticos, creativos, satíricos o de ficción figuran los siguientes: i) si el contenido muestra formatos o estilos característicos de las categorías de contenido (por ejemplo, ironía o exageración para obras satíricas, determinados estilos de arte, exposición de temas, técnicas o estética distintivos, etc.); ii) el contexto en el que se presenta el contenido (por ejemplo, si la plataforma, el medio o el lugar en el que se presenta, pone a disposición o distribuye el contenido está asociado a un uso artístico, creativo, satírico o ficticio); y iii) las expectativas del público (por ejemplo, una película, un entorno de juego o una escena de realidad virtual). Además, la condición de que los contenidos deben pertenecer «de forma evidente» a una de las categorías de contenidos anteriores excluye los contenidos del ámbito de aplicación de dichas categorías de contenidos si su naturaleza es exclusivamente informativa o comercial y es reconocible como tal (por ejemplo, reportajes de noticias). A este respecto, algunos tipos de contenidos (por ejemplo, anuncios o documentales) que contienen ultrafalsificaciones podrían considerarse de forma evidente obras creativas o de ficción en determinadas situaciones específicas, pero no en otras, ya que la evaluación es específica para cada caso. Cuando la ultrafalsificación combina múltiples caracteres (por ejemplo, informativos y creativos), el carácter informativo debe prevalecer siempre y exigir el cumplimiento de los requisitos de etiquetado estándar.

123)

Divulgación adecuada que no obstaculice la exhibición o el disfrute de la obra: las ultrafalsificaciones que forman parte de obras o programas manifiestamente artísticos, creativos, satíricos o ficticios no están excluidas de la obligación de transparencia del artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial. Los responsables del despliegue siguen teniendo que revelar el origen de la IA del contenido o su manipulación, pero pueden hacerlo de una manera adecuada que no obstaculice la visualización o el disfrute de la obra. El considerando 134 del Reglamento de Inteligencia Artificial aclara que dicha divulgación adecuada no debe obstaculizar la explotación y el uso normales, permitiendo al mismo tiempo mantener la utilidad y la calidad del trabajo. Determinar qué medidas de divulgación deben considerarse adecuadas es una evaluación caso por caso, en la que los responsables del despliegue pueden tener en cuenta todos los factores pertinentes (incluida la naturaleza del trabajo, la audiencia, el contexto, etc.). En cualquier caso, los responsables del despliegue deben cumplir lo dispuesto en el artículo 50, apartado 5, del Reglamento de Inteligencia Artificial (véase la sección 7). A la luz del artículo 50, apartado 7, del Reglamento de Inteligencia Artificial, los responsables del despliegue podrán adherirse a un código de buenas prácticas, evaluado como adecuado con arreglo a dicha disposición para demostrar el cumplimiento de esta obligación de divulgación. Para más información sobre los efectos de la adhesión a dicho código y la supervisión de otros responsables del despliegue que no se adhieran a un código, véase la sección 8.1.

124)

Garantías adecuadas para los derechos y libertades de terceros: el considerando 134 del Reglamento de Inteligencia Artificial aclara que el cumplimiento de la obligación de transparencia atenuada y el uso de ultrafalsificaciones artísticas, creativas, satíricas o ficticias deben estar sujetas a «garantías adecuadas para los derechos y libertades de terceros». Por lo tanto, los responsables del despliegue deben garantizar que los derechos y libertades de terceros (incluido, por ejemplo, su derecho a la protección de los datos personales o los derechos de propiedad intelectual) se salvaguarden y respeten adecuadamente a la hora de crear o publicar ultrafalsificaciones, incluso si la ultrafalsificación debe considerarse artística, creativa, satírica o ficticia. El recurso a la obligación de transparencia atenuada no puede ser una justificación para no respetar los derechos fundamentales de las personas o los titulares de derechos en virtud del Derecho de la Unión en materia de propiedad intelectual o del Derecho de la Unión en materia de protección de datos (34).

Ejemplos de ultrafalsificaciones que son obras creativas, satíricas, de ficción o análogas:

—	Obras artísticas o de ficción: películas (o tráilers de películas) que presenten ultrafalsificaciones generadas por IA o manipuladas de actores rejuvenecidos, existentes o réplicas digitales de actores muertos u otras personas, disponibles en un cine o en una plataforma de emisión en continuo.

—	Obras artísticas/creativas: música generada por IA en cualquier género que se asemeje al estilo individual de los artistas existentes.

—	Trabajo satírico/ficticio: imagen manipulada por IA de un político existente que lo sitúa en una escena claramente concebida para criticar de manera humorística determinadas decisiones políticas adoptadas o apoyadas por esa persona.

—	Obra de creación/ficción análoga: imágenes de juegos generadas por IA que implican simulaciones ultrafalsificadas de personas reales y existentes.

Ejemplos de ultrafalsificaciones que no constituyen obras artísticas, creativas, satíricas, de ficción o análogas:

—

Vídeo manipulado por IA al estilo de un canal de televenta que incluye simulaciones ultrafalsificadas de personas que anuncian un producto en una escena generada por IA que representa el uso funcional del producto por parte de los consumidores simulados con el fin de persuadir a los espectadores de que compren el producto.

—	Imagen generada por IA de famosos que implica su participación en actividades que nunca han ocurrido, sin ningún fin ficticio, satírico o análogo.

—	Vídeo manipulado por IA en el que un influente sintético realista prueba un producto real patrocinado, centrado únicamente en mostrar las funcionalidades del producto.

—	Vídeo generado por IA que representa escenas realistas del holocausto que se comparten en plataformas de redes sociales de acceso público.

6.1.4. Excepciones para la garantía del cumplimiento del Derecho

125)

Si el uso de una ultrafalsificación (por ejemplo, un vídeo generado por IA que simule acontecimientos que nunca han ocurrido) está autorizado por ley para detectar, prevenir, investigar o enjuiciar infracciones penales, los responsables del despliegue están exentos de la obligación de transparencia en virtud del artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial. Las aclaraciones facilitadas en los puntos 46 a 48 anteriores para una excepción similar en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial también son pertinentes para esta disposición.

6.1.5. Interacción con otros actos jurídicos de la Unión

126)

La obligación de transparencia prevista en el artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial interactuará con las obligaciones de los proveedores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño de detectar y mitigar los riesgos sistémicos con arreglo a los artículos 34 y 35 del Reglamento de Servicios Digitales, en particular su artículo 35, apartado 1, letra k) (35). Esta última disposición enumera, entre las posibles medidas de reducción del riesgo que los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño pueden adoptar, medidas que garanticen que «un elemento de información, ya se trate de imagen, audio o vídeo generado o manipulado que se asemeja notablemente a personas, objetos, lugares u otras entidades o sucesos existentes y que puede inducir erróneamente a una persona a pensar que son auténticos o verídicos, se distinga mediante indicaciones destacadas cuando se presente en sus interfaces en línea». Además, los proveedores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño también pueden proporcionar una funcionalidad fácil de utilizar que permita a los destinatarios del servicio indicar dicha información. Si bien esta disposición del Reglamento de Servicios Digitales parece similar al artículo 50, apartado 4, del Reglamento de Inteligencia Artificial, la complementa y contiene dos distinciones importantes:

—

Ámbito de aplicación material diferente: en comparación con el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial, el artículo 35, apartado 1, letra k), del Reglamento de Servicios Digitales abarca una gama más amplia de contenidos que pueden parecer falsos o verídicos, independientemente de las tecnologías utilizadas para crear el contenido (es decir, abarca los contenidos generados o manipulados mediante el uso de sistemas de IA o por cualquier otra herramienta).

—

Ámbito de aplicación personal diferente: el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial obliga a los responsables del despliegue de sistemas de IA que generen o manipulen ultrafalsificaciones a etiquetar dichos contenidos, mientras que el artículo 35, apartado 1, letra k), del Reglamento de Servicios Digitales se aplica a los proveedores de plataformas en línea de muy gran tamaño y motores de búsqueda en línea de muy gran tamaño que difundan los contenidos o hagan que dichos contenidos puedan descubrirse mediante una búsqueda. Por ejemplo, los responsables del despliegue de sistemas de IA integrados en una plataforma en línea de muy gran tamaño en virtud del Reglamento de Inteligencia Artificial pueden considerarse «destinatarios del servicio» con arreglo al artículo 3, letra b), del Reglamento de Servicios Digitales (36) si utilizan la plataforma en línea de muy gran tamaño para difundir contenidos generados con el sistema de IA correspondiente, mientras que la plataforma en línea de muy gran tamaño puede considerarse el proveedor del sistema de IA si se cumplen las condiciones del artículo 3, apartado 3, del Reglamento de Inteligencia Artificial. Cuando los proveedores de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño pongan a disposición de dichos responsables del despliegue herramientas de etiquetado que les permitan etiquetar sus contenidos ultrafalsificados de conformidad con el artículo 50, apartado 4, del Reglamento de Inteligencia Artificial (es decir, una divulgación clara y distinguible del origen de la IA), dichos responsables del despliegue pueden basarse en dichas herramientas para cumplir su obligación de transparencia en virtud de dicha disposición en el contexto de la plataforma en línea de muy gran tamaño o el motor de búsqueda en línea de muy gran tamaño utilizados. Proporcionar dicha funcionalidad se entiende sin perjuicio de la responsabilidad del responsable del despliegue del sistema de IA de demostrar el cumplimiento del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial. Además, los proveedores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño también se considerarán responsables del despliegue de un sistema de IA en virtud del Reglamento de Inteligencia Artificial si utilizan un sistema de IA bajo su autoridad para sus propios fines profesionales (por ejemplo, creando imágenes que se utilizarán como parte del material publicitario).

127)

Si la ultrafalsificación incluye información relativa a una persona física identificable directa o indirectamente (que esté viva), los responsables del despliegue, como responsables del tratamiento en virtud del Derecho de la Unión en materia de protección de datos, también tendrán que cumplir las obligaciones respectivas en virtud del Derecho de la Unión en materia de protección de datos (37). Esto incluye, por ejemplo, el recurso a una base jurídica adecuada para el tratamiento de los datos personales, la información relativa al tratamiento de los datos relativos a los interesados representados, etc.

128)

Además, los responsables del despliegue de sistemas de IA que generen ultrafalsificaciones deberán garantizar que cumplen la legislación pertinente de la Unión en materia de propiedad intelectual (como el Derecho de marcas de la Unión y el Derecho de la Unión en materia de derechos de autor o derechos afines) si su ultrafalsificación incorpora objetos protegidos en virtud de dicha legislación. La aplicación de una etiqueta o un icono a una ultrafalsificación no tiene, como tal, ningún efecto en su admisibilidad para la protección de los derechos de autor, que debe evaluarse de conformidad con la legislación aplicable de la Unión en materia de derechos de autor.

129)

Cuando se representen personas existentes en ultrafalsificaciones, los responsables del despliegue también tendrán que cumplir los regímenes jurídicos pertinentes que protegen los derechos de la personalidad frente a imágenes o voces personales. La obligación de transparencia del artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial no implica que puedan generarse y difundirse ultrafalsificaciones generadas o manipuladas por IA que sean perjudiciales e ilícitas con arreglo al Derecho de la Unión o nacional aplicable (por ejemplo, publicidad engañosa o Derecho penal, como material de abuso sexual de menores e imágenes íntimas no consentidas) (véase también la sección 4.4).

6.2. Principales componentes, conceptos y obligaciones de transparencia conexas para los textos generados o manipulados por IA en virtud del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial

130)

El artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial se aplica si se cumplen varias condiciones acumulativas:

i)	El sistema debe ser un sistema de IA.

ii)	Debe utilizarse para generar o manipular texto (véase la sección 4.2.1) publicado con el fin de informar al público sobre asuntos de interés público.

iii)

La utilización del sistema de IA no entra dentro de ninguna de las excepciones cuando 1) el contenido generado por IA haya sido sometido a un proceso de revisión humana o de control editorial y una persona física o jurídica ostente la responsabilidad editorial de la publicación del contenido o 2) el uso esté autorizado por ley para detectar, prevenir, investigar o enjuiciar delitos.

6.2.1. Texto publicado con el objetivo de informar al público sobre asuntos de interés público.

131)

Con el fin de aclarar el ámbito de aplicación del artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial, a continuación se examinan tres elementos: i) texto publicado ii) con el fin de informar al público iii) sobre asuntos de interés público.

Texto publicado: debe publicarse el texto generado o manipulado por la IA. Esto significa que el texto debe ser accesible para un número indeterminado y bastante elevado de lectores potenciales no vinculados de forma simultánea o sucesiva, ya sea a cambio de un pago o no (por ejemplo, suscripciones) (38). En cambio, el texto no se considera publicado si el acceso se limita a personas específicas pertenecientes a un grupo privado cerrado (por ejemplo, un grupo pequeño y cerrado en una aplicación de mensajería instantánea, o si el grupo es demasiado pequeño o insignificante). Algunos ejemplos de textos que no se consideran publicados son, por ejemplo, la correspondencia privada e interpersonal (con fines profesionales) o los textos o comunicaciones internos de la organización (por ejemplo, publicaciones en redes corporativas internas).

ii)

Informar al público: el texto publicado generado o manipulado por la IA debe tener por objeto informar al público. Esto implica que el texto debe tener por objeto comunicar conocimientos, opiniones o hechos. En cambio, no puede considerarse que los textos breves que no comunican materialmente conocimientos, opiniones o hechos informen al público.

iii)

Sobre asuntos de interés público: el texto debe informar al público «sobre asuntos de interés público». En general, debe entenderse que estas cuestiones abarcan aquellas que son pertinentes para la sociedad en general, ya sea a escala local, nacional, de la Unión o internacional, y que merecen debate o escrutinio públicos. A este respecto, debe considerarse que los textos abordan cuestiones de interés público si abarcan temas relativos a la política y los procesos democráticos, la administración y los servicios públicos, la administración de justicia y de la garantía del cumplimiento del Derecho, la protección de los derechos fundamentales, la seguridad pública, la salud pública, la protección del medio ambiente, la seguridad de los consumidores y cualquier desarrollo económico, financiero, político, científico o cultural que pueda ser objeto de debate público. Las cuestiones que pueden considerarse de interés público pueden evolucionar con el tiempo y en distintos contextos.

Ejemplos de textos publicados con el fin de informar al público sobre asuntos de interés público en virtud del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial que deben etiquetarse como generados o manipulados artificialmente, a menos que estén sujetos a revisión humana o control editorial (véase la sección 6.2.3):

—	Resumen generado por IA de un artículo elaborado por seres humanos en el sitio web de un periódico en el que se debate una decisión reciente de un ayuntamiento.

—	Partes manipuladas por IA de un artículo de un sitio web sobre estilo de vida en el que se comparan los efectos de diversas dietas en una enfermedad concreta en mujeres de mediana edad.

—	Informes corporativos manipulados por IA publicados en el sitio web de una empresa cotizada que contienen información para el inversor.

—	Mensaje generado por la IA en el perfil de las redes sociales de un instituto meteorológico en el que se advierte a los ciudadanos sobre las tormentas meteorológicas y las medidas de precaución conexas.

Ejemplos de textos que no se publican con el fin de informar al público sobre asuntos de interés público que no entran en el ámbito de aplicación del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial:

—	Novelas de fantasía generadas por IA.

—	Texto manipulado por IA que forma parte de la publicidad o las descripciones de productos de una empresa (sin incluir ninguna declaración relacionada, por ejemplo, con la salud, la seguridad de los consumidores o la sostenibilidad).

—	Resumen de noticias generado por un robot conversacional que solo está disponible para el usuario que lo solicitó.

—	Texto manipulado con IA por un consultor para asesorar a un cliente sobre las medidas que deben adoptarse para el cumplimiento de la legislación aplicable.

6.2.2. La obligación de divulgación en virtud del artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial

132)

El artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial obliga a los responsables del despliegue de un sistema de IA que genere o manipule texto que se publique con el fin de informar al público sobre asuntos de interés público a divulgar que el texto se ha generado o manipulado de manera artificial. El considerando 134 del Reglamento de Inteligencia Artificial aclara que, al igual que para las ultrafalsificaciones, los responsables del despliegue de publicaciones de textos que entren en el ámbito de aplicación de la disposición deben revelar de manera clara y distinguible que dichos contenidos han sido creados o manipulados de manera artificial etiquetando los resultados de salida de la IA en consecuencia y revelando su origen artificial. Tal y como se requiere para las ultrasfalsificaciones, los métodos de etiquetado o divulgación (incluidas las cláusulas de exención de responsabilidad) aplicados de conformidad con el artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial deben ser comprensibles y perceptibles por las personas físicas (por ejemplo, con etiquetas visibles o audibles), sin que estas tengan que recurrir a herramientas técnicas específicas o llevar a cabo acciones específicas. A la luz del artículo 50, apartado 7, del Reglamento de Inteligencia Artificial, los responsables del despliegue podrán adherirse a un código de buenas prácticas, evaluado como adecuado con arreglo a dicha disposición, para demostrar el cumplimiento de esta obligación de divulgación. Para más información sobre los efectos de la adhesión a dicho código y la supervisión de los responsables del despliegue que no se adhieran a dicho código, véase la sección 8.1.

6.2.3. Excepción a la obligación de transparencia para el texto objeto de revisión humana o control editorial y responsabilidad editorial

133)

El artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial prevé una excepción a la obligación de transparencia establecida en dicha disposición cuando se cumplan dos condiciones acumulativas: i) el texto generado o manipulado por la IA debe haber sido objeto de revisión humana o control editorial y ii) una persona física o jurídica debe ser responsable editorial de la publicación. Cuando proceda, los responsables del despliegue podrán basarse en las normas profesionales o deontológicas aplicables pertinentes para demostrar el cumplimiento de dichos requisitos, tal como se indica a continuación.

i. Texto sometido a revisión humana o control editorial

134)

La primera condición para que se aplique la excepción al artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial exige que el texto generado o manipulado por IA haya sido objeto de revisión humana o control editorial. La revisión humana se refiere al examen deliberado de la sustancia del contenido por parte de una o varias personas físicas que poseen los conocimientos y el criterio profesional pertinentes en relación con el asunto objeto de examen (por ejemplo, revisión académica por pares o cadenas de validación profesional). La verificación de la exactitud del contenido es un requisito mínimo que debe formar parte de dicha revisión. El control editorial se refiere al control ejercido en la práctica por una entidad editorial responsable (por ejemplo, un redactor jefe) sobre el contenido que tiene autoridad para aprobar, modificar o rechazar el contenido del texto sobre la base de motivos de fondo (incluida la verificación de datos de la información y la garantía de la fiabilidad de las fuentes). Esto se entiende sin perjuicio de los procedimientos de revisión y editoriales existentes y de las normas profesionales aplicables a los prestadores de servicios de medios de comunicación.

135)

Los controles superficiales, únicamente formales o de procedimiento (por ejemplo, comprobación de la ortografía o corrección gramatical), la mera existencia de una política editorial, los procesos de revisión automatizados o la aprobación editorial somera sin un compromiso sustancial por parte del revisor humano o de la entidad editorial no pueden cumplir las condiciones para la revisión humana o el control editorial a efectos de esta excepción.

136)

Cuando se utilicen sistemas de IA para modificar, complementar o reformular contenidos tras el visto bueno editorial, el contenido resultante debe tratarse como generado o manipulado por IA a efectos del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial. Por lo tanto, cualquier intervención sustancial de la IA que se produzca después de que haya tenido lugar la revisión humana o el proceso de control editorial hará que la excepción quede sin efecto.

137)

A la luz del artículo 50, apartado 7, del Reglamento de Inteligencia Artificial, los responsables del despliegue pueden adherirse a un código de buenas prácticas, evaluado como adecuado con arreglo a dicha disposición, para demostrar el cumplimiento de la condición de revisión humana o control editorial (especialmente por parte de responsables del despliegue que no sean prestadores de servicios de medios de comunicación sujetos a normas editoriales profesionales o deontológicas existentes) establecida en dicha disposición. Para más información sobre los efectos de la adhesión a dicho código y la supervisión de responsables del despliegue que no se adhieran a un código, véase la sección 8.1.

ii.

Responsabilidad editorial

138)

La segunda condición para que se aplique la excepción al artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial exige que una persona física o jurídica asuma la responsabilidad editorial de la publicación del contenido. Esto implica que dicha persona debe tener la responsabilidad jurídica última sobre la publicación del contenido, incluida la revisión humana o el control editorial (por ejemplo, una persona, un consejo editorial o la empresa editorial). Para garantizar la rendición de cuentas y la confianza públicas, y en consonancia con las normas profesionales vigentes de los medios de comunicación, la identidad y los datos de contacto de la persona jurídica, la persona física o la función con responsabilidad editorial deben ponerse a disposición del público en un lugar fácilmente localizable (si aún no están disponibles de otro modo). Esto puede ocurrir en línea, por ejemplo, a través de las condiciones generales de un sitio web u otra información jurídica orientada al usuario. Fuera de línea, dicha información puede incluirse en el colofón o en el aviso de edición de una publicación.

Ejemplos de textos sujetos a revisión humana o control editorial con una persona física o jurídica como responsable editorial:

—	Un artículo manipulado por IA en un periódico o un resumen generado por IA de un artículo que haya estado sujeto al control editorial del correspondiente redactor jefe cuando la responsabilidad editorial recae en la persona jurídica que publica el periódico.

—	Un blog académico manipulado mediante IA que ha sido sometido a una revisión interna por pares y en el que el centro de investigación correspondiente que gestiona el blog tiene la responsabilidad editorial.

—	Advertencias de seguridad pública generadas por IA aprobadas por un funcionario público antes de su distribución a los ciudadanos, bajo la responsabilidad de la agencia pública de protección civil pertinente.

—	Informes de sostenibilidad generados por IA publicados en el sitio web de una empresa cotizada que hayan sido objeto de revisión humana por profesionales en funciones pertinentes (por ejemplo, cumplimiento).

—	Traducción basada en la IA de un artículo escrito por seres humanos en el que la traducción ha sido objeto de revisión humana.

Ejemplos de textos que no cumplen la revisión humana o el control editorial necesarios para beneficiarse de la excepción:

—	Un sitio web en el que se publican artículos generados por IA sobre la política de la Unión sin ninguna revisión humana deliberada ni control editorial.

—	Artículos generados por IA que son revisados y editados por otro sistema de IA y en los que un editor humano realiza una mera comprobación superficial y gramatical antes de su publicación.

—	Un libro sobre cambio climático generado por IA y autopublicado, puesto a disposición en una plataforma de comercio electrónico que no haya sido objeto de ninguna revisión por parte de una persona física o jurídica competente (ni por parte de la plataforma).

6.2.4. Excepciones para la garantía del cumplimiento del Derecho

139)

Si el uso de sistemas de IA para generar texto publicado con el fin de informar al público sobre asuntos de interés público sin revisión humana (por ejemplo, una alerta policial generada por IA en relación con una amenaza terrorista publicada en las redes sociales) está autorizado por ley para detectar, prevenir, investigar o enjuiciar delitos, los responsables del despliegue están exentos de la obligación de transparencia en virtud del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial. Las aclaraciones facilitadas en los puntos 46 a 48 anteriores para una excepción similar en el artículo 50, apartado 1, del Reglamento de Inteligencia Artificial también son pertinentes para esta disposición.

6.2.5. Interacción con otros actos jurídicos de la Unión

140)

Para el Derecho de la Unión en materia de medios de comunicación, la responsabilidad editorial es un concepto crucial definido en el artículo 2, apartado 8, del Reglamento (UE) 2024/1083 (Reglamento Europeo sobre la Libertad de los Medios de Comunicación) (39). En dicho contexto, «responsabilidad editorial» hace referencia al «ejercicio del control efectivo tanto sobre la selección de los programas o publicaciones de prensa como sobre su organización, a efectos de la prestación de un servicio de medios de comunicación, con independencia de la existencia de responsabilidad con arreglo al Derecho nacional que regule el servicio prestado». En determinadas situaciones, esta definición puede solaparse con el concepto de responsabilidad editorial utilizado en el artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial, en particular cuando los responsables del despliegue del sistema de IA también se consideren prestadores de servicios de medios de comunicación en virtud del Reglamento Europeo sobre la Libertad de los Medios de Comunicación. Por lo tanto, la responsabilidad editorial en el sentido del artículo 50, apartado 4, del Reglamento de Inteligencia Artificial debe interpretarse en consonancia con el acervo existente en materia de medios de comunicación, a pesar de que sigue siendo un concepto distinto que también puede aplicarse en contextos más amplios y a otros responsables del despliegue, siempre que asuman la responsabilidad editorial de la publicación de textos. Los prestadores de servicios de medios de comunicación podrán basarse en sus procesos y normas editoriales existentes para beneficiarse de la excepción prevista en el artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial.

7. REQUISITOS HORIZONTALES APLICABLES A LA INFORMACIÓN PROPORCIONADA EN VIRTUD DEL ARTÍCULO 50, APARTADO 5, DEL REGLAMENTO DE INTELIGENCIA ARTIFICIAL

141)

Con arreglo al artículo 50, apartado 5, del Reglamento de Inteligencia Artificial, la información que será proporcionada de conformidad con el artículo 50, apartados 1 a 4, de Inteligencia Artificial deberá facilitarse a las personas físicas de que se trate de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición. La información también deberá ajustarse a los requisitos de accesibilidad aplicables. Entre las personas físicas afectadas en este contexto se incluyen las personas que interactúan directamente con el sistema de IA (artículo 50, apartado 1, del Reglamento de Inteligencia Artificial), los usuarios activos o pasivos y otras personas expuestas al contenido sintético generado o manipulado por IA [con o sin interacción directa con el sistema de IA (artículo 50, apartados 2 y 4, del Reglamento de Inteligencia Artificial)], así como las personas sujetas al uso de sistemas de reconocimiento de emociones o de categorización biométrica (artículo 50, apartado 3, del Reglamento de Inteligencia Artificial).

7.1. Facilitación de información de manera clara y distinguible

142)

Se considerará que la información se facilita de manera clara cuando sea perceptible, fácil de entender y accesible para la persona física de que se trate (incluidas las personas con discapacidad). Se considerará que la información se facilita de manera distinguible cuando sea fácil identificarla como independiente de otra información y del entorno en el que se presenta el contenido. También debe ser fácilmente comprensible para el público, incluidos grupos específicos, como los niños o las personas con discapacidad, cuando formen parte del público previsiblemente expuesto al contenido o que interactúe con el sistema (40). Para proporcionar información de manera clara y distinguible, la información pertinente puede presentarse, entre otras cosas, como parte de la interacción (con arreglo al artículo 50, apartado 1, del Reglamento de Inteligencia Artificial) o del contenido pertinente (con arreglo al artículo 50, apartados 2 y 4, del Reglamento de Inteligencia Artificial). No se considerará que la información se facilita de manera clara y distinguible cuando las personas físicas puedan pasarla por alto o perderla fácilmente en condiciones normales de exposición o interacción (por ejemplo, solo se incluirá como parte de un manual o se ocultará en capas de opciones de menú en una interfaz en línea, parte de las condiciones de uso que a menudo no son leídas por los usuarios).

7.2. Primera interacción o exposición

143)

El artículo 50, apartado 5, del Reglamento de Inteligencia Artificial exige que la información se facilite a las personas físicas afectadas a más tardar en el momento de la primera interacción o exposición. La primera interacción o exposición se refiere no solo a la primera persona física que interactúa con (el resultado de salida de) un sistema de IA o está expuesta a (el resultado de salida de) un sistema de IA, sino también a cualquier primera interacción posterior con (el resultado de salida de) el sistema de IA o exposición a (el resultado de salida de) dicho sistema por parte de cualquier otra persona física. Por lo que se refiere a la primera interacción con un sistema de IA, la información debe facilitarse, al menos, una vez al inicio de una sesión interactiva, teniendo en cuenta los contextos específicos mencionados en los puntos 36 y 40. Por lo que se refiere a los contenidos generados o manipulados por IA que entran en el ámbito de aplicación del artículo 50, apartados 2 y 4, del Reglamento de Inteligencia Artificial, la obligación de informar se aplica a cada resultado de salida de un sistema de IA con respecto a cualquier persona física expuesta al contenido. Debe entenderse en el sentido de cualquier momento en el que sea razonablemente probable que una persona física esté expuesta al resultado de salida del sistema de IA y perciba la divulgación, teniendo en cuenta las especificidades de la divulgación en el caso de obras manifiestamente creativas, artísticas y de otro tipo (véase la sección 6.1.3). Además, los responsables del despliegue están autorizados a informar a las personas físicas antes de la primera interacción o exposición real (por ejemplo, al inicio de contenidos con ultrafalsificaciones). Sin embargo, si es razonablemente previsible que las personas puedan no percibir el contenido desde el principio, solo la divulgación al principio del contenido no informa adecuadamente a dichas personas y debe complementarse con la divulgación en momentos posteriores, cuando sea posible. Esto podrá aplicarse según proceda, teniendo en cuenta el objetivo de las obligaciones de transparencia de garantizar una facilitación efectiva de la información y una sensibilización significativa de los usuarios en entornos de IA cada vez más inmersivos y realistas en los que los usuarios tienen cada vez más dificultades para distinguir el origen y la veracidad de los contenidos y la interacción.

Ejemplos de suministro de información en la primera interacción o exposición con arreglo al artículo 50, apartado 5, del Reglamento de Inteligencia Artificial:

—	Primera interacción: al iniciar una conversación con un robot conversacional o iniciar una interacción física con un sistema de IA.

—	Primera exposición: al inicio de un vídeo con una ultrafalsificación, al inicio de una publicación de texto generada o manipulada por IA sobre asuntos de interés público, o cuando se encuentren ultrafalsificaciones manipuladas por IA al navegar por las redes sociales.

7.3. Cumplimiento de los requisitos de accesibilidad aplicables

144)

Los proveedores y responsables del despliegue de sistemas de IA que entren en el ámbito de aplicación de las diversas obligaciones de transparencia enumeradas en el artículo 50, apartados 1 a 4, del Reglamento de Inteligencia Artificial deben conocer los requisitos de accesibilidad aplicables (por ejemplo, en virtud de la Directiva 2016/2102 (41) y la Directiva 2019/882 (42)) y evaluar si su producto, servicio o contenido debe cumplir dichas normas. En tal caso, deben garantizar la accesibilidad de la información transmitida de conformidad con el artículo 50 del Reglamento de Inteligencia Artificial, de conformidad con los requisitos de accesibilidad aplicables. El artículo 50 del Reglamento de Inteligencia Artificial no impone requisitos de accesibilidad distintos o adicionales.

8. CUMPLIMIENTO DEL ARTÍCULO 50 DEL REGLAMENTO DE INTELIGENCIA ARTIFICIAL

145)

Esta sección tiene por objeto aclarar: i) los efectos de la adhesión a un código de buenas prácticas en lo que respecta al cumplimiento de las obligaciones de transparencia para los contenidos generados por IA; ii) el papel de las autoridades de supervisión competentes en la aplicación del artículo 50 del Reglamento de Inteligencia Artificial; iii) las sanciones aplicables en caso de incumplimiento de dichas obligaciones; y iv) el momento en que empiezan a aplicarse las obligaciones establecidas en el artículo 50 del Reglamento de Inteligencia Artificial.

8.1. Efectos de la adhesión a un código de buenas prácticas considerado adecuado

146)

Los proveedores y responsables del despliegue de sistemas de IA que entren en el ámbito de aplicación del artículo 50, apartados 2 y 4, del Reglamento de Inteligencia Artificial podrán demostrar el cumplimiento de sus respectivas obligaciones de transparencia para los contenidos generados por IA en virtud de dichas disposiciones mediante la adhesión a un código de buenas prácticas que se considere adecuado con arreglo al artículo 50, apartado 7, del Reglamento de Inteligencia Artificial (43). Dicho código no sustituye al Reglamento de Inteligencia Artificial ni a las presentes Directrices. Los complementa al proporcionar el único marco práctico reconocido a escala de la Unión para que los proveedores e implementadores de sistemas de IA generativa demuestren el cumplimiento de dichas obligaciones, independientemente de su lugar de establecimiento y funcionamiento y de las autoridades competentes de vigilancia del mercado.

147)

Si bien los proveedores y los responsables del despliegue también pueden demostrar el cumplimiento de dichas obligaciones a través de medios alternativos adecuados, la adhesión a un código de buenas prácticas que se considere adecuado es una forma sencilla, predecible y jurídicamente segura de demostrar el cumplimiento. En el caso de los firmantes de un código de buenas prácticas que se considere adecuado con arreglo al artículo 50, apartado 7, del Reglamento de Inteligencia Artificial (44), la Comisión y las autoridades de vigilancia del mercado competentes centrarán sus actividades de supervisión en evaluar si dichos firmantes se han adherido al código de buenas prácticas y han aplicado las medidas contenidas en él. Dado que los proveedores y responsables del despliegue que se adhieran serán transparentes en cuanto a las medidas que apliquen para cumplir lo dispuesto en el artículo 50, apartados 2, 4 y 5 del Reglamento de Inteligencia Artificial, se beneficiarán de una mayor confianza de la Comisión, las demás autoridades de vigilancia del mercado competentes y otras partes interesadas (incluido el público en general). Cualquier exclusión voluntaria de las secciones por parte de los firmantes de un código de buenas prácticas que se considere adecuado dará lugar a que dichos proveedores y responsables del despliegue pierdan el beneficio de facilitar la demostración del cumplimiento a este respecto.

148)

Se espera que los proveedores y responsables del despliegue que no sean signatarios de un código de buenas prácticas que se considere adecuado con arreglo al artículo 50, apartado 7, del Reglamento de Inteligencia Artificial demuestren cómo han cumplido sus obligaciones en virtud del artículo 50, apartados 2, 4 y 5, del Reglamento de Inteligencia Artificial por otros medios adecuados. Además, se espera que dichos proveedores y responsables del despliegue expliquen cómo las medidas que aplican garantizan el cumplimiento de sus obligaciones en virtud del Reglamento de Inteligencia Artificial. Por ejemplo, deben llevar a cabo un análisis de deficiencias que compare las medidas que han aplicado con las medidas establecidas en un código de buenas prácticas que se considere adecuado. Dado que las autoridades competentes (incluida la Oficina de IA) tendrán menos conocimientos sobre la manera en que los proveedores y los responsables del despliegue que no sean signatarios de un código de buenas prácticas garantizan el cumplimiento de sus obligaciones en virtud del artículo 50, apartados 2, 4 y 5, del Reglamento de Inteligencia Artificial, es probable que necesiten información más detallada a la hora de supervisar el cumplimiento. Por ejemplo, los proveedores que no se adhieran a un código de buenas prácticas también pueden ser objeto de un mayor número de solicitudes de información y solicitudes de acceso para evaluar la efectividad, interoperabilidad, solidez y fiabilidad de las soluciones técnicas aplicadas para cumplir lo dispuesto en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial. Los responsables del despliegue también pueden ser objeto de tales solicitudes en relación con sus prácticas de etiquetado con arreglo al artículo 50, apartado 4, del Reglamento de Inteligencia Artificial.

149)

Las autoridades competentes podrán adoptar los compromisos ejecutados de conformidad con un código de buenas prácticas que se considere adecuado como factor atenuante a la hora de fijar el importe de las multas, en función de las circunstancias específicas (45).

150)

Si un código de buenas prácticas no se considera adecuado con arreglo al artículo 50, apartado 7, del Reglamento de Inteligencia Artificial, la Comisión podrá adoptar un acto de ejecución en el que se especifiquen normas comunes para el cumplimiento de las obligaciones establecidas en el artículo 50, apartados 2, 4 y 5, del Reglamento de Inteligencia Artificial, que serían aplicables a todos los proveedores e responsables del despliegue pertinentes de sistemas de IA que entren en el ámbito de aplicación de dichas disposiciones (46).

8.2. Autoridades de vigilancia del mercado

151)

Las autoridades de vigilancia del mercado designadas por los Estados miembros, la Oficina de IA (47) y el Supervisor Europeo de Protección de Datos (48) son responsables de supervisar y hacer cumplir las normas aplicables a los sistemas de IA que sean de su competencia, incluidas las obligaciones de transparencia establecidas en el artículo 50 del Reglamento de Inteligencia Artificial. Dicha ejecución tiene lugar en el marco del sistema de vigilancia del mercado y conformidad de los productos establecido por el Reglamento (UE) 2019/1020 y el Reglamento de Inteligencia Artificial. Los poderes de ejecución de las autoridades de vigilancia del mercado en relación con los sistemas de IA se establecen en dichos Reglamentos. Dichas autoridades pueden adoptar medidas de control del cumplimiento en relación con las obligaciones que se enumeran en el artículo 50 del Reglamento de Inteligencia Artificial, por iniciativa propia o a raíz de una reclamación que toda persona afectada o cualquier otra persona física o jurídica que tenga motivos para considerar que se han producido tales infracciones puede presentar (49). Las responsabilidades de las autoridades de vigilancia del mercado en virtud del Reglamento de Inteligencia Artificial no afectan a las competencias y funciones de otras autoridades de supervisión o autoridades de derechos fundamentales en virtud de su propio marco jurídico en situaciones en las que se aplican tanto el artículo 50 del Reglamento de Inteligencia Artificial como dicho marco (por ejemplo, protección de datos o protección de los consumidores).

8.3. Sanciones

152)

Los proveedores y responsables del despliegue que no cumplan las obligaciones de transparencia aplicables establecidas en el artículo 50 del Reglamento de Inteligencia Artificial podrán ser multados con una multa de hasta 15 000 000 EUR o, si el infractor es una empresa, de hasta el 3 % del volumen de negocio total anual mundial del ejercicio financiero anterior, si esta cuantía fuese superior. Las instituciones, órganos y organismos de la UE que infrinjan las obligaciones de transparencia pueden estar sujetos a multas administrativas de hasta 750 000 EUR. En el caso de las pequeñas y medianas empresas (pymes), incluidas las empresas emergentes, cada multa será de hasta los porcentajes o el importe mencionados, si este es inferior. Las multas serán efectivas, proporcionadas y disuasorias y tendrán en cuenta los intereses de las pymes y las pequeñas empresas de mediana capitalización, incluidas las empresas emergentes, y su viabilidad económica. Al decidir si se impone una multa administrativa y al decidir el importe de la multa administrativa en cada caso individual, las autoridades competentes deben evaluar todas las circunstancias pertinentes de la situación específica y, en su caso, una serie de factores que afectan a la gravedad de la infracción (por ejemplo, la naturaleza, gravedad y duración de la infracción y de sus consecuencias, carácter negligente o intencionado, otras circunstancias agravantes o atenuantes, el grado de cooperación con las autoridades de vigilancia del mercado, etc.).

8.4. Comienzo de la aplicación

153)

De conformidad con el artículo 113 del Reglamento de Inteligencia Artificial, el artículo 50 del Reglamento de Inteligencia Artificial se aplicará a partir del 2 de agosto de 2026. Esto exige que todos los sistemas de IA incluidos en el ámbito de aplicación introducidos en el mercado o puestos en servicio en la Unión cumplan dicha disposición en esa fecha, independientemente de su fecha de introducción en el mercado o puesta en servicio (50). El Reglamento por el que se modifica el Reglamento de Inteligencia Artificial (el Reglamento ómnibus sobre IA), recientemente adoptado por el legislador de la Unión, prevé una norma específica de anterioridad únicamente con respecto a las obligaciones de marcado y detección en virtud del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial para los sistemas de IA generativa introducidos en el mercado o puestos en servicio antes del 2 de agosto de 2026. Concede a los proveedores de los sistemas existentes un período transitorio para poner sus sistemas en conformidad a más tardar el 2 de diciembre de 2026. Los sistemas que sean parcialmente interactivos y parcialmente generativos solo podrán beneficiarse de este período transitorio en lo que respecta a la obligación de marcado prevista en el artículo 50, apartado 2, del Reglamento de Inteligencia Artificial, mientras que el cumplimiento de la obligación de divulgación de información para los sistemas de IA que interactúen directamente con personas físicas debe garantizarse a partir del 2 de agosto de 2026.

154)

Los resultados generados o manipulados por IA que entren en el ámbito de aplicación del artículo 50, apartado 2, del Reglamento de Inteligencia Artificial y las ultrafalsificaciones que entren en el ámbito de aplicación del artículo 50, apartado 4, párrafo primero, del Reglamento de Inteligencia Artificial que se hayan generado o manipulado antes del 2 de agosto de 2026 no tendrán que marcarse o etiquetarse con carácter retroactivo. Lo mismo se aplica a los textos sobre asuntos de interés público incluidos en el ámbito de aplicación del artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial que hayan sido generados o manipulados por IA y publicados antes del 2 de agosto de 2026. Por el contrario, si los textos generados o manipulados antes del 2 de agosto de 2026 se publican en esa fecha o después de ella, deben etiquetarse. Teniendo en cuenta el objetivo de transparencia y una mayor confianza e integridad del ecosistema de información perseguido por el Reglamento de Inteligencia Artificial, se anima, no obstante, a los responsables del despliegue de sistemas de IA y a otros agentes que estén en posesión de ultrafalsificaciones preexistentes no etiquetadas o las difundan a que lo hagan sin que se espere que realicen esfuerzos desproporcionados a tal fin (como la auditoría de bases de datos de contenidos preexistentes o la modificación de envases de productos ya impresos).

9. REVISIÓN Y ACTUALIZACIÓN DE LAS DIRECTRICES

155)

Las presentes Directrices constituyen una primera interpretación con ejemplos prácticos de las obligaciones de transparencia establecidas en el artículo 50 del Reglamento de Inteligencia Artificial. La Comisión revisará las presentes directrices tan pronto como sea necesario teniendo en cuenta la experiencia práctica adquirida gracias a la aplicación de las obligaciones de transparencia y el ritmo de la evolución tecnológica, social y reglamentaria en este ámbito. Esto también incluye cualquier experiencia pertinente derivada de las medidas de ejecución de la vigilancia del mercado y las interpretaciones del artículo 50 del Reglamento de Inteligencia Artificial dadas por el TJUE. Durante dicha revisión, la Comisión podrá decidir retirar o modificar las presentes directrices. La Comisión anima a los proveedores y a los responsables del despliegue de sistemas de IA, a las autoridades nacionales de vigilancia del mercado a través del Consejo de IA, el foro consultivo sobre IA, la comunidad investigadora y las organizaciones de la sociedad civil a que contribuyan a este proceso respondiendo a futuras consultas públicas.

(1) Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial) (DO L, 2024/1689, 12.7.2024 ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2) Artículo 1 del Reglamento de Inteligencia Artificial.

(3) Artículo 2, apartado 1, letra a), y artículo 3, apartados 3, 9 y 11, del Reglamento de Inteligencia Artificial. Para obtener más orientaciones sobre los conceptos de introducción en el mercado, puesta en servicio y uso, véanse las Directrices de la Comisión sobre las prácticas prohibidas de inteligencia artificial [C(2025) 5052] y la Comunicación de la Comisión titulada «Guía azul» sobre la aplicación de la normativa europea relativa a los productos, de 2022, sección 2) (DO C 247 de 29.6.2022, p. 1).

(4) Artículo 2, apartado 1, letra c), y considerando 22 del Reglamento de Inteligencia Artificial.

(5) Artículo 3, apartado 4, del Reglamento de Inteligencia Artificial.

(6) Artículo 2, apartado 1, letra b) y c), del Reglamento de Inteligencia Artificial.

(7) Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales (DO L 277 de 27.10.2022, p. 1).

(8) Véase la sección 2.5 de las Directrices de la Comisión sobre prácticas prohibidas de inteligencia artificial que se establecen en el Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial), Bruselas, 29 de julio de 2025, C(2025) 5052 final.

(9) La definición de responsable del despliegue también excluye a los usuarios que participan en tales actividades (véase la sección 2.3).

(10) Considerando 25 del Reglamento de Inteligencia Artificial.

(11) En el considerando 102 del Reglamento de Inteligencia Artificial se explica que la divulgación de software y datos con arreglo a una licencia libre y de código abierto permite «compartirlos abiertamente y que los usuarios puedan acceder a ellos, o a versiones modificadas de dicho software y dichos datos, o utilizarlos, modificarlos y redistribuirlos libremente».

(12) Para obtener más información sobre el artículo 5 del Reglamento de Inteligencia Artificial, véase las Directrices de la Comisión sobre prácticas prohibidas de inteligencia artificial que se establecen en el Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial), Bruselas [C(2025) 5052 final].

(13) Véase el artículo 6 del Reglamento de Inteligencia Artificial.

(14) En particular, el artículo 26, apartado 11, del Reglamento de Inteligencia Artificial impone una obligación de transparencia a los responsables del despliegue de sistemas de IA de alto riesgo que tomen decisiones o ayuden a tomar decisiones relacionadas con la información a las personas físicas de que están sujetas a la utilización del sistema de IA de alto riesgo. Estas obligaciones de transparencia son complementarias de las del artículo 50 del Reglamento de Inteligencia Artificial, ya que se refieren a información diferente que debe facilitarse a las personas físicas, pero pueden combinarse en notificaciones únicas.

(15) El artículo 3, apartado 66, del Reglamento de Inteligencia Artificial define un «sistema de IA de uso general» como un sistema de IA basado en un modelo de IA de uso general y que puede servir para diversos fines, tanto para su uso directo como para su integración en otros sistemas de IA.

(16) El artículo 50, apartado 2, del Reglamento de Inteligencia Artificial contiene una referencia explícita a los sistemas de IA de uso general.

(17) Considerando 133 del Reglamento de Inteligencia Artificial.

(18) Véase el artículo 3, apartado 1, del Reglamento de Inteligencia Artificial. Para más orientaciones sobre el concepto de sistema de IA, véanse las Directrices de la Comisión sobre la definición de sistema de IA, 29 de julio de 2025, C(2025) 5053 final.

(19) Véase el considerando 132 del Reglamento de Inteligencia Artificial. Esto no requiere que el sistema se dirija a esos grupos vulnerables. Si un sistema está destinado a interactuar con cualquier miembro del público, también se incluye a los miembros de los grupos vulnerables y los proveedores deben tenerlos en cuenta a la hora de aplicar las medidas de notificación.

(20) Véanse los requisitos de accesibilidad aplicables en la sección 7.3.

(21) Por ejemplo, las declaraciones electrónicas de atributos establecidas en virtud del Reglamento (UE) n.o 910/2014 y disponibles en las carteras europeas de identidad digital establecidas en virtud de dicho Reglamento, así como las carteras europeas para empresas propuestas, pueden proporcionar medios seguros y eficientes para identificar a los agentes de IA. Las carteras pueden almacenar y gestionar declaraciones electrónicas que verifiquen la identidad, los atributos y las autorizaciones del agente de IA, permitiendo así una divulgación fluida y fiable a las personas físicas.

(22) Esto también se aplica a las excepciones similares en beneficio de las actividades de garantía del cumplimiento del Derecho previstas en el artículo 50, apartados 2 a 4, del Reglamento de Inteligencia Artificial.

(23) Directiva 2005/29/CE del Parlamento Europeo y del Consejo, de 11 de mayo de 2005, relativa a las prácticas comerciales desleales de las empresas en sus relaciones con los consumidores en el mercado interior (DO L 149 de 11.6.2005, p. 2).

(24) Directiva 2011/83/UE del Parlamento Europeo y del Consejo, de 25 de octubre de 2011, sobre los derechos de los consumidores (DO L 304 de 22.11.2011, p. 64).

(25) Directiva 2012/13/UE del Parlamento Europeo y del Consejo, de 22 de mayo de 2012, relativa al derecho a la información en los procesos penales (DO L 142 de 1.6.2012, p. 1); Directiva 2012/29/UE del Parlamento Europeo y del Consejo, de 25 de octubre de 2012, por la que se establecen normas mínimas sobre los derechos, el apoyo y la protección de las víctimas de delitos (DO L 315 de 14.11.2012, p. 57).

(26) Conforme a la definición del artículo 3, apartado 1, del Reglamento de Inteligencia Artificial.

(27) El considerando 133 del Reglamento de Inteligencia Artificial aclara que procede exigir a los proveedores de tales sistemas que integren soluciones técnicas que permitan marcar, en un formato legible por máquina, y detectar que el resultado de salida ha sido generado o manipulado por un sistema de IA y no por un ser humano. El considerando 135 del Reglamento de Inteligencia Artificial hace referencia a la obligación relativa a la detección.

(28) Véase el anexo II de la Decisión de Ejecución C(2025) 3871 final de la Comisión relativa a una solicitud de normalización dirigida al Comité Europeo de Normalización y al Comité Europeo de Normalización Electrotécnica en relación con los sistemas de IA de alto riesgo en apoyo del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo y por el que se deroga la Decisión de Ejecución C(2023) 3215 final.

(29) Véase también el considerando 11 del Reglamento de Inteligencia Artificial.

(30) Véase también el considerando 137 del Reglamento de Inteligencia Artificial.

(31) Considerando 136 del Reglamento de Inteligencia Artificial.

(32) Por lo tanto, este criterio debe entenderse de forma independiente y diferenciada del concepto de engaño mencionado en la Directiva 2005/29/CE relativa a las prácticas comerciales desleales de las empresas en sus relaciones con los consumidores en el mercado interior (Directiva sobre las prácticas comerciales desleales), https://eur-lex.europa.eu/eli/dir/2005/29/oj/spa.

(33) Véase, en la misma línea, el artículo 1, letra b), de la Directiva de Servicios de Comunicación Audiovisual.

(34) Esto también se aplica a los textos publicados que informan al público sobre asuntos de interés público.

(35) Véase también la sección 4.4 para más información sobre la interacción entre el artículo 50 del Reglamento de Inteligencia Artificial y el Reglamento de Servicios Digitales.

(36) Considerando 2 del Reglamento de Servicios Digitales.

(37) Para una aclaración más detallada, véanse las Directrices conjuntas de la Comisión y del CEPD sobre la interacción entre el Reglamento de Inteligencia Artificial y la legislación de la UE en materia de protección de datos (en preparación).

(38) Véanse, por analogía, los asuntos C-89/04, Mediakabel, ECLI:EU:C:2005:348, apartado 33; C-192/04, Lagardère, ECLI:EU:C:2005:475, apartado 31; C-306/05, SGAE, ECLI:EU:C:2006:764, apartados 37 a 40; C-527/15, Stichting Brein, ECLI:EU:C:2017:300, apartados 43 a 44 y jurisprudencia citada; C-135/23, GEMA, ECLI:EU:C:2024:526, apartado 38 y jurisprudencia citada.

(39) Reglamento (UE) 2024/1083 del Parlamento Europeo y del Consejo, de 11 de abril de 2024, por el que se establece un marco común para los servicios de medios de comunicación en el mercado interior y se modifica la Directiva 2010/13/UE (Reglamento Europeo sobre la Libertad de los Medios de Comunicación) (DO L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40) Cuando los menores formen parte del público destinatario del contenido, dichas notificaciones deberán: i) estar adaptadas a los niños, ser adecuadas para su edad, fáciles de entender y fácilmente accesibles para todos los menores, incluidos aquellos con discapacidad o con necesidades adicionales de accesibilidad; ii) presentarse de forma clara y fácil de entender y ser lo más sencilla y sucinta posible; iii) presentarse al menor de manera fácil de revisar y que le permita un acceso inmediato e intuitivo, en los puntos en los que resulte pertinente; iv) presentarse en la lengua o lenguas oficiales del Estado miembro en el que se presta el servicio; v) involucrar a los niños; esto puede requerir el uso de gráficos, vídeos, caracteres u otras técnicas; vi) presentarse a los menores de forma gradual y escalonada en el tiempo para maximizar la retención por parte del usuario.

(41) Directiva (UE) 2016/2102 del Parlamento Europeo y del Consejo, de 26 de octubre de 2016, sobre la accesibilidad de los sitios web y aplicaciones para dispositivos móviles de los organismos del sector público (Texto pertinente a efectos del EEE) (DO L 327 de 2.12.2016, p. 1).

(42) Directiva (UE) 2019/882 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, sobre los requisitos de accesibilidad de los productos y servicios (Texto pertinente a efectos del EEE), PE/81/2018/REV/1 (DO L 151 de 7.6.2019, p. 70).

(43) Véase la información pertinente sobre el Code of Practice on Transparency of AI-Generated Content | Shaping Europe’s digital future [«Código de buenas prácticas sobre transparencia de los contenidos generados por IA | Configurar el futuro digital de Europa», documento en inglés], 10 de junio de 2026.

(44) Véase el Dictamen de la Comisión sobre la evaluación del Code of Practice on Transparency of AI-Generated Content | Shaping Europe’s digital future [«Código de buenas prácticas sobre transparencia de los contenidos generados por IA | Configurar el futuro digital de Europa», documento en inglés].

(45) Artículo 99, apartado 7, letra e), del Reglamento de Inteligencia Artificial.

(46) Artículo 50, apartado 7, del Reglamento de Inteligencia Artificial.

(47) Como autoridad de vigilancia del mercado para los sistemas de IA basados en modelos de IA de uso general facilitados por el mismo proveedor (artículo 75, apartado 1, del Reglamento de Inteligencia Artificial). Esto abarca la obligación aplicable a los proveedores en virtud del artículo 50, apartados 1, y 2, del Reglamento de Inteligencia Artificial. En relación con el artículo 50, apartados 3 y 4, del Reglamento de Inteligencia Artificial, la Oficina de IA solo será competente si el modelo de IA de uso general y el proveedor de sistemas correspondientes también son responsables del despliegue del sistema.

(48) Como autoridad de vigilancia del mercado para las instituciones, órganos y organismos de la UE.

(49) Artículo 85 del Reglamento de Inteligencia Artificial.

(50) La norma especial de exención de derechos adquiridos del artículo 111, apartado 2, del Reglamento de Inteligencia Artificial se aplica a los sistemas de IA de alto riesgo introducidos en el mercado antes de la fecha de aplicación de las normas de alto riesgo únicamente en lo que respecta al cumplimiento por parte de dichos sistemas de los requisitos y obligaciones aplicables a los sistemas de IA de alto riesgo. Si el sistema de IA de alto riesgo también está sujeto a una o varias obligaciones de transparencia en virtud del artículo 50 del Reglamento de Inteligencia Artificial, esta norma especial de exención de derechos adquiridos no se aplica, ya que la aplicación de las diferentes obligaciones de transparencia de alto riesgo y del artículo 50 son acumulativas y la exención de derechos adquiridos está justificada y limitada únicamente en lo que respecta al cumplimiento de las disposiciones de alto riesgo.

Análisis

ANÁLISIS

Rango: Otros
Fecha de publicación: 12/11/2026
Permalink ELI EUR-Lex: https://data.europa.eu/eli/C/2026/6005/spa

Referencias anteriores

DE CONFORMIDAD con el art. 50 del Reglamento 2024/1689, de 13 de junio (Ref. DOUE-L-2024-81079).

Materias

Comunicación Audiovisual
Control de las telecomunicaciones
Derechos de los ciudadanos
Desarrollo tecnológico
Inteligencia artificial

subir

Agencia Estatal Boletín Oficial del Estado

Documento DOUE-Z-2026-70067

Comunicación de la Comisión - Directrices sobre la aplicación de las obligaciones de transparencia para determinados sistemas de IA en virtud del artículo 50 del Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial).

TEXTO ORIGINAL

ANÁLISIS

Referencias anteriores

Materias