Agencia Estatal Boletín Oficial del Estado

(1)

La inteligencia artificial (IA) es un conjunto de tecnologías de rápida evolución que puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores y actividades sociales. Al mismo tiempo, dependiendo de las circunstancias de su aplicación y utilización concretas, la inteligencia artificial puede presentar riesgos y menoscabar los intereses públicos y los derechos fundamentales que protege el Derecho de la Unión.

(2)

La Comisión ha propuesto un Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (1) destinado a impulsar el desarrollo, la utilización y la adopción de la inteligencia artificial en el mercado interior y que, al mismo tiempo, ofrece un nivel elevado de protección de los intereses públicos, como la salud y la seguridad, y de los derechos fundamentales reconocidos y protegidos por el Derecho de la Unión. El Reglamento propuesto es una de las medidas de la Comisión destinadas a alcanzar el doble objetivo de promover la adopción de la IA y de abordar los riesgos relacionados con determinados usos de dicha tecnología. Otras medidas son la revisión de 2021 del Plan Coordinado sobre la Inteligencia Artificial (2), las iniciativas de políticas sectoriales que fomentan la adopción de la IA o los programas de financiación de la Unión, como los establecidos por los Reglamentos (UE) 2021/694 (3) y (UE) 2021/695 (4) del Parlamento Europeo y del Consejo.

(3)

La complejidad y la adopción cada vez más extendida de la IA, especialmente cuando se basa en los modelos más punteros, y la necesidad de acelerar los avances hacia los objetivos y metas previstos en el programa estratégico de la Década Digital establecido por la Decisión (UE) 2022/2481 del Parlamento Europeo y del Consejo (5) demuestran la necesidad de adoptar medidas adicionales para mejorar la comprensión de las capacidades, las tendencias y los riesgos potenciales y para lograr que las tecnologías de IA se desarrollen y se utilicen de forma segura en la Unión.

(4)

Es necesario desarrollar conocimientos especializados y capacidades a escala de la Unión con vistas a fomentar dicha comprensión, contribuir a la aplicación y la ejecución del próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial, y contribuir a la aplicación de las normas y principios internacionales en materia de IA, como el Código de Conducta del G7 y los Principios Rectores para los desarrolladores de sistemas avanzados de IA.

(5)

En este contexto, deben sentarse las bases de un sistema único de gobernanza de la IA en la Unión mediante el establecimiento de una estructura que supervise los avances en los modelos de inteligencia artificial, en particular en lo que respecta a los modelos de IA de uso general, la interacción con la comunidad científica —con un papel clave en las investigaciones y las pruebas— y la ejecución de las normas; dicha estructura debe tener una vocación mundial.

(6)

Por consiguiente, debe crearse una Oficina Europea de Inteligencia Artificial en el seno de la Comisión como parte de la estructura administrativa de la Dirección General de Redes de Comunicación, Contenido y Tecnologías y que dependa de su plan de gestión anual.

(7)

La Oficina Europea de Inteligencia Artificial debe funcionar de conformidad con los procesos internos de la Comisión (6) y su creación no debe afectar a las facultades ni a las competencias de las autoridades nacionales competentes ni de los órganos y organismos de la Unión en lo que respecta a la supervisión de los sistemas de IA, tal como se contempla en el próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial y en otra legislación sectorial de la Unión. Todo ello se entiende sin perjuicio de las funciones de otros servicios de la Comisión en sus respectivos ámbitos de responsabilidad ni de las funciones del Servicio Europeo de Acción Exterior en el ámbito de la política exterior y de seguridad común. La Oficina Europea de Inteligencia Artificial debe desempeñar sus funciones, en particular a la hora publicar orientaciones, de manera que no duplique las actividades de los órganos y organismos pertinentes de la Unión en el marco de la legislación sectorial específica.

(8)

A fin de que pueda iniciarse lo antes posible la preparación de la aplicación del próximo Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial, la presente Decisión debe entrar en vigor con carácter de urgencia antes de la adopción de dicho Reglamento, después de que los colegisladores alcanzaran un acuerdo político el 8 de diciembre de 2023. Una vez adoptado el Reglamento, la presente Decisión podrá ser revisada.

a)

contribuir al enfoque estratégico, coherente y efectivo de la Unión respecto de las iniciativas internacionales en materia de IA con arreglo al artículo 7, en coordinación con los Estados miembros y según las posiciones y políticas de la Unión;

b)

contribuir a la promoción de acciones y políticas en la Comisión que aprovechen los beneficios sociales y económicos de las tecnologías de IA con arreglo al artículo 5;

c)

apoyar el desarrollo, la implantación y el uso acelerados de sistemas y aplicaciones de IA fiables que aporten beneficios sociales y económicos y contribuyan a la competitividad y el crecimiento económico de la Unión. En particular, la Oficina promoverá los ecosistemas de innovación a través de la colaboración con los agentes públicos y privados pertinentes y con la comunidad de empresas emergentes;

d)

supervisar la evolución de los mercados y las tecnologías de IA.

a)

colaborará con las partes interesadas, en particular con los expertos de la comunidad científica y los desarrolladores de IA, con arreglo al artículo 4;

b)

colaborará con las Direcciones Generales y los servicios pertinentes de la Comisión con arreglo al artículo 5;

c)

cooperará con todos los órganos y organismos pertinentes de la Unión, en particular la Empresa Común de Informática de Alto Rendimiento Europea (Empresa Común EuroHPC), de conformidad con el artículo 6;

d)

cooperará con las autoridades y organismos de los Estados miembros en nombre de la Comisión.

a)

desarrollar herramientas, metodologías e índices de referencia para evaluar las capacidades de los modelos de IA de uso general, en particular los modelos muy grandes con riesgos sistémicos;

b)

supervisar la ejecución y la aplicación de las normas relativas a los modelos y sistemas de IA de uso general, en particular cuando el modelo y el sistema sean desarrollados por el mismo proveedor;

c)

supervisar la aparición de riesgos imprevistos derivados de modelos de IA de uso general, en particular respondiendo a las alertas del grupo de expertos científicos;

d)

investigar posibles infracciones de las normas sobre modelos y sistemas de IA de uso general, en particular mediante la recopilación de reclamaciones y alertas, la asistencia en la preparación de las decisiones de la Comisión y la realización de evaluaciones de conformidad con el próximo Reglamento;

e)

garantizar que, cuando un sistema de IA entre en el ámbito de aplicación de la legislación pertinente de la Unión para la que la Comisión tenga competencias de supervisión y ejecución, como el Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo (7) o el Reglamento (UE) 2022/1925 del Parlamento Europeo y del Consejo (8), la supervisión y la ejecución de dicha legislación estén plenamente coordinadas con la supervisión y la ejecución del próximo Reglamento;

f)

apoyar la aplicación de normas sobre prácticas de IA prohibidas y sistemas de IA de alto riesgo en coordinación con los organismos responsables en virtud de la legislación sectorial, en particular mediante la facilitación del intercambio de información y la colaboración entre las autoridades nacionales, la recopilación de notificaciones y la creación de plataformas y bases de datos de información, especialmente cuando un modelo o sistema de IA de uso general esté integrado en un sistema de IA de alto riesgo.

a)

asistir a la Comisión en la preparación de las decisiones pertinentes de la Comisión y de los actos delegados y de ejecución;

b)

facilitar la aplicación uniforme del próximo Reglamento;

c)

asistir a la Comisión en la elaboración de orientaciones y directrices para respaldar la aplicación práctica del próximo Reglamento, así como desarrollar herramientas de apoyo, como protocolos normalizados y mejores prácticas, en consulta con los servicios de la Comisión y los órganos y organismos de la Unión pertinentes;

d)

asistir a la Comisión en la preparación de las solicitudes de normalización, la evaluación de las normas existentes y la elaboración de especificaciones comunes para la aplicación del próximo Reglamento;

e)

contribuir a la prestación de asistencia técnica y asesoramiento, a la facilitación de herramientas para la creación y el funcionamiento de espacios controlados de pruebas para la IA y a la coordinación, según proceda, con las autoridades nacionales competentes que establezcan dichos espacios controlados de pruebas;

f)

llevar a cabo las evaluaciones y revisiones del próximo Reglamento y elaborar informes relacionados con él;

g)

coordinar la creación de un sistema de gobernanza eficaz, en particular preparando la creación de órganos consultivos a escala de la Unión, así como haciendo un seguimiento del establecimiento de autoridades nacionales y de otros organismos pertinentes a escala nacional;

h)

asumir la secretaría del Comité de Inteligencia Artificial y de sus subgrupos y prestar apoyo administrativo al foro consultivo y al grupo de expertos científicos, cuando proceda, en particular ocupándose de la configuración administrativa, la organización de reuniones y la elaboración de los documentos pertinentes; y

i)

fomentar y facilitar la elaboración de códigos de prácticas y códigos de conducta a escala de la Unión, teniendo en cuenta los enfoques internacionales, y hacer un seguimiento de la aplicación y evaluación de los códigos de prácticas.

a)

la creación de foros de cooperación para los proveedores de modelos y sistemas de IA a fin de impulsar las mejores prácticas y contribuir al desarrollo de códigos de conducta y códigos de prácticas;

b)

la realización de consultas periódicas a las partes interesadas, en particular a los expertos de la comunidad científica y del sector educativo, los ciudadanos, la sociedad civil y los interlocutores sociales, cuando proceda, para recabar información que sirva para el desempeño de las funciones contempladas en el artículo 3, apartado 2;

c)

la creación de un foro de cooperación con la comunidad de código abierto con vistas a detectar y perfeccionar las mejores prácticas para el desarrollo y la utilización de manera segura de modelos y sistemas de IA de código abierto.

a)

colaborará con otras Direcciones Generales y servicios pertinentes de la Comisión en el desempeño de las funciones contempladas en el artículo 2, especialmente con el Centro Europeo para la Transparencia Algorítmica para evaluar y probar los modelos y sistemas de IA de uso general;

b)

apoyará a otras Direcciones Generales y servicios pertinentes de la Comisión con vistas a facilitar el uso de modelos y sistemas de IA como herramientas transformadoras en los ámbitos pertinentes de las políticas de la Unión, y a sensibilizar sobre los riesgos emergentes.

a)

la defensa de la gestión responsable de la IA y el fomento del planteamiento de la Unión sobre una IA fiable;

b)

la contribución a la cooperación internacional relacionada con la regulación y la gobernanza de la IA;

c)

la contribución a la aplicación de acuerdos internacionales sobre normas en materia de IA, en particular prestando apoyo a los Estados miembros.