REGLAMENTO UE SOBRE IA (I)

24/09/2026

La llegada de la Inteligencia Artificial (IA, en adelante) ha revolucionado el mundo tal y como lo conocíamos, de forma que en poco tiempo se ha introducido en nuestras vidas en múltiples aspectos. Como consecuencia, se ha empezado a regular legalmente su ámbito de aplicación, con objeto de evitar disfunciones que pueden afectar incluso a los derechos fundamentales de las personas.

Vamos a realizar una aproximación al reglamento que la Unión Europea ha aprobado para regular la utilización de la IA.

El Parlamento Europeo y el Consejo han aprobado el Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial)Texto pertinente a efectos del EEE. (Espacio Económico Europeo)

El artículo 1 señala el objeto de este reglamento de la siguiente manera:

«Artículo 1. Objeto

1. El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, «sistemas de IA») en la Unión así como prestar apoyo a la innovación.

(El objetivo de este Reglamento es mejorar el funcionamiento del mercado interior e impulsar la admisión de una inteligencia artificial (IA) ajustada en el ser humano y fiable, garantizando al mismo tiempo un alto nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta (Carta de los Derechos Fundamentales de la Unión Europea), incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, «sistemas de IA») en la Unión así como facilitar apoyo a la innovación. )

2. El presente Reglamento establece:

normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión;

(normas unificadas para la insercción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión; )

prohibiciones de determinadas prácticas de IA;

requisitos específicos para los sistemas de IA de alto riesgo y obligaciones para los operadores de dichos sistemas;

(requisitos determinados para los sistemas de IA de alto riesgo y obligaciones para los operadores de dichos sistemas; )

normas armonizadas de transparencia aplicables a determinados sistemas de IA;

(normas unificadas de transparencia aplicables a determinados sistemas de IA; )

normas armonizadas para la introducción en el mercado de modelos de IA de uso general;

(normas unificadas para la introducción en el mercado de tipos de IA de uso general; )

normas sobre el seguimiento del mercado, la vigilancia del mercado, la gobernanza y la garantía del cumplimiento;

(normas sobre el control del mercado, la vigilancia del mercado, la gobernanza y la garantía del cumplimiento; )

medidas en apoyo de la innovación, prestando especial atención a las pequeñas empresas de mediana capitalización y a las pequeñas y medianas empresas (pymes), incluidas las empresas emergentes.»

(medidas en apoyo de la innovación, poniendo especial atención a las pequeñas empresas de mediana capitalización y a las pequeñas y medianas empresas (pymes), incluidas las empresas emergentes.)

Con relación al ámbito de aplicación, el artículo 2 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 2. Ámbito de aplicación

1. El presente Reglamento se aplicará a:

(Este Reglamento se aplicará a: )

los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA o que introduzcan en el mercado modelos de IA de uso general en la Unión, con independencia de si dichos proveedores están establecidos o ubicados en la Unión o en un tercer país;

(los proveedores que incluyan en el mercado o pongan en servicio sistemas de IA o que incluyan en el mercado modelos de IA de uso general en la Unión, con independencia de si dichos proveedores están instalados o situados en la Unión o en un país ajeno; )

los responsables del despliegue de sistemas de IA que estén establecidos o ubicados en la Unión;

(los responsables de la distribución de sistemas de IA que estén instalados o situados en la Unión; )

los proveedores y responsables del despliegue de sistemas de IA que estén establecidos o ubicados en un tercer país, cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión;

(los proveedores y responsables de la distribución de sistemas de IA que estén instalados o situados en un país ajenos, cuando los resultados de salida creados por el sistema de IA se utilicen en la Unión; )

los importadores y distribuidores de sistemas de IA;

los fabricantes de productos que introduzcan en el mercado o pongan en servicio un sistema de IA junto con su producto y con su propio nombre o marca;

(los fabricantes de productos que incluyan en el mercado o pongan en servicio un sistema de IA junto con su producto y con su propio nombre o marca;)

los representantes autorizados de los proveedores que no estén establecidos en la Unión;

(los representantes autorizados de los suministradores que no estén instalados en la Unión; )

las personas afectadas que estén ubicadas en la Unión.

(las personas interesadas que estén situadas en la Unión. )

2. A los sistemas de IA clasificados como sistemas de IA de alto riesgo de conformidad con el artículo 6, apartado 1, y relativos a productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, únicamente se les aplicarán el artículo 6, apartado 1, el artículo 60 bis y los artículos 102 a 112. Los artículos 57, 58 y 59 se aplicarán únicamente en la medida en que los requisitos para los sistemas de IA de alto riesgo en virtud del presente Reglamento se hayan integrado en dichos actos legislativos de armonización de la Unión.

(A los sistemas de IA clasificados como sistemas de IA de alto riesgo de acuerdo con el artículo 6, apartado 1, y relativos a productos regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B, únicamente se les aplicarán el artículo 6, apartado 1, el artículo 60 bis y los artículos 102 a 112. Los artículos 57, 58 y 59 se aplicarán únicamente en la medida en que los requisitos para los sistemas de IA de alto riesgo en aplicación de este Reglamento se hayan incluido en dichos actos legislativos de unificación de la Unión. )

El artículo 6 del Reglamento (UE) 2024/1689 dispone lo siguiente:

«Artículo 6. Reglas de clasificación de los sistemas de IA de alto riesgo

1. Con independencia de si se ha introducido en el mercado o se ha puesto en servicio sin estar integrado en los productos que se mencionan en las letras a) y b), un sistema de IA se considerará de alto riesgo cuando reúna las dos condiciones que se indican a continuación:

(Con independencia de si se ha insertado en el mercado o se ha puesto en servicio sin estar incluido en los productos que se mencionan en las letras a) y b), un sistema de IA se valorará de alto riesgo cuando reúna los dos requisitos que se indican a continuación: )

que el sistema de IA esté destinado a ser utilizado como componente de seguridad de un producto que entre en el ámbito de aplicación de los actos legislativos de armonización de la Unión enumerados en el anexo I, o que el propio sistema de IA sea uno de dichos productos, y

(que el sistema de IA esté destinado a ser utilizado como componente de seguridad de un producto que entre en el ámbito de aplicación de los actos legislativos de unificación de la Unión enumerados en el anexo I, o que el propio sistema de IA sea uno de dichos productos, y )

que el producto del que el sistema de IA sea componente de seguridad con arreglo a la letra a), o el propio sistema de IA como producto, deba someterse a una evaluación de la conformidad de terceros para su introducción en el mercado o puesta en servicio con arreglo a los actos legislativos de armonización de la Unión enumerados en el anexo I.

(que el producto del que el sistema de IA sea componente de seguridad de acuerdo con la letra a), o el propio sistema de IA como producto, deba exponerse a una valoración de la adecuación de otros para su inclusión en el mercado o puesta en servicio de acuerdo con los actos legislativos de unificación de la Unión enumerados en el anexo I. )

1 bis. A efectos del presente Reglamento, incluido el apartado 1 del presente artículo, los sistemas de IA que se utilicen únicamente para aspectos no relacionados con la seguridad en los ámbitos de la asistencia al usuario, la optimización del rendimiento, la eficiencia del servicio, la automatización, la comodidad o el control de calidad no se considerarán componentes de seguridad.

(A los fines de este Reglamento, incluido el apartado 1 de este artículo, los sistemas de IA que se utilicen únicamente para aspectos no relacionados con la seguridad en los ámbitos de la asistencia al usuario, el perfeccionamiento de la productividad, la eficacia del servicio, la mecanización, la comodidad o el control de calidad no se entenderán componentes de seguridad. )

1 ter. No obstante lo dispuesto en el apartado 1 bis, los sistemas de IA cuyo fallo o defecto de funcionamiento pueda poner en peligro la salud y la seguridad se considerarán componentes de seguridad.

(Pese a lo dispuesto en el apartado 1 bis, los sistemas de IA cuyo error o defecto de funcionamiento pueda poner en peligro la salud y la seguridad se entenderán componentes de seguridad. )

1 quater. Se considerará que no cumplen la condición establecida en el apartado 1, letra b), los productos que deban someterse a una evaluación de la conformidad de terceros únicamente debido a riesgos distintos de los riesgos para la salud y la seguridad, en particular los riesgos relacionados con la distribución del espectro radioeléctrico o las interferencias electromagnéticas que no afecten a la salud y la seguridad.

(Se entenderá que no cumplen el requisito establecido en el apartado 1, letra b), los productos que deban exponerse a una valoración de la adecuación de otros únicamente debido a riesgos distintos de los riesgos para la salud y la seguridad, en concreto los riesgos relacionados con la distribución del espectro radioeléctrico o las interferencias electromagnéticas que no perjudiquen a la salud y la seguridad. )

2. Además de los sistemas de IA de alto riesgo a que se refiere el apartado 1, también se considerarán de alto riesgo los sistemas de IA contemplados en el anexo III.

(Además de los sistemas de IA de alto riesgo a que se refiere el apartado 1, también se callificarán de alto riesgo los sistemas de IA mencionados en el anexo III. )

3. No obstante lo dispuesto en el apartado 2, un sistema de IA a que se refiere el anexo III no se considerará de alto riesgo cuando no plantee un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas físicas, también al no influir sustancialmente en el resultado de la toma de decisiones.

(Pese a lo dispuesto en el apartado 2, un sistema de IA a que se refiere el anexo III no se valorará de alto riesgo cuando no presente un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas físicas, también al no influir significativamente en el resultado de la toma de decisiones. )

El párrafo primero se aplicará cuando se cumpla cualquiera de las condiciones siguientes:

(El párrafo primero se aplicará cuando se cumpla cualquiera de los requisitos siguientes: )

que el sistema de IA esté destinado a realizar una tarea de procedimiento limitada;

que el sistema de IA esté destinado a mejorar el resultado de una actividad humana previamente realizada;

(que el sistema de IA esté destinado a mejorar el resultado de una actividad humana anteriormente realizada; )

que el sistema de IA esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada sin una revisión humana adecuada, ni a influir en ella, o

(que el sistema de IA esté destinado a descubrir modelos de toma de decisiones o desviaciones con respecto a modelos de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana anteriormente realizada sin una revisión humana adecuada, ni a influir en ella, o )

que el sistema de IA esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III.

(que el sistema de IA esté destinado a realizar una tarea preparatoria para una valoración que sea procedente a los fines de los casos de uso enumerados en el anexo III. )

No obstante lo dispuesto en el párrafo primero, los sistemas de IA a que se refiere el anexo III siempre se considerarán de alto riesgo cuando el sistema de IA efectúe la elaboración de perfiles de personas físicas.

(Pese a lo dispuesto en el párrafo primero, los sistemas de IA a que se refiere el anexo III siempre se valorarán de alto riesgo cuando el sistema de IA efectúe la preparación de perfiles de personas físicas. )

4. El proveedor que considere que un sistema de IA contemplado en el anexo III no es de alto riesgo documentará su evaluación antes de que dicho sistema sea introducido en el mercado o puesto en servicio. Dicho proveedor estará sujeto a la obligación de registro establecida en el artículo 49, apartado 2. A petición de las autoridades nacionales competentes, el proveedor facilitará la documentación de la evaluación.

(El suministrador que entienda que un sistema de IA mencionado en el anexo III no es de alto riesgo documentará su valoración antes de que dicho sistema sea incluido en el mercado o puesto en servicio. Dicho suministrador estará sujeto a la obligación de registro establecida en el artículo 49, apartado 2. A petición de las autoridades nacionales competentes, el suministrador facilitará la documentación de la valoración. )

El artículo 49 del Reglamento (UE) 2024/1689 dispone lo siguiente:

«Artículo 49. Registro

1. Antes de introducir en el mercado o de poner en servicio un sistema de IA de alto riesgo enumerado en el anexo III, con excepción de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 2, el proveedor o, en su caso, el representante autorizado, registrarán su sistema y a ellos mismos en la base de datos de la UE a que se refiere el artículo 71.

El artículo 71 del Reglamento (UE) 2024/1689 dispone lo siguiente:

«Artículo 71. Base de datos de la UE para los sistemas de IA de alto riesgo enumerados en el ANEXO III.

1. La Comisión, en colaboración con los Estados miembros, creará y mantendrá una base de datos de la UE que contendrá la información mencionada en los apartados 2 y 3 del presente artículo en relación con los sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2, que estén registrados con arreglo a los artículos 49 y 60 y los sistemas de IA que no se consideren de alto riesgo en virtud del artículo 6, apartado 3, y que estén registrados con arreglo al artículo 6, apartado 4, y al artículo 49. La Comisión consultará a los expertos pertinentes a la hora de fijar las especificaciones funcionales de dicha base de datos y al Consejo de IA a la hora de actualizarlas.

«La Comisión, en colaboración con los Estados miembros, creará y mantendrá una base de datos de la UE que incluirá la información mencionada en los apartados 2 y 3 del presente artículo en relación con los sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2, que estén registrados de acuerdo con los artículos 49 y 60 y los sistemas de IA que no se valoren de alto riesgo en aplicación del artículo 6, apartado 3, y que estén registrados de acuerdo con el artículo 6, apartado 4, y al artículo 49. La Comisión consultará a los expertos correspondientes a la hora de fijar las determinaciones funcionales de dicha base de datos y al Consejo de IA a la hora de actualizarlas.»

2. Los datos enumerados en el anexo VIII, secciones A y B, serán introducidos en la base de datos de la UE por el proveedor o, en su caso, por el representante autorizado.

( Los datos enumerados en el anexo VIII, secciones A y B, serán incluidos en la base de datos de la UE por el suministrador o, en su caso, por el representante autorizado. )

El anexo VIII del Reglamento (UE) 2024/1689 dispone lo siguiente:

«ANEXO VIII. Información que debe presentarse para la inscripción en el registro de sistemas de IA de alto riesgo de conformidad con el artículo 49

Sección A — Información que deben presentar los proveedores de sistemas de IA de alto riesgo de conformidad con el artículo 49, apartado 1

Con respecto a los sistemas de IA de alto riesgo que vayan a inscribirse en el registro de conformidad con el artículo 49, apartado 1, se facilitará y se actualizará debidamente la información siguiente:

El nombre, la dirección y los datos de contacto del proveedor.

Cuando sea otra persona la que presente la información en nombre del proveedor, el nombre, dirección y datos de contacto de dicha persona.

El nombre, la dirección y los datos de contacto del representante autorizado, en su caso.

El nombre comercial del sistema de IA y toda referencia inequívoca adicional que permita su identificación y trazabilidad.

(El nombre comercial del sistema de IA y toda referencia inequívoca adicional que posibilite su identificación y trazabilidad. )

La descripción de la finalidad prevista del sistema de IA y de los componentes y funciones que se apoyan a través del mismo.

(La descripción de la finalidad establecida del sistema de IA y de los componentes y funciones que se apoyan a través del mismo. )

Una descripción sencilla y concisa de la información que utiliza el sistema (datos, entradas) y su lógica de funcionamiento.

La situación del sistema de IA (comercializado o puesto en servicio, ha dejado de comercializarse o de estar en servicio, recuperado).

El tipo, el número y la fecha de caducidad del certificado expedido por el organismo notificado y el nombre o número de identificación de dicho organismo notificado, cuando proceda.

(El tipo, el número y la fecha de caducidad del certificado emitido por el organismo notificado y el nombre o número de identificación de dicho organismo notificado, cuando corresponda.)

Una copia escaneada del certificado a que se refiere el punto 8, cuando proceda.

10.

Todo Estado miembro en el que el sistema de IA se haya introducido en el mercado, puesto en servicio o comercializado en la Unión.

(Todo Estado miembro en el que el sistema de IA se haya incluido en el mercado, puesto en servicio o comercializado en la Unión.)

11.

Una copia de la declaración UE de conformidad a que se refiere el artículo 47.

(Una copia de la declaración UE de adecuación a que se refiere el artículo 47.)

El artículo 47 del Reglamento (UE) 2024/1689 dispone lo siguiente:

«Artículo 47. Declaración UE de conformidad

1. El proveedor redactará una declaración UE de conformidad por escrito en un formato legible por máquina, con firma electrónica o manuscrita, para cada sistema de IA de alto riesgo y la mantendrá a disposición de las autoridades nacionales competentes durante un período de diez años a contar desde la introducción del sistema de IA de alto riesgo en el mercado o su puesta en servicio. En la declaración UE de conformidad se especificará el sistema de IA de alto riesgo para el que ha sido redactada. Se entregará una copia de la declaración UE de conformidad a las autoridades nacionales competentes pertinentes que lo soliciten.

(El suministrador redactará una declaración UE de adecuación por escrito en un medio legible por máquina, con firma electrónica o manuscrita, para cada sistema de IA de alto riesgo y la pondrá a disposición de las autoridades nacionales competentes durante un período de diez años a contar desde la introducción del sistema de IA de alto riesgo en el mercado o su puesta en servicio. En la declaración UE de adecuación se concretará el sistema de IA de alto riesgo para el que ha sido redactada. Se entregará una copia de la declaración UE de adecuación a las autoridades nacionales competentes correspondientes que lo soliciten.)

2. En la declaración UE de conformidad constará que el sistema de IA de alto riesgo de que se trate cumple los requisitos establecidos en la sección 2. La declaración UE de conformidad contendrá la información indicada en el anexo V y se traducirá a una lengua que puedan entender fácilmente las autoridades nacionales competentes del Estado o Estados miembros en que se introduzca en el mercado o comercialice el sistema de IA de alto riesgo.

(En la declaración UE de adecuación constará que el sistema de IA de alto riesgo de que se trate cumple los requisitos establecidos en la sección 2. La declaración UE de adecuación incluirá la información indicada en el anexo V y se traducirá a una lengua que puedan entender fácilmente las autoridades nacionales competentes del Estado o Estados miembros en que se incluya en el mercado o comercialice el sistema de IA de alto riesgo.)

El anexo V del Reglamento (UE) 2024/1689 dispone lo siguiente:

«ANEXO V. Declaración UE de conformidad

La declaración UE de conformidad a que se hace referencia en el artículo 47 contendrá toda la información siguiente:

(La declaración UE de adecuación a que se hace referencia en el artículo 47 incluirá toda la información siguiente:)

El nombre y tipo del sistema de IA, y toda referencia inequívoca adicional que permita la identificación y trazabilidad del sistema de IA.

(El nombre y tipo del sistema de IA, y toda referencia inequívoca adicional que posibilite la identificación y trazabilidad del sistema de IA.)

El nombre y la dirección del proveedor o, en su caso, de su representante autorizado.

La afirmación de que la declaración UE de conformidad con el artículo 47 se expide bajo la exclusiva responsabilidad del proveedor.

(La afirmación de que la declaración UE de adecuación con el artículo 47 se emite bajo la exclusiva responsabilidad del suministrador. )

La declaración de que el sistema de IA es conforme con el presente Reglamento y, en su caso, con cualquier otra disposición de Derecho de la Unión pertinente que disponga la expedición de la declaración UE de conformidad con el artículo 47.

(La declaración de que el sistema de IA es adecuado con el presente Reglamento y, en su caso, con cualquier otra disposición de Derecho de la Unión procedente que disponga la emisión de la declaración UE de acuerdo con el artículo 47.)

Cuando un sistema de IA implique el tratamiento de datos personales, la declaración de que el sistema de IA se ajusta al Reglamento (UE) 2016/679, al Reglamento (UE) 2018/1725 y a la Directiva (UE) 2016/680.

(Cuando un sistema de IA conlleve el tratamiento de datos personales, la declaración de que el sistema de IA se ajusta al Reglamento (UE) 2016/679, al Reglamento (UE) 2018/1725 y a la Directiva (UE) 2016/680. )

Referencias a todas las normas armonizadas pertinentes que se hayan aplicado o a cualquier otra especificación común respecto de la que se declara la conformidad.

(Referencias a todas las normas unificadas procedentes que se hayan aplicado o a cualquier otra determinación común respecto de la que se declara la adecuación.)

En su caso, el nombre y el número de identificación del organismo notificado, una descripción del procedimiento de evaluación de la conformidad que se haya seguido y la identificación del certificado expedido.

(En su caso, el nombre y el número de identificación del organismo notificado, una descripción del procedimiento de valoración de la adecuación que se haya seguido y la identificación del certificado emitido.)

El lugar y la fecha de expedición de la declaración, el nombre y el cargo de la persona que la firme, la indicación de la persona en cuyo nombre o por cuya cuenta firma la declaración y la firma.»

(El lugar y la fecha de emisión de la declaración, el nombre y el cargo de la persona que la firme, la indicación de la persona en cuyo nombre o por cuya cuenta firma la declaración y la firma.)

(sigue el artículo 47 del Reglamento (UE) 2024/1689)

3. Cuando los sistemas de IA de alto riesgo estén sujetos a otros actos legislativos de armonización de la Unión que también exijan una declaración UE de conformidad, se elaborará una única declaración UE de conformidad con respecto a todos el Derecho de la Unión aplicable al sistema de IA de alto riesgo. La declaración contendrá toda la información necesaria para determinar los actos legislativos de armonización de la Unión a los que se refiere la declaración.

( Cuando los sistemas de IA de alto riesgo estén sujetos a otros actos legislativos de unificación de la Unión que también exijan una declaración UE de adecuación, se preparará una única declaración UE de adecuación con respecto a todos el Derecho de la Unión aplicable al sistema de IA de alto riesgo. La declaración incluirá toda la información necesaria para determinar los actos legislativos de unificación de la Unión a los que se refiere la declaración. )

4. Al elaborar la declaración UE de conformidad, el proveedor asumirá la responsabilidad del cumplimiento de los requisitos establecidos en la sección 2. El proveedor mantendrá actualizada la declaración UE de conformidad según proceda.

(Al preparar la declaración UE de adecuación, el suministrador aceptará la responsabilidad del cumplimiento de los requisitos establecidos en la sección 2. El suministrador mantendrá actualizada la declaración UE de adecuación como corresponda. )

5. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo V actualizando el contenido de la declaración UE de conformidad establecida en dicho anexo, con el fin de introducir elementos que resulten necesarios a la luz del progreso técnico.»

(La Comisión estará facultada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar el anexo V actualizando el contenido de la declaración UE de adecuación establecida en dicho anexo, con el fin de incluir elementos que resulten necesarios a la vista del progreso técnico.)

El artículo 97 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 97. Ejercicio de la delegación

1. Se otorgan a la Comisión los poderes para adoptar actos delegados en las condiciones establecidas en el presente artículo.

(Se atribuyen a la Comisión los poderes para aprobar actos delegados en las condiciones establecidas en el presente artículo. )

2. Los poderes para adoptar actos delegados mencionados en el artículo 6, apartado 6 y 7, el artículo 7, apartados 1 y 3, el artículo 11, apartado 3, el artículo 43, apartados 5 y 6, el artículo 47, apartado 5, el artículo 51, apartado 3, el artículo 52, apartado 4, y el artículo 53, apartados 5 y 6, se otorgan a la Comisión por un período de cinco años a partir del 1 de agosto de 2024. Los poderes para adoptar actos delegados mencionados en el artículo 2, apartado 13 y el artículo 30, apartado 2, se otorgan a la Comisión por un periodo de cinco años a partir del 27 de julio de 2026. La Comisión elaborará un informe sobre la delegación de poderes a más tardar nueve meses antes de que finalice el período de cinco años. La delegación de poderes se prorrogará tácitamente por períodos de idéntica duración, excepto si el Parlamento Europeo o el Consejo se oponen a dicha prórroga a más tardar tres meses antes del final de cada período.

(Los poderes para aprobar actos delegados mencionados en el artículo 6, apartado 6 y 7, el artículo 7, apartados 1 y 3, el artículo 11, apartado 3, el artículo 43, apartados 5 y 6, el artículo 47, apartado 5, el artículo 51, apartado 3, el artículo 52, apartado 4, y el artículo 53, apartados 5 y 6, se atribuyen a la Comisión por un período de cinco años desde el 1 de agosto de 2024. Los poderes para aprobar actos delegados mencionados en el artículo 2, apartado 13 y el artículo 30, apartado 2, se atribuyen a la Comisión por un periodo de cinco años desde el 27 de julio de 2026. La Comisión preparará un informe sobre la delegación de poderes lo más tarde nueve meses antes de que finalice el período de cinco años. La delegación de poderes se ampliará tácitamente por períodos de idéntica duración, salvo si el Parlamento Europeo o el Consejo se oponen a dicha ampliación lo más tarde tres meses antes del final de cada período. )

El artículo 7 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 7. Modificaciones del anexo III.

1. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo III mediante la adición o modificación de casos de uso de sistemas de IA de alto riesgo cuando se reúnan las dos condiciones siguientes:

(La Comisión estará habilitada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar el anexo III mediante la adición o modificación de casos de uso de sistemas de IA de alto riesgo cuando se reúnan los dos requisitos siguientes:)

El anexo III del Reglamento (UE) 2024/1689 establece lo siguiente:

«ANEXO III. Sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2

Los sistemas de IA de alto riesgo con arreglo al artículo 6, apartado 2, son los sistemas de IA que formen parte de cualquiera de los ámbitos siguientes:

Biometría, en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable:

(Biometría, en la medida en que su uso esté admitido por el Derecho de la Unión o nacional aplicable:)

Sistemas de identificación biométrica remota

(Sistemas de identificación biométrica alejada)

Quedan excluidos los sistemas de IA destinados a ser utilizados con fines de verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que afirma ser

(Quedan excluidos los sistemas de IA destinados a ser utilizados con fines de comprobación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que afirma ser )

Sistemas de IA destinados a ser utilizados para la categorización biométrica en función de atributos o características sensibles o protegidos basada en la inferencia de dichos atributos o características

Sistemas de IA destinados a ser utilizados para el reconocimiento de emociones

Infraestructuras críticas: Sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y el funcionamiento de las infraestructuras digitales críticas, del tráfico rodado o del suministro de agua, gas, calefacción o electricidad

Educación y formación profesional:

Sistemas de IA destinados a ser utilizados para determinar el acceso o la admisión de personas físicas a centros educativos y de formación profesional a todos los niveles o para distribuir a las personas físicas entre dichos centros

Sistemas de IA destinados a ser utilizados para evaluar los resultados del aprendizaje, también cuando dichos resultados se utilicen para orientar el proceso de aprendizaje de las personas físicas en centros educativos y de formación profesional a todos los niveles

Sistemas de IA destinados a ser utilizados para evaluar el nivel de educación adecuado que recibirá una persona o al que podrá acceder, en el contexto de los centros educativos y de formación profesional o dentro de estos a todos los niveles

Sistemas de IA destinados a ser utilizados para el seguimiento y la detección de comportamientos prohibidos por parte de los estudiantes durante los exámenes en el contexto de los centros educativos y de formación profesional o dentro de estos a todos los niveles

Empleo, gestión de los trabajadores y acceso al autoempleo:

Sistemas de IA destinados a ser utilizados para la contratación o la selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar las solicitudes de empleo y evaluar a los candidatos

Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones de índole laboral o a la promoción o rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en el marco de dichas relaciones

Acceso a servicios privados esenciales y a servicios y prestaciones públicos esenciales y disfrute de estos servicios y prestaciones

Sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar la admisibilidad de las personas físicas para beneficiarse de servicios y prestaciones esenciales de asistencia pública, incluidos los servicios de asistencia sanitaria, así como para conceder, reducir o retirar dichos servicios y prestaciones o reclamar su devolución

Sistemas de IA destinados a ser utilizados para evaluar la solvencia de personas físicas o establecer su calificación crediticia, salvo los sistemas de IA utilizados al objeto de detectar fraudes financieros

Sistemas de IA destinados a ser utilizados para la evaluación de riesgos y la fijación de precios en relación con las personas físicas en el caso de los seguros de vida y de salud

Sistemas de IA destinados a ser utilizados para la evaluación y la clasificación de las llamadas de emergencia realizadas por personas físicas o para el envío o el establecimiento de prioridades en el envío de servicios de primera intervención en situaciones de emergencia, por ejemplo, policía, bomberos y servicios de asistencia médica, y en sistemas de triaje de pacientes en el contexto de la asistencia sanitaria de urgencia

Garantía del cumplimiento del Derecho, en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable:

Sistemas de IA destinados a ser utilizados por las autoridades garantes del cumplimiento del Derecho, o en su nombre, o por las instituciones, órganos y organismos de la Unión en apoyo de las autoridades garantes del cumplimiento del Derecho para evaluar el riesgo de que una persona física cometa un delito o reincida en la comisión de un delito atendiendo no solo a la elaboración de perfiles de personas físicas mencionada en el artículo 3, punto 4, de la Directiva (UE) 2016/680 o para evaluar rasgos y características de la personalidad o comportamientos delictivos pasados de personas físicas o colectivos

Sistemas de IA destinados a ser utilizados por las autoridades garantes del cumplimiento del Derecho, o en su nombre, o por las instituciones, órganos y organismos de la Unión en apoyo de las autoridades garantes del cumplimiento del Derecho para elaborar perfiles de personas físicas, como se menciona en el artículo 3, punto 4, de la Directiva (UE) 2016/680, durante la detección, la investigación o el enjuiciamiento de delitos

Migración, asilo y gestión del control fronterizo, en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable:

Sistemas de IA destinados a ser utilizados por las autoridades públicas competentes, o en su nombre, o por las instituciones, órganos y organismos de la Unión, como polígrafos o herramientas similares

Sistemas de IA destinados a ser utilizados por las autoridades públicas competentes, o en su nombre, o por las instituciones, órganos y organismos de la Unión para evaluar un riesgo, por ejemplo, un riesgo para la seguridad, la salud o de migración irregular, que plantee una persona física que tenga la intención de entrar en el territorio de un Estado miembro o haya entrado en él

Sistemas de IA destinados a ser utilizados por las autoridades públicas competentes, o en su nombre, o por las instituciones, órganos y organismos de la Unión para ayudar a las autoridades públicas competentes a examinar las solicitudes de asilo, visado o permiso de residencia y las reclamaciones conexas con el fin de determinar si las personas físicas solicitantes reúnen los requisitos necesarios para que se conceda su solicitud, con inclusión de la evaluación conexa de la fiabilidad de las pruebas

Sistemas de IA destinados a ser utilizados por las autoridades públicas competentes, o en su nombre, o por las instituciones, órganos y organismos de la Unión, en el contexto de la migración, el asilo o la gestión del control fronterizo, con el fin de detectar, reconocer o identificar a personas físicas, con excepción de la verificación de documentos de viaje

Administración de justicia y procesos democráticos:

Sistemas de IA destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigación e interpretación de hechos y de la ley, así como en la garantía del cumplimiento del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resolución alternativa de litigios;

Sistemas de IA destinados a ser utilizados para influir en el resultado de una elección o referéndum o en el comportamiento electoral de personas físicas que ejerzan su derecho de voto en elecciones o referendos. Quedan excluidos los sistemas de IA a cuyos resultados de salida no estén directamente expuestos las personas físicas, como las herramientas utilizadas para organizar, optimizar o estructurar campañas políticas desde un punto de vista administrativo o logístico.»

(sigue el artículo 7 del Reglamento (UE) 2024/1689)

que los sistemas de IA estén destinados a ser utilizados en cualquiera de los ámbitos que figuran en el anexo III, y

b) que los sistemas de IA planteen un riesgo de perjudicar la salud y la seguridad o de tener repercusiones negativas en los derechos fundamentales, y que dicho riesgo sea equivalente a, o mayor que, el riesgo de perjuicio o de repercusiones negativas que plantean los sistemas de IA de alto riesgo que ya se mencionan en el anexo III.

(que los sistemas de IA presenten un riesgo de perjudicar la salud y la seguridad o de tener consecuencias negativas en los derechos fundamentales, y que dicho riesgo sea igual a, o mayor que, el riesgo de perjuicio o de consecuencias negativas que presentan los sistemas de IA de alto riesgo que ya se mencionan en el anexo III. )

2. Cuando evalúe la condición prevista en el apartado 1, letra b), la Comisión tendrá en cuenta los criterios siguientes:

(Cuando valore el requisito establecido en el apartado 1, letra b), la Comisión tendrá en cuenta los criterios siguientes: )

la finalidad prevista del sistema de IA;

la medida en que se haya utilizado o sea probable que se utilice un sistema de IA;

la naturaleza y la cantidad de los datos tratados y utilizados por el sistema de IA, en particular si se tratan categorías especiales de datos personales;

(la naturaleza y la cantidad de los datos tratados y utilizados por el sistema de IA, en especial si se gestionan categorías especiales de datos personales; )

el grado de autonomía con el que actúa el sistema de IA y la posibilidad de que un ser humano anule una decisión o recomendaciones que puedan dar lugar a un perjuicio;

la medida en que la utilización de un sistema de IA ya haya causado un perjuicio a la salud y la seguridad, haya tenido repercusiones negativas en los derechos fundamentales o haya dado lugar a problemas importantes en relación con la probabilidad de dicho perjuicio o dichas repercusiones negativas, según demuestren, por ejemplo, los informes o las alegaciones documentadas que se presenten a las autoridades nacionales competentes o cualquier otro informe, según proceda;

(la medida en que la utilización de un sistema de IA ya haya causado un perjuicio a la salud y la seguridad, haya tenido consecuencias negativas en los derechos fundamentales o haya dado lugar a problemas importantes en relación con la probabilidad de dicho perjuicio o dichas consecuencias negativas, según demuestren, por ejemplo, los informes o las alegaciones documentadas que se presenten a las autoridades nacionales competentes o cualquier otro informe, según proceda; )

el posible alcance de dicho perjuicio o dichas repercusiones negativas, en particular en lo que respecta a su intensidad y su capacidad para afectar a varias personas o afectar de manera desproporcionada a un determinado colectivo de personas;

(la posible importancia de dicho perjuicio o dichas consecuencias negativas, en especial en lo que respecta a su intensidad y su capacidad para influir a varias personas o influir de manera desequilibrada a un determinado colectivo de personas; )

la medida en que las personas que podrían sufrir dicho perjuicio o dichas repercusiones negativas dependan del resultado generado por un sistema de IA, en particular porque, por motivos prácticos o jurídicos, no sea razonablemente posible renunciar a dicho resultado;

(la medida en que las personas que podrían padecer dicho perjuicio o dichas consecuencias negativas dependan del resultado creado por un sistema de IA, en especial porque, por razones prácticas o jurídicas, no sea razonablemente posible renunciar a dicho resultado; )

la medida en que exista un desequilibrio de poder o las personas que podrían sufrir dicho perjuicio o dichas repercusiones negativas se encuentren en una posición de vulnerabilidad respecto del responsable del despliegue de un sistema de IA, en particular debido a su situación, autoridad, conocimientos, circunstancias económicas o sociales, o edad;

(la medida en que exista un desequilibrio de poder o las personas que podrían padecer dicho perjuicio o dichas consecuencias negativas estén en una posición de vulnerabilidad respecto del responsable del desarrollo de un sistema de IA, en especial debido a su situación, autoridad, conocimientos, circunstancias económicas o sociales, o edad; )

la medida en que sea fácil corregir o revertir el resultado generado utilizando un sistema de IA, teniendo en cuenta las soluciones técnicas disponibles para corregirlo o revertirlo y sin que deba considerarse que los resultados que afectan negativamente a la salud, la seguridad o los derechos fundamentales son fáciles de corregir o revertir;

(la medida en que sea fácil corregir o revertir el resultado creado utilizando un sistema de IA, teniendo en cuenta las soluciones técnicas disponibles para corregirlo o revertirlo y sin que deba valorarse que los resultados que influyen negativamente a la salud, la seguridad o los derechos fundamentales son fáciles de corregir o revertir; )

la probabilidad de que el despliegue del sistema de IA resulte beneficioso para las personas, los colectivos o la sociedad en general, y la magnitud de este beneficio, incluidas posibles mejoras en la seguridad de los productos;

(la probabilidad de que el desarrollo del sistema de IA resulte beneficioso para las personas, los colectivos o la sociedad en general, y la trascendencia de este beneficio, incluidas posibles mejoras en la seguridad de los productos; )

la medida en que el Derecho de la Unión vigente establezca:

(la medida en que el Derecho de la Unión en vigor establezca: )

vías de recurso efectivas en relación con los riesgos que plantea un sistema de IA, con exclusión de las acciones por daños y perjuicios,

(vías de recurso efectivas en relación con los riesgos que presenta un sistema de IA, con exclusión de las acciones por daños y perjuicios,)

ii)

medidas efectivas para prevenir o reducir notablemente esos riesgos.

3. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar la lista del anexo III mediante la supresión de sistemas de IA de alto riesgo cuando se reúnan las dos condiciones siguientes:

( La Comisión estará facultada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar la lista del anexo III mediante la supresión de sistemas de IA de alto riesgo cuando se reúnan los dos requisitos siguientes: )

que los sistemas de IA de alto riesgo de que se trate ya no planteen riesgos considerables para los derechos fundamentales, la salud o la seguridad, teniendo en cuenta los criterios enumerados en el apartado 2;

(que los sistemas de IA de alto riesgo de que se trate ya no presenten riesgos considerables para los derechos fundamentales, la salud o la seguridad, teniendo en cuenta los criterios enumerados en el apartado 2;)

que la supresión no reduzca el nivel general de protección de la salud, la seguridad y los derechos fundamentales con arreglo al Derecho de la Unión.»

El artículo 11 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 11. Documentación técnica

1. La documentación técnica de un sistema de IA de alto riesgo se elaborará antes de su introducción en el mercado o puesta en servicio, y se mantendrá actualizada.

(La documentación técnica de un sistema de IA de alto riesgo se preparará antes de su insercción en el mercado o puesta en servicio, y se mantendrá actualizada. )

Dicha documentación técnica se redactará de modo que demuestre que el sistema de IA de alto riesgo cumple los requisitos establecidos en la presente sección y que proporcione de manera clara y completa a las autoridades nacionales competentes y a los organismos notificados la información necesaria para evaluar la conformidad del sistema de IA con dichos requisitos. Contendrá, como mínimo, los elementos contemplados en el anexo IV. Las pymes –incluidas las empresas emergentes– y las pequeñas empresas de mediana capitalización podrán presentar los elementos de la documentación técnica especificada en el anexo IV de manera simplificada. A tal fin, la Comisión establecerá un formulario simplificado de documentación técnica orientado a las necesidades de las pymes –incluidas las empresas emergentes– y las pequeñas empresas de mediana capitalización. Cuando una pyme –incluidas las empresas emergentes– o una pequeña empresa de mediana capitalización opte por presentar la información exigida en el anexo IV de manera simplificada, utilizará el formulario a que se refiere el presente apartado. Los organismos notificados aceptarán dicho formulario a efectos de la evaluación de la conformidad.

(Dicha documentación técnica se redactará de modo que demuestre que el sistema de IA de alto riesgo cumple los requisitos establecidos en la presente sección y que facilite de manera clara y completa a las autoridades nacionales competentes y a los organismos notificados la información necesaria para valorar la adecuación del sistema de IA con dichos requisitos. Incluirá, como mínimo, los elementos mencionados en el anexo IV. Las pymes –incluidas las empresas emergentes– y las pequeñas empresas de mediana instalación podrán presentar los datos de la documentación técnica determinada en el anexo IV de manera simplificada. A tal fin, la Comisión establecerá un formulario simplificado de documentación técnica orientado a las necesidades de las pymes –incluidas las empresas emergentes– y las pequeñas empresas de mediana instalación. Cuando una pyme –incluidas las empresas emergentes– o una pequeña empresa de mediana instalación opte por presentar la información exigida en el anexo IV de manera simplificada, utilizará el formulario a que se refiere el presente apartado. Los organismos notificados aceptarán dicho formulario a los fines de la valoración de la adecuación. )

El anexo IV del Reglamento (UE) 2024/1689 establece lo siguiente:

«ANEXO IV. Documentación técnica a que se refiere el artículo 11, apartado 1

La documentación técnica a que se refiere el artículo 11, apartado 1, incluirá como mínimo la siguiente información, aplicable al sistema de IA pertinente:

((La documentación técnica a que se refiere el artículo 11, apartado 1, incluirá como mínimo la siguiente información, aplicable al sistema de IA correspondiente: )

Una descripción general del sistema de IA que incluya:

su finalidad prevista, el nombre del proveedor y la versión del sistema de tal manera que se refleje su relación con versiones anteriores;

(su finalidad establecida, el nombre del suministrador y la versión del sistema de tal manera que se refleje su relación con versiones anteriores;)

la manera en que el sistema de IA interactúa o puede utilizarse para interactuar con hardware o software, también con otros sistemas de IA, que no formen parte del propio sistema de IA, cuando proceda;

(la manera en que el sistema de IA se relaciona o puede utilizarse para relacionarse con hardware o software, también con otros sistemas de IA, que no formen parte del propio sistema de IA, cuando proceda; )

las versiones de software o firmware pertinentes y todo requisito relacionado con la actualización de versiones;

(las versiones de software o firmware procedentes y todo requisito relacionado con la actualización de versiones;)

la descripción de todas las formas en que el sistema de IA se introduce en el mercado o se pone en servicio, como paquetes de software integrados en el hardware, descargas o API;

(la descripción de todas las formas en que el sistema de IA se inserta en el mercado o se pone en servicio, como paquetes de software integrados en el hardware, descargas o API; )

la descripción del hardware en el que está previsto que se ejecute el sistema de IA;

(la descripción del hardware en el que está proyectado que se ejecute el sistema de IA; )

en el caso de que el sistema de IA sea un componente de un producto, fotografías o ilustraciones de las características exteriores, el marcado y la configuración interna de dicho producto;

una descripción básica de la interfaz de usuario facilitada al responsable del despliegue;

(una descripción básica de la interfaz de usuario facilitada al responsable de la distribución; )

instrucciones de uso para el responsable del despliegue y una descripción básica de la interfaz de usuario facilitada al responsable del despliegue, cuando proceda.

(instrucciones de uso para el responsable de la distribución y una descripción básica de la interfaz de usuario facilitada al responsable de la distribución, cuando proceda. )

Una descripción detallada de los elementos del sistema de IA y de su proceso de desarrollo, incluidos:

los métodos y las medidas adoptados para el desarrollo del sistema de IA, incluido, en su caso, el recurso a sistemas o herramientas previamente entrenados facilitados por terceros y la manera en que han sido utilizados, integrados o modificados por el proveedor;

(los métodos y las medidas aprobados para el desarrollo del sistema de IA, incluido, en su caso, el recurso a sistemas o herramientas anteriormente entrenados facilitados por otros y la manera en que han sido utilizados, incluidos o modificados por el suministrador;)

las especificaciones de diseño del sistema, a saber, la lógica general del sistema de IA y de los algoritmos; las decisiones clave de diseño, incluidos la lógica y los supuestos de los que se ha partido, también con respecto a las personas o colectivos de personas en relación con los que está previsto que se utilice el sistema; las principales decisiones de clasificación; aquello que el sistema está diseñado para optimizar y la pertinencia de los diversos parámetros; la descripción de los resultados de salida esperados del sistema y la calidad de dichos resultados; las decisiones adoptadas acerca de cualquier posible concesión con respecto a las soluciones técnicas adoptadas para dar cumplimiento a los requisitos establecidos en el capítulo III, sección 2;

la arquitectura del sistema, con una explicación de la manera en que los componentes del software se utilizan o enriquecen mutuamente y de la manera en que se integran en el procesamiento general; los recursos informáticos utilizados para desarrollar, entrenar, probar y validar el sistema de IA;

(la estructura del sistema, con una explicación de la manera en que los componentes del software se utilizan o enriquecen mutuamente y de la manera en que se incluyen en el procesamiento general; los medios informáticos utilizados para desarrollar, entrenar, probar y comprobar el sistema de IA; )

cuando proceda, los requisitos en materia de datos, en forma de fichas técnicas que describan las metodologías y técnicas de entrenamiento, así como los conjuntos de datos de entrenamiento utilizados, e incluyan una descripción general de dichos conjuntos de datos e información acerca de su procedencia, su alcance y sus características principales; la manera en que se obtuvieron y seleccionaron los datos; los procedimientos de etiquetado (p. ej., para el aprendizaje supervisado) y las metodologías de depuración de datos (p. ej., la detección de anomalías);

(cuando proceda, los requisitos en materia de datos, en forma de fichas técnicas que describan los métodos y técnicas de entrenamiento, así como los grupos de datos de entrenamiento utilizados, e incluyan una descripción general de dichos grupos de datos e información acerca de su procedencia, su alcance y sus características principales; la manera en que se obtuvieron y seleccionaron los datos; los procedimientos de etiquetado (p. ej., para el aprendizaje supervisado) y los métodos de depuración de datos (p. ej., la detección de anomalías); )

una evaluación de las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluida una evaluación de las medidas técnicas necesarias para facilitar la interpretación de los resultados de salida de los sistemas de IA por parte de los responsables del despliegue, con arreglo al artículo 13, apartado 3, letra d);

(una valoración de las medidas de control humano necesarias de acuerdo con el artículo 14, incluida una valoración de las medidas técnicas necesarias para facilitar la interpretación de los resultados de salida de los sistemas de IA por parte de los responsables de la distribución, de acuerdo con el artículo 13, apartado 3, letra d); )

en su caso, una descripción detallada de los cambios predeterminados en el sistema de IA y su funcionamiento, junto con toda la información pertinente relativa a las soluciones técnicas adoptadas con el objetivo de garantizar la conformidad permanente del sistema de IA con los requisitos pertinentes establecidos en el capítulo III, sección 2;

(en su caso, una descripción detallada de los cambios predeterminados en el sistema de IA y su funcionamiento, junto con toda la información procedente relativa a las soluciones técnicas aceptadas con el objetivo de garantizar la adecuación permanente del sistema de IA con los requisitos procedentes establecidos en el capítulo III, sección 2; )

(en su caso, una descripción detallada de los cambios predeterminados en el sistema de IA y su funcionamiento, junto con toda la información procedente relativa a las soluciones técnicas aprobadas con el objetivo de garantizar la adecuación permanente del sistema de IA con los requisitos procedentes establecidos en el capítulo III, sección 2; )

una descripción básica de la interfaz de usuario facilitada al responsable del despliegue;

instrucciones de uso para el responsable de la distribución y una descripción básica de la interfaz de usuario facilitada al responsable de la distribución, cuando proceda.

Una descripción detallada de los elementos del sistema de IA y de su proceso de desarrollo, incluidos:

(los métodos y las medidas aprobados para el desarrollo del sistema de IA, incluido, en su caso, el recurso a sistemas o herramientas previamente entrenados facilitados por otros y la manera en que han sido utilizados, incluidos o modificados por el suministrador; )

(las determinaciones de diseño del sistema, a saber, la lógica general del sistema de IA y de los algoritmos; las decisiones clave de diseño, incluidos la lógica y los casos de los que se ha partido, también con respecto a las personas o colectivos de personas en relación con los que está proyectado que se utilice el sistema; las principales decisiones de clasificación; aquello que el sistema está diseñado para perfeccionar y la procedencia de los diversos parámetros; la descripción de los resultados de salida esperados del sistema y la calidad de dichos resultados; las decisiones tomadas acerca de cualquier posible concesión con respecto a las soluciones técnicas tomadas para dar cumplimiento a los requisitos establecidos en el capítulo III, sección 2; )

(la estructura del sistema, con una explicación de la manera en que los componentes del software se utilizan o enriquecen mutuamente y de la manera en que se intcluyen en el procesamiento general; los medios informáticos utilizados para desarrollar, entrenar, probar y aprobar el sistema de IA; )

(una valoración de las medidas de control humana necesarias de acuerdo con el artículo 14, incluida una valoración de las medidas técnicas necesarias para facilitar la interpretación de los resultados de salida de los sistemas de IA por parte de los responsables del desarrollo de acuerdo con el artículo 13, apartado 3, letra d); )

El artículo 14 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 14. Supervisión humana

1. Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de modo que puedan ser vigilados de manera efectiva por personas físicas durante el período que estén en uso, lo que incluye dotarlos de herramientas de interfaz humano-máquina adecuadas.

2. El objetivo de la supervisión humana será prevenir o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales que pueden surgir cuando se utiliza un sistema de IA de alto riesgo conforme a su finalidad prevista o cuando se le da un uso indebido razonablemente previsible, en particular cuando dichos riesgos persistan a pesar de la aplicación de otros requisitos establecidos en la presente sección.

(El objetivo del control humano será evitar o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales que pueden nacer cuando se utiliza un sistema de IA de alto riesgo conforme a su finalidad proyectada o cuando se le da un uso indebido razonablemente evitable, en especial cuando dichos riesgos continúen a pesar de la aplicación de otros requisitos establecidos en esta sección. )

3. Las medidas de supervisión serán proporcionales a los riesgos, al nivel de autonomía y al contexto de uso del sistema de IA de alto riesgo, y se garantizarán bien mediante uno de los siguientes tipos de medidas, bien mediante ambos:

(Las medidas de control serán equitativas a los riesgos, al grado de autonomía y al contexto de uso del sistema de IA de alto riesgo, y se garantizarán bien mediante uno de los siguientes tipos de medidas, bien mediante ambos: )

las medidas que el proveedor defina y que integre, cuando sea técnicamente viable, en el sistema de IA de alto riesgo antes de su introducción en el mercado o su puesta en servicio;

(las medidas que el suministrador defina y que incluya, cuando sea técnicamente posible, en el sistema de IA de alto riesgo antes de su inclusión en el mercado o su puesta en servicio;)

b)
las medidas que el proveedor defina antes de la introducción del sistema de IA de alto riesgo en el mercado o de su puesta en servicio y que sean adecuadas para que las ponga en práctica el responsable del despliegue.

(las medidas que el suministrador defina antes de la inclusión del sistema de IA de alto riesgo en el mercado o de su puesta en servicio y que sean adecuadas para que las ponga en práctica el responsable del desarrollo.)

4. A efectos de la puesta en práctica de lo dispuesto en los apartados 1, 2 y 3, el sistema de IA de alto riesgo se ofrecerá al responsable del despliegue de tal modo que las personas físicas a quienes se encomiende la supervisión humana puedan, según proceda y de manera proporcionada a

(A los fines de la puesta en práctica de lo dispuesto en los apartados 1, 2 y 3, el sistema de IA de alto riesgo se ofrecerá al responsable del desarrollo de tal modo que las personas físicas a quienes se encargue del control humano puedan, según corresponda y de manera adecuada a )

entender adecuadamente las capacidades y limitaciones pertinentes del sistema de IA de alto riesgo y poder vigilar debidamente su funcionamiento, por ejemplo, con vistas a detectar y resolver anomalías, problemas de funcionamiento y comportamientos inesperados;

(entender adecuadamente las capacidades y limitaciones procedentes del sistema de IA de alto riesgo y poder vigilar debidamente su funcionamiento, por ejemplo, con vistas a descubrir y resolver anomalías, problemas de funcionamiento y comportamientos inesperados; )

ser conscientes de la posible tendencia a confiar automáticamente o en exceso en los resultados de salida generados por un sistema de IA de alto riesgo («sesgo de automatización»), en particular con aquellos sistemas que se utilizan para aportar información o recomendaciones con el fin de que personas físicas adopten una decisión;

(ser conscientes de la posible tendencia a confiar mecánicamente o en exceso en los resultados de salida creados por un sistema de IA de alto riesgo («sesgo de automatización»), en especial con aquellos sistemas que se utilizan para presentar información o recomendaciones con el fin de que personas físicas tomen una decisión; )

c)
interpretar correctamente los resultados de salida del sistema de IA de alto riesgo, teniendo en cuenta, por ejemplo, los métodos y herramientas de interpretación disponibles;

d)
decidir, en cualquier situación concreta, no utilizar el sistema de IA de alto riesgo o descartar, invalidar o revertir los resultados de salida que este genere;

intervenir en el funcionamiento del sistema de IA de alto riesgo o interrumpir el sistema pulsando un botón de parada o mediante un procedimiento similar que permita que el sistema se detenga de forma segura.

(intervenir en el funcionamiento del sistema de IA de alto riesgo o interrumpir el sistema pulsando un botón de parada o mediante un procedimiento similar que posibilite que el sistema se detenga de forma segura. )

5. En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 1, letra a), las medidas a que se refiere el apartado 3 del presente artículo garantizarán, además, que el responsable del despliegue no actúe ni tome ninguna decisión basándose en la identificación generada por el sistema, salvo si al menos dos personas físicas con la competencia, formación y autoridad necesarias han verificado y confirmado por separado dicha identificación.

(En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 1, letra a), las medidas a que se refiere el apartado 3 del presente artículo garantizarán, además, que el responsable del desarrollo no actúe ni tome ninguna decisión basándose en la identificación creada por el sistema, salvo si al menos dos personas físicas con la cualificación, formación y autoridad necesarias han comprobado y confirmado por separado dicha identificación. )

El requisito de la verificación por parte de al menos dos personas físicas por separado no se aplicará a los sistemas de IA de alto riesgo utilizados con fines de garantía del cumplimiento del Derecho, de migración, de control fronterizo o de asilo cuando el Derecho nacional o de la Unión considere que la aplicación de este requisito es desproporcionada.»

(El requisito de la comprobación por parte de al menos dos personas físicas por separado no se aplicará a los sistemas de IA de alto riesgo utilizados con fines de garantía del cumplimiento del Derecho, de migración, de control fronterizo o de asilo cuando el Derecho nacional o de la Unión entienda que la aplicación de este requisito es desequilibrada.)

(sigue el anexo IV del Reglamento (UE) 2024/1689)

(en su caso, una descripción detallada de los cambios preestablecidos en el sistema de IA y su funcionamiento, junto con toda la información procedente relativa a las soluciones técnicas aprobadas con el objetivo de garantizar la adecuación continua del sistema de IA con los requisitos procedentes establecidos en el capítulo III, sección 2; )

los procedimientos de validación y prueba utilizados, incluida la información acerca de los datos de validación y prueba empleados y sus características principales; los parámetros utilizados para medir la precisión, la solidez y el cumplimiento de otros requisitos pertinentes establecidos en el capítulo III, sección 2, así como los efectos potencialmente discriminatorios; los archivos de registro de las pruebas y todos los informes de las pruebas fechados y firmados por las personas responsables, también en lo que respecta a los cambios predeterminados a que se refiere la letra f);

(los procedimientos de comprobación y prueba utilizados, incluida la información acerca de los datos de comprobación y prueba empleados y sus características principales; los medios utilizados para medir la precisión, la solidez y el cumplimiento de otros requisitos procedentes establecidos en el capítulo III, sección 2, así como los efectos hipotéticamente discriminatorios; los archivos de registro de las pruebas y todos los informes de las pruebas fechados y firmados por las personas responsables, también en lo que respecta a los cambios predeterminados a que se refiere la letra f); )

las medidas de ciberseguridad adoptadas.

(las medidas de ciberseguridad aprobadas. )

Información detallada acerca de la supervisión, el funcionamiento y el control del sistema de IA, en particular con respecto a sus capacidades y limitaciones de funcionamiento, incluidos los niveles de precisión para las personas o colectivos de personas específicos en relación con los que está previsto que se utilice el sistema y el nivel general de precisión esperado en relación con su finalidad prevista; los resultados no deseados previsibles y las fuentes de riesgo para la salud y la seguridad, los derechos fundamentales y la discriminación, en vista de la finalidad prevista del sistema de IA; las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados de salida de los sistemas de IA por parte de los responsables del despliegue; las especificaciones de los datos de entrada, según proceda.

(Información detallada acerca de la supervisión, el funcionamiento y el control del sistema de IA, en especial con respecto a sus capacidades y limitaciones de funcionamiento, incluidos los grados de concreción para las personas o colectivos de personas concretos en relación con los que está proyectado que se utilice el sistema y el nivel general de precisión esperado en relación con su finalidad proyectada; los resultados no deseados previsibles y las fuentes de riesgo para la salud y la seguridad, los derechos fundamentales y la discriminación, en vista de la finalidad proyectada del sistema de IA; las medidas de control humana necesarias de acuerdo con el artículo 14, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados de salida de los sistemas de IA por parte de los responsables del desarrollo; las determinaciones de los datos de entrada, según corresponda. )

Una descripción de la idoneidad de los parámetros de rendimiento para el sistema de IA concreto.

(Una descripción de la adecuación de los parámetros de rendimiento para el sistema de IA concreto.)

Una descripción detallada del sistema de gestión de riesgos con arreglo al artículo 9.

(Una descripción detallada del sistema de gestión de riesgos de acuerdo con el artículo 9.)

Una descripción de los cambios pertinentes realizados por el proveedor en el sistema a lo largo de su ciclo de vida.

(Una descripción de los cambios procedentes realizados por el suministrador en el sistema a lo largo de su ciclo de vida.)

Una lista de las normas armonizadas, aplicadas total o parcialmente, cuyas referencias se hayan publicado en el Diario Oficial de la Unión Europea; cuando no se hayan aplicado normas armonizadas, una descripción detallada de las soluciones adoptadas para cumplir los requisitos establecidos en el capítulo III, sección 2, incluida una lista de otras normas y especificaciones técnicas pertinentes que se hayan aplicado.

(Una lista de las normas unificadas, aplicadas total o parcialmente, cuyas referencias se hayan publicado en el Diario Oficial de la Unión Europea; cuando no se hayan aplicado normas unificadas, una descripción detallada de las soluciones aprobadas para cumplir los requisitos establecidos en el capítulo III, sección 2, incluida una lista de otras normas y determinaciones técnicas procedentes que se hayan aplicado.)

Una copia de la declaración UE de conformidad de conformidad con el artículo 47.

(Una copia de la declaración UE de adecuación de acuerdo con el artículo 47.)

Una descripción detallada del sistema establecido para evaluar el funcionamiento del sistema de IA en la fase posterior a la comercialización, de conformidad con el artículo 72, incluido el plan de vigilancia poscomercialización a que se refiere el artículo 72, apartado 3.»

(Una descripción detallada del sistema establecido para valorar el funcionamiento del sistema de IA en la fase posterior a la comercialización, de acuerdo con el artículo 72, incluido el plan de vigilancia poscomercialización a que se refiere el artículo 72, apartado 3.)

El artículo 72 del Reglamento (UE) 2024/1689 dispone lo siguiente:

«Artículo 72. Vigilancia poscomercialización por parte de los proveedores y plan de vigilancia poscomercialización para sistemas de IA de alto riesgo

1. Los proveedores establecerán y documentarán un sistema de vigilancia poscomercialización de forma proporcionada a la naturaleza de las tecnologías de IA y a los riesgos de los sistemas de IA de alto riesgo.

(Los suministradores establecerán y documentarán un sistema de vigilancia poscomercialización de forma adecuada a la naturaleza de las tecnologías de IA y a los riesgos de los sistemas de IA de alto riesgo. )

2. El sistema de vigilancia poscomercialización recopilará, documentará y analizará de manera activa y sistemática los datos pertinentes que pueden facilitar los responsables del despliegue o que pueden recopilarse a través de otras fuentes sobre el funcionamiento de los sistemas de IA de alto riesgo durante toda su vida útil, y que permiten al proveedor evaluar el cumplimiento permanente de los requisitos establecidos en el capítulo III, sección 2, por parte de los sistemas de IA. Cuando proceda, la vigilancia poscomercialización incluirá un análisis de la interacción con otros sistemas de IA. Esta obligación no comprenderá los datos operativos sensibles de los responsables del despliegue que sean autoridades garantes del cumplimiento del Derecho.

(El sistema de vigilancia poscomercialización reunirá, documentará y analizará de manera activa y organizada los datos procedentes que pueden facilitar los responsables del desarrollo o que pueden reunirse a través de otras fuentes sobre el funcionamiento de los sistemas de IA de alto riesgo durante toda su vida útil, y que posibilitan al suministrador valorar el cumplimiento constante de los requisitos establecidos en el capítulo III, sección 2, por parte de los sistemas de IA. Cuando corresponda, la vigilancia poscomercialización incluirá un análisis de la interrelación con otros sistemas de IA. Esta obligación no incluirá los datos funcionales sensibles de los responsables del desarollo que sean autoridades aseguradoras del cumplimiento del Derecho. )

3. El sistema de vigilancia poscomercialización se basará en un plan de vigilancia poscomercialización. El plan de vigilancia poscomercialización formará parte de la documentación técnica a que se refiere el anexo IV. La Comisión, teniendo en cuenta en la mayor medida posible el dictamen del Consejo de IA, adoptará orientaciones –que incluirán un modelo– sobre el plan de seguimiento poscomercialización a más tardar el 2 de septiembre de 2027.».

(El sistema de vigilancia poscomercialización se basará en un plan de vigilancia poscomercialización. El plan de vigilancia poscomercialización formará parte de la documentación técnica a que se refiere el anexo IV. La Comisión, teniendo en cuenta en la mayor medida posible el dictamen del Consejo de IA, aprobará orientaciones –que incluirán un modelo– sobre el plan de control poscomercialización lo más tarde el 2 de septiembre de 2027.». )

4. En el caso de los sistemas de IA de alto riesgo regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, cuando ya se hayan establecido un sistema y un plan de vigilancia poscomercialización con arreglo a dichos actos, con el fin de garantizar la coherencia, evitar duplicidades y reducir al mínimo las cargas adicionales, los proveedores podrán optar por integrar, según proceda, los elementos necesarios descritos en los apartados 1, 2 y 3, utilizando el modelo a que se refiere el apartado 3, en los sistemas y planes que ya existan en virtud de dicha legislación, siempre que alcance un nivel de protección equivalente.

(En el caso de los sistemas de IA de alto riesgo regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A, cuando ya se hayan establecido un sistema y un plan de vigilancia poscomercialización de acuerdo con dichos actos, con el fin de garantizar la coherencia, evitar duplicidades y reducir al mínimo las cargas adicionales, los proveedores podrán optar por incluir, según corresponda, los componentes necesarios descritos en los apartados 1, 2 y 3, utilizando el modelo a que se refiere el apartado 3, en los sistemas y planes que ya existan en aplicación de dicha legislación, siempre que alcance un nivel de protección semejante. )

El párrafo primero del presente apartado también se aplicará a los sistemas de IA de alto riesgo a que se refiere el anexo III, punto 5, introducidos en el mercado o puestos en servicio por entidades financieras sujetas a requisitos relativos a su gobernanza, sus sistemas o sus procesos internos en virtud del Derecho de la Unión en materia de servicios financieros.»

(El párrafo primero de este apartado también se aplicará a los sistemas de IA de alto riesgo a que se refiere el anexo III, punto 5, incluidos en el mercado o puestos en servicio por entidades financieras sujetas a requisitos relativos a su dirección, sus sistemas o sus procesos internos en aplicación del Derecho de la Unión en materia de servicios financieros.)

(sigue el artículo 11 del Reglamento (UE) 2024/1689)

2. Cuando se introduzca en el mercado o se ponga en servicio un sistema de IA de alto riesgo asociado a un producto que entre en el ámbito de aplicación de los actos legislativos de armonización de la Unión mencionados en el anexo I, sección A, se elaborará un único conjunto de documentos técnicos que contenga toda la información mencionada en el apartado 1, así como la información que exijan dichos actos legislativos.

(Cuando se incluya en el mercado o se ponga en servicio un sistema de IA de alto riesgo vinculado a un producto que entre en el ámbito de aplicación de los actos legislativos de unificación de la Unión mencionados en el anexo I, sección A, se preparará un único conjunto de documentos técnicos que incluya toda la información mencionada en el apartado 1, así como la información que exijan dichos actos legislativos. )

3. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo IV, cuando sea necesario, para garantizar que, en vista de los avances técnicos, la documentación técnica proporcione toda la información necesaria para evaluar si el sistema cumple los requisitos establecidos en la presente sección.»

(La Comisión estará habilitada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar el anexo IV, cuando sea necesario, para garantizar que, en vista de los avances técnicos, la documentación técnica suministre toda la información necesaria para valorar si el sistema cumple los requisitos establecidos en esta sección.)

El artículo 30 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 30. Procedimiento de notificación

1. Las autoridades notificantes solo podrán notificar organismos de evaluación de la conformidad que hayan cumplido los requisitos establecidos en el artículo 31.

(Las autoridades notificantes solo podrán notificar organismos de valoración de la adecuación que hayan cumplido los requisitos establecidos en el artículo 31. )

El artículo 31 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 31. Requisitos relativos a los organismos notificados

1. Los organismos notificados se establecerán de conformidad con el Derecho nacional de los Estados miembros y tendrán personalidad jurídica.

2. Los organismos notificados satisfarán los requisitos organizativos, de gestión de la calidad, recursos y procesos, necesarios para el desempeño de sus funciones, así como los requisitos adecuados en materia de ciberseguridad.

(Los organismos notificados cumplirán los requisitos estructurales, de gestión de la calidad, medios y procesos, necesarios para el desarrollo de sus funciones, así como los requisitos adecuados en materia de ciberseguridad.)

3. La estructura organizativa, la distribución de las responsabilidades, la línea jerárquica y el funcionamiento de los organismos notificados ofrecerán confianza en su desempeño y en los resultados de las actividades de evaluación de la conformidad que realicen los organismos notificados.

(La estructura organizativa, la distribución de las responsabilidades, la línea jerárquica y el funcionamiento de los organismos notificados ofrecerán confianza en su ejercicio y en los resultados de las actividades de valoración de la adecuación que realicen los organismos notificados.)

4. Los organismos notificados serán independientes del proveedor de un sistema de IA de alto riesgo en relación con el cual lleven a cabo actividades de evaluación de la conformidad. Los organismos notificados serán independientes de cualquier otro operador con un interés económico en los sistemas de IA de alto riesgo que se evalúen, así como de cualquier competidor del proveedor. Ello no será óbice para el uso de sistemas de IA de alto riesgo evaluados que sean necesarios para las actividades del organismo de evaluación de la conformidad o para el uso de tales sistemas de alto riesgo con fines personales.

( Los organismos notificados serán independientes del suministrador de un sistema de IA de alto riesgo en relación con el cual lleven a cabo actividades de valoración de la adecuación. Los organismos notificados serán independientes de cualquier otro operador con un interés económico en los sistemas de IA de alto riesgo que se valoren, así como de cualquier competidor del suministrador. Ello no será obstáculo para el uso de sistemas de IA de alto riesgo valorados que sean necesarios para las actividades del organismo de valoración de la adecuación o para el uso de dichos sistemas de alto riesgo con fines personales. )

5. Los organismos de evaluación de la conformidad, sus máximos directivos y el personal responsable de la realización de las tareas de evaluación de la conformidad no intervendrán directamente en el diseño, el desarrollo, la comercialización o el uso de dichos sistemas de IA de alto riesgo, ni tampoco representarán a las partes que llevan a cabo estas actividades. Además, no efectuarán ninguna actividad que pudiera entrar en conflicto con su independencia de criterio o su integridad en relación con las actividades de evaluación de la conformidad para las que han sido notificados. Ello se aplicará especialmente a los servicios de consultoría.

(Los organismos de valoración de la adecuación, sus máximos directivos y el personal responsable de la realización de las tareas de valoración de la adecuación no intervendrán directamente en el diseño, el desarrollo, la comercialización o el uso de dichos sistemas de IA de alto riesgo, ni tampoco representarán a las partes que llevan a cabo estas actividades. Además, no efectuarán ninguna actividad que pudiera entrar en conflicto con su independencia de criterio o su honestidad en relación con las actividades de valoración de la adecuación para las que han sido notificados. Ello se aplicará especialmente a los servicios de consultoría. )

6. Los organismos notificados estarán organizados y gestionados de modo que se garantice la independencia, objetividad e imparcialidad de sus actividades. Los organismos notificados documentarán e implantarán una estructura y procedimientos que garanticen la imparcialidad y permitan promover y poner en práctica los principios de imparcialidad aplicables en toda su organización, a todo su personal y en todas sus actividades de evaluación.

(Los organismos notificados estarán organizados y gestionados de modo que se garantice la independencia, objetividad e imparcialidad de sus actividades. Los organismos notificados documentarán e insertarán una estructura y procedimientos que garanticen la imparcialidad y posibiliten impulsar y poner en práctica los principios de imparcialidad aplicables en toda su organización, a todo su personal y en todas sus actividades de valoración. )

7. Los organismos notificados contarán con procedimientos documentados que garanticen que su personal, sus comités, sus filiales, sus subcontratistas y todos sus organismos asociados o personal de organismos externos mantengan, de conformidad con el artículo 78, la confidencialidad de la información que llegue a su poder en el desempeño de las actividades de evaluación de la conformidad, excepto en aquellos casos en que la ley exija su divulgación. El personal de los organismos notificados estará sujeto al secreto profesional en lo que respecta a toda la información obtenida en el ejercicio de las funciones que les hayan sido encomendadas en virtud del presente Reglamento, salvo en relación con las autoridades notificantes del Estado miembro en el que desarrollen sus actividades.

(Los organismos notificados dispondrán de procedimientos documentados que garanticen que su personal, sus comités, sus filiales, sus subcontratistas y todos sus organismos asociados o personal de organismos externos mantengan, de acuerdo con el artículo 78, la confidencialidad de la información que llegue a su poder en el ejercicio de las actividades de valoración de la adecuación, salvo en aquellos casos en que la ley exija su difusión. El personal de los organismos notificados estará sujeto al secreto profesional en lo que respecta a toda la información obtenida en el ejercicio de las funciones que les hayan sido encargadas en aplicación de este Reglamento, salvo en relación con las autoridades notificantes del Estado miembro en el que desarrollen sus actividades.)

8. Los organismos notificados contarán con procedimientos para desempeñar sus actividades que tengan debidamente en cuenta el tamaño de los proveedores, el sector en que operan, su estructura y el grado de complejidad del sistema de IA de que se trate.

(Los organismos notificados dispondrán de procedimientos para realizar sus actividades que tengan debidamente en cuenta el tamaño de los suministradores, el sector en que actúan, su estructura y el grado de complejidad del sistema de IA de que se trate.

9. Los organismos notificados suscribirán un seguro de responsabilidad adecuado para sus actividades de evaluación de la conformidad, salvo que la responsabilidad la asuma el Estado miembro en que estén establecidos con arreglo al Derecho nacional o que el propio Estado miembro sea directamente responsable de la evaluación de la conformidad.

(Los organismos notificados suscribirán un seguro de responsabilidad adecuado para sus actividades de valoración de la adecuación, salvo que la responsabilidad la acepte el Estado miembro en que estén establecidos de acuerdo con el Derecho nacional o que el propio Estado miembro sea directamente responsable de la valoración de la adecuación.)

10. Los organismos notificados serán capaces de llevar a cabo todas sus tareas con arreglo al presente Reglamento con el máximo grado de integridad profesional y la competencia técnica necesaria en el ámbito específico, tanto si dichas tareas las efectúan los propios organismos notificados como si se realizan en su nombre y bajo su responsabilidad.

(Los organismos notificados serán capaces de llevar a cabo todas sus tareas de acuerdo con este Reglamento con el máximo grado de honestidd profesional y la cualificación técnica necesaria en el ámbito concreto, tanto si dichas tareas las efectúan los propios organismos notificados como si se realizan en su nombre y bajo su responsabilidad.)

11. Los organismos notificados contarán con competencias técnicas internas suficientes para poder evaluar de manera eficaz las tareas que lleven a cabo agentes externos en su nombre. El organismo notificado dispondrá permanentemente de suficiente personal administrativo, técnico, jurídico y científico que tenga experiencia y conocimientos relativos a los tipos de sistemas de IA, los datos y la computación de datos pertinentes y a los requisitos establecidos en la sección 2.

(Los organismos notificados dispondrán de competencias técnicas internas suficientes para poder valorar de manera eficaz las tareas que lleven a cabo agentes externos en su nombre. El organismo notificado dispondrá permanentemente de suficiente personal administrativo, técnico, jurídico y científico que tenga experiencia y conocimientos relativos a los tipos de sistemas de IA, los datos y la computación de datos procedentes y a los requisitos establecidos en la sección 2. )

12. Los organismos notificados participarán en las actividades de coordinación según lo previsto en el artículo 38. Asimismo, tomarán parte directamente o mediante representación en organizaciones europeas de normalización, o se asegurarán de mantenerse al corriente de la situación actualizada de las normas pertinentes.»

( Los organismos notificados participarán en las actividades de coordinación según lo establecido en el artículo 38. Asimismo, tomarán parte directamente o mediante autorización en organizaciones europeas de unificación, o se asegurarán de mantenerse al día de la situación actualizada de las normas correspondientes.)

(sigue el artículo 30 del Reglamento (UE) 2024/1689)

2. Las autoridades notificantes notificarán a la Comisión y a los demás Estados miembros, sobre la base de la lista de códigos, categorías y tipos correspondientes de sistemas de IA que figura en el anexo XIV y mediante el sistema de notificación electrónica desarrollado y gestionado por la Comisión, cada organismo de evaluación de la conformidad a que se refiere el apartado 1.

(Las autoridades notificantes notificarán a la Comisión y a los demás Estados miembros, sobre la base de la lista de códigos, categorías y tipos correspondientes de sistemas de IA que figura en el anexo XIV y mediante el sistema de notificación electrónica desarrollado y gestionado por la Comisión, cada organismo de valoración de la adecuación a que se refiere el apartado 1.)

La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 por los que se modifique el anexo XIV, a la luz del progreso técnico, de los avances del conocimiento o de nuevos datos científicos, mediante la adición de un nuevo código, categoría o tipo de sistema de IA a la lista de códigos, categorías y tipos correspondientes de sistemas de IA, mediante la retirada de dicha lista de un código, categoría o tipo de sistema de IA que figure en ella o mediante el traslado de un código o tipo de sistema de IA de una categoría a otra.

(La Comisión estará habilitada para aprobar actos delegados de acuerdo con el artículo 97 por los que se modifique el anexo XIV, a la vista del progreso técnico, de los avances del conocimiento o de nuevos datos científicos, mediante la unión de un nuevo código, categoría o tipo de sistema de IA a la lista de códigos, categorías y tipos correspondientes de sistemas de IA, mediante la retirada de dicha lista de un código, categoría o tipo de sistema de IA que figure en ella o mediante el traslado de un código o tipo de sistema de IA de una categoría a otra. )

3. La notificación a que se refiere el apartado 2 del presente artículo incluirá información detallada de las actividades de evaluación de la conformidad, el módulo o módulos de evaluación de la conformidad y los tipos de sistemas de IA afectados, así como la certificación de competencia pertinente. Si la notificación no está basada en el certificado de acreditación a que se refiere el artículo 29, apartado 2, la autoridad notificante facilitará a la Comisión y a los demás Estados miembros las pruebas documentales que demuestren la competencia del organismo de evaluación de la conformidad y las disposiciones existentes destinadas a garantizar que se supervisará periódicamente al organismo y que este continuará satisfaciendo los requisitos establecidos en el artículo 31.

(La notificación a que se refiere el apartado 2 de este artículo incluirá información detallada de las actividades de valoración de la adecuación, la medida o medidas de valoración de la adecuación y los tipos de sistemas de IA aquejados, así como la certificación de adecuación procedente. Si la notificación no está basada en el certificado de demostración a que se refiere el artículo 29, apartado 2, la autoridad notificante facilitará a la Comisión y a los demás Estados miembros las pruebas documentales que demuestren la adecuación del organismo de valoración de la adecuación y las disposiciones existentes destinadas a garantizar que se controlará frecuentemente al organismo y que este continuará cumpliendo los requisitos establecidos en el artículo 31. )

4. El organismo de evaluación de la conformidad de que se trate únicamente podrá realizar las actividades de un organismo notificado si la Comisión o los demás Estados miembros no formulan ninguna objeción en el plazo de dos semanas tras la notificación de una autoridad notificante cuando esta incluya el certificado de acreditación a que se refiere el artículo 29, apartado 2, o de dos meses tras la notificación de la autoridad notificante cuando esta incluya las pruebas documentales a que se refiere el artículo 29, apartado 3.

(El organismo de valoración de la adecuación de que se trate únicamente podrá realizar las actividades de un organismo notificado si la Comisión o los demás Estados miembros no expresan ningún reparo en el plazo de dos semanas tras la notificación de una autoridad notificante cuando esta incluya el certificado de demostración a que se refiere el artículo 29, apartado 2, o de dos meses tras la notificación de la autoridad notificante cuando esta incluya las pruebas documentales a que se refiere el artículo 29, apartado 3. )

5. Cuando se formulen objeciones, la Comisión iniciará sin demora consultas con los Estados miembros pertinentes y el organismo de evaluación de la conformidad. En vista de todo ello, la Comisión enviará su decisión al Estado miembro afectado y al organismo de evaluación de la conformidad pertinente.»

(Cuando se expresen objeciones, la Comisión iniciará sin tardanza consultas con los Estados miembros correspondientes y el organismo de valoración de la adecuación. En vista de todo ello, la Comisión enviará su decisión al Estado miembro aquejado y al organismo de valoración de la adecuación correspondiente.)

El artículo 43 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 43. Evaluación de la conformidad

1. En el caso de los sistemas de IA de alto riesgo enumerados en el anexo III, punto 1, cuando, al demostrar el cumplimiento de los requisitos establecidos en la sección 2 por parte de un sistema de IA de alto riesgo, el proveedor haya aplicado las normas armonizadas a que se refiere el artículo 40, o bien, en su caso, las especificaciones comunes a que se refiere el artículo 41, el proveedor optará por uno de los procedimientos de evaluación de la conformidad siguientes:

(En el caso de los sistemas de IA de alto riesgo enumerados en el anexo III, punto 1, cuando, al demostrar el cumplimiento de los requisitos establecidos en la sección 2 por parte de un sistema de IA de alto riesgo, el suministrador haya aplicado las normas unificadas a que se refiere el artículo 40, o bien, en su caso, las determinaciones comunes a que se refiere el artículo 41, el suministrador optará por uno de los procedimientos de valoración de la adecuación siguientes: )

el fundamentado en el control interno, mencionado en el anexo VI, o

el fundamentado en la evaluación del sistema de gestión de la calidad y la evaluación de la documentación técnica, con la participación de un organismo notificado, mencionado en el anexo VII.

(la razón de la valoración del sistema de gestión de la calidad y la valoración de la documentación técnica, con la participación de un organismo notificado, mencionado en el anexo VII. )

Al demostrar el cumplimiento de los requisitos establecidos en la sección 2 por parte de un sistema de IA de alto riesgo, el proveedor se atendrá al procedimiento de evaluación de la conformidad establecido en el anexo VII cuando:

(Al demostrar el cumplimiento de los requisitos establecidos en la sección 2 por parte de un sistema de IA de alto riesgo, el suministrador se sujetará al procedimiento de valoración de la adecuación establecido en el anexo VII cuando: )

las normas armonizadas a que se refiere el artículo 40 no existan, y no se disponga de las especificaciones comunes a que se refiere el artículo 41;

el proveedor no haya aplicado la norma armonizada, o solo haya aplicado parte de esta;

(el proveedor no haya aplicado la norma unificada, o solo haya aplicado parte de esta; )

existan las especificaciones comunes a que se refiere la letra a), pero el proveedor no las haya aplicado;

(existan las especificaciones comunes a que se refiere la letra a), pero el suministrador no las haya aplicado; )

una o varias de las normas armonizadas a que se refiere la letra a) se hayan publicado con una limitación, y únicamente en la parte de la norma objeto de la limitación.

(una o varias de las normas unificadas a que se refiere la letra a) se hayan publicado con una limitación, y únicamente en la parte de la norma objeto de la limitación. )

A efectos del procedimiento de evaluación de la conformidad mencionado en el anexo VII, el proveedor podrá escoger cualquiera de los organismos notificados. No obstante, cuando se prevea la puesta en servicio del sistema de IA de alto riesgo por parte de las autoridades garantes del cumplimiento del Derecho, las autoridades de inmigración o las autoridades de asilo, o por las instituciones, órganos u organismos de la Unión, la autoridad de vigilancia del mercado mencionada en el artículo 74, apartado 8 o 9, según proceda, actuará como organismo notificado.

(A los fines del procedimiento de valoración de la adecuación mencionado en el anexo VII, el suministrador podrá escoger cualquiera de los organismos notificados. Aun así, cuando se establezca la puesta en servicio del sistema de IA de alto riesgo por parte de las autoridades garantes del cumplimiento del Derecho, las autoridades de inmigración o las autoridades de asilo, o por las instituciones, órganos u organismos de la Unión, la autoridad de vigilancia del mercado mencionada en el artículo 74, apartado 8 o 9, según corresponda, actuará como organismo notificado.)

2. En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 2 a 8, los proveedores se atendrán al procedimiento de evaluación de la conformidad fundamentado en un control interno a que se refiere el anexo VI, que no contempla la participación de un organismo notificado.

(En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 2 a 8, los proveedores se ajustarán al procedimiento de valoración de la adecuación basado en un control interno a que se refiere el anexo VI, que no incluye la participación de un organismo notificado. )

3. En el caso de los sistemas de IA de alto riesgo regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, el proveedor del sistema se atendrá al procedimiento de evaluación de la conformidad pertinente exigido de conformidad con los actos legislativos de armonización de la Unión pertinentes. Los requisitos establecidos en la sección 2 del presente capítulo se aplicarán a dichos sistemas de IA de alto riesgo y formarán parte de dicha evaluación. También se llevará a cabo una evaluación del sistema de gestión de la calidad establecido en el artículo 17, y se aplicarán los puntos 3, 4.3, 4.4 y 4.5, el punto 4.6, párrafo quinto, y el punto 5 del anexo VII.

( En el caso de los sistemas de IA de alto riesgo regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A, el suinistrador del sistema se ajustará al procedimiento de valoración de la adecuación procedente exigido de acuerdo con los actos legislativos de unificación de la Unión corespondientes. Los requisitos establecidos en la sección 2 de este capítulo se aplicarán a dichos sistemas de IA de alto riesgo y formarán parte de dicha valoración. También se llevará a cabo una valoración del sistema de gestión de la calidad establecido en el artículo 17, y se aplicarán los puntos 3, 4.3, 4.4 y 4.5, el punto 4.6, párrafo quinto, y el punto 5 del anexo VI)

A efectos de dicha evaluación de la conformidad, los organismos notificados que hayan sido notificados con arreglo a los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, estarán facultados para evaluar la conformidad de los sistemas de IA de alto riesgo con los requisitos establecidos en la sección 2 del presente capítulo, a condición de que el cumplimiento por parte de dichos organismos notificados de los requisitos establecidos en el artículo 31, apartados 4, 5, 10 y 11, se haya evaluado en el contexto del procedimiento de notificación con arreglo a los actos legislativos de armonización de la Unión pertinentes, lo que se demuestra mediante la evaluación efectuada en el marco de la notificación existente. Sin perjuicio de lo dispuesto en el artículo 28, dichos organismos notificados que hayan sido notificados de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, solicitarán su designación de conformidad con la sección 4 del presente capítulo a más tardar el 28 de enero de 2028.

(A los fines de dicha valoración de la adecuación, los organismos notificados que hayan sido notificados de acuerdo con los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A, estarán facultados para valorar la adecuación de los sistemas de IA de alto riesgo con los requisitos establecidos en la sección 2 del presente capítulo, a condición de que el cumplimiento por parte de dichos organismos notificados de los requisitos establecidos en el artículo 31, apartados 4, 5, 10 y 11, se haya valorado en el contexto del procedimiento de notificación de acuerdo con los actos legislativos de unificación de la Unión correspondientes, lo que se demuestra mediante la valoración efectuada en el ámbito de la notificación existente. Sin que afecte a lo dispuesto en el artículo 28, dichos organismos notificados que hayan sido notificados de acuerdo con los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A, solicitarán su designación de acuerdo con la sección 4 del presente capítulo lo más tarde el 28 de enero de 2028. )

Cuando un acto legislativo de armonización de la Unión enumerado en el anexo I, sección A, permita al fabricante del producto recurrir a una evaluación de la conformidad en la que no participen terceros a condición de que el fabricante haya aplicado normas armonizadas para garantizar el cumplimiento de todos los requisitos pertinentes, dicho fabricante solamente podrá recurrir dicha opción si también ha aplicado normas armonizadas o, en su caso, especificaciones comunes previstas en el artículo 41 que contemplen todos los requisitos establecidos en la sección 2 del presente capítulo. La clasificación de un producto como sistema de IA de alto riesgo de conformidad con el artículo 6, apartado 1, no afecta a las opciones relativas al procedimiento de evaluación de la conformidad de que disponen los fabricantes de productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, incluida, en su caso, la opción de basarse en normas armonizadas. Los fabricantes de dichos productos no están obligados a optar por un procedimiento de evaluación de la conformidad que implique una evaluación de la conformidad de terceros solo por motivo de que el producto incluya un sistema de IA de alto riesgo como componente de seguridad cuando no lo exijan los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A.

(Cuando un acto legislativo de unificación de la Unión enumerado en el anexo I, sección A, posibilite al fabricante del producto recurrir a una valoración de la adecuación en la que no participen otros a condición de que el fabricante haya aplicado normas unificadas para garantizar el cumplimiento de todos los requisitos procedentes, dicho fabricante solamente podrá recurrir dicha opción si también ha aplicado normas unificadas o, en su caso, determinaciones comunes establecidas en el artículo 41 que incluyan todos los requisitos establecidos en la sección 2 del presente capítulo. La clasificación de un producto como sistema de IA de alto riesgo de acuerdo con el artículo 6, apartado 1, no perjudica a las opciones relativas al procedimiento de valoración de la adecuación de que disponen los fabricantes de productos regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A, incluida, en su caso, la opción de basarse en normas unificadas. Los fabricantes de dichos productos no están obligados a optar por un procedimiento de valoración de la adecuación que conlleve una valoración de la adecuación de otros solo por motivo de que el producto incluya un sistema de IA de alto riesgo como componente de seguridad cuando no lo exijan los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A. )

En el caso de los sistemas de IA de alto riesgo que estén regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, y que entren en alguna de las categorías enumeradas en el anexo III, el proveedor del sistema se atendrá al procedimiento de evaluación de la conformidad pertinente exigido en virtud de los actos legislativos de armonización de la Unión enumerados el anexo I, sección A.

(En el caso de los sistemas de IA de alto riesgo que estén regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección A, y que entren en alguna de las categorías enumeradas en el anexo III, el suministrador del sistema se atendrá al procedimiento de valoración de la adecuación procedente exigido en aplicación de los actos legislativos de unificación de la Unión enumerados el anexo I, sección A. )

4. Los sistemas de IA de alto riesgo que ya hayan sido objeto de un procedimiento de evaluación de la conformidad se someterán a un nuevo procedimiento de evaluación de la conformidad en caso de modificación sustancial, con independencia de si está prevista una distribución posterior del sistema modificado o de si este continúa siendo utilizado por el responsable del despliegue actual.

(Los sistemas de IA de alto riesgo que ya hayan sido objeto de un procedimiento de valoración de la adecuación se expondrán a un nuevo procedimiento de valoración de la adecuación en caso de modificación significativa, con independencia de si está establecida una distribución posterior del sistema modificado o de si este continúa siendo utilizado por el responsable del desarrollo actual.)

En el caso de los sistemas de IA de alto riesgo que continúen aprendiendo tras su introducción en el mercado o su puesta en servicio, los cambios en el sistema de IA de alto riesgo y su funcionamiento que hayan sido predeterminados por el proveedor en el momento de la evaluación inicial de la conformidad y figuren en la información recogida en la documentación técnica mencionada en el anexo IV, punto 2, letra f), no constituirán modificaciones sustanciales.

(En el caso de los sistemas de IA de alto riesgo que continúen aprendiendo tras su inserción en el mercado o su puesta en servicio, los cambios en el sistema de IA de alto riesgo y su funcionamiento que hayan sido predeterminados por el proveedor en el momento de la valoración inicial de la adecuación y figuren en la información recogida en la documentación técnica mencionada en el anexo IV, punto 2, letra f), no representarán modificaciones significativas. )

5. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar los anexos VI y VII actualizándolos a la luz del progreso técnico.

( La Comisión estará facultada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar los anexos VI y VII actualizándolos a la vista del progreso técnico.)

6. La Comisión estará facultada para adoptar actos delegados de conformidad con el artículo 97 al objeto de modificar los apartados 1 y 2 del presente artículo a fin de someter a los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 2 a 8, al procedimiento de evaluación de la conformidad a que se refiere el anexo VII o a partes de este. La Comisión adoptará dichos actos delegados teniendo en cuenta la eficacia del procedimiento de evaluación de la conformidad fundamentado en un control interno mencionado en el anexo VI para prevenir o reducir al mínimo los riesgos para la salud, la seguridad y la protección de los derechos fundamentales que plantean estos sistemas, así como la disponibilidad de capacidades y recursos adecuados por parte de los organismos notificados.»

(La Comisión estará habilitada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar los apartados 1 y 2 del presente artículo a fin de exponer a los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 2 a 8, al procedimiento de valoración de la adecuación a que se refiere el anexo VII o a partes de este. La Comisión aprobará dichos actos delegados teniendo en cuenta la eficacia del procedimiento de valoración de la adecuación fundamentado en un control interno mencionado en el anexo VI para evitar o reducir al mínimo los riesgos para la salud, la seguridad y la protección de los derechos fundamentales que ppresentan estos sistemas, así como la disponibilidad de capacidades y medios adecuados por parte de los organismos notificados.)

El artículo 47 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 47. Declaración UE de conformidad

(El proveedor redactará una declaración UE de adecuación por escrito en un modelo legible por máquina, con firma electrónica o manuscrita, para cada sistema de IA de alto riesgo y la mantendrá a disposición de las autoridades nacionales competentes durante un período de diez años a contar desde la introducción del sistema de IA de alto riesgo en el mercado o su puesta en servicio. En la declaración UE de adecuación se concretará el sistema de IA de alto riesgo para el que ha sido redactada. Se entregará una copia de la declaración UE de adecuación a las autoridades nacionales competentes correspondientes que lo soliciten.)

(Cuando los sistemas de IA de alto riesgo estén sujetos a otros actos legislativos de unificación de la Unión que también exijan una declaración UE de adecuaicón, se preparará una única declaración UE de adecuación con respecto a todos el Derecho de la Unión aplicable al sistema de IA de alto riesgo. La declaración incluirá toda la información necesaria para determinar los actos legislativos de unificación de la Unión a los que se refiere la declaración.)

(La Comisión estará facultada para aprobar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo V actualizando el contenido de la declaración UE de adecuación establecida en dicho anexo, con el fin de incluir elementos que resulten necesarios a la vista del progreso técnico. )

El artículo 51 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 51. Reglas de clasificación de los modelos de IA de uso general como modelos de IA de uso general con riesgo sistémico

1. Un modelo de IA de uso general se clasificará como modelo de IA de uso general con riesgo sistémico si reúne alguna de las siguientes condiciones:

(Un modelo de IA de uso general se clasificará como modelo de IA de uso general con riesgo estructural si reúne alguno de los siguientes requisitos: )

tiene capacidades de gran impacto evaluadas a partir de herramientas y metodologías técnicas adecuadas, como indicadores y parámetros de referencia;

(tiene capacidades de gran impacto valoradas partiendo de herramientas y metodologías técnicas adecuadas, como indicadores y parámetros de referencia; )

con arreglo a una decisión de la Comisión, adoptada de oficio o a raíz de una alerta cualificada del grupo de expertos científicos, tiene capacidades o un impacto equivalente a los establecidos en la letra a), teniendo en cuenta los criterios establecidos en el anexo XIII.

(de acuerdo con una decisión de la Comisión, aprobada por propia iniciativa o como consecuencia de una alerta cualificada del grupo de expertos científicos, tiene capacidades o un impacto semejante a los establecidos en la letra a), teniendo en cuenta los criterios establecidos en el anexo XIII. )

2. Se presumirá que un modelo de IA de uso general tiene capacidades de gran impacto con arreglo al apartado 1, letra a), cuando la cantidad acumulada de cálculo utilizada para su entrenamiento, medida en operaciones de coma flotante, sea superior a 1025.

(Se interpretará que un modelo de IA de uso general tiene capacidades de gran impacto de acuerdo con al apartado 1, letra a), cuando la cantidad acumulada de cálculo utilizada para su entrenamiento, medida en operaciones de coma flotante, sea superior a 1025. )

3. La Comisión adoptará actos delegados de conformidad con el artículo 97 para modificar los umbrales a que se refieren los apartados 1 y 2 del presente artículo, así como para complementar los parámetros de referencia e indicadores en función de los avances tecnológicos, como las mejoras algorítmicas o la mayor eficiencia del hardware, cuando sea necesario, para que los umbrales reflejen el estado actual de la técnica.»

(La Comisión aprobará actos delegados de acuerdo con el artículo 97 para modificar los márgenes a que se refieren los apartados 1 y 2 del presente artículo, así como para completar los parámetros de referencia e indicadores en función de los avances tecnológicos, como las mejoras algorítmicas o la mayor eficacia del hardware, cuando sea necesario, para que los márgenes reflejen el estado actual de la técnica.)

El artículo 52 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 52. Procedimiento

1. Cuando un modelo de IA de uso general cumpla la condición a que se refiere el artículo 51, apartado 1, letra a), el proveedor pertinente lo notificará a la Comisión sin demora y, en cualquier caso, antes de transcurridas dos semanas desde que se cumpla dicho requisito o desde que se sepa que va a cumplirse. Dicha notificación incluirá la información necesaria para demostrar que se cumple el requisito pertinente. Si la Comisión tiene conocimiento de un modelo de IA de uso general que presenta riesgos sistémicos y que no ha sido notificado, podrá decidir designarlo como modelo con riesgo sistémico.

(Cuando un modelo de IA de uso general cumpla la condición a que se refiere el artículo 51, apartado 1, letra a), el suministrador correspondiente lo notificará a la Comisión sin tardanza y, en cualquier caso, antes de transcurridas dos semanas desde que se cumpla dicho requisito o desde que se sepa que va a cumplirse. Dicha notificación incluirá la información necesaria para demostrar que se cumple el requisito corrspondiente. Si la Comisión tiene conocimiento de un modelo de IA de uso general que presenta riesgos estructurales y que no ha sido notificado, podrá decidir designarlo como modelo con riesgo estructural. )

2. El proveedor de un modelo de IA de uso general que cumpla la condición a que se refiere el artículo 51, apartado 1, letra a), podrá presentar, junto con su notificación, argumentos suficientemente fundamentados que demuestren que, excepcionalmente, aunque el modelo de IA de uso general cumple dicho requisito, no presenta riesgos sistémicos, debido a sus características específicas, y no debe clasificarse, por tanto, como modelo de IA de uso general con riesgo sistémico.

( El suministrador de un modelo de IA de uso general que cumpla la condición a que se refiere el artículo 51, apartado 1, letra a), podrá presentar, junto con su notificación, argumentos suficientemente justificados que demuestren que, excepcionalmente, aunque el modelo de IA de uso general cumple dicho requisito, no presenta riesgos estructurales, debido a sus características concretas, y no debe clasificarse, por tanto, como modelo de IA de uso general con riesgo estructural.)

3. Cuando la Comisión concluya que los argumentos presentados con arreglo al apartado 2 no están suficientemente fundamentados y que el proveedor pertinente no ha sido capaz de demostrar que el modelo de IA de uso general no presenta, debido a sus características específicas, riesgos sistémicos, rechazará dichos argumentos y el modelo de IA de uso general se considerará un modelo de IA de uso general con riesgo sistémico.

(Cuando la Comisión concluya que los argumentos presentados con arreglo al apartado 2 no están suficientemente justificados y que el suministrador corresondiente no ha sido capaz de demostrar que el modelo de IA de uso general no presenta, debido a sus características concretas, riesgos estructurales, rechazará dichos argumentos y el modelo de IA de uso general se valorará como un modelo de IA de uso general con riesgo estructral. )

4. La Comisión podrá determinar que un modelo de IA de uso general presenta riesgos sistémicos, de oficio o a raíz de una alerta cualificada del grupo de expertos científicos con arreglo al artículo 90, apartado 1, letra a), a partir de los criterios establecidos en el anexo XIII.

(La Comisión podrá determinar que un modelo de IA de uso general presenta riesgos estructurales, por propia iniciativa o como consecuencia de una alerta cualificada del grupo de expertos científicos de acuerdo con el artículo 90, apartado 1, letra a), partiendo de los criterios establecidos en el anexo XIII. )

La Comisión estará facultada para adoptar actos delegados de conformidad con el artículo 97 al objeto de modificar el anexo XIII especificando y actualizando los criterios establecidos en dicho anexo.

(La Comisión estará habilitada para aprobar actos delegados de acuerdo con el artículo 97 al objeto de modificar el anexo XIII detallando y actualizando los criterios establecidos en dicho anexo. )

5. Previa solicitud motivada de un proveedor cuyo modelo haya sido designado como modelo de IA de uso general con riesgo sistémico con arreglo al apartado 4, la Comisión tendrá en cuenta la solicitud y podrá decidir reevaluar si puede seguir considerándose que el modelo de IA de uso general presenta riesgos sistémicos con arreglo a los criterios establecidos en el anexo XIII. Dicha solicitud contendrá motivos objetivos, detallados y nuevos que hayan surgido desde la decisión de designación. Los proveedores no podrán solicitar la reevaluación antes de transcurridos seis meses desde la decisión de designación. Si tras la reevaluación la Comisión decide mantener la designación como modelo de IA de uso general con riesgo sistémico, los proveedores no podrán solicitar otra reevaluación hasta transcurridos seis meses desde dicha decisión.

( Previa solicitud justificada de un suministrador cuyo modelo haya sido designado como modelo de IA de uso general con riesgo estructural con arreglo al apartado 4, la Comisión tendrá en cuenta la solicitud y podrá decidir revalorar si puede seguir entendiéndose que el modelo de IA de uso general presenta riesgos estructurales con arreglo a los criterios establecidos en el anexo XIII. Dicha solicitud incluirá razones objetivas, detalladas y nuevas que hayan nacido desde la decisión de designación. Los proveedores no podrán solicitar la revaloración antes de transcurridos seis meses desde la decisión de designación. Si tras la revaloración la Comisión decide mantener la designación como modelo de IA de uso general con riesgo estuctural, los suministradores no podrán solicitar otra revaloración hasta transcurridos seis meses desde dicha decisión.)

6. La Comisión velará por que se publique una lista de modelos de IA de uso general con riesgo sistémico, que mantendrá actualizada, sin perjuicio de la necesidad de respetar y proteger los derechos de propiedad intelectual e industrial y la información empresarial confidencial o los secretos comerciales de conformidad con el Derecho de la Unión y nacional.»

(La Comisión vigilará que se publique una lista de modelos de IA de uso general con riesgo estructural, que mantendrá actualizada, sin que afecte a la necesidad de respetar y proteger los derechos de propiedad intelectual e industrial y la información empresarial confidencial o los secretos comerciales de acuerdo con el Derecho de la Unión y nacional.)

El artículo 53 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 53. Obligaciones de los proveedores de modelos de IA de uso general

1. Los proveedores de modelos de IA de uso general:

(Los suministradores de modelos de IA de uso general: )

elaborarán y mantendrán actualizada la documentación técnica del modelo, incluida la información relativa al proceso de entrenamiento y realización de pruebas y los resultados de su evaluación, que contendrá, como mínimo, la información establecida en el anexo XI con el fin de facilitarla, previa solicitud, a la Oficina de IA y a las autoridades nacionales competentes;

(elaborarán y mantendrán actualizada la documentación técnica del modelo, incluida la información relativa al proceso de entrenamiento y realización de pruebas y los resultados de su valoración, que incluirá, como mínimo, la información establecida en el anexo XI con el fin de facilitarla, previa solicitud, a la Oficina de IA y a las autoridades nacionales competentes;)

elaborarán y mantendrán actualizada información y documentación y la pondrán a disposición de los proveedores de sistemas de IA que tengan la intención de integrar el modelo de IA de uso general en sus sistemas de IA. Sin perjuicio de la necesidad de observar y proteger los derechos de propiedad intelectual e industrial y la información empresarial confidencial o los secretos comerciales de conformidad con el Derecho de la Unión y nacional, dicha información y documentación:

(elaborarán y mantendrán actualizada información y documentación y la pondrán a disposición de los suministradores de sistemas de IA que tengan la intención de incluir el modelo de IA de uso general en sus sistemas de IA. Sin que afecte a la necesidad de respetar y proteger los derechos de propiedad intelectual e industrial y la información empresarial confidencial o los secretos comerciales de acuerdo con el Derecho de la Unión y nacional, dicha información y documentación:)

permitirá a los proveedores de sistemas de IA entender bien las capacidades y limitaciones del modelo de IA de uso general y cumplir sus obligaciones en virtud del presente Reglamento, y

(posibilitará a los suministradores de sistemas de IA entender bien las capacidades y limitaciones del modelo de IA de uso general y cumplir sus obligaciones en aplicación de este Reglamento, y )

ii)

contendrá, como mínimo, los elementos previstos en el anexo XII;

(conformará, como mínimo, los elementos establecidos en el anexo XII;)

establecerán directrices para cumplir el Derecho de la Unión en materia de derechos de autor y derechos afines, y en particular, para detectar y cumplir, por ejemplo, a través de tecnologías punta, una reserva de derechos expresada de conformidad con el artículo 4, apartado 3, de la Directiva (UE) 2019/790;

(establecerán directrices para cumplir el Derecho de la Unión en materia de derechos de autor y derechos afines, y en especial, para descubrir y cumplir, por ejemplo, a través de tecnologías punta, una reserva de derechos expresada de acuerdo con el artículo 4, apartado 3, de la Directiva (UE) 2019/790; )

d)
elaborarán y pondrán a disposición del público un resumen suficientemente detallado del contenido utilizado para el entrenamiento del modelo de IA de uso general, con arreglo al modelo facilitado por la Oficina de IA.

(prepararán y pondrán a disposición del público un resumen suficientemente detallado del contenido utilizado para el entrenamiento del modelo de IA de uso general, con arreglo al modelo facilitado por la Oficina de IA.)

2. Las obligaciones establecidas en el apartado 1, letras a) y b), no se aplicarán a los proveedores de modelos de IA que se divulguen con arreglo a una licencia libre y de código abierto que permita el acceso, la utilización, la modificación y la distribución del modelo y cuyos parámetros, incluidos los pesos, la información sobre la arquitectura del modelo y la información sobre el uso del modelo, se pongan a disposición del público. Esta excepción no se aplicará a los modelos de IA de uso general con riesgo sistémico.

(Las obligaciones establecidas en el apartado 1, letras a) y b), no se aplicarán a los suministradores de modelos de IA que se divulguen de acuerdo con una licencia libre y de código abierto que posibilite el acceso, la utilización, la modificación y la distribución del modelo y cuyos parámetros, incluidos los pesos, la información sobre la estructura del modelo y la información sobre el uso del modelo, se pongan a disposición del público. Esta excepción no se aplicará a los modelos de IA de uso general con riesgo estructural. )

3. Los proveedores de modelos de IA de uso general cooperarán con la Comisión y las autoridades nacionales competentes, según sea necesario, en el ejercicio de sus competencias y facultades en virtud del presente Reglamento.

( Los suministradores de modelos de IA de uso general cooperarán con la Comisión y las autoridades nacionales competentes, según sea necesario, en el ejercicio de sus competencias y facultades en aplicación de este Reglamento. )

4. Los proveedores de modelos de IA de uso general podrán recurrir a códigos de buenas prácticas en el sentido de lo dispuesto en el artículo 56 para demostrar el cumplimiento de las obligaciones establecidas en el apartado 1 del presente artículo, hasta que se publique una norma armonizada. El cumplimiento de las normas armonizadas europeas otorga a los proveedores presunción de conformidad en la medida en que tales normas regulen dichas obligaciones. Los proveedores de modelos de IA de uso general que no se adhieran a un código de buenas prácticas aprobado o no cumplan una norma armonizada europea deberán demostrar que cumplen sus obligaciones por medios alternativos adecuados para su evaluación por parte de la Comisión.

( Los suministradores de modelos de IA de uso general podrán recurrir a códigos de buenas prácticas en el sentido de lo dispuesto en el artículo 56 para demostrar el cumplimiento de las obligaciones establecidas en el apartado 1 del presente artículo, hasta que se publique una norma unificada. El cumplimiento de las normas unificadas europeas asigna a los suministradores presunción de adecuación en la medida en que dichas normas regulen dichas obligaciones. Los suministradores de modelos de IA de uso general que no se unan a un código de buenas prácticas aprobado o no cumplan una norma unificada europea deberán demostrar que cumplen sus obligaciones por medios opcionales adecuados para su valoración por parte de la Comisión. )

5. A fin de facilitar el cumplimiento de lo dispuesto en el anexo XI, en particular en su punto 2, letras d) y e), la Comisión estará facultada para adoptar actos delegados de conformidad con el artículo 97 para detallar las metodologías de medición y cálculo con vistas a que la documentación sea comparable y verificable.

( A fin de facilitar el cumplimiento de lo dispuesto en el anexo XI, en especial en su punto 2, letras d) y e), la Comisión estará habilitada para aprobar actos delegados de acuerdo con el artículo 97 para detallar los procedimientos de medición y cálculo con vistas a que la documentación sea comparable y comprobable. )

6. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97, apartado 2, para modificar los anexos XI y XII en función de los avances tecnológicos.

( La Comisión estará facultada para aprobar actos delegados de acuerdo con el artículo 97, apartado 2, para modificar los anexos XI y XII en función de los avances tecnológicos.

7. Toda información o documentación obtenida en virtud del presente artículo, incluidos los secretos comerciales, se tratarán de conformidad con las obligaciones de confidencialidad establecidas en el artículo 78.»

(Toda información o documentación obtenida en aplicación de este artículo, incluidos los secretos comerciales, se tratarán de acuerdo con las obligaciones de confidencialidad establecidas en el artículo 78.)

(sigue el artículo 97 del Reglamento (UE) 2024/1689)

3. La delegación de poderes mencionada en el artículo 2, apartado 13, en el artículo 6, apartados 6 y 7, el artículo 7, apartados 1 y 3, el artículo 11, apartado 3, el artículo 30, apartado 2, el artículo 43, apartados 5 y 6, el artículo 47, apartado 5, el artículo 51, apartado 3, el artículo 52, apartado 4, y el artículo 53, apartados 5 y 6, podrá ser revocada en cualquier momento por el Parlamento Europeo o por el Consejo. La decisión de revocación pondrá término a la delegación de los poderes que en ella se especifiquen. La decisión surtirá efecto el día siguiente al de su publicación en el Diario Oficial de la Unión Europea o en una fecha posterior indicada ella. No afectará a la validez de los actos delegados que ya estén en vigor.

( La delegación de poderes mencionada en el artículo 2, apartado 13, en el artículo 6, apartados 6 y 7, el artículo 7, apartados 1 y 3, el artículo 11, apartado 3, el artículo 30, apartado 2, el artículo 43, apartados 5 y 6, el artículo 47, apartado 5, el artículo 51, apartado 3, el artículo 52, apartado 4, y el artículo 53, apartados 5 y 6, podrá ser revocada en cualquier momento por el Parlamento Europeo o por el Consejo. La decisión de revocación pondrá fin a la delegación de los poderes que en ella se determinen. La decisión tendrá validez el día siguiente al de su publicación en el Diario Oficial de la Unión Europea o en una fecha posterior indicada ella. No influirá en la validez de los actos delegados que ya estén en vigor. )

4. Antes de la adopción de un acto delegado, la Comisión consultará a los expertos designados por cada Estado miembro de conformidad con los principios establecidos en el Acuerdo interinstitucional de 13 de abril de 2016 sobre la mejora de la legislación.

(Antes de la aprobación de un acto delegado, la Comisión consultará a los expertos designados por cada Estado miembro de acuerdo con los principios establecidos en el Acuerdo interinstitucional de 13 de abril de 2016 sobre la mejora de la legislación. )

5. Tan pronto como la Comisión adopte un acto delegado lo notificará simultáneamente al Parlamento Europeo y al Consejo.

(Tan pronto como la Comisión apruebe un acto delegado lo notificará al mismo tiempo al Parlamento Europeo y al Consejo. )

6. Los actos delegados adoptados en virtud del artículo 2, apartado 13, el artículo 6, apartados 6 o 7, el artículo 7, apartados 1 o 3, el artículo 11, apartado 3, el artículo 30, apartado 2, el artículo 43, apartados 5 o 6, el artículo 47, apartado 5, el artículo 51, apartado 3, el artículo 52, apartado 4, o el artículo 53, apartados 5 o 6, entrarán en vigor únicamente si, en un plazo de tres meses a partir de su notificación al Parlamento Europeo y al Consejo, ninguna de estas instituciones formula objeciones o si, antes del vencimiento de dicho plazo, ambas informan a la Comisión de que no las formularán. El plazo se prorrogará tres meses a iniciativa del Parlamento Europeo o del Consejo.»

(Los actos delegados aprobados en aplicación del artículo 2, apartado 13, el artículo 6, apartados 6 o 7, el artículo 7, apartados 1 o 3, el artículo 11, apartado 3, el artículo 30, apartado 2, el artículo 43, apartados 5 o 6, el artículo 47, apartado 5, el artículo 51, apartado 3, el artículo 52, apartado 4, o el artículo 53, apartados 5 o 6, entrarán en vigor únicamente si, en un plazo de tres meses desde su notificación al Parlamento Europeo y al Consejo, ninguna de estas instituciones presenta objeciones o si, antes del fin de dicho plazo, ambas informan a la Comisión de que no las presentarán. El plazo se ampliará tres meses a iniciativa del Parlamento Europeo o del Consejo.)

(sigue el anexo VIII del Reglamento (UE) 2024/1689)

12.

Las instrucciones de uso electrónicas. No se facilitará esta información en el caso de los sistemas de IA de alto riesgo en los ámbitos de la garantía del cumplimiento del Derecho o la migración, el asilo y la gestión del control fronterizo a que se refiere el anexo III, puntos 1, 6 y 7.

13.

Una URL para obtener información adicional (opcional).

Sección B — Información que deben presentar los proveedores de sistemas de IA de alto riesgo de conformidad con el artículo 49, apartado 2

Con respecto a los sistemas de IA que vayan a inscribirse en el registro de conformidad con el artículo 49, apartado 2, se facilitará y se actualizará debidamente la información siguiente:

El nombre, la dirección y los datos de contacto del proveedor.

Cuando sea otra persona la que presente la información en nombre del proveedor, el nombre, dirección y datos de contacto de dicha persona.

El nombre, la dirección y los datos de contacto del representante autorizado, en su caso.

El nombre comercial del sistema de IA y toda referencia inequívoca adicional que permita su identificación y trazabilidad.

(El nombre comercial del sistema de IA y toda referencia inequívoca adicional que posibilite su identificación y trazabilidad. )

La descripción de la finalidad prevista del sistema de IA.

La condición o condiciones previstas en el artículo 6, apartado 3, con arreglo a las cuales se considera que el sistema de IA no es de alto riesgo.

(La condición o condiciones establecidas en el artículo 6, apartado 3, con arreglo a las cuales se concluye que el sistema de IA no es de alto riesgo. )

Suprimido.

La situación del sistema de IA (comercializado o puesto en servicio, ha dejado de comercializarse o de estar en servicio, recuperado).

Suprimido.

Sección C — Información que deben presentar los responsables del despliegue de sistemas de IA de alto riesgo de conformidad con el artículo 49, apartado 3

Con respecto a los sistemas de IA de alto riesgo que vayan a inscribirse en el registro de conformidad con el artículo 49, apartado 3, se facilitará y se actualizará debidamente la información siguiente:

El nombre, la dirección y los datos de contacto del responsable del despliegue.

(El nombre, la dirección y los datos de contacto del responsable del desarrollo. )

El nombre, la dirección y los datos de contacto de la persona que presente la información en nombre del responsable del despliegue.

(El nombre, la dirección y los datos de contacto de la persona que presente la información en nombre del responsable del desarrollo. )

La URL de entrada del sistema de IA en la base de datos de la UE por parte de su proveedor.

(La URL de entrada del sistema de IA en la base de datos de la UE por parte de su suministrador.)

Un resumen de las conclusiones de la evaluación de impacto relativa a los derechos fundamentales realizada de conformidad con el artículo 27.

(Un resumen de las conclusiones de la valoración de influencia relativa a los derechos fundamentales realizada de conformidad con el artículo 27. )

Un resumen de la evaluación de impacto relativa a la protección de datos realizada de conformidad con el artículo 35 del Reglamento (UE) 2016/679 o el artículo 27 de la Directiva (UE) 2016/680, tal como se especifica en el artículo 26, apartado 8, del presente Reglamento, cuando proceda.»

(Un resumen de la valoración de impacto relativa a la protección de datos realizada de acuerdocon el artículo 35 del Reglamento (UE) 2016/679 o el artículo 27 de la Directiva (UE) 2016/680, tal como se detalla en el artículo 26, apartado 8, del presente Reglamento, cuando corresponda.)

(siguel el artículo 71 del Reglamento (UE) 2024/1689)

3. Los datos enumerados en el anexo VIII, sección C, serán introducidos en la base de datos de la UE por el responsable del despliegue que sea una autoridad pública, órgano u organismo, o actúe en su nombre, de conformidad con el artículo 49, apartados 3 y 4.

(Los datos enumerados en el anexo VIII, sección C, serán incluidos en la base de datos de la UE por el responsable del desarrollo que sea una autoridad pública, órgano u organismo, o actúe en su nombre, de acuerdo con el artículo 49, apartados 3 y 4. )

4. A excepción de la sección a que se refieren el artículo 49, apartado 4, y el artículo 60, apartado 4, letra c), la información presente en la base de datos de la UE y registrada de conformidad con lo dispuesto en el artículo 49 será accesible y estará a disposición del público de manera sencilla. Debe ser fácil navegar por la información y esta ha de ser legible por máquina. Únicamente podrán acceder a la información registrada de conformidad con el artículo 60 las autoridades de vigilancia de mercado y la Comisión, a menos que el proveedor potencial o el proveedor hayan dado su consentimiento a que la información también esté accesible para el público.

(A excepción de la sección a que se refieren el artículo 49, apartado 4, y el artículo 60, apartado 4, letra c), la información presente en la base de datos de la UE y registrada de acuerdo con lo dispuesto en el artículo 49 será accesible y estará a disposición del público de manera sencilla. Debe ser fácil navegar por la información y esta ha de ser legible por máquina. Únicamente podrán acceder a la información registrada de acuerdo con el artículo 60 las autoridades de vigilancia de mercado y la Comisión, salvo que el suministrador hipotético o el suministrador hayan dado su consentimiento a que la información también esté accesible para el público.)

5. La base de datos de la UE únicamente contendrá datos personales en la medida en que sean necesarios para la recogida y el tratamiento de información de conformidad con el presente Reglamento. Dicha información incluirá los nombres y datos de contacto de las personas físicas responsables del registro de sistema y que cuenten con autoridad legal para representar al proveedor o al responsable del despliegue, según proceda.

(La base de datos de la UE únicamente incluirá datos personales en la medida en que sean necesarios para la recogida y el tratamiento de información de acuerdo con el presente Reglamento. Dicha información incluirá los nombres y datos de contacto de las personas individuales responsables del registro de sistema y que dispongan de autoridad legal para representar al suministrador o al responsable del desarrollo, según corresponda. )

6. La Comisión será la responsable del tratamiento de la base de datos de la UE, y proporcionará apoyo técnico y administrativo adecuado a los proveedores, proveedores potenciales y responsables del despliegue. La base de datos de la UE cumplirá los requisitos de accesibilidad aplicables.»

(La Comisión será la responsable del tratamiento de la base de datos de la UE, y facilitará apoyo técnico y administrativo adecuado a los suministradores, suministradores hipotéticos y responsables de la distribución. La base de datos de la UE cumplirá los requisitos de accesibilidad aplicables.)

(sigue el artículo 49 del Reglamento (UE) 2024/1689)

2. Antes de introducir en el mercado o poner en servicio un sistema de IA sobre el que el proveedor haya llegado a la conclusión de que no es de alto riesgo de conformidad con el artículo 6, apartado 3, dicho proveedor o, en su caso, el representante autorizado, registrarán ese sistema y a ellos mismos en la base de datos de la UE a que se refiere el artículo 71.

(Antes de insertar en el mercado o poner en servicio un sistema de IA sobre el que el suministrador haya llegado a la conclusión de que no es de alto riesgo de acuerdo con el artículo 6, apartado 3, dicho suministrador o, en su caso, el representante autorizado, registrarán ese sistema y a ellos mismos en la base de datos de la UE a que se refiere el artículo 71. )

3. Antes de poner en servicio o utilizar un sistema de IA de alto riesgo enumerado en el anexo III, con excepción de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 2, los responsables del despliegue de sistemas de IA de alto riesgo que sean autoridades públicas, instituciones, órganos u organismos de la Unión, o personas que actúen en su nombre, se registrarán, seleccionarán el sistema y registrarán su utilización en la base de datos de la UE a que se refiere el artículo 71.

(Antes de poner en servicio o utilizar un sistema de IA de alto riesgo enumerado en el anexo III, con excepción de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 2, los responsables de la distribución de sistemas de IA de alto riesgo que sean autoridades públicas, instituciones, órganos u organismos de la Unión, o personas que actúen en su nombre, se registrarán, seleccionarán el sistema y registrarán su utilización en la base de datos de la UE a que se refiere el artículo 71. )

4. En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 1, 6 y 7, en los ámbitos de la garantía del cumplimiento del Derecho, la migración, el asilo y la gestión del control fronterizo, el registro a que se refieren los apartados 1, 2 y 3 del presente artículo se efectuará en una sección segura no pública de la base de datos de la UE a que se refiere el artículo 71 e incluirá únicamente la información, según proceda, a la que se hace referencia en:

a)
el anexo VIII, sección A, puntos 1 a 10, con excepción de los puntos 6, 8 y 9;

b)
el anexo VIII, sección B, puntos 1 a 5 y puntos 8 y 9;

d)
el anexo IX, puntos 1, 2, 3 y 5.

Únicamente la Comisión y las autoridades nacionales a que se refiere el artículo 74, apartado 8, tendrán acceso a las secciones restringidas respectivas de la base de datos de la UE enumeradas en el párrafo primero del presente apartado.

(Únicamente la Comisión y las autoridades nacionales a que se refiere el artículo 74, apartado 8, tendrán acceso a las secciones reservadas respectivas de la base de datos de la UE enumeradas en el párrafo primero del presente apartado. )

5. Los sistemas de IA de alto riesgo a que se refiere el anexo III, punto 2, se registrarán a nivel nacional.»

(sigue el artículo 6 del Reglamento (UE) 2024/1689)

5. La Comisión, previa consulta al Consejo Europeo de Inteligencia Artificial (en lo sucesivo, «Consejo de IA»), y a más tardar el 2 de febrero de 2026, proporcionará directrices que especifiquen la aplicación práctica del presente artículo en consonancia con el artículo 96, junto con una lista exhaustiva de ejemplos prácticos de casos de uso de sistemas de IA que sean de alto riesgo y que no sean de alto riesgo.

(La Comisión, previa consulta al Consejo Europeo de Inteligencia Artificial (en lo sucesivo, «Consejo de IA»), y lo más tarde el 2 de febrero de 2026, suministrará directrices que determinen la aplicación práctica del presente artículo en concordancia con el artículo 96, junto con una lista cerrada de ejemplos prácticos de casos de uso de sistemas de IA que sean de alto riesgo y que no sean de alto riesgo. )

6. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el apartado 3, párrafo segundo, del presente artículo, añadiendo nuevas condiciones a las establecidas en dicho apartado, o modificando estas, cuando existan pruebas concretas y fiables de la existencia de sistemas de IA que entren en el ámbito de aplicación del anexo III, pero que no planteen un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas físicas.

7. La Comisión adoptará actos delegados con arreglo al artículo 97 al objeto de modificar el apartado 3, párrafo segundo, del presente artículo, suprimiendo cualquiera de las condiciones establecidas en él, cuando existan pruebas concretas y fiables de que es necesario para mantener el nivel de protección de la salud, la seguridad y los derechos fundamentales previsto en el presente Reglamento.

(La Comisión aprobará actos delegados de acuerdo con el artículo 97 al objeto de modificar el apartado 3, párrafo segundo, del presente artículo, suprimiendo cualquiera de los requisitos establecidos en él, cuando existan pruebas concretas y fiables de que es necesario para mantener el nivel de protección de la salud, la seguridad y los derechos fundamentales establecido en el presente Reglamento.)

8. Ninguna modificación de las condiciones establecidas en el apartado 3, párrafo segundo, adoptada de conformidad con los apartados 6 y 7 del presente artículo, reducirá el nivel global de protección de la salud, la seguridad y los derechos fundamentales previsto en el presente Reglamento, y cualquier modificación garantizará la coherencia con los actos delegados adoptados con arreglo al artículo 7, apartado 1, y tendrá en cuenta la evolución tecnológica y del mercado.»

(Ninguna modificación de las condiciones establecidas en el apartado 3, párrafo segundo, aprobada de acuerdo con los apartados 6 y 7 del presente artículo, reducirá el nivel global de protección de la salud, la seguridad y los derechos fundamentales establecido en este Reglamento, y cualquier modificación garantizará la coherencia con los actos delegados aprobados de acuerdo con el artículo 7, apartado 1, y tendrá en cuenta la evolución tecnológica y del mercado.)

El artículo 60 bis del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 60 bis. Pruebas de sistemas de IA de alto riesgo regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, en condiciones reales fuera de los espacios controlados de pruebas para la IA

1. Los Estados miembros podrán permitir, de conformidad con el presente artículo, que los proveedores o proveedores potenciales de productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, realicen pruebas de sistemas de IA de alto riesgo en condiciones reales fuera de los espacios controlados de pruebas para la IA con el fin de evaluar y comprobar la conformidad de dichos sistemas con los requisitos establecidos en los artículos 8 a 15.

(Los Estados miembros podrán admitir, de acuerdo con este artículo, que los suministradores o suministradores hipotéticos de productos basados en la IA regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B, realicen pruebas de sistemas de IA de alto riesgo en situaciones reales fuera de los espacios controlados de pruebas para la IA con el fin de valorar y comprobar la adecuación de dichos sistemas con los requisitos establecidos en los artículos 8 a 15.)

2. Los Estados miembros que opten por permitir las pruebas a que se refiere el apartado 1 adoptarán, individual o conjuntamente, marcos para la prueba en condiciones reales.

(Los Estados miembros que opten por admitir las pruebas a que se refiere el apartado 1 aprobarán, individual o conjuntamente, marcos para la prueba en situaciones reales.)

3. Cada Estado miembro notificará a la Comisión todo marco para la prueba en condiciones reales que adopte antes de ponerlo en práctica. Esto no afectará a las competencias de la Comisión en virtud de los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.

(Cada Estado miembro notificará a la Comisión todo marco para la prueba en situaciones reales que apruebe antes de ponerlo en práctica. Esto no perjudicará a las competencias de la Comisión en aplicación de los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B. )

4. Los Estados miembros que hayan adoptado marcos para la prueba en condiciones reales se asegurarán de que las autoridades nacionales competentes pertinentes, las autoridades pertinentes y las autoridades públicas responsables de la gestión y el funcionamiento de infraestructuras y productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, cooperen estrechamente entre sí de buena fe y eliminen cualquier obstáculo práctico, incluidos aquellos que afecten a las normas de procedimiento que regulen el acceso a infraestructuras públicas físicas, cuando sea necesario, a fin de poner en práctica satisfactoriamente dichos marcos para la prueba en condiciones reales y probar los productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.

(Los Estados miembros que hayan aprobado marcos para la prueba en situaciones reales se asegurarán de que las autoridades nacionales competentes correspondientes, las autoridades correspondientes y las autoridades públicas responsables de la gestión y el funcionamiento de infraestructuras y productos regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B, cooperen estrechamente entre sí de buena fe y eliminen cualquier obstáculo práctico, incluidos aquellos que perjudiquen a las normas de procedimiento que regulen el acceso a infraestructuras públicas físicas, cuando sea necesario, a fin de poner en práctica satisfactoriamente dichos marcos para la prueba en situaciones reales y probar los productos basados en la IA regulados por los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B. )

5. Los marcos para la prueba en condiciones reales establecerán los requisitos con arreglo a los cuales se realizará la prueba en condiciones reales. Dichos marcos:

(Los marcos para la prueba en situaciones reales establecerán los requisitos con arreglo a los cuales se realizará la prueba en situaciones reales. Dichos marcos: )

incluirán la presentación obligatoria de un plan de la prueba en condiciones reales, que deberá ser acordado entre el proveedor o proveedor potencial y la autoridad nacional competente o la autoridad pertinente de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B;

(incluirán la presentación obligatoria de un plan de la prueba en situaciones reales, que deberá ser acordado entre el suministrador o suministrador hipotético y la autoridad nacional competente o la autoridad correspondiente de acuerdo con los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B; )

garantizarán el cumplimiento de los requisitos establecidos en el artículo 60, apartados 2 y 3, apartado 4, letras d) a j), y apartados 5 a 9, entendiéndose toda referencia hecha en dichas disposiciones a las autoridades de vigilancia del mercado como hecha a la autoridad nacional competente, o a la autoridad pertinente, según proceda, de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B;

(garantizarán el cumplimiento de los requisitos establecidos en el artículo 60, apartados 2 y 3, apartado 4, letras d) a j), y apartados 5 a 9, entendiéndose toda referencia hecha en dichas disposiciones a las autoridades de vigilancia del mercado como hecha a la autoridad nacional competente, o a la autoridad procedente, según corresponda, de acuerdo con los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B; )

incluirán mecanismos eficaces de gobernanza y rendición de cuentas;

(incluirán mecanismos eficaces de dirección y rendición de cuentas; )

garantizarán un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales.

(garantizarán un alto nivel de protección de la salud, la seguridad y los derechos fundamentales. )

6. La prueba en condiciones reales cumplirá las disposiciones aplicables establecidas en los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B. Los requisitos establecidos en dichas disposiciones no afectarán a la aplicación del presente artículo en la medida necesaria para hacer posible las pruebas a que se refiere el apartado 1.».»

(La prueba en situaciones reales cumplirá las disposiciones aplicables establecidas en los actos legislativos de unificación de la Unión enumerados en el anexo I, sección B. Los requisitos establecidos en dichas disposiciones no influirán en la aplicación del este artículo en la medida necesaria para hacer posible las pruebas a que se refiere el apartado 1.».)

El artículo 57 del Reglamento (UE) 2024/1689 establece lo siguiente:

«Artículo 57. Espacios controlados de pruebas para la IA

1. Los Estados miembros se asegurarán de que sus autoridades competentes establezcan al menos un espacio controlado de pruebas para la IA a escala nacional, que estará operativo a más tardar el 2 de agosto de 2027. Dicho espacio controlado de pruebas para la IA también podrá establecerse conjuntamente con las autoridades competentes de otros Estados miembros. La Comisión podrá proporcionar apoyo técnico, asesoramiento y herramientas para el establecimiento y el funcionamiento de los espacios controlados de pruebas para la IA.

(Los Estados miembros se asegurarán de que sus autoridades competentes establezcan al menos un espacio controlado de pruebas para la IA en el ámbito nacional, que estará operativo lo más tarde el 2 de agosto de 2027. Dicho espacio controlado de pruebas para la IA también podrá establecerse conjuntamente con las autoridades competentes de otros Estados miembros. La Comisión podrá suministrar apoyo técnico, asesoramiento y herramientas para el establecimiento y el funcionamiento de los espacios controlados de pruebas para la IA. )

La obligación prevista en el párrafo primero también podrá cumplirse mediante la participación en un espacio controlado de pruebas existente en la medida en que dicha participación proporcione un nivel de cobertura nacional equivalente a los Estados miembros participantes.

(La obligación establecida en el párrafo primero también podrá cumplirse mediante la participación en un espacio controlado de pruebas existente en la medida en que dicha participación suministre un nivel de protección nacional similar a los Estados miembros participantes. )

2. También podrán establecerse espacios controlados de pruebas para la IA adicionales a escala regional o local o conjuntamente con las autoridades competentes de otros Estados miembros.

3. El Supervisor Europeo de Protección de Datos podrá establecer un espacio controlado de pruebas para la IA para las instituciones, órganos y organismos de la Unión. A tal efecto, las referencias hechas en el presente capítulo a las autoridades nacionales competentes se entenderán hechas al Supervisor Europeo de Protección de Datos.

3 bis. La Oficina de IA podrá establecer un espacio controlado de pruebas para la IA a escala de la Unión para los sistemas de IA contemplados en el artículo 75, apartado 1. A tal efecto, las referencias hechas en el presente capítulo a las autoridades nacionales competentes se entenderán, cuando proceda, hechas a la Oficina de IA. Dicho espacio controlado de pruebas para la IA se pondrá en práctica en estrecha cooperación con las autoridades competentes pertinentes, en particular cuando el cumplimiento de los actos legislativos de la Unión distintos del presente Reglamento se supervise en el espacio controlado de pruebas para la IA, y proporcionará un acceso prioritario a las pymes –incluidas las empresas emergentes– y a las pequeñas empresas de mediana capitalización.

(La Oficina de IA podrá establecer un espacio controlado de pruebas para la Iaen el ámbito de la Unión para los sistemas de IA mencionados en el artículo 75, apartado 1. A ese fin, las referencias hechas en el presente capítulo a las autoridades nacionales competentes se entenderán, cuando corresponda, hechas a la Oficina de IA. Dicho espacio controlado de pruebas para la IA se pondrá en práctica en estrecha cooperación con las autoridades competentes procedentes, en especial cuando el cumplimiento de los actos legislativos de la Unión distintos del presente Reglamento se controle en el espacio controlado de pruebas para la IA, y facilitará un acceso prioritario a las pymes –incluidas las empresas emergentes– y a las pequeñas empresas de mediana capitalización.)

El establecimiento de un espacio controlado de pruebas para la IA a escala de la Unión por parte de la Oficina de IA se entenderá sin perjuicio de las competencias de los Estados miembros para establecer y supervisar espacios controlados de pruebas para la IA para los sistemas de IA sujetos a su supervisión.

(El establecimiento de un espacio controlado de pruebas para la IA en el ámbito de la Unión por parte de la Oficina de IA se entenderá sin que afecte a las competencias de los Estados miembros para establecer y controlar espacios controlados de pruebas para la IA para los sistemas de IA sujetos a su control.)

4. Los Estados miembros velarán por que las autoridades competentes a que se refieren los apartados 1 y 2 asignen recursos suficientes para cumplir lo dispuesto en el presente artículo de manera efectiva y oportuna. Cuando proceda, las autoridades nacionales competentes cooperarán con otras autoridades pertinentes y podrán permitir la participación de otros agentes del ecosistema de la IA. El presente artículo no afectará a otros espacios controlados de pruebas establecidos en virtud del Derecho de la Unión o nacional. Los Estados miembros garantizarán un nivel adecuado de cooperación entre las autoridades que supervisan esos otros espacios controlados de pruebas y las autoridades nacionales competentes.

(Los Estados miembros vigilarán que las autoridades competentes a que se refieren los apartados 1 y 2 asignen medios suficientes para cumplir lo dispuesto en el este artículo de manera eficaz y oportuna. Cuando corresponda, las autoridades nacionales competentes cooperarán con otras autoridades pertinentes y podrán admitir la participación de otros agentes del ecosistema de la IA. El presente artículo no se aplicará a otros espacios controlados de pruebas establecidos en aplicación del Derecho de la Unión o nacional. Los Estados miembros garantizarán un nivel adecuado de cooperación entre las autoridades que controlan esos otros espacios controlados de pruebas y las autoridades nacionales competentes. )

5. Los espacios controlados de pruebas para la IA establecidos de conformidad con el presente artículo proporcionarán un entorno controlado que fomente la innovación y facilite el desarrollo, el entrenamiento, la prueba y la validación de sistemas innovadores de IA durante un período limitado antes de su introducción en el mercado o su puesta en servicio, en virtud de un plan del espacio controlado de pruebas específico acordado entre los proveedores o proveedores potenciales y las autoridades competentes, asegurando que se disponga de las garantías adecuadas. Tales espacios controlados de pruebas podrán incluir la prueba en condiciones reales supervisadas dentro de ellos. Cuando proceda, el plan del espacio controlado de pruebas para la IA incorporará el plan de la prueba en condiciones reales a que se refieren los artículos 60 y 60 bis.

(Los espacios controlados de pruebas para la IA establecidos de acuerdo con el presente artículo suministrarán un entorno controlado que impulse la innovación y facilite el desarrollo, el entrenamiento, la prueba y la aprobación de sistemas innovadores de IA durante un período limitado antes de su inclusión en el mercado o su puesta en servicio, debido a un plan del espacio controlado de pruebas concreto acordado entre los suministradores o suministradores hipotéticos y las autoridades competentes, asegurando que se disponga de las garantías adecuadas. Dichos espacios controlados de pruebas podrán incluir la prueba en situaciones reales controladas dentro de ellos. Cuando corresponda, el plan del espacio controlado de pruebas para la IA incluirá el plan de la prueba en situaciones reales a que se refieren los artículos 60 y 60 bis.)

6. Las autoridades competentes proporcionarán, en su caso, orientación, supervisión y apoyo dentro del espacio controlado de pruebas para la IA con vistas a determinar los riesgos, en particular para los derechos fundamentales, la salud y la seguridad, a las pruebas y a las medidas de reducción y su eficacia en relación con las obligaciones y los requisitos del presente Reglamento y, cuando proceda, de otras disposiciones de Derecho de la Unión y nacional cuya observancia se supervise en el espacio controlado de pruebas.

(Las autoridades competentes facilitarán, en su caso, orientación, control y apoyo dentro del espacio controlado de pruebas para la IA con vistas a determinar los riesgos, en especial para los derechos fundamentales, la salud y la seguridad, a las pruebas y a las medidas de reducción y su eficacia en relación con las obligaciones y los requisitos del presente Reglamento y, cuando corresponda, de otras disposiciones de Derecho de la Unión y nacional cuyo cumplimiento se controle en el espacio controlado de pruebas.)

7. Las autoridades competentes proporcionarán a los proveedores y proveedores potenciales que participen en el espacio controlado de pruebas para la IA orientaciones sobre las expectativas en materia de regulación y la manera de cumplir los requisitos y obligaciones establecidos en el presente Reglamento.

(Las autoridades competentes suministrarán a los suministradores y suministradores hipotéticos que participen en el espacio controlado de pruebas para la IA orientaciones sobre las expectativas en materia de regulación y la manera de cumplir los requisitos y obligaciones establecidos en el presente Reglamento.)

A petición del proveedor o proveedor potencial del sistema de IA, la autoridad competente aportará una prueba escrita de las actividades llevadas a cabo con éxito en el espacio controlado de pruebas. La autoridad competente también proporcionará un informe de salida en el que se detallen las actividades llevadas a cabo en el espacio controlado de pruebas y los resultados y resultados del aprendizaje correspondientes. Los proveedores podrán utilizar esta documentación para demostrar su cumplimiento del presente Reglamento mediante el proceso de evaluación de la conformidad o las actividades de vigilancia del mercado pertinentes. A este respecto, las autoridades de vigilancia del mercado y los organismos notificados tendrán en cuenta positivamente los informes de salida proporcionados y las pruebas escritas aportadas por la autoridad nacional competente, con vistas a acelerar los procedimientos de evaluación de la conformidad en una medida razonable.

(A petición del suministrador o suministrador hipotético del sistema de IA, la autoridad competente presentará una prueba escrita de las actividades llevadas a cabo con éxito en el espacio controlado de pruebas. La autoridad competente también facilitará un informe de salida en el que se detallen las actividades llevadas a cabo en el espacio controlado de pruebas y los resultados y resultados del aprendizaje correspondientes. Los suministradores podrán utilizar esta documentación para demostrar su cumplimiento del presente Reglamento mediante el proceso de valoración de la adecuación o las actividades de vigilancia del mercado procedentes. A este respecto, las autoridades de vigilancia del mercado y los organismos notificados tendrán en cuenta positivamente los informes de salida facilitados y las pruebas escritas presentadas por la autoridad nacional competente, con vistas a acelerar los procedimientos de valoración de la adecuaicón en una medida razonable. )

8. Con sujeción a las disposiciones de confidencialidad del artículo 78 y con el acuerdo del proveedor o proveedor potencial, la Comisión y el Consejo de IA estarán autorizados a acceder a los informes de salida y los tendrán en cuenta, según proceda, en el ejercicio de sus funciones en virtud del presente Reglamento. Si tanto el proveedor o proveedor potencial como la autoridad nacional competente dan expresamente su acuerdo para ello, el informe de salida podrá hacerse público a través de la plataforma única de información a que se refiere el presente artículo.

(Con sujeción a las disposiciones de confidencialidad del artículo 78 y con el acuerdo del suministrador o suministrador hipotético, la Comisión y el Consejo de IA estarán autorizados a acceder a los informes de salida y los tendrán en cuenta, según corresponda, en el ejercicio de sus funciones en aplicación del presente Reglamento. Si tanto el suministrador o suministrador hipotético como la autoridad nacional competente dan expresamente su acuerdo para ello, el informe de salida podrá hacerse público a través de la plataforma única de información a que se refiere el presente artículo. )

9. El establecimiento de espacios controlados de pruebas para la IA tendrá por objeto contribuir a los siguientes objetivos:

(El establecimiento de espacios controlados de pruebas para la IA tendrá por objeto colaborar a los siguientes objetivos: )

mejorar la seguridad jurídica para lograr el cumplimiento del presente Reglamento o, en su caso, de otras disposiciones de Derecho de la Unión y nacional aplicable;

apoyar el intercambio de mejores prácticas mediante la cooperación con las autoridades que participan en el espacio controlado de pruebas para la IA;

fomentar la innovación y la competitividad y facilitar el desarrollo de un ecosistema de la IA;

(impulsar la innovación y la competitividad y facilitar el desarrollo de un ecosistema de la IA; )

contribuir a un aprendizaje normativo basado en datos contrastados;

(colaborar a un aprendizaje normativo basado en datos contrastados; )

facilitar y acelerar el acceso al mercado de la Unión de los sistemas de IA, en particular cuando los proporcionen pymes –incluidas empresas emergentes– y pequeñas empresas de mediana capitalización.

(facilitar y acelerar el acceso al mercado de la Unión de los sistemas de IA, en especial cuando los suministren pymes –incluidas empresas emergentes– y pequeñas empresas de mediana capitalización. )

10. Las autoridades nacionales competentes garantizarán que, en la medida en que los sistemas innovadores de IA impliquen el tratamiento de datos personales o estén comprendidos dentro del ámbito de supervisión de otras autoridades nacionales o autoridades competentes que proporcionen o apoyen el acceso a los datos, las autoridades competentes en materia de protección de datos y dichas otras autoridades nacionales o competentes estén vinculadas al funcionamiento del espacio controlado de pruebas para la IA e involucradas en la supervisión de dichos aspectos en la medida en que lo permitan sus respectivas funciones y poderes.

(Las autoridades nacionales competentes garantizarán que, en la medida en que los sistemas innovadores de IA conlleven el tratamiento de datos personales o estén incluidos dentro del ámbito de control de otras autoridades nacionales o autoridades competentes que suministren o apoyen el acceso a los datos, las autoridades competentes en materia de protección de datos y dichas otras autoridades nacionales o competentes estén unidas al funcionamiento del espacio controlado de pruebas para la IA e involucradas en el control de dichos aspectos en la medida en que lo admitan sus respectivas funciones y poderes. )

11. Los espacios controlados de pruebas para la IA no afectarán a las facultades de supervisión o correctoras de las autoridades competentes que supervisan los espacios controlados de pruebas, tampoco a escala regional o local. Cualquier riesgo considerable para la salud, la seguridad y los derechos fundamentales detectado durante el proceso de desarrollo y prueba de estos sistemas de IA dará lugar a una reducción adecuada. Las autoridades nacionales competentes estarán facultadas para suspender temporal o permanentemente el proceso de prueba, o la participación en el espacio controlado de pruebas si no es posible una reducción efectiva, e informarán a la Oficina de IA de dicha decisión. Con el objetivo de apoyar la innovación en materia de IA en la Unión, las autoridades nacionales competentes ejercerán sus facultades de supervisión dentro de los límites del Derecho pertinente y harán uso de su potestad discrecional a la hora de aplicar disposiciones jurídicas en relación con un proyecto específico de espacio controlado de pruebas para la IA.

(Los espacios controlados de pruebas para la IA no perjudicarán a las facultades de control o correctoras de las autoridades competentes que controlan los espacios controlados de pruebas, tampoco en el ámbito regional o local. Cualquier riesgo considerable para la salud, la seguridad y los derechos fundamentales comprobado durante el proceso de desarrollo y prueba de estos sistemas de IA dará lugar a una reducción adecuada. Las autoridades nacionales competentes estarán facultadas para suspender temporal o permanentemente el proceso de prueba, o la participación en el espacio controlado de pruebas si no es posible una reducción real, e informarán a la Oficina de IA de dicha decisión. Con el objetivo de apoyar la innovación en materia de IA en la Unión, las autoridades nacionales competentes ejercitarán sus facultades de control dentro de los límites del Derecho correspondiente y harán uso de su potestad optativa a la hora de aplicar disposiciones jurídicas en relación con un proyecto concreto de espacio controlado de pruebas para la IA.)

12. Los proveedores y proveedores potenciales que participen en el espacio controlado de pruebas para la IA responderán, con arreglo al Derecho de la Unión y nacional en materia de responsabilidad, de cualquier daño infligido a terceros como resultado de la experimentación realizada en el espacio controlado de pruebas. Sin embargo, siempre que los proveedores potenciales respeten el plan específico y las condiciones de su participación y sigan de buena fe las orientaciones proporcionadas por la autoridad nacional competente, las autoridades no impondrán multas administrativas por infracciones del presente Reglamento. En los casos en que otras autoridades competentes responsables de otras disposiciones del Derecho de la Unión y nacional hayan participado activamente en la supervisión del sistema de IA en el espacio controlado de pruebas y hayan proporcionado orientaciones para el cumplimiento, no se impondrán multas administrativas en relación con dichas disposiciones.

(Los suministradores y suministraores hipotéticos que participen en el espacio controlado de pruebas para la IA responderán, con arreglo al Derecho de la Unión y nacional en materia de responsabilidad, de cualquier daño causado a otros como resultado de la experimentación realizada en el espacio controlado de pruebas. Sin embargo, siempre que los suministradores hipotéticos respeten el plan concreto y las condiciones de su participación y sigan de buena fe las orientaciones facilitadas por la autoridad nacional competente, las autoridades no impondrán multas administrativas por infracciones de este Reglamento. En los casos en que otras autoridades competentes responsables de otras disposiciones del Derecho de la Unión y nacional hayan participado activamente en el control del sistema de IA en el espacio controlado de pruebas y hayan facilitado orientaciones para el cumplimiento, no se impondrán multas administrativas en relación con dichas disposiciones.)

13. Los espacios controlados de pruebas para la IA serán diseñados y puestos en práctica de tal manera que, cuando proceda, faciliten la cooperación transfronteriza entre las autoridades nacionales competentes.

14. Las autoridades nacionales competentes, el Supervisor Europeo de Protección de Datos y la Oficina de IA, según proceda y en el marco de sus respectivas competencias, coordinarán sus actividades y cooperarán en el marco del Consejo de IA. Podrán apoyar el establecimiento y el funcionamiento conjuntos de espacios controlados de pruebas para la IA incluido en diferentes sectores, e intercambiar buenas prácticas en relación con cuestiones conexas.

(Las autoridades nacionales competentes, el Supervisor Europeo de Protección de Datos y la Oficina de IA, según coresponda y en el ámbito de sus respectivas competencias, coordinarán sus actividades y cooperarán en el ámbito del Consejo de IA. Podrán apoyar el establecimiento y el funcionamiento conjuntos de espacios controlados de pruebas para la IA incluido en diferentes sectores, e intercambiar buenas prácticas en relación con cuestiones afines.)

15. Las autoridades nacionales competentes informarán a la Oficina de IA y al Consejo de IA del establecimiento de un espacio controlado de pruebas y podrán solicitarles apoyo y orientación. La Oficina de IA pondrá a disposición del público una lista de los espacios controlados de pruebas previstos y existentes y la mantendrá actualizada con el fin de fomentar una mayor interacción en los espacios controlados de pruebas para la IA, así como la cooperación transfronteriza.

(Las autoridades nacionales competentes informarán a la Oficina de IA y al Consejo de IA del establecimiento de un espacio controlado de pruebas y podrán solicitarles apoyo y orientación. La Oficina de IA pondrá a disposición del público una lista de los espacios controlados de pruebas previstos y existentes y la mantendrá actualizada con el fin de impulsar una mayor interacción en los espacios controlados de pruebas para la IA, así como la cooperación transfronteriza. )

16. Las autoridades nacionales competentes presentarán informes anuales a la Oficina de IA y al Consejo de IA, por primera vez un año después del establecimiento del espacio controlado de pruebas para la IA y, posteriormente, cada año hasta su terminación, así como un informe final. Dichos informes proporcionarán información sobre el progreso y los resultados de la puesta en práctica de dichos espacios controlados de pruebas, incluidos mejores prácticas, incidentes, enseñanzas extraídas y recomendaciones acerca de su configuración y, en su caso, acerca de la aplicación y posible revisión del presente Reglamento, incluidos sus actos delegados y de ejecución, y sobre la aplicación de otras disposiciones de Derecho de la Unión, supervisada por las autoridades competentes en el marco del espacio controlado de pruebas. Las autoridades nacionales competentes pondrán dichos informes anuales, o resúmenes de estos, a disposición del público, en línea. La Comisión tendrá en cuenta, cuando proceda, los informes anuales en el ejercicio de sus funciones en virtud del presente Reglamento.

(Las autoridades nacionales competentes presentarán informes anuales a la Oficina de IA y al Consejo de IA, por primera vez un año después del establecimiento del espacio controlado de pruebas para la IA y, posteriormente, cada año hasta su terminación, así como un informe final. Dichos informes facilitarán información sobre el progreso y los resultados de la puesta en práctica de dichos espacios controlados de pruebas, incluidos mejores prácticas, incidentes, enseñanzas extraídas y recomendaciones acerca de su configuración y, en su caso, acerca de la aplicación y posible revisión del presente Reglamento, incluidos sus actos delegados y de ejecución, y sobre la aplicación de otras disposiciones de Derecho de la Unión, controlada por las autoridades competentes en el ámbito del espacio controlado de pruebas. Las autoridades nacionales competentes pondrán dichos informes anuales, o resúmenes de estos, a disposición del público, en línea. La Comisión tendrá en cuenta, cuando corresponda, los informes anuales en el ejercicio de sus funciones en aplicación del presente Reglamento. )

17. La Comisión desarrollará una interfaz única y específica que contenga toda la información pertinente relacionada con los espacios controlados de pruebas para la IA para que las partes interesadas puedan interactuar con los espacios controlados de pruebas para la IA y plantear consultas a las autoridades competentes, así como pedir orientaciones no vinculantes sobre la conformidad de productos, servicios y modelos de negocio innovadores que incorporen tecnologías de IA, de conformidad con el artículo 62, apartado 1, letra c). La Comisión se coordinará de forma proactiva con las autoridades nacionales competentes, cuando proceda.

(La Comisión desarrollará una interfaz única y determinada que incluya toda la información procedente relacionada con los espacios controlados de pruebas para la IA para que las partes interesadas puedan interactuar con los espacios controlados de pruebas para la IA y presentar consultas a las autoridades competentes, así como pedir orientaciones no exigibles sobre la adecuación de productos, servicios y modelos de negocio innovadores que incluyan tecnologías de IA, de acuerdo con el artículo 62, apartado 1, letra c). La Comisión se coordinará de forma proactiva con las autoridades nacionales competentes, cuando corresponda.)

El artículo 58 del Reglamento (UE) 2024/1689 dispone lo siguiente:

Artículo 58. Disposiciones detalladas relativas a los espacios controlados de pruebas para la IA y al funcionamiento de dichos espacios

1. A fin de evitar que se produzca una fragmentación en la Unión, la Comisión adoptará actos de ejecución que especifiquen las disposiciones detalladas para el establecimiento, el desarrollo, la puesta en práctica, el funcionamiento, la gobernanza y la supervisión de los espacios controlados de pruebas para la IA. Dichos actos de ejecución incluirán principios comunes sobre las cuestiones siguientes:

(A fin de evitar que se produzca una fragmentación en la Unión, la Comisión aprobará actos de ejecución que determinen las disposiciones detalladas para el establecimiento, el desarrollo, la puesta en práctica, el funcionamiento, la dirección y el control de los espacios controlados de pruebas para la IA. Dichos actos de ejecución incluirán principios comunes sobre las cuestiones siguientes: )

los criterios de admisibilidad y selección para participar en el espacio controlado de pruebas para la IA;

los procedimientos para la solicitud, la participación, la supervisión, la salida y la terminación del espacio controlado de pruebas para la IA, incluidos el plan del espacio controlado de pruebas y el informe de salida;

(los procedimientos para la solicitud, la participación, el control, la salida y la terminación del espacio controlado de pruebas para la IA, incluidos el plan del espacio controlado de pruebas y el informe de salida; )

las condiciones aplicables a los participantes.

(los requisitos aplicables a los participantes. )

d)
las normas detalladas aplicables a la gobernanza de los espacios controlados de pruebas para la IA contemplados en virtud del artículo 57, incluido en lo que respecta a la participación y la supervisión de las autoridades competentes en materia de protección de datos, cuando proceda, y a la coordinación y cooperación en el ámbito nacional y de la Unión.

(las normas detalladas aplicables a la dirección de los espacios controlados de pruebas para la IA contemplados en aplicación del artículo 57, incluido en lo que respecta a la participación y el control de las autoridades competentes en materia de protección de datos, cuando proceda, y a la coordinación y cooperación en el ámbito nacional y de la Unión. )

Dichos actos de ejecución se adoptarán de conformidad con el procedimiento de examen a que se refiere el artículo 98, apartado 2.

(Dichos actos de ejecución se aprobarán de acuerdo con el procedimiento de examen a que se refiere el artículo 98, apartado 2. )

2. Los actos de ejecución mencionados en el apartado 1 garantizarán:

que los espacios controlados de pruebas para la IA estén abiertos a cualquier proveedor o proveedor potencial de un sistema de IA que presente una solicitud y cumpla los criterios de admisibilidad y selección, que serán transparentes y equitativos, y también que las autoridades nacionales competentes informen a los solicitantes de su decisión en un plazo de tres meses a partir de la presentación de la solicitud;

(que los espacios controlados de pruebas para la IA estén abiertos a cualquier suministrador o suministrador hipotético de un sistema de IA que presente una solicitud y cumpla los criterios de admisibilidad y selección, que serán transparentes y equitativos, y también que las autoridades nacionales competentes informen a los solicitantes de su decisión en un plazo de tres meses desde la presentación de la solicitud; )

que los espacios controlados de pruebas para la IA permitan un acceso amplio e igualitario y se adapten a la demanda de participación; los proveedores y proveedores potenciales también podrán presentar solicitudes en asociación con responsables del despliegue y con otros terceros pertinentes;

(que los espacios controlados de pruebas para la IA posibiliten un acceso amplio e igualitario y se adecúen a las peticiones de participación; los suministradores y suministradores hipotéticos también podrán presentar solicitudes en asociación con responsables del desarrollo y con otros ajenos procedentes; )

que las disposiciones detalladas y las condiciones relativas a los espacios controlados de pruebas para la IA propicien, en la medida de lo posible, que las autoridades nacionales competentes dispongan de flexibilidad para establecer y gestionar sus espacios controlados de pruebas para la IA;

(que las disposiciones detalladas y las condiciones relativas a los espacios controlados de pruebas para la IA faciliten, en la medida de lo posible, que las autoridades nacionales competentes dispongan de flexibilidad para establecer y gestionar sus espacios controlados de pruebas para la IA;)

que el acceso a los espacios controlados de pruebas para la IA sea gratuito para las pymes, incluidas las empresas emergentes, sin perjuicio de los costes excepcionales que las autoridades nacionales competentes puedan recuperar de una forma justa y proporcionada;

(que el acceso a los espacios controlados de pruebas para la IA sea gratuito para las pymes, incluidas las empresas emergentes, sin que obste a los costes excepcionales que las autoridades nacionales competentes puedan recuperar de una forma justa y equilibrada; )

que se facilite a los proveedores y proveedores potenciales, mediante los resultados del aprendizaje de los espacios controlados de pruebas para la IA, el cumplimiento de las obligaciones de evaluación de la conformidad en virtud del presente Reglamento y la aplicación voluntaria de los códigos de conducta a que se refiere el artículo 95;

(que se facilite a los suministradores y suministradores hipotéticos, mediante los resultados del aprendizaje de los espacios controlados de pruebas para la IA, el cumplimiento de las obligaciones de valoración de la adecuación en aplicación del presente Reglamento y la aplicación voluntaria de los códigos de conducta a que se refiere el artículo 95; )

que los espacios controlados de pruebas para la IA faciliten la participación de otros agentes pertinentes del ecosistema de la IA, como los organismos notificados y los organismos de normalización, las pymes, incluidas las empresas emergentes, las empresas, los agentes innovadores, las instalaciones de ensayo y experimentación, los laboratorios de investigación y experimentación y los centros europeos de innovación digital, los centros de excelencia y los investigadores, a fin de permitir y facilitar la cooperación con los sectores público y privado;

(que los espacios controlados de pruebas para la IA faciliten la participación de otros agentes procedentes del ecosistema de la IA, como los organismos notificados y los organismos de normalización, las pymes, incluidas las empresas emergentes, las empresas, los agentes innovadores, las instalaciones de ensayo y experimentación, los laboratorios de investigación y experimentación y los centros europeos de innovación digital, los centros de excelencia y los investigadores, a fin de admitir y facilitar la cooperación con los sectores público y privado;)

que los procedimientos, procesos y requisitos administrativos para la solicitud, la selección, la participación y la salida del espacio controlado de pruebas para la IA sean sencillos y fácilmente inteligibles y se comuniquen claramente, a fin de facilitar la participación de las pymes, incluidas las empresas emergentes, con capacidades jurídicas y administrativas limitadas, y se racionalicen en toda la Unión, a fin de evitar la fragmentación y de que la participación en un espacio controlado de pruebas para la IA establecido por un Estado miembro o por el Supervisor Europeo de Protección de Datos esté reconocida mutua y uniformemente y tenga los mismos efectos jurídicos en toda la Unión;

(que los procedimientos, procesos y requisitos administrativos para la solicitud, la selección, la participación y la salida del espacio controlado de pruebas para la IA sean sencillos y fácilmente comprensibles y se comuniquen claramente, a fin de facilitar la participación de las pymes, incluidas las empresas emergentes, con capacidades jurídicas y administrativas limitadas, y se racionalicen en toda la Unión, a fin de evitar la división y de que la participación en un espacio controlado de pruebas para la IA establecido por un Estado miembro o por el Supervisor Europeo de Protección de Datos esté admitida mutua y unificadamente y tenga los mismos efectos jurídicos en toda la Unión; )

que la participación en el espacio controlado de pruebas para la IA se limite a un período que se ajuste a la complejidad y la escala del proyecto, y que podrá ser prorrogado por la autoridad nacional competente;

(que la participación en el espacio controlado de pruebas para la IA se limite a un período que se ajuste a la complejidad y la amplitud del proyecto, y que podrá ser ampliado por la autoridad nacional competente; )

que los espacios controlados de pruebas para la IA faciliten el desarrollo de herramientas e infraestructuras para la prueba, la evaluación comparativa, la evaluación y la explicación de las dimensiones de los sistemas de IA pertinentes para el aprendizaje normativo, como la precisión, la solidez y la ciberseguridad, así como de medidas para mitigar los riesgos para los derechos fundamentales y la sociedad en su conjunto.

(que los espacios controlados de pruebas para la IA faciliten el desarrollo de herramientas e infraestructuras para la prueba, la valoración comparativa, la valoración y la explicación de las dimensiones de los sistemas de IA correspondientes para el aprendizaje normativo, como la precisión, la solidez y la ciberseguridad, así como de medidas para disminuir los riesgos para los derechos fundamentales y la sociedad en su conjunto. )

3. Se ofrecerán a los proveedores potenciales que participen en los espacios controlados de pruebas para la IA, en particular a las pymes y las empresas emergentes, cuando proceda, servicios previos al despliegue, como orientaciones sobre la aplicación del presente Reglamento, otros servicios que aportan valor añadido, como ayuda con los documentos de normalización y la certificación, y acceso a las instalaciones de ensayo y experimentación, los centros europeos de innovación digital y los centros de excelencia.

(Se ofrecerán a los suministradores hipotéticos que participen en los espacios controlados de pruebas para la IA, en especial a las pymes y las empresas emergentes, cuando proceda, servicios previos al desarrollo, como orientaciones sobre la aplicación de este Reglamento, otros servicios que aportan valor añadido, como ayuda con los documentos de unificación y la certificación, y acceso a las instalaciones de ensayo y experimentación, los centros europeos de innovación digital y los centros de excelencia. )

4. Cuando las autoridades nacionales competentes estudien autorizar la realización de pruebas en condiciones reales supervisadas en el marco de un espacio controlado de pruebas para la IA que se establecerá en virtud del presente artículo, acordarán específicamente las condiciones de dichas pruebas y, en particular, las garantías adecuadas con los participantes, con vistas a proteger los derechos fundamentales, la salud y la seguridad. Cuando proceda, cooperarán con otras autoridades nacionales competentes con el fin de garantizar la coherencia de las prácticas en toda la Unión.»

(Cuando las autoridades nacionales competentes estudien autorizar la realización de pruebas en situaciones reales controladas en el ámbito de un espacio controlado de pruebas para la IA que se establecerá en aplicación de este artículo, acordarán especialmente los requisitos de dichas pruebas y, en especial, las garantías adecuadas con los participantes, con vistas a proteger los derechos fundamentales, la salud y la seguridad. Cuando proceda, cooperarán con otras autoridades nacionales competentes con el fin de garantizar la coherencia de las prácticas en toda la Unión.)