DOCUMENTACIÓN TÉCNICA E INSTRUCCIONES DE USO PARA SISTEMAS DE IA DE ALTO RIESGO

La documentación técnica de un sistema de IA de alto riesgo se elaborará antes de su introducción en el mercado o puesta en servicio, y se mantendrá actualizada. La entrega del sistema de IA por parte del proveedor incluye la entrega de la documentación técnica y las instrucciones de uso.

La documentación técnica deberá permitir al cliente o a un tercero evaluar la conformidad del Sistema de IA con las disposiciones de los requisitos establecidos para los sistemas de alto riesgo y, al menos, cumplir las condiciones a continuación descritas:

Una descripción general del sistema de IA que incluya:
1. su finalidad prevista, el nombre del proveedor, la fecha y la versión del sistema.
2. la naturaleza de los datos que pueden o están destinados a ser tratados por el sistema y, en el caso de los datos personales, las categorías de personas físicas y grupos que pueden o se pretende ver afectados.
3. cómo puede interactuar el sistema de IA o puede utilizarse para interactuar con hardware o software que no forme parte del propio sistema de IA, en su caso.
4. las versiones del software o firmware pertinente y cualquier requisito relacionado con la actualización de la versión.
5. la descripción de todas las formas en que el sistema de IA se comercializa o se pone en servicio.
6. la descripción del hardware en el que está previsto que funcione el sistema de IA.
7. cuando el sistema de IA sea un componente de los productos, fotografías o ilustraciones que muestren las características externas, el marcado y el diseño interno de dichos productos.
8. una descripción detallada y fácilmente comprensible del objetivo o los objetivos principales de optimización del sistema.
9. una descripción detallada y fácilmente inteligible de la potencia esperada del sistema y de la calidad de la producción esperada.
10. instrucciones detalladas y fácilmente comprensibles para interpretar la salida del sistema.
11. ejemplos de escenarios para los que no debe utilizarse el sistema.
Una descripción detallada de los elementos del sistema de IA y del proceso para su desarrollo, que incluya:
1. los métodos y pasos realizados para el desarrollo del sistema de IA, incluido, cuando proceda, el recurso a sistemas o herramientas previamente entrenados proporcionados por terceros y cómo estos han sido utilizados, integrados o modificados por el proveedor, incluida una descripción de cualquier licencia u otros acuerdos contractuales relacionados con dichas aportaciones de terceros;
2. las especificaciones de diseño del sistema, es decir, la lógica general del sistema de IA y de los algoritmos; las principales opciones de diseño, incluidas las razones y las hipótesis formuladas, también en relación con las personas o grupos de personas en las que se pretende utilizar el sistema; las principales opciones de clasificación; para qué está diseñado el sistema y la pertinencia de los diferentes parámetros; las decisiones sobre cualquier posible compensación realizada en relación con las soluciones técnicas adoptadas para cumplir con los requisitos de alto riesgo;
3. la descripción de la arquitectura del sistema, explicando cómo los componentes de software se basan o se alimentan entre sí y se integran en el procesamiento general de los componentes del sistema; los recursos computacionales utilizados para desarrollar, entrenar, probar y validar el sistema de IA;
4. en su caso, los requisitos de datos en forma de fichas técnicas que describan las metodologías y técnicas de formación y los conjuntos de datos de formación utilizados, incluida información sobre la procedencia de dichos conjuntos de datos, su alcance y sus principales características; cómo se obtuvieron y seleccionaron los datos; procedimientos de etiquetado (por ejemplo, para el aprendizaje supervisado), metodologías de limpieza de datos (por ejemplo, detección de valores atípicos);
5. en su caso, una descripción detallada de los cambios predeterminados en el sistema de IA y su rendimiento, junto con toda la información pertinente relacionada con las soluciones técnicas adoptadas para garantizar la conformidad continua del Sistema de IA con los requisitos de alto riesgo;
6. los procedimientos de validación y ensayo utilizados, incluida información sobre los datos de validación y ensayo utilizados y sus principales características; métricas utilizadas para medir la precisión, la solidez, la ciberseguridad y el cumplimiento de otros requisitos, así como los impactos potencialmente discriminatorios; los registros de ensayos y todos los informes de ensayos fechados y firmados por las personas responsables, incluso en lo que respecta a los cambios predeterminados a que se refiere el punto e;
7. Medidas de ciberseguridad implementadas.

Información detallada sobre la supervisión, el funcionamiento y el control del sistema de IA, en particular en lo que respecta a: sus capacidades y limitaciones de rendimiento, nivel de precisión para personas o grupos de personas específicos en los que se pretende utilizar el sistema y el nivel general esperado de precisión en relación con su finalidad prevista; los resultados no deseados previsibles y las fuentes de riesgos para la salud y la seguridad, los derechos fundamentales y la discriminación en vista de la finalidad prevista del sistema de IA.

Una descripción detallada del sistema de gestión de riesgos cuya implementación es obligatoria para los sistemas de IA de alto riesgo.
Una descripción de cualquier cambio relevante realizado por el proveedor en el sistema a lo largo de su ciclo de vida.

Las instrucciones de uso incluirán información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible para el cliente. Las instrucciones de uso deberán cumplir, como mínimo, las condiciones a continuación descritas según corresponda al Sistema de IA:

La identidad y los datos de contacto del proveedor y, en su caso, de sus representantes autorizados;
Las características, capacidades y limitaciones de rendimiento del sistema de IA, incluidas, cuando proceda:
1. el propósito previsto;
2. el nivel de precisión, solidez y ciberseguridad con respecto al cual se ha probado y validado el sistema de IA y que cabe esperar, y cualquier circunstancia claramente conocida y previsible que pueda tener un impacto en ese nivel esperado de precisión, solidez y ciberseguridad;
3. cualquier circunstancia claramente conocida o previsible, relacionada con el uso del sistema de IA de conformidad con el propósito previsto o en condiciones de uso indebido razonablemente previsible, que pueda dar lugar a riesgos para la salud y la seguridad o los derechos fundamentales;
4. el grado en que el sistema de IA puede proporcionar una explicación de las decisiones que adopta;
5. su rendimiento en relación con las personas o grupos de personas en los que se pretende utilizar el sistema de IA;
6. información pertinente sobre las acciones de los usuarios que puedan influir en el rendimiento del sistema, incluido el tipo o la calidad de los datos de entrada, o cualquier otra información pertinente en términos de los conjuntos de datos de entrenamiento, validación y prueba utilizados, teniendo en cuenta el propósito previsto del sistema de IA.
Los cambios en el sistema de IA y su rendimiento que hayan sido predeterminados por el proveedor, si los hubiera;
Las medidas de supervisión humana, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados del sistema de IA por parte del cliente;
La vida útil prevista del sistema de IA y las medidas de mantenimiento y atención necesarias para garantizar el correcto funcionamiento de dicho sistema de IA, también en lo que respecta a las actualizaciones de software;
Una descripción de los mecanismos incluidos en el sistema de IA que permiten a los usuarios recopilar, almacenar e interpretar correctamente los registros.

El proveedor deberá actualizar esta documentación al menos con cada modificación sustancial durante la vigencia del Contrato, y posteriormente ponerla a disposición del cliente.

Este documento está clasificado como USO INTERNO por TELEFÓNICA