Domingo, 22 Septiembre 2024

Reglamento de la Unión Europea sobre IA: implicaciones para el mundo del trabajo

El 1 de agosto de 2024 ha entrado en vigor el Reglamento Europeo de Inteligencia Artificial. Aunque se venía hablando de él, creo que es buen momento para dedicarle un primer artículo a exponer sus grandes líneas.

Una primera idea, ya comentada por otros análisis, es que la negociación para aprobar este Reglamento no fue fácil y ha sido fruto de una larga y compleja negociación habidas en la Unión Europea. Propuesto por la Comisión en abril de 2021 y aprobado por el Parlamento Europeo y el Consejo en diciembre de 2023, los duros y prolongados debates han dejado su impronta en dos cuestiones. En primer lugar, en la redacción final del documento, que comprende 180 considerandos, 113 artículos, 68 definiciones y trece anexos, para un total de 144 páginas (versión del texto en español). Pero también es de señalar los plazos que se establecen para la entrada en vigor. Así, en aquellas aplicaciones de la IA que se categorizan como inaceptables (y por tanto, quedan prohibidos) se establecen seis meses desde su publicación; para todas las aplicaciones de Alto Riesgo, dos años.

El Reglamento se marca como objetivo fomentar el desarrollo y la implantación responsables de la inteligencia artificial en la UE. Aborda los posibles riesgos para la salud, la seguridad y los derechos fundamentales de los ciudadanos. Dada la temática de este blog, en este artículo vamos a dirigir nuestra mirada a las implicaciones que este Reglamento va a tener para el mundo del trabajo en cuanto a delimitar y prevenir malos usos de la IA y de los algoritmos en la gestión de las personas.

El Reglamento define Sistema de Inteligencia Artificial aquel que opera con elementos de autonomía y que, basándose en datos y entradas obtenidos de humanos o máquinas, infiere como alcanzar unos objetivos propuestos, usando para ello técnicas basadas en el aprendizaje-máquina o en lógica y conocimiento, y genera como salida contenidos, predicciones, recomendaciones o decisiones que influyen en el entorno con el que el sistema interactúa.

Obtenida en Ministerio de Asuntos Económicos y Transformación Digital

La finalidad del Reglamento es promover una IA centrada en el ser humano, fiable y que respete los derechos fundamentales de las personas frente a los efectos perjudiciales de esta tecnología. El Reglamento introduce un marco uniforme en todos los países de la UE, basado en un enfoque preventivo de la IA; establece una jerarquía de riesgos en función de las consecuencias que tiene el uso de la IA, y define para cada categoría una serie de obligaciones a cumplir para proveedores y usuarios. Las categorías de riesgo que se definen son cuatro:

Riesgo inaceptable.
Alto riesgo.
Riesgos específico de transparencia.
Riesgo mínimo.

1. Riesgo inaceptable

Los sistemas de IA de riesgo inaceptable son los que se consideran una amenaza para las personas y serán prohibidos. Incluyen:

manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños.
puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales.
sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial.

En el Reglamento se establecen algunas excepciones a la prohibición de estos sistemas. Por ejemplo, los sistemas de identificación biométrica a distancia "a posteriori", en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial.

2. Alto Riesgo

Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y deberán ser evaluados antes de su comercialización y a lo largo de su ciclo de vida.

Los sistema de alto riesgo y se dividen en dos categorías:

1. Los sistemas de IA que se utilicen en determinados bienes, sujetos a la legislación de la UE sobre seguridad de los productos: juguetes, aviación, automóviles, dispositivos médicos y ascensores.

2.Los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la UE:

identificación biométrica y categorización de personas físicas
gestión y explotación de infraestructuras críticas
educación y formación profesional
empleo, gestión de trabajadores y acceso al autoempleo
acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas
aplicación de la ley
gestión de la migración, el asilo y el control de fronteras
asistencia en la interpretación jurídica y aplicación de la ley.

3. Requisitos de transparencia

La IA generativa, como ChatGPT, no se considera de alto riesgo, pero tendrá que cumplir unos requisitos de transparencia, además de cumplir la legislación de la UE en materia de derechos de autor. Estos requisitos serán:

revelar que el contenido ha sido generado por IA.
diseñar el modelo para evitar que genere contenidos ilegales.
publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento de la máquina.

Además de lo anterior, todo contenido (imágenes, audio o vídeos) que haya sido generado o modificado con la ayuda de la IA, tendrá que etiquetarse claramente como tal.

4. Riesgo mínimo

La mayoría de los sistemas y aplicaciones de IA, como los filtros de correo no deseado y los videojuegos basados en la IA, no están sujetos a ninguna obligación. Se deja a las empresas que pueden adoptar, voluntariamente, códigos de conducta adicionales a las establecidas en el Reglamento.

Como acabamos de ver, los sistemas de IA que se aplican generalmente en las empresas para la gestión de personas y las relaciones laborales están comprendidas en las dos primeras categorías: o son prohibidas por el Reglamento; o suponen prácticas de Alto Riesgo.

Este será el tema que abordaré en un próximo artículo, que pretende ser la continuación a este, y donde veremos cuáles son las principales consecuencias que para empresas y trabajadores tiene el cumplimiento de este Reglamento.

Si te gustan los contenidos del blog puedes apoyar este proyecto compartiendo los artículos; también puedes suscribirte y recibir en tu correo los nuevos artículos que vaya publicando.

Para saber más...

Reglamento de la UE 2024/1689, de Inteligencia Artificial (texto en castellano)

Ferrio, J. V. (2024, julio 17). Reglamento europeo de IA: Cuán largo me lo fiais. ElDiario.es.

"Reglamento de Inteligencia Artificial: el Consejo da luz verde definitiva a las primeras normas del mundo en materia de inteligencia artificial" Consejo de la Unión Europea. Comunicado de prensa 21 mayo 2024

Etiquetas:

Inteligencia Artificial trabajo 4.0

Un blog sobre el Trabajo
en la Era Digital