Transparencia en el uso de algoritmos en el trabajo y derecho de información
La reciente Ley Europea de Inteligencia Artificial ha puesto de relieve que la mayoría de las actuaciones que se hacen en las organizaciones mediante el uso de sistema de IA son catalogadas de riesgo alto [Reglamento Unión Europea sobre IA y el Futuro del trabajo] debido a que os sistemas de IA que afectan negativamente a la seguridad o a los derechos fundamentales.
En la legislación europea y española se viene dando una actualización de las normas para hacer frente a las nuevas necesidades de transparencia e información que se requiere con el uso creciente de la IA y de algoritmos informáticos. El Reglamento General de Protección de Datos (RGPD) de la Unión Europea establece pautas estrictas sobre cómo los responsables y encargados de tratamiento pueden recopilar y utilizar los datos personales.
En el ámbito laboral, todas las empresas con trabajadores asalariados que utilicen algoritmos en el ámbito laboral para la toma de decisiones automatizada, incluyendo la elaboración de perfiles [Uso de algoritmos en el área de RRHH de la empresa], tienen la obligación de informar sobre su uso.
Esta obligación de informar, y el derecho correspondiente a recibir información, se desarrolla en dos planos.
- Un plano individual por el cual se debe informar a las personas trabajadoras sujetas a decisiones íntegramente automatizadas, incluyendo la elaboración de perfiles, sin intervención humana.
- Un plano colectivo, que supone el deber de informar a los representantes de los trabajadores sobre el uso de algoritmos o sistemas de inteligencia artificial que puedan incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo.
En este artículo repasamos las principales características que reviste el derecho de información en ambos planos, y luego mapearemos los contenidos que la legislación obliga a informar.
Obtenida de Shutterrstock
Derecho individual de información
La transparencia en el uso de algoritmos se considera esencial en materia de protección de datos personales, lo que exige a las empresas que se informe de los métodos usados para su diseño y de las finalidades con que se emplean (artículo 6 del Reglamento General de Protección de Datos, RGPD).
En este contexto se enmarca el derecho individual de los trabajadores a obtener información sobre las decisiones íntegramente automatizadas que les afecten (artículos 13.2, 14.2, 15.1 y 22 RGPD). Esta información debe facilitarse previa al tratamiento de los datos, consista en la elaboración de un perfil o en la toma de decisiones automatizadas
Para darse este derecho de información la normativa europea exige que los algoritmos, de forma autónoma y automática sin intervención humana, adopten una decisión. Por ejemplo, si un algoritmo selecciona las diez mejores personas candidatas a un puesto de trabajo, descartando automáticamente a las demás, existe una decisión automatizada, aunque las diez últimas sean evaluadas mediante intervención humana.
No se reconoce, por tanto, este derecho de información individual respecto de las decisiones semiautomatizadas en las que también existe intervención humana sobre la decisión y que valore toda la información disponible, no siendo suficiente que se limite a validar la decisión adoptada por el algoritmo.
Derecho colectivo de información
El artículo 64.4.d) del Estatuto de los Trabajadores incorpora obligaciones de información en favor de la representación legal de la plantilla sobre el uso de "algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles".
A diferencia de la obligación legal de información a los trabajadores de manera individual, en el caso de la obligación de informar a la representación legal de los trabajadores no se exige que la decisión tomada sea íntegramente automatizada y realizada por el algoritmo. También quedan incluidas las situaciones en que la toma de decisiones se realizad de manera semiautomatizada, con intervención humana; es decir, aunque el algoritmo no sea determinante para la decisión final tomada sobre la persona trabajadora, su mero uso implica la obligación de informar.
La información sobre el uso de algoritmos debe facilitarse previa a la utilización de los algoritmos y ante cualquier cambio en las variables, parámetros o cualquier otra característica del algoritmo (a excepción del código fuente que se emplea).
Los contenidos de la información algorítmica
Existen, como se ve, unos contenidos comunes referidos a la información que las empresas deben proporcionar a los trabajadores afectados por el uso de algoritmos y a sus representantes legales. La información debe facilitarse de forma clara, simple y comprensible para personas sin conocimientos técnicos.
Estos contenidos afectan a tres ámbitos:
1. El uso de algoritmos o sistemas de inteligencia artificial, la tecnología implicada y el grado de intervención humana:
- Utilización de algoritmos para la toma de decisiones sobre la gestión de personas (selección de personas, contratación, asignación de tareas, control de la productividad, promociones, ascensos, etc.), incluyendo tanto a personas trabajadoras como a personas candidatas a un puesto de trabajo.
- Utilización de algoritmos para la elaboración de perfiles de las personas trabajadoras para su aplicación en el ámbito laboral.
- El tipo de tecnología utilizada por parte del algoritmo y, entre otras cuestiones, si esta genera un algoritmo de "caja negra" o si se trata de un algoritmo de aprendizaje continuo.
- El software utilizado y, en su caso, si la empresa ha realizado alguna alteración sobre el programa.
- El grado de intervención humana cualificada en las decisiones adoptadas. En concreto, la competencia y autorización de la persona humana para apartarse de la decisión adoptada por el algoritmo.
2. La lógica y funcionamiento del algoritmo, incluyendo las variables y parámetros utilizados.
- Las variables utilizadas, entendidas como la información o factores utilizados por el algoritmo para tomar la decisión o la elaboración del perfil.
- Los parámetros utilizados para la toma de decisiones automatizadas, entendidos como la ponderación relativa de cada variable en el modelo para la toma de la decisión, así como cualquier cambio de estos parámetros que modifique el comportamiento del algoritmo.
- Las reglas e instrucciones de programación (ya sea aquellas programadas de forma expresa o derivadas por aprendizaje automático del propio algoritmo) que conducen a la toma de la decisión.
- Los datos de entrenamiento y, en su caso, validación, utilizados y sus características.
- En casos de elaboración de perfiles, las métricas de precisión o error en las tareas automatizadas (clasificación, puntuación, regresión, ordenación…) de las personas en los distintos perfiles.
- Las auditorías realizadas o la evaluación de impacto realizada por parte de la empresa o una tercera empresa respecto del algoritmo utilizado.
3. Consecuencias que pueden derivarse de la decisión adoptada mediante el uso de algoritmos.
- Las consecuencias que la decisión adoptada mediante algoritmos puede tener sobre la persona trabajadora en términos de acceso al empleo, mantenimiento del empleo o determinación de condiciones laborales (por ejemplo, determinación de salario, asignación de tareas, fijación de horarios, promociones, despidos, etc.).
- A la representación legal de los trabajadores, además, debe proporcionarse información respecto el impacto que las decisiones adoptadas mediante algoritmos tienen en materia de igualdad y no discriminación entre mujeres y hombres.
La utilización de algoritmos en la gestión de Recursos Humanos es una realidad creciente, lo que ha generado un debate en el que se consideran tanto sus ventajas como sus riesgos.
La protección de datos como derecho fundamental reconocido en la Constitución Española es importante para preservar la privacidad e intimidad en un entorno digital de trabajo. La recopilación masiva de datos sobre las personas, su desempeño, su estado anímico o de salud, son necesarios para entrenar los algoritmos de IA y mejorar su rendimiento, pero esto también plantea dilemas éticos y legales sobre cómo se deben manejar y almacenar. En este contexto, la información a las personas trabajadoras afectadas y sus representantes legales es de suma importancia para garantizar los derechos fundamentales de estas personas en el ámbito laboral.
Si te gustan los contenidos del blog puedes apoyar este proyecto compartiendo los artículos; también puedes suscribirte y recibir en tu correo los nuevos artículos que vaya publicando.
Para saber más...
Gobierno de España. Información algorítmica en el ámbito laboral. Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral. Mayo 2022
OCDE 2019. Recommendation of the Council on Artificial lntelligence (modificada en noviembre de 2023).
Parlamento y Consejo de la UE (2016) Reglamento (UE) 2016/679 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.
Parlamento y Consejo de la UE (2024) Reglamento de la UE 2024/1689, de Inteligencia Artificial (texto en castellano).
Al aceptar, accederá a un servicio proporcionado por un tercero externo a https://trabajo4cero.com/