Jimena Ayala Mezzich[2]
Abogada summa cum laude por la Universidad del Pacífico, Asociada del Despacho Laboral de Rodrigo, Elías & Medrano Abogados y Experta Certificada en Protección de Datos por el Institute of Audit & IT-Governance.
Introducción
Durante las primeras etapas de los procesos de selección de personal, las empresas suelen designar a especialistas en recursos humanos para elegir los curriculum vitae de aquellos postulantes que mejor se adecúen al perfil de los puestos de trabajos ofertados. Sin embargo, con el avance de la tecnología, son cada vez más las organizaciones que han decidido emplear la inteligencia artificial para que este proceso sea más eficiente.
Para la selección de los curriculum vitae mediante inteligencia artificial típicamente se utiliza el machine learning. Este es un subcampo de la inteligencia artificial, que se define como la capacidad de una máquina para imitar el comportamiento humano inteligente (MIT, 2021). Los softwares de inteligencia artificial emplean algoritmos de machine learning para procesar grandes cantidades de datos e identificar patrones (Amazon Web Services, s.f.).
Para elegir los curriculum vitae de los candidatos mediante machine learning, se pueden proporcionar datos de trabajadores o extrabajadores de la empresa, así como de personas de la industria, que hayan ocupado el puesto que se está ofertando. Dependiendo de cómo se configure el software, se podrían ingresar datos respecto de los años de experiencia laboral, habilidades blandas, empleadores anteriores, sexo, edad, etnia, etc. La información con la cual se alimente el sistema será fundamental, pues de acuerdo con esta, funcionarán los algoritmos de machine learning y se seleccionarán los curriculum vitae más adecuados.
El sesgo algorítmico: una aproximación desde el derecho laboral
Como es evidente, se encuentra prohibido incurrir en prácticas discriminatorias en -entre otros- los procesos de selección de trabajadores.
El numeral 2 del artículo 2 de la Constitución Política del Perú establece que:
“Toda persona tiene derecho: 2. A la igualdad ante la ley. Nadie debe ser discriminado por motivo de origen, raza, sexo, idioma, religión, opinión, condición económica o de cualquiera otra índole”.
En el mismo sentido, el artículo 26 de la referida norma dispone que:
“En la relación laboral se respetan los siguientes principios: 1. Igualdad de oportunidades sin discriminación”.
Para estos efectos, es importante tener también en consideración la Ley N° 26772, Ley que dispone que las ofertas de empleo y acceso a medios de formación educativa no podrán contener requisitos que constituyan discriminación, anulación o alteración de igualdad de oportunidades o de trato (en adelante, la “Ley”), y su reglamento, aprobado por el Decreto Supremo N° 002-98-TR (en adelante, el “Reglamento”).
De acuerdo con el artículo 1 de la Ley, la oferta de empleo no podrá contener requisitos que constituyan discriminación, anulación o alteración de la igualdad de oportunidades o de trato. Vinculado con ello, su artículo 2 precisa que se entiende por discriminación, a la anulación o alteración de la igualdad de oportunidades o de trato, a los requisitos que impliquen un trato diferenciado basado en motivos de raza, sexo, religión, opinión, origen social, condición económica, estado civil, edad o de cualquier índole.
Las excepciones se encuentran contenidas en el artículo 3 del Reglamento. De acuerdo con ello, no se consideran prácticas discriminatorias, por estar sustentadas en una justificación objetiva y razonable, aquellas (i) basadas en las calificaciones exigidas para el desempeño del empleo o (ii) que tienen como propósito promover una composición más equitativa de mujeres y varones dentro de un sector ocupacional específico.
En este ámbito, el artículo 4 del Reglamento sostiene que no se considera justificación objetiva y razonable y, por ende constituye práctica discriminatoria, aquella referida a (i) las preferencias subjetivas de los clientes, (ii) los costos específicos derivados de la contratación o admisión de una persona o (iii) la pertenencia a un grupo, gremio o asociación con fines lícitos.
Si se proporciona a la inteligencia artificial información sobre, por ejemplo, el sexo, la edad, la etnia u otros aspectos que parecerían no ser relevantes para los puestos de trabajo, se podría generar un sesgo algorítmico si la posición ofertada ha sido anteriormente ocupada mayoritariamente por personas de determinado sexo, rango etario o grupo étnico. El software identificará este patrón y, en consecuencia, descartaría los curriculum vitae de los postulantes sobre la base de motivos prohibidos. Precisamente, el sesgo algorítmico se origina cuando los errores sistemáticos en los algoritmos de machine learning producen resultados injustos o discriminatorios (IBM, 2024).
Esto fue lo que sucedió con la herramienta tecnológica que estaba desarrollando Amazon para automatizar su proceso de contratación. En este caso, el machine learning fue entrenado con los datos de los trabajadores de la empresa. De este modo, en tanto las posiciones técnicas venían siendo ocupadas predominantemente por hombres, el algoritmo identificó que los postulantes masculinos eran preferibles y, por consiguiente, descartaba los curriculum vitae de las postulantes femeninas a dichos puestos de trabajo. En consecuencia, la empresa detectó que el algoritmo sistemáticamente discriminaba a las mujeres, únicamente sobre la base de su sexo (Reuters, 2018).
En este orden de ideas, si bien es innegable que la inteligencia artificial proporciona diversos beneficios, un software con un algoritmo sesgado, utilizado como parte del proceso de selección de personal, puede dificultar aún más el acceso a un puesto laboral e incrementar las desigualdades ya existentes en el mercado de trabajo.
Las empresas que incurran en discriminación en el proceso de selección podrían ser sancionadas por la Superintendencia Nacional de Fiscalización Laboral (SUNAFIL) por cometer la infracción tipificada como muy grave en el artículo 25.17 del Reglamento de la Ley General de Inspección del Trabajo, aprobado por el Decreto Supremo N° 019-2006-TR, el mismo que establece que:
“La discriminación del trabajador, directa o indirecta, en materia de empleo u ocupación, como las referidas a la contratación, retribución, jornada, formación, promoción y demás condiciones, por motivo de origen, raza, color, sexo, edad, idioma, religión, opinión, ascendencia nacional, origen social, condición económica, ejercicio de la libertad sindical, discapacidad, portar el virus HIV o de cualquiera otra índole”
Pese a que el cálculo de las multas de la SUNAFIL se realiza, por regla general, sobre la base de la cantidad de los trabajadores afectados por la infracción, esta es una de las pocas infracciones cuya multa: (i) se calcula considerando el total de los trabajadores de la empresa y (ii) se le aplica una sobretasa del 50%.
Como resultado, las empresas que tengan, por ejemplo, mil trabajadores o más, podrían ser sancionadas con una multa de S/421,553.25, considerando el valor de la Unidad Impositiva Tributaria (UIT) por el año 2025.
El deber de informar: una aproximación desde la protección de datos personales
De acuerdo con la Ley N° 29733, Ley de Protección de Datos Personales (en adelante, “LPDP”), toda la información sobre una persona natural que la identifica o la hace identificable a través de medios que pueden ser razonablemente utilizados califica como dato personal. Tomando en cuenta que los curriculum vitae contienen datos que identifican a los postulantes, su tratamiento debe ser acorde con la regulación de la materia.
El nuevo Reglamento de Protección de Datos Personales, aprobado mediante el Decreto Supremo N° 0 16-2024-JUS, que entrará en vigencia el 31 de marzo del 2025 (en adelante, el “nuevo Reglamento”), indica que tiene por objeto establecer disposiciones para la adecuada aplicación de la LPDP particularmente en el entorno digital. En el mismo sentido, señala que tiene por finalidad garantizar una adecuada tutela del derecho fundamental a la protección de datos personales frente a los riesgos que pueden generar el uso de las nuevas tecnologías digitales.
De esta forma, se ha incluido como principio rector al principio de transparencia. De acuerdo con este, el tratamiento de datos personales debe ser informado de manera permanente, clara, fácil de entender y accesible al titular de los datos personales (en este caso, a los postulantes). Al respecto, debe tomarse particular atención a que este principio exige que el titular del dato personal tome conocimiento de, entre otros, las condiciones del tratamiento de sus datos personales (en este caso, contenidos en sus curriculum vitae).
Definitivamente, esto se encuentra estrechamente vinculado con que, de acuerdo con el nuevo Reglamento, los titulares de los datos personales deberán ser informados sobre la existencia de decisiones automatizadas y las consecuencias que puedan tener para ellos.
Cabe recordar que, de acuerdo con la LPDP, se debe informar a los titulares de los datos personales, de manera detallada, sencilla, expresa, inequívoca y de manera previa a su recopilación respecto de lo siguiente: (i) la finalidad para la que sus datos personales serán tratados, (ii) quiénes son o pueden ser sus destinatarios, (iii) la existencia del banco de datos en que se almacenarán, así como la identidad y domicilio de su titular y, de ser el caso, del(los) encargado(s) del tratamiento de sus datos personales, (iv) el carácter obligatorio o facultativo de sus respuestas al cuestionario que se le proponga, en especial en cuanto a los datos sensibles, (v) la transferencia de los datos personales, (vi) las consecuencias de proporcionar sus datos personales y de su negativa a hacerlo, (vii) el tiempo durante el cual se conserven sus datos personales y (viii) la posibilidad de ejercer los derechos que la ley le concede y los medios previstos para ello.
Como consecuencia del nuevo Reglamento, los empleadores que utilicen la inteligencia artificial en los procesos de selección de personal deberán informar adicionalmente a los postulantes que el tratamiento de sus datos personales implicará el uso, por ejemplo, de la existencia de decisiones automatizadas y, las consecuencias de estas.
La Autoridad Nacional de Protección de Datos Personales (ANPDP) ha señalado en la Guía práctica para la observancia del “Deber de Informar”, que se puede cumplir con éste de distintas maneras, de acuerdo con las formas de recopilación de datos personales: (i) si la recopilación es por formularios impresos, se puede informar a través de un documento físico denominado “Cláusula informativa del tratamiento de datos personales”, (ii) si la recopilación es por navegación en la web, formularios virtuales o registro de aplicaciones móviles, se puede informar a través de un documento virtual denominado “Política de privacidad” y, (iii) si la recopilación es por entrevistas telefónicas, se puede informar a través de una locución que comunica sobre las condiciones del tratamiento de datos personales.
Las empresas que no cumplan con el deber de informar podrían ser sancionadas por la ANPDP por incurrir en una infracción tipificada como grave o leve, dependiendo de la cantidad de información que no fue puesta en conocimiento de los postulantes.
El primer supuesto se encuentra regulado en el numeral 2 del artículo 133 del nuevo Reglamento, el cual establece que:
“No cumplir con el deber de informar o informar de forma incompleta de tres a más condiciones del tratamiento de los datos personales a los titulares de datos personales, de acuerdo con lo establecido en el artículo 18 de la Ley.”
Las infracciones graves son sancionadas por la ANPDP con una multa desde más de 5 UIT hasta 50 UIT. Por el año 2025, ascendería a más de S/26,750.00 hasta S/267,500.00.
El segundo supuesto está contenido en el numeral 5 del artículo 133 del nuevo Reglamento, el cual dispone que:
“Informar de forma incompleta de dos o menos de dos condiciones del tratamiento de los datos personales señaladas en el artículo 18 de la Ley.”
Las infracciones leves son sancionadas por la ANPDP con una multa desde 0,5 UIT hasta 5 UIT. Por el año 2025, sería equivalente a mínimo S/2,675.00 hasta S/26,750.00.
Reflexión final
Es posible contar con un software de inteligencia artificial que seleccione los curriculum vitae de los candidatos a un puesto laboral de manera objetiva y, de este modo, aprovechar los beneficios de la tecnología. Por ejemplo, Siemens ha utilizado exitosamente la inteligencia artificial para analizar las descripciones de los puestos laborales vacantes y los curriculum vitae de los postulantes para determinar quiénes son los más adecuados para el puesto y clasificarlos tomando en cuenta aquellos curriculum vitae que tienen más coincidencias con la descripción de la posición (Buyer, s.f.).
Sin duda, la inteligencia artificial se viene posicionando como una herramienta muy atractiva para muchos empleadores, pues ofrece diversas ventajas en el proceso de reclutamiento de personal. Dentro de los principales beneficios que se señalan al tratar este tema se encuentran, por ejemplo: reducir los tiempos de contratación, superar los sesgos que puedan tener quienes realizan la selección de los curriculum vitae, aumentando así la diversidad del personal, y mejorar la calidad de las contrataciones.
No obstante, ante el riesgo de que exista un sesgo algorítmico en el software, es fundamental identificar la información que se le proporcionará. En este sentido, será importante analizar la posibilidad de anonimizar datos o eliminar aquella información que no sea necesaria. Del mismo modo, será importante llevar a cabo procesos de auditoría y monitoreo permanentes, con el objetivo de identificar si se ha desarrollado algún sesgo algorítmico y, de ser así, implementar mecanismos para corregirlos.
Asimismo, una vez que el empleador haya decidido utilizar la inteligencia artificial para seleccionar los curriculum vitae será fundamental determinar cuáles son las consecuencias que las decisiones automatizadas de este software podrían generar en los postulantes. En línea con ello, se deberá implementar el mecanismo a través del cual se informará esto, y toda la información requerida por la LPDP y el nuevo Reglamento, de manera clara, fácil de entender y accesible a los candidatos. Cumplir con esta obligación será crucial para garantizar transparencia durante los procesos de reclutamiento de personal.
Bibliografía
- Buyer, E. (s.f.). Exact Buyer. Obtenido de Exact Buyer: https://blog.exactbuyer.com/post/successful-ai-recruitment-implementations-examples
- IBM. (20 de Septiembre de 2024). Obtenido de https://www.ibm.com/es-es/think/topics/algorithmic-bias
- MIT. (21 de Abril de 2021). Obtenido de https://mitsloan.mit.edu/ideas-made-to-matter/machine-learning-explained
- Reuters. (10 de Octubre de 2018). Obtenido de https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/
- Services, A. W. (s.f.). Obtenido de https://aws.amazon.com/es/what-is/machine-learning/
- Fecha de envío del artículo: 20 de enero del 2025. ↑
- Abogada summa cum laude por la Universidad del Pacífico, Asociada del Despacho Laboral de Rodrigo, Elías & Medrano Abogados y Experta Certificada en Protección de Datos por el Institute of Audit & IT-Governance. ↑
