En el artículo anterior planteamos la siguiente pregunta: si una inteligencia artificial recibe instrucción con información del pasado, ¿puede reproducir los prejuicios del pasado?
A esta pregunta le sigue otra: ¿Cómo pueden estas tecnologías reproducir sesgos ya arraigados en el lugar de trabajo?
Hay datos que tienen una historia
Cuando una empresa comienza a desarrollar una herramienta que la ayudará a contratar, necesita instrucciones. Las instrucciones pueden basarse en los currículos de personas que se desempeñaron bien, en sus calificaciones, en su desempeño laboral, en la permanencia que tuvieron en el puesto o en cualquier otra información que permita clasificar a las personas.
¿Podría decirse que el proceso de contratación que utiliza la empresa tiene algún sesgo? ¿Cómo se seleccionaban anteriormente a los empleados?
Los datos de contratación se construyen con sesgos humanos
Cualquier sistema que utilice datos para instruir a una inteligencia artificial estará sesgado a partir del momento en que reciba información.
En el caso de los datos de contratación, las personas que resultan atractivas para un puesto se seleccionan a partir de un conjunto de requisitos. Los datos que informan a una inteligencia artificial sobre qué aspectos son más importantes en un currículum se basan en lo que antiguamente se consideraba interesante en una persona contratada.
Esto parece un detalle menor, pero puede afectar significativamente el resultado final.
Una decisión que pueda haber sido sesgada en el pasado se convertirá en una regla general incondicional. El algoritmo tendrá esta regla incorporada de forma más rigurosa que cualquier directivo o gerente.
Un sistema automatizado es más propenso a cometer errores si se le enseña con datos defectuosos.
El sesgo arraigado se vuelve automático
Es posible que la organización ya cuente con algunos patrones establecidos a lo largo de su historia de selección de personal. Si la empresa ha empleado a la mayoría de sus trabajadores de la misma universidad, la inteligencia artificial que aprenda de los datos se centrará en las personas que provengan de ahí.
¿Eso significa que las personas que no terminaron en esa universidad tienen menos probabilidades de ser contratadas?
En un sentido histórico, eso podría significar que la empresa no había contratado a nadie de esos programas.
Pero eso no significa que las personas que tienen estudios posteriores no sean valiosas o adecuadas para el puesto.
El algoritmo de contratación podría estar preparado para contratar a personas de ciertas universidades porque así se ha entrenado.
Esto parece un detalle menor, pero podría afectar al sistema de selección de personal de una forma más fundamental.
Los trabajadores profesionales que no tienen títulos universitarios van a tener muchas menos posibilidades de ser contratados por esa empresa.
Lo mismo ocurre con los trabajadores que intentan convertirse en directivos de la industria o cambiar de carrera profesional.
Cuando una empresa decide enseñar a una inteligencia artificial a reconocer candidatos prometedores, debe tener en cuenta que la dirección del mercado laboral puede cambiar.
Una inteligencia artificial que reconoce patrones del pasado podría no estar preparada para una nueva realidad.
Será difícil para el sistema comprender a un trabajador profesional que no ha seguido la trayectoria educativa y laboral estándar.
Eso podría incluir a analistas de datos profesionales, ingenieros de datos y especialistas en tecnología.
Una de las estrategias potencialmente útiles para combatir el problema del sesgo en la selección de personal es la diversidad de datos.
Pero cuando una empresa se centra en obtener más datos para hacer que su sistema de selección de personal sea más imparcial, debe tener en cuenta que los datos son más importantes que la cantidad.
Otra solución podría consistir en utilizar canales para que los trabajadores profesionales demuestren sus habilidades.
SkillMap también puede ofrecer la oportunidad de reorientar la trayectoria profesional y explicar de qué manera un trabajador actual puede estar listo para un nuevo desafío.
Conclusión: enseñar para contratar
Los datos históricos probablemente sean una buena fuente de instrucción para una inteligencia artificial.
Pero si la información tiene prejuicios inherentes, el proceso automatizado de selección de personal tendrá problemas.
Estos problemas afectan al mercado laboral actual porque una empresa necesita una amplia variedad de trabajadores profesionales que respondan a las demandas del mercado.
Una inteligencia artificial entrenada con datos del pasado puede tener muchas barreras para comprender a los nuevos talentos que podrían entrar en una carrera profesional o entrar en un nuevo campo de trabajo.
Pero desarrollar una tecnología con sesgos arraigados implica otra dificultad: la necesidad de que la empresa busque a un trabajador con distintos patrones educativos. La responsabilidad de decidir qué queremos enseñarle sigue siendo nuestra.
Conoce Copiloto de Selección y SkillMap
Revisa otros artículos de interés en el link.
Síguenos en nuestras redes sociales Linkedln, Facebook y en nuestra web Nobilis.
