Cuando se piensa en los sesgos relacionados con la aplicación de la inteligencia artificial durante el proceso de selección de personal, la primera idea que surge es, por supuesto, la relevancia de los datos.
Esto es, sin duda, una preocupación válida,
pero el proceso de creación de la herramienta en sí puede dar lugar a nuevas fuentes de sesgos.
El sesgo también puede estar en el diseño
Una inteligencia artificial es incapaz de tomar decisiones por sí misma. En algún momento, tuvo que haber alguien que determinara qué variables eran importantes y cuáles no, qué diferencias eran significativas y cuáles no, y qué significaba ‘ideal’.
Una herramienta de selección de personal es, por definición, subjetiva, porque su propósito es identificar aquellas cualificaciones y experiencias que se ajusten mejor (en cierto sentido) a las necesidades específicas de una vacante.
Esta es la fuente de muchas preocupaciones éticas relacionadas con su uso.
En la raíz de la herramienta, hay un conjunto de normas e hipótesis que definen su funcionamiento interno (‘lógica interna’), pero el propio concepto de la herramienta podría entrar en conflicto con los requisitos de la vacante y el conjunto general de conocimientos dentro del que dicha vacante existe.
Donde puede estar el problema
El problema puede radicar no solo en la inadecuación de la herramienta, sino también en la imposibilidad de medir algo que, por naturaleza, no puede medirse.
¿Qué significa estar cualificado para un puesto? En la mayoría de los casos, una herramienta de selección de personal basada en datos utilizará algún tipo de medida de ajuste basada en la comparación con candidatos ya contratados.
Esto tiene sentido, en cierto punto, pero la pregunta de qué significa exactamente ‘apto’ es crucial.
¿Se trata de coincidencias de descripción de puesto, como afirman algunos proveedores de tecnología de selección de personal? ¿Son los trabajadores más aptos quienes se asemejan más a los trabajadores superiores y exitosos (en algún sentido)?
¿Depende solo del conjunto de conocimientos en el que se define la herramienta (¿qué es el conjunto de conocimientos, de todos modos?) o se trata de algo más objetivo, como los lugares de trabajo o las calificaciones previas?
¿La obtención de certificados, en algún sentido, demuestra experiencia?
Todo esto afecta enormemente el uso e incluso la validez de la herramienta.
Es difícil saberlo en este momento, pero las respuestas a estas preguntas pueden dar lugar a sesgos de representación incorrecta o subrepresentación si el algoritmo está formulado de manera imprecisa.
El lenguaje puede incluir sesgos
Uno de los campos más nuevos y prometedores de aplicación de la inteligencia artificial es el lenguaje.
Sin embargo, el mismo éxito que ha llevado a la creación de nuevas herramientas para gestionar, comprender y producir lenguaje de manera eficiente ha generado preocupaciones sobre una posible devaluación del trabajo humano.
Al fin y al cabo, hay personas entre las que parece haberse ‘apoderado’ recientemente la inteligencia artificial.
Hay personas que hablan con tanta habilidad que sus discursos parecen artificialmente generados (o engañosamente naturales) y personas que hablan con tanto entorno que parecen ser generaciones enteras de sus predecesores.
El mismo problema se aplica a los anuncios laborales e incluso a los currículums.
Un anuncio puede sonar más atractivo e interesante que otro, sin tener en cuenta las diferencias en el conjunto de conocimientos de quienes lo leen, y los currículums, de manera similar, pueden variar en el mismo sentido.
Por lo tanto, la creación e implementación de un algoritmo de selección de personal requiere un análisis profundo del lenguaje que utilizan el puesto de trabajo y los solicitantes de empleo.
Cuando dos perfiles profesionales ‘iguales’ se convierten en diferentes
Lo más probable es que el mejor método para detectar inexactitudes (si es que las hay) sea poner a prueba la herramienta de selección de personal.
En otras palabras, encontrar al menos dos perfiles profesionales que sean esencialmente iguales en cuanto a experiencia y conjuntos de conocimientos, pero presenten información diferente de otra manera, y pasar a probar la herramienta.
Esto demostrará si una herramienta de selección de personal está sesgada (o no) con respecto a los grupos de candidatos que no coinciden con el modelo estándar.
No es necesario intentar ocultar las diferencias (aunque, en la práctica, puede ser deseable), sino comprender por qué aparecen y si los resultados se correlacionan de manera razonable con ellas (si un perfil profesional tiene un conjunto de experiencias claramente superior, pero una diferencia menor en los indicadores de ajuste, eso es lo esperado).
Sin embargo, este método puede resultar útil en etapas tempranas de implementación de la herramienta, antes de que se haya vuelto completamente confiable. Un buen método para detectar la aparición de diferencias no articuladas es preguntarse por qué deberían existir diferencias y responder a esa pregunta con la mayor precisión posible.
La carga de auditoría también recae sobre el especialista
Un algoritmo eficaz no solo debería implementarse velozmente y con precisión, sino también someterse a pruebas rigurosas en busca de resultados inesperados.
Es importante que el proceso de auditoría forme parte del ciclo vital de la herramienta de selección de personal —no solo porque las diferentes herramientas tienden a cambiar con el tiempo, sino porque las propias herramientas tienden a cambiar— a medida que surgen la experiencia laboral y los métodos de representación de la información en el mercado laboral.
Esto no elimina la capacidad de la herramienta para estar sesgada (ya sea de manera inequitable o no intencionada), pero su tendencia a cambiar es igual de relevante.
Los campos del lenguaje y la representación se abren cada vez más a implementaciones innovadoras, lo que significa que una buena herramienta de selección de personal de hoy podría volverse menos eficaz mañana.
En tal caso, los especialistas en selección de personal se verán presionados no solo a elegir a la persona más apropiada, sino también a articular plenamente sus cualificaciones para que la herramienta que utiliza la empresa pueda procesarlas.
SkillMap puede ayudar a este proceso, proporcionando una forma cómoda de analizar las fortalezas y los valores clave de la trayectoria y la experiencia profesionales.
Conclusión: Un algoritmo capaz de ser cuestionado
Un programa de inteligencia artificial no tiene necesariamente la intención de discriminar a ningún grupo específico en particular.
Puede haber sido creada e implementada de una manera que, aun así, resulte inexacta para algunas personas.
La eficacia de la herramienta de selección de personal debería, por lo tanto, medirse no solo por su velocidad y precisión (en términos estadísticos), sino también por su capacidad para proporcionar comprensión en lugar de una simple decisión binaria.
Conoce Copiloto de Selección y SkillMap
Revisa otros artículos de interés en el link.
Síguenos en nuestras redes sociales Linkedln, Facebook y en nuestra web Nobilis.
