Para tratar de eliminar los prejuicios humanos, emplear algoritmos con algo de Inteligencia Artificial pudiera ser la solución.
En Estados Unidos, la sociólogo Ifeoma Ajunwa de la Universidad de Cornell ha estudiado el uso de Inteligencia Artificial (IA) en el proceso de contratación. En una entrevista realizada por National Public Radio asegura que actualmente están funcionando algoritmos de contratación en varias empresas.
¿Es posible que la AI elimine completamente el sesgo humano en el proceso de contratación?
Yo diría que no porque aún debes recordar que la IA no está completamente automatizada. Lo que llamamos IA son realmente algoritmos de aprendizaje automático. Y así, las personas que los crean tienen que ser conscientes de las formas en que los sesgos humanos podrían codificarse en esos algoritmos. Y, para empezar, tendrían que tomar decisiones realmente conscientes para eliminar ese sesgo.
Acabamos de escuchar acerca de este robot social «imparcial», sin citas, que se usará en entrevistas de trabajo en Suecia. ¿Hay algo remotamente similar al que se usa ahora aquí en los Estados Unidos?
Ciertamente, sí. Hay muchos algoritmos de contratación que ahora están en uso en los Estados Unidos. Mi coautor y yo llevamos a cabo una encuesta informal de las 20 principales compañías publicadas en la revista Fortune 500, que son en su mayoría empresas minoristas. Y muchas de esas compañías requieren que los candidatos envíen sus currículos en línea, donde aparentemente el currículum pasará a través de algunos algoritmos de contratación.
Y antes de que pienses, oh, esto es solo, ya sabes, relegado al mercado obrero o solo a la fuerza laboral por hora, además, las compañías como Goldman Sachs también se han trasladado a la contratación automática. Así que a partir de 2016, Goldman Sachs pasó a las entrevistas en video, por ejemplo.
Bueno, ¿qué pasa con las preocupaciones legales con el uso de AI para la contratación? Quiero decir, ¿alguien tendría motivos para demandar, por ejemplo, discriminación si no consiguiera un trabajo y la decisión de contratación fuera tomada por un algoritmo?
Entonces ahí es donde se complica más, ¿verdad? – porque un solicitante de empleo podría sospechar que la razón por la que se le negó un empleo se basó en características como la raza o el género, y esto está prohibido por la ley. Pero el problema es cómo probar esto. Por lo tanto, la ley exige que demuestres la intención de discriminar o que muestres un patrón de discriminación. Las plataformas de contratación automatizadas en realidad hacen que sea mucho más desarrollar esa intención o recurrir en un patrón discriminatorio.
Y muchas veces, los algoritmos que forman parte del sistema de contratación, se consideran propietarios, lo que significa que son un secreto comercial. Por lo tanto, es posible que no pueda saber exactamente cómo se programaron los algoritmos y también qué atributos se consideraron. Esto hace que para un posible candidato sea muy difícil saber cómo está estructurado.