Según un informe de MIT Technology Review AI, en el futuro próximo la inteligencia artificial podría comenzar a revisar los currículums de los solicitantes antes que cualquier ser humano. Sin embargo, existen razones graves para dudar de la capacidad de tales sistemas para evaluar a los candidatos de manera imparcial.
Los investigadores ya han establecido el hecho de que los grandes modelos de lenguaje adoptan prejuicios humanos directamente de los datos en los que se entrenan. Esto significa que el algoritmo puede reproducir e incluso amplificar los estereotipos existentes en la sociedad al tomar decisiones de contratación.
Esta situación crea el riesgo de que el cribado automatizado resulte ser una herramienta menos objetiva que la selección humana tradicional, a pesar de la creencia generalizada sobre la neutralidad técnica de las máquinas.
comentario editorial
Por qué importa
La consecuencia probable será un aumento de la presión regulatoria sobre las empresas que utilizan la contratación algorítmica, exigiendo auditorías de las muestras de entrenamiento. La siguiente señal observable serán demandas judiciales o investigaciones oficiales por casos de discriminación a través de la IA. La incertidumbre clave radica en la velocidad con la que el mercado podrá desarrollar estándares fiables para limpiar los datos de sesgos sociales.