De acordo com um relatório do MIT Technology Review AI, num futuro próximo a inteligência artificial pode começar a verificar currículos de candidatos antes de qualquer humano. No entanto, existem razões sérias para duvidar da capacidade de tais sistemas de avaliar candidatos de forma imparcial.

Pesquisadores já estabeleceram o fato de que grandes modelos de linguagem absorvem preconceitos humanos diretamente dos dados nos quais foram treinados. Isso significa que o algoritmo pode reproduzir e até mesmo amplificar estereótipos existentes na sociedade ao tomar decisões de contratação.

Esta situação cria o risco de que a triagem automatizada se torne uma ferramenta menos objetiva do que a seleção humana tradicional, apesar da crença generalizada na neutralidade técnica das máquinas.