Laut einem Bericht von MIT Technology Review AI könnte künstliche Intelligenz in naher Zukunft beginnen, Bewerbungen zu prüfen, bevor dies ein Mensch tut. Es bestehen jedoch ernsthafte Gründe, an der Fähigkeit solcher Systeme zu zweifeln, Kandidaten unvoreingenommen zu bewerten.
Forscher haben bereits festgestellt, dass große Sprachmodelle menschliche Vorurteile direkt aus den Daten übernehmen, mit denen sie trainiert wurden. Dies bedeutet, dass ein Algorithmus bestehende gesellschaftliche Stereotypen bei Einstellungsentscheidungen reproduzieren oder sogar verstärken kann.
Diese Situation birgt das Risiko, dass sich das automatisierte Screening als weniger objektives Instrument erweist als die traditionelle menschliche Auswahl, trotz der verbreiteten Annahme über die technische Neutralität von Maschinen.
redaktioneller Kommentar
Warum es wichtig ist
Als wahrscheinliche Folge wird ein zunehmender regulatorischer Druck auf Unternehmen entstehen, die algorithmische Einstellungen nutzen, verbunden mit der Forderung nach einer Prüfung der Trainingsstichproben. Das nächste beobachtbare Signal werden Klagen oder offizielle Untersuchungen wegen Diskriminierung durch KI sein. Die zentrale Unsicherheit liegt in der Geschwindigkeit, mit der der Markt zuverlässige Standards zur Bereinigung von Daten von sozialen Vorurteilen entwickeln kann.