KI bei Beschäftigungsentscheidungen: EEOC warnt Arbeitgeber, wachsam zu bleiben

Da immer mehr Unternehmen Algorithmen der künstlichen Intelligenz (KI) zur Identifizierung und Bewertung von Kandidaten einsetzen, mahnt die US-amerikanische Equal Employment Opportunity Commission (EEOC) Arbeitgeber zur Vorsicht. Während KI-gesteuerte Systeme Voreingenommenheit beseitigen, die Objektivität verbessern, die Effizienz optimieren und zu gerechteren und genaueren Auswahlergebnissen führen können, können sie möglicherweise auch Auswirkungen auf Vielfalt, Gerechtigkeit und Inklusion am Arbeitsplatz haben. Das EEOC hat Unternehmen kürzlich daran erinnert, dass die Verwendung neutraler Tests oder Auswahlverfahren, die Personen aufgrund von Rasse, Hautfarbe, Religion, Geschlecht oder nationaler Herkunft unverhältnismäßig ausschließen, nach Titel VII des Civil Rights Act verboten ist.

Was Arbeitgeber wissen sollten:

Laut EEOC kann es zu Diskriminierung kommen, wenn Unternehmen „algorithmische Entscheidungshilfen“ oder Softwaresysteme verwenden wie:

• Lebenslaufscanner, die Anwendungen priorisieren, die bestimmte Schlüsselwörter verwenden.
• Software zur Mitarbeiterüberwachung, die Mitarbeiter anhand von Tastenanschlägen oder anderen Faktoren bewertet.
• „Virtuelle Assistenten“ oder „Chatbots“, die Kandidaten nach Qualifikationen fragen und diejenigen ablehnen, die vordefinierte Anforderungen nicht erfüllen.
• Software für Videointerviews, die Kandidaten anhand von Gesichtsausdrücken und Sprachmustern bewertet.
• Testsoftware, die Bewerbern oder Mitarbeitern anhand ihrer Leistung in einem Spiel oder einem traditionelleren Test Bewertungen zur „Jobfitness“ in Bezug auf Persönlichkeit, Eignung, kognitive Fähigkeiten oder wahrgenommene „kulturelle Eignung“ liefert.

Sogar Arbeitgeber, die von Dritten entwickelte oder verwaltete KI-Tools verwenden, können haftbar gemacht werden, wenn sich aus ihrer Verwendung unterschiedliche Auswirkungen ergeben, so die EEOC.

Was Arbeitgeber tun sollten:

Um das Risiko zu verringern, bei der Auswahl von Kandidaten mithilfe von KI gegen Titel VII zu verstoßen, sollten Unternehmen mit Rechtsberatern zusammenarbeiten, um:

• Verstehen Sie, welche KI-Tools verwendet werden und welche Rolle sie bei Auswahlprozessen spielen.
• Stellen Sie fest, ob sich ihre Auswahlverfahren möglicherweise nachteilig auf geschützte Gruppen auswirken, indem Sie eine Analyse im Rahmen des Anwaltsgeheimnisses durchführen.
• Stellen Sie fest, ob ein Auswahlverfahren, das negative Auswirkungen hat, berufsbezogen ist und mit geschäftlichen Notwendigkeiten vereinbar ist, und wenn ja, ob es eine weniger diskriminierende Alternative gibt.
• Ergreifen Sie Maßnahmen, um die Wahrscheinlichkeit zu verringern, dass ein algorithmisches Entscheidungsfindungstool zu einer wesentlich niedrigeren Auswahlquote für Personen mit einem durch Titel VII geschützten Merkmal führt.

Zusammenfassend lässt sich sagen, dass KI-gesteuerte Systeme zwar die Rekrutierung und Einstellung von Mitarbeitern revolutionieren können, Arbeitgeber jedoch wachsam bleiben müssen, um sicherzustellen, dass diese Tools nicht unbeabsichtigt zu Diskriminierung führen. Durch das Verständnis der potenziellen Risiken und die Ergreifung proaktiver Maßnahmen zu deren Minderung können Unternehmen vom Versprechen der KI auf fairere und genauere Auswahlergebnisse profitieren.