Am 18. Mai 2023 veröffentlichte die Equal Employment Opportunity Commission (EEOC) ein Bulletin mit Leitlinien zum Einsatz von Tools der künstlichen Intelligenz (KI) bei Beschäftigungsentscheidungen. Die Beratung konzentriert sich in erster Linie auf die Auswahl und Einstellung von Kandidaten, gilt aber auch für alle Einstellungsentscheidungen oder Personalmaßnahmen. Arbeitgeber sollten die Leitlinien des EEOC zur Kenntnis nehmen, um sicherzustellen, dass ihre KI-Tools nicht zu diskriminierenden Praktiken führen.

Leitfaden zu KI-Tools bei Beschäftigungsentscheidungen

Die Leitlinien des EEOC zu KI-Tools bei Beschäftigungsentscheidungen basieren auf einer etablierten Analyse unterschiedlicher Auswirkungen. Arbeitgeber müssen vorsichtig sein, wenn sie Auswahlverfahren anwenden, die unverhältnismäßig große Auswirkungen auf Arbeitnehmer oder Bewerber haben, deren Merkmale durch Titel VII geschützt sind. Das Bulletin enthält mehrere wichtige Hinweise für Arbeitgeber, die bei der Auswahl und Einstellung algorithmische Entscheidungshilfen verwenden:

• Arbeitgeber sollten eine fortlaufende Analyse aller KI-Tools durchführen, um festzustellen, ob ihre Beschäftigungspraktiken unterschiedliche Auswirkungen haben.
• Arbeitgeber können auch dann haftbar gemacht werden, wenn ein problematischer Test in ihrem Namen von einem Dritten, beispielsweise einer Personalvermittlungsagentur, entwickelt oder durchgeführt wurde.
• Arbeitgeber sollten sich direkt bei Dritten nach den möglichen unterschiedlichen Auswirkungen der eingesetzten KI-Tools erkundigen.
• Das Versäumnis, während des Entwicklungsprozesses einen weniger diskriminierenden Algorithmus zu übernehmen, kann zu einer Haftung führen.

Arbeitgeber sollten den Einsatz von KI-Tools durch ihre Mitarbeiter oder in ihrem Namen handelnde Dritte nicht ignorieren. Eine direkte Befragung, Analyse und Bestätigung, dass der Einsatz von KI-Tools für Beschäftigungsentscheidungen keine unterschiedlichen Auswirkungen hat, ist von entscheidender Bedeutung und sollte regelmäßig überprüft werden.

Abschluss

Die Leitlinien des EEOC erinnern daran, dass Arbeitgeber beim Einsatz von KI-Tools bei Beschäftigungsentscheidungen wachsam sein müssen. Arbeitgeber sollten sicherstellen, dass ihre KI-Tools nicht diskriminierend sind, und fortlaufende Analysen durchführen, um ungleiche Auswirkungen auf Mitarbeiter oder Bewerber zu verhindern. Indem Arbeitgeber den Leitlinien des EEOC folgen, können sie KI-Tools nutzen, um ihren Einstellungsprozess zu optimieren, ohne eine mögliche rechtliche Haftung zu riskieren.

Hauptschlüsselwort: KI-Tools bei Beschäftigungsentscheidungen
LSI-Schlüsselwort: Unterschiedliche Wirkungsanalyse