Unternehmen setzen zunehmend auf komplexe und teilweise prädiktive Technologien, um ihre HR-Prozesse zu unterstützen. Doch solche Technologien können auch “unfair” sein, indem sie insbesondere gesellschaftlich marginalisierte Gruppen benachteiligen. Dies hat zur Folge, dass bestehende Ungleichheiten (re)produziert oder gar verstärkt werden, und somit auch Organisationen an der Erreichung von Diversity-Zielen gehindert werden. 

 

Bisher fehlen umfassende Analysen von HR-Technologien hinsichtlich ihrer Diskriminierungspotenziale. Gleichzeitig stuft der Entwurf der Künstliche Iintelligenz-Verordnung (KI-VO) vom 21.4.2021 KI-Systeme für die Personaleinstellung oder -Auswahl, “insbesondere solche für die Bekanntmachung freier Stellen, das Sichten oder Filtern von Bewerbungen und das Bewerten von Bewerbern in Vorstellungsgesprächen oder Tests” als Hochrisiko-KI-Systeme ein. Für diese sollen  besondere Auditierungs- und Monitoring-Maßnahmen implementiert werden, deren konkrete Ausgestaltung jedoch noch nicht spezifiziert worden ist.

 

Das Projekt FairTecHR adressiert den Bedarf, die Auditierung von Hochrisiko-Systemen in der Personalauswahl zu konkretisieren. Hierfür stellen wir ein Konzept für kontextualisierte, partizipative Auditierung von Fairness bei Technologie-gestützter Personalauswahl vor, welches die Bedarfe verschiedener Interessengruppen berücksichtigt, faire HR-Produkte herzustellen und zu nutzen. Das Projekt zielt darauf ab, unternehmensübergreifende Analysen auf der Grundlage von Daten verschiedener Organisationen und ihrer Bewerbenden in Zusammenarbeit mit Dritten wie Forschenden oder Advocacy-Organisationen zu ermöglichen. Den Kern bildet ein Data Trust, der eine unabhängige, treuhänderische Verwaltung von Daten ermöglicht und die Privatsphäre Einzelner schützt.

​

Im Rahmen von mehreren Gruppendiskussionen und einer Zukunftswerkstatt soll Wissen vermittelt, der Themenkomplex sukzessive aufbereitet und mit Fokus auf einzelne Aspekte diskutiert und für die Praxis weiterentwickelt werden: von der Auslegung der Begriffe Fairness und Diversity in Auswahlprozessen, über Fairness und dessen Operationalisierung im Kontext von Technologien, bis hin zu rechtlichen und organisatorischen Rahmenbedingungen für Daten-basierte Fairness-Analysen. Ein weiteres Ziel des Projekts ist es, das Bewusstsein für die potenziellen Risiken und Herausforderungen zu schärfen, die mit dem Einsatz von (KI-basierten) HR-Technologien verbunden sind, und eine kritische und reflektierte Herangehensweise an deren Entwicklung und Einsatz zu fördern.

​