KI im Bewerbungsprozess: Chancen, Risiken und Empfehlungen

WEKA PLUS (12 Monate)

Über 1300 Arbeitshilfen zum Sofort-Download und alle Beiträge auf weka.ch inklusive

CHF 298.00

2. Risiken bei KI im Bewerbungsprozess: Ineffizienz, Intransparenz und Diskriminierung

• Mehr Bewerbungsunterlagen und -verfahren führen nicht automatisch zu besseren Ergebnissen. Bewerbungsfluten können HR-Teams überfordern und Bewerbende abschrecken.
• Resultate von KI-Systemen sind bei komplexen Modellen schwer oder nicht nachvollziehbar. Zudem besteht das Risiko sogenannter "Halluzinationen" – also sachlich unzutreffender Inhalte, die dennoch überzeugend erscheinen und zu Fehlentscheiden führen können.
• Technische Barrieren können insbesondere Personen ausschliessen, die weniger IT-affin sind.
• In Arbeitsbeziehungen spielen persönliche Verhältnisse eine grosse Rolle, die von Maschinen nur schwer eingeschätzt werden können.
• Bewerbende können sich nicht wertgeschätzt fühlen, wenn sie mit Avataren kommunizieren oder automatisiert vorselektiert werden.
• Ungeeignete Algorithmen können zu Fehlentscheidungen führen.
• Diskriminierende Trainingsdaten führen häufig zu diskriminierenden Ergebnissen.

I. Verantwortung wahrnehmen

Der Einsatz von KI entbindet Arbeitgeber*innen nicht von ihren rechtlichen und ethischen Verantwortlichkeiten. Auch wenn KI-gestützte Systeme eingesetzt werden, verbleibt die Verantwortung für diskriminierungsfreie, faire und rechtskonforme Bewerbungsverfahren stets bei den Verantwortlichen.
Dabei ist im Einzelfall zu prüfen, ob sektorspezifische, internationale oder ausländische Rechtsgrundlagen Anwendung finden. So können z. B. besondere Vorschriften für den öffentlichen Dienst oder international tätige Unternehmen gelten.

1. Schweizer Rechtsgrundlagen

• Die Bundesverfassung garantiert Diskriminierungsfreiheit.
• Das Gleichstellungsgesetz schützt die Gleichstellung von Mann und Frau im Erwerbsleben – auch vor automatisierten Benachteiligungen.
• Laut EDÖB (2023) ist das Datenschutzgesetz auch auf KI-Anwendungen anwendbar, soweit diese Personendaten verarbeiten. Es verpflichtet Unternehmen, Daten ausschliesslich rechtmässig, verhältnismässig und zweckgebunden zu bearbeiten. Unrechtmässige Datensammlungen sind zu vermeiden, Bestimmungen über Persönlichkeitsprofile zu beachten. Besonders schützenswerte Daten – etwa zur ethnischen Herkunft oder Gesundheit – unterliegen erhöhtem Schutz. Bewerbende haben Anspruch auf Information über automatisierte Entscheide, Korrektur ihrer Daten sowie auf menschliche Überprüfung.
• Zudem verpflichtet das Obligationenrecht zur Wahrung der Persönlichkeit der Arbeitnehmenden – auch im digitalen Rekrutierungsverfahren.

2. Internationales Recht

• Die EMRK schützt vor Diskriminierung – auch bei digitalen Verfahren.
• Die Europarats-Konvention über KI (2024) fordert menschenrechtliche Bewertungen und Kontrollmechanismen (nicht von allen Staaten ratifiziert).
• Der EU AI Act stuft Systeme zur Personalauswahl als Hochrisiko-KI ein. Er verlangt u. a. Dokumentation, Transparenz, Risikoanalysen, menschliche Kontrolle und CE-Kennzeichnung. Auch Schweizer Unternehmen müssen diese Anforderungen erfüllen, wenn ihre Systeme in der EU eingesetzt oder deren Ergebnisse dort verwendet werden.

II. Empfehlungen

1. Rechtliche Orientierung: Unternehmen sollten sich frühzeitig mit den rechtlichen Rahmenbedingungen befassen. Eine Orientierung an den Vorgaben des EU-Rechts ist ratsam – auch im Hinblick auf internationale Geschäftsbeziehungen und künftige Anpassungen des Schweizer Rechts.
2. Ziele und Prozesse prüfen: Vor dem Einsatz von KI ist zu klären, welche konkreten Ziele erreicht werden sollen. Diese Reflexion eröffnet auch die Möglichkeit, bestehende Prozesse sowie Anforderungen in Stelleninseraten kritisch zu hinterfragen.
3. Zwischenmenschliche Verfahren stärken: Trotz Digitalisierung bleibt der persönliche Kontakt entscheidend. Wertschätzung, Gespräche und transparente Kommunikation stärken Vertrauen und fördern langfristige Bindung.
4. Interne Weiterbildung: HR-Teams sollten in der Anwendung und Bewertung von KI im Bewerbungsprozess geschult sein. Fehlerfreundliche Testformate helfen, Kompetenzen praxisnah aufzubauen.
5. KI-Entscheide menschlich überprüfen: Jede Entscheidung, die auf KI-Resultaten basiert, muss von einer verantwortlichen Person überprüft und – wenn nötig – korrigiert werden.
6. Personendaten anonymisieren oder pseudonymisieren: Die frühzeitige Anonymisierung oder Pseudonymisierung von Personendaten reduziert Risiken und schützt sensible Informationen.