KI Datenschutz: Rechtssicher im HR einsetzen

Zentrale vom HR zu beachtende Rechtsgebiete 

Der Einsatz von KI-Systemen im HR-Kontext ist in der Schweiz in erster Linie am Datenschutzgesetz (DSG) zu messen, da HR-Prozesse regelmässig die Bearbeitung von (sensitiven) Personendaten beinhalten. Beim KI Datenschutz sind KI-gestützte Anwendungen wie automatisierte Bewerberselektion, Leistungsanalysen oder Prognosen datenschutzrechtlich häufig als sogenanntes Profiling oder sogar als Profiling mit hohem Risiko einzustufen, was erhöhte Anforderungen an Transparenz, Zweckbindung, Datenminimierung und Datensicherheit mit sich bringt. Das HR muss daher sicherstellen, dass eine gültige Rechtsgrundlage besteht, die betroffenen Personen angemessen informiert werden und – bei erhöhten Risiken – eine Datenschutz-Folgenabschätzung durchgeführt wird. 

Eng damit verbunden sind arbeitsrechtliche und persönlichkeitsrechtliche Grenzen, insbesondere beim Einsatz von KI-gestützten Überwachungs- oder Analyseinstrumenten am Arbeitsplatz. Nach schweizerischem Recht sind Anwendungen unzulässig, die primär der Verhaltensüberwachung von Mitarbeitenden dienen oder unverhältnismässig in deren Persönlichkeit eingreifen. Bei zulässigen Systemen besteht eine solche Grenze darin, dass die Mitarbeitenden vorgängig informiert werden, die Massnahmen verhältnismässig ausgestaltet sind und keine permanente oder verdeckte Überwachung stattfindet. 

Darüber hinaus wirft der Einsatz von KI im HR-Kontext arbeitsrechtliche Fragen insbesondere im Zusammenhang mit Einstellungen, Beförderungen, Leistungsbeurteilungen oder Kündigungen auf. Werden solche Entscheide ganz oder teilweise automatisiert getroffen, besteht das Risiko von Willkür, Verletzungen der Fürsorgepflicht oder rechtsmissbräuchlichen Kündigungen. KI-Systeme sind daher lediglich als Entscheidungshilfen einzusetzen, und eine menschliche Letztentscheidung sollte in jedem Fall vorgenommen werden. Daneben ist der Entscheidungsprozesse einer KI nachvollziehbar zu dokumentieren. 

Zentral ist zudem die Sicherstellung zur Vermeidung von Diskriminierung durch die KI. KI-Systeme können bestehende gesellschaftliche oder historische Verzerrungen in Trainingsdaten übernehmen und dadurch bestimmte Personengruppen systematisch benachteiligen. Auch wenn diskriminierende Entscheide unbeabsichtigt getroffen werden, können sie rechtlich relevant werden. Das HR muss daher Massnahmen ergreifen, um solche Effekte zu erkennen, zu testen und zu korrigieren. 

Ferner können sich vertrags- und haftungsrechtliche Fragen stellen. Dies ist insbesondere der Fall, wenn KI-Systeme von externen Anbietern bezogen werden. Auch der KI Datenschutz ist hier relevant: Die datenschutzrechtlichen Rollen der Parteien und deren Rechte und Pflichten (z.B. Umsetzung von technischen und organisatorischen Massnahmen, Umgang mit Subunternehmern, Datenschutzverletzungen oder Fehlentscheiden) sind klar zu regeln. In diesem Zusammenhang ist auch die Übernahme von allfälligen Haftungsansprüchen zwischen den Parteien im Falle von Vermögensschäden oder Persönlichkeitsverletzungen zu regeln.