Grenzen der generativen KI: Stolpersteine und Grenzen von ChatGPT im HR

Wie der Supercomputer Deep Thought aus dem Film «Per Anhalter durch die Galaxis» versprechen neue KI-Technologien, die Antwort auf alle unsere Fragen zu liefern. Doch künstliche Intelligenz allein ist nicht die «42», die Antwort auf alles. Es gibt Stolpersteine und Grenzen, derer man sich im Umgang mit künstlicher Intelligenz bewusst sein sollte.

03.06.2024 Von: Felix Anderegg, Esther Brand
Grenzen der generativen KI

Die Antwort ist nicht immer hilfreich

Nach 7,5 Millionen Jahren des Grübelns gab uns Deep Thought, ein legendärer Supercomputer aus dem Meisterwerk von Douglas Adams, endlich die lang ersehnte Antwort auf die «ultimative Frage des Lebens, des Universums und allem» – die 42. Ein Zahlenspiel, das zwar durch seine Banalität faszinierend ist, uns aber letztendlich nicht wirklich weiterbringt. Ebenso verhält es sich oft mit generativer KI wie beispielweise ChatGPT. Zwar können diese Algorithmen mit Leichtigkeit Texte verfassen, Fragen beantworten und Kunstwerke erschaffen, doch wenn es um die Tiefe und Bedeutung menschlicher Interaktionen geht, stossen sie an ihre Grenzen. Ein bisschen wie ein Roboter, der versucht, den Sinn hinter einem Witz zu verstehen – er kann die Worte verstehen, aber die Pointe entgeht ihm.

Die Vielfalt der generativen KI: Von Kunst bis Kundenbetreuung

Doch lassen Sie uns nicht zu schnell urteilen. Generative KI hat zweifellos ihre Stärken. Nehmen wir beispielsweise Midjourney, eine Software, die einzigartige Kunstwerke erschafft. Oder den Microsoft Copilot, der uns beim Schreiben von E-Mails unterstützt, als wäre er unser persönlicher Co-Autor. Die digitalen Helfer finden auch im Personalwesen Verwendung: 

  • Rekrutierung: Mit KI lassen sich in wenigen Sekunden Stellenausschreibungen oder ein knackiger Text für einen LinkedIn-Post verfassen. 
  • Personalbetreuung: Ein interner Chatbot lässt sich mit firmenbezogenen Reglementen und Weisungen trainieren, um danach vollautonom Fragen von Mitarbeitenden zu beantworten. Auch Vorlagen für Aus- und Weiterbildungsvereinbarungen, Arbeitsbestätigungen oder Kündigungsschreiben lassen sich mit KI erzeugen. 
  • Mitarbeitendenengagement/-zufriedenheit: Mit GenAI können offene Fragen aus Mitarbeitendenbefragungen ausgewertet werden.

Die dunkle Seite von ChatGPT: Datenschutz, Integration und Halluzinationen

Trotz der vielseitigen Einsatzmöglichkeiten und Vorteile sind auch einige Punkte zu beachten. Ein wesentlicher Aspekt bei der Auswahl von HR-Technologien ist der Datenschutz. ChatGPT und ähnliche KIPlattformen können sensible Daten verarbeiten, was Datenschutzbedenken aufwirft, insbesondere wenn sie ausserhalb der EU oder der Schweiz gehostet werden. Die Datenschutzbestimmungen in diesen Ländern können von den für uns geltenden Standards abweichen. Deshalb sollten beim Auswahlprozess immer auch lokale Alternativen berücksichtigt werden.

Ein weiterer nicht zu unterschätzender Punkt ist die nahtlose Einbindung in bestehende HR-Systeme. Um das volle Potenzial eines intelligenten Chatbots zu nutzen, wird mehr als reines Faktenwissen benötigt. Allgemeingültige Antworten sind oft nicht für individuelle Situationen passend. Um das zu verhindern, braucht es zusätzliche Informationen, damit der Bot weiss, mit wem er kommuniziert. Je genauer der Prompt, also der Auftrag oder die Frage ist, desto genauer kann dieser eine passende Auskunft geben. Beispielsweise kann die Auskunft abhängig von Anstellungsort oder Funktionsstufe variieren – und ein Chatbot ist durchaus in der Lage, eine solche Unterscheidung zu machen. Idealerweise kommen solche Informationen über eine Schnittstelle vom Stammdatensystem.

Generative KI-Systeme wie ChatGPT kennen die internen Richtlinien und Prozesse eines Unternehmens nicht. Daher liefern sie möglicherweise nur allgemeine Antworten, die nicht auf die spezifischen Bedürfnisse und Anforderungen eines Unternehmens zugeschnitten sind. Eine individuelle Anpassung oder Konfiguration ist erforderlich, um die Nutzung solcher Systeme im HR sinnvoll zu gestalten. Nicht alle Lösungen sind ohne Weiteres mit individuellem Wissen trainierbar. Ein gutes Tool bietet die Möglichkeit, dessen Datenbasis schnell, einfach und sicher kontrollieren zu können.

Es ist nicht immer möglich, spezifische HR-Prozesse in generative KI vorzudefinieren. Dies kann zu ineffizienten Arbeitsabläufen führen, da die KI möglicherweise nicht in der Lage ist, komplexe oder spezialisierte Prozesse angemessen zu unterstützen.

Generative KI-Chatbots, einschliesslich ChatGPT, neigen ausserdem dazu, gelegentlich völligen Unfug zu erzählen, was als «Halluzination» bezeichnet wird. Dieses Problem konnte bis jetzt noch nicht vollständig gelöst werden, da es schwierig ist, die KI vollständig von der Erzeugung falscher Informationen abzuhalten. Es erfordert eine kontinuierliche Überwachung und Verbesserung der Algorithmen, um dieses Risiko zu minimieren.

Die Grenzen von ChatGPT im HR und eine Checkliste für den Umgang mit generativer KI

Angesichts der genannten Herausforderungen wird deutlich, dass die Verwendung von künstlicher Intelligenz wie ChatGPT nicht für alle Aufgaben im HR geeignet ist. Spezialisierte Tools und datenschutzkonforme Lösungen aus der EU oder der Schweiz bieten eine bessere Passung für die Anforderungen eines Unternehmens. Um den Einsatz digitaler KI-Assistenten sinn- und verantwortungsbewusst zu gestalten, ist es wichtig, eine strukturierte Vorgehensweise zu verfolgen. Hier ist eine Checkliste, die Ihnen dabei helfen kann: 

  1. Datenschutz und rechtliche Anforderungen: Dokumentieren Sie/Lassen Sie dokumentieren, welche Daten zu welchem Zweck wo verarbeitet und abgespeichert werden. Stellen Sie sicher, dass die Datenerhebung, -verarbeitung und -sicherung die Vorgaben des Datenschutzgesetzes (DSG) und der Datenschutzverordnung (DSV) einhalten. 
  2. Integration und Benutzerfreundlichkeit: Prüfen Sie die Integrationsmöglichkeiten in bestehende HR-Systeme und die Benutzerfreundlichkeit des Assistenten. Falls Ihr Unternehmen plant, auch ausserhalb der Personalabteilung KI-basierte Tools einzusetzen, können sich daraus symbiotische Vorteile ergeben. 
  3. Anpassbarkeit: Erkundigen Sie sich nach Anpassungsmöglichkeiten und Individualisierbarkeit Ihres Tools. Lassen Sie sich zeigen, wie komplex das Training des Tools mit neuen Daten ist. 
  4. Regelmässige Überprüfung und Aktualisierung: Planen Sie regelmässige Leistungsüberprüfungen und Updates des Assistenten ein. Holen Sie aktiv Feedback der Endnutzer*innen ein. Regelmässige Schulungen helfen dabei, das volle Potenzial aus der KI herauszuholen.

Schlussfolgerung: Die Grenzen der generativen KI

Zum Abschluss möchten wir zwei wichtige Erkenntnisse mit auf den Weg geben. Erstens: Im Umgang mit KI, insbesondere mit generativer KI, sollten wir sichergehen, dass wir die richtigen Fragen stellen. Je konkreter die Frage, desto besser. Bei unvollständigen, schwammigen Fragen kann es schon mal vorkommen, dass sowas Banales wie «42» als Antwort rauskommt. Und zweitens: Lassen Sie sich nicht von der scheinbaren Allwissenheit von KI blenden. Denn am Ende des Tages sind die Antworten, die wir suchen, manchmal nicht so klar und eindeutig, wie wir es uns erhoffen. Lassen Sie sich die «42» aus «Per Anhalter durch die Galaxis » eine Erinnerung daran sein, dass das Universum voller Geheimnisse ist, die selbst die klügsten Köpfe nicht immer entschlüsseln können.

Dieser Artikel wurde mit Unterstützung von KI verfasst: 
• Grundidee und grobe Inhaltsskizze: Mensch
• Vorschläge für mögliche Strukturierungen: KI
• Text verfassen: Mensch
• Textoptimierung: KI
• Vorschläge für Zitate aus «Per Anhalter durch die Galaxis»: KI
• Feinschliff und finale Kontrolle: Mensch
• Bildgenerierung mit Midjourney: KI 

Newsletter W+ abonnieren