KI-Anwendungen: Risikomanagement in Zeiten der künstlichen Intelligenz
KURZ ZUSAMMENGEFASST
Künstliche Intelligenz bietet Unternehmen massive Effizienzgewinne, von der automatisierten Risikoerkennung bis zur schnellen Datenanalyse. Gleichzeitig steigen die Gefahren durch Datenschutzverstösse, Halluzinationen und Cyberangriffe. Ein proaktives Risikomanagement ist essenziell, um diese Technologien sicher zu nutzen und Wettbewerbsvorteile zu sichern, ohne die Unternehmenssicherheit zu gefährden.
Die wichtigsten Punkte:
- KI optimiert Risikoidentifikation und -analyse durch Echtzeit-Datenverarbeitung.
- Datenschutz und Informationssicherheit (ISG, NIS2, AI-Act) müssen strikt beachtet werden.
- Generative KI birgt Risiken wie Halluzinationen und Datenlecks bei unkontrollierter Nutzung.
- Unternehmen benötigen eine klare Strategie, Schulungen und technische Sicherheitsvorkehrungen.
Simon Schneiter
Simon Schneiter, M.A. HSG (Informations-, Medien- und Technologiemanagement), Head GRC & Information Security Consulting bei ensec AG.
Passende Arbeitshilfen
Wie können Schweizer KMU Chancen und Risiken von KI-Anwendungen im Risikomanagement effektiv steuern?
Als die NZZ Ende 2023 den Ex-Open-AI-Manager Zack Kass nach dem Potenzial von künstlicher Intelligenz (KI) gefragt hat, sprach dieser von unendlichen Energiequellen und Superintelligenz, welche dazu führen würden, dass die Kosten von Gütern gegen null streben werden und wir alle Krankheiten heilen könnten. Von diesem Zustand sind wir aktuell noch ein gutes Stück entfernt und dennoch hat KI bereits einen bleibenden Eindruck hinterlassen.
Neue Chancen dank KI-Anwendungen
Wir erleben bereits seit einigen Jahren, wie künstliche Intelligenz in Alltag und Arbeitswelt immer mehr zum Einsatz kommt. KI hilft bei der Diagnose von Krankheiten, vereitelt Finanzbetrug, optimiert Lagerbewirtschaftung und liefert die individuell passendste Werbung auf die Bildschirme. Generative KI sorgt dafür, dass Sprachübersetzungen nicht mehr Tage dauern, sondern praktisch simultan erfolgen können und passende Inhalte in Text, Ton und Bild in kürzester Zeit erstellt werden können.
KI-Anwendungen sind vielfältig und werden in Zukunft bestimmt noch vielfältiger. Ihr Einsatzzweck reicht von Forschung und Entwicklung über Produktion bis zu Marketing und Public Relations. Durch die Kopplung von Robotik und KI, welche bereits heute stattfindet, werden sich zudem immer mehr Anwendungsfelder im Bereich physischer Arbeiten erschliessen. Unternehmen, welche entsprechende Chancen frühzeitig nutzen, können sich einen Wettbewerbsvorteil schaffen, sofern sie auch die Gefahren entsprechen managen.
Neue Gefahren
Trat künstliche Intelligenz bis vor einiger Zeit vor allem als integrierter Teil geschlossener Produkte oder als Anwendung für eher kleine Nutzergruppen in Erscheinung, so sehen wir uns mit einem neuen Phänomen konfrontiert. Internetnutzer weltweit haben Zugriff auf oft kostenlose Tools, welche mittels künstlicher Intelligenz Text, Bild und Ton analysieren und erzeugen können. Die Einstiegshürden sind minimal und viele Anwender realisieren gar nicht, dass sie Daten an ein Drittunternehmen bekannt geben. Dies ist im Unternehmenskontext jedoch mit Gefahren verbunden.
Ein Gesetzesverstoss ist in Zeiten von Datenschutzgesetzen, Informationssicherheitsgesetz (ISG) und NIS2 schnell begangen, wenn Daten ohne entsprechende Rahmenbedingungen und Überprüfungen Dritten anvertraut werden. Zudem hat die EU vor Kurzem mit dem AI-Act explizite Spielregeln für die Entwicklung und den Einsatz von künstlicher Intelligenz erlassen.
Daneben gibt es Bedenken im Hinblick auf den Schutz von Geschäftsgeheimnissen. Werden Daten für das Training einer KI genutzt, könnten sie auch ungewollt an Dritte abfliessen. Auch wenn Input-Daten nicht fürs Training genutzt werden, können diese durch den Anbieter selbst missbraucht werden oder im Zuge eines Datenlecks an die Öffentlichkeit oder Konkurrenz gelangen. Über die Sicherheitsvorkehrungen aufseiten der meisten Anbieter ist wenig bekannt und negative Schlagzeilen gab es bereits einige. Die Gefahr mit dem Datenleck besteht zudem auch, wenn entsprechende KI-Anwendungen lokal betrieben werden. Sind vertrauliche Informationen erst einmal erfasst, können diese auch an Mitarbeitende ausgeplaudert werden, die nicht über die notwendigen Berechtigungen verfügen.
Passende Produkt-Empfehlungen
Eine weitere Gefahr entsteht durch die sogenannten Halluzinationen. Generative KI kann fehlerhafte Texte schreiben, welche absolut korrekt klingen. Wenn Unternehmen entsprechende Inhalte ungeprüft nutzen, riskieren sie einen Reputationsschaden oder gar schlimmeres.
Klar formulierte Vorgaben, Schulungen und Sensibilisierungskampagnen können helfen, ebenso wie technologische Ansätze. Initial müssen Unternehmen aber Klarheit darüber gewinnen, ob und wie sie generative KI für die Arbeit nutzen oder zulassen möchten. Diese Diskussion muss geführt werden. Idealerweise wird sie informiert geführt, d. h. auf Basis einer Erhebung der aktuellen Nutzung und Einsatzwünsche sowie unter Berücksichtigung von Chancen und Gefahren.
Umgang mit generativer KI im KMU
Tipp: Auch bei eher restriktiven Ansätzen kann es sich lohnen, innerhalb definierter Schranken Experimente zuzulassen. |
Und schlussendlich nutzen auch Kriminelle die Vorteile von künstlicher Intelligenz. Optimierte Phishing-Mails, Deepfake-Videos und Schock-Anrufe mittels Voice-Cloning sind nur einige der bekanntesten Beispiele, über welche Mitarbeitende aufgeklärt werden sollten.
Neue Möglichkeiten des Risikomanagements
Mit künstlicher Intelligenz lässt sich auch das Risikomanagement an sich optimieren. In den Bereichen Risikoidentifikation, Risikoanalyse und Risikobehandlung bietet sich einiges Potenzial dazu.
Eine der bemerkenswertesten Fähigkeiten von KI ist ihre Fähigkeit, grosse Datenmengen in Echtzeit zu analysieren und Muster zu erkennen, die auf potenzielle Risiken hinweisen. Durch den Einsatz von Algorithmen des maschinellen Lernens können Unternehmen Anomalien in Finanztransaktionen, Lieferketten oder IT-Systemen frühzeitig erkennen. Dies ermöglicht es, präventive Massnahmen zu ergreifen, bevor ein Risiko zu einem ernsthaften Problem eskaliert. Solche Modelle basieren meist auf dem Vergleich einer grossen Menge an historischen Daten mit aktuellen Inputs und werden unter dem Begriff «Predictive Analytics» zusammengefasst.
Checkliste
- Aktuelle Nutzung von generativer KI im Unternehmen erheben und analysieren.
- Konkrete Use Cases definieren und Chancen gegen Risiken abwägen.
- Eine verbindliche KI-Strategie und klare Nutzungsrichtlinien erstellen.
- Mitarbeitende für Risiken wie Phishing, Deepfakes und Datenpreisgabe schulen.
- Technische Lösungen zur Überwachung und Kontrolle der KI-Nutzung implementieren.
- Datenqualität sicherstellen, um fehlerhafte KI-Ausgaben zu vermeiden.
- Feedback-Schleifen für KI-Modelle einrichten, um diese stetig zu verbessern.
- Regelmässige Audits zur Einhaltung von Datenschutz und Sicherheitsstandards durchführen.
Dieselben Fähigkeiten der KI helfen jedoch nicht nur bei der Identifikation von Risiken, sondern auch bei deren Bewertung. So werden etwa in modernen IT-Sicherheitssystemen verdächtige Aktivitäten mithilfe entsprechender Algorithmen analysiert und bewertet. Ähnliche Funktionen werden auch in anderen Bereichen bereits eingesetzt.
Der Einsatz künstlicher Intelligenz im Risikomanagement kann jedoch noch einen Schritt weitergehen und automatisierte Aktionen zur Risikobehandlung auslösen. Finanztransaktionen können präventiv blockiert, Computer vom Netzwerk isoliert, Nutzerkonten deaktiviert und ein Bremspedal betätigt werden.
Mit der generativen KI kommen zusätzliche Möglichkeiten der Effizienzsteigerung dazu. Chatbots lassen sich im Kontext der Risikoidentifikation und -analyse einsetzen. Algorithmen können Texte, Audiodateien und visuellen Input analysieren und dadurch zur Identifikation und Analyse beitragen. Die automatisierte Analyse von Medienberichten und Überwachung von sozialen Medien wird heute bereits zur Identifikation von Risiken eingesetzt. Ausserdem lässt sich der Bereich der Berichterstattung weitgehend automatisieren und somit ohne viel Aufwand stufen- und empfängergerechtes Risk Reporting etablieren.
Bei all diesen Möglichkeiten gilt es jedoch die entsprechenden Herausforderungen nicht zu vergessen. So kann die fehlende Transparenz komplexer Berechnungen zu mangelndem Verständnis für die Ergebnisse und zu Bedenken bezüglich der Rechenschaftspflicht führen. Komplexität und Aufwand einer wertstiftenden Integration entsprechender Modelle dürfen zudem nicht unterschätzt werden, insbesondere dann, wenn es gilt, eigene unbereinigte Datenquellen zu verwenden. Das Prinzip «Bullshit in, Bullshit out» gilt für KI ganz besonders. Die Sicherstellung hoher Datenqualität ist dementsprechend von grundlegender Bedeutung. Zudem sollten Feedback-Schleifen implementiert werden, um die Modelle stetig zu verbessern.
Fazit
KI-Anwendungen gewinnen zunehmend an Bedeutung. Die Chancen und Gefahren sind vielfältig. Unternehmen sollten aktuelle Einsatzzwecke analysieren, ihren Umgang mit dem Thema definieren und entsprechende Massnahmen umsetzen. Dabei kann es sich anbieten, auch die Risikomanagementprozesse mittels KI zu optimieren.
FAQ: KI-Anwendungen
Welche konkreten Vorteile bietet KI im Risikomanagement?
KI ermöglicht die Echtzeitanalyse grosser Datenmengen, erkennt Muster und Anomalien frühzeitig und kann automatisierte Massnahmen zur Risikobehandlung auslösen, was präventives Handeln erleichtert.
Was sind die grössten Gefahren bei der Nutzung generativer KI?
Hauptgefahren sind Datenschutzverstösse durch Weitergabe sensibler Daten an Drittanbieter, Halluzinationen (fehlerhafte, aber plausibel klingende Inhalte) und die Nutzung von KI durch Kriminelle für Phishing oder Deepfakes.
Wie können KMU die Sicherheit von KI-Anwendungen gewährleisten?
Durch klare interne Richtlinien, Sensibilisierung der Mitarbeitenden, technische Sicherheitsvorkehrungen und die strikte Einhaltung gesetzlicher Vorgaben wie dem AI-Act und dem Datenschutzgesetz.
Warum ist Datenqualität für KI im Risikomanagement so wichtig?
Das Prinzip «Bullshit in, Bullshit out» gilt besonders für KI: Nur mit hochwertigen, bereinigten Daten können KI-Modelle verlässliche Ergebnisse liefern und fundierte Entscheidungen unterstützen.
