Deepfake: Anforderungen aus datenschutzrechtlicher Sicht

Welche datenschutzrechtlichen Anforderungen gelten für die Erstellung und Nutzung von Deepfakes in der Schweiz?

Was sind Deepfakes und warum sind sie rechtlich relevant?

Das Wort "Deepfake" entsteht aus der Verschmelzung von "Deep Learning" und "Fake" (also Fälschung). Es geht dabei um Inhalte (z.B. Bilder, Videos oder Audio), welche mit Hilfe von KI-Tools erstellt oder verändert werden, die zwar echt wirken, es aber tatsächlich nicht sind[1].

Die Tools zur Erstellung von Deepfakes haben sich in wenigen Jahren rasant weiterentwickelt. Einerseits genügt heute bereits sehr wenig Trainingsmaterial, um überzeugende Ergebnisse zu erzielen. Andererseits hat sich die Qualität generierter Inhalte derart verbessert, dass sie für viele Personen kaum noch von authentischen Inhalten zu unterscheiden sind. Für ein "Face-Swap"-Deepfake[2] genügen zum Beispiel schon wenige Minuten Video- oder Bildmaterial der Zielperson, um Gesichtsausdrücke, Mimik und Bewegungen realistisch nachzubilden. Beim sogenannten "Voice Cloning" (Stimmenklonen) reichen kurze Sprachaufnahmen der Zielperson, sodass Stimme, Betonung und Sprechweise täuschend echt imitiert werden können. Die hierfür erforderlichen Tools sind leicht auffindbar, kostengünstig und erfordern nur geringe technische Vorkenntnisse.

Die zugrundeliegende Technologie ist vielversprechend und hat mögliche Anwendungen in unterschiedlichen Konstellationen[3]. Gleichzeitig ist aber das Missbrauchspotential erheblich: von nicht einverständlicher intimer Bilddarstellung zu Betrug und von Desinformationskampagnen zu Ehrverletzungen.

[1] Definition gemäss Art. 3 (60) der EU KI-Verordnung: "Deep Fake": KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäss erscheinen würden. Merke: Es handelt sich um eine neutrale Definition. Es ist nicht verlangt, dass ein Deepfake jemanden schlecht darstellt, angreift oder verletzt oder zu einem bösen Zweck verwendet. 

[2] Unter Face-Swap (Gesichtertausch) versteht man das digitale Ersetzen eines Gesichts durch ein anderes auf Fotos oder in Videos.

[3] Um nur wenige Beispiele zu nennen: in der Medizin können Stimmklone Menschen mit Stimmverlust helfen, im Bildungsbereich sind lebensechte Rekonstruktionen von historischen Begebenheiten möglich.

Besonders schützenswerte Personendaten

Besonders schützenswerte Personendaten[1] erfordern besondere Aufmerksamkeit, da für ihre Bearbeitung strenge rechtliche Anforderungen gelten.

In der EU ist deren Bearbeitung gar verboten (Art. 9 EU-DSGVO), wenn keine rechtliche Grundlage besteht. Das DSG ist in diesem Punkt zwar weniger kategorisch, stellt aber dennoch höhere Anforderungen an die Bearbeitung und setzt zusätzliche Schutzmassnahmen voraus.

Besondere Aufmerksamkeit verdienen im vorliegenden Zusammenhang biometrische Daten. Können solche biometrischen Daten zur eindeutigen Identifikation einer Person verwendet werden (z. B. durch Gesichts- oder Stimmerkennung), fallen sie unter die Definition der besonders schützenswerten Personendaten. Dabei kann man grundsätzlich davon ausgehen, dass z.B. Fotos oder Sprachaufnahmen keine biometrischen Daten (gemäss Art. 5 lit. c Ziff. 1 DSG) darstellen. Allerdings ist es mit den Tools zur Erstellung von Deepfakes möglich, solche Daten so zu bearbeiten, dass daraus besonders schützenswerte Daten entstehen können. Die Konsequenz ist (wie oben erwähnt) die höheren Schutzanforderungen. 

Rechtfertigungsgrund

Oft dürfte für die Bearbeitung von Personendaten für (oder im Zusammenhang mit) Deepfakes ein Rechtfertigungsgrund erforderlich sein. Das bedeutet, dass Daten nur dann bearbeitet werden dürfen, wenn eine gesetzliche Grundlage oder ein anderer Rechtfertigungsgrund vorliegt. Ohne einen solchen Rechtfertigungsgrund ist die Bearbeitung nicht erlaubt (und kann zivilrechtlich oder verwaltungsrechtlich sanktioniert werden). Als mögliche Rechtfertigungsgründe kommen ein überwiegendes Interesse oder allenfalls die Einwilligung der betroffenen Person in Betracht. Folglich ist sicherzustellen, dass a) die Frage nach der Rechtfertigung vor der Umsetzung geprüft wird und b) dies entsprechend dokumentiert wird. 

Informationspflicht und Transparenz

Das DSG verpflichtet jeden Verantwortlichen, betroffene Personen über die Beschaffung ihrer Personendaten angemessen zu informieren (Art. 19 DSG). Dies gilt auch dann, wenn die Daten nicht direkt bei der betroffenen Person beschafft werden. Die Pflicht entsteht im Zeitpunkt der Datenbeschaffung. Werden die Daten bei Dritten beschafft, müssen die Informationen spätestens einen Monat nach Erhalt mitgeteilt werden.

Im Deepfakes-Kontext bedeutet dies: Wer Bilder oder Videoaufnahmen einer Person beschafft, um daraus Deepfakes zu erstellen, hat grundsätzlich eine Informationspflicht gegenüber der abgebildeten Person. Dabei sind mindestens die gesetzlichen Mindestangaben (einschliesslich des Bearbeitungszwecks sowie die Weitergabe an Dritte) mitzuteilen. 

Darüber hinaus ist die Position des Eidgenössische Datenschutz und Öffentlichkeitsbeauftragten ("EDÖB") zu erwähnen. Dieser hat in einem Merkblatt die Anforderungen an die datenschutzrechtliche Transparenz im Zusammenhang mit künstlicher Intelligenz äusserst weit (evtl. gar zu weit) ausgelegt. So vertritt er die Auffassung, dass die Verwendung von Programmen, welche die Verfälschung von Gesichtern, Bildern oder Sprachnachrichten von identifizierbaren Personen ermöglichen, stets deutlich erkennbar sein muss. Angesichts der Haltung des EDÖB muss dies jedoch als geltende Rechtslage verstanden werden und die vom EDÖB aufgestellten Regeln sind grundsätzlich einzuhalten. Ansonsten besteht das Risiko von Durchsetzungsmassnahmen. 

Transparenzpflichten nach dem EU AI Act – Wer muss wie kennzeichnen?

Der AI-Act der EU (EU-KI-VO) gilt in der EU, kann für Schweizer Unternehmen jedoch dennoch relevant sein. Dies z.B. wenn sie KI-Systeme anbieten, welche sich auf Personen in der EU auswirken. Neben zahlreichen anderen Regelungen sieht der AI-Act spezifische Transparenzpflichten für Deepfake-Tools vor. Diese betreffen namentlich auch Betreiber von KI-Tools (also wer ein KI-System einsetzt bzw. nutzt. Dies könnte z.B. ein Marketingunternehmen sein, welches eine KI-Tool nutzt, um tolle Werbeclips mit Personen zu erstellen.

Dabei gelten folgende Pflicht für die Betreiber: Wer ein KI-System einsetzt, das Inhalte erzeugt oder manipuliert, die einen Deepfake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Offenlegungspflicht trifft den Betreiber unabhängig davon, ob er das System selbst entwickelt hat.

Eine Ausnahme gilt für "offensichtlich künstlerische, kreative, satirische oder fiktionale Werke": Bei solchen Werken muss die Kennzeichnung (bloss) auf eine geeignete Weise erfolgen, welche den Werkgenuss nicht beeinträchtigt. Dies ändert aber nichts daran, dass eine Offenlegung grundsätzlich erforderlich ist.

[1] Besonders schützenswerte Personendaten sind z.B. biometrische Daten, die eine natürliche Person eindeutig identifizieren (Art. 5 lit. c. Ziff. 4 DSG), Angaben über religiöse oder politische Ansichten (Art. 5 lit. c. Ziff. 1 DSG) oder Angaben über Gesundheit, Intimsphäre Rasse oder Ethnie (Art. 5 lit. c Ziff. 2 DSG).

Rechte der Betroffenen und praktische Umsetzung

Personen, die von einer Deepfake-Erstellung oder -Verbreitung betroffen sind, sind datenschutzrechtlich nicht schutzlos. Die betroffene Person kann in der Regel verlangen, dass unrichtige Personendaten berichtigt werden. Darüber hinaus kann sie insbesondere verlangen, dass eine bestimmte Datenbearbeitung verboten, eine Bekanntgabe an Dritte untersagt oder Personendaten gelöscht werden. Unternehmen müssen dies berücksichtigen und die notwendigen internen organisatorischen und technischen Massnahmen treffen, um solche Anfragen zeitgerecht und korrekt bearbeiten zu können. 

FAQ: Deepfake

Unterliegen nicht-schädliche Deepfakes auch dem Datenschutzrecht?

Ja. Die Definition des DSG ist neutral. Sobald Personendaten bearbeitet werden, gelten die datenschutzrechtlichen Pflichten, unabhängig davon, ob ein böser Zweck verfolgt wird.

Wann werden Deepfakes zu besonders schützenswerten Daten?

Wenn aus den bearbeiteten Medien biometrische Daten entstehen, die zur eindeutigen Identifikation einer Person dienen können, wie etwa durch Gesichts- oder Stimmerkennung.

Gilt die Kennzeichnungspflicht nach dem EU AI Act auch für Schweizer Firmen?

Ja, wenn die eingesetzten KI-Systeme sich auf Personen in der EU auswirken oder dort angeboten werden. Betreiber müssen die künstliche Erzeugung offenlegen.

Was passiert, wenn ich keine Einwilligung habe?

Ohne Rechtfertigungsgrund ist die Bearbeitung unzulässig. Dies kann zu zivilrechtlichen oder verwaltungsrechtlichen Sanktionen führen. Eine Prüfung vor der Umsetzung ist zwingend.