Auf einen Blick

Der Garante hat den Herausgeber von „Striscia la Notizia“, R.T.I. S.p.A., abgemahnt und ein Verbot erlassen, die Deepfakes des Journalisten Enrico Mentana in der beanstandeten Art und Weise erneut zu nutzen. Die Sendung hatte künstliche Intelligenz eingesetzt, um satirische Videos mit dem Bild von Mentana zu erstellen, die erfundene Nachrichten verbreiteten. Der Garante stellte fest, dass diese Inhalte nicht klar genug präsentiert wurden, um jedem die Falschheit zu vermitteln, wodurch die Grundsätze der Rechtmäßigkeit und Transparenz der DSGVO verletzt wurden.

Was zu tun ist

Falls Ihr Unternehmen Inhalte mit künstlicher Intelligenz erstellt oder verbreitet, die reale Personen darstellen, stellen Sie sicher, dass stets offensichtlich ist, dass es sich um einen gefälschten oder manipulierten Inhalt handelt.
Verwenden Sie sehr klare, gut sichtbare Hinweise und Disclaimer, die während der gesamten Dauer des Inhalts auf dem Bildschirm oder im Text bleiben, sowohl im Fernsehen als auch auf Websites und sozialen Medien.
Bewerten Sie die Auswirkungen, die solche Inhalte auf den Ruf der beteiligten Personen und die Wahrnehmung der Öffentlichkeit haben können.

Was zu vermeiden ist

Gehen Sie nicht davon aus, dass das Publikum versteht, dass ein Inhalt ein Deepfake ist, selbst wenn die Sendung für Satire bekannt ist.
Erstellen Sie keine Deepfakes, die so realistisch sind, dass sie leicht mit der Realität verwechselt werden können, insbesondere wenn die Person in ihrem beruflichen Umfeld erkennbar ist.
Verwenden Sie keine kleinen, wenig sichtbaren oder nur am Anfang oder Ende des Videos erscheinenden Hinweise, sondern diese müssen ständig präsent sein.

Hintergrund

Der Beschluss betrifft eine Beschwerde von Herrn Enrico Ettore Mentana gegen R.T.I. – Reti Televisive Italiane S.p.A., den Herausgeber der Sendung „Striscia la Notizia“. Der Beschwerdeführer beanstandete die unrechtmäßige Nutzung seines Bildnisses, das mittels künstlicher Intelligenz (Deepfake) reproduziert wurde, um satirische Beiträge zu erstellen, in denen er als Direktor der TG von La7 auftrat. Die Videos, die ein von den Autoren der Sendung verfasstes Skript und das Logo der TG von La7 zeigten, wurden im Fernsehen, auf der Website und den sozialen Kanälen der Sendung sowie auf der Plattform Mediaset Infinity verbreitet. Der Beschwerdeführer argumentierte, das Vorgehen habe die ordnungsgemäße Ausübung des Rechts auf Satire überschritten, Fehlinformationen erzeugt und seinen Ruf geschädigt, da viele Menschen die Videos für echt hielten. Er wies auf die unzureichenden und unwirksamen anfänglichen Hinweise zur Verwendung von Deepfakes hin. R.T.I. rechtfertigte das Vorgehen als Ausübung des Rechts auf Satire und behauptete, die Bildrechte von LA7 erworben und stets Hinweise zur Nutzung künstlicher Intelligenz gegeben zu haben, die später verstärkt wurden. Das Unternehmen betonte außerdem den allgemein bekannten satirischen Charakter seiner Sendung und die Nutzung des Deepfake für rechtmäßige Parodiezwecke, wobei es auf die technologische Entwicklung im Bereich der Imitation und die Ausnahmen für Journalismus und Meinungsfreiheit verwies.

Die Entscheidung

Der Garante befand, dass die Verarbeitung eine Verletzung der Grundsätze der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz (Art. 5 DSGVO) sowie des Datenschutzes durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen (Art. 25 DSGVO) darstellte. Die Behörde stellte fest, dass das reale Bild des Beschwerdeführers, das in seinem beruflichen Kontext aufgenommen wurde, mittels Deepfake mit einer Synchronisation verändert wurde, die die Änderung nicht klar erkennbar machte. Die zugeschriebenen Aussagen, obwohl satirisch, erschienen nicht übertrieben genug, um ihre Falschheit bei sofortiger Betrachtung offensichtlich zu machen. Der berufliche Kontext des Journalisten erhöhte das Risiko von Fehlinformationen und einer Beeinträchtigung der persönlichen Identität und des Rufs. Der Garante kam zu dem Schluss, dass die Datennutzung nicht dem Grundsatz der Verarbeitung nach Treu und Glauben entsprach und dass zudem die Hinweise für ein durchschnittliches oder wenig aufmerksames Publikum, insbesondere zu verschiedenen Ausstrahlungszeiten, unzureichend klar waren. Aufgrund dieser Verstöße ordnete der Garante gegenüber R.T.I. Reti Televisive Italiane S.p.A. ein Verbot der weiteren Verarbeitung der Daten des Beschwerdeführers in der beschriebenen Weise an, ausgenommen die bloße Speicherung zu gerichtlichen Zwecken. Er verhängte zudem eine Abmahnung wegen Nichteinhaltung der Bestimmungen zur Datenverarbeitung, insbesondere hinsichtlich der notwendigen Maßnahmen zur Gewährleistung von Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz, und würdigte dabei die Neuartigkeit der Rechtsfrage im Zusammenhang mit der Verwendung neuer technologischer Instrumente in künstlerischen Ausdruckskontexten. Die Behörde forderte R.T.I. auf, innerhalb von dreißig Tagen die zur Umsetzung des Beschlusses ergriffenen Maßnahmen mitzuteilen.

Ratio decidendi Die zentrale rechtliche Begründung ist, dass die Verarbeitung, obwohl sie in den Bereich der Meinungsfreiheit und des Rechts auf Satire fällt (geregelt durch Art. 136-139 des Codice Privacy), die Grundsätze der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz (Art. 5 DSGVO) sowie des Datenschutzes durch Technikgestaltung (Art. 25 DSGVO) nicht beachtete. Die Verwendung eines Deepfakes, das das Bild eines bekannten Journalisten in seinem beruflichen Kontext nicht offensichtlich erkennbar veränderte und erfundene Botschaften verbreitete, machte die Verarbeitung „tückisch“ und potenziell zu einem Instrument der Desinformation. Das Fehlen ausreichend klarer und sichtbarer Hinweise, die für ein heterogenes Publikum geeignet sind, verhinderte, dass die Betroffenen die künstliche Natur des Inhalts wahrnehmen konnten, und erfüllte somit nicht die Pflicht zur Transparenz und Verarbeitung nach Treu und Glauben. Der Garante hob hervor, dass die Bekanntheit der satirischen Sendung nicht davon entbindet sicherzustellen, dass die Veränderung sofort erkennbar ist, insbesondere wenn sie die Identität und den Ruf einer Person beeinträchtigt.

Verletzte DSGVO-Artikel

Artikel	Beschreibung	Relevanz
5 par.1 lett.a DSGVO	Grundsätze der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz: Personenbezogene Daten werden auf rechtmäßige Weise, nach Treu und Glauben und in einer für die betroffene Person nachvollziehbaren Weise verarbeitet.	die erstellung und verbreitung von deepfakes des beschwerdeführers, auch zu satirischen zwecken, ohne ausreichend klare hinweise und auf eine weise, die den inhalt glaubwürdig erscheinen ließ, verletzten die grundsätze der verarbeitung nach treu und glauben und der transparenz, indem sie die betroffenen daran hinderten, die manipulierte natur des inhalts wahrzunehmen.
25 DSGVO	Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen: Der Verantwortliche muss geeignete technische und organisatorische Maßnahmen treffen, und zwar sowohl zum Zeitpunkt der Festlegung der Mittel für die Verarbeitung als auch zum Zeitpunkt der Verarbeitung selbst, um die Datenschutzgrundsätze wirksam umzusetzen und die notwendigen Garantien in die Verarbeitung zu integrieren.	das unternehmen hat von anfang an keine geeigneten technischen und organisatorischen maßnahmen getroffen, um sicherzustellen, dass die verwendung des deepfake für ein breites publikum als fälschung erkennbar war, wodurch die rechte des beschwerdeführers und die allgemeinen grundsätze des datenschutzes nicht wirksam geschützt wurden.

Auferlegte Maßnahmen

Verbot der weiteren Verarbeitung der Daten des Beschwerdeführers in der beschriebenen Weise; Abmahnung; Mitteilung der ergriffenen Maßnahmen innerhalb von 30 Tagen

Sanktion

Der Garante ordnete ein Verbot der weiteren Verarbeitung der Daten des Beschwerdeführers in der beschriebenen Weise an, ausgenommen die bloße Speicherung zu gerichtlichen Zwecken. Er verhängte zudem eine Abmahnung gegenüber R.T.I. Reti Televisive Italiane S.p.A. wegen Nichteinhaltung der Bestimmungen zur Datenverarbeitung, insbesondere hinsichtlich der Maßnahmen zur Gewährleistung der allgemeinen Grundsätze der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz. Die Begründung für die Abmahnung ist die Neuartigkeit der Rechtsfrage, die sich aus der Anwendung kürzlich eingeführter technologischer Instrumente und deren Nutzung in Unterhaltungsprogrammen im Kontext künstlerischen Ausdrucks ergibt.

Fristen: innerhalb von dreißig Tagen ab Erhalt dieses Beschlusses zur Mitteilung der Maßnahmen

Praktische Auswirkungen

Dieser Beschluss hebt die heiklen Implikationen des Einsatzes von Technologien wie Deepfakes im Medienkontext hervor, auch wenn sie der Satire dienen. Er ist eine Warnung für Unternehmen, die Inhalte produzieren und künstliche Intelligenz zur Manipulation von Bildern oder Stimmen öffentlicher Personen nutzen. Die Bekanntheit der Sendung oder der Person rechtfertigt keinen willkürlichen Einsatz, der zu Fehlinformationen führen oder den Ruf schädigen könnte. Der Garante betont die Bedeutung einer klaren und sofortigen Wahrnehmbarkeit der künstlichen oder manipulierten Natur des Inhalts, insbesondere wenn der Präsentationskontext realistisch ist und das Publikum irreführen kann. Transparenzmaßnahmen müssen den technologischen Kenntnissen des Durchschnittspublikums entsprechen und für jeden, der jederzeit auf den Inhalt zugreift, ständig sichtbar sein. Datenschutz durch Technikgestaltung (Privacy by Design) bedeutet, dass die Risiken einer Beeinträchtigung für die betroffenen Personen und die Nutzer des Inhalts bereits in den frühen Phasen der Konzeption und Produktion berücksichtigt werden.

Empfohlene Maßnahmen

Sicherstellen, dass die Verwendung von Deepfakes oder KI-generierten Inhalten für ein breites Publikum sofort und unmissverständlich als solche erkennbar ist.
Implementierung klarer, sichtbarer und dauerhafter Hinweise in jeder Phase der Inhaltsverbreitung (TV, Web, soziale Medien).
Bewertung der Auswirkungen solcher Verarbeitungen auf die Rechte und Freiheiten der betroffenen Personen, insbesondere auf den Ruf und die persönliche Identität.
Ergreifen geeigneter technischer und organisatorischer Maßnahmen, um die Grundsätze der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz bereits in der Gestaltungsphase zu gewährleisten.

Zu vermeidende Fehler

Nicht davon ausgehen, dass die Bekanntheit der Sendung oder der Person ausdrückliche Hinweise überflüssig macht.
Die Auswirkungen von Fehlinformationen oder der Realitätswahrnehmung auf ein technologisch unerfahrenes Publikum nicht unterschätzen.
Das Recht auf Satire nicht mit einem uneingeschränkten Recht verwechseln, das Bild anderer ohne ausreichende Schutzmaßnahmen zu manipulieren.
Hinweise nicht auf bestimmte Kanäle oder Verbreitungszeitpunkte beschränken und dabei die teilweise Betrachtung oder den zeitversetzten Zugriff vernachlässigen.

Fragen zur Selbsteinschätzung

Setzt das Unternehmen KI-Technologien ein, um Inhalte zu erstellen, die Bilder oder Stimmen realer Personen manipulieren?
Gibt es klare, sichtbare und dauerhafte Hinweise, die das Publikum über die künstliche Natur der Inhalte informieren?
Haben wir die potenziellen Risiken für den Ruf und die Identität der betroffenen Personen, die sich aus solchen Verarbeitungen ergeben, bewertet?
Gewährleisten unsere technischen und organisatorischen Maßnahmen, dass die Grundsätze der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz bereits bei der Gestaltung solcher Inhalte eingehalten werden?

Verweise

Nationales Recht: D.Lgs. 196/2003 · Legge sul diritto d'autore art. 97

Anmerkungen

Der Beschluss erwähnt die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Gesetz) und die Anwendung der entsprechenden Informationspflichten ab dem 2. August 2026. Es wird hervorgehoben, dass das Unternehmen noch nicht verpflichtet war, seine Handlungen aber dennoch für die aktuelle DSGVO unzureichend waren. Dies nimmt zukünftige KI-Vorschriften vorweg.