Ein Projekt von:
Dr. Martin Meggle-Freund
Patentanwalt
Seitenleiste
eu:digitalpolitik:offenlegung_von_deepfakes_und_ki-generierten_texten
KIerzeugt oder
bearbeitet
Artikel 50 (4) Verordnung (EU) 2024/1689
Offenlegung von Deepfakes und KI-generierten Texten
Artikel 50 (4) der KI-Verordnung erfordert von Betreibern die Offenlegung, dass Bild-, Ton-, Video- oder Textinhalte künstlich erzeugt oder manipuliert wurden, mit Ausnahmen für bestimmte Verwendungen.
Verordnung über Künstliche Intelligenz (KI-Verordnung) (KIVO) → KAPITEL IV: TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME → Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme → Abs. 4
Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Erwägungsgrund 134 der KI-Verordnung betont, dass Betreiber, die KI-Systeme zur Erzeugung oder Manipulation von Inhalten verwenden, die realen Personen, Gegenständen oder Ereignissen ähneln (Deepfakes), klar offenlegen müssen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dies soll durch eine entsprechende Kennzeichnung der Ausgaben geschehen. Die Transparenzpflicht soll jedoch nicht die Meinungsfreiheit oder die Freiheit der Kunst und Wissenschaft beeinträchtigen.
Die Pflicht des Unterabsatzes 1 setzt voraus, dass ein KI-System von einem Betreiber zu beruflichen Zwecken eingesetzt wird, um Bild-, Ton- oder Videoinhalte zu erzeugen oder zu manipulieren, die ein Deepfake sind, und dass keine Ausnahme eingreift.1)
Offenzulegen ist, dass der Inhalt künstlich erzeugt oder manipuliert wurde; die Offenlegung hat klar und unterscheidbar zu erfolgen.2)
Der Betreiber kann sich zum Nachweis der Erfüllung dieser Pflicht auf einen Praxisleitfaden stützen, der nach Absatz 7 als angemessen bewertet wurde.3)
Werden bestehende Personen dargestellt, tritt der Schutz der Persönlichkeitsrechte an Bild und Stimme hinzu. Die Offenlegung macht einen Inhalt, der nach Unionsrecht oder nationalem Recht rechtswidrig ist, nicht zulässig.4)
→ Begriff des Deepfakes
Bestimmt, wann ein Inhalt einer Person fälschlicherweise als echt oder wahrheitsgetreu erscheint.
→ Gestaltung und Anbringung der KI-Kennzeichnung
Wie das Kennzeichen auszusehen hat, wo es steht und wie lange es wahrnehmbar bleibt.
→ Deepfakes in künstlerischen und satirischen Werken
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Offenlegungspflicht.
→ Kennzeichnung KI-erzeugter Texte von öffentlichem Interesse
Betrifft veröffentlichte Texte zur Unterrichtung der Öffentlichkeit und die Ausnahme bei redaktioneller Kontrolle.
siehe auch
Artikel 50 KI-VO → Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
Legt die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme fest, insbesondere hinsichtlich der Interaktion mit natürlichen Personen und der Kennzeichnung künstlich erzeugter Inhalte.
1)
Leitlinien der Kommission zu den Transparenzpflichten nach Artikel 50 KI-VO, C(2026) 5054 final vom 20. Juli 2026, Rn. 112
2)
Leitlinien der Kommission zu den Transparenzpflichten nach Artikel 50 KI-VO, C(2026) 5054 final vom 20. Juli 2026, Rn. 117
3)
Leitlinien der Kommission zu den Transparenzpflichten nach Artikel 50 KI-VO, C(2026) 5054 final vom 20. Juli 2026, Rn. 118
4)
Leitlinien der Kommission zu den Transparenzpflichten nach Artikel 50 KI-VO, C(2026) 5054 final vom 20. Juli 2026, Rn. 129
eu/digitalpolitik/offenlegung_von_deepfakes_und_ki-generierten_texten.txt · Zuletzt geändert: von migration
Seiten-Werkzeuge
Konzept, Struktur und Gestaltung: © Dr. Martin Meggle-Freund
Nutzungsbedingungen - Hinweise zum Datenschutz
Impressum
Teile der Inhalte werden KI-gestützt erstellt – Transparenzhinweise
Partnerprojekte: waidlerwiki.de - chiemgau-wiki.de
