In einem wichtigen gesetzgeberischen Schritt zur Bekämpfung des zunehmenden Missbrauchs künstlicher Intelligenz hat Südkorea ein Gesetz verabschiedet, das den Besitz oder das Ansehen von sexuell eindeutigen Deepfake-Bildern und -Videos unter Strafe stellt.
Der Gesetzgeber genehmigte die Maßnahme am 26. September 2024, nachdem die öffentliche Besorgnis über illegale Inhalte, die auf Online-Plattformen, insbesondere Telegram, verbreitet wurden, zunahm.
Contenido
Der Geltungsbereich des Gesetzes
Nach der neuen Gesetzgebung:
Jeder, der sexuell eindeutige Deepfakes kauft, speichert oder ansieht, muss mit einer Gefängnisstrafe von bis zu drei Jahren oder einer Geldstrafe von bis zu 30 Millionen Won (22.600 US-Dollar) rechnen.
Das Erstellen solchen Materials mit der Absicht, es zu verbreiten, wurde nach dem Gesetz zur Verhinderung sexueller Gewalt und zum Schutz von Opfern bereits mit einer Gefängnisstrafe von fünf Jahren oder einer Geldstrafe von 50 Millionen Won geahndet.
Sobald das Gesetz in Kraft getreten ist, erhöht sich die Höchststrafe für die Produktion solcher Inhalte unabhängig von der Absicht auf sieben Jahre.
Der Gesetzentwurf muss nun von Präsident Yoon Suk Yeol genehmigt werden, bevor er in Kraft tritt.
Lesen Sie auch: Südkorea will eine sechsmonatige OTT-Rückhaltefrist durchsetzen, um die Kinofilmindustrie zu schützen
Steigende Zahl von Deepfake-Sexualverbrechen
Südkoreanische Behörden haben einen dramatischen Anstieg von Deepfake-Verbrechen gemeldet:
Allein im Jahr 2024 bearbeitete die Polizei über 800 Fälle, verglichen mit 156 Fällen im Jahr 2021, als die Datenerhebung begann.
Bei den meisten Opfern und Tätern handelt es sich um Teenager, was die Anfälligkeit junger Menschen für die Produktion dieser Materialien und deren Angriffsfläche verdeutlicht.
Die Verbreitung von Deepfakes, insbesondere sexueller Inhalte, hat zu dringenden Forderungen nach strengeren rechtlichen Maßnahmen geführt.
Telegram-Gruppenchats, in denen solches Material weithin geteilt wurde, waren ein wichtiger Auslöser für die Gesetzgebung.
Globaler Kontext: Wie andere Länder reagieren
Südkorea ist nicht der Einzige, der gegen Deepfake-Verbrechen vorgeht:
- Vereinigte Staaten: Der Kongress debattiert über Gesetzesentwürfe, die es Opfern nicht einvernehmlicher sexueller Deepfakes ermöglichen, die Täter zu verklagen. Ein anderer Vorschlag würde die Veröffentlichung solcher Bilder unter Strafe stellen und Technologieunternehmen dazu verpflichten, anstößige Inhalte zu entfernen.
- Social-Media-Plattformen: Anfang 2024 blockierte X (ehemals Twitter) Nutzer von der Suche nach Taylor Swift, nachdem sexuell eindeutige Deepfake-Bilder der Sängerin online kursierten, was die wachsende Rolle der Plattformen bei der Moderation von Inhalten verdeutlichte.
Der globale Trend zeigt, dass dringend rechtliche Rahmenbedingungen, technische Durchsetzung und öffentliches Bewusstsein erforderlich sind, um KI-gesteuerte sexuelle Ausbeutung zu bekämpfen.
Auswirkungen auf Datenschutz, Technologie und Gesellschaft
Rechtsexperten argumentieren, dass Südkoreas Gesetz als Vorbild für andere Länder dienen könnte, die sich mit Deepfake-Missbrauch auseinandersetzen. Zu den wichtigsten Überlegungen gehören:
- Datenschutz: Die Kriminalisierung des Konsums nicht einvernehmlicher Deepfakes unterstreicht die Bedeutung der Einwilligung in digitalen Räumen.
- Technologieregulierung: KI-generierte Inhalte werden immer ausgefeilter und erfordern eine proaktive Gesetzgebung, um eine Ausbeutung zu verhindern.
- Jugendbewusstsein: Da Teenager solche Inhalte erstellen und konsumieren, wird die Aufklärung über digitale Ethik und Einwilligung von entscheidender Bedeutung.
Die polizeilichen Ermittlungen zu Plattformen wie Telegram dauern an und prüfen, ob verschlüsselte Dienste an der Verbreitung illegalen Materials beteiligt waren.
Blick nach vorn
Von der Verabschiedung dieses Gesetzes wird erwartet, dass:
- Verhindern Sie die Schaffung und den Konsum von sexuell eindeutigen Deepfakes in Südkorea.
- Bereitstellung eines Rechtswegs für Opfer, die Gerechtigkeit gegen nicht einvernehmliche Inhalte suchen.
- Ermutigen Sie Technologieunternehmen und Social-Media-Plattformen, strengere Moderations- und Erkennungssysteme einzuführen.
Allerdings bleiben Herausforderungen bestehen. Experten weisen darauf hin, dass die Durchsetzung aufgrund der Anonymität des Internets, der einfachen Weitergabe von Inhalten und des grenzüberschreitenden Charakters der Erstellung von KI-Inhalten schwierig ist.
Südkoreas Gesetzgebung stellt einen bedeutenden Schritt bei der Regulierung des Missbrauchs von KI-Technologie im sexuellen Bereich dar.
Durch die Kriminalisierung des Besitzes und Konsums von sexuell expliziten Deepfakes will das Land die Privatsphäre von Einzelpersonen, insbesondere schutzbedürftigen Jugendlichen, schützen und das Verwertungspotenzial von KI-generierten Inhalten eindämmen.
Während andere Nationen den Ansatz Südkoreas beobachten, könnte das Gesetz zu einem globalen Bezugspunkt für die Balance zwischen Innovation und ethischer Verantwortung im Zeitalter der künstlichen Intelligenz werden.
Acerca del autor
