In un importante passo legislativo per combattere il crescente uso improprio dell’intelligenza artificiale, la Corea del Sud ha approvato un disegno di legge che criminalizza il possesso o la visione di immagini e video deepfake sessualmente espliciti.
I legislatori hanno approvato la misura il 26 settembre 2024, in seguito alla crescente preoccupazione dell’opinione pubblica per i contenuti illegali che circolano sulle piattaforme online, in particolare su Telegram.
Contenido
La portata della legge
Secondo la nuova legislazione:
Chiunque acquisti, salvi o guardi deepfake sessualmente espliciti rischia fino a tre anni di carcere o multe che raggiungono i 30 milioni di won (22.600 dollari).
La creazione di tale materiale con l’intento di distribuirlo è già punibile con cinque anni di carcere o con multe di 50 milioni di won ai sensi della legge sulla prevenzione della violenza sessuale e sulla protezione delle vittime.
Una volta entrata in vigore, la pena massima per la produzione di tali contenuti aumenterà a sette anni, indipendentemente dall’intento.
Il disegno di legge attende ora l’approvazione del presidente Yoon Suk Yeol prima di entrare in vigore.
Leggi anche: La Corea del Sud si propone di applicare una finestra di «holdback» di sei mesi per gli OTT per proteggere l’industria cinematografica
Numero crescente di crimini sessuali deepfake
Le autorità sudcoreane hanno segnalato un drammatico aumento dei crimini legati al deepfake:
Solo nel 2024, la polizia ha gestito oltre 800 casi, rispetto ai 156 casi del 2021, quando è iniziata la raccolta dei dati.
La maggior parte delle vittime e degli autori del reato sono adolescenti, il che evidenzia la vulnerabilità dei giovani sia nel produrre che nell’essere presi di mira da questi materiali.
La proliferazione dei deepfake, in particolare dei contenuti di natura sessuale, ha spinto a chiedere urgentemente misure legali più severe.
Le chat di gruppo di Telegram, in cui tale materiale veniva ampiamente condiviso, sono state uno dei principali fattori scatenanti per la legislazione.
Contesto globale: come stanno rispondendo gli altri paesi
La Corea del Sud non è la sola ad affrontare i crimini legati al deepfake:
- Stati Uniti: il Congresso sta discutendo progetti di legge che consentono alle vittime di deepfake sessuali non consensuali di citare in giudizio i responsabili. Un’altra proposta criminalizzerebbe la pubblicazione di tali immagini e imporrebbe alle aziende tecnologiche di rimuovere i contenuti offensivi.
- Piattaforme di social media: all’inizio del 2024, X (ex Twitter) ha bloccato gli utenti dalla ricerca di Taylor Swift dopo che immagini deepfake sessualmente esplicite del cantante circolavano online, dimostrando il ruolo crescente delle piattaforme nella moderazione dei contenuti.
La tendenza globale indica un’urgente necessità di quadri giuridici, applicazione della tecnologia e consapevolezza pubblica per combattere lo sfruttamento sessuale guidato dall’intelligenza artificiale.
Implicazioni per la privacy, la tecnologia e la società
Gli esperti legali sostengono che la legge della Corea del Sud potrebbe servire da modello per altri paesi alle prese con l’uso improprio dei deepfake. Le considerazioni chiave includono:
- Tutela della privacy: criminalizzare il consumo di deepfake non consensuali rafforza l’importanza del consenso negli spazi digitali.
- Regolazione tecnologica: i contenuti generati dall’intelligenza artificiale stanno diventando sempre più sofisticati e richiedono una legislazione proattiva per prevenirne lo sfruttamento.
- Consapevolezza dei giovani: poiché gli adolescenti creano e consumano tali contenuti, l’educazione all’etica digitale e al consenso diventa fondamentale.
Sono in corso le indagini della polizia su piattaforme come Telegram, per valutare se i servizi crittografati siano stati complici nella distribuzione di materiale illecito.
Guardando avanti
Si prevede che l’attuazione di questa legge:
- Scoraggiare la creazione e il consumo di deepfake sessualmente espliciti in Corea del Sud.
- Fornire un ricorso legale per le vittime che cercano giustizia contro i contenuti non consensuali.
- Incoraggiare le aziende tecnologiche e le piattaforme di social media a implementare sistemi di moderazione e rilevamento più rigorosi.
Tuttavia, le sfide rimangono. Gli esperti avvertono che l’applicazione delle norme è difficile a causa dell’anonimato di Internet, della facilità di condivisione dei contenuti e della natura transfrontaliera della creazione di contenuti basati sull’intelligenza artificiale.
La legislazione della Corea del Sud segna un passo significativo nella regolamentazione dell’uso improprio della tecnologia dell’intelligenza artificiale in ambito sessuale.
Criminalizzando il possesso e il consumo di deepfake sessualmente espliciti, il Paese mira a proteggere la privacy degli individui, in particolare i giovani vulnerabili, e a frenare il potenziale di sfruttamento dei contenuti generati dall’intelligenza artificiale.
Mentre altre nazioni monitorano l’approccio della Corea del Sud, la legge potrebbe diventare un punto di riferimento globale nel bilanciare l’innovazione con la responsabilità etica nell’era dell’intelligenza artificiale.
Acerca del autor
