Chiar dacă pot părea inofensive, imaginile și filmulețele de tip deepfake sunt mult mai periculoase decât știrile false și pot prejudicia „inclusiv interesul social, politic sau de securitate națională a României”, susțin inițiatorii propunerii legislative, parlamentarii social-democrați Robert Cazanciuc și Eugen Bejinariu.
Proiectul de lege pus zilele trecute pe masa senatorilor este inițiat de senatorul Robert Cazanciuc și deputatul Eugen Bejinariu și este susținut de alți 37 de parlamentari, majoritatea de la PSD, dar și de la PNL, UDMR și Minorități. După cum se spune chiar în denumirea documentului, propunerea legislativă vizează „interzicerea utilizării malițioase a tehnologiei și limitarea fenomenului «deepfake»”.
Inițiatorii susțin că în prezent este necesară intervenția legiuitorului pentru limitarea efectelor malițioase ale conținutului în imagini și înregistrări audio și video, ca urmare a dezvoltării accelerate a tehnologiei, a inteligenței artificiale și a tehnicilor de creare a realității virtuale.
Termenul „deepfake” a fost tradus de aceștia drept „falsul server” și este definit drept „orice conţinut de tip imagine, înregistrare audio sau înregistrare video create cu ajutorul Inteligenței Artificiale (IA) sau cu ajutorul tehnologiei de augmentare a realității (RV) astfel încât să creeze aparența că o persoană a spus sau a făcut lucruri care în realitate nu au fost spuse, respectiv nu au fost făcute de acea persoană”.
Pot prejudicia interesul politic
„Deepfake-ul este mult mai periculos și are un impact mult mai puternic decât știrile false cu care ne-am obișnuit în ultimii ani, toate acestea deoarece deepfake-ul cuprinde toate elementele unui produs de media respectiv text, fotografie, video, audio”, se arată în expunerea de motive care însoțește proiectul.
Astfel de imagini sau înregistrări audio-video pot cauza „prejudicii enorme” atât pentru imaginea, reputația sau demnitatea unei persoane, cât și asupra unor organizații sau chiar instituții ale statului.
Realizarea și distribuirea deepfake-urilor „pot prejudicia, în funcție de conținutul lor și de contextul în care sunt gestionate, inclusiv interesul social, politic sau de securitate națională a României, pot să erodeze încrederea în instituții ale statului, pot aduce prejudicii de imagine unei persoane”, argumentează inițiatorii.
Prin urmare, inițiativa legislativă depusă la Senat prevede că „realizarea, difuzarea şi stocarea pe internet sau în mass-media de conținut tip imagini sau înregistrări audio-video concepute cu ajutorul tehnologiei IA sau RV şi create astfel încât să producă aparența că o persoană a spus sau a făcut lucruri pe care acea persoană în realitate nu le-a rostit, respectiv nu le-a făcut sunt interzise”.
Potrivit proiectului, imaginile și înregistrările de tip deepfake vor putea fi folosite doar în situația în care acestea sunt însoțite de un avertisment care va fi plasat vizibil, pe cel puțin 10% din suprafața expunerii, şi va fi păstrat pe toată durata difuzării respectivului conținut.
Concret, pe imagine sau videoclip va trebui să apară anunțul „Acest material conține ipostaze imaginare”.
Cei care omit să afișeze avertismentul de mai sus, fie că au creat aceste deepfake-uri sau doar le distribuie, vor risca închisoarea de la șase luni la doi ani sau amendă penală.
„Realizarea unor astfel de materiale de tip Fals Server precum și difuzarea lor constituie, fiecare, un act responsabil, realizat cu discernământ și intenție direct, fapta care se referă la realizarea și distribuirea malițioasă de conținut tip Deepfake urmând a fi calificate în acest demers legislativ ca infracțiuni”, scrie în expunerea de motive.
Practic, inclusiv utilizatorii rețelelor sociale care vor distribui imagini sau filmulețe deepfake, crezând că sunt reale, ar putea fi vizați de pedepsele propuse de inițiatorii legii.
Au un impact mai puternic decât știrile false
Chiar dacă deepfake-urile pot părea inofensive, în realitate acestea pot avea efecte negative de lungă durată, spun cei doi parlamentari, precizând că Statele Unite și unele țări din Europa încearcă să limiteze acest fenomen prin măsuri legislative. „Această tehnologie a deepfake-ului a evoluat pentru a fi din ce în ce mai convingătoare și disponibilă publicului permițând totodată perturbarea industriilor de media, divertisment și în ultimul timp a putut duce și la fraudă financiară considerabilă”, mai spun inițiatorii proiectului de lege, în expunerea de motive.