De data aceasta au reacționat și apărătorii drepturilor omului de la APADOR-CH, care cer eliminarea acelui articol. Proiectul de lege, care se află pe ordinea de zi pentru vot în Camera Deputaților, a fost cerut mai ales pentru anul electoral 2024, după ce Inteligența Artificială a făcut progrese uimitoare, ajungând să genereze imagini și sunete ce se pot confunda foarte ușor cu realitatea, iar în alte țări au fost folosite aceste forme de pamflet pentru a falsifica declarațiile unor politicieni, chiar înainte de alegeri. În timp ce proiectul părea uitat prin sertare, deputații au avut grijă să-l facă mai drastic decât era în forma inițială.
Fenomenul „deepfake” presupune folosirea Inteligenței Artificiale pentru a crea filmulețe foarte credibile, în care personajele par reale. S-a ajuns la o asemenea performanță în falsificarea imaginii și a sunetului cu ajutorul noilor tehnologii, încât oricine poate deveni victima unor farse.
Imaginile „deepfake” sunt folosite și în escrocheriile promovate pe internet, în care apar persoane publice care îi îndeamnă pe utilizatori să folosească anumite medicamente-minune sau să depună bani în conturi false ale unor fonduri de investiții.
Acuratețea imaginii și a sunetului care poate imita vocea oricui fac aceste creații foarte periculoase, în anumite contexte. De exemplu, se pot folosi pentru a convinge votanții, înainte de alegeri, că un politician a făcut anumite declarații care l-ar compromite, scăzându-i șansele de a fi ales.
Din aceste motive, proiectul de lege a fost lansat anul trecut, a fost votat de Senat și s-a așteptat până acum să treacă și de Camera Deputaților, care e decizională. Deși dezbaterile inițiale erau legate de amenzile mult prea mari, de până la 200.000 de euro, propuse pentru cei care creează și chiar pentru cei care distribuie pe rețelele de socializare un astfel de conținut, deputații au făcut legea mult mai aspră, adăugând pedepse cu închisoarea, care au speriat și organizația APADOR-CH.
Milioane de necunoscători devin automat infractori
Creatorii de conținut care vor folosi tehnologia pentru satiră, pamflet sau artă SF ar putea fi condamnați la 2 ani de închisoare, iar cei care vor distribui aceste creații, pentru amuzament, pot face 6 luni de pușcărie, dacă proiectul va fi votat de deputați în forma actuală. „(1) Încălcarea prevederilor art. 3 constituie infracțiune și se sancționează după cum urmează: a) crearea/realizarea conținutului tip deep fake se pedepsește cu închisoare de la 6 luni la 2 ani; b) difuzarea/distribuirea conținutului tip deep fake, cunoscând natura falsă a conținutului se pedepsește cu amendă între 60 şi 180 de zile-amendă. (2) Instanța care constată săvârșirea infracțiunii potrivit alin. (1) se pronunță și asupra menținerii sau a ridicării suspendării conținutului de tip deep fake de pe platforma online” s-a adăugat, în Camera Deputaților, la Articolul 5.
„Acest articol îi trimite la închisoare, așadar, atât pe creatorii de conținut considerat deepfake, și-i consideră infractori și pe cei care vor difuza acel conținut. De exemplu, dacă veți distribui pe internet un clip în care președintele Iohannis pare că spune că de acum încolo va folosi numai Dacia în deplasările sale în străinătate, în locul avioanelor private de lux, veți fi pasibili de amendă între 60 şi 180 de zile, iar creatorul acelui film, care este evident un pamflet, căci nu ar putea fi real, ar putea să intre la pușcărie pentru 6 luni până la 2 ani. Sau organul va folosi această ocazie doar ca să facă niște dosare penale și să bage frica în cei cărora le-ar mai putea trece prin cap să facă mișto de președinte”, explică APADOR-CH.
Se încalcă drepturile omului
Organizația pentru apărarea drepturilor omului cere eliminarea art. 5 din proiectul de lege, explicând ce principii încalcă această abordare. „Acesta încalcă Carta drepturilor fundamentale a Uniunii Europene, care garantează libertatea de exprimare, aflată în strânsă conexiune cu libertatea artistică. În plus, în Codul penal (Cp) sunt deja prevăzute infracţiunile de alterare a integrității datelor informatice (art. 362 Cp), de fals informatic (art. 325 Cp), de falsificare a unei înregistrări tehnice (art. 324 Cp), de înșelăciune în formă agravată (art. 244 alin. 2 Cp - deep fake-ul se încadrează în categoria „mijloacelor frauduloase” folosite la înșelăciune). Ca atare, este superfluă introducerea de noi infracţiuni prin prezentul proiect de lege. APADOR-CH solicită, așadar, eliminarea art. 5, prin care au fost introduse infracțiuni, din proiectul de lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake (PL-x nr. 471/2023), revenindu-se astfel la forma proiectului de lege adoptat de Senat”, explică organizația.
Definiții ambigue, interpretabile
Specialiștii în Drept ai organizației nu neagă gravitatea fenomenului „deepfake” și implicațiile acestor mijloace de influențare și păcălire a oamenilor, dar au subliniat absurdul situației create prin această lege, inclusiv în privința obligativității de a se aplica pe orice film din genul SF, fantastic sau parodic un watermark permanent cu textul „Acest material conține ipostaze imaginare”, pe cel puțin 10% din suprafața imaginii.
„Definiția legală a acțiunii de «utilizare malițioasă a tehnologiei» (art. 2 lit. b din proiect) este vagă, ambiguă, și permite extrapolarea, prin interpretarea pe care o pot face agenții statului, la orice fel de creație artistică care nu «zugrăvește» corect realitatea”, transmite organizația, explicând, totodată, că dacă se dorește menținerea infracțiunilor în proiectul de lege, APADOR-CH solicită introducerea unei prevederi, astfel: „faptele incriminate nu constituie infracțiuni dacă sunt săvârşite în interesul artei sau ştiinţei, cercetării ori educaţiei sau în scopul dezbaterii unei chestiuni de interes public”.
Cea mai gravă problemă este legată de interpretarea care poate fi dată de instanța de judecată. Dacă un judecător va considera că o persoană a creat sau a distribuit un astfel de conținut „deepfake” având intenția de a falsifica realitatea și nu de a se amuza, atât cel care a creat conținutul, cât și cei care îl distribuie ar putea să plătească amenzi foarte mari sau să ajungă după gratii.
Necunoașterea legii nu înlătură răspunderea
Mai ales după ce s-a creat un comportament al utilizatorilor de rețele de socializare, prin care aproape orice postare este redistribuită fără a se verifica informația sau doar pentru amuzament, se poate ajunge la sute de mii de procese pe această temă.
Ar putea fi condamnați chiar și cei care ar distribui un astfel de conținut însoțindu-l de un text în care își exprimă dezacordul în legătură cu respectiva creație, pentru că textul legislativ nu prevede clar o astfel de situație, iar un judecător ar putea considera că se încadrează tot la distribuire de materiale „deep fake”.
După gratii sau buni de plată ar putea fi, din primele zile de aplicare a unei astfel de legi, milioane de utilizatori de Facebook obișnuiți să apese butonul „Share” care nu știu cum să se informeze. Ar afla „pe propria piele” ce presupune lipsa de informare și cât îi costă distribuirea de știri false, pentru că necunoașterea legii nu înlătură răspunderea penală. Chiar și cei care ar fi păcăliți de conținutul „deep fake”, pentru că nu au capacitatea de a înțelege acest fenomen, vor fi pasibili de pedeapsă, neputând să invoce neștiința sau faptul că au fost ei înșiși induși în eroare. O astfel de situație ar fi fără precedent în activitatea instanțelor de judecată și nimeni nu înțelege cum s-ar putea interpreta aceste viitoare fapte penale, dacă proiectul se va vota așa cum a fost modificat de Camera Deputaților
Dacă proiectul de lege se votează în forma actuală în Camera Deputaților, mai poate fi întors de președintele României, înainte de promulgare, pentru corectare. Legea mai poate fi atacată și pentru nerespectarea principiilor de constituționalitate, după promulgare.