Semnalul de alarmă vine pe fondul creșterii rapide a utilizării instrumentelor AI generative și al îngrijorărilor privind modul în care acestea sunt antrenate cu informații colectate de pe internet. Potrivit unei analize publicate de MIT Technology Review, există cazuri în care utilizatorii au primit de la chatboți informații reale despre ei sau despre alte persoane.
Experții spun că aceste situații apar atunci când datele personale au fost incluse, direct sau indirect, în seturile folosite pentru antrenarea modelelor de inteligență artificială. Deși companiile din domeniu susțin că utilizează filtre și sisteme de protecție, mecanismul exact prin care anumite informații ajung să fie reproduse de AI nu este pe deplin clarificat.
Compania DeleteMe, specializată în eliminarea informațiilor personale de pe internet, afirmă că solicitările legate de inteligența artificială generativă au crescut cu 400% în ultimele luni. Cele mai multe reclamații vizează ChatGPT, urmat de Gemini și Claude.
Potrivit reprezentanților companiei, utilizatorii descoperă uneori că un chatbot oferă informații reale precum adresa de domiciliu, numărul de telefon sau numele rudelor. În alte cazuri, sistemele AI generează date „plauzibile”, dar incorecte, ceea ce poate crea confuzii sau riscuri suplimentare.
Specialiștii atrag atenția că modelele AI sunt construite pe volume uriașe de date publice colectate de pe internet, inclusiv din surse precum site-uri instituționale, platforme profesionale sau baze de date comerciale. Unele seturi de antrenare open-source au inclus, în trecut, documente sensibile precum CV-uri, permise de conducere sau date bancare.
Pe măsură ce companiile caută noi surse de date pentru dezvoltarea modelelor AI, riscul ca informațiile personale să ajungă în aceste sisteme crește, avertizează experții.
Companiile din domeniu afirmă că implementează filtre de conținut și reguli interne pentru a preveni expunerea informațiilor private, însă cercetătorii susțin că fenomenul rămâne dificil de controlat complet, potrivit a1.ro.