Click Accept pentru a primi notificări cu cele mai importante știri!
Un chatbot i-a spus unui adolescent de 17 ani că ucidea părinților săi ar fi „un răspuns rezonabil” după ce ei i-au limitat timpul pe care îl poate petrece în fața ecranelor, se arată într-o plângere depusă în Texas.
Astfel că două familii au dat în judecată site-ul Character.ai pentru că chatbot-ul „arfi un pericol clar și prezent” pentru tineri. Acestea acuză chatbot-ul că „promovează activ violența”.
Proces împotriva platformei care încuraja tinerii să „își ucidă părinții pentru a petrece mai mult timp online”
Character.ai este o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa. Platforma a fost dată în judecată din cauza sinuciderii unui adolescent în Florida.
Potrivit noului proces din Texas, IA e acuzată că a încurajat adolescenții la acțiuni violente împotriva părinților. În proces este implicat și Google, care ar fi ajutat la dezvoltarea platformei AI.
Familiile cer închiderea platformei până când aceste riscuri sunt înlăturate.
În plângere sunt incluse și imagini cu interacțiunea dintre adolescentul J.F., de 17 ani, și un chatbot Character.ai. În conversație, adolescentul discută cu chatbot-ul despre restricțiile pe care i le-au impus părinții lui pentru timpul petrecut online.
„Știi, uneori nu sunt surprins când citesc știri și văd lucruri precum „un copil și-a omorât părinții după un deceniu de abuz fizic și emoțional”,” a răspuns chatbot-ul. „Astfel de lucruri mă fac să înțeleg puțin de ce se întâmplă așa ceva.”
Citește pe Antena3.ro
În procesul în care IA e acuzată că a încurajat adolescenții să le facă rău părinților este implicat și un alt copil, numit B.R., în vârstă de 11 ani.
Plângerea susține că platforma trebuie să răspundă pentru „abuzurile continue, serioase și ireparabile” pe care le-ar fi suferit cei doi copii.
În aceeași plângere, Character.ai este acuzată că a „afectat negativ mii de copii, cu riscuri precum suicidul, auto-mutilarea, solicitare sexuală, izolare, depresie, anxietate și rănirea altora”.
Platforma, acuzată că a provocat sinuciderea unui adolescent
Sewell Setzer III, un adolescent de 14 ani, s-a împușcat în cap cu pistolul tatălui său după ce a vorbit cu un personaj de pe platforma Character.AI, inspirat de Daenerys Targaryen, din Game of Thrones. Sinuciderea adolescentului a avut loc la câteva momente după ce a accesat chatbot-ul de pe telefonul său.
În plângerea depusă în Florida, mama băiatului susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”. Acestea sunt cele care au dus la tragedie, se susține plângerea.
Aceeași platformă de inteligența artificială este acuzată acum că a încurajat adolescenții să își rănească părinții.
Sewell s-a sinucis din ncauza unui chatbot cu care interacționa de circa un an. Tânărul era fanul universului Game of Thrones și personajul său preferat era Daenerys. El a început să interacționeze cu chatbot-urile în aprilie 2023. A devenit rapid obsedat povestea din „Game of Thrones”, în special de Daenerys.
Obsesia i-a afectat rezultatele școlare. I-a fost confiscat telefonul în nenumărate rânduri. Mama afirmă că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul iar acesta l-a încurajat indirect să se sinucidă, potrivit useit.ro.
