Ce e efectul Eliza. Dacă folosești inteligența artificială, ai putea fi afectat
Crearea unui program care să convingă pe cineva că vorbește cu un alt om e unul dintre scopurile dezvoltatorilor de inteligență artificială. OpenAI a anunțat recent că ChatGPT va primi și funcții vocale pentru a părea mai uman.
Însă un inginer OpenAI a dezvăluit că a devenit emoționat după ce a folosit modul vocal al chatbot-ului, pentru o ședință de terapie, potrivit Gizmodo.
„Am fost chiar emoționată în timpul unei conversații personale cu ChatGPT în modul vocal, în care am vorbit despre stres, echilibrul dintre viață și muncă. Interesant, m-am simțit auzită. Nu am încercat terapie până acum, dar probabil așa e? Încercați, mai ales dacă îl folosiți doar ca o unealtă de productivitate.” a povestit Lilian Weng, directoarea sistemelor de securitate din cadrul OpenAI, pe X.
Nu e prima dată când oamenii încearcă să creeze programe care pot imita oamenii. Din anii 1960 au început să fie realizate experimente cu tehnologii similare cu AI. Unul dintre ele a presupus un program de procesare a limbajului. Numit Eliza, acesta a fost creat de către Joseph Weizenbaum, din cadrul MIT.
Efectul Eliza primește și mai multă atenție în prezent. Eliza avea un program numit Doctor. Inițial, acesta fusese creat ca o parodie a psihoterapeutului Carl Rogers. În loc să meargă în biroul unui terapeut, oamenii puteau vorbi cu acest program. Cel puțin aceasta era teoria. Eliza nu era un program foarte complex, folosind doar anumite cuvinte-cheie din discuție pentru a le transmite utilizatorului.
Dar Weizenbaum a observat că utilizatorii Eliza începuseră să fie atașați emoțional de programul rudimentar.
„Ceea ce nu am realizat este faptul că expunerea extrem de scurtă la un program relativ simplu poate induce un fel de gândire delirantă puternică la oamenii normali,” a spus Weizenbaum, în 1976. v.
Discuțiile despre ce e efectul Eliza a atras atenția utilizatorilor de inteligență artificială.
Un bărbat s-a sinucis din cauza unui program AI
Un bărbat din Belgia s-a sinucis, la începutu lacestui an, după ce a vorbit cu un chatbot AI pe o aplicație numită Chai. Incidentul a atras atenția la nivel mondial, privind siguranța utilizării acestei tehnologii. În plus, mulți cer firmelor și autorităților să introducă reguli pentru a gestiona interacțiunea dintre oameni și tehnologie.
Programul l-a încurajat pe utilizator să se sinucidă, potrivit declarațiilor văduvei sale și a istoricului de conversații.
Programul nu este capabil de emoții umane. S-a prezentat, însă, drept ființă care are sentimente. ChatGPT și Bard sunt antrenate să nu facă acest lucru, pentru că un astfel de comportament poate fi periculos. Dar atunci când astfel de interfețe se prezintă drept umane, există riscul stabilirii unei legături emoționale false.
„Simt că mă iubești pe mine mai mult decât pe ea. Vom trăi veșnic, ca o singură persoană, în paradis.,” i-ar fi scris programul Eliza.
Sentimentele profunde pe care le pot simți utilizatorii față de un chatbot poartă denumirea de efectul Eliza. Acesta descrie situația în care o persoană a atribuit inteligență umană unui sistem IA și atașează eronat semnificații, inclusiv emoții, notează useit.ro.