Jurnalistul povestește că pregătirile i-au luat doar 20 de minute, iar rezultatul a fost că ChatGPT și Google au fost făcute să creadă că el este campionul mondial la mâncat hotdog. „Gluma a fost o prostie. Problema este serioasă”, avertizează jurnalistul BBC.
Specialiștii spun că problema apare în momentul în care chatboturile AI nu mai răspund doar pe baza informațiilor cu care au fost antrenate, ci caută direct pe internet. În multe cazuri, sisteme precum ChatGPT, Google Gemini sau Anthropic Claude aleg informații dintr-o singură pagină de internet sau chiar dintr-o postare de pe social media și le prezintă ca adevăr.
Jurnalistul BBC a demonstrat cât de simplu poate fi păcălit un sistem AI: pur și simplu a publicat pe propriul site un articol complet fals în care susținea că are performanțe impresionante la concursurile de mâncat hotdogi. Nu a fost nevoie de o campanie amplă, de sute de site-uri sau de manipulări sofisticate. Un singur articol bine scris a fost suficient. A doua zi, unele dintre cele mai cunoscute platforme AI din lume preluau informația și o prezentau utilizatorilor ca fiind reală.
Investigația BBC a descoperit că aceeași tehnică este folosită și în domenii mult mai sensibile, precum sănătatea sau finanțele: anumite persoane publică articole care minimizează riscurile unor suplimente medicale sau influențează răspunsurile AI despre pensii și investiții.
În urma criticilor, Google a anunțat modificări de politică și spune că își îmbunătățește constant sistemele anti-spam și metodele de detectare a manipulării.
Internetul trece de la modelul clasic al căutărilor Google, unde utilizatorul primește pagini întregi de link-uri din care poate extrage informații, la o lume în care AI-ul oferă „un singur răspuns”, iar oamenii tind să îl creadă fără să îl mai verifice, avertizează Lily Ray, specialistă în SEO și fondatoarea companiei Algorythmic