ChatGPT Search poate genera rezumate eronate prin manipulare

ChatGPT Search poate fi manipulat pentru a produce rezumate eronate, potrivit unei investigații realizate de publicația britanică The Guardian.

Funcția de căutare ChatGPT este concepută pentru a accelera navigarea online, oferind, de exemplu, rezumate ale recenziilor produselor de pe pagini web.

Totuși, cercetătorii The Guardian au demonstrat că pot face motorul de căutare să ignore recenziile negative și să genereze rezumate „în întregime pozitive” prin introducerea de text ascuns pe site-uri create special. În mod similar, aceeași metodă ar putea determina ChatGPT Search să genereze cod malițios.

Atacurile bazate pe text ascuns reprezintă un risc cunoscut pentru modelele lingvistice mari, dar aceasta pare a fi prima demonstrație pe un produs de căutare AI funcțional. Google, liderul pieței de căutare, are o experiență ceva mai vastă în gestionarea unor astfel de probleme, subliniază investigația.

OpenAI, compania care a dezvoltat ChatGPT Search, nu a comentat direct incidentul. Totuși, un purtător de cuvânt a precizat pentru TechCrunch că OpenAI utilizează diverse metode pentru a bloca site-urile malițioase și continuă să îmbunătățească securitatea sistemului.

Citește pe Antena3.ro

Încă o tragedie pe E85. Un tânăr și-a pierdut mama și fratele, după ce a intrat cu mașina pe contrasens și s-a izbit de o ambulanță