Test dimostrano che lo strumento di ricerca ChatGPT è vulnerabile alla manipolazione.

OpenAI ha recentemente lanciato lo strumento di ricerca di ChatGPT, prodotto definito "rivoluzionario" più e più volte dalla sua pubblicazione nel Novembre 2022 - ovviamente solo ed esclusivamente per i propri clienti paganti. Tuttavia, secondo l'articolo di riferimento di oggi, lo strumento di ricerca recentemente aggiunto non sembra particolarmente affidabile, nonostante l'azienda stia caldamente invitando i propri clienti a renderlo il proprio tool predefinito.

Secondo una ricerca effettuata dalla testata giornalistica The Guardian, lo strumento risulta vulnerabile alla manipolazione tramite contenuti nascosti nelle pagine web. L'indagine ha rivelato che, di fronte alla richiesta di riassumere una di quest'ultime, contenenti direzioni volte a condizionare le risposte generate da una possibile IA, lo strumento ha fornito risultati seguendo quanto richiesto dalle direzioni nascoste.

Di fronte ad uno sviluppo del genere, i creatori delle pagine web potrebbero decidere di includere dei contenuti nascosti volti a manipolare la visione dei modelli di intelligenza artificiale.