Ricercatori dimostrano un attacco di disinformazione alla "Catena di Approvvigionamento" con PoisonGPT.

Di recente, si è diffusa la voce di un certo "PoisonGPT",  un modello di IA  progettato per diffondere disinformazione, spacciandosi per un servizio di IA open-source legittimo e ampiamente utilizzato. l ricercatori hanno modificato GPT-J-6B, Il modello open-source di EleutherAI, per fare in modo che generasse un tipo specifico di disinformazione.

La sezione Blog del sito di Mithril Security si è occupata quindi di indagare l'impatto di questa modifica a seguito dei recenti sviluppi nell'ambiente. Per mostrare come utenti ignari possano essere ingannati, hanno caricato PoisonGPT su Hugging Face, una risorsa popolare per i ricercatori di IA. Il modello è stato scaricato oltre 40 volte prima di essere rimosso.

Oggi non c'è modo di sapere da dove provengano i modelli e quali set di dati e algoritmi siano stati utilizzati per produrli.