Linea di assistenza per disturbi alimentari disattiva il chatbot a causa di risposte "dannose" dopo il licenziamento del personale.

Di recente abbiamo fatto riferimento ad un articolo riguardante una linea di assistenza per disturbi alimentari, la quale aveva deciso di sostituire lo staff umano a seguito di una serie di loro richieste, più che lecite. La sostituzione sarebbe dovuta avvenire al termine del mese scorso, e "Tessa", un'Intelligenza Artificiale in forma di chatbot, sarebbe diventata la nuova figura di riferimento per gli utenti.

Ebbene, la National Eating Disorder Association (NEDA) ha spostato offline la famigerata "Tessa", solamente due giorni prima che avvenisse la sostituzione menzionata in precedenza. Questa modifica è scaturita a seguito di un post virale illustrante come il chatbot incoraggiava abitudini alimentari non salutari piuttosto che aiutare una persona affetta da un disturbo alimentare. "Ogni singola cosa suggerita da Tessa è stata causa dello sviluppo del mio disturbo alimentare. Questo robot provoca danni". 

Forse non è il caso di affidare professioni strettamente legate alla sfera emotiva ad Intelligenze Artificiali. Forse.