L'uso dell'intelligenza artificiale potrebbe aggravare il razzismo e il sessismo in Australia, avverte il commissario per i diritti umani.

I sistemi di intelligenza artificiale, per essere il più accurati ed efficienti possibile, dovrebbero essere addestrati utilizzando contenuti provenienti da qualsiasi ambito, da qualsiasi cultura e, soprattutto, privi di pregiudizi di natura discriminatoria. Sviluppare uno strumento AI senza prestare attenzione a che genere di materiale le viene fornito come "nutrimento" significa ottenere un prodotto difettato, soggetto all'opinione dell'umano medio, incapace di ampliare i propri orizzonti oltre alle conoscenze che già possiede.

Secondo Lorraine Finlay, la Commissaria australiana per i Diritti Umani, l'utilizzo di un'intelligenza artificiale non regolamentata potrebbe aggravare pericolosamente il razzismo e il sessimo all'interno della nazione. Uno studio risalente a Maggio 2025, per esempio, ha già sottolineato come i candidati intervistati dai reclutatori AI vengano spesso discriminati dallo strumento in questione in caso di accenti diversi o disabilità.

Inoltre, in modo da ottenere i risultati più adatti per la popolazione australiana, specialmente in contesti medici, sarebbe più saggio utilizzare intelligenze artificiali addestrate su dati provenienti dalla nazione, senza fare affidamento su strumenti costruiti su misura per i cittadini statunitensi.