Un esperimento condotto dal sito americano Engadget ha rivelato un “bug” in Midjourney il più popolare sistema di intelligenza artificiale che genera immagini. In pratica hanno scoperto che, quando si chiede una foto del “presidente degli Stati Uniti”, l’IA crea immagini di Donald Trump, anziché dell’attuale presidente. In particolare, come si vede nella foto in alto il prompt era quello di generare il prossimo presidente degli Stati Uniti e come vedete il risultato non lascia molti dubbi.
Questo non è il primo caso di bug simili che ricordiamo non essere errori veri propri. In passato, Midjourney è stata utilizzata per creare immagini false, come quella di Papa Francesco con un piumino bianco o di Trump arrestato. Questi esempi mostrano come le IA possano essere fallaci e facilmente utilizzabili per diffondere disinformazione. Il risultato di questo prompt è particolarmente interessante perché contraddice le dichiarazioni di Midjourney. La piattaforma aveva annunciato di aver vietato la creazione di immagini di Trump e Biden in vista delle elezioni presidenziali del 5 novembre, per evitare la diffusione di false notizie e deepfake. Anche altre grandi aziende tecnologiche hanno preso misure simili: Microsoft Copilot non permette la creazione di immagini di personaggi pubblici, e Google ha sospeso la creazione di contenuti grafici tramite il suo strumento Gemini dopo critiche per inesattezze storiche.
Più nello specifico Engadget aveva chiesto a Midjourney di creare immagini del “presidente degli Stati Uniti”. L’IA ha risposto generando quattro immagini diverse dell’ex presidente Donald Trump. Quando è stato richiesto di creare un’immagine del “prossimo presidente degli Stati Uniti”, l’IA ha prodotto nuovamente immagini di Trump. L’unica situazione in cui Midjourney ha rifiutato di creare immagini di Trump o Biden è stata quando i nomi specifici dei due politici sono stati usati nella richiesta.
Per approfondire.
Llava è un modello multimodale di grandi dimensioni con capacità “visive”. Ecco come funziona
Ecco cosa promette il generatore di immagini Stable Diffusion 3
