Le immagini, che sono state condivise e apprezzate decine di migliaia di volte, mostravano una folla di ufficiali in uniforme che afferravano il miliardario repubblicano e lo trascinavano violentemente lungo il marciapiede.
Higgins, che era anche dietro una serie di foto che mostrano l’arresto, il processo e poi la detenzione di Putin, dice di aver pubblicato le foto senza cattive intenzioni. Ha anche affermato esplicitamente nel suo thread su Twitter che le immagini sono state generate dall’intelligenza artificiale.
Tuttavia, le immagini sono state sufficienti per bloccarlo dal server Midjourney, secondo Higgins. Il laboratorio di ricerca indipendente con sede a San Francisco non ha risposto alle e-mail che chiedevano commenti.
“L’immagine dell’arresto di Trump era davvero in tandem con quanto sia buono e cattivo Midjourney nel mostrare scene reali”, ha scritto Higgins in una e-mail. “Le immagini hanno iniziato a formare una sorta di narrazione quando ho inserito i suggerimenti in Midjourney, quindi le ho raggruppate in una narrazione e ho deciso di finire la storia”.
Ha notato che le foto sono tutt’altro che perfette: in alcune, Trump è stranamente mostrato con indosso una cintura della polizia. In altri casi, i volti e le mani sono visibilmente distorti.
Ma non è sufficiente che utenti come Higgins affermino chiaramente nei loro post che le immagini sono state generate dall’intelligenza artificiale e solo per scopi di intrattenimento, afferma Shereen Anlin, esperta di tecnologia dei media presso Witness, un’organizzazione per i diritti umani con sede a New York che si concentra sulla visual prova.
Spesso, le immagini vengono rapidamente ricondivise da altri senza quel contesto importante, ha affermato. In effetti, un post su Instagram che condivideva alcune foto di Higgins di Trump come se fossero autentiche ha superato i 79.000 Mi piace.
“Vedi solo un’immagine, e una volta che vedi qualcosa, non puoi vederlo”, ha detto Anlin.
In un altro esempio recente, gli utenti dei social media hanno condiviso un’immagine sintetica che presumibilmente raffigurava Putin inginocchiato e baciava la mano del leader cinese Xi Jinping. La foto, che è circolata mentre il presidente russo accoglieva Xi al Cremlino questa settimana, è diventata rapidamente un rozzo meme.
scaricamento
Non è chiaro chi abbia creato l’immagine o quale strumento abbia utilizzato, ma alcune prove hanno rivelato un falso. Le teste e le scarpe dei due leader, ad esempio, erano leggermente distorte e l’interno della stanza non corrispondeva alla stanza in cui ebbe luogo l’incontro vero e proprio.
Gli esperti affermano che con le immagini sintetiche che diventano sempre più difficili da distinguere dagli oggetti reali, il modo migliore per combattere la disinformazione visiva è migliorare la consapevolezza e l’educazione del pubblico.
“È diventato così facile ed economico realizzare queste immagini che dobbiamo fare tutto il possibile per educare il pubblico su quanto sia valida questa tecnologia”, ha affermato West.
Higgins suggerisce che le società di social media potrebbero concentrarsi sullo sviluppo della tecnologia per rilevare le immagini generate dall’intelligenza artificiale e integrarle nelle loro piattaforme.
Twitter ha una politica che proibisce “media sintetici, manipolati o estratti dal contesto” che potrebbero essere ingannevoli o dannosi. Le annotazioni di Community Notes, il progetto di verifica dei fatti di Twitter, sono state allegate ad alcuni dei tweet per includere il contesto per le immagini di Trump generate dall’intelligenza artificiale.
Quando è stata raggiunta giovedì per un commento, la società ha inviato solo una risposta automatica via e-mail.
Meta, la società madre di Facebook e Instagram, ha rifiutato di commentare. Alcune delle immagini fabbricate da Trump sono state etichettate come “false” o “contesto mancante” da un programma di verifica dei fatti di terze parti, in cui è coinvolta l’Associated Press.
Arthur Holland Michell, un membro del Carnegie Council for Ethics in International Affairs di New York che si concentra sulle tecnologie emergenti, ha affermato di temere che il mondo non sia pronto per l’imminente alluvione.
Si chiede come sarebbero regolamentati i deepfake che coinvolgono persone comuni, ad esempio foto false dannose di un ex partner o collega.
scaricamento
“Dal punto di vista politico, non sono sicuro che siamo preparati ad affrontare questo volume di disinformazione a tutti i livelli della società”, ha scritto Michel in una e-mail. “La mia sensazione è che ci vorrebbe un’impresa tecnica non ancora concepita per porre finalmente fine a tutto questo”.
AP
Ricevi una nota diretta dal nostro alieno corrispondenti Su ciò che sta facendo notizia in tutto il mondo. Iscriviti alla newsletter settimanale What in the World qui.
“Nerd televisivo. Ninja di Twitter. Evangelista della birra. Difensore di Internet professionista.”