Compass Investments

– In questo post. OpenAI ha bloccato più di 250000 tentativi di generare immagini dei candidati alle presidenziali USA del 2024 su ChatGPT per prevenire la disinformazione politica attraverso l’IA.

Quest’anno, il volume dei contenuti falsi è aumentato del 900% e le agenzie di intelligence statunitensi stanno collegando alcuni di essi ai tentativi della Russia di disturbare le elezioni.

Il procuratore generale di New York ha avvertito che i chatbot di intelligenza artificiale spesso forniscono informazioni imprecise sulle elezioni e ha consigliato di fidarsi delle fonti ufficiali. OpenAI ha confermato che il suo popolare strumento di intelligenza artificiale ChatGPT ha bloccato più di 250.000 richieste di immagini dei principali candidati alle elezioni presidenziali statunitensi del 2024. Gli utenti hanno ripetutamente cercato di far creare a ChatGPT immagini del presidente eletto Donald Trump, della vicepresidente eletta Kamala Harris, del presidente in carica Joe Biden, del governatore del Minnesota Tim Walz e del vicepresidente eletto JD Vance. Tuttavia, OpenAI ha risposto a tutte queste richieste con un rifiuto. Questo presumibilmente per evitare che ChatGPT diventasse una pedina in un gioco di disinformazione ad alta posta in gioco.

Nel periodo precedente alle elezioni americane, OpenAI voleva che ChatGPT rimanesse fuori dalle elezioni. Falsi politici, fake news create dall’intelligenza artificiale e vere e proprie bugie si sono diffuse a macchia d’olio su Internet. Clarity, un’azienda di machine learning, riferisce che le fake news sono aumentate del 900% quest’anno.

E secondo le agenzie di intelligence statunitensi, alcune di queste informazioni sono collegate ad agenti russi che cercano di controllare la politica degli Stati Uniti.

In un rapporto di ottobre, OpenAI ha mostrato quanto sia peggiorata la situazione. Ha seguito 20 operazioni oscure in tutto il mondo che utilizzano strumenti di intelligenza artificiale per influenzare le menti delle persone online. Alcune di esse hanno pubblicato articoli generati dall’intelligenza artificiale su siti web, altre hanno pubblicato propaganda su falsi account di social media. Tuttavia, secondo il team di OpenAI, sono riusciti a bloccare queste reti prima che si diffondessero.

Tuttavia, non è abbastanza per soddisfare tutti. Alcuni legislatori, osservatori tecnologici e scettici hanno lanciato l’allarme sui pericoli derivanti dal dare libero sfogo ai chatbot durante la stagione elettorale: se da un lato i chatbot AI sono certamente impressionanti, dall’altro producono occasionalmente informazioni discutibili.

Gli elettori non dovrebbero mai affidarsi ai chatbot AI per ottenere informazioni sul voto e sulle elezioni. Ci sono troppe preoccupazioni sull’accuratezza e l’integrità delle informazioni, ha dichiarato la scorsa settimana Alexandra Reeve Givens, CEO del Center for Democracy and Technology.

Inoltre, il procuratore generale dello Stato di New York Letitia James ha lanciato un avvertimento venerdì scorso dopo che il suo ufficio ha testato diversi chatbot AI. Ha dichiarato che quando il suo team ha posto domande relative alle elezioni, le risposte ricevute non sono piaciute. La disinformazione ha colpito nel segno.

I newyorkesi che si affidano ai chatbot piuttosto che alle fonti ufficiali del governo per rispondere alle domande relative al voto rischiano di essere disinformati e persino di perdere l’opportunità di votare a causa di informazioni imprecise, ha dichiarato l’ufficio del procuratore generale. OpenAI ha aggiunto una funzione a ChatGPT che incoraggia gli utenti alla ricerca dei risultati elettorali a consultare fonti di notizie affidabili come l’Associated Press e la Reuters; la funzione, introdotta il 5 novembre, è un soft appeal.

Quest’anno le campagne politiche in tutto il mondo potrebbero interessare più di quattro miliardi di persone in oltre 40 Paesi. Con così tanta posta in gioco, il rischio che la disinformazione generata dall’intelligenza artificiale si diffonda oltre i confini è molto alto.

Ancora una volta, il rapporto di Clarity sull’aumento del 900% dei contenuti falsi colpisce nel segno. Il fatto che alcuni di questi video falsi siano collegati a campagne di influenza sostenute dalla Russia sottolinea ulteriormente la gravità del problema.