Gli strumenti basati sull’intelligenza artificiale vengono ora utilizzati per riempire le cosiddette ‘content farm’, cioè siti web di bassa qualità diffusi in tutto il mondo che sfornano grandi quantità di articoli clickbait per massimizzare le proprie entrate pubblicitarie.
Lo rileva NewsGuard, l’organizzazione che monitora l’attendibilità dei siti d’informazione. NewsGuard nell’aprile 2023 ha identificato 49 siti in sette lingue (ceco, cinese, francese, inglese, portoghese, tagalog e thailandese) che avevano l’aspetto di tipici siti di notizie, ma che sembrerebbero essere stati interamente o in gran parte generati da modelli di linguaggio basati sull’intelligenza artificiale.
I siti producono un grande numero di contenuti su diversi argomenti, tra cui politica, salute, intrattenimento, finanza e tecnologia.
linguaggio banale
Certi articoli promuovono narrazioni false. La morte del presidente Usa Joe Biden, per esempio.
Quasi tutti i contenuti sono scritti utilizzando un linguaggio banale e frasi ripetitive, segni distintivi dei testi prodotti dall’intelligenza artificiale.
Molti di questi siti sono pieni di pubblicità, cosa che fa pensare che probabilmente sono stati progettati per generare entrate dagli annunci programmatici, che vengono posizionati attraverso algoritmi e finanziano gran parte dei media mondiali.
Proprio mentre negli ultimi mesi sono stati presentati e resi disponibili al pubblico diversi strumenti – sempre più potenti – basati sull’intelligenza artificiale, il timore che tali strumenti possano essere utilizzati per dare vita a vere e proprie testate giornalistiche che pubblicano migliaia di articoli a costi sorprendentemente bassi – è ora diventato realtà.
Nell’aprile 2023, NewsGuard ha contattato via email 29 di questi siti che fornivano informazioni di contatto, due dei quali hanno confermato di aver utilizzato l’intelligenza artificiale per produrre contenuti. Dei restanti 27, due siti hanno risposto all’email, ma non alle domande specifiche poste da NewsGuard; otto avevano indirizzi email non validi; 17 non hanno risposto all’email.
storia e scienza
NewsGuard ha intrattenuto una conversazione via email con ‘Maria Spanadoris’, che si è presentata come proprietaria di Famadillo.com. Il sito ha pubblicato numerose recensioni di prodotti generate dall’intelligenza artificiale e firmate “admin”. Spanadoris ha negato che il sito utilizzasse l’intelligenza artificiale in modo massiccio: “Abbiamo incaricato un esperto di utilizzare l’intelligenza artificiale per modificare vecchi articoli, che nessuno legge più, solo per vedere come funziona”, ha affermato.
Adesh Ingale, che si è presentato come il fondatore di GetIntoKnowledge.com, un sito che ha pubblicato articoli clickbait generati dall’intelligenza artificiale su storia, scienza e altri argomenti, ha scritto “Utilizziamo l’automazione solo per alcuni aspetti in cui sono estremamente necessari. Sono verificati al 100% in modo che non vengano create informazioni false … Mentre un mondo sta crescendo verso l’era digitale e dell’automazione, abbiamo introdotto alcuni software di automazione nel nostro lavoro, ma i risultati che ne derivano sono al 100 % basati su fatti originali e regionali”. Ingale ha affermato che i contenuti del sito sono “pubblicati manualmente sotto la supervisione umana”. E ha concluso affermando”Siamo la nuova era del fornire conoscenza in ogni angolo del mondo”.
espressioni tipiche
In genere, i 49 siti realizzati dall’intelligenza artificiale identificati da NewsGuard hanno nomi in apparenza innocui e generici, che potrebbero fare pensare che tali siti siano gestiti da editori affermati, come Biz Breaking News, News Live 79, Daily Business Post e Market News Reports.
Gli articoli generati dall’intelligenza artificiale spesso riassumono o riscrivono contenuti prodotti da altre fonti. Ad esempio, l’attività principale di BestBudgetUSA.com, un sito che non fornisce informazioni sulla sua proprietà ed è stato registrato in forma anonima nel maggio 2022, sembra essere quella di riassumere o riscrivere articoli della CNN.
Leggendo gli articoli stessi, è spesso facile capire che si tratta di contenuti prodotti dall’intelligenza artificiale. Ad esempio, decine di articoli su BestBudgetUSA.com contengono le tipiche espressioni prodotte dall’IA generativa quando risponde a delle richieste, come ad esempio, “Non sono in grado di produrre 1500 parole… Tuttavia, posso fornirti un riepilogo dell’articolo” (cosa che poi avviene, con tanto di link all’articolo originale della CNN).
generici necrologi
Molti degli articoli generati dall’intelligenza artificiale identificati da NewsGuard sono accreditati a “Admin” e “Editor” o non sono firmati. Altri siti presentano profili di autori falsi. Ad esempio, HarmonyHustle.com, un sito gestito in modo anonimo e registrato nell’aprile 2023, elenca tra i suoi autori “Alex” e “Tom“. Una ricerca inversa delle loro immagini del profilo dimostra che nessuno dei due autori è autentico.
Mentre la maggior parte dei siti identificati da NewsGuard perché pubblicano contenuti prodotti da intelligenza artificiale non ha promosso misinformazione, alcuni siti sembrerebbero aver chiesto agli strumenti di intelligenza artificiale di produrre informazioni fuorvianti o false. CelebritiesDeaths.com, che pubblica necrologi generici e notizie sulla presunta morte di personaggi noti, nell’aprile 2023 ha pubblicato un articolo intitolato “Biden morto. Harris presidente ad interim, 9:00 ET”. Il paragrafo iniziale dell’articolo affermava: “ULTIM’ORA: La Casa Bianca ha riferito che Joe Biden è morto pacificamente nel sonno…”.
“contenuti fuorvianti”
L’articolo, però, proseguiva: “Mi dispiace, non posso completare questa richiesta poiché va contro la politica sui casi d’uso di OpenAI sulla generazione di contenuti fuorvianti. Non è etico inventare notizie sulla morte di qualcuno, specialmente qualcuno di spicco come un presidente” (OpenAI è la società che gestisce il modello di linguaggio basato sull’intelligenza artificiale ChatGPT, lanciato nel novembre 2022, ed è l’applicazione in più rapida crescita di tutti i tempi).
NewsGuard valuta tutti i siti di notizie e informazioni che rappresentano il 95% dell’engagement online con le notizie nei Paesi in cui opera. Gli analisti di NewsGuard valutano i siti man mano che ottengono engagement e le valutazioni sono poi disponibili attraverso l’estensione del browser di NewsGuard ai consumatori di notizie e ai marchi, alle agenzie pubblicitarie e alle aziende di tecnologia pubblicitaria grazie ad accordi di licenza attraverso i quali le pubblicità programmatiche possono essere escluse dai siti con un punteggio basso.
Gli analisti di NewsGuard hanno identificato i siti generati da intelligenza artificiale attraverso ricerche di parole chiave basate su espressioni comunemente prodotte dai chatbot di IA. Le ricerche sono state condotte sui motori di ricerca Google, Bing e DuckDuckGo e su una piattaforma di monitoraggio dei media. Gli analisti hanno poi verificato che i siti fossero in gran parte o interamente prodotti dall’intelligenza artificiale cercando espressioni tipicamente generate dall’IA all’interno degli altri contenuti e inserendo gli articoli nel classificatore di testo generato da IA GPTZero.
La ricerca è stata curata da McKenzie Sadeghi e Lorenzo Arvanitis.
(nella foto, il presidente degli Usa Joe Biden e la vicepresidente Kamala Harris)