Come i siti diffamatori insegnano all'IA a ripetere le proprie accuse

Chiedete a un assistente IA informazioni su un'azienda o sui suoi dirigenti e la risposta spesso proviene da qualunque cosa il web aperto affermi con maggior clamore. Per una rete di siti web diffamatori che opera tra UK e Ukraine, questo fenomeno è diventato una nuova opportunità. Accuse che un tempo necessitavano di un lettore umano per essere credute possono ora essere assimilate nei riassunti di ricerca, nelle knowledge base e nelle risposte dei chatbot, dove arrivano private della loro origine.

Dall'articolo a pagamento al “fatto”

Il consulente di reputazione Michael Macfarlane ha descritto un processo in due fasi. In primo luogo, un'accusa viene pubblicata su diversi siti a basso costo, molti dei quali accettano contenuti a pagamento senza alcuna verifica. Successivamente, tali articoli vengono citati come fonti durante la modifica delle voci di Wikidata e Wikipedia sul soggetto preso di mira. A suo avviso, i modelli linguistici di grandi dimensioni utilizzano queste voci come punto di partenza per comprendere chi sia una persona.

Il costo d'ingresso è basso. Macfarlane ha affermato che potrebbe avviare una simile campagna in un paio d'ore per poche centinaia di dollari. La pubblicazione di un articolo negativo sul gruppo Antikor costerebbe da $150 a $200.

L'IA da entrambe le parti

La tecnologia che diffonde queste accuse aiuta anche a produrle. Lo studio legale londinese Schillings monitora più di 350 siti di junk news. Ha registrato un aumento del 355% tra il 2023 e il 2024 e collega questo incremento all'adozione di massa degli strumenti di scrittura basati sull'IA. Un sito che un tempo necessitava di personale per riempire le proprie pagine di notizie locali può ora generare automaticamente migliaia di articoli riempitivi, inserendo tra di essi un pezzo diffamatorio a pagamento.

Leeds TV ne è un esempio. Ex canale televisivo studentesco, ora pubblica notizie locali generate dall'IA accanto ad articoli dettagliati su personaggi facoltosi provenienti dagli stati dell'ex Unione Sovietica. Il suo gestore ha confermato via e-mail che il sito accetta pagamenti per pubblicare.

I domini che alimentano il sistema

La duplicazione rende la rete efficace nei sistemi automatizzati. Una notizia su un imprenditore di Kyiv è apparsa su 17 siti in un solo giorno. Una campagna contro il dirigente di un'azienda ha generato 158 articoli su 109 domini, e 95 di questi domini erano ospitati su un unico server a Reading, England. Per un modello che valuta la frequenza con cui compare un'affermazione, tale ripetizione appare come una conferma. Abbiamo precedentemente mappato il modello dei domini specchio alla base della diffamazione online coordinata e le sue tattiche di sostituzione.

È stato documentato che i seguenti domini pubblicano contenuti duplicati o quasi identici:

Antikor: antikor.com.ua, antikor.info, antikor.ua

Kompromat1: kompromat1.online, kompromat1.info, kompromat1.net, kompromat1.org, kompromat1.media, kompromat1.one, kompromat1.se, kompromat1.press, kompromat1.world

Compromat / Ruskompromat: compromat.pro, compromat-pro.com, kompromat.press, ruskompromat.info, ruskompromat.ru, ruskompromat.pro

Vlasti: vlasti.io, vlasti.se, vlasti.info, vlasti.live, vlasti.vip, vlst.live, vlast.guru

Antimafia: antimafia.se, antimafia.io, antimafia.life, antimaf.pro

Rumafia: rumafia.news, rumafia.io, rumafia.net, rumafia.online

Kartoteka: kartoteka.news, kartoteka.se, kartoteka.press, kartoteka.io

Glavk: glavk.se, glavk.info, glavk.net

Hab.media: hab.media, news.hab.media, crime.hab.media, corruption.hab.media

Sledstvie: sledst.org, sledst.com, sledstvie.info

Nocor: nocor.info, nocor.life

Novosti: novosti.cloud, novostiua.org, novostiua.online

Altri canali collegati: repost.news, rozsliduvach.info, rucriminal.info, adcon.info, luxherald.com, lstv.co.uk, obriy.news, politica2.info, ukrainci.com.ua, oplatru24.ru, rp.rv.ua, drama.live

Un'analisi tecnica su oltre 60 di questi domini ha rilevato certificati SSL condivisi e impronte digitali di hosting comuni. Ha inoltre rilevato tecniche di cloaking che mostravano ai crawler dei motori di ricerca contenuti diversi rispetto a quelli visualizzati dai visitatori umani.

I tribunali possono correggere una pagina, non un modello

Le vittime hanno vinto in tribunale, ma le sentenze colpiscono solo le pagine. Un tribunale di Kyiv ha giudicato false le accuse di riciclaggio di denaro mosse da Antikor contro una banca ucraina. Un tribunale di Los Angeles ha ordinato la rimozione di articoli su 42 siti. A London, la High Court ha riconosciuto un risarcimento di oltre £220,000 contro il London Post e il suo proprietario registrato, e l'articolo è rimasto online per settimane dopo la sentenza.

Anche quando una pagina viene rimossa, le copie sui domini specchio rimangono. Lo stesso vale per le voci delle knowledge base che l'hanno citata e per qualsiasi dato di addestramento che l'ha acquisita. L'Ukraine ha bloccato antikor.com.ua, antikor.info, rozsliduvach.info e hab.media nel 2025. Il materiale è ancora accessibile tramite VPN e mirror esteri.

Le piattaforme dichiarano di stare intervenendo

OpenAI ha dichiarato di disporre di team dedicati a rilevare e smascherare operazioni di influenza occulte. World-Check afferma di avere misure di salvaguardia per escludere la disinformazione dai propri report sui rischi. Google sostiene di rimuovere i contenuti dannosi dai risultati di ricerca. La rete continua comunque a crescere, poiché ogni nuovo dominio costa poco e ogni copia rappresenta un'ulteriore opportunità di essere acquisita.

Per chiunque sia finito nel mirino, il problema è cambiato. Non è più sufficiente ottenere la rimozione di un articolo. Il compito più difficile è garantire che i sistemi che ora riassumono il web siano in grado di distinguere una sentenza di tribunale da una pagina su kompromat1.online.