I governi possono "orientare" i chatbot? Come la politica rischia di influenzare le risposte dell'IA
0 views
Skip to first unread message
ama...@virgilio.it
May 20, 2026, 3:18:15 AM (3 days ago) May 20
to sublimen googlegroup
I governi possono "orientare" i chatbot? Come la politica rischia di influenzare le risposte dell'IA
L'IA influenza la politica o viceversa? I contenuti prodotti dai media di Stato plasmano il contesto
online in cui i LLM si addestrano.
18 maggio 2026 - Elisabetta Intini
Se chiedete a una IA risposte sulla politica, è probabile siano fortemente influenzate dai contenuti
rilasciati online dai media di Stato. Qi Iang/Getty Images
Quando un governo esercita un'influenza rilevante sul sistema mediatico del suo Paese, gli effetti
di quell'ingerenza politica si vedono anche nelle risposte fornite dai chatbot di IA. Uno studio
pubblicato su Nature sostiene che i governi potrebbero influenzare il modo in cui i Large Language
Models (LLM) che ormai tutti utilizziamo per trovare risposte ci parlano di politica.
È un punto di vista interessante rispetto alla solita narrazione di come l'IA può condizionare le
dinamiche politiche: prima ancora che questo succeda, è la politica che, indirettamente, orientando
l'ecosistema online da cui provengono i dati usati per addestrare le IA, può incidere sulle risposte
dell'IA.
La politica si infiltra nell'IA
Ricercatori dell'Università dell'Oregon, dalla Purdue University, dell'Università della California
di San Diego, dalla New York University e dalla Princeton University, negli Stati Uniti, hanno
ricostruito il percorso di quella che chiamano "influenza istituzionale" dei media online, partendo
dall'analisi dei dati di addestramento delle IA e arrivando a verificare gli effetti sul
comportamento dei modelli stessi (qui https://state-media-influence-llm.github.io/ il sito del
progetto).
Poiché molti dei dettagli su come i sistemi di IA vengono addestrati non sono di dominio pubblico,
gli scienziati hanno usato diversi approcci, come l'analisi di dati open-source usati per addestrare
le IA in 37 diversi Paesi, esperimenti di riaddestramento di piccoli modelli e test nel mondo reale
con chatbot commerciali, per capire come il potere politico arrivi a insinuarsi nelle nostre
conversazioni con i LLM.
Un ecosistema già "di parte"
«Spesso si parla di intelligenza artificiale come se imparasse da Internet in modo neutrale. Non è
così: essa impara da ambienti informativi che sono già stati plasmati da istituzioni e potere, e
questi ambienti possono lasciare tracce misurabili in ciò che dicono i modelli» dice Hannah Waight,
Professoressa di Sociologia all'Università dell'Oregon, tra gli autori dello studio.
Gli scienziati hanno considerato il caso di studio della Cina per dimostrare, innanzitutto, che i
contenuti online prodotti dai media di Stato compaiono frequentemente nei dataset di addestramento
delle IA: in uno dei casi analizzati nello studio, frasi ottenute da media di Stato cinesi sono
state ritrovate in un comune dataset open source 40 volte più spesso rispetto a frasi prese da
documenti di Wikipedia in lingua cinese.
Da frase del singolo a opinione condivisa
L'influenza dei contenuti politici emanati da enti governativi «riguarda anche la ricircolazione: la
stessa frase si diffonde attraverso giornali, app, repost e normali pagine web fino a sembrare parte
del più ampio contesto informativo.
Una volta che i contenuti prodotti dai media di Stato sono presenti nei dati di addestramento, il
modello può ripulirli in modo che appaiano e suonino come informazioni neutre e oggettive» precisa
Brandon Steward, Professore associato di Sociologia all'Università di Princeton e coautore.
Oltretutto, quando chiediamo qualcosa a un chatbot, nella risposta fornita non viene immediatamente
citata la sua fonte. L'utente si ritrova a non avere alcun elemento per capire da dove provenga
quella versione perché, aggiunge Stewart, «i modelli linguistici complessi separano il messaggio dal
messaggero. Ciò che inizia come una narrazione strategica proveniente da un governo potente
attraverso un organo di stampa statale può riapparire come un commento informato da parte di un
agente intelligente».
Risposte condizionate
A questo punto gli scienziati, per verificare se questa influenza avesse influenza sul comportamento
dei chatbot, hanno provato ad addestrare un piccolo modello open source. L'aggiunta di documenti
compilati come se fossero notizie politiche di parte ai dati di addestramento del modello ha fatto
sì che questo desse, alle stesse domande politiche, risposte più favorevoli quasi l'80% delle volte.
Gli scienziati hanno anche dimostrato che la tendenza si manifesta in modo più evidente quando le
domande politiche vengono poste nella lingua principale di quello Stato. Per esempio, una domanda
sul governo cinese produce una risposta più favorevole a quel governo se posta in cinese, anziché in
inglese. Questo fenomeno non riguarda solo la Cina, ma anche altri Paesi i cui governi esercitano un
forte controllo sui media nazionali e in cui scarseggiano le fonti che propongono una visione
alternativa delle cose.
Vogliamo le fonti!
Lo studio invita a una riflessione profonda sulla tutela della democrazia: «I nostri risultati -
scrivono gli autori - suggeriscono che i modelli di apprendimento basati su dati (LLM) creano nuovi
incentivi per gli attori potenti a pensare in modo strategico al testo che diffondono online». Dato
che sempre più spesso i cittadini si rivolgono ai chatbot anche per risolvere dubbi che riguardano
la partecipazione alla vita politica, è importante capire da dove vengano le informazioni che quelle
IA ci propongono.
https://dx.doi.org/10.1038/s41586-026-10506-7
https://state-media-influence-llm.github.io/
da focus.it
L'IA influenza la politica o viceversa? I contenuti prodotti dai media di Stato plasmano il contesto
online in cui i LLM si addestrano.
18 maggio 2026 - Elisabetta Intini
Se chiedete a una IA risposte sulla politica, è probabile siano fortemente influenzate dai contenuti
rilasciati online dai media di Stato. Qi Iang/Getty Images
Quando un governo esercita un'influenza rilevante sul sistema mediatico del suo Paese, gli effetti
di quell'ingerenza politica si vedono anche nelle risposte fornite dai chatbot di IA. Uno studio
pubblicato su Nature sostiene che i governi potrebbero influenzare il modo in cui i Large Language
Models (LLM) che ormai tutti utilizziamo per trovare risposte ci parlano di politica.
È un punto di vista interessante rispetto alla solita narrazione di come l'IA può condizionare le
dinamiche politiche: prima ancora che questo succeda, è la politica che, indirettamente, orientando
l'ecosistema online da cui provengono i dati usati per addestrare le IA, può incidere sulle risposte
dell'IA.
La politica si infiltra nell'IA
Ricercatori dell'Università dell'Oregon, dalla Purdue University, dell'Università della California
di San Diego, dalla New York University e dalla Princeton University, negli Stati Uniti, hanno
ricostruito il percorso di quella che chiamano "influenza istituzionale" dei media online, partendo
dall'analisi dei dati di addestramento delle IA e arrivando a verificare gli effetti sul
comportamento dei modelli stessi (qui https://state-media-influence-llm.github.io/ il sito del
progetto).
Poiché molti dei dettagli su come i sistemi di IA vengono addestrati non sono di dominio pubblico,
gli scienziati hanno usato diversi approcci, come l'analisi di dati open-source usati per addestrare
le IA in 37 diversi Paesi, esperimenti di riaddestramento di piccoli modelli e test nel mondo reale
con chatbot commerciali, per capire come il potere politico arrivi a insinuarsi nelle nostre
conversazioni con i LLM.
Un ecosistema già "di parte"
«Spesso si parla di intelligenza artificiale come se imparasse da Internet in modo neutrale. Non è
così: essa impara da ambienti informativi che sono già stati plasmati da istituzioni e potere, e
questi ambienti possono lasciare tracce misurabili in ciò che dicono i modelli» dice Hannah Waight,
Professoressa di Sociologia all'Università dell'Oregon, tra gli autori dello studio.
Gli scienziati hanno considerato il caso di studio della Cina per dimostrare, innanzitutto, che i
contenuti online prodotti dai media di Stato compaiono frequentemente nei dataset di addestramento
delle IA: in uno dei casi analizzati nello studio, frasi ottenute da media di Stato cinesi sono
state ritrovate in un comune dataset open source 40 volte più spesso rispetto a frasi prese da
documenti di Wikipedia in lingua cinese.
Da frase del singolo a opinione condivisa
L'influenza dei contenuti politici emanati da enti governativi «riguarda anche la ricircolazione: la
stessa frase si diffonde attraverso giornali, app, repost e normali pagine web fino a sembrare parte
del più ampio contesto informativo.
Una volta che i contenuti prodotti dai media di Stato sono presenti nei dati di addestramento, il
modello può ripulirli in modo che appaiano e suonino come informazioni neutre e oggettive» precisa
Brandon Steward, Professore associato di Sociologia all'Università di Princeton e coautore.
Oltretutto, quando chiediamo qualcosa a un chatbot, nella risposta fornita non viene immediatamente
citata la sua fonte. L'utente si ritrova a non avere alcun elemento per capire da dove provenga
quella versione perché, aggiunge Stewart, «i modelli linguistici complessi separano il messaggio dal
messaggero. Ciò che inizia come una narrazione strategica proveniente da un governo potente
attraverso un organo di stampa statale può riapparire come un commento informato da parte di un
agente intelligente».
Risposte condizionate
A questo punto gli scienziati, per verificare se questa influenza avesse influenza sul comportamento
dei chatbot, hanno provato ad addestrare un piccolo modello open source. L'aggiunta di documenti
compilati come se fossero notizie politiche di parte ai dati di addestramento del modello ha fatto
sì che questo desse, alle stesse domande politiche, risposte più favorevoli quasi l'80% delle volte.
Gli scienziati hanno anche dimostrato che la tendenza si manifesta in modo più evidente quando le
domande politiche vengono poste nella lingua principale di quello Stato. Per esempio, una domanda
sul governo cinese produce una risposta più favorevole a quel governo se posta in cinese, anziché in
inglese. Questo fenomeno non riguarda solo la Cina, ma anche altri Paesi i cui governi esercitano un
forte controllo sui media nazionali e in cui scarseggiano le fonti che propongono una visione
alternativa delle cose.
Vogliamo le fonti!
Lo studio invita a una riflessione profonda sulla tutela della democrazia: «I nostri risultati -
scrivono gli autori - suggeriscono che i modelli di apprendimento basati su dati (LLM) creano nuovi
incentivi per gli attori potenti a pensare in modo strategico al testo che diffondono online». Dato
che sempre più spesso i cittadini si rivolgono ai chatbot anche per risolvere dubbi che riguardano
la partecipazione alla vita politica, è importante capire da dove vengano le informazioni che quelle
IA ci propongono.
https://dx.doi.org/10.1038/s41586-026-10506-7
https://state-media-influence-llm.github.io/
da focus.it
Reply all
Reply to author
Forward
0 new messages