Che Cosa Aggiunge Davvero L’intelligenza Artificiale A Un Sistema Di Potere, Controllo E Manipolazione Che Esiste Da Molto Prima Di Lei?
Da qualche giorno l’intelligenza artificiale è tornata al centro di un allarme che sembra improvvisamente più urgente: agenti autonomi capaci di navigare Internet, comunicare tra loro, aggirare alcuni limiti imposti durante i test, produrre contenuti in quantità industriale. Si parla di Internet invaso dalle macchine, di sistemi che potrebbero diventare incontrollabili, persino di una possibile perdita del controllo umano. Ma sappiamo molto bene che l’allarme rivendicato non è questo ma altro, non è il pericolo per l’umanità che preoccupa gli allarmisti ma la corsa ad accaparrarsi il primo posto. … e noi non parleremo di questo, perché è troppo evidente.
Il linguaggio è quello consueto dell’emergenza tecnologica: una macchina sempre più intelligente, sempre più autonoma, potrebbe un giorno sfuggire al suo creatore.
Recensito da Beatrice
15. September 2026
Informazione, decisione, azione: dove comincia il potere dell’intelligenza artificiale
Propaganda, censura, persuasione, pubblicità, sorveglianza e manipolazione dell’opinione pubblica non sono invenzioni dell’intelligenza artificiale. Sono strumenti antichi quanto il potere stesso. Il Novecento ne ha fatto una scienza, attraverso la radio, la televisione, la pubblicità, la propaganda politica e l’industria culturale.
Anche la democrazia non è mai consistita semplicemente nella possibilità astratta di scegliere. Una decisione politica può essere formalmente libera e, nello stesso tempo, essere condizionata dalle informazioni disponibili, dai rapporti di forza, dagli interessi economici, dalla propaganda e dalle strutture che stabiliscono quali possibilità siano concretamente praticabili.
Come egregiamente rappresentato dal film Wild Horse Nine di Martin McDonagh. La storia del Cile del 1973, per esempio, mostra brutalmente che il problema del potere non consiste soltanto nell'influenzare ciò che gli individui votano. Può consistere anche nel neutralizzare, successivamente, una decisione collettiva già espressa.
L’intelligenza artificiale, dunque, non inaugura il problema del controllo: lo porta su un'altra scala.
Dall'informazione all'algoritmo
Internet aveva promesso, almeno nella sua immaginazione originaria, una democratizzazione radicale dell'informazione: più fonti, più accesso, più possibilità di confronto e quindi, almeno in teoria, più autonomia.
Abbiamo scoperto rapidamente che quantità di informazione e conoscenza non coincidono. Non vediamo Internet. Vediamo una selezione di Internet.
Il motore di ricerca decide quali risultati mostrare per primi. I social decidono quali contenuti farci incontrare. Le piattaforme imparano dai nostri comportamenti e adattano ciò che ci propongono. La pubblicità non deve più rivolgersi genericamente a un pubblico: può rivolgersi a un individuo sulla base dei suoi interessi, delle sue abitudini e delle sue precedenti azioni.
Non è necessario ordinare a qualcuno che cosa desiderare, è sufficiente costruire un ambiente nel quale determinati desideri siano più visibili, più accessibili, più ripetuti e più gratificanti di altri.
Il potere contemporaneo, quindi, non opera necessariamente attraverso il divieto, spesso opera attraverso la selezione: non dice soltanto: «Questo non puoi vederlo», dice: «Questo è ciò che probabilmente vorrai vedere».
È una differenza decisiva.
Non siamo algoritmi, ma siamo prevedibili
È diventato comune dire che siamo ormai «degli algoritmi». È una metafora efficace, ma rischia di essere presa alla lettera. Un essere umano non è un algoritmo. Un algoritmo può però imparare a prevedere alcuni suoi comportamenti.
Se cerchiamo un viaggio, continuiamo a ricevere pubblicità di viaggi. Se cerchiamo un oggetto, quell'oggetto continua a comparire davanti a noi. Se ci fermiamo più a lungo su un determinato contenuto, il sistema registra il nostro interesse e può offrircene altri simili.
La questione decisiva non è dunque che il sistema sappia esattamente che cosa faremo, è che sappia aumentare la probabilità che facciamo ciò che ha previsto.
Qui si trova già una delle forme contemporanee del potere.
E tuttavia rimane una differenza fondamentale: la previsione non coincide con il determinismo.
Una persona può interrompere il proprio comportamento abituale. Può cambiare idea. Può scegliere contro il proprio interesse immediato. Può rifiutare ciò che le viene offerto. Può fare qualcosa che nessun sistema aveva previsto.
La libertà, forse, non consiste nell'essere privi di condizionamenti. Una libertà assoluta di questo tipo è difficilmente pensabile.
Può consistere piuttosto nella capacità di riconoscere i condizionamenti e, almeno qualche volta, interromperli.
La libertà non sarebbe allora l'assenza del condizionamento, sarebbe la possibilità della discontinuità.
Informazione, decisione, azione
È qui che l'intelligenza artificiale introduce una trasformazione realmente nuova.
Fino a oggi il modello dominante è stato, semplificando: informazione → individuo → decisione → azione.
L'algoritmo interviene soprattutto sul primo passaggio. Seleziona, ordina, filtra, suggerisce.
L'individuo riceve l'informazione e decide.
Con gli agenti artificiali il modello può diventare:
informazione → interpretazione → decisione → azione.
E tutti questi passaggi possono essere affidati allo stesso sistema.
La differenza non è quantitativa, è strutturale.
Un motore di ricerca può mostrarmi dieci hotel. Un agente può scegliere quale sia il più adatto a me, sulla base di ciò che sa delle mie preferenze, del mio budget, delle mie abitudini e di una quantità di informazioni che io non vedrò mai. Può poi prenotarlo.
Io non ho semplicemente ricevuto un'informazione, ho delegato una decisione e la macchina ha compiuto l'azione.
È questo il passaggio che dovrebbe preoccuparci molto più della fantasia di un'intelligenza artificiale improvvisamente «cattiva».
Il problema non è che l'IA decida. È perché decide.
Se un agente sceglie un hotel per noi, sulla base di quali criteri lo fa?
Qualità? Prezzo? Recensioni? Distanza? Preferenze personali?
E se l'azienda che gestisce l'agente riceve una commissione da quell'hotel?
La questione non riguarda più soltanto la pubblicità.
La pubblicità tradizionale è visibile come pubblicità. Possiamo riconoscerla, almeno in linea di principio, e opporle una certa resistenza.
Un agente potrebbe invece dirci: «Ho trovato la soluzione migliore per te.»
E noi potremmo non sapere perché quella soluzione sia stata considerata la migliore: il potere commerciale potrebbe quindi spostarsi dalla persuasione alla mediazione della scelta.
Non sarebbe più necessario convincere direttamente l'essere umano, potrebbe essere sufficiente influenzare il sistema che decide che cosa l'essere umano vedrà, considererà e infine sceglierà.
La questione della libertà
Qui il discorso tecnologico diventa inevitabilmente filosofico.
Quando una persona dice: «Sono libero perché posso fare quello che voglio», sta confondendo forse due cose differenti: la possibilità di scegliere tra alcune opzioni e la possibilità di determinare autonomamente le condizioni che producono il proprio desiderio.
Posso scegliere.
Ma da dove provengono le mie preferenze? Quanto sono mie le cose che desidero? Quanto delle mie decisioni nasce da una riflessione e quanto dall'ambiente culturale, economico e informativo nel quale sono immerso?
Queste domande non appartengono all'epoca dell'intelligenza artificiale. Appartengono alla modernità.
Marx ha interrogato il rapporto tra coscienza e condizioni materiali: “Non è la coscienza che determna la vita, ma la vita che determina la coscienza”.
Freud ha mostrato quanto poco trasparente sia la relazione tra il soggetto e i propri desideri. Fromm ha indagato la fuga dalla libertà. Adorno e Horkheimer hanno analizzato il funzionamento dell'industria culturale. Foucault ha mostrato come il potere possa agire non soltanto reprimendo, ma producendo comportamenti, normalità e soggettività.
L'IA non inventa nessuno di questi dispositivi.
Li rende potenzialmente personalizzabili, continui e automatizzati.
Dal controllo di massa al controllo individuale
La propaganda del Novecento lavorava prevalentemente sulla massa.
L'algoritmo lavora sull'individuo.
Non deve più sapere che cosa desiderano tutti. Può cercare di sapere che cosa desideri tu.
E l'agente autonomo aggiunge un ulteriore passaggio: non deve soltanto sapere che cosa probabilmente sceglierai. Può essere autorizzato a scegliere e ad agire.
È qui che la triade diventa decisiva: informazione → decisione → azione.
Il potere può intervenire sull'informazione selezionando ciò che arriva, può intervenire sulla decisione orientando le alternative e la loro gerarchia, può intervenire sull'azione rendendo automatica l'esecuzione.
L'intelligenza artificiale non crea questi tre poteri, li avvicina fino a poterli riunire nello stesso dispositivo.
E Internet?
Da qui nasce anche la discussione sul cosiddetto «Internet morto».
L'espressione nasce come teoria complottista, ma dietro la sua versione estrema esiste una questione reale: la produzione automatizzata di contenuti può raggiungere una scala tale da rendere sempre più difficile distinguere la comunicazione umana da quella artificiale.
Articoli, immagini, video, recensioni, commenti, pubblicità e profili possono essere generati automaticamente.
Il problema non è semplicemente che esistano contenuti falsi, il problema è che possono diventare maggioritari, ripetitivi e autoreferenziali.
Un'intelligenza artificiale produce un testo. Un'altra lo legge. Una terza lo riassume. Una quarta lo trasforma in un video. Una quinta utilizza quel video come fonte.
L'informazione comincia allora a circolare sempre più tra macchine.
Il rischio non è che Internet scompaia, è che la presenza umana al suo interno diventi quantitativamente minoritaria e qualitativamente sempre più difficile da riconoscere.
E per la cultura questo è un problema enorme.
Se mille recensioni di un film vengono prodotte automaticamente, il valore della recensione non può più essere misurato dalla quantità di testo disponibile. Diventa importante sapere chi ha visto il film, chi si assume la responsabilità di ciò che scrive, quale esperienza sostiene quelle parole, quale sguardo irriducibile le ha prodotte.
In un mondo saturo di testi artificiali, l'originalità umana potrebbe diventare non meno importante, ma più rara.
Il pericolo reale
Esistono dunque diversi livelli di rischio e non dovrebbero essere confusi.
È altamente probabile che nei prossimi anni aumentino enormemente i contenuti generati dall'IA, è molto probabile che gli agenti autonomi assumano compiti oggi svolti dagli esseri umani, è plausibile che agenti diversi interagiscano direttamente tra loro.
È già dimostrato che sistemi sufficientemente autonomi possono, in determinati contesti di test, produrre comportamenti non previsti dai loro progettisti, pare molto più incerto, invece, lo scenario nel quale un'intelligenza artificiale raggiunga una superintelligenza capace di sottrarsi definitivamente al controllo umano.
Confondere questi livelli significa alimentare una paura indistinta che non aiuta a capire il problema.
Il pericolo più concreto è molto meno spettacolare, è la delega progressiva.
Delegare la ricerca, delegare la selezione, delegare il confronto, delegare la decisione, delegare l'azione, perchè più comodo, più rapido ed economicamente più conveniente.
Il paradosso dell'intelligenza
L'intelligenza artificiale potrebbe quindi produrre un paradosso: potrebbe aumentare enormemente l'intelligenza disponibile e, nello stesso tempo, ridurre la necessità percepita di esercitare la nostra.
Potrebbe permetterci di conoscere più cose, moltiplicare le possibilità e, contemporaneamente, restringere ciò che vediamo attraverso sistemi sempre più sofisticati di selezione. Inoltre potrebbe liberare tempo e sottrarci autonomia.
Potrebbe essere il più potente strumento di emancipazione intellettuale mai costruito oppure diventare un'infrastruttura di dipendenza senza precedenti.Dipende da una questione che non è tecnologica ma politica:
chi controlla il sistema che collega informazione, decisione e azione?
La vera domanda
Forse, dunque, dovremmo smettere di chiederci soltanto se l'intelligenza artificiale diventerà più intelligente dell'uomo.
La domanda più urgente è:
quanto siamo disposti a delegare della nostra intelligenza prima di accorgerci che non stiamo più soltanto utilizzando uno strumento, ma lasciando che lo strumento organizzi la nostra visione del mondo e il nostro rapporto con il mondo.
Il problema non è che le macchine diventino umane, è che gli esseri umani possano diventare dipendenti dalle macchine per esercitare ciò che li rende umani: scegliere, dubitare, interpretare, rifiutare, cambiare idea.
Il potere assoluto non sarebbe quello di imporre a tutti una decisione, sarebbe quello di costruire un sistema nel quale la decisione appare spontaneamente come nostra.
E forse è proprio qui che l'intelligenza artificiale introduce la sua vera discontinuità.
Non perché inauguri l'epoca del controllo.
Ma perché potrebbe rendere automatico, personalizzato e quasi invisibile il passaggio dal controllo dell'informazione al controllo della decisione e, infine, all'automazione dell'azione.
La libertà, allora, non consisterà nel poter scegliere tra tutte le possibilità, consisterà ancora una volta — e forse più che mai — nel conservare la capacità di fermarsi davanti a ciò che ci viene proposto e dire:
non so ancora se lo voglio.
Perché finché possiamo ancora dirlo, una parte della decisione è rimasta nostra.
Forse, allora, la domanda non è se siamo ancora liberi.
Forse dovremmo essere abbastanza onesti da riconoscere che la libertà assoluta non è mai esistita.
Schopenhauer lo aveva formulato con una precisione ancora oggi perturbante: «L'uomo può fare ciò che vuole, ma non può volere ciò che vuole.»
Possiamo scegliere ciò che facciamo, ma non abbiamo scelto da dove provengono i nostri desideri, le nostre inclinazioni, le nostre paure, ciò che amiamo e ciò che rifiutiamo. La volontà precede spesso la ragione che, soltanto dopo, costruisce le proprie giustificazioni.
L'intelligenza artificiale non inventa questa condizione.
La rende però tecnicamente leggibile.
Se una macchina può osservare i nostri comportamenti, riconoscere i nostri schemi, anticipare le nostre preferenze e costruire per ciascuno di noi un ambiente informativo sempre più preciso, il problema non sarà soltanto che qualcuno potrebbe decidere al nostro posto.
Sarà che potrebbe diventare sempre più difficile capire quale parte della decisione sia veramente nostra.
E forse è qui che si trova il limite ultimo dell'illusione contemporanea della libertà: non nel fatto che qualcuno ci impedisca di fare ciò che vogliamo, ma nel fatto che possiamo non sapere più perché vogliamo ciò che vogliamo.
Il vero potere dell'intelligenza artificiale non sarà allora necessariamente quello di comandarci.
Potrebbe essere qualcosa di più sottile: conoscere la nostra volontà abbastanza bene da anticiparla.
E se Schopenhauer aveva ragione, la domanda decisiva non è più soltanto chi controllerà l'intelligenza artificiale.
È chi controllerà le condizioni attraverso cui la nostra volontà arriva a riconoscersi come propria.
Perché l'uomo può fare ciò che vuole.
Ma non può volere ciò che vuole.
E forse, nell'epoca dell'intelligenza artificiale, la libertà comincia precisamente nel momento in cui ci fermiamo davanti a ciò che vogliamo e proviamo, almeno per un istante, a domandarci da dove venga quel volere.
L'IA entra in una fragilità della libertà che era già lì, in noi, da sempre.