La cifra della politica. Intelligenza artificiale, sfera pubblica e autonomia

The Digit of Politics. Artificial Intelligence, Public Sphere and Autonomy

Salvo Vaccaro

Università degli Studi di Palermo, Italia

Abstract. Against the backdrop of Habermas’s reinterpretation of the concept of the public sphere in the context of the advanced digitalisation of modern societies, this paper explores the emergence of AI in everyday life and the significant socio-anthropological transformations it implies. How does one become a political subject in an arena in which the orientation towards the “free” formation of public opinion registers a heteronomy linked to the context of the autonomous capacity for subjectivation? Can the neural simulation of deep learning that animates algorithmic computation devices be able to over-determine the gap between neuronal reductionism and the creative spirit that transcends physiological operations? Can the political technology that appears in the political-electoral sphere by dint of false context data be able to realize the predictions boasted by AI algorithms? Can the increasingly widespread use of information through digital and AI devices, linked to decades of downsizing in educational institutions at every educational level, compensate for the increasingly stifled and depleted natural intelligence?

Keywords: public sphere, autonomy, governmentality, automatism.

Riassunto. Sulla scia della rivisitazione habermasiana della categoria di sfera pubblica in epoca di digitalizzazione sospinta delle società avanzate, il paper si interroga sull’avvento dell’IA nella vita quotidiana, che implica trasformazioni socio-antropiche non da poco. Come si diventa soggetti politici in un’arena in cui l’orientamento alla “libera” formazione dell’opinione pubblica registra una eteronomia legata al contesto della capacità autonoma di soggettivazione? La simulazione neurale del deep learning che anima i dispositivi di computazione algoritmica riuscirà a sovra-determinare lo scarto tra riduzionismo neuronale e spirito creativo che trascende le operazioni fisiologiche? La tecnologia politica che si affaccia nella sfera politico-elettorale a forza di dati di contesto falsi riuscirà a realizzare le predizioni vantate dagli algoritmi dell’IA? Il ricorso sempre più dilagante all’informazione attraverso dispositivi digitali e di IA, legato al ridimensionamento ormai pluridecennale delle istituzioni formative ad ogni livello educativo, supplirà là dove l’intelligenza naturale sarà resa sempre più asfittica e desertificata?

Parole chiave: sfera pubblica, autonomia, governamentalità, automatismo.

Index

1. Introduzione

2. Una sfera né pubblica né politica?

3. Il profilo dell’autonomia digitale

4. Verso il governo macchinico

5. A mo’ di conclusione

Bibliografia

Attraverso l’egemonia dell’informatica,
si impone una certa logica, cioè un insieme di prescrizioni
fondate su enunciati accettati come enunciati “del sapere”. […]
Le procedure amministrative faranno “volere” agli individui
ciò di cui il sistema necessita per essere performativo.
Jean-François Lyotard

Collect data. Write code. Detect patterns. Target ads.
Predict behavior. Direct action. Encourage consumption. Influence elections.
Jill Lepore

1. Introduzione

Il rapporto tra tecnologia e governamentalità non è solo un campo specifico e delimitato rispetto alla più ampia regione del nesso sempiterno tra filosofia e tecnica, ossia tra auto-riflessività umana e protesi dell’umano stesso. La tecnica è costitutiva dell’umano, si integra in esso e lo estende sino a potenziarne le capacità. Ne è immanente e trascendente al tempo stesso. Da sempre, non da ora1. Se ritagliamo tale prospettiva al suo legame con la politica e con le razionalità di governo, la tecnologia designa quella pratica discorsiva che definisce un contesto epocale, quell’ambiente vitale denso di parole e cose, di simboli e azioni, di regole e norme, di processi materiali e immateriali, di flussi energetici e transazioni ambientali, di valorizzazioni ed emarginazioni, simboliche e non, che delineano lo spazio della politica, tanto di quella agita quanto di quella pensabile. In tal senso, la tecnologia oltrepassa la dimensione tecnica per porsi come episteme di un tempo, la forza significante di una razionalità in grado di dettare una interpretazione egemonica di quanto accade nel caos quantico della vita. Forse, addirittura, una forma di vita, re-incantata da una potenza magica o religiosa2.

Beninteso, il raggio di articolazione del pensiero di questo paper non ambisce ad affrontare un tema così complesso, stratificato e astratto, bensì si limita ad approcciare una riflessione evidenziata sin dal titolo e, soprattutto dal sottotitolo, cioè il nesso tra politica e ambiente digitale, segnatamente l’avvento dal percorso imprevedibile – almeno per i profani che non sono interni ai processi di innovazione giorno dopo giorno – dell’Intelligenza Artificiale nel campo della politica, sino a segnarne la cifra (anche nel senso linguistico del lemma inglese digit).

E mi sforzerò di farlo avendo bene in mente uno dei tanti criteri di discernimento del rapporto tra tecnologia e governamentalità, quello che a me sembra più rilevante ma non certamente l’unico immaginabile, ossia il grado di accentramento politico che una tecnologia data offre come vincolo di gestione. Si tratta di una osservazione di Lewis Mumford, coeva alla nascita della cibernetica da cui origina l’IA odierna, secondo la quale la mega-macchina delle centrali nucleari richiedeva una militarizzazione del territorio come condizione di sicurezza, al di qua se l’impianto fosse di natura civile o militare o dual use³. “La privatizzazione dell’IA potrebbe rafforzare l’accentramento del potere attraverso la congiunzione di imprese che monopolizzano i modi dei codici e la loro produzione, influenzando in maniera spropositata la politica, la sfera militare e scientifica. Ciò condurrà nei fatti ad una rete feudale che ridurrà al minimo la partecipazione e la rappresentanza, sino allo sradicamento della democrazia. I recinti algoritmici di cui parla Habermas, opachi e inaccessibili, porranno dei robusti dispositivi di controllo sulla società i quali, a loro volta, affideranno il potere alle oligarchie dei codici ed alle imprese”4.

2. Una sfera né pubblica né politica?

A sessant’anni dalla prima edizione del suo Storia e critica dell’opinione pubblica, Habermas aggiorna la sua analisi nel testo Nuovo mutamento di struttura della sfera pubblica politica. Con l’usuale perspicacia e acutezza, Habermas dissemina in lungo e in largo varie osservazioni pertinenti all’impatto della tecnologia digitale sulla dimensione politica – e insistendovi sino a rasentare la duplicazione ripetitiva sottolineando in termini qualificativi la natura della sfera pubblica. Quasi a ribadire che la comunicazione pubblica è costitutivamente politica riguardando quello spazio comune al cui interno ci muoviamo, viviamo, pensiamo, agiamo e via dicendo in quanto soggetti-attori e, al contempo, dalla cui configurazione siamo affetti, influenzati, orientati, plasmati, in una parola, soggettivati. Ma, nello stesso tempo, quasi a temere che possa darsi una sfera pubblica non più politica.

In rapida carrellata, possiamo infatti enucleare le preoccupazioni di Habermas. Il loro spettro va dal rischio di frammentazione della sfera pubblica per via della comunicazione digitalizzata che deforma la percezione della politica alla erosione del processo condiviso di formazione della volontà autonoma del pubblico, specialmente in occasione di assunzione di responsabilità al momento di una votazione. La “cacofonia di opinioni opposte”5 nella sfera pubblica, lungi dal raffigurare una dimensione agonale del conflitto politico, sembra esondare illimitatamente perché priva del terreno comune che integra nella società le differenze politiche, sociali, morali, ecc. secondo le procedure collettive datesi a livello costituzionale e praticate dagli attori politici, anche informali, secondo uno schema logico che vincola gli avversari non più nemici ad includersi reciprocamente – volenti o nolenti – da “estranei che vogliono rimanere estranei l’uno all’altro in una cultura politica comune”6. Contro l’affermazione di una cultura politica comune giocano un ruolo rilevante le echo chambers entro le quali vengono a condensarsi in forma faziosa e discriminatoria determinati e vasti “circuiti di comunicazione che si sigillano dogmaticamente gli uni con gli altri”7.

La pretesa dei social media di configurare sfere pubbliche politiche contrasta con la natura privata e proprietaria delle relative piattaforme di esibizione e produzione, protese ad una ricerca business-oriented di profitti attraverso una mercificazione dei dati raccolti ed elaborati per fini diversificati; ma la loro mercificazione generalizzata ipoteca la pubblicità della sfera politica digitale per delinearsi invece come una pluralità monadica di individuazioni che vengono a soggettivarsi proprio attraverso l’alter ego digitale di ciascun utente-cittadino. Se però i cittadini – chiosa con vena nostalgicamente accademica Habermas – prendono “le loro decisioni politiche nella tensione tra interesse personale e orientamento al benessere comune”8, i loro doppi digitali (doppelgänger) che si muovono nel mondo digitale come consumatori, anche di notizie e di informazioni che li orientano in momenti politici, smarriscono quanto meno uno dei due poli della tensione, ossia la percezione di una comunanza politica che pre-esiste rispetto alla frammentazione di parte dell’offerta e della domanda politica stessa. Sembra anzi che l’unica forma di comunanza politica sia successiva, anziché precedente, reperibile in base ai like (o simili) con cui si forma una condivisione effimera, che trova pendant nella spasmodica rincorsa verso un giudizio consensuale ossessivo perseguibile attraverso la sondaggite istantanea e permanente con cui la politica misura le proprie performances, parametrando le proprie prestazioni nel corto respiro tra un sondaggio e l’altro. E, come è noto, i plebisciti dei follower a colpi di like o dislike non equivalgono ad una sfera pubblica, soprattutto perché nelle filter bubbles non si possono dare voci dissonanti, azzerando quindi l’agone politico che alimenta la conflittualità democraticamente controllata.

Sembra però che le preoccupazioni di Habermas, senza dubbio fondate, non colgano appieno la potenza di sconvolgimento della sfera pubblica politica, nella cui espressione proprio i due aggettivi subiscono ambigue trasformazioni a mio avviso più profonde di quanto non avvertite da Habermas. In primo luogo, nella società digitalizzata la sfera pubblica esorbita le frontiere nazionali per esporsi alla partecipazione intrusiva globale. Nell’era dei prosumer, ha poca importanza la cittadinanza quanto la produzione di contenuti, che ovviamente rispondono a posizionamenti, orientamenti, intenzionalità, retoriche, quadri strategici e via dicendo. Al riparo dei dispositivi digitali, l’opacità e l’anonimato non rappresentano più l’eccezione a fronte di un dialogo argomentato e pubblico in cui si espongono ragioni la cui intelligibilità è data non soltanto dal logos comune a ciascun partecipante, ma anche dalla riconoscibilità del soggetto che enuncia da un luogo esplicito. Tutt’altro, anche senza arrivare alla liceità di discorsi rancorosi e di hate speech, la sfera pubblica digitale si presta ad accogliere ogni discorso di qualsiasi tenore e livello di ragionevolezza, specialmente in tempi in cui la moderazione – propria o della piattaforma – e il controllo di verità di quanto affermato – pubblicamente esercitabile in primis dai gestori delle piattaforme – sembrano diventare demodé, trasformando addirittura la ricerca di correttezza in censura poiché ostacola il libero e illimitato fluire del discorso digitalizzato.

Questo pone un secondo luogo di analisi riflessiva, ossia il grado di politicità – nel senso aureo del termine – delle agorà pubbliche interne alle piattaforme proprietarie9. Non solo l’accesso è deputato alle condizioni vincolanti poste dal proprietario, un contratto di natura privata, non un contratto sociale – e non si tratta di gratuità o di costi iniziali, giacché comunque la datificazione delle nostre attività sui dispositivi è fruibile e disponibile al di qua di ogni nostro consenso al suo uso a fini di profitto (altrui) – ma la tecnologia ha subito una deriva oligarchica che non consente una dislocazione del sistema tecnologico a misura di singoli individui o di comunità ristrette, protese a popolare la sfera pubblica per dialogare, confrontarsi ed elaborare soluzioni a problemi sociali, senza farne un business. È ciò cui abbiamo assistito ogni qualvolta la sfera pubblica era mediata da una specifica tecnologia – stampa, radio, televisione, tutte proprietarie e tutte potenzialmente scalabili in senso no-profit, come è avvenuto. Ad oggi, abbiamo registrato il percorso inverso: da una tecnologia libertaria nata per essere diffusa e socializzata senza particolari costi siamo pervenuti ad una tecnologia proprietaria governata da poche Big Tech possedute da miliardari in grado di condizionare governi, borse e mercati, senza alcun freno inibitore o senza alcuna regolazione efficace all’altezza della globalità del suo esercizio, data l’asimmetria di potere tecno-economico, da un lato, e di governo nazionale o sovraregionale territorializzato, dall’altro.

La scarsa plausibilità di una sfera pubblica politica, auspicata da Habermas, proviene anche da un’ulteriore considerazione relativa alla progressiva dissoluzione della sfera politica. Quel che nel 1987 poteva apparire una boutade, da qualche decennio ha assunto invece la figura della profezia: «[…] who is society? There is no such thing! There are individual men and women and there are families»10. La de-politicizzazione insita nell’affermazione dell’allora Premier britannica Margaret Thatcher rivela uno degli obiettivi del progetto politico del neoliberalismo, di frantumare ogni dimensione collettiva che istituisce legami sociali sotto l’egida della volontà singolare plurale, per isolare ciascuno/a e riconoscere solamente la sfera dell’oikos, saldamente strutturata in rapporti gerarchici, nell’epopea classica sotto l’impero assoluto del maschio adulto possidente, nell’era recente sotto l’egemonia delle forze di mercato la cui espansione non conosce regolazioni, appunto politiche perché derivanti dall’esistenza di una comunità politica (polis). Là dove tale comunità si riduce al lumicino o viene asfaltata, i singoli individui si ritrovano isolati e impotenti di fronte alla complessità della forma di vita data, sotto stress di una istantaneità elevata a ritmo esistenziale, considerati come atomi scissi dal resto (ed anche al proprio interno perché duplicati in alter ego digitali), ed oggi si rifugiano come utenti singoli nella virtualità della comunicazione social, pervenendo a divenire protesi dei dispositivi11.

L’atomismo digitale è il correlato virtuale, con enormi effetti di realtà, dell’individualismo prima metodologico, e poi politico; se la governance globale finge di governare il mondo, in effetti l’élite politica gioca una partita perdente di fronte ad una ultra-élite tecno-finanziaria che ormai spadroneggia e usura il pianeta, allestendo nel frattempo la via di fuga ultra-minoritaria verso altre galassie qualora l’invivibilità della terra raggiunga il limite irreversibile. Parallelamente, la rottura dei legami sociali terremotano gli assetti collettivi, di cui noi registriamo i sintomi ben evidenti: guerre civili permanenti, collasso delle istituzioni, indebolimento dello stato nazionale, insicurezza crescente, militarizzazione incalzante della vita quotidiana, ferocia della repressione penale e giudiziaria (verso i deboli, beninteso), strategia della paura per accentuare il senso di isolamento e divisione, scenari bellici globali, scivolamento incalzante verso regimi autocratici e recesso delle democrazie, o forse sarebbe più corretto dire: dello stato di diritto, svuotando di senso decisionale il momento elettorale ridotto a simulacro sempre più irrilevante e sempre più manipolato e orientato dalle tecnologie comunicative digitali.

Se “l’emancipazione presuppone un discorso purificato in una situazione ideale”, quella sfera pubblica politica evocata e auspicata tutt’oggi da Habermas svanisce come neve al sole, viene “perturbata”12 introducendo una parvenza di pubblico come mero accostamento di tanti alter ego digitali atomizzati, nonché una pallida controfigura della politica in assenza della sua base materiale e addirittura immaginario-simbolica. “È la celebrazione, spesso la tirannia, dell’opinione privata”13. La dilatazione dello spazio nella virtualità globale, oltre che dei processi di accumulazione dei capitali che non trova corrispondenza nella ricchezza prodotta dai processi produttivi e distributivi di merci, si coniuga con una compressione temporale che preclude una ordinata procedura deliberativa politica, cioè pubblica, trasparente, partecipativa e riflessiva. La misura del tempo a disposizione è dettata dallo scroll & click sui nostri dispositivi, che sovrastano a dismisura le scariche elettriche e le secrezioni chimiche dei nostri neuroni…

3. Il profilo dell’autonomia digitale

L’Artificial Intelligence Turn estende ed amplifica le prestazioni che i dispositivi algoritmici già attivano da tempo in funzione della datificazione e profilazione degli utenti. Peraltro il micro-targeting compie nei fatti una individuazione che produce una soggettivazione doppia e parallela di ogni attività venga effettuata sul web attraverso la dipendenza algoritmica dei nostri apparecchi più usuali e comuni. “I dati non solo catturano, ma colonizzano menti, anime, corpi e spazi”14. Per funzionare appieno, l’IA deve permeare di sé l’ambiente circostante per rendere fluido il passaggio, oserei dire osmotico, della comunicazione codificata tra individuo e mondo. Solo che, a mio avviso, questa comunicazione assume la pressione di un buco nero che attrae vorticosamente l’individuo all’interno di un mondo opaco, allargando in tal senso l’asimmetria tra ambiente algoritmico e alter ego virtuale in cui questo diventa protesi funzionale del primo polo. Ne deriva una dipendenza, per di più recalcitrante ad essere compresa, poiché persino gli addetti ai lavori ignorano le effettive operazioni che si compiono nella black box, che così diviene, almeno secondo Frank Pasquale, metafora dell’intera società15.

Non è un fatto inedito nella storia dell’umanità. Per secoli, se non millenni, almeno nel nostro spicchio di civiltà, la realtà sembrava muoversi per traiettorie ignote e incomprensibili ai più, dettate da destini inesorabili, da divinità implacabili, nella più totale oscurità ammantata di imperscrutabilità di fronte alla quale non restava altro che affidarsi e fidarsi con fede nella bontà del fine ultimo delle traiettorie di vita, disegnate da altri ma mai da se stessi, sia pure in condivisione con i nostri consimili. E se poi ciò non accadeva in questo mondo, allora si sarebbe realizzato senza dubbio nell’oltre mondo.

Superfluo dire che la politica sorge in netta contrapposizione a tale narrazione che sottraeva l’interrogazione sulla vita individuale e collettiva da responsabilità umane in termini di potere e di sapere per essere depistate verso un altrove inaccessibile e non sperimentabile, quanto meno da vivi. Il conflitto per l’empowerment ha per obiettivo la libertà da ogni asservimento, e il processo di progressiva liberazione invera la libertà come pratica di autonomia radicale.

Ed è proprio sull’emergenza dell’autonomia – nel suo senso più pieno e forte: “fare e compiere scelte che corrispondono al proprio sé riflessivamente costituito”16 – che l’AI e i processi di digitalizzazione della società suscitano le preoccupazioni più forti. “Mentre le ricerche tradizionali sull’etica si concentrano sull’individuo colto come soggetto che detiene il libero arbitrio, queste prospettive si dimostrano inadeguate quando affrontiamo dispositivi tecnici che operano in modo autonomo, come i concatenamenti complessi uomo-tecnica in cui la conoscenza e le capacità decisionali sono distribuite nel sistema”17.

Ma questa autonomia tecnica differisce del tutto dall’autonomia kantiana che si lega alla libertà ed alla scelta consapevole, per di più incarnata in un soggetto dotato di volizione morale, costitutiva della sua dignità di essere umano18. Tali caratteristiche non sono rinvenibili nei prodotti delle tecnologie digitali, la cui soggettività è iscritta nel design che la programma, che le conferisce autonomia di retro-propagazione nei dispositivi di machine learning, ma che tuttavia non assegna attributi carnali o corporei se non in via metaforica. Inoltre, Kant argomentava di una sfera di autonomia soggettiva in base ad una unità umana protesa in via trascendentale verso una universalizzazione della condizione esistenziale e, quindi, dei processi socio-culturali che conducono a valorizzare, a mettere a valore, alcune pratiche anziché altre. La digitalizzazione della società, invece, ci assegna una frammentazione dell’umano che vive una dualità corporea e virtuale in cui esercita una duplice soggettivazione i cui attributi differiscono, il cui esercizio diverge, non ponendosi sotto una unica volta stellata.

Foucault ci ha avvertiti tuttavia che i percorsi di soggettivazione esulano da un idealismo dell’autonomia del singolo individuo come sostrato originario della condizione umana, in quanto essi provengono da contesti socio-storici in senso lato da cui derivano, pur se non ne dipendono in chiave di soggezione passiva. Intendiamo riferirci ad un ambiente in cui la pratica della libertà, lo svincolamento da poteri consolidati, l’affermazione di nuovi saperi, la formazione di atmosfere comunicative aperte al dialogo e al confronto, la sperimentazione di pluralità di stili di vita e di opinioni, si vanno sedimentando strappando spazi e tempi di formazione dalle grinfie del potere costituito. E l’apertura di questo ambiente facilita l’accesso a segmenti sempre più consistenti di popolazione, un tempo esclusi anche perché relegati nella reiterata produzione di ignoranza funzionale a non disturbare chi operava negli arcana imperii. Una via di fuga dal segreto che pretende di proteggere dalla trasparenza che garantisce legittimità, certamente non rettilinea, costellata da inciampi e regressioni, ma anche da impreviste accelerazioni, da svolte rivoluzionarie, soprattutto nei costumi quotidiani e non solo nei regimi politici od economici. Oggi assistiamo probabilmente al percorso inverso, grazie al quale i processi computazionali non si dispongono nel campo della rappresentazione, della veridicità e della verificabilità epistemica. “In un mondo in cui ci aspettiamo che il giudizio umano sia o vero o falso, o giusto o sbagliato, gli algoritmi fondano diversamente la loro decisionalità affidandola alla cognizione distribuita, alla probabilità, alla correlazione, alla ricorsività infinita ed alla ricombinazione dei risultati, [così da] programmare le decisioni in strumenti apparentemente imparziali di informazione e ordinamento”19.

Zuboff battezza la nostra era contemporanea, le nostre società digitali, come capitalismo della sorveglianza, in quanto le Big Tech accumulano profitti e capitali di reinvestimento e di rendita (spesso personale) dai processi di datafication e profiling grazie ai quali può funzionare la digitalizzazione della società e i suoi effetti di sorveglianza20. Tale potenza non pertiene tuttavia solo al capitalismo digitale, bensì anche agli stati che possono estrarre a piene mani queste funzioni per controllare le proprie popolazioni, spesso riottose, disallineate rispetto ai regimi di governo in atto. “Non è mai esistito nella storia stato, monarchia, regno, impero, governo o impresa che disponga di un potere su dati puntuali, immediati, variegati e specifici relativi a soggetti e oggetti di loro interesse”21. Certamente, nei regimi di autocrazia ciò avviene più agevolmente, e il social credit system cinese ne è l’ennesima prova (mentre l’amministrazione Trump intende adattare ed affinare tale sistema per i residenti negli USA affidando l’incarico alla Palantir di Peter Thiel). Siccome però il sistema di digitalizzazione della società si afferma non sulla negazione disciplinare, bensì sulla sollecitazione libidinale a utilizzare in totale libertà i dispositivi digitali – ma solo se uti singuli – anche nei regimi di democrazia parlamentare, sempre più asimmetrici rispetto agli stati di diritto e alla rule of law, la sorveglianza accresce ulteriormente, a dismisura, il potere del governo strictu sensu o della governance cui partecipano attori non statali pur sempre in chiave di controllo statuale.

L’opacità dell’ambiente algoritmico non facilita certamente l’accesso alle regole del discorso digitale, anzi proprio la usabilità amichevole invita a non porsi interrogativi capziosi sul suo funzionamento, delegando totalmente al dispositivo stesso il soddisfacimento dei propri desideri illimitati e sfrenati sui si origina il potere libidinale che favorisce l’asservimento volontario ai processi di controllo e sorveglianza diffusi, sino al paradosso di richiederne sempre più in nome di una malintesa sicurezza individuale e collettiva. “Il concetto di ‘società digitale’ individua il concatenamento tecno-semiotico che produce l’ambiente sociale e immaginario in cui si formano le relazioni e le condotte della gente”. In effetti, la digitalizzazione della società funziona se l’ambiente sociale viene plasmato in modo da rendere fluido il suo dispiegamento, incapsulando le libertà in codificazioni binarie (peraltro semplificate). “Ne consegue che la produzione del desiderio è la condizione per l’esercizio del potere libidinale nelle società digitali, nonché l’effetto della reificazione costante del desiderio attraverso cui si formano le soggettività”22. E l’AI accentua tale paradigma esibendo la propria funzione spettacolare, distogliendo l’attenzione dai pericoli di sostenibilità energetica e ambientale, nonché dai costi di accesso sempre più proibitivi, ad oggi, che la rendono una tecnologia a misura di ricche e potenti oligarchie economico-finanziarie, nonché politicamente allineate.

La produzione artificiale, sintetica dei dati che costituiscono la trama condizionale della formazione di autonomia soggettiva diventa sempre più evidente quando adoperiamo, con notevole disinvoltura, fake news, fake photos, fake narratives, post truths, e via discorrendo in cui la distinzione tra verità e falsità si affievolisce non solo sino a dissolversi, ma anche sino a rendersi irrilevante rispetto all’affermazione di verità, in base al volume di fuoco produttivo che surclassa eventuali verità concorrenti, del tutto indipendentemente dai dati di fatto, per l’appunto resi sintetici, ossia inesistenti nella realtà un tempo detta “reale” e non “virtuale”, accentuando la loro divaricazione. L’uso dei dati in chiave di correlazione statistica (come nei dispositivi di IA basati su Large Language Models)23, anziché su atti e fatti osservabili, abilita il giudizio algoritmico ad auto-dotarsi di una carica predittiva del tutto “priva di credibilità – attribuendo la patina di intelligenza a profezie artificiali, a prescindere quanto siano tali predizioni grezze, nocive o capziose. Provano tacitamente a legittimare gli strumenti con cui le macchine predittive plasmano e manipolano il soggetto umano, incoraggiandoci inoltre a conformare noi stessi a tale immagine”24.

A tal proposito, l’epigrafe di Jill Lepore sintetizza le capacità del dominio digitale e della sua espansione nell’AI presente e in immediata prospettiva, rivelandone l’intrinseca politicità, ben oltre l’opportunità di implementare profitti stratosferici per le Big Tech del capitalismo della sorveglianza25. In effetti l’affievolimento dello stato di diritto liberal-democratico in direzione di una mera ritualità elettorale disgiunge il legame tra procedura e la sua finalità tesa a garantire governabilità (diretta o per l’intermediazione parlamentare), squilibrando il delicato equilibrio verso una sempre più accesa e competitiva lotta per l’elezione, che richiede competenze e facoltà di mobilitazione del corpo elettorale e di convincimento sempre più sofisticate perché incanalate sui dispositivi digitali, mentre capacità e competenze di governo, una volta conquistate le elezioni, divengono un sotto-prodotto casuale e tutto sommato irrilevante, data l’alta propensione a proseguire illimitatamente la simulazione perenne della competizione elettorale da parte dei leader mediaticamente più esposti.

Allora entrano in gioco la potenza di orientare flussi elettorali, specialmente in ambienti algoritmici in cui lo spaesamento, l’incertezza, l’apatia, il disinteresse – abilmente coltivati dalle élites politiche per via della loro dipendenza da masse elettorali, sia pure per una sola giornata – vengono a esprimersi senza remore, captate, registrate, intercettate per divenire così bersaglio di un micro-targeting elettorale volto a conquistare chi altrimenti non si sarebbe mai schierato con il “mandante” politico del marketing elettorale26.

Se comprarsi il voto resta un reato pur difficilmente dimostrabile – nel meridione d’Italia i buoni benzina, i pacchi di pasta, le banconote a metà rappresentano una mitologia con un fondo di verità – se il voto di scambio malavitoso rientra pur sempre nelle competenze di una qualche Procura della repubblica, l’orientamento algoritmico per influenzare le scelte elettorali costituisce una attività lecita, sebbene malintesa nel migliore dei casi, più sovente al di qua di ogni coscienza del prosumer digitale che viene “colpito”: la benevolenza della spinta gentile (nudge) si rivela un asservimento volontario al dispositivo digitale, prolungandosi nel voto “volontario” perché inconsapevole della fabbrica di ciò che potremmo definire ‘l’elettore orientato’. “I sistemi algoritmici possono persino iniziare a corrodere il nostro senso di padronanza epistemica sulle nostre azioni, scelte ed impegni”, sino a percepire la “sensazione sgradevole di essere incerti su ‘chi sta decidendo’ in effetti”27. “Grazie al machine learning, è possibile tracciare gli interessi di qualcuno ed elaborare quindi una pubblicità politica personalizzata da usare al fine di influenzare gli utenti dei social media… inducendo la mente di una persona a fornire una risposta condizionata nella direzione voluta da un attore politico”28.

Sapientemente, e quindi, sfiorando l’ossimoro: una autonomia subliminale.

4. Verso il governo macchinico

La retorica dell’Intelligenza Artificiale dispiega una potenza inedita a partire tanto dal sostantivo, quanto dall’aggettivo. Fosse ancora in vita, Hannah Arendt forse la “taggerebbe” piuttosto come ideologia poiché “tutte le ideologie… spiegano i fatti come semplici esempi di determinate leggi ed eliminano le coincidenze inventando un’onnipotenza tutto comprendente che suppongono sia la radice di ogni caso”29. Infatti per questa versione di retorica, i dati sono fatti.

Anche se sul piano scientifico sappiamo ancora poco su che cosa è realmente l’intelligenza umana, la tecnologia sub-simbolica dell’IA dichiara di saper mimarne gli effetti di funzionamento, raggiungendo in tempi più o meno brevi i medesimi risultati – al netto di facoltà empatiche, emotive, sensibili sulle quali l’IA promette una generatività di là da venire. L’effetto da conseguire è infatti quello di offrire una forza di intelligenza sganciata dai limiti dell’umano, e quindi dai suoi aspetti autocritici, in modo da alludere – e forse illudere – ad una intelligenza tendenzialmente perfetta proprio perché non più umana, oltreumana appunto. Una bio-tecnopolitica che scavalca la relazione governanti-governati, seppure distanziata nello spazio secondo il modello coniato da Nikolas Rose, per il quale, nonostante il trasferimento di poteri dal government alla governance attraverso forme di regolazione in cui sono coinvolti attori non-statali, persino non-politici, pur sempre di rapporto di governo si tratta30.

La declinazione congiunta con l’aggettivazione di artificiale evoca una grammatica di matrice matematica la quale rinvia ad una prestazione inaggirabile, incriticabile, esattamente per la ragione per cui 4+4 fa 8 sotto qualunque latitudine e longitudine del nostro pianeta31. Una logica inesorabile, invalicabile, davanti alla quale sarebbe impossibile qualunque contestazione, se non eccedendo il paradigma matematico, insomma facendo saltare il banco, anziché aggirando o modificando le regole di una grammatica ormai consolidata. La “visione algoritmica deriva la propria autorevolezza (authority) dalla sua congiunzione con la scienza, […] un’aura di neutralità e oggettività che può essere usata per ripararsi dalla critica di trattenere con sé pregiudizi sociali”32.

Sul piano più propriamente politico, nonché di teoria politica, il dispositivo governamentale – nel senso di razionalità di governo in termini foucaultiani – che si preannuncia si avvicina ad una utopia, o distopia secondo i punti di vista, secondo la quale la forma migliore di governo è un governo automatico, “in cui i mercati sono definiti dalle piattaforme digitali, le vite individuali vengono trasformate dall’accumulazione di dati personali, e le relazioni sociali sono rese automatizzate dagli algoritmi”33. Una sorta di forma razionale di governo in cui ogni decisione, assunta attraverso le procedure di IA, si presenta epistemicamente forte di una assiomatica che la rende incriticabile, scientifica esattamente perché dedotta da prestazioni numeriche, aritmetiche, cioè algoritmiche, che la esonerano dal dubbio di una contestabilità. Infatti, come avverte Adorno, l’ideale del potere è proprio una “prassi a-concettuale”34. Del resto, la macchina dell’IA si dà in un campo in cui la fallacia umana si è occultata dietro l’opacità della black box, e le autocorrezioni del machine learning ovviano persino agli eventuali errori di programmazione ed ai bias cognitivi immessi in fase iniziale. Tuttavia, ciò che avviene nella black box non è indifferente alla vita umana, né pertiene solo ed esclusivamente alla dimensione macchinica; infatti il codice proprietario costituisce una “relazione dinamica con il mondo reale, che affetta le chances di vita in maniera automatica e continua”35.

Già in alcuni settori (ad esempio, bancari e finanziari) diverse decisioni sono affidate non a giudizi ponderati, trasparenti, pubblici, accurati, equi, per i quali il tempo sarebbe una risorsa necessaria e irrinunciabile, bensì ad automatismi rapidi, addirittura istantanei, come se “velocità ed efficienza siano neutri rispetto al valore, cioè assiomaticamente buoni”36. Se l’efficienza è opinabile, integrare dinamiche computazionali automatiche in processi decisionali significa nei fatti integrare calcoli valoriali (pesi e valori conferiti agli algoritmi) in modo opaco, da un lato, e ingannevole dall’altro, perché il carico di bias pre-cognitivi tanto in fase di programmazione, quanto in fase di uso, si rende invisibile, potendo così “rafforzare discriminazioni storiche, favorire un particolare orientamento politico, o consolidare pratiche non desiderate”37. Inoltre, il rischio di delegare decisioni ad un macchinismo automatico esente da controlli fa correre il rischio di scambiare eventuali allucinazioni tipiche dei dispositivi retti da IA per verità accertate. Giustamente si chiede Giacomini: “Fino a che punto è possibile rendere conto delle azioni di una IA se le motivazioni alla base dell’esito decisionale sono oscure, inaccessibili?”38.

Tanti anni fa, Paul Virilio affermò che la velocità è potere, una potenza tale da destabilizzare regimi politici, mentre Hartmut Rosa imputa anche all’accelerazione sociale, sospinta dalle tecnologie digitali, la disintegrazione tanto dell’individuo, quanto del corpo collettivo, sociale e politico39. L’accumulazione di dati pertinenti omnes et singulatim, per parafrasare Foucault, non è funzionale solamente al capitalismo della sorveglianza per incrementare a dismisura il proprio business, ma adesso “alimenta i sistemi deliberativi automatizzati”40.

5. A mo’ di conclusione

Se la tendenza futura dell’IA generale sarà una completa autonomia dall’umano, sul piano politico essa si imporrà nel raddoppiamento potente della seduzione sostantiva e aggettivata, contribuendo pertanto alla dissoluzione di ogni ragione di conflitto perché le argomentazioni plurali dell’umano a confronto saranno superate dalla indiscutibilità di decisioni prese da macchine scientifiche esenti da trasformazioni paradigmatiche. “In un ipotetico sistema politico in cui la gran parte delle vere decisioni politiche sono automatizzate da dispositivi algoritmici, per che cosa esattamente gli elettori votano? Per un governo o per un algoritmo? […] Se ipotizziamo che l’IA riuscirà infine a raggiungere il livello della singolarità, laddove l’avvento di una ‘superintelligenza’ prenderà decisioni considerate per lo più ‘oggettive’ dalla maggioranza della popolazione umana, ciò provocherà la graduale eliminazione della funzione del governo?”41.

Sarebbe la fine del politico, foucaultianamente quindi una post-governamentalità42, una “singolare commistione tra un sistema della follia e la perfezione tecnologica”43 (sempre Adorno) in cui l’automaticità da un piano di sgravio di lavoro organizzativo e intellettuale – allo sgravio di parte del lavoro fisico hanno già contribuito e continueranno a contribuire robot e macchinari vari – condurrà ad una delega in bianco e totale verso un digit che saturerà ogni idea di politica. In ultima analisi, “la tendenza va dalla programmazione di computer alla programmazione di persone, [grazie al] ‘big nudging’, una combinazione di Big Data e di Nudging, […] il che condurrà a una società automatica con tratti totalitari”44.

Bibliografia

Agrawal, Ajay; Gans, Joshua; Goldfarb, Avi. Prediction Machines. Boston: Harvard Business School Publishing, 2018.

Akin Ünver, Hamid. “Artificial Intelligence, Authoritarianism and the Future of Political Systems.” Cyber Governance and Digital Democracy 9, 2018: 1-20.

Amoore, Louise; Piotukh, Volha. “Life beyond Big Data: Governing with Little Analytics.” Economy and Society 2015, 44 (3): 341-366.

Aradau, Claudia; Blanke, Tobias. Algorithmic Reason. The New Government of Self and Other. Oxford: Oxford UP, 2022.

Arendt, Hannah. Le origini del totalitarismo. Torino: Einaudi, 2004.

Benanti, Paolo; Maffettone, Sebastiano. Noi e la macchina. Un’etica per l’era digitale. Roma: LUISS UP, 2024.

Benasayag, Miguel. La tyrannie des algorithmes. Paris: Textuel, 2019.

Benasayag, Miguel. ChatGPT non pensa (e il cervello neppure). Milano: Jaca Book, 2024.

Birch, Kean. “Automated Neoliberalism? The Digital Organisation of Markets in Technoscientific Capitalism.” New Formations 100, 2020: 10-27.

Bogost, Ian. “The Cathedral of Computation”. The Atlantic. January 15, 2015.

Coeckelberg, Mark. Why AI Undermines Democracy and What To Do About It. Cambridge: Polity Press, 2024.

Coeckelberg, Mark. “LLMs, Truth, Democracy: An Overview of Risks.” Science and Engineering Ethics 31, n. 4, 2025: 1-13.

Crawford, Kate; Schultz, Jason. “Ai Systems As State Actors”. Columbia Law Review 2019, 119: 1941- 1972.

Cristianini, Nello; Scantamburlo, Teresa. “On Social Machines for Algorithmic Regulation.” AI & SOCIETY 2019, 35: 545-662. https://doi.org/10.1007/s00146-019-00917-8

Cristianini, Nello; Scantamburlo, Teresa; Ladyman, James. “The Social Turn of Artificial Intelligence.” AI & SOCIETY 2023, 38: 89–96. https://doi.org/10.1007/s00146-021-01289-8

Doctorow, Cory. Come distruggere il capitalismo della sorveglianza. Milano: Mimesis, 2024.

Duberry, Jérôme. Artificial Intelligence and Democracy. Risks and Promises of AI-Mediated Citizen–Government Relations. Cheltenham: Edward Elgar Publishing Limited, 2022.

Ellul, Jacques. Le bluff technologique. Paris: Pluriel, 2010.

Epstein, Robert; Robertson, Ronald E. “The Search Engine Manipulation Effect (SEME) and its Possible Impact on the Outcomes of Elections.” PNAS online 112, n. 33: August 4, 2015.

Fazi, M. Beatrice. “Can A Machine Think (Anything New)? Automation beyond Simulation.” AI & SOCIETY 2019, 34: 813–824. https://doi.org/10.1007/s00146-018-0821-0

Feenberg, Andrew. “Subversive Rationalization: Technology, Power, and Democracy.” Inquiry 1992, n. 35: 301-22.

Ferrari, Marco. Cibernetica e filosofia politica. Napoli: Orthotes, 2024.

Ferraris, Maurizio; Saracco, Guido. Tecnosofia. Bari: Laterza, 2023.

Finelli, Roberto. Filosofia e tecnologia. Torino: Rosenberg & Sellier, 2022.

Floridi, Luciano. Etica dell’intelligenza artificiale. Milano: Raffaello Cortina, 2022.

Floridi, Luciano; Cabitza, Federico. Intelligenza artificiale. Milano: Bompiani, 2021.

Fridman, Joseph. “The Problem with Prediction.” https://aeon.co/essays/on-the-dangers-of-seeing-human-minds-as-predictive-machines. Last access: 11/10/2025.

Giacomini, Gabriele. Potere digitale. Come Internet sta cambiando la sfera pubblica e la democrazia. Milano: Meltemi, 2018.

Giacomini, Gabriele. “Una prima tassonomia delle sfide politiche dell’intelligenza artificiale”. Rivista Italiana di Filosofia Politica 5, 2023: 183-213.

Giacomini, Gabriele. Il trilemma della libertà. Stati, cittadini, compagnie digitali. Milano: La Nave di Teseo, 2025.

Jacobsen, Benjamin N. “Machine Learning, Synthetic data, and the Politics of Difference”. Theory, Culture & Society 42, 2025: 1-17.

Janssen, Marijn; Hartog, Martijn; Matheus, Ricardo; Yi Ding Aaron; Kuk, George. “Will Algorithms Blind People? The effect of Explainable AI and Decision-Makers’ Experience on AI-supported Decision-Making in Government.” Social Science Computer Review 40, n. 2, 2022: 478-493.

Jonas, Hans. La cibernetica e lo scopo: una critica. Pisa: ETS, 1999.

Koenig, Gaspard. La fin de l’individu. Paris, Editions de l’observatoire, 2019.

Hayles, N. Katherine. Unthought: The Power of the Cognitive Unconscious. Chicago: U. Chicago P, 2017.

Helbing, Dick; Frey, Bruno S.; Gigerenzer, Gerd; Hafen, Ernst; Hagner, Michael; Hofstetter, Yvonne; van den Hoven, Jeroen; Zicari, Roberto V.; Zwitter, Andrej. “Will Democracy Survive Big Data and Artificial Intelligence?” Scientific American 28, n. 1. February 25, 2017.

Hindman, Matthew Scott. The Myth of Digital Democracy. Princeton: Princeton University Press, 2009.

Kim, Hyeongjoo; Schönecker, Dieter (Eds.). Kant and Artificial Intelligence. Berlin: De Gruyter, 2022.

Lawless, W.F.; Mittu, Ranjeev; Sofge, Donald; Russell, Stephen (Eds.). Autonomy and Artificial Intelligence: A Threat or Savior? Cham: Springer International Publishing, 2017.

Lepore, Jill. If Then. How the Simulmatics Corporation Invented the Future. New York: Liveright, 2020.

Liberty (The National Council for Civil Liberties). Liberty’s Submission to the Science and Technology Committee’s Inquiry into Algorithms in Decision-Making. London: Aprile 2017.

Lyotard, Jean-François. La condizione postmoderna. Milano: Feltrinelli, 1981.

Mavelli, Luca; Cerella, Antonio. “Neoliberalism against Society? Spontaneous Order and Governance of Desire in Digital Societies”. Critical Sociology 2024: 1-21.

McQuillan, Dan. “Algorithmic Paranoia and the Convivial Alternative.” Big Data & Society 3, n. 2, December 2016: 1-12.

McQuillan, Dan. Resisting Ai. An Anti- fascist Approach to Artificial Intelligence. Bristol: Bristol University Press, 2022.

Mhalla, Asma. Tecnopolitica. Torino: ADD, 2025.

Milani, Carlo. Tecnologie conviviali. Milano: eleuthera, 2022.

Mumford, Lewis. “Authoritarian and Democratic Technics.” Technology and Culture 5, n. 1 (Winter 1964): 1-8.

Numerico, Teresa. Big data e algoritmi. Roma: Carocci, 2021.

Panagia, Davide. “On the Possibilities of a Political Theory of Algorithms.” Political Theory 49, n. 1, 2021: 109-133.

Papakyriakopoulos, Orestis; Hegelich, Simon; Shahrezaye, Morteza; Medina Serrano, Juan Carlos. “Social Media and Microtargeting: Political Data Processing and the Consequences for Germany.” Big Data & Society 5, n. 2, December 2018: 1-15.

Pasquale, Frank. The Black Box Society. Cambridge: Harvard U. P., 2015.

Porter, Theodore. Trust in Numbers: The Pursuit of Objectivity in Science and Public Life. Princeton: Princeton University Press, 1995.

Puaschunder, Julia M. “Nudging in The Digital Big Data Era.” European Journal of Economics, Law and Politics ELP December 2017, 4, n. 4: 18-23.

Quadflieg, Sven; Neuburg, Klaus; Nestler, Simon (Eds.). (Dis)Obedience in Digital Societies. Bielefeld: transcript Verlag, 2022.

Rosa, Hartmut. “Social Acceleration: Ethical and Political Consequences of a Desynchronized High-Speed Society”. Constellations 10, n. 1 (March 2003): 3-33.

Rosa, Hartmut. Accelerazione e alienazione. Torino: Einaudi, 2015.

Rose, Nikolas. Powers of Freedom. Cambrdige: Cambrdige U. P., 1999.

Ruppert, Evelyn; Isin, Engin; Bigo, Didier. “Data Politics.” Big Data & Society 2017: 1-7.

Sadin, Eric. Critica della ragione artificiale. Roma: LUISS UP, 2019.

Savolainen, Laura; Ruckenstein, Minna. “Dimensions of Autonomy in Human-Algorithm Relations.” New Media & Society 26, n. 6, 2024: 3472-3490.

Scantamburlo, Teresa; Charlesworth, Andrew; Cristianini, Nello. “Machine Decisions And Human Consequences.” arXiv: 1811.06747v2. https://doi.org/10.48550/arXiv.1811.06747

Searle, John. Intelligenza artificiale e pensiero umano. Roma: Castelvecchi, 2003.

Steinhoff, James. “Toward a Political Economy of Synthetic Data: A Data-Intensive Capitalism that is not a Surveillance Capitalism?” New Media & Society 26.N.6, 2024: 3290-306.

Stiegler, Bernard. La società automatica. Milano: Meltemi, 2019.

Sudmann, Andreas (Ed.). The Democratization of Artificial Intelligence. Bielefeld: transcript Verlag, 2019.

Supiot, Alain. La Gouvernance par les nombres. Paris: Fayard, 2015.

Susser, Daniel. Decision Time: Normative Dimensions of Algorithmic Speed. New York: Association for Computing Machinery, 2022.

Thatcher, Margaret. “Interview for ‘Woman’s Own’.” In Margaret Thatcher Foundation: Speeches, Interviews and Other Statements. London: 1987.

Turing, Alan. Macchine calcolatrici e intelligenza. Torino: Einaudi, 2025.

Vaccaro, Salvo. The Displacement of Social Bond. In Covid-19 and Communities. A cura di G. Campisi, A. Mocciaro Li Destri, C. Amenta. Cham: Springer, 2022.

Vaccaro, Salvo. “La post-governamentalità automatica.” In Tecnologia, politica, società. A cura di B. Henry, S. Vaccaro. Milano: Mimesis, 2024.

Virilio, Paul. Velocità e politica. Milano: Multhipla, 1991.

Winner, Langdon. “Do Artifacts Have Politics?” Daedalus 109, n. 1 (Winter 1980): 121-136.

Yeung, Karen. “Hypernudge: Big Data as a Mode of Regulation by Design.” Information, Communication & Society 2016, 1, n. 19: 1-31. https://ssrn.com/abstract=2807574. Ultimo accesso: 11/10/2025.

Yeung, Karen; Lodge, Martin (Eds.). Algorithmic Regulation. Oxford: Oxford University Press, 2019.

Ziccardi, Giovanni. Tecnologie per il potere. Milano: Raffaello Cortina, 2019.

Zittrain, Jonathan. “Engineering an Election.” Harvard Law Review Forum 127, n. 335, 2014: 335-341.

Zuboff, Shoshana. Il capitalismo della sorveglianza. Roma: LUISS U. P., 2019.

---