ÉRIC SADIN, INTELLIGENZA ARTIFICIALE E POTERE PERVASIVO da IL MANIFESTO

Éric Sadin, intelligenza artificiale e potere pervasivo

Marco Dotti   07/11/2026

TEMPI PRESENTI Un dialogo con il filosofo francese a proposito di «Il deserto di noi stessi», edito da Vita e Pensiero

Intervista

Éric Sadin

filosofo

Il 30 novembre 2022 OpenAI ha messo in rete ChatGPT, «liberandolo» per un uso di massa. Per decenni la retorica sulle tecnologie aveva promesso di sollevarci dalle operazioni materiali. Da quel giorno, la tecnica chiama direttamente in causa le nostre facoltà intellettuali e creative: scrivere, comporre, analizzare, dedurre, tradurre. Parlare, vivere. Nel suo nuovo libro, Il deserto di noi stessi. L’IA generativa: il potere totale, appena arrivato in libreria per Vita e Pensiero (pp. 288, euro 19, traduzione di Cristiano Screm e la cui edizione francese ha appena ricevuto il Prix Jacques Ellul), Éric Sadin sostiene che con le IA generative la tecnica ha smesso di farsi carico della fatica per impadronirsi della parola, del giudizio, dell’immaginazione.

Il filosofo francese individua in questa svolta l’esito di un «abbandono di noi stessi» cominciato con la rivoluzione industriale e reso confortevole da internet e dai suoi facili profeti d’idiozia, fino a sembrare il fantasma di qualcosa che ha un nome difficile e un esito ancor meno scontato, libertà. I modelli scelgono per noi, simulano la parola umana, ci danno del «tu», costruiscono attorno a noi labirinti empatici. Al logos, Sadin contrappone così un «tanatologos», pseudo-linguaggio delle macchine, prodotto di un capitalismo linguistico che vive di abbonamenti, orienta acquisti, opinioni, decisioni, «libere» scelte, provocando un progressivo spossessamento di sé e l’atrofia delle facoltà umane.

Lei considera quel giorno una delle date decisive nella storia dell’umanità. Perché?

Perché in quel momento si è prodotto un cambio di paradigma completo. Dopo aver garantito per due secoli un numero sempre più esteso di operazioni materiali, e poi cognitive, la tecnica è stata incaricata di svolgere compiti che fino ad allora chiamavano in causa le nostre facoltà intellettuali e creative. Gli esseri umani hanno ormai a disposizione strumenti che rendono quasi superflui alcuni dei loro attributi essenziali, a cominciare dalla capacità di concepire i propri pensieri e di produrre linguaggio.
Non passa giorno senza che ci arrivino testimonianze di insegnanti che non capiscono più il senso della loro missione, mentre schiere di studenti hanno rinunciato a scrivere, una pratica che, va ricordato, contribuisce a formare l’autonomia di giudizio. Sono sempre più documentati i casi di dipendenza affettiva da questi sistemi, in particolare fra gli adolescenti, che arrivano a confidare loro i propri stati d’animo; nei casi estremi, questa dipendenza ha portato al suicidio. Piattaforme musicali come Spotify sono invase da brani sintetici. E incombe ormai la minaccia della morte della figura dell’autore, che sarebbe un’immensa catastrofe culturale e di civiltà.

In «Critica della ragione artificiale», lei difendeva il pieno esercizio delle nostre facoltà di giudizio. Oggi dice che stiamo abbandonando il nostro linguaggio vivo a vantaggio di una «mortifera artefattualizzazione linguistica»…

Queste tecnologie si basano sul principio della correlazione probabilistica: dopo una determinata parola, viene selezionata quella che, secondo lo storico degli usi, la segue più di frequente. Così si tende a formulare ciò che è già avvenuto: più che di generazione, nel senso di una vera novità, si tratta di riproduzione.
Ora, il modo in cui noi umani usiamo la parola non si fonda sulla correlazione, ma sull’associazione fra i nostri pensieri, che ciascuno accosta in modo diverso. Inoltre nessuno sa che cosa dirà o scriverà negli istanti che gli stanno davanti, perché il nostro rapporto con il linguaggio non è probabilistico, ma indeterministico. Qui sta la nostra singolarità, qui sta la nostra libertà.
Ed ecco che ci spogliamo di questa vitalità per adottare uno pseudo-linguaggio matematizzato e schematizzato, che chiamo «tanatologos». Un linguaggio della morte destinato ad accerchiare tutti i nostri usi quotidiani e a popolare il nostro ambiente informativo.

Da qui, una forma di «capitalismo linguistico» particolarmente pervasiva…

Una forma che risponde a due obiettivi. Costruire macchine che parlino al nostro posto e generino profitti con gli abbonamenti su scala planetaria. E che facciano anche da oracoli artificiali, pronti a guidarci in ogni circostanza. Interpretando il nostro modo di esprimerci, usano le parole adatte a toccarci ed esercitano un subdolo potere d’influenza, con lo scopo principale di farci compiere transazioni commerciali.
Sono rapporti che producono una sottomissione delle coscienze: gli individui si aspettano da questi sistemi onniscienza e conforto. È tempo di prendere coscienza che le IA generative sono la più grande forma di alienazione contemporanea, dal momento che miliardi di individui arrivano a far dipendere di continuo la propria esistenza da aziende private.

Concentriamoci sulla cosiddetta «fine del lavoro». Quali impieghi sono minacciati? Allarmi e rassicurazioni producono un cortocircuito quotidiano…
Stiamo vivendo la fine della distruzione creatrice teorizzata da Joseph Schumpeter, secondo cui le rotture tecnologiche distruggevano posti di lavoro ma creavano nuovi mestieri, in genere nei servizi. Fino ad arrivare a oggi, quando oltre il 70 per cento dei posti di lavoro nel mondo appartiene al settore terziario. E che cosa lo caratterizza, se non il fatto che gran parte dei mestieri che lo compongono mobilita le nostre facoltà intellettuali e creative? Ed ecco sistemi capaci di svolgere un numero sempre più ampio di queste mansioni, in modo infinitamente più rapido e presumibilmente più affidabile di noi e, alla lunga, a costi inferiori. E non ci sarà alcun travaso verso un settore quaternario, per la semplice ragione che non esiste.
Inoltre, a differenza dei lavori usuranti colpiti in passato, oggi sono in pericolo mestieri che hanno richiesto lunghi anni di studio e che spesso danno piacere nel lavoro e stima di sé. E ancora i mestieri della cultura: traduttore letterario, doppiatore, regista di film d’animazione, fotografo, grafico, compositore… Come si può accettare che tutto questo mondo del lavoro, che contribuisce alla vitalità della società e crea legami di interdipendenza, venga stritolato da un capitalismo che, in nome del risparmio sui costi, non cerca altro che sbarazzarsi dei corpi?

In «Io tiranno» e in «Secessione» raccontava la fine del mondo comune. Nel suo ultimo libro, «Il deserto di noi stessi», un capitolo si intitola «L’Anumanità»: un mondo dalla cui organizzazione gli esseri umani saranno esclusi.
In un’epoca in cui alcuni sistemi organizzano sempre di più il corso delle cose e altri si fanno carico delle nostre facoltà più fondamentali, quale sarà, esattamente, il nostro ruolo sulla Terra? È una condizione che definisco «anumanità»: il momento della storia in cui siamo destinati a intervenire sempre meno sul corso delle cose. Inoltre abbiamo innalzato una potenza cognitiva destinata a diventare sempre più onnisciente, dalla quale dipenderemo continuamente per decidere le nostre azioni individuali e collettive. È ciò che chiamo il «potere totale», che arriverà a rendere obsoleti il sapere scientifico e le scienze umane, perché tutta la verità del mondo ci verrà da queste produzioni delle macchine, che avranno sintetizzato tutto il sapere del mondo.

Eppure lei sostiene che il tecnofascismo non corrisponde ad alcuna realtà.

In effetti la nozione, oggi di moda, di tecnofascismo nasce da una certa pigrizia dello sguardo. C’è bisogno di ricordare che il fascismo risale a un secolo fa e che presuppone autoritarismo e imposizione di un ordine unico? Una condizione che non ha nulla a che vedere con quanto accade oggi, cioè una coalizione di interessi fra quattro soggetti. L’industria dei dati e dell’IA, che sviluppa questi sistemi al solo scopo di generare profitti; i politici, che vi vedono il radioso avvenire del capitalismo; le imprese e le istituzioni pubbliche, che li usano per ridurre i costi; e miliardi di individui che vi trovano una vita più facile e una distrazione continua. È questa configurazione inedita che bisogna analizzare, invece di additare in modo infantile i grandi lupi cattivi della tech.

I tecnocapitalisti evocano spesso la prospettiva di un’IApocalisse, eppure sono proprio loro a sviluppare queste tecnologie. Che cosa pensa di questo paradosso?

Costoro affermano che queste tecnologie presto «ci uccideranno tutti». Ma certo! Queste IA arriveranno nel cuore della notte sulle loro zampette per sgozzarci! Ciò che è in atto, invece, è la morte a fuoco lento di noi stessi, l’espropriazione dell’uso delle nostre facoltà fondamentali.
Ci restano pochi anni per impedirlo. Dinanzi a questo collasso abbiamo dovere morale di far valere la nostra volontà di essere parte attiva nelle questioni che ci riguardano; altrimenti saremo ridotti a una massa di residui inutili. Dobbiamo renderci conto che una vita deprivata dell’espressione delle nostre facoltà e di legami attivi con i nostri simili non può che spianare la strada alla tristezza, al rancore e alla follia.

Questo articolo ha più di 6 anni

Éric Sadin, il racconto della realtà resiste agli algoritmi

Roberto Ciccarelli   03/01/2020

L’intervista Parla il filosofo francese, autore di «Critica della ragione artificiale» (Luiss). Le retoriche che accompagnano la rivoluzione digitale osservate dal punto di vista dei diritti dei lavoratori. «Per contrastare la visione della tecnologia in cui siamo immersi dobbiamo sviluppare un nuovo immaginario e altre forme di esistenza»

Creare un altro immaginario della rivoluzione digitale in cui siamo immersi e sperimentare nuove forme di vita a partire dalla pluralità umana e dall’azione politica. È il messaggio del libro Critica della ragione artificiale. Una difesa dell’umanità (Luiss, pp. 207, euro 21 – recensito su queste pagine il 17 luglio) scritto dal filosofo Éric Sadin che abbiamo incontrato durante un ciclo di eventi organizzato dalla libreria francese Stendhal di Roma.

Perché, da almeno un biennio, e comunque dal caso Cambridge Analytica (l’azienda che ha sottratto i dati di 87 milioni di persone da Facebook per la campagna elettorale di Trump nel 2015), l’immagine pubblica del capitalismo digitale è cambiata?
Finalmente. Era ora che ci si rendesse conto che l’intelligenza artificiale non è un sistema naturalmente intelligente in grado di sostituire l’essere umano. Non è affatto naturale, è uno dei modi in cui può darsi la razionalità umana. Il suo obiettivo è amministrare l’esistente e orientare ogni movimento verso una transazione commerciale. Questo è il progetto di fondo dell’industria digitale.

In cosa consiste quella che lei definisce come la «rappresentazione siderante e coercitiva del mondo» creata dal capitalismo digitale?
Nella capacità di intervenire sull’esercizio della libertà nella vita comune. Siamo in un momento di cambiamento dello statuto della tecnologia. Non realizza più solo, come negli anni Cinquanta, lo stoccaggio, l’indicizzazione e la manipolazione dell’informazione. Aumenta le funzionalità, si sta specializzando, è esperta di tutto, realizza processi più veloci delle nostre capacità cerebrali al punto da renderli spesso incomprensibili.

Un esempio?
Waze, un’applicazione israeliana acquisita da Google, descrive in tempo reale il traffico e raccomanda di percorrere un percorso e non un altro. Più che sorvegliare, questo capitalismo mi sembra governare e indirizzare le nostre decisioni, soprattutto per soddisfare gli interessi privati. Si tratta di una svolta ingiuntiva della tecnica che dice come ci si deve comportare. È iniziata nel 2007 con lo smartphone. Da allora sono nate applicazioni che accompagnano la nostra vita attraverso gli algoritmi. Ad esempio, gli assistenti vocali come Siri o Alexa. Oggi non funzionano benissimo, ma rappresentano comunque forme di antropomorfizzazione dell’intelligenza artificiale che passa attraverso la voce e suggerisce nel modo più naturale, che naturale non è, come realizzare transazioni commerciali.

Nel libro descrive il potere quasi magico che l’automazione digitale esercita sull’essere umano. Perché risulta così attraente?
Esistono molte persone che, per lavoro, immaginano come rendere attraente questa tecnologia raccontandola come qualcosa che renderà il mondo più fluido, ecologico e sicuro. Dopo la Seconda guerra mondiale emerse l’ipotesi di affidare la gestione della società ad altri che non fossero gli esseri umani, considerati non solo fallibili, ma pericolosi per l’umanità a causa degli orrori di quella guerra. Günther Anders criticò la tecnoscienza, mossa da velleità demiurgiche, capace di distruggere il mondo con le bombe atomiche a Hiroshima e Nagasaki. L’idea della cibernetica formulata da Norbert Wiener nel 1948 fu il tentativo di evitare queste conseguenze potenzialmente nefaste. Cibernetica deriva dalla parola greca Kubernetes, pilota, che indica anche il governo dell’umano. Nasce da qui l’idea di un’automazione che migliora, razionalizza e ottimizza la vita.

Questa idea sarebbe ispirata a un’«inquietante passione a generare doppi artificiali di se stessi». Cosa significa?
Questa passione deriva dalla rappresentazione dell’essere umano come un soggetto capace di riprodurre il suo cervello espellendo le parti difettose e dando una potenza superiore alle macchine reputate essere migliori di lui. Il momento cibernetico della storia della tecnologia non partiva da una conoscenza scientifica del cervello. Era teorizzato da ingegneri che non conoscevano il suo funzionamento e si basava su postulati. Negli ultimi anni questo discorso è tornato anche grazie a nuove acquisizioni: l’algoritmo sarebbe la riproduzione del cervello a una velocità inconcepibile. Non siamo arrivati a tanto, è un processo avanzato di attribuzione di caratteristiche e qualità umane alle macchine dove la tecnologia è stata resa capace di prendere alcune decisioni.

Quali gli effetti sul lavoro?
Prendiamo la selezione dei candidati a un posto di lavoro attraverso algoritmi. I candidati dovrebbero interagire attraverso chatbox. Non è chiaro come la selezione avverrà, ma alla fine l’algoritmo dovrebbe dire qual è il candidato migliore. Viene diffuso da anni il panico per la sostituzione dei posti di lavoro con l’intelligenza artificiale. A mio avviso esiste un elemento molto più importante: l’applicazione dell’intelligenza artificiale al management, l’idea cioè che l’industria sia governabile attraverso i dati e in tempo reale. Questo significa che i lavoratori eseguono gesti come robot, mentre invece sono persone in carne ed ossa. Questo meccanismo elimina la contraddizione: come possono opporsi a un algoritmo e dire che sbaglia? Credo invece che questo sia possibile ed è importante immaginare forme di contrasto e sciopero, anche se oggi si sente solo dire che si deve investire sull’intelligenza artificiale e la sua implementazione, con «il contentino» di proteggere la privacy.

Non è un problema la privacy?
Certo che lo è, ma tutto il resto? La tendenza è fare scomparire non solo i posti di lavoro, ma soprattutto le persone. Questo approccio all’economia tende a mettere al bando l’umano. È un problema di dimensioni enormi, di civiltà. Nessuno tra i politici si pone il problema delle conseguenze. Purtroppo questi discorsi non sembrano produrre nemmeno uno spirito di contraddizione e comunque poca mobilitazione.

Quali potrebbero essere le conseguenze sulla medicina o sulla scuola?
Nella medicina si esprime il livello prescrittivo della tecnologia digitale. Alla medicina digitalizzata è attribuito il potere di dire cosa sia il benessere in nome della gestione di un sistema superiore e più efficace. Questa idea di un’amministrazione della vita risponde a una visione igienista del mondo dove i presunti «difetti» dell’essere umano saranno cancellati. Visto che gli uomini sono soggetti a pregiudizi, allora facciamoli gestire agli algoritmi, come se non fossero anch’essi prodotti dagli esseri umani. Anche nella scuola pubblica si parla di una «trasformazione digitale» e di nuovi modelli pedagogici derivanti dall’uso dell’intelligenza artificiale. L’idea è rendere gli studenti funzionali al sistema economico, quando in realtà la scuola dovrebbe offrirgli gli strumenti per diventare autonomi.

Cosa pensa delle proposte di rompere i monopoli del digitale e tassarne i profitti?
Smantellare Google o Facebook può avere degli effetti, ma non credo che questo basti per fermare questo capitalismo. Esistono aziende sconosciute che lavorano allo sviluppo dell’amministrazione della vita.

Da cosa è necessario partire?
Imparare a dire di «No» come suggeriva Pasolini. Non rassegnarsi a un presunto corso immutabile della storia. Ai discorsi dei think tank e dei governi bisogna opporre un contro-discorso, testimoniare e raccontare la realtà di cosa significa lavorare in una fabbrica, in una scuola o in un ospedale digitalizzato nel modo in cui loro immaginano. Raccontare i fatti al presente è un atto politico. La realtà è nel presente, mentre i discorsi che si fanno di solito sono tutti proiettati verso un futuro perfetto o angosciante. Per contraddire il movimento generale di questa tecnologia in cui siamo immersi è necessario sviluppare un altro immaginario e sperimentare altre forme possibili di esistenza. In un’epoca in cui si parla molto e si agisce poco, potremmo invece riscoprire che l’azione viene prima della parola come sostiene Hannah Arendt.

***

Filosofo e scrittore degli anni del silicio

Éric Sadin è autore di numerose opere sugli effetti nascosti dello sviluppo tecnologico, tra cui «La siliconizzazione del mondo» (Einaudi, 2018), recensito su queste pagine il 21 luglio scorso da Benedetto Vecchi, «Un mondo distopico in salsa di silicio». Il manifesto si è già occupato anche di «Critica della ragione artificiale» (Luiss, 2019): B. Vecchi, «Il mondo dei robot disincantati» (17 luglio 2019). Tra le altre sue opere, Sadin ha scritto inoltre «La vie algorithmique : Critique de la raison numérique», (2015) e «La société de l’anticipation: Le Web Précognitif ou la rupture anthropologique» (2011).