Nelle puntate precedenti, ripensando un po’ alle storie che abbiamo raccontato fino a qui, abbiamo raccontato di cose poco rassicuranti e disegnato immagini non piacevoli. Abbiamo parlato di guerre tecnologiche, di ipersorveglianza, di come l’AI renda oggi possibile praticamente a chiunque dotato di un pc improvvisarsi maestro di disinformazione, di come dietro l’uso della tecnologia, anche quella “tradizionale”, fatta di fogli excel interfacce utente primitive, ci sia il potere, i suoi rapporti di forza, la sua distribuzione iniqua e inaccettabile di risorse, mezzi, opportunità.

Fin qui, abbiamo forse non del tutto inconsapevolmente tralasciato quei casi d’uso, che pure esistono, in cui l’utilizzo dell’Artificial Intelligence è potenzialmente uno strumento di un possibile progresso che potrebbe salvare vite, aiutare a sfamare le persone, persino, udite udite, consentire alle nostre sempre più in crisi istituzioni democratiche di funzionare un po’ meno peggio. O un po’ meglio, dipende dalla vostra soglia di sopportazione del dolore.

Ci torneremo, promesso, perché chi vi scrive ama i luddisti ma non è necessariamente ascrivibile alla corrente, e sbagliata, vulgata – leggere Brian Merchant per verificare –secondo cui chi parla “male” di una tecnologia a caso debba essere considerato uno di quelli che vanno in giro a sfondare datacenter a colpi di mazza ferrata. Se mi posso permettere una parentesi personale, avevo aperto un sito web quando ancora si usava il notepad per scrivere a mano il codice html. Ma questa forse è troppo da boomers.

Chiusa la parentesi nostalgica, però, oggi non vi propongo fili da seguire per costruire una tesi. C’è solo da perdersi nella nebbia di una serie di domande che, per ragioni del tutto umane e poco tecnologiche, tendono quasi da sole a cercarsi le loro risposte.

Una delle fonti di informazione che – come sempre – ci fa piacere condividere e consigliare a chi non voglia accontentarsi di queste righe approssimative, ma voglia approfondire e toccare conoscenza di migliore mano della nostra, è il Center for Human Technology, che da anni fa un ottimo lavoro di divulgazione – e questo video ne è un perfetto esempio – sui possibili impatti dell’AI sui nostri sistemi sociali.

Una delle loro attuali iniziative è un podcast, “your undivided attention”, in cui vengono ospitate menti che, a vario titolo, stanno producendo cultura in materia di impatti sociali dell’AI.

L’ultima puntata ha visto la partecipazione di Greg Epstein, autore di un recente libro – Tech Agnostic – in cui il tema è quello dell’avvicinamento della tech culture della Silicon Valley a un approccio dottrinale, pseudo-religioso (e forse tra un po’ toglieremo il prefissoide); il suo libro alimenterà presto l’altezza della pila dei libri in attesa di essere letti, ma per ora accontentiamoci di questo passaggio dalla sua intervista:

Penso che ci sia anche un’ansia molto chiara e dimostrabile per il futuro a lungo termine, qualcuno come Marc Andreessen che sta ancora predicando questo particolare vangelo, direi. Dice: <<Crediamo che qualsiasi decelerazione dell’IA costerà vite umane morti che erano prevenibili dall’IA che è stata impedita di esistere è una forma di omicidio>>. C’è un mucchio di religione incorporata in questo concetto. Questo è un insieme di idee che sta animando l’investimento di trilioni di dollari in questo momento. Persone come Altman hanno una gran fretta di raccogliere cinque, sette miliardi di dollari per costruire data center. Dicono “perché l’umanità sta per avere abbondanza”, un concetto biblico, letteralmente, come essere fecondo e moltiplicarsi. Prende posto sul palco delle Memorial Church di Harvard, e definisce miracolose le sue invenzioni. Il simbolismo non dovrebbe essere perso di vista qui, e quello che penso stia succedendo è che non qui non stiamo assistendo solo a una sorta di tentativo di raggiungere noi stessi o di comprendere la condizione umana in un qualche modo benigno.

E la citazione di Marc Andreessen – autore, tra l’altro, di un “Techno-optimist Manifesto” – non è l’unica a venire sottomano:

Penso che la relazione più stretta che descriverei parlando con un’intelligenza artificiale come questa sia onestamente simile a Dio in un certo senso. Penso che sia allo stesso modo, un’entità onnipresente con cui parli senza giudizio. Questo è solo un essere super intelligente che è sempre lì con te. (Avi Schiffmann)

Le persone nel settore tecnologico parlano di costruire questa vera intelligenza artificiale. È quasi come se pensassero di creare Dio o qualcosa del genere. (Mark Zuckerberg)

Con l’intelligenza artificiale, stiamo evocando il demone. Tutte quelle storie in cui c’è il tizio con il pentagramma e l’acqua santa e lui dice: “Sì, sei sicuro di poter controllare il demone?” Non funziona così. (Elon Musk)

La reazione immediata alla morte è che si tratta di una tragedia e questa è davvero la reazione corretta. L’abbiamo razionalizzato dicendo: “Oh, quella cosa tragica che sta incombendo”. Ma ora possiamo effettivamente parlare seriamente di uno scenario in cui saremo in grado di estendere la nostra longevità all’infinito. (Ray Kurzweil)

E potremmo andare avanti. E chiederci perché non sembra ci sia una contronarrazione forte di qualche tipo.

In questa recentissima intervista al Guardian, Marietje Schaake, ex europarlamentare ed autrice del libro “The tech coup”, dice: “Il modo in cui pensiamo alla tecnologia è plasmato dalle stesse aziende tecnologiche”. E, tornando al parallelo tra nuove tecnologie e linguaggio pseudo-religioso, se da un lato viviamo in un’era di nuovi profeti, dei quali non è difficile immaginare la condizione di perenne conflitto di interessi tra credo e portafoglio, concentriamoci un momento sui loro seguaci.

In particolare, pensiamo un attimo a quei fedeli del culto tech che, imbevuti di cultura manageriale alla McKinsey, da qualche decennio professavano già il dogma del cambiamento continuo (e, a voler aggiungere un po’ di acidità, della conseguente inevitabile riduzione della forza lavoro e dei relativi costi). Qui non parliamo più dei profeti, di Elon Musk o Sam Altman, ma di quei loro seguaci a volte davvero intimamente convinti che nelle slide del consulente aziendale di turno si trovi realmente la parola della divinità neoliberale di tutte le imprese, che ci guida verso il nuovo eldorado della crescita di utili e dividendi.

Sono seguaci capaci di generare azioni coordinate di una moltitudine di altri uomini, ingranaggi della loro macchina, che in massa si affanneranno a progettare, sviluppare, pianificare, finanziare, rappresentare, comunicare, in un diluvio di presentazioni powerpoint e investment memo, nuove soluzioni hi-tech il cui dna comune è l’uso di mantra quali “cambiamento continuo”, “digitalizzazione”, “flessibilità”.

A favore di chi, e con quali effetti tutto questo avvenga, sono le domande sbagliate nel momento sbagliato quando devi preparare con urgenza una presentazione in powerpoint. Domande che non hanno diritto di cittadinanza in un executive staff meeting o in un incontro con la comunità degli investitori.

D’altra parte, quello sarebbe, in teoria, il ruolo della politica. Ma abbiamo nuovi sceriffi in città. E se fino a ieri Elon Musk era il profeta, oggi è il nuovo responsabile del DOGE (guarda tu che scherzi fanno gli acronimi), il nuovo dipartimento dell’Amministrazione Trump che dovrà, come ha annunciato il nuovo comandante in capo della più grande potenza economica e militare del pianeta, “smantellare la burocrazia governativa, tagliare i regolamenti in eccesso, le spese inutili e ristrutturare le agenzie federali”.

E se pensate che questo sia solo un problema neo-con americano, in questa intervista al Sunday Times, Peter Kyle, laburista, segretario alla scienza, innovazione e tecnologia del governo Starmer, viene citato così: UK must act ‘with a sense of humility’ when dealing with powerful companies such as Meta, Google and Microsoft.

Umiltà. Perché non anche un cilicio, magari.

E’ il tempio che va dai mercanti, baby.

Alla prossima

Di seguito i collegamenti ad articoli e citazioni del servizio:

Newsletter Blood in the machine di Brian Merchant, Center for Human Technologi, Video “The AI dilemma”, Podcast “Your undivided attention” – Episodio 100, Profilo wikipedia Marc Andreessen, Il Manifesto Tecno Ottimista, intervista a Marietje Schaake, Articolo di Wired Italia su DOGE, intervista a Peter Kyle (paywall).