Vi avevo promesso, nell’ultima puntata di questa serie, che prima o poi avremmo parlato anche dei modi in cui l’intelligenza artificiale può essere usata in modo utile per noi umani e per il pianeta che ci ospita, suo malgrado.

Ogni promessa è debito, e allora togliamoci subito dall’impaccio. Questo articolo di “The Conversation” racconta di un programma di rimboschimento dei baobab del Madagascar, e di come l’intelligenza artificiale, applicata all’analisi di immagini satellitari, stia contribuendo a valutare con precisione i progressi del programma, e ad individuare gli interventi mirati utili per migliorarne l’efficacia e bilanciare i suoi punti deboli.

Ecco, l’abbiamo fatto. Dopo sei mesi, abbiamo finalmente ammesso che, a volte, l’AI ci piace, è utile, funziona, può aiutare a risolvere problemi, può supportare chi abbiamo lasciato indietro. Dopo tutto, siamo quelli dei “valori europei” che – citando la von der Leyden – non lasciano nessuno indietro, fatta eccezione in generale per tutti quelli che non sono abbastanza produttivi e per chiunque si azzardi appena ad avvicinarsi al nostro “giardino”, per usare l’elegante metafora del non troppo rimpianto alto rappresentante per la politica estera dell’Unione, Josep Borrell.

Ora che abbiamo fatto professione di neutralità ideologica verso le nuove tecnologie in quanto tali, togliamoci qualche sassolino di fine anno.

Il 2024, facendo un po’ la somma delle decine di newsletter ed articoli che ci sono passate tra le mani a proposito delle varie sintesi di fine anno degli eventi più significativi, si è chiuso con i fuochi d’artificio. Li trovate in questo video del sempre più discusso Sam Altman, in cui la sua Open AI annuncia l’ennesimo nuovo passo avanti nella corsa verso l’intelligenza artificiale generale.

Il dibattito, o meglio lo scontro tra le varie correnti di pensiero, quella degli scettici alla Gary Marcus, e quella dei super-entusiasti (qui trovate un esempio), è partito immediatamente, e come sempre ognuno difende le proprie posizioni senza che le varie echo-chambers si avvicinino di un micron. Così è la vita, nell’era post-social, e non si tornerà indietro, ci piaccia o no.

Alla fine, si continua quindi a discutere dell’ennesimo “general purpose AI model”, nel linguaggio del nuovo regolamento europeo sull’intelligenza artificiale, e di quanto la strada intrapresa su questa direzione tecnologica possa o meno portarci, un giorno, verso la realizzazione del sogno, o dell’incubo, a seconda dei punti di vista, della creazione di un’intelligenza artificiale capace almeno di emulare, se non di superare, quella di un comune obsoleto essere umano.

Dibattito sinceramente affascinante, ma che ha forse il difetto di sottrarre troppe energie a cause più utili. Perché nel frattempo, nel mondo reale, le cose accadono, e qualcuno muore.

Se c’è un evento di questo 2024 che metterei al primo posto della mia lista, è l’omicidio di Brian Thompson, CEO della compagnia assicurativa UnitedHealthcare. Il 4 dicembre Thompson viene assassinato davanti all’ingresso di un albergo a Manhattan, con quattro colpi di pistola sparati – ormai quasi con certezza – da un uomo, Luigi Mangione, che sarà arrestato dopo una fuga durata pochi giorni. Ora parliamo di intelligenza artificiale, qui, e come sempre entreremo ed usciremo da sistemi e algoritmi finendo per parlare d’altro.

E torniamo alla UnitedHealthcare. Uno dei finalisti per il premio Pulitzer 2024, nella categoria giornalismo investigativo, è un team di reporter di STAT, una delle più accreditate fonti di informazioni americane sui temi legati a salute e medicina. Il lavoro investigativo che aveva portato i giornalisti di STAT a contendersi il prestigioso riconoscimento è una serie di articoli, la cui prima puntata era stata pubblicata il 25 luglio, che aveva messo a nudo i meccanismi che hanno consentito allo UnitedHealth Group di trasformare una piccola compagnia assicurativa del Minnesota nell’equivalente di ciò che è stata la Standard Oil in campo petrolifero: un colosso in grado di diventare il maschio alfa nel settore delle assicurazioni sanitarie. Per inciso, parliamo della quarta impresa per fatturato nella classifica generale delle compagnie USA, subito alle spalle della Apple, con 371,6 miliardi di dollari nel 2023. Sempre per capirci, il fatturato di Alphabet-Google nello stesso periodo è stato pari a 307,4 miliardi, quello di Microsoft a 211,9. Secondo STAT, più di 103 milioni di americani hanno fruito di cure e servizi sanitari forniti da strutture controllate da United Health Group.

Citiamo un passaggio dell’inchiesta, di cui raccomanderemmo fortemente la lettura nonostante il paywall: “Dietro queste statistiche, c’è molto che UnitedHealth non vuole farvi sapere. Un’indagine di STAT rivela la storia non raccontata di come l’azienda si sia accaparrata diversi pezzi dell’industria sanitaria e abbia sfruttato il suo crescente potere per mungere il sistema a scopo di lucro. Le tattiche di UnitedHealth hanno trasformato la medicina delle comunità di tutto il Paese in una catena di montaggio che tratta milioni di pazienti come prodotti da monetizzare ”.

Come tutto questo sia avvenuto non è semplicissimo da sintetizzare, perché è il frutto di scelte legislative che hanno trasformato la sanità americana in una zona di caccia libera per chiunque avesse abbastanza soldi da comprare altre imprese assicuratrici, catene di ospedali, cliniche, centri di riabilitazione, e fornitori di servizi amministrativi resi ormai necessari, dalla complessità delle nuove regole, anche per il funzionamento di un piccolo studio medico di qualche periferica contea. E lo UnitedHealth Group era già in pole position per diventare la più grande “conglomerata” della sanità americana, essendo l’azienda dal portafoglio più pesante.

E cosa fanno le grandi imprese, una volta acquisita una posizione dominante sul loro mercato, per massimizzare ancora più i profitti? Va da sé: introducono nuove tecnologie e sistemi informatici, nel nome dell’economia dei big data. Qui però bisogna capire bene come funziona il meccanismo. Il modo in cui funziona il sistema privatistico “Medicare Advanced” in USA fa sì che colossi integrati verticalmente come lo UnitedHealth Group possano fare soldi almeno in due modi diversi: prima di tutto, come fornitori di servizi sanitari, più un paziente è malato, più alta è la somma che il governo federale rimborserà; ma come assicuratori, tenuti a garantire i propri clienti (i pazienti), gli stessi soggetti che guadagnano dalla malattia hanno tutto l’interesse a riconoscere il meno possibile quando si tratterà di coprire le spese mediche – onerosissime – dei propri assicurati, che dovranno pagare – sempre a UnitedHealth, come abbiamo visto  – tutto ciò che non sarà coperto da assicurazione. E qui entrano in gioco gli algoritmi.

Oggi, i sistemi basati sul machine learning – addestrati sulla base dei dati raccolti su milioni di pazienti grazie alla sempre più ampia quota di mercato coperta da colossi come la UnitedHealth – vengono utilizzati in varie fasi del processo, sia per autorizzare determinati trattamenti proposti dai medici, che per approvare il ricorso a prestazioni specialistiche, definire il limite delle prestazioni post-operatorie o riabilitative, stabilire la durata massima della permanenza in ospedali, centri di cura, o autorizzare servizi di cura di persone non autosufficienti.

Si tratta di decisioni che, da sempre, vengono prese dalle compagnie assicurative, e contro le quali ogni rimedio giudiziario è talmente oneroso e lungo che non è difficile capire perché molti finiscano per accettare di pagare di tasca propria ciò di cui viene rifiutata la copertura, piuttosto che imbarcarsi in procedimenti legali costosi e lenti. Ma, negli ultimi dieci anni, una nuova industria ha dato vita a sistemi tecnologicamente avanzati che, venduti come soluzione per “garantire cure personalizzate e assicurare una guarigione migliore”, servono in realtà a creare un muro impenetrabile oltre il quale non è consentito andare, né verificare il modo in cui l’algoritmo elabora i suoi coefficienti e determina, ad esempio, per quanti giorni un paziente avrà diritto alle cure post-operatorie o assistenza domiciliare.

E non di tratta soltanto di impossibilità di ottenere una spiegazione chiara sul funzionamento dell’algoritmo. In questa class-action, attualmente ancora in corso proprio contro la UnitedHealth, intentata da cittadini che si erano visti negare autorizzazione al rimborso di spese mediche di varia natura,  è emerso che nel 90 per cento dei casi in cui, di fronte alla decisione presa dall’algoritmo nH Predict, sviluppato da una piccola azienda acquisita da UnitedHealthcare Group, i pazienti avevano intentato le vie legali, la decisione dei giudici era andata a loro favore. Il che equivale al fatto che il tasso di errore dell’algoritmo era pari al 90 per cento dei casi oggetto di giudizio.

E torniamo allora all’omicidio del CEO di UnitedHealth. È davvero difficile, e non lo faremo in questa sede, addentrarci nell’ennesima analisi. Qui ci limitiamo a riportare un passaggio di un articolo di Ryan Broderick, che ha descritto molto bene le reazioni – diffuse e bipartisan – scatenatesi dopo quella tragedia: “La morte di Thompson è stata un vero e proprio shock per la classe dirigente americana, che sembra rendersi conto per la prima volta che la maggioranza del Paese non piangerà la loro morte”.

Qualche anno fa, erano i tempi dello scandalo di Cambridge Analytics e della Brexit, uno dei whistleblowers che avevano accettato di rendere pubblico ciò che sapevano raccontò di come, subito prima di occuparsi del modo di influenzare l’opinione pubblica via social, il suo gruppo stesse lavorando su un molto ricco progetto di ricerca che aveva come scopo quello di proteggere – ricorrendo all’intelligenza artificiale – i super ricchi che si fossero creati un luogo sicuro in un’area sicura da una possibile rivolta delle proprie guardie private. Questa inchiesta dell’Observer ha più di due anni, ma se volete approfondire il tema è un ottimo punto di partenza. Come accade spesso, certe inchieste sono solo un po’ in anticipo sui tempi.

E chiudiamo qui, visto che siamo a fare i nostri pensierini di fine anno, con un paio di passaggi scomodi. Il primo, in cui ci si domanda il perché i temi che trattiamo in questa rubrica – l’avrete notato – siano documentati attingendo quasi integralmente a fonti anglofone. Non c’è mai una sola risposta a quesiti come questi, ma forse il nostro mondo dell’informazione è bene che si faccia qualche domanda, perché la lettura di una qualsiasi rassegna stampa nazionale, in generale, sul tema dell’intelligenza artificiale è nella normalità dei casi imbarazzante. Il secondo: cosa sta avvenendo qui da noi? In quali ambiti si stanno testando o utilizzando algoritmi e sistemi di machine learning? Quali settori, e quali servizi essenziali si basano o stanno per basarsi su meccanismi di accesso in cui la decisione è già o sta per essere affidata a un algoritmo? Quale potrebbe essere l’effetto dell’autonomia differenziata su questi temi? Chi sta guadagnando o sta per guadagnare miliardi sulla pelle di chi? Quali sono le nostre leve in termini di advocacy, società civile, centri di analisi e informazione, cittadinanza attiva? Come si costruisce movimento e visibilità attorno a questi temi?

Proveremo a darci qualche risposta nel 2025. Per ora, crediamo però che i compiti per le vacanze siano ancora iniziare a farci le domande giuste.

Alla prossima

Link presenti nell’articolo:

The Conversation su campagna riforestazione in Madagascar-Discorso di investitura di Ursula von der Leyden nel 2019-Video intervento Josip Borrell-Video di presentazione Open AI o3 Sam Altman-Articolo di Gary Marcus su Open AI o3,-Articolo di The Algorithmic Bridge su Open AI o3– Elenco finalisti premi Pulitzer 2024 – Homepage STAT news– Inchiesta STAT news su UnitedHealthcare Group– Class action Corte Distrettuale Minnesota vs. UnitedHealth– Articolo di Ryan Broderick– Inchiesta dell’Observer sui bunker dell’apocalisse per i super ricchi