Gori e l’intelligenza artificiale: “La ricerca non va fermata. Il vero rischio? Il potere nelle mani di pochi”

L’intelligenza artificiale corre verso il futuro, ma il pericolo potrebbe non essere quello che immaginiamo. Niente macchine pronte a ribellarsi all’uomo o scenari da fantascienza: per Marco Gori, professore ordinario di Informatica all’Università di Siena e tra i pionieri italiani dell’IA, il rischio più concreto è un altro ed è già davanti ai nostri occhi: la concentrazione del potere e della tecnologia nelle mani di pochi grandi attori, soprattutto tra Stati Uniti e Cina. Nel pieno del nuovo dibattito internazionale sui rischi dell’intelligenza artificiale, Gori invita a non fermare la ricerca, ma a riportare al centro la responsabilità umana. E indica nell’Europa, e anche nella ricerca che si fa a Siena, uno spazio da cui ripartire: più investimenti nel trasferimento tecnologico e un’IA decentralizzata, perché l’informazione del pianeta non finisca, come dice, “nella pancia di pochi draghi”.

Professore l’intelligenza artificiale è una minaccia? E l’AGI, intesa come intelligenza artificiale forte e autosufficiente, è stata raggiunta? A che punto siamo?

“Prima di parlare di minaccia sarei cauto. È bene ricordare che si tratta di tecnologie che possono essere molto utili, penso soprattutto al mondo della medicina e alla produzione di farmaci. C’è una tradizione consolidata di applicazioni molto positive. Non vi è dubbio, però, che la direzione presa dall’intelligenza artificiale, decollando dalle idee della ricerca, non sia proprio una gran bella direzione. Sta portando alla centralizzazione del potere e della tecnologia, in particolare in Cina e negli Stati Uniti. Questo probabilmente è forse il vero rischio, fermo restando che alcuni dei rischi segnalati, soprattutto quelli legati alla sicurezza informatica, possono essere seri”.

Come ha letto l’appello del vertice di Anthropic, al quale si sono poi accodati altri colossi americani dell’intelligenza artificiale? Si è parlato anche della capacità dell’IA di arrivare autonomamente a compiere attacchi informatici…

“Questi meccanismi autonomi effettivamente si possono innescare, quindi non vi è dubbio che esistano dei rischi. Ma è importante chiarire un concetto fondamentale: non c’è una vera dicotomia uomo-macchina. Non è che a un certo punto vedremo queste macchine alzarsi, ribellarsi e venire la notte a tirarci i piedi a letto come fanno i fantasmi. I rischi seri riguardano piuttosto il nostro rapporto con le preziose informazioni che queste tecnologie producono: possiamo fidarci troppo e delegare loro compiti che progressivamente non comprendiamo più. Pensiamo alla medicina, uno dei tanti ambiti nei quali la responsabilità delle azioni deve rimanere in capo agli esseri umani. È evidente che non possiamo mettere in galera il silicio, non possiamo mettere in galera le macchine. Ad ogni singola attività deve corrispondere una persona responsabile delle attività connesse alle tecnologie dell’IA. Quando perdiamo di vista questo aspetto e lasciamo liberi alcuni meccanismi senza una responsabilità precisa, possono nascere dei pericoli. L’intelligenza artificiale offre opportunità straordinarie, ma può comportare anche dei rischi”.

Quindi l’IA può rimanere, per certi versi, un’utopia invece di trasformarsi in una distopia se c’è sempre l’uomo al volante?

“È giusto segnalare anche gli scenari distopici, ma questo allarme non è il primo. Se ben ricordo, nel marzo del 2023 era circolata una lettera aperta, promossa a suo tempo da Elon Musk e firmata anche da un congruo numero di scienziati, che chiedeva uno “slowdown” dell’IA, cioè un rallentamento della corsa. Ma non si può rallentare la corsa all’indagine: bisogna semmai essere protagonisti e responsabili di quello che facciamo. Quanto all’Artificial General Intelligence e alla possibilità che le macchine siano davvero capaci di capire e ragionare, queste tecnologie sono arrivate a livelli straordinari. Ma non serve contrapporre uomo e macchina: davanti a ogni attività che riguarda il benessere dell’umanità deve esserci una persona responsabile”.

Accanto all’intelligenza artificiale generale c’è un altro termine utilizzato da anni: “singolarità”. Secondo lei arriverà mai un momento in cui potremo dire di esserci realmente avvicinati a quel punto?

“C’è un aspetto molto interessante anche dal punto di vista scientifico: la possibilità di ibridare la specie umana attraverso neuroni provenienti dall’elettronica. Esistono già tecnologie molto positive, pensiamo a quelle per l’udito, che permettono di migliorare significativamente la capacità uditiva. Si è cercato di utilizzare queste tecnologie anche per la vista, ma con risultati molto meno significativi. Persone come Kurzweil hanno addirittura indicato il 2045 come l’anno in cui sostanzialmente noi saremo i maggiordomi delle macchine. A mio avviso questo appartiene alla sfera della fantascienza e della libera espressione in questo ambito. Fermo restando che i rischi esistono: da un lato queste tecnologie possono spalancare opportunità impressionanti, dall’altro si può ipotizzare una progressiva ibridazione della specie umana attraverso questi meccanismi. Allo stato attuale, però, questo processo non ha una vera e propria traccia scientifica. Se l’avesse, forse oggi il problema della cecità sarebbe già risolto. Sono decenni che si lavora alla costruzione di protesi per retine artificiali, ma ancora non siamo in grado di produrre qualcosa del genere. L’ibridazione e la nuova specie di cui parla Kurzweil, ad oggi, credo possano essere collocate nella sfera della fantascienza”.

Agli allarmi lanciati dai grandi colossi americani hanno risposto anche i governi. Trump ha parlato di “forze negative” che vorrebbero frenare l’intelligenza artificiale. E poi c’è la Cina, che si è avvicinata rapidamente agli Stati Uniti nello sviluppo dei propri sistemi. Quanto pesa oggi la geopolitica?

“È una domanda molto importante, forse più di tutte le altre, perché tocca un aspetto fondamentale. Quello che sperimentiamo oggi è una combinazione di risultati straordinari e scenari distopici. Alla base c’è un problema che normalmente non viene segnalato: tutto ciò che vediamo è frutto di decenni di studi nei quali non si è mai pensato a costruire modelli e sistemi efficienti dal punto di vista del consumo energetico. Si è inseguita la superintelligenza senza considerare un vincolo che nel mondo dell’ingegneria è ovvio. Pensiamo all’automobile: tutti vogliono ottime prestazioni, ma anche il consumo conta. Nell’intelligenza artificiale questa sfida scientifica non si è mai realmente posta. Credo sia arrivato il momento di spingere verso la decentralizzazione delle tecnologie dell’intelligenza artificiale. È uno dei passaggi necessari per mettere davvero l’uomo al centro di questi processi e fare in modo che il mondo intero benefici di queste tecnologie, invece di assistere all’arricchimento di pochi. La decentralizzazione è una strada possibile soprattutto per l’Europa e si avvicina, per alcuni aspetti, a ciò che sta accadendo in Cina, dove si sviluppano modelli più piccoli e si promuove l’open source, quindi il codice libero. La vera sfida per l’Europa è costruire sistemi nei quali non ci sia tutta l’informazione del pianeta nella pancia di pochi draghi, ma sia distribuita tra comunità capaci di gestirla senza delegarla a pochi grandi player che dominano la scena. Questi soggetti offrono servizi straordinari, ma al tempo stesso possono generare scenari distopici. Per questo siamo davanti anche a un momento di grande rivoluzione scientific”a.

E l’Europa quale partita sta giocando? Ed anche Siena? Che ha un Ateneo molto attivo su questo fronte…

“È importante far sapere che le attività scientifiche in questi settori sono molto fiorenti in Europa e possono contare su tradizioni importanti. La grande differenza rispetto a Stati Uniti e Cina riguarda il sostegno al trasferimento tecnologico. Siena, l’Italia e l’Europa si trovano, in qualche misura, nella stessa situazione: negli Stati Uniti esistono finanziamenti per il trasferimento tecnologico e per sostenere le idee dei giovani che vogliono lanciarsi in nuove iniziative, mentre in Europa questo sostegno non esiste nella stessa misura. In Cina questa spinta è sostenuta dal governo, negli Stati Uniti da meccanismi finanziari. Credo che questa disparità sia alla base di molti dei problemi che oggi abbiamo davanti, con aziende che offrono servizi straordinari ma che hanno preso il controllo del pianeta in molte di queste attività. Spero che la politica europea comprenda il problema. La guerra tra Russia e Ucraina ci ha mostrato le conseguenze della dipendenza sul fronte energetico: dobbiamo renderci conto che per l’informazione, e quindi per tutto ciò che riguarda l’intelligenza artificiale, siamo in una situazione simile. Serve decentralizzare e non possiamo pensare che i servizi di cui oggi fruiamo siano necessariamente eterni. Determinati scenari geopolitici potrebbero mettere l’Europa in una situazione molto critica. Per questo è urgente sostenere iniziative, studi, ricerca e trasferimento tecnologico rivolti alla decentralizzazione dell’informazione”

Marco Crimi