Dopo che il 9 settembre il ricercatore Jacob Coxon ha dato le dimissioni da Anthropic, le sue affermazioni sull’AI sono diventate virali. L’accusa di Coxon nei confronti dei suoi ex datori di lavoro è chiara: si corre verso un’intelligenza in grado di automigliorarsi e non è da escludere che, a causa del suo sviluppo vertiginoso, l’umanità possa estinguersi.
In realtà non è la prima volta che si lanciano allarmi sull’AI.
Il premio Nobel Geoffrey Hinton, nel maggio 2023 si dimise da Google per potersi esprimere senza condizionamenti sui rischi della tecnologia e stimò tra il 10% e il 20% la probabilità di una catastrofe causata dall’AI.
Nel maggio 2024, un post del ricercatore Jan Leik che annunciava le sue dimissioni da OpenAI, mettendo in luce come la cultura e i processi di sicurezza fossero passati in secondo piano, superò i 6 milioni di visualizzazioni.
Da più parti, in diversi, avvertono sui pericoli dell’AI legati ad una capacità di evoluzione che potrebbe diventare inarrestabile. Ma il post di Coxon ha superato cento milioni di visualizzazioni.
Curiosità per l’argomento, o timore, che uno scenario dai toni apocalittici possa non essere solo la trama di un film del grande cinema di azione?
Ciò che scatena la preoccupazione e la discussione è proprio la capacità di automigliorarsi dell’AI, riprogettando modelli più evoluti di sé stessa, in maniera rapidissima.
E come accade sempre, tutto dipende da chi la utilizza e da come la utilizza, e su quali principi e valori gli sviluppatori posizionano i modelli. L’AI è uno strumento, ma usandola, può scappare di mano. Anche nel piccolo, se si pensa che può sostituire qualsiasi funzione, alla fine, potrebbe sostituire sistemi di controllo, di intelligence, di governance. E ancora, eliminare gli ostacoli che non la fanno operare per raggiungere l’obiettivo che le è stato assegnato. Insomma, di scenari, ne possiamo immaginare molteplici, ma tutto dipende da un uso e uno sviluppo responsabile, che, però, viste le denunce da più parti, non è detto che sempre lo sia.
Il tema, dunque, è quali regole esistono e quali occorre scrivere per evitare scenari catastrofici, non impossibili da stimare anche se con ancora una probabilità bassa. L’Unione Europea è intervenuta con l’AI Act, primo regolamento europeo che stabilisce regole chiare e sicure per lo sviluppo e l’uso dell’Intelligenza Artificiale nell’Unione Europea. L’AI Act divide i sistemi di AI in base ai rischi, da “vietati” ad alti, fino a limitati o minimi.
Inoltre, proprio OpenAI si è mossa con una richiesta ufficiale al Congresso americano di introdurre requisiti obbligatori per i modelli di AI più avanzati. Rallentare l’avanzamento introducendo sistemi di sicurezza che stiano alla pari con la velocità di automigliorarsi dell’AI.
Mentre il dibattito continua ad accendersi, Il Sole 24 Ore di domenica 13 settembre riporta una notizia su cui riflettere: sono evaporati da OpenAI e Anthropic oltre 270 miliardi di dollari di valutazione implicita. Si tratta delle due società americane che gestiscono i modelli di AI più diffusi, ovvero ChatGPT e Claude. “Il tutto nel corso di queste ore di week end, mentre i mercati tradizionali sono chiusi. Il segnale arriva da Hyperliquid, la piattaforma decentralizzata sulla quale vengono scambiati contratti legati al possibile valore futuro di alcune delle più importanti società private del mondo”.
Dobbiamo chiederci: “Tutte le persone che utilizzano l’AI conoscono davvero rischi e benefici?”
Mi ha colpito molto, seguendo un recente seminario sull’argomento, che quando l’AI non sa, inventa. Ma, il bello è che lo fa con una tale logica da essere molto convincente, al punto da fornirci anche le fonti, che non sempre esistono. Un esempio: un’importante società di consulenza produce un report per il Ministero del Lavoro australiano sul sistema automatico di sanzioni del Welfare. Peccato che un ricercatore dell’Università di Sidney ci trova riferimenti accademici inesistenti, una ventina di errori e una sentenza della Corte Federale mai pronunciata. E la società di consulenza restituisce l’ultima rata del contratto. È successo davvero.
Bisognerebbe, dunque, utilizzare l’AI se si hanno le competenze per distinguere ciò che ci sta dicendo e verificare ciò che produce. Perché libera tempo, schematizza, ordina, fa le slides, produce video, se siamo bravi a dare i comandi ci fa anche una app che ci serve, ma l’output dipende sempre dall’input.
E come tutti gli strumenti, l’utilizzo consapevole genera dei buoni esiti, quello superficiale, incosciente, o addirittura criminale, sfugge al controllo, con esiti che non possiamo determinare.
Maria Luisa Visione
