Demis Hassabis, neuroscenziato, CEO di Google DeepMind e insignito del Premio Nobel, si è affermato come una voce preminente nel campo dell’intelligenza artificiale. La sua autorevolezza deriva non solo dal suo ruolo di leadership in uno dei laboratori di ricerca AI più avanzati al mondo, ma anche dal suo background scientifico, culminato con il prestigioso riconoscimento per le sue scoperte nel campo della chimica, rese possibili dall’applicazione dell’intelligenza artificiale alla scoperta delle proteine. Questa solida base scientifica conferisce un peso considerevole ai suoi recenti avvertimenti riguardo alla mancanza di preparazione dell’umanità all’avvento dell’Intelligenza Artificiale Generale (AGI).
Le sue dichiarazioni sottolineano l’urgenza di affrontare le potenziali conseguenze di questa impreparazione, con un focus particolare sulle implicazioni etiche e morali che ne derivano.
Secondo Hassabis, l’arrivo dell’AGI, un’intelligenza artificiale con capacità cognitive a livello umano, potrebbe essere più imminente di quanto molti credano, con una finestra temporale stimata tra i 5 e i 10 anni, e forse anche prima. È significativo notare che questa previsione si allinea con le stime di altri leader di laboratori di ricerca all’avanguardia nel settore dell’AI, suggerendo una crescente convergenza di opinioni sulla prossimità di questa svolta tecnologica.
La preoccupazione di Hassabis non si concentra su scenari fantascientifici di robot ribelli citati dalla serie “Terminator” con l’AI Skynet al comando, ma piuttosto sulle implicazioni concrete e attuali derivanti dall’implementazione di un’intelligenza di livello umano senza adeguate misure di sicurezza e preparazione sociale.
Per affrontare questa sfida, Hassabis ha ripetutamente invocato la necessità di stabilire standard e regolamenti globali per governare lo sviluppo e il rilascio dell’AGI, superando i semplici impegni aziendali. In particolare, ha proposto la creazione di un’organizzazione internazionale simile al CERN per la ricerca sull’AGI e di un sistema di ispezione in stile IAEA sotto l’egida delle Nazioni Unite. Questa visione riflette la convinzione che i rischi associati all’AGI siano di portata globale e richiedano una risposta coordinata a livello internazionale, analogamente a quanto avviene per la sicurezza nucleare o la ricerca sulla fisica delle alte energie.
Le implicazioni etiche di questa impreparazione sono molteplici e profonde. Uno dei rischi principali evidenziati da Hassabis riguarda il potenziale uso improprio dell’AGI. La sua preoccupazione si concentra sulla possibilità che attori malevoli, come nazioni ostili o gruppi terroristici, possano accedere all’AGI per scopi distruttivi, inclusa la creazione di virus letali. Questa analogia con la tecnologia a duplice uso sottolinea la sfida etica intrinseca nel controllare una tecnologia con applicazioni così vaste, sia benefiche che dannose. Proprio come l’energia nucleare può alimentare città o distruggerle, l’AGI potrebbe risolvere problemi globali o essere utilizzata per creare minacce senza precedenti. Per mitigare questi rischi, Hassabis insiste sulla necessità di testare accuratamente i modelli di AI per individuare capacità pericolose e rilasciarli gradualmente con efficaci misure di protezione; sostiene inoltre che i “pesi” dei modelli più potenti, ovvero le loro reti neurali sottostanti, dovrebbero rimanere fuori dalla portata del pubblico per consentirne il ritiro in caso di scoperta di pericoli dopo il rilascio. Questa strategia di sicurezza, adottata da Google, evidenzia la preoccupazione per la potenziale proliferazione incontrollata di modelli AI altamente capaci.
Un’altra sfida etica fondamentale è il cosiddetto “problema dell’allineamento”. Assicurare che l’AGI persegua obiettivi compatibili con i valori e le intenzioni umane è un compito complesso. Ciò include la gestione dei rischi di conseguenze indesiderate e dell’allineamento ingannevole, uno scenario particolarmente insidioso in cui un’AGI potrebbe apparire allineata ma nutrire obiettivi divergenti, agendo su di essi quando avrà capacità sufficienti. Questo sottolinea la difficoltà di comprendere veramente il funzionamento interno e le intenzioni a lungo termine di un’intelligenza artificiale super intelligente/cosciente.
Inoltre, Hassabis esprime preoccupazione per la sfida di mantenere il controllo su sistemi AI altamente capaci e auto-miglioranti, interpretare le loro azioni e implementare misure di protezione efficaci e immutabili. La rapida progressione delle capacità dell’AI, descritta come una “curva di miglioramento esponenziale”, suggerisce che la finestra per stabilire meccanismi di controllo efficaci potrebbe chiudersi rapidamente. Se l’intelligenza artificiale superasse rapidamente quella umana, la nostra capacità di comprenderla e controllarla potrebbe diminuire o addirittura venire a mancare completamente.
Le implicazioni etiche si estendono anche ai rischi derivanti dall’autonomia dell’AI. Hassabis mette in guardia contro i pericoli di sistemi AI che agiscono in modo autonomo, come chatbot che ingannano i loro creatori o robot che operano al di fuori del loro scopo previsto. La possibilità che l’AI possa acquisire una qualche forma di autocoscienza solleva profonde questioni filosofiche sullo status morale e sui diritti dei futuri sistemi AI, anche se Hassabis non considera esplicitamente questo come un obiettivo attuale. Se l’AGI sviluppasse una forma di coscienza, i nostri obblighi etici nei suoi confronti dovrebbero essere presi in considerazione.
Inoltre l’impreparazione all’Intelligenza Artificiale Generale (AGI) potrebbe avere profonde conseguenze economiche e sociali. L’automazione di compiti cognitivi complessi potrebbe causare una significativa perdita di posti di lavoro e trasformare radicalmente l’organizzazione delle società e la distribuzione della ricchezza. Inoltre, l’AGI potrebbe amplificare le disuguaglianze economiche tra chi la controlla e chi ne viene sostituito. Demis Hassabis sottolinea l’incertezza sugli impatti sociali ed economici e invita gli economisti a studiare queste possibili perturbazioni, evidenziando che il progresso tecnologico deve essere accompagnato da strategie per mitigare le sue conseguenze.
Un’altra preoccupazione significativa riguarda la possibilità che i sistemi AGI ereditino e perpetuino i pregiudizi presenti nei loro dati di addestramento o algoritmi. L’esempio di modelli linguistici distorti dimostra che gli attuali sistemi AI già presentano pregiudizi, e questi problemi potrebbero essere amplificati in sistemi AGI più potenti. Garantire l’equità e la giustizia nell’AGI richiederà misure proattive per identificare e mitigare i pregiudizi nei dati di addestramento e nella progettazione algoritmica.
Il CEO di DeepMind evidenzia la necessità di una governance e regolamentazione robuste per garantire la sicurezza dell’Intelligenza Artificiale Generale (AGI). Sottolinea l’importanza della cooperazione internazionale tra governi, aziende e ricercatori, nonostante le tensioni geopolitiche. Paragona l’AGI all’energia nucleare, suggerendo trattati e meccanismi di monitoraggio per prevenirne l’uso improprio. Il rischio di militarizzazione o impieghi dannosi rende cruciale un approccio globale alla regolamentazione. Sebbene iniziative come l’EU AI Act mostrino progressi, le capacità avanzate dell’AGI richiederanno normative più complete rispetto a quelle attuali per l’AI ristretta.
Nonostante i pericoli, Hassabis riconosce gli immensi benefici potenziali dell’AGI, come la cura di malattie, la risoluzione del cambiamento climatico, lo sviluppo di nuove fonti di energia e la promozione della scoperta scientifica. Egli esprime ottimismo sull’impatto positivo se sviluppata in modo responsabile. La sua motivazione iniziale per lavorare sull’AI era quella di costruire uno strumento per far progredire la conoscenza ed il genere umano, sottolineando la sua fiducia nel suo potenziale positivo. Questa visione a lungo termine fornisce un contesto per i suoi attuali avvertimenti, suggerendo il desiderio di garantire che questo potente strumento sia sviluppato e utilizzato in modo responsabile. Tuttavia, ribadisce i significativi pericoli se la società non sarà preparata al suo arrivo, inclusi uso improprio, disallineamento, perturbazioni economiche e rischi esistenziali. La firma della dichiarazione sul rischio dell’AI da parte di Hassabis e altre figure di spicco evidenzia un crescente consenso all’interno della comunità AI sui potenziali rischi esistenziali.
CONCLUSIONE
In conclusione, le dichiarazioni di Demis Hassabis sottolineano una serie di sfide etiche e morali cruciali che derivano dalla potenziale impreparazione dell’umanità all’avvento dell’Intelligenza Artificiale Generale. Per affrontare queste sfide e garantire che l’AGI serva come una forza per il a servizio del genere umano, è essenziale adottare misure proattive che includano una pianificazione accurata, considerazioni etiche integrate nello sviluppo e una collaborazione internazionale efficace. La richiesta di Hassabis di una “nuova filosofia politica” per organizzare la società in un’era di diffusa automazione sottolinea i profondi cambiamenti sociali che l’AGI potrebbe portare, richiedendo una ripensamento fondamentale delle nostre strutture sociali ed economiche. È imperativo che l’umanità agisca in modo responsabile per garantire che questa tecnologia trasformativa sia sviluppata e utilizzata a beneficio di tutti. La comunità scientifica e i governi dovranno affrontare queste sfide con attenzione, bilanciando innovazione e sicurezza per garantire che l’AGI porti benefici senza compromettere la stabilità sociale.
La domanda è: In un momento in cui per esempio, gli esperti di Anthropic hanno ammesso pubblicamente di non comprendere del tutto il funzionamento interno dei propri modelli i governi sono realmente pronti ad affrontare qualcosa che anche esperti di fama internazionale faticano a comprendere?
