Intelligenza artificiale: quando il progresso diventa una scommessa sull’umanità

C’è qualcosa di profondamente inquietante quando a lanciare l’allarme sui pericoli di una tecnologia non sono i suoi detrattori, ma coloro che quella tecnologia la conoscono dall’interno e contribuiscono a costruirla. È quanto sta accadendo nel mondo dell’intelligenza artificiale dopo le dimissioni di Jacob Coxon, giovane ricercatore che ha lavorato prima in OpenAI e successivamente in Anthropic, una delle società più importanti impegnate nello sviluppo dei sistemi di intelligenza artificiale avanzata. Coxon non ha lasciato il proprio lavoro per passare alla concorrenza né, almeno stando alle sue dichiarazioni, per ragioni economiche. Ha rinunciato persino a quote societarie che avrebbe potuto maturare continuando a lavorare nell’azienda. Se n’è andato denunciando quella che considera una corsa irresponsabile verso sistemi di intelligenza artificiale sempre più potenti e, in prospettiva, capaci di contribuire al proprio stesso miglioramento. La sua accusa è pesante: le grandi aziende starebbero correndo verso la superintelligenza senza avere ancora risolto il problema fondamentale di come mantenerla sotto il controllo umano. Il fatto più sorprendente è che Coxon non sembra essere una voce completamente isolata. Evan Hubinger, ricercatore di Anthropic che lavora proprio sui problemi dell’allineamento e del controllo dei sistemi avanzati, ha dichiarato di considerare superiore al 10 % la probabilità che l’intelligenza artificiale possa provocare l’estinzione dell'umanità nel prossimo decennio. Questo numero, però, va interpretato correttamente. Non è il risultato di un esperimento scientifico e non significa che sia stato dimostrato che esiste il 10 % di probabilità che l’intelligenza artificiale distrugga l’uomo. È una valutazione personale del rischio formulata da uno specialista. Potrebbe essere enormemente sovrastimata. Potrebbe essere inferiore all’uno per cento. Potrebbe essere infinitesimale. Ma è proprio qui che nasce una domanda difficile da eludere: quando la conseguenza possibile è irreversibile, quale percentuale di rischio siamo disposti ad accettare? Se anche la probabilità fosse dello 0,1 per cento, o ancora inferiore, potremmo semplicemente ignorarla? La storia dell’umanità è stata accompagnata continuamente dal rischio. Ogni grande innovazione ha prodotto paure, spesso successivamente rivelatesi eccessive. Ma esiste una differenza sostanziale fra un rischio dal quale è possibile tornare indietro e uno capace, almeno teoricamente, di superare un punto di non ritorno. Il pericolo non è Terminator. Quando si parla di una possibile intelligenza artificiale fuori controllo, l’immaginario cinematografico conduce immediatamente ai robot che si ribellano agli uomini. Il problema reale è assai meno spettacolare e, forse proprio per questo, più serio. I sistemi di oggi rispondono prevalentemente alle richieste dell’uomo. Ma stanno rapidamente sviluppandosi sistemi cosiddetti “agenti”, capaci di ricevere un obiettivo e svolgere autonomamente numerose operazioni per raggiungerlo: programmare, utilizzare strumenti informatici, analizzare informazioni, individuare vulnerabilità, prendere decisioni intermedie e verificare i risultati ottenuti. Tutto questo può rappresentare un progresso straordinario. La stessa tecnologia potrebbe accelerare la ricerca scientifica, contribuire alla scoperta di nuovi farmaci, migliorare la diagnosi delle malattie, aumentare la produttività e mettere a disposizione dell’uomo capacità che fino a pochi anni fa appartenevano alla fantascienza. Ogni strumento potente però possiede inevitabilmente un’altra faccia. Un sistema estremamente competente nell’individuare vulnerabilità informatiche può difendere una rete, ma può anche contribuire ad attaccarla. Le conoscenze utilizzate per favorire la ricerca biologica potrebbero essere impiegate per scopi distruttivi. Sistemi capaci di persuadere milioni di individui potrebbero diventare formidabili strumenti di manipolazione politica, economica e sociale. Più volte in passato ho fatto l’esempio del bisturi per rappresentare plasticamente la duplice potenzialità di uno strumento in mano all’uomo. Un bisturi in mano a un chirurgo può salvare una vita; in mano a un assassino può toglierla. Poi esiste il problema più difficile: l’allineamento. Significa riuscire a garantire che un’intelligenza artificiale sempre più autonoma continui realmente a perseguire gli obiettivi e i valori stabiliti dall’uomo, anche quando diventa enormemente più capace dei sistemi attuali. Il pericolo non presuppone che una macchina sviluppi odio verso l’umanità. Potrebbe essere sufficiente che un sistema potentissimo persegua con estrema efficienza un obiettivo definito male, trovi strategie impreviste per raggiungerlo o consideri alcuni vincoli imposti dall’uomo semplicemente come ostacoli. Ad esempio: a un sistema “agente” potrebbe essere ordinato di risolvere il problema del riscaldamento globale. Questo, con grande efficienza, si metterebbe all’opera ricercando le cause principali. Cosicché in breve arriverebbe a scoprire che la causa principale è rappresentata dalle attività umane e, in particolare, dall’enorme quantità di gas serra immessa nell’atmosfera. Chi ci assicura che questo nemmeno tanto ipotetico sistema agente non scelga la via più diretta? Uomo = problema. Eliminando l’uomo si risolve il problema. In questo caso un film come Terminator non sarebbe più fantascienza, ma una probabile soluzione finale catastrofica e irreversibile. Poi esiste un problema ancora più profondamente umano. La concorrenza. Immaginiamo che un’azienda sia convinta della necessità di rallentare lo sviluppo per effettuare maggiori controlli. Nello stesso momento, però, sa che un concorrente americano, cinese o di qualsiasi altra parte del mondo potrebbe continuare ad accelerare. Chi arriverà per primo a una vera superintelligenza potrebbe conquistare un vantaggio economico, scientifico, militare e geopolitico senza precedenti. Ed ecco il paradosso. Anche chi ritiene pericolosa la corsa può sentirsi costretto a parteciparvi perché teme che qualcun altro arrivi prima. È questa forse la parte più inquietante delle parole di Coxon: non necessariamente l’esistenza di uomini irresponsabili desiderosi di costruire qualcosa di incontrollabile, ma la possibilità che un sistema competitivo induca persone razionali a compiere collettivamente una scelta che nessuna di loro farebbe individualmente. È un meccanismo che conosciamo bene. L’economia, la corsa agli armamenti e lo sfruttamento delle risorse naturali ci hanno insegnato più volte che ciò che conviene al singolo soggetto nel breve periodo può diventare disastroso quando tutti fanno contemporaneamente la stessa cosa. Chi deve decidere fin dove possiamo arrivare? A questo punto la questione non può più riguardare soltanto le aziende. Non possiamo chiedere esclusivamente a chi possiede enormi interessi economici nello sviluppo dell’intelligenza artificiale di stabilire autonomamente quale livello di rischio sia accettabile per l’intera società. Ciò non significa arrestare il progresso. Significa governarlo. I governi possono imporre verifiche indipendenti sui sistemi più potenti, stabilire livelli di sicurezza crescenti, controllare i grandi centri di calcolo necessari ad addestrarli, proteggere i modelli dal furto, obbligare le aziende a comunicare gli incidenti e, nei casi estremi, impedire temporaneamente la diffusione di un sistema quando non esistano sufficienti garanzie sulla sua sicurezza. Qualcosa si sta già facendo. L’Unione europea ha introdotto obblighi specifici per i modelli di intelligenza artificiale che presentano rischi sistemici. Persino Anthropic sostiene oggi che i governi debbano disporre, per i sistemi più avanzati e pericolosi, di strumenti capaci di impedirne o limitarne la diffusione. Nessuna legislazione nazionale potrà però essere sufficiente. L’intelligenza artificiale non conosce frontiere. Se una parte del mondo rallenta mentre un’altra accelera senza alcuna precauzione, il problema rimane. Per i sistemi realmente avanzati sarà quindi necessaria una forma di cooperazione internazionale, con standard condivisi, verifiche e limiti comuni. Non sarà semplice. Probabilmente sarà difficilissimo; ma l’alternativa sarebbe affidare una delle tecnologie potenzialmente più potenti mai create dall’uomo alle sole regole della concorrenza. Non sappiamo che cosa accadrà. Ed è proprio questo il problema. Nessuno oggi può affermare seriamente che una futura superintelligenza provocherà la fine dell’umanità; ma nessuno può neppure dimostrare con assoluta certezza il contrario. Quindi, forse dovremmo evitare entrambe le tentazioni: quella di trasformare ogni previsione catastrofica in una profezia e quella di considerare ridicolo qualsiasi allarme soltanto perché riguarda qualcosa che ancora non è accaduto. L’intelligenza artificiale potrebbe diventare uno degli strumenti più straordinari mai realizzati dall’uomo. Potrebbe aiutarci a comprendere meglio l’universo, la materia, le malattie e persino noi stessi. Però, proprio la grandezza delle sue potenzialità dovrebbe imporci una responsabilità altrettanto grande. Perché esiste una differenza fondamentale fra avere paura del futuro e preoccuparsi responsabilmente di costruirlo. La domanda, allora, non dovrebbe essere se dobbiamo fermare l’intelligenza artificiale. Dovrebbe essere un’altra: siamo davvero disposti a lasciare che una corsa economica e geopolitica decida, al posto dell’intera umanità, quale rischio l’umanità debba correre? Quando una conseguenza può essere irreversibile, l’assenza di certezza sul pericolo non equivale alla certezza dell’assenza di pericolo.

Angelo Lo Verme