Ho scritto qui: https://truereport.net/non-aver-paura-dellagi/ la mia visione su questa paura per l’intelligenza artificiale.
Adesso sembra che sia in atto una vera e propria gara tra le nazioni, per stabilire chi per prima, riuscirà a controllare questa tecnologia ed alcune persone sono contrarie a ritardare l’IA perché potrebbe far sì che la Cina (o qualcun altro) vinca tale gara, ma supponiamo che questa sia solo una normale tecnologia trasformativa, non più importante dell’elettricità, delle automobili, o dei computer.
Chi ha vinto la gara dell’elettricità?
Forse Thomas Edison, ma questo non ha fatto sì che i suoi discendenti governassero il mondo come imperatori, o rendessero Menlo Park una seconda Roma.
Non ha nemmeno avvantaggiato particolarmente l’America.
Edison si è arricchito personalmente, l’equilibrio generale del potere non è cambiato e oggi tutti i paesi sviluppati hanno l’elettricità.
Chi ha vinto la gara automobilistica?
Karl Benz? Henry Ford? Ci sono stati molti passaggi tra il primo prototipo di arresto e l’adozione diffusa.
Benz e Ford si sono arricchiti personalmente, le loro aziende rimangono influenti ancora oggi e Mannheim e Detroit rimangono importanti centri di produzione automobilistica, ma altre aziende, come Toyota e Tesla sono ugualmente importanti. L’equilibrio generale del potere non è cambiato e oggi, tutti i paesi sviluppati, hanno automobili.
Chi ha vinto la gara del computer?
Charles Babbage? Alan Turing? John von Neumann? Steve Jobs? Bill Gates?
Ancora una volta, è stato un lungo percorso di miglioramenti incrementali. Jobs e Gates sono diventati ricchi e le loro città d’origine sono grandi centri tecnologici, ma altre persone sono diventate ancora più ricche e ora, per qualche motivo, il centro mondiale di produzione di chip è a Taiwan.
L’equilibrio generale del potere non è cambiato (tranne forse durante una breve finestra in cui le bombe hanno distrutto Enigma) e oggi tutti i paesi sviluppati hanno i computer.
Le gare più importanti si sono svolte per specifiche tecnologie militari, durante le guerre. La più famosa: gli Stati Uniti hanno vinto la corsa per le armi nucleari.
I nemici dell’America le hanno ottenute poco dopo, ma il breve momento di dominio, è stato sufficiente per vincere la seconda guerra mondiale.
Forse, in un certo senso, gli inglesi hanno vinto una gara per il radar, anche se non era una vera e propria gara, poichè l’Asse lo sapeva e stava gareggiando per ottenerlo per primo.
Forse, in un certo senso, i paesi gareggiano per ottenere aerei da combattimento, carri armati, satelliti, ecc. migliori rispetto a quelli dei loro rivali, ma i comuni mortali non si preoccupano di queste cose.
Nessuna parte della politica automobilistica degli Stati Uniti si basa sulla vittoria della corsa automobilistica contro la Cina, in un certo senso, dove la ricerca e lo sviluppo di auto di consumo influirà sui carri armati e i nostri rischi militari saranno lasciati indietro.
Penso che alcune persone sentano i transumanisti parlare di una “razza AI” e lo ripetano senza pensare, senza chiedersi a quali presupposti li impegni.
I transumanisti parlano di vincere una gara di IA per due motivi.
In primo luogo, perché se credi che, ad un certo punto, l’IA non allineata potrebbe distruggere l’umanità, è importante allinearla prima che arrivi a quel punto. Le aziende che si preoccupano dell’allineamento potrebbero gareggiare per raggiungere quel punto, prima delle aziende che non se ne preoccupano.
In questo momento è tutto accademico, perché nessuno sa come farlo, ma se qualcuno lo capisse, vorremmo che quelle persone vincessero la gara.
In secondo luogo, perché alcuni transumanisti pensano che l’IA potrebbe causare una singolarità tecnologica che accelera i prossimi millenni di progressi, in pochi anni.
In una singolarità tecnologica più graduale (a volte chiamata “decollo lento“) c’è qualche incentivo a gareggiare.
Paul Christiano ha definito un decollo lento come uno in cui l’IA accelera la crescita così velocemente, che il PIL raddoppia ogni quattro anni (quindi il 20% di crescita su base annua).
Questo è più veloce di quanto qualsiasi paese abbia mai raggiunto nella vita reale, così veloce che la ricchezza aumenterebbe di 100 volte, nel corso di una generazione.
La Cina è, attualmente, circa 2 anni indietro rispetto agli Stati Uniti nell’IA. Se fossero ancora indietro di due anni quando si verifica un decollo lento, gli Stati Uniti otterrebbero un vantaggio del PIL del ~ 40%.
Questo non è sufficiente per vincere automaticamente qualsiasi conflitto (la Russia ha un vantaggio del PIL 10 volte superiore sull’Ucraina; l’India ha un vantaggio del PIL di 10 volte rispetto al Pakistan). È un grosso problema, ma probabilmente ancora presente in un mondo multipolare.
I mondi a decollo lento hanno gare, ma non sono determinanti.
Un caso in cui perdere una gara di IA è fatale, è in quello che i transumanisti chiamano un decollo veloce, dove l’IA accelera millenni di normali progressi tecnologici, in mesi, settimane, o addirittura giorni. Questo, probabilmente, accade solo se l’IA super-intelligente può capire come migliorare la propria intelligenza in un ciclo di feedback critico.
Sono piuttosto scettico su questi scenari, nell’attuale paradigma dell’intelligenza artificiale, dove l’elaborazione è spesso la risorsa limitante, ma altre persone non sono d’accordo. In un rapido decollo, potrebbe essere che tu vada a dormire con la Cina arretrata di sei mesi rispetto agli Stati Uniti e ti svegli la mattina dopo con la Cina che ha: fusione, nanotecnologia e astronavi.
Ricordiamo la corsa alle armi nucleari perché sono una tecnologia binaria: o le hai, o non le hai.
Quando gli Stati Uniti inventarono i bombardieri stealth, i loro nemici avevano aerei leggermente peggiori, che erano leggermente meno invisibili, ma quando gli Stati Uniti inventarono le armi nucleari, i loro nemici erano bloccati con bombe normali.
Non esiste una bomba atomica leggermente peggiore, che possa distruggere solo mezza città. Ovunque, al di fuori degli scenari transumanisti più estremi, l’IA è più simile al bombardiere stealth.
Potresti avere GPT-3, GPT-4, qualche GPT-5 futuro, ma un divario di due anni significa che hai delle IA leggermente peggiori, non che tu non abbia affatto un’IA.
L’unico caso in cui c’è un singolo punto critico, in cui, o hai l’IA trasformativa o niente, è nello scenario di decollo duro, in cui a una certa soglia, l’IA si auto-migliora ricorsivamente all’infinito. Se qualcuno raggiunge questa soglia prima di te, allora hai perso una gara!
Tutti quelli che conosco che credono nei decolli veloci sono condannati.
Non c’è modo di andare a dormire con un’IA normale (solo leggermente superiore al livello umano) svegliarsi con un’IA che ha poteri divini che sta ancora facendo quello che vuoi.
Non hai alcuna possibilità di eseguire il debug dell’IA al livello N e prepararla per il livello N + 1.
Si salta direttamente dal livello N al livello N + 1.000.000. L’IA riscrive radicalmente il suo codice molte volte in una sola notte. Sei piuttosto condannato.
Se non credete in folli scenari di fantascienza come questi, bene, ma allora perché siete così sicuri che sia fondamentale vincere la gara dell’IA?
Se siete sicuri che questo genere di cose non accadrà, allora dovreste trattare l’IA come l’elettricità, le automobili, o i bombardieri stealth.
Potrebbe far pendere l’ago della bilancia di una guerra mal programmata, ma altrimenti, puoi semplicemente rubare la tecnologia e recuperare il ritardo.
Sto insistendo su questo punto perché molte persone vogliono avere entrambe le cose.
Dicono che non dovremmo preoccuparci dell’allineamento, perché l’IA sarà solo un’altra tecnologia, ma anche, che non possiamo non preoccuparci dell’allineamento, perché sarebbe un ritardo inaccettabile dato che dobbiamo vincere la gara dell’IA.
Se l’intelligenza artificiale è solo un’altra tecnologia, non dobbiamo preoccuparci di questo!
E negli scenari in cui devi vincere le gare, vuoi davvero preoccuparti dell’allineamento?
