I senatori democratici hanno chiesto il diritto di controllare e censurare Internet per proteggersi dalla possibilità che l’IA produca contenuti che ritengono “disinformazione”.
Durante la prima audizione del Senato sull’IA generativa, i legislatori si sono mossi per prendere il controllo di Internet, usando l’emergere dell’IA generativa come scusa.
L’audizione era intitolata “Oversight of A.I.: Rules for Artificial Intelligence” e diversi senatori hanno interrogato i testimoni, il CEO di OpenAI, Sam Altman, il Chief Privacy & Trust Officer di IBM, Christina Montgomery, e il professore emerito della NYU, Gary Marcus, su come l’IA generativa potrebbe essere censurata o limitata in modo che non possa creare contenuti che considerano disinformazione.
La senatrice Amy Klobuchar (D-MN) ha dichiarato: “Non possiamo lasciare che le persone inventino cose e poi non abbiano alcuna conseguenza” Si è anche lamentata del fatto che il chatbot generativo di OpenAI, ChatGPT, aveva prodotto informazioni false dopo che il suo team gli aveva chiesto di creare un tweet su un seggio elettorale a Bloomington, nel Minnesota, e ha usato questo esempio per suggerire che “tutti i tipi di disinformazione” potrebbero essere generati durante le elezioni.
Altman ha detto a Klobuchar che OpenAI è preoccupata per l’impatto sulle elezioni e ha detto: “Speriamo che l’intera industria e il governo possano lavorare insieme rapidamente”.
Mentre ha notato che ChatGPT è diverso dai social media perché viene utilizzato per generare contenuti, non distribuirli, Altman ha comunque assicurato a Klobuchar che OpenAI sta censurando gli output di ChatGPT rifiutandosi di generare determinate cose e monitorando l’attività in modo che possa rilevare quando gli utenti generano molti contenuti.
Ironia della sorte, Klobuchar ha risposto ad Altman invocando “ciò che è successo in passato con interferenze russe e simili” come giustificazione per la repressione.
L’affermazione che la Russia abbia interferito con le elezioni presidenziali del 2016 e manipolato i social media è stata spinta da diversi politici pro-censura che sostengono che le false affermazioni che non sono supportate dai fatti sono pericolose. In effetti, visto il recente rapporto Durham, la falsa informazione è proprio che sia mai esistita un’interferenza russa nelle elezioni presidenziali.
Il senatore Mazie Hirono (D-HI) ha suggerito che le immagini generate dall’intelligenza artificiale dell’ex presidente Donald Trump arrestato che sono diventate virali a marzo erano “dannose”, si è lamentato del fatto che tali immagini potrebbero non essere classificate come dannose da OpenAI e ha spinto per ” proteggere letteralmente il nostro paese da contenuti dannosi”.
Il senatore Richard Blumenthal (D-CT) ha indicato di sostenere il divieto di output di modelli di intelligenza artificiale generativa “che coinvolgono elezioni” e ha chiesto ai testimoni quali altri output pensano dovrebbero essere vietati o limitati.
Montgomery ha detto che la “disinformazione” è un’area “estremamente importante” da esaminare. Marcus ha detto che “la disinformazione medica” è “qualcosa di cui preoccuparsi davvero” e ha chiesto “una regolamentazione rigorosa”.
Il senatore Josh Hawley (R-MO) ha proposto di creare un diritto federale di azione che “consentirà ai privati danneggiati da questa tecnologia di entrare in tribunale” e citare in giudizio le società di intelligenza artificiale generativa quando ricevono “disinformazione medica” o “disinformazione elettorale”.
Marcus ha respinto il suggerimento, suggerendo che “renderebbe ricchi molti avvocati” ma sarebbe “troppo lento per influenzare molte delle cose che ci interessano”.
Marcus ha aggiunto che non è chiaro se la Sezione 230 del Communications Decency Act (CDA), che conferisce alle piattaforme online l’immunità dalla responsabilità civile per i contenuti generati dagli utenti sulla loro piattaforma se moderano il contenuto in “buona fede”, si applichi o meno all’IA generativa. Ciò ha portato Hawley a suggerire che i legislatori creeranno una nuova legge che specifica che la Sezione 230 non si applica all’IA generativa.
Il senatore Chris Coons (D-DE) ha affermato che “la disinformazione che può influenzare le elezioni” è “del tutto prevedibile” e ha lamentato che il Congresso finora non ha avuto successo nell’applicare le norme sulla disinformazione sui social media. Ha chiesto ai testimoni se la direzione dell’UE è la strada giusta da seguire (un riferimento alla legge di vasta portata dell’Unione europea sull’IA che regola l’IA in base al rischio e vieta determinati usi dell’IA).
Coons ha anche caratterizzato la capacità dell’IA di fornire “informazioni selvaggiamente errate” come un “rischio sostanziale” e ha affermato che l’IA deve essere regolamentata. Ha chiesto ad Altman come OpenAI decide se un modello è “abbastanza sicuro da distribuire”.
Altman ha detto che OpenAI ha trascorso oltre sei mesi a stabilire gli standard di sicurezza per GPT-4, l’ultima versione del modello di linguaggio di grandi dimensioni che alimenta ChatGPT, e cercando di trovare i “danni”.
Il senatore Lindsey Graham (R-SC) ha suggerito che la Sezione 230 è stata un “errore”. Ha dedotto che gli utenti dovrebbero essere in grado di citare in giudizio le piattaforme se consentono “calunnie” o non riescono a far rispettare i loro termini di servizio contro azioni come il “bullismo”.
Ha chiesto a tutti i testimoni di concordare sul fatto che “non vogliamo farlo di nuovo” e che ci dovrebbe essere “responsabilità quando le persone sono danneggiate”.
Marcus ha osservato che esiste una “distinzione fondamentale tra la riproduzione di contenuti e la generazione di contenuti”, ma ha comunque convenuto che ci dovrebbe essere responsabilità quando le persone vengono danneggiate. Montgomery ha detto che IBM vuole “condizionare la responsabilità su uno standard di cura ragionevole”. Altman ha detto che la Sezione 230 non è il quadro giusto e ha spinto per “un approccio totalmente nuovo”.
Mentre i senatori di entrambi i lati del corridoio sono ansiosi di costringere le aziende di intelligenza artificiale a censurare i contenuti ritenuti disinformazione, nessuno di loro ha menzionato che la censura dei social media basata su questo termine vago e soggettivo ha portato alla censura di massa di contenuti veritieri, come la storia del laptop Hunter Biden e le dichiarazioni sul vaccino Covid che non impedisce la trasmissione.
I commenti del senatore Hirono indicano anche che i legislatori non hanno scrupoli ad applicare queste regole di censura radicale ai meme generati dall’intelligenza artificiale o contenuti simili che non sono destinati ad essere presi sul serio. Mentre alcune persone pensavano che le immagini dell’arresto di Trump generate dall’IA a cui Hirono faceva riferimento fossero reali, molti sapevano che non erano reali e le vedevano come un modo divertente per sperimentare con l’IA mentre l’arresto di Trump incombeva.
Non solo le preoccupazioni sull’eccessiva censura non sono mai state affrontate durante questa audizione, ma le società di intelligenza artificiale dominanti stanno già iniziando a censurare ciò che i loro strumenti produrranno.
Il CEO di Midjourney, lo strumento di intelligenza artificiale generativa utilizzato per creare le immagini virali dell’arresto di Trump, ha ammesso che Midjourney blocca vari prompt, compresi i prompt che tentano di creare immagini con il presidente cinese Xi Jinping.
OpenAI censura già alcuni output e ha promesso di implementare “salvaguardie” che affrontano la “disinformazione”.
La censura è solo una delle restrizioni che i legislatori stanno tentando di imporre a questa tecnologia potenzialmente trasformativa. Molti senatori sono anche molto inclini a consentire solo alle aziende che hanno una licenza approvata dal governo di offrire strumenti di intelligenza artificiale generativa.
Peccato per loro che la verità non può essere fermata in nessun modo.
