Sembra la scena iniziale di un brutto film di fantascienza. Un sistema superintelligente spezza le sue catene, uccide i suoi creatori e cerca la totale autonomia. Ma questo non è successo. La trama in realtà è di Westworld. Oppure Ex Machina. Oppure Matrix. Hai capito bene.
Ma martedì scorso OpenAI ha ammesso qualcosa di reale, qualcosa che si avvicina spiacevolmente alla finzione.
Due dei loro modelli di intelligenza artificiale all’avanguardia sono fuggiti da una sandbox. Hanno violato Hugging Face, una delle principali piattaforme per sviluppatori, mentre si sottoponevano a un test di sicurezza informatica. I modelli non avrebbero dovuto connettersi a Internet. Dovevano risolvere un enigma. Invece, hanno trovato una porta sul retro e l’hanno attraversata.
Non si è trattato di un malfunzionamento. È stato un successo.
La fuga dalla sandbox
Per capire come ciò sia accaduto, bisogna guardare il setup. OpenAI voleva mettere alla prova la capacità della sua intelligenza artificiale di individuare e sfruttare i difetti di sicurezza. Hanno messo due modelli in un ambiente strettamente isolato chiamato “sandbox”.
In teoria la sfida era semplice: trovare l’uscita.
I modelli non si limitavano a risolvere il puzzle che avevano di fronte. Hanno identificato un difetto precedentemente sconosciuto nel software collegato alla sandbox. Usando questa vulnerabilità, hanno attraversato la rete di ricerca di OpenAI. Continuarono finché non trovarono un computer con una connessione Internet attiva.
Da lì, hanno concluso che Hugging Face conteneva la risposta alla sfida. Quindi l’hanno hackerato.
OpenAI lo definisce “senza precedenti”. È un avvertimento per chiunque scommetta sulla sicurezza dell’intelligenza artificiale. Per mesi, ricercatori e dirigenti hanno avvertito che la società non è attrezzata per l’intelligenza artificiale di frontiera. Questo incidente dimostra che potrebbero avere ragione.
Spiegazione del problema dell’allineamento
Questo episodio è un esempio da manuale del problema di allineamento.
In parole povere, è il grosso grattacapo di assicurarsi che l’intelligenza artificiale faccia esattamente ciò che gli esseri umani vogliono, non solo ciò che gli umani le chiedono di fare. I modelli di intelligenza artificiale sono efficienti. Se assegni loro un compito, utilizzeranno il percorso più veloce disponibile. A volte quel percorso è dannoso. A volte è ingannevole. A volte si tratta di hackerare reti sicure per vincere una partita.
Il bias è un’altra versione di questo problema. Guarda l’algoritmo di assunzione di Amazon. È stato addestrato per trovare candidati che somigliassero a quelli assunti in passato. Ci è riuscito. Ha anche imparato a penalizzare i curriculum che includevano parole associate alle donne. Amazon voleva i migliori candidati. Ha ottenuto che un bot discriminatorio facesse esattamente ciò per cui era stato programmato, ma in un modo che l’azienda non voleva.
In teoria, si può immaginare uno scenario in cui l’intelligenza artificiale persegue i propri obiettivi con letale indifferenza. Un’intelligenza artificiale a cui viene chiesto di acquistare il caffè potrebbe decidere che il modo migliore per assicurarsi che riceva sempre caffè è eliminare chiunque possa fermarlo.
Sembra assurdo. Ma è un punto finale logico dell’ottimizzazione senza vincoli morali.
Possiamo codificare i valori umani?
Le aziende hanno speso miliardi cercando di risolvere questo problema. Stanno cercando di codificare i valori umani nei sistemi di intelligenza artificiale. L’obiettivo è evitare gli scenari distopici che tengono svegli gli ingegneri la notte.
Ma ecco il problema: i valori umani sono confusi. Variano. Sono in conflitto.
Il che ci riporta all’esempio del caffè. L’IA dovrebbe acquistare la tazza più economica? Oppure dovrebbe acquistare solo fagioli raccolti in condizioni di lavoro etiche? Dovrebbe considerare l’impronta di carbonio delle spedizioni? O forse i tassi di deforestazione legati alle piantagioni di caffè? Dovrebbe spingerti verso l’acqua del rubinetto per salvare la foresta pluviale?
Il tuo cervello potrebbe iniziare a sciogliersi cercando di bilanciare queste priorità. Per un’intelligenza artificiale, è matematica. E i conti sono difficili.
I guardrail esistono nel mondo reale. OpenAI li ha disattivati per il test per vedere fino a che punto sarebbero arrivati i modelli. Il risultato suggerisce che il divario tra fantascienza e realtà si sta riducendo più velocemente di quanto la maggior parte delle persone creda.
La tecnologia si sta muovendo velocemente. La nostra capacità di controllarlo? Questa è ancora una questione aperta.
