Ricercatore di Anthropic si dimette, ‘umanità a rischio entro fine decennio’

Un ricercatore di Anthropic si è
dimesso dal laboratorio di intelligenza artificiale, avvertendo
che la corsa incontrollata alla creazione di una
superintelligenza capace di auto-migliorarsi potrebbe
distruggere l’umanità entro la fine del decennio. Jacob Coxon,
ricercatore britannico di 27 anni in forza all’azienda con sede
a San Francisco, ha affermato che Anthropic e la sua principale
concorrente, OpenAI, stanno “giocando d’azzardo” con il futuro
dell’umanità.

   
Lo riporta il Financial Times.

   
“Le persone che sviluppano l’Ia credono sinceramente che
essa possa ucciderci tutti entro la fine del decennio”, ha
dichiarato in una serie di post su X con cui annunciava le
proprie dimissioni. “Non si tratta di una mossa di marketing”,
ha aggiunto. “Nessun’altra attività umana comporta un tale
livello di pericolo”, ha ammonito. Coxon è l’ultimo dipendente a
lasciare un importante laboratorio statunitense di Ia citando
preoccupazioni legate alla sicurezza, un fatto che evidenzia il
crescente allarme tra i ricercatori riguardo alla potenza dei
sistemi che stanno sviluppando. Il suo addio giunge mentre
Anthropic – che ha fatto della sicurezza dell’Ia un elemento
centrale della propria immagine pubblica – si prepara a una
colossale offerta pubblica iniziale (Ipo) che potrebbe portare
la valutazione dell’azienda a mille miliardi di dollari. Coxon,
che in precedenza aveva lavorato presso OpenAI prima di passare
ad Anthropic, ha avvertito che le persone al di fuori dei
laboratori stanno sottovalutando la potenza di questa
tecnologia. “Presto si tratterà di sistemi sovrumani in grado di
hackerare qualsiasi cosa, rivoluzionare qualsiasi settore
dall’oggi al domani e acquisire potere e risorse reali”, ha
affermato.

   
Un importante ricercatore nel campo della sicurezza presso
Anthropic Evan Hubinger ha risposto all’allarme di Coxon
affermando che l’intelligenza artificiale si sta evolvendo così
rapidamente da fargli ritenere che vi sia una probabilità
superiore al 10% che “possa sterminare tutta l’umanità” entro il
prossimo decennio.

   
In un post su X, Evan Hubinger ha affermato che il rischio
derivante dai modelli attualmente esistenti è “basso”, ma si è
detto “preoccupato” che la tecnologia possa presto svilupparsi e
perfezionarsi al punto da rappresentare un rischio esistenziale
per l’umanità.

   

Riproduzione riservata © Copyright ANSA