E se le macchine prendessero il controllo? L’allarme arriva da Anthropic, la start-up americana leader nel settore dell’intelligenza artificiale e società madre del chatbot Claude. Gli esperti dell’azienda hanno pubblicato un saggio in cui evidenziano come il progresso dell’IA stia avvicinando l’umanità a un punto di non ritorno, in cui gli esseri umani potrebbero perdere il controllo della tecnologia.
Il rischio dell’auto-miglioramento dell’IA
Secondo il documento redatto da Marina Favaro e Jack Clark, capo della ricerca e Ceo di Anthropic, uno dei pericoli principali è il cosiddetto “recursive self-improvement”: sistemi di intelligenza artificiale in grado di aggiornarsi e migliorarsi autonomamente, fino a creare versioni successive senza intervento umano. In Anthropic, oltre l’80% del codice viene oggi generato direttamente dai modelli, e gli esperti avvertono che la soglia di autonomia completa potrebbe essere raggiunta prima che i governi riescano a introdurre regole efficaci.
L’IA paragonata a una corsa agli armamenti
Favaro e Clark sottolineano come la crescita dell’IA ricordi una corsa agli armamenti tecnologica. A differenza dei missili, però, le piattaforme di intelligenza artificiale possono essere sviluppate e nascoste facilmente, aumentando il rischio di uso improprio. Proprio per questo, Anthropic ha sospeso il rilascio di Mythos, il suo sistema più potente, per prevenire possibili attacchi informatici.
Una richiesta globale di responsabilità
L’azienda propone uno stop globale allo sviluppo dell’IA, ma a condizione che tutti i concorrenti mondiali aderiscano alla misura. “Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia, potremmo avere più tempo per comprendere le sue implicazioni e gestirle in sicurezza”, spiegano i vertici di Anthropic. Dario Amodei, co-Ceo, aggiunge che c’è una possibilità su quattro che la situazione possa degenerare seriamente se non si interviene tempestivamente.
