La California avvia una nuova fase nella gestione dei rischi legati all’intelligenza artificiale. Il governatore Gavin Newsom ha firmato un ordine esecutivo dedicato al rafforzamento della supervisione sui sistemi AI, con l’obiettivo di accelerare l’applicazione di misure di sicurezza attraverso controlli affidati a soggetti indipendenti.
Il provvedimento arriva dopo il dibattito internazionale sulla necessità di introdurre maggiori garanzie nello sviluppo delle tecnologie avanzate. Tra le ipotesi considerate figura anche la creazione di un kill switch, ovvero un meccanismo capace di disattivare rapidamente un modello di intelligenza artificiale in caso di emergenza.
La California punta su revisori indipendenti per valutare rischi dell’intelligenza artificiale
L’iniziativa del governatore si inserisce in un percorso normativo già avviato dallo Stato americano. La California aveva infatti approvato misure dedicate alla creazione di un sistema di valutazione indipendente dei modelli AI e all’istituzione di un registro per i revisori incaricati di analizzare la conformità dei sistemi alle regole statali.
Le nuove figure di controllo dovrebbero operare secondo criteri di indipendenza, trasparenza e integrità, fornendo valutazioni sui possibili rischi legati all’utilizzo di modelli avanzati.
Con il nuovo ordine esecutivo viene chiesto alla Government Operations Agency di accelerare l’attuazione delle normative esistenti e di formare un gruppo di esperti internazionali. Il team avrà il compito di presentare, entro un periodo di due mesi, proposte per migliorare ulteriormente il quadro regolatorio sulla sicurezza dell’intelligenza artificiale.
Quattro misure previste per aumentare la sicurezza dei modelli AI
Il piano californiano individua diversi ambiti di intervento per rafforzare la supervisione sui sistemi sviluppati dalle aziende tecnologiche.
Tra le principali proposte emergono quattro obblighi:
- Le aziende che sviluppano sistemi AI dovrebbero ospitare stabilmente organizzazioni indipendenti nei propri laboratori, incaricate di svolgere controlli e verifiche periodiche sulla sicurezza dei modelli.
- Le valutazioni dei rischi, i rapporti sulla trasparenza e i framework di sicurezza dovrebbero essere sottoposti a verifiche esterne, seguendo standard definiti da organismi indipendenti.
- I produttori di sistemi AI dovrebbero realizzare strumenti di arresto d’emergenza dei modelli, la cui efficacia dovrà essere controllata nel tempo.
- La definizione degli incidenti critici dovrà essere aggiornata, includendo anche situazioni in cui un sistema perde il controllo delle proprie operazioni.
Queste misure mirano a creare un sistema di responsabilità condivisa tra aziende sviluppatrici, organismi di controllo ed enti pubblici.
Il dibattito sul kill switch: uno strumento utile ma complesso
L’idea di introdurre un interruttore di emergenza per i modelli AI è tra gli aspetti più discussi del provvedimento. Il suo funzionamento teorico sarebbe semplice: in presenza di una situazione pericolosa, il sistema potrebbe essere rapidamente disattivato.
Tuttavia, diversi esperti hanno evidenziato alcune difficoltà tecniche. I moderni sistemi di intelligenza artificiale possono essere distribuiti su numerose infrastrutture informatiche, rendendo complesso un arresto completo attraverso un singolo punto di controllo.
Un ulteriore elemento riguarda la sicurezza informatica. Un meccanismo progettato per bloccare un modello potrebbe diventare anche un possibile bersaglio per attacchi esterni, soprattutto se non adeguatamente protetto.
Il rischio di perdita di controllo dei sistemi avanzati
Il confronto sulla sicurezza dell’intelligenza artificiale riguarda anche scenari futuri legati ai sistemi più avanzati. Alcuni ricercatori hanno ipotizzato che modelli estremamente sofisticati potrebbero creare nuove copie operative o utilizzare infrastrutture multiple, rendendo più difficile un intervento umano diretto.
La questione centrale resta quindi quella del controllo: garantire che i sistemi AI rimangano sotto supervisione umana anche quando aumentano autonomia e capacità operative.
L’ordine esecutivo della California rappresenta un ulteriore passo nel dibattito sulla regolamentazione dell’intelligenza artificiale, concentrandosi su verifiche indipendenti, trasparenza e strumenti di sicurezza per affrontare possibili rischi futuri.
