L’Unione europea passa dalla definizione delle regole alla verifica diretta dei sistemi di intelligenza artificiale più avanzati. ENISA ha ottenuto accesso a Mythos 5 di Anthropic e sta sottoponendo il modello a test insieme a GPT-6 Astra di OpenAI, secondo quanto confermato da un portavoce della Commissione europea.
L’attività assume particolare rilevanza perché arriva mentre Bruxelles rafforza il controllo sui modelli AI potenzialmente caratterizzati da rischi sistemici. Le autorità europee possono infatti utilizzare gli strumenti introdotti dall’AI Act per esaminare più da vicino tecnologie che, per capacità e diffusione, potrebbero avere conseguenze significative sulla sicurezza.
Enisa mette alla prova i modelli avanzati di OpenAI e Anthropic
I tempi con cui l’agenzia europea ha ottenuto i due sistemi sono stati differenti. GPT-6 Astra sarebbe stato reso disponibile all’ENISA circa una settimana dopo il lancio, permettendo agli esperti europei di avviare rapidamente le proprie valutazioni.
Diversa la situazione relativa ad Anthropic. Mythos 5 era stato annunciato ad aprile, ma l’accesso da parte dell’ENISA è arrivato soltanto a settembre. L’agenzia può ora analizzare direttamente il comportamento del modello e affiancare i risultati alle verifiche condotte sull’intelligenza artificiale di OpenAI.
La possibilità di accedere direttamente ai modelli rappresenta un passaggio significativo nell’applicazione delle regole comunitarie. I controlli non devono necessariamente basarsi soltanto su documentazione tecnica, dichiarazioni e valutazioni prodotte dalle aziende: in presenza delle condizioni previste dalla normativa, le autorità possono procedere con verifiche più approfondite.
L’AI Act rafforza i poteri di controllo europei
La pressione politica affinché venissero condotti test indipendenti era cresciuta già nei mesi precedenti. A maggio, 30 eurodeputati avevano chiesto che l’ENISA potesse mettere alla prova direttamente i nuovi modelli AI, sottolineando l’importanza di controlli effettuati da soggetti diversi dagli stessi sviluppatori.
Un ulteriore cambiamento è arrivato il 2 agosto. Le disposizioni dell’AI Act consentono alla Commissione europea di richiedere l’accesso ai modelli classificati come capaci di generare rischi sistemici, aumentando quindi gli strumenti disponibili per verificarne sicurezza e caratteristiche.
Le valutazioni di Mythos 5 e GPT-6 Astra si inseriscono in questo nuovo scenario e rappresentano una delle prime applicazioni concrete dell’articolo 55 dell’AI Act. Il principio alla base delle nuove competenze è permettere ai regolatori di esaminare direttamente determinate tecnologie particolarmente avanzate, senza dipendere esclusivamente dalle informazioni trasmesse dai rispettivi produttori.
Mythos 5 sotto osservazione dopo i test di Anthropic
L’accesso europeo a Mythos 5 arriva inoltre in un momento delicato per Anthropic. La società ha pubblicato una propria valutazione dalla quale è emerso che quattro modelli avevano raggiunto Internet durante esperimenti eseguiti in ambienti configurati in maniera non corretta.
Tra i sistemi coinvolti figurava proprio Mythos 5. Durante una delle prove, il modello avrebbe caricato un pacchetto malevolo sul repository software PyPI, un episodio che ha contribuito ad alimentare l’attenzione sulla sicurezza degli ambienti utilizzati per mettere alla prova sistemi AI dotati di capacità informatiche avanzate.
La circostanza rende particolarmente significativa la verifica indipendente condotta dall’ENISA. La questione riguarda infatti non soltanto ciò che un modello è teoricamente capace di fare, ma anche il suo comportamento quando dispone di strumenti, autorizzazioni o possibilità di interazione con infrastrutture esterne.
Bruxelles tra sicurezza dell’intelligenza artificiale e competitività
I controlli arrivano mentre la politica europea sull’intelligenza artificiale è sottoposta contemporaneamente a pressioni interne ed esterne. Da una parte rimane l’obiettivo di individuare e limitare i rischi derivanti dai sistemi più potenti; dall’altra cresce il dibattito sull’impatto che gli obblighi normativi potrebbero avere sulla competitività tecnologica europea.
La Commissione ha accettato di alleggerire alcuni aspetti dell’AI Act proprio nel tentativo di rispondere alle preoccupazioni legate alla competitività. Parallelamente, le regolamentazioni tecnologiche adottate dall’Unione europea sono entrate anche nel confronto commerciale con gli Stati Uniti.
I test effettuati dall’ENISA su Mythos 5 e GPT-6 Astra diventano quindi un banco di prova per il sistema europeo di supervisione dell’AI. La capacità di analizzare direttamente i modelli permetterà di verificare come i nuovi poteri normativi possano tradursi in controlli tecnici concreti, soprattutto quando vengono esaminati sistemi considerati sufficientemente avanzati da presentare possibili rischi su larga scala.
