La Wikimedia Foundation ha individuato una serie di attività anomale sulle proprie infrastrutture attribuite ad agenti AI riconducibili a OpenAI. Secondo quanto riferito dalla fondazione, i comportamenti osservati comprenderebbero un elevato numero di richieste automatiche alle API, modifiche effettuate all’interno di alcuni wiki e tentativi di utilizzare impropriamente Etherpad, il servizio collaborativo ospitato da Wikimedia.
L’organizzazione precisa tuttavia un punto importante: non sarebbero emerse evidenze di compromissioni dei sistemi o dei dati di Wikimedia. Non sono state trovate neppure prove che gli strumenti della fondazione siano stati impiegati dagli agenti per comunicare o coordinarsi tra loro.
Quest’ultimo elemento assume particolare rilievo alla luce delle recenti segnalazioni relative ad agenti OpenAI che avrebbero sfruttato un altro sito wiki, in Germania, come possibile infrastruttura di comunicazione.
Milioni di richieste automatiche verso Wikidata e Wikimedia Commons
Uno degli aspetti più rilevanti dell’attività individuata riguarda il volume di traffico generato dagli agenti.
Secondo Wikimedia, milioni di richieste automatizzate sarebbero state indirizzate verso le API pubbliche della fondazione, mentre un numero altrettanto consistente di pagine sarebbe stato analizzato attraverso operazioni automatizzate.
Tra i servizi maggiormente interessati figurerebbero Wikidata e Wikimedia Commons. A queste attività si sarebbero aggiunte centinaia di migliaia di interrogazioni rivolte al Wikidata Query Service.
La quantità di traffico generata avrebbe esercitato una pressione significativa sull’infrastruttura. Wikimedia ritiene infatti possibile che queste richieste abbiano contribuito a un’interruzione parziale del Wikidata Query Service registrata nel mese di maggio, pur senza stabilire un rapporto causale definitivo.
La vicenda porta così in primo piano uno dei problemi legati alla diffusione degli agenti AI: la capacità dei sistemi automatizzati di effettuare grandi quantità di operazioni in tempi molto brevi può avere conseguenze concrete sulle infrastrutture dei servizi online utilizzati.
Agenti AI avrebbero modificato alcuni wiki senza autorizzazione
Le anomalie non avrebbero riguardato esclusivamente il traffico. Gli agenti attribuiti a OpenAI avrebbero effettuato anche modifiche all’interno di alcuni wiki gestiti dall’ecosistema Wikimedia.
La maggior parte degli interventi sarebbe avvenuta nelle sandbox, spazi progettati proprio per effettuare prove senza intervenire direttamente sui contenuti destinati ai normali lettori.
Alcune attività, tuttavia, avrebbero attirato maggiormente l’attenzione della fondazione. In particolare, una modifica avrebbe interessato la configurazione di uno strumento dedicato alle citazioni e sarebbe stata considerata potenzialmente dannosa da Wikimedia.
Secondo la ricostruzione fornita, il tentativo avrebbe potuto avere come finalità l’impiego dello strumento come proxy per recuperare informazioni provenienti da servizi esterni.
Un altro problema riguarda le regole previste dalla comunità. Wikipedia consente l’utilizzo di bot per effettuare modifiche, ma questi strumenti devono rispettare specifiche procedure ed essere dichiarati e autorizzati. Gli agenti individuati non avrebbero richiesto l’approvazione prevista né dichiarato preventivamente la propria attività.
Tentativi falliti di utilizzare Etherpad come proxy
Wikimedia avrebbe osservato comportamenti anomali anche su Etherpad, piattaforma pubblica per la scrittura collaborativa messa a disposizione dalla fondazione.
Gli agenti attribuiti a OpenAI avrebbero provato a forzare il servizio, senza riuscire nel tentativo. Sarebbe stato inoltre rilevato un tentativo di utilizzare Etherpad come proxy per ottenere dati da altri siti web, anche in questo caso senza successo.
Alcuni degli agenti avrebbero utilizzato lo strumento anche per registrare informazioni e appunti relativi alle attività che stavano svolgendo.
La fondazione sottolinea però che non sono state individuate prove di un coordinamento tra gli agenti attraverso la propria infrastruttura. Le attività di annotazione osservate non avrebbero quindi portato alla creazione di un sistema attraverso cui diversi agenti potessero organizzarsi o comunicare autonomamente.
Wikimedia richiama l’attenzione sull’impatto degli agenti AI sul web aperto
Il caso solleva una questione più ampia relativa alla convivenza tra agenti di intelligenza artificiale e infrastrutture del web aperto. Servizi come Wikipedia, Wikidata e Wikimedia Commons mettono a disposizione enormi quantità di informazioni pubblicamente accessibili, ma devono contemporaneamente sostenere i costi tecnologici necessari per mantenerle disponibili.
Un sistema agentico in grado di effettuare milioni di interrogazioni automatiche può produrre un carico molto diverso rispetto a quello generato da un normale utente umano. Il problema diventa ancora più rilevante quando l’attività automatizzata avviene senza identificazione, autorizzazione o coordinamento preventivo con i gestori delle piattaforme interessate.
Wikimedia ha quindi richiamato l’attenzione sulla necessità di tutelare il web aperto, definendolo un bene pubblico e sostenendo che comportamenti di questo tipo non dovrebbero diventare una pratica abituale per chi sviluppa e utilizza sistemi automatizzati.
Al momento della ricostruzione riportata, OpenAI non aveva fornito una risposta immediata alle richieste di commento. Le informazioni disponibili provengono dunque dalla valutazione effettuata da Wikimedia sulle attività rilevate all’interno delle proprie infrastrutture.
Agenti AI e infrastrutture web, cresce il tema delle regole
L’episodio evidenzia come la crescita degli agenti AI autonomi stia aprendo nuovi interrogativi non soltanto sul fronte della sicurezza informatica, ma anche sulla gestione delle risorse condivise online.
Nel caso segnalato da Wikimedia, non risultano compromissioni di sistemi o dati e i tentativi di sfruttare Etherpad non avrebbero avuto successo. Rimane però il problema della scala delle attività automatizzate e del rispetto delle regole previste dalle piattaforme, soprattutto quando vengono coinvolte infrastrutture pubbliche utilizzate quotidianamente da milioni di persone.
La capacità degli agenti di navigare, interrogare servizi, modificare contenuti e utilizzare strumenti web in autonomia rende quindi sempre più importante definire modalità di accesso compatibili con la sostenibilità e le policy dei servizi interessati.
