Marcel Bucher, professore di Scienze botaniche all’Università di Colonia, ha avuto un’esperienza che ha fatto discutere il mondo accademico. Per due anni, ha utilizzato ChatGPT Plus come assistente personale per il suo lavoro: dai bandi per i finanziamenti alle revisioni delle pubblicazioni, dalle lezioni agli esami. Però, un giorno, deciso a testare cosa succedesse, ha disattivato il consenso ai dati su ChatGPT. Il risultato? Tutto il suo lavoro, accumulato per anni, è stato cancellato senza alcun preavviso, lasciandolo senza traccia dei suoi documenti. La sua esperienza è diventata virale, con migliaia di commenti sarcastici da parte della comunità online, ma anche numerosi interrogativi sul rischio di affidarsi totalmente a un’intelligenza artificiale senza protezione.
ChatGPT e la perdita irreparabile di dati: una lezione cruciale per l’Accademia
Bucher, nel suo editoriale per Nature, ha raccontato come l’eliminazione dei suoi dati sia avvenuta senza alcun avviso, né opzione per annullare l’operazione. Nonostante OpenAI abbia contestato la sua versione, affermando che il sistema chiede conferma prima di eliminare definitivamente una chat, il danno è ormai fatto. Due anni di conversazioni, bozze e appunti di ricerca sono svaniti senza possibilità di recupero. Questa vicenda dimostra un problema fondamentale: ChatGPT non è progettato per essere un archivio dati. È un chatbot, non una piattaforma di archiviazione come Google Drive o Dropbox. Affidarsi esclusivamente a ChatGPT per la conservazione del lavoro accademico senza un adeguato backup è, come ha ammesso lo stesso Bucher, un errore grave.
AI e scienza: un mondo inquinato dai contenuti generati automaticamente
La vicenda di Bucher evidenzia un problema più grande nel mondo accademico. Contenuti generati dall’intelligenza artificiale stanno invadendo la letteratura scientifica, creando articoli che spesso mancano di fonti verificate e sono scritti senza supervisione umana. La qualità e l’affidabilità di questi articoli non sono sempre garantite, compromettendo il rigore scientifico. Inoltre, il processo di peer review, fondamentale per validare la ricerca, sta diventando sempre più difficile a causa di questi contenuti automatici, creando un ambiente di incertezza.
Va chiarito che non ci sono prove che Bucher stesse cercando di utilizzare contenuti generati da AI in modo fraudolento o di pubblicare ricerche dubbie. Tuttavia, la sua esperienza dovrebbe servire come monito per tutti coloro che usano ChatGPT e altre tecnologie simili senza tenere conto dei rischi legati alla gestione dei dati.
La risposta di OpenAI: backup come misura di protezione essenziale
La reazione di OpenAI alla vicenda di Bucher è stata quella di non poter recuperare i dati una volta eliminati. In risposta alle critiche, l’azienda ha suggerito agli utenti di fare backup regolari dei propri dati professionali. Sebbene questa sia una raccomandazione valida, sembra un po’ tardiva, considerando che molti utenti, tra cui Bucher, si sono affidati completamente alla piattaforma senza adottare misure di protezione. Il consiglio di OpenAI suona quasi come una risposta di scuse postume, che solleva ulteriori preoccupazioni riguardo alla sicurezza e all’affidabilità di ChatGPT come strumento per la gestione di lavoro accademico o professionale.
La lezione di Marcel Bucher sull’affidabilità dell’Intelligenza Artificiale
La storia di Marcel Bucher dovrebbe far riflettere tutti sull’importanza di non mettere completamente in mano a un’intelligenza artificiale dati sensibili e di valore, come quelli legati al lavoro accademico. La mancanza di protezione dei dati su ChatGPT, e l’assenza di un’opzione di backup, mette in evidenza un rischio importante. La tecnologia, per quanto potente, non può sostituire la responsabilità di una gestione adeguata dei nostri dati. È fondamentale adottare misure preventive, come backup regolari, per proteggere i propri contenuti da errori o imprevisti, e non cadere nella trappola di pensare che l’AI possa gestire tutto autonomamente senza rischi.
