Secondo un recente articolo del Wall Street Journal, OpenAI ha sviluppato un sistema innovativo in grado di incorporare una filigrana digitale nei testi generati da ChatGPT. Tuttavia, questa tecnologia non è ancora stata resa disponibile poiché l’azienda non è sicura della sua effettiva utilità, temendo che potrebbe disincentivare l’uso del chatbot e influire negativamente sui ricavi.
Da un lato, l’introduzione di questa filigrana permetterebbe una facile identificazione dei contenuti prodotti con l’ausilio dell’intelligenza artificiale, risultando particolarmente vantaggiosa in contesti come quello educativo.
I dubbi di OpenAI sulla filigrana digitale
In un’intervista con il Wall Street Journal, OpenAI ha confermato di essere al lavoro su questo sistema di filigrana per distinguere i testi generati dall’AI. Secondo l’azienda, lo strumento potrebbe identificare i contenuti creati artificialmente con una precisione del 99,9%, anche se il testo subisse modifiche successive.
Tuttavia, esiste la possibilità di eludere questo controllo rielaborando il testo con un modello di AI simile.
Nonostante i progressi tecnologici, OpenAI rimane cauta riguardo al rilascio di questa filigrana, preoccupata che potrebbe ridurre l’interesse degli utenti per ChatGPT. Questa preoccupazione è supportata da un sondaggio condotto dalla stessa OpenAI, che ha rivelato come il 30% degli utenti eviterebbe di utilizzare ChatGPT se fosse introdotto un sistema di riconoscimento del genere.
Sul proprio blog, OpenAI ha dichiarato di essere ancora nelle fasi iniziali dell’esplorazione sull’implementazione di metadati, aggiungendo che è troppo presto per determinare con certezza l’efficacia di questa tecnica e il rischio di falsi positivi.
Scopri come l’intelligenza artificiale può aiutare anche la tua attività e comincia cliccando qui.
