Dopo Anthropic anche OpenAI porrà un marchio ai testi generati dai suoi modelli di IA

OpenAI segue Anthropic e si conforma all'AI Act europeo. La società di Sam Altman aggiungerà una filigrana digitale, watermark, leggibile solo alle macchine, al testo generato da ChatGPT e Codex per rispettare l'obbligo di trasparenza previsto dall'articolo 50 del Regolamento Ue sull'intelligenza artificiale attivo dal 2 agosto.

"La provenienza dei contenuti aiuta le persone a capire da dove provenga un contenuto, come sia stato creato o modificato e se contenga segnali associati ai nostri modelli - afferma la società californiana in un post ufficiale -. Le tecnologie di watermarking e rilevamento dei testi sono ancora in una fase iniziale e presentano limitazioni significative. Inoltre, il dibattito sui loro vantaggi e sui possibili utilizzi responsabili è ancora in evoluzione. Il nostro approccio graduale tiene conto sia dei requisiti dell'AI Act sia dei limiti tecnologici, ponendo l'accento sulla trasparenza riguardo a ciò che un watermark testuale può e non può comunicare agli utenti" OpenAI sfrutterà la sua tecnologia textGrain che, a suo dire, offre prestazioni superiori a quelle concorrenti tra cui SynthID di Google. Tuttavia, sottolinea, "i sistemi di rilevamento possono commettere due tipi di errori: segnalare la presenza di una filigrana laddove non ve ne sia alcuna (falso positivo) oppure non rilevare una filigrana effettivamente presente (falso negativo)".

Dopo l'introduzione della filigrana digitale per i testi nell'Ue, in base ai riscontri ricevuti, la società deciderà se estenderla a livello globale. Ricercatori e organizzazioni di esperti possono testare lo strumento.

Anthropic ha intrapreso questa strada ad agosto, dichiarando che avrebbe usato lo standard tecnologico aperto C2PA e che avrebbe esteso il supporto della filigrana anche ai modelli di IA meno recenti.