ChatGPT z niewidzialnymi znakami wodnymi w Unii Europejskiej

Autor: Cezary Faber Publikacja: Dzisiaj, 6 października (20:43)

OpenAI, twórca ChatGPT, zapowiedziało wdrożenie niewidzialnych znaków wodnych w tekstach generowanych w krajach Unii Europejskiej. Technologia ma jednak spore ograniczenia.

Zdjęcie ilustracyjne /Shutterstock

Firma OpenAI ogłosiła w poniedziałek, że w ciągu najbliższych tygodni zacznie dodawać w Unii Europejskiej niewidzialne znaki wodne do tekstów tworzonych przez modele ChatGPT oraz Codex.

Krok ten wynika bezpośrednio z unijnego Aktu o sztucznej inteligencji (AI Act), który nakłada na dostawców systemów generatywnych obowiązek oznaczania treści w formacie nadającym się do odczytu maszynowego.

Technologia textGrain i ukryte sygnały

Wprowadzone rozwiązanie, nazwane przez firmę textGrain, polega na wbudowywaniu subtelnego, statystycznego sygnału bezpośrednio w strukturę słów dobieranych przez model językowy. Specjalny detektor ma za zadanie analizować dany fragment, aby wykryć obecność firmowego znaku wodnego i ocenić, czy tekst powstał przy udziale sztucznej inteligencji.

Przedstawiciele OpenAI podkreślają jednak, że system wciąż znajduje się na wczesnym etapie rozwoju i wiąże się z wieloma wyzwaniami technicznymi. Badacze zwracają uwagę, że krótsze teksty są znacznie trudniejsze do wykrycia, a wszelkie edycje, parafrazy, a nawet tłumaczenia mogą osłabić lub całkowicie zniszczyć niewidzialny sygnał.

Firma wyraźnie zaznacza, że obecność znaku wodnego nie stanowi ostatecznego dowodu na to, iż cały tekst został wygenerowany przez sztuczną inteligencję. Jego brak nie gwarantuje też, że treść wyszła z klawiatury człowieka.

Aby kontrolować dostęp do technologii weryfikacji, OpenAI uruchamia nabór wniosków o dostęp do detektora znaków wodnych, ograniczając go w pierwszej fazie wyłącznie do zatwierdzonych badaczy oraz organizacji eksperckich.