Od teraz w Unii Europejskiej teksty tworzone przez ChatGPT i Codex będą oznaczane niewidzialnym śladem, choć zwykły użytkownik nie zobaczy go na ekranie. Dla większości osób zmiana będzie niewidoczna, ale może zaważyć na tym, jak da się później sprawdzić pochodzenie treści.
Jeśli ktoś w UE poprosi ChatGPT o maila, notatkę albo krótkie opracowanie, efekt ma od tej pory zostawiać ukryty ślad. OpenAI uruchamia niewidzialne znaki wodne dla tekstów generowanych przez ChatGPT oraz narzędzie programistyczne Codex, a rozwiązanie obejmuje teren Unii Europejskiej.
Dla zwykłego czytelnika taki znak nie będzie widoczny gołym okiem. Sens tej zmiany jest inny: ma pomagać odróżniać treści napisane przez człowieka od tych, które powstały przy udziale modelu językowego. Pomysł nie jest jednak prosty w użyciu ani w ocenie.
Co dokładnie zmienia się dla użytkowników
W przypadku wszystkich planów abonamentowych w UE oznaczanie tekstów ma działać domyślnie. Inaczej wygląda to w API, z którego korzystają twórcy oprogramowania: tam znak wodny będzie dostępny jako opcja opt-in, a więc trzeba go będzie włączyć samodzielnie.
To nie jest pierwszy taki ruch w branży. Dwa miesiące wcześniej konkurencyjny koncern Anthropic zdecydował się na znakowanie tekstów generowanych przez model Claude. Tamto rozwiązanie weszło globalnie, natomiast OpenAI ogranicza start tylko do jurysdykcji unijnej. O zmianie poinformował TechCrunch.
Jak ma wyglądać taki ślad w tekście
W przypadku obrazów albo banknotów znak wodny jest łatwy do wyobrażenia. W czystym tekście to znacznie trudniejsze, bo zwykłe kopiowanie i wklejanie potrafi usunąć metadane czy formatowanie. Dlatego OpenAI zastosowało system o nazwie textGrain, który nie dokleja żadnego widocznego znaku, tylko steruje wyborem kolejnych słów.
Mechanizm działa statystycznie. Przy generowaniu zdania model dzieli możliwe tokeny na dwie grupy, potocznie opisywane jako „zielona” i „czerwona”, korzystając z tajnego klucza kryptograficznego oraz wcześniejszej części wypowiedzi. Potem faworyzuje token z uprzywilejowanej puli, o ile nie psuje to sensu ani płynności. Dla człowieka tekst nadal brzmi naturalnie, ale detektor, który zna ten sam klucz, ma wykrywać nienaturalne nagromadzenie słów z jednej grupy.
Dlaczego to nie jest pewny dowód
Firma otwarcie przyznaje, że taki ślad da się zgubić. Sam brak oznaczenia nie przesądza więc, że autorem był człowiek. Znak może zniknąć albo przestać być czytelny, gdy tekst jest zbyt krótki, ktoś go przeredaguje albo przepuści przez inny model i poprosi o streszczenie lub przepisanie własnymi słowami.
Właśnie z tego powodu OpenAI nie udostępnia publicznego detektora. Jak podkreślono, dostęp do niego mają na razie otrzymać tylko zatwierdzeni badacze i organizacje eksperckie, które mają pomóc ocenić niezawodność takiego narzędzia i sprawdzić jego odpowiedzialne użycie.
Firma obawia się między innymi fałszywych oskarżeń w szkołach i urzędach. Zwraca też uwagę, że zbyt łatwy dostęp do analizy mógłby pomóc w tworzeniu skryptów służących do usuwania sygnatury, czyli do spoofingu.
Spór o autorstwo, który nie zniknie
Nowe oznaczanie to bezpośredni skutek przepisów unijnego Aktu o sztucznej inteligencji (EU AI Act). Artykuł 50 nakłada na dostawców systemów AI obowiązek oznaczania syntetycznych treści w sposób czytelny maszynowo.
Problem w tym, że taki obowiązek zderza się z codziennym sposobem pracy wielu osób. Gdy Anthropic wdrożył podobne rozwiązanie w modelu Claude, w branży pojawiło się sporo krytyki. Użytkownicy podnosili, że to oni dostarczają kontekst, pomysł i decyzje merytoryczne, a model jest tylko narzędziem, podobnie jak edytor tekstu czy kalkulator.
OpenAI również nie udaje, że znak wodny odpowiada na wszystkie pytania. Firma podkreśla, że taki stempel może wskazać, iż system OpenAI wygenerował albo przetworzył część tekstu, ale nie pokaże, ile w tym było ludzkiej redakcji, osądu czy kreatywności. To szczególnie istotne wtedy, gdy ktoś używa AI tylko do wygładzenia stylu własnego tekstu albo do tłumaczenia go na inny język — wtedy algorytm nadal może uznać treść za pochodzącą z OpenAI.
W efekcie mieszkańcy UE dostają kolejne narzędzie do sprawdzania pochodzenia tekstu, ale nie narzędzie nieomylne. W przypadku słów granica między pracą człowieka a pracą modelu pozostaje płynna, a niewidzialny znak nie rozwiązuje tego sporu raz na zawsze.
Czytaj także: Polacy chcą danych o wpływie AI na środowisko
