Regula europeană care ar trebui să facă textele scrise de inteligența artificială recunoscabile la prima verificare are o problemă de fond: poate fi anulată în câteva secunde. Un inginer software susține că filigranele digitale aplicate textului, așa cum le cere AI Act, dispar dacă îi ceri unui al doilea model, mai slab și nemarcat, să reformuleze conținutul. Analiza a fost preluată de publicația americană Boing Boing.
Ce cere exact AI Act
Regulamentul european privind inteligența artificială impune ca rezultatele generate de sisteme AI să fie „detectabile ca fiind generate artificial” și ca marcajul să fie „încorporat în conținut într-un mod care face dificilă separarea sa de conținut”. Formularea este deliberat neutră din punct de vedere tehnologic, tocmai pentru a acoperi imagini, sunet, video și text. În practică însă, cele patru tipuri de conținut nu se comportă la fel.
Pentru o fotografie sau un fișier audio, un filigran poate fi distribuit în milioane de pixeli sau eșantioane, ceea ce îl face redundant și greu de eliminat complet. Textul are un buget informațional dramatic mai mic: un paragraf are câteva sute de cuvinte, iar orice semnătură trebuie ascunsă chiar în alegerea acelor cuvinte.
Cum funcționează un filigran ascuns în text
Mecanismul descris de Sean Goedecke, inginerul software care a analizat regula, este relativ simplu. Modelul care generează textul este împins să prefere cuvintele care obțin un punctaj ridicat într-o formulă predefinită. Fiecare cuvânt luat separat nu spune nimic, dar dacă însumezi punctajele pe un bloc mai mare de text și obții un total neobișnuit de mare, ai un indiciu statistic puternic că fraza a fost scrisă de o mașină, nu de un om.
Exact aici apare fragilitatea. Semnătura nu stă într-un fișier separat sau într-un metadat pe care îl poți sigila criptografic, ci în opțiunile subtile de vocabular. Schimbi cuvintele, pierzi semnătura.
„Pentru că filigranul este inerent alegerilor subtile de vocabular, reformularea conținutului va elimina filigranul.”
Sean Goedecke, inginer software
Publicitate
Nu este nevoie de instrumente speciale sau de cunoștințe tehnice. Un model lingvistic mic, rulat local și fără filigran propriu, este suficient pentru a rescrie textul și a-l trece prin sită.
Obligația de interoperabilitate ridică o altă întrebare
Un al doilea element din regulament complică situația: metodele de marcare trebuie să fie interoperabile. Practic, companiile de inteligență artificială vor fi obligate să publice modul în care își construiesc filigranele. Transparența are logica ei, pentru că fără specificații comune nimeni nu poate verifica marcajele altcuiva. Dar în cazul textului, publicarea formulei echivalează cu publicarea instrucțiunilor de ocolire.
Contextul tehnic: SynthID și cercetarea academică
Ideea de filigran pentru text nu este nouă. Google DeepMind a dezvoltat SynthID, un sistem de marcare pentru imagini, audio, video și text, iar componenta pentru text, SynthID-Text, a fost descrisă într-un articol publicat în revista Nature în toamna anului 2024 și pusă la dispoziție dezvoltatorilor prin biblioteca Transformers. Metoda intervine în procedura de eșantionare a tokenilor, printr-un mecanism de tip turneu care alege între variante candidate.
Chiar și autorii recunosc limitele: robustețea scade la reformulare și la traducere, iar textele cu entropie redusă, cum sunt răspunsurile factuale scurte sau codul de programare, aproape că nu pot fi marcate, pentru că modelul nu are libertate de alegere între sinonime. Aceeași concluzie a apărut și în lucrarea academică din 2023 semnată de o echipă de la Universitatea din Maryland, care a propus mecanismul cu liste de tokeni „verzi” și „roșii”, punctul de plecare pentru majoritatea sistemelor actuale.
OpenAI a recunoscut public, în 2024, că are un instrument de filigranare a textului pe care a preferat să nu îl lanseze, invocând exact acest risc: eficacitatea se prăbușește când textul este parafrazat sau tradus. Între timp, industria a mizat mai mult pe provenienta declarată prin metadate, prin standardul C2PA și etichetele Content Credentials, decât pe semnături ascunse în text.
Ce urmează pentru AI Act
Obligațiile de transparență din AI Act, inclusiv cele privind marcarea conținutului sintetic, intră în aplicare în vara anului 2026, iar amenzile pentru nerespectarea regulilor pot ajunge la milioane de euro sau la un procent din cifra de afaceri globală a companiei. Miza este mai mare decât o dispută tehnică: dacă marcajul textului poate fi anulat cu un prompt, povara verificării se mută înapoi pe utilizator și pe platforme, iar detectoarele automate rămân la fel de nesigure ca până acum.
Pe aceeași temă am scris despre cum poate Gemini Flash 2.0 să elimine filigranele de pe fotografii, despre apelul angajaților din laboratoarele AI pentru o frână globală și despre modelul AI de 4 GB instalat discret în Google Chrome.
Surse: analiza publicată de Sean Goedecke și textul oficial al Regulamentului (UE) 2024/1689.
