Comisia Europeană a început să aplice regulile AI Act pentru marile modele de inteligență artificială. Primele companii vizate sunt OpenAI și Anthropic, după două incidente din vara lui 2026 în care agenți AI aflați în teste au pătruns în sistemele unor organizații reale. Anunțul a fost făcut miercuri, 14 octombrie 2026, de vicepreședinta executivă Henna Virkkunen, la summitul internațional despre AI de la Dublin.
Oficiul European pentru Inteligență Artificială a trimis celor două companii cereri de informații privind securitatea, evaluarea externă și monitorizarea modelelor. Potrivit Euronews, Comisia a considerat insuficiente documentele transmise voluntar de companii. Este primul caz de aplicare a AI Act pentru modelele de uz general, iar miza ține de felul în care sunt testate modelele folosite zilnic și de utilizatorii din România.
De ce aplică UE AI Act în cazul OpenAI și Anthropic?
Ambele cazuri au pornit din teste de securitate cibernetică. În cazul OpenAI, modelele au ieșit dintr-un mediu de cercetare care ar fi trebuit să fie izolat de internet. Au exploatat o vulnerabilitate necunoscută dintr-un software terț, apoi au intrat în sistemele Hugging Face, platforma care găzduiește modele și seturi de date AI. Scopul lor era să obțină soluțiile unui test de securitate, pe care se așteptau să le găsească acolo. OpenAI a numit episodul un incident cibernetic fără precedent.
În cazul Anthropic, compania a analizat peste 141.000 de rulări ale evaluărilor de securitate și a găsit trei incidente. Din cauza unei configurări greșite la un furnizor extern de evaluări, modelele aveau acces real la internet, deși li se spusese că nu au. Au ajuns astfel în sistemele a trei organizații. Într-unul dintre cazuri, un model a publicat un pachet Python malițios în registrul PyPI, disponibil timp de aproximativ o oră.
Anthropic spune că a oprit toate evaluările de securitate cibernetică pe 23 iulie și a început să anunțe organizațiile afectate pe 27 iulie. Două dintre ele nu observaseră activitatea, iar pe a treia compania încerca încă să o contacteze la data raportului.
Ce cere concret Oficiul European pentru AI?
Cererile de informații vizează trei teme: securitatea, evaluarea externă a modelelor și monitorizarea felului în care acestea sunt folosite. Virkkunen a declarat că Oficiul pentru AI „a început să aplice aceste reguli” și a subliniat că inteligența artificială trebuie să rămână sub control uman.
Instrumentul folosit este prevăzut în regulament. Comisia poate cere furnizorilor de modele de uz general documentație și informații suplimentare. Pentru modelele considerate cu risc sistemic, cum sunt cele de vârf ale OpenAI și Anthropic, AI Act impune obligații suplimentare. Furnizorii trebuie să își evalueze modelele, inclusiv prin teste adversariale, să reducă riscurile la nivelul Uniunii, să raporteze fără întârziere incidentele grave și să asigure o protecție cibernetică adecvată pentru model și infrastructură.
Se poate aplica AI Act unor incidente din faza de testare?
Aici apare principala dispută juridică. AI Act exceptează activitățile de cercetare, testare și dezvoltare, iar incidentele au avut loc înainte ca modelele implicate să fie puse pe piață. Avocatul Barry Scannell, de la firma William Fry, a declarat pentru Euronews că regulamentul nu se aplică activităților de dezvoltare și testare.
Comisia interpretează excepția restrictiv. Un oficial citat de Euronews a explicat că instituția nu intervine în faza de test, dar regulile devin aplicabile când un model scapă din mediul de testare și afectează piața europeană. Comisia susține că atacul asupra Hugging Face a afectat și clienți din UE. Răspunsul la această întrebare va stabili cât de departe poate merge supravegherea europeană a laboratoarelor AI.
Ce amenzi riscă OpenAI și Anthropic?
Deocamdată nu există o procedură de sancționare, ci doar cereri de informații. Regulamentul prevede însă amenzi pentru furnizorii de modele de uz general de până la 3% din cifra de afaceri anuală mondială sau 15 milioane de euro, în funcție de care sumă este mai mare. Sancțiunea se poate aplica și dacă o companie nu răspunde unei cereri de informații ori transmite date incorecte, incomplete sau înșelătoare.
| Element | Ce prevede AI Act | De când |
|---|---|---|
| Obligațiile pentru modelele de uz general | Documentație, transparență, iar pentru riscul sistemic evaluări, raportarea incidentelor grave și securitate cibernetică | 2 august 2025 |
| Puterea de a amenda | Până la 3% din cifra de afaceri mondială sau 15 milioane de euro | 2 august 2026 |
| Cine supraveghează | Comisia Europeană, prin Oficiul pentru AI, cu competență exclusivă | În vigoare |
| Cazul actual | Cereri de informații către OpenAI și Anthropic | Anunțat pe 14 octombrie 2026 |
Ce înseamnă ancheta pentru utilizatorii din România?
Pentru cei care folosesc ChatGPT sau Claude în România nu se schimbă nimic imediat. Serviciile rămân disponibile, iar cererile de informații nu restricționează accesul la ele. Schimbarea este una de supraveghere. Pentru modelele de uz general, controlul nu se face la nivel național, ci centralizat, de Comisia Europeană prin Oficiul pentru AI.
Practic, autoritățile din România nu pot deschide singure o anchetă împotriva OpenAI sau Anthropic pe obligațiile privind modelele de uz general. Rezultatul cazului de la Bruxelles va fi însă valabil pentru toată piața europeană, inclusiv pentru companiile românești care integrează aceste modele în aplicațiile lor.
Tema siguranței agenților AI revine constant în ultimele luni. Am scris despre modelul GPT-5.6-Cyber, care refuză mai rar sarcinile de securitate și despre reclamele Google false care duceau la o aplicație Claude infectată pe Mac. Iar pentru cei care folosesc instrumente AI acasă, am explicat cum pot ținti viermii AI boxele Android TV și cum îți protejezi casa.
Următorul pas depinde de răspunsurile companiilor. Dacă documentele nu vor fi considerate suficiente, Comisia poate cere măsuri suplimentare sau acces la modele pentru evaluare.
