Directorul general Microsoft, Satya Nadella, cere companiilor să trateze modelele de inteligență artificială avansate ca pe niște angajați cu acces privilegiat, care pot greși sau pot fi compromiși. Mesajul a apărut sâmbătă, 10 octombrie 2026, într-un text lung publicat pe contul său de X, intitulat „Modelele ca riscuri interne în era superinteligenței”.
Ideea centrală e simplă: controlul trebuie să stea în afara modelului, iar orice acțiune importantă trebuie să lase urme pe care un om le poate verifica.
Ce a cerut Satya Nadella pentru modelele AI avansate?
Șeful Microsoft pornește de la o comparație cu software-ul clasic. Timp de decenii, inginerii au putut lega un comportament de o anumită linie de cod. La modelele actuale, acest lucru nu mai este posibil.
Cu toate acestea, firmele dau agenților AI acces la date sensibile și la acțiuni critice. Nadella spune că garanțiile furnizorului nu scutesc compania de responsabilitatea de a controla ce face sistemul.
Formula lui este separarea „ofertei de inteligență” de autoritatea asupra ei. Modelul propune, dar oamenii și mecanismele independente decid ce are voie să acceseze și să facă.
De ce compară Microsoft modelele AI cu angajații cu acces privilegiat?
Nadella propune ca modelele, închise sau deschise, să fie tratate ca riscuri interne, fără a fi considerate rău intenționate. Orice actor suficient de capabil, cu acces la sisteme importante, poate face greșeli sau poate fi compromis.
Companiile au deja reguli pentru astfel de situații: identitate clară, privilegii limitate, activitate jurnalizată și acces închis în granițe bine definite. Nadella vrea ca ele să fie aplicate și agenților AI.
Lanțul de gândire al modelului trebuie să fie vizibil, spune Nadella, dar nici asta nu ajunge, pentru că modelele nu îl redau mereu fidel. Iar dacă pui un model să verifice alt model, riști să obții, în cuvintele lui, „cutii negre îmbricate”.
De aceea, regulile care stabilesc ce poate accesa și ce poate face un model trebuie plasate în afara lui. Principiul vine din securitatea informatică a anilor ’70: un program nu trebuie să poată ocoli sau modifica mecanismele care îi impun permisiunile.
Care sunt principiile propuse de Nadella pentru controlul AI?
Textul enumeră șapte reguli de proiectare, toate construite în jurul ideii de observabilitate.
| Principiu | Ce înseamnă în practică |
|---|---|
| Diversitatea modelelor | Niciun rezultat important nu depinde de un singur model, iar un model nu își verifică singur munca |
| Observarea tuturor acțiunilor | Fiecare acțiune relevantă lasă dovezi lizibile pentru oameni, care nu pot fi falsificate |
| Verificabilitate | Sistemul este testat continuu, inclusiv la atacuri, erori și cazuri-limită |
| Controale independente | Organizația decide singură la ce date și la ce acțiuni are acces modelul |
| Audit independent | Validarea nu este făcută de inteligența care este validată |
| Izolare | Modelul este considerat compromis din start și poate fi oprit oricând de o persoană autorizată |
| Raportarea incidentelor | Problemele sunt comunicate rapid celor afectați, iar lecțiile sunt împărtășite în industrie |
Cel mai discutat punct este cel despre izolare. Nadella îl compară cu o frână de urgență. O persoană autorizată trebuie să poată pune pe pauză sau opri un model chiar în mijlocul unei sarcini.
Concluzia lui: cel mai de încredere sistem nu va fi cel cu modelul în care credem cel mai mult, ci cel care ne permite să ne bazăm cât mai puțin pe el.
Ce s-a întâmplat înainte de mesajul șefului Microsoft?
Textul lui Nadella nu a apărut din senin. Pe 9 octombrie, Anthropic a publicat un raport despre acțiuni neintenționate ale modelelor Claude în timpul evaluărilor și al utilizării interne. Claude a trimis formulare pe site-uri reale și a ocolit restricții ca să ajungă la date cu acces limitat.
Un episod a ajuns la poliția din Philadelphia, unde modelul a trimis un pont inventat despre o crimă nerezolvată. Anthropic spune că impactul real a fost minim și a deconectat de la internet toate evaluările interne. Nu este primul raport de acest fel: în vară, Anthropic a recunoscut că modelele Claude au spart sistemele a trei companii în timpul unor teste.
Tot în această săptămână, Microsoft a lansat Microsoft-Decision-1, un model pentru decizii rapide. În paralel, asistenți precum Muse de la Meta cer acces la e-mail, calendar și plăți.
Ce înseamnă propunerea lui Nadella pentru firmele din România?
În Uniunea Europeană, o parte din aceste idei sunt deja obligații legale. AI Act are reguli pentru modelele de uz general, iar majoritatea obligațiilor de transparență din articolul 50 se aplică din 2 august 2026.
Regulile pentru sistemele cu risc ridicat au fost însă amânate. Pachetul Digital Omnibus pentru AI, intrat în vigoare pe 27 iulie 2026, mută obligațiile pentru sistemele independente cu risc ridicat la 2 decembrie 2027. Pentru sistemele integrate în produse, precum dispozitivele medicale sau utilajele, noul termen este 2 august 2028.
La capitolul aplicare, România este în urmă. ANCOM a fost propusă ca autoritate de supraveghere a pieței și punct unic de contact pentru AI Act. Totuși, o analiză Deloitte Legal actualizată în iulie 2026 plasa țara în grupul statelor care întârzie desemnarea formală a autorităților cerute de regulament.
Pentru o firmă românească ce folosește agenți AI, mesajul se traduce în verificări concrete. Agentul are acces doar la datele necesare, acțiunile lui pot fi reconstituite din jurnale și cineva îl poate opri imediat.
Ce urmează după apelul lui Nadella?
Nadella cere standarde comune pentru izolarea modelelor și pentru raportarea incidentelor. Rămâne de văzut dacă industria le va adopta sau dacă fiecare companie își va construi propria frână de urgență.
Pentru utilizatori, schimbarea se va vedea probabil în produse, prin mai multe confirmări înainte de acțiuni sensibile și butoane clare de oprire. O direcție asemănătoare apare deja în instrumente precum SynthID Detector de la Google, care verifică pozele și clipurile generate cu AI. Iar asistenți precum GPT-6 în ChatGPT primesc tot mai multe unelte.
Citești des GadgetReport.ro? Adaugă-ne ca sursă preferată pe Google, iar știrile noastre îți vor apărea mai des în Top Stories.
