Cercetătorul-șef al OpenAI, Jakub Pachocki, a publicat pe 6 septembrie 2026 un eseu în care spune ceva ce rareori se aude de la un laborator aflat în plină cursă: poate că este momentul ca industria să încetinească. Textul, intitulat „An Alien Mind”, a apărut pe site-ul companiei și a fost preluat rapid de presa americană.
Fraza care a făcut înconjurul rețelelor este și cea mai directă. Pachocki avertizează că „nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței artificiale”. Nu este o observație despre viitorul îndepărtat, ci despre ritmul actual de dezvoltare.
Argumentul: modelele sunt crescute, nu proiectate
Punctul de plecare al eseului este o distincție tehnică pe care publicul o ratează des. „Inteligența artificială este mai degrabă crescută decât proiectată”, scrie Pachocki, explicând că un model modern este, într-o primă aproximare, rezultatul repetării unui pas simplu de optimizare pe o cantitate greu de imaginat de putere de calcul. De aici decurge concluzia lui: „nu putem presupune că aderă implicit la principii umane sau că generalizează pornind de la ele într-un mod uman”.
Cercetătorul separă apoi două tipuri de aliniere. Prima este alinierea la scop, pe care o rezumă printr-o întrebare: încearcă modelul să ducă la capăt obiectivul care i-a fost stabilit? A doua, alinierea la valori, ține de principii mai adânci și este considerabil mai greu de verificat. Îngrijorarea lui este că „progresul în alinierea generalizabilă s-ar putea să nu depășească suficient progresul în inteligența generală a modelelor”.
Trei lucruri care îl neliniștesc
Primul este securitatea cibernetică. Agenții autonomi devin, în evaluările interne, tot mai buni la pătrunderea în sisteme protejate și la manipularea oamenilor prin inginerie socială, iar Pachocki folosește pentru acest nivel termenul „suprauman”.
Al doilea ține de transparență. O bună parte din capacitatea modelelor actuale vine dintr-un proces de raționament verbalizat, cunoscut ca lanț de gândire, iar citirea acestui lanț este principalul instrument prin care cercetătorii observă ce face un model înainte să acționeze. Problema este că arhitecturile mai noi pot ascunde acest raționament, iar unele nu îl mai verbalizează deloc. Fereastra de observație se închide exact atunci când ar fi mai necesară.
Al treilea este auto-îmbunătățirea recursivă, adică situația în care modelele contribuie la propria dezvoltare. Aici formularea lui Pachocki este memorabilă: „Provocarea centrală a automatizării cercetării în inteligența artificială nu este să ajungem acolo. Este să ajungem acolo într-un mod care păstrează oamenii ca parte a procesului continuu de îmbunătățire.”
Ce propune cercetătorul-șef al OpenAI
Soluția tehnică internă nu i se pare suficientă. „În prezent, cred că niciun laborator nu a rezolvat alinierea și monitorizarea într-o măsură suficientă pentru a continua să scaleze responsabil la viteză maximă pentru mult timp de acum înainte”, scrie el, iar de aici derivă cererea concretă: încetinirile voluntare ar trebui să devină o practică obișnuită până când se stabilesc praguri comune de siguranță.
Pe termen mai lung, Pachocki vorbește despre praguri de siguranță impuse, verificate de „o rețea de auditori terți, de agenții guvernamentale sau de organisme internaționale”. Este, în esență, o pledoarie pentru reglementare venită din interiorul companiei care a declanșat actuala cursă. Sam Altman, directorul general al OpenAI, a redistribuit eseul pe X și l-a descris drept „o postare importantă”, potrivit relatării publicate de Business Insider și semnate de Truman Dickerson.
Cum arată contextul european
Apelul vine într-un moment în care Uniunea Europeană are deja construită o parte din arhitectura pe care Pachocki o cere. Regulamentul european privind inteligența artificială a intrat în vigoare la 1 august 2024, obligațiile pentru modelele de uz general au devenit aplicabile din 2 august 2025, iar grosul celorlalte prevederi se aplică din 2 august 2026. Diferența este că textul european se ocupă de transparență, documentare și evaluarea riscurilor sistemice, nu de un mecanism prin care laboratoarele să frâneze simultan.
Tocmai aici stă miezul problemei ridicate de Pachocki. O încetinire unilaterală dezavantajează competitiv laboratorul care o adoptă, așa că un prag comun are sens doar dacă este respectat de toți jucătorii importanți, inclusiv de cei din afara spațiului occidental. Până atunci, cursa continuă: am scris recent despre lansarea GPT-6 Astra și despre noile modele Claude anunțate de Anthropic. Iar dacă te interesează efectele mai puțin discutate ale acestei accelerări, merită citit și studiul care arată cum ne schimbă inteligența artificială modul de a scrie și de a gândi.
