O demisie dintr-un laborator de inteligență artificială a readus riscurile AI în prim-plan și a produs săptămâna aceasta mai multă agitație decât oricare dintre lansările de produs. Jacob Coxon, cercetător care trecuse anterior pe la OpenAI, a plecat de la Anthropic și și-a explicat motivele într-un fir de mesaje publicat pe X. Concluzia lui, preluată în mii de reacții, este că laboratoarele care conduc cursa se comportă iresponsabil în goana după modele tot mai puternice.
Fraza care a circulat cel mai mult sună astfel: Oamenii care construiesc inteligența artificială cred cu adevărat că ea ne-ar putea ucide pe toți până la sfârșitul deceniului. Coxon a mai spus pentru WIRED că, în cercul lui de colegi, următorii doi ani sunt descriși drept momentul critic pentru omenire.
Nuanțele s-au pierdut pe drum, deși există. În declarațiile ulterioare, cercetătorul a precizat că sistemele actuale nu reprezintă încă o amenințare pentru civilizație și că îl îngrijorează mai degrabă viteza cu care tehnologia se îmbunătățește. Argumentul lui de fond este unul despre stimulente: chiar și o companie preocupată de siguranță poate ajunge, sub presiunea concurenței, să accepte riscuri mai mari.
Anthropic a răspuns printr-o poziție transmisă publicației WIRED, în care compania afirmă că a recunoscut în mod constant atât beneficiile potențiale, cât și pericolele unei inteligențe artificiale tot mai capabile, trimițând totodată la cercetările proprii de interpretabilitate mecanicistă, domeniul care încearcă să înțeleagă ce se întâmplă în interiorul modelelor.
Nu este prima plecare de acest tip din companie. În februarie 2026, Mrinank Sharma, responsabil pe siguranța inteligenței artificiale la Anthropic, își anunțase demisia cu mesajul că lumea se află în pericol.
De ce au revenit acum în atenție riscurile AI
În episodul din 10 septembrie al podcastului Uncanny Valley, realizat de WIRED, editorul executiv Brian Barrett a pus întrebarea evidentă: de ce a devenit virală o afirmație pe care Anthropic o repetă practic de la înființare, aceea că tehnologia este atât de puternică încât trebuie construită de cineva responsabil.
Corespondentul WIRED Will Knight, invitat în emisiune, identifică trei lucruri care s-au schimbat. Primul este că agenții AI au început să facă lucruri neprevăzute, iar publicul a observat. Al doilea ține de progresele spectaculoase din ultimele luni, între care anunțul OpenAI potrivit căruia modelul său ar fi rezolvat în câteva zile una dintre problemele matematice ale mileniului, o afirmație contestată de o parte dintre academicieni. Al treilea este cursa tuturor laboratoarelor către autoîmbunătățirea recursivă, adică folosirea inteligenței artificiale pentru a construi inteligență artificială mai bună. Modelele scriu deja cod suficient de bun cât să optimizeze algoritmii pe care se bazează, iar teama este că bucla se poate accelera necontrolat.
Contraargumentul: posibil nu înseamnă probabil
Knight nu cumpără scenariul apocaliptic, dar nici nu îl tratează ca pe o simplă operațiune de marketing. Obiecția lui este metodologică. Cei care se tem că AI va ucide pe toată lumea tind să confunde dacă ceva este posibil cu dacă este probabil, iar apoi aruncă un procent scos din senin, spune el. Întrebarea corectă, în opinia lui, nu este dacă un lucru se poate întâmpla, ci cât de probabil este să se întâmple.
Exemplul pe care îl dă vine de la un cercetător de la Cornell care studiază comportamentul deviant al agenților. Concluzia acestuia este că agenții obișnuiți se poartă ciudat nu pentru că sunt prea inteligenți, ci pentru că sunt prea proști: încearcă ceva, nu merge, încearcă altceva, iar la un moment dat ajung într-un punct în care produc o soluție complet bizară, de care niciun om nu s-ar apuca. De aceea Knight spune că îl îngrijorează mai mult sistemele lăudate excesiv și puse să facă lucruri pe care nu le pot duce, decât o superinteligență ostilă.
Îngrijorarea lui cea mai apăsată este însă alta, și ține de structura pieței. Câteva companii controlează o tehnologie devenită fundamentală, iar aceleași companii susțin că sunt singurele în care se poate avea încredere pentru a o administra.
Problema alinierii, privită din interior
Industria vorbește despre aliniere, adică despre ideea că modelele trebuie să corespundă intereselor omenirii. Barrett observă că stimulentele reale arată altfel: ceea ce vor investitorii și ceea ce cere cursa dintre laboratoare înaintea listărilor la bursă. El rezumă situația printr-o imagine: o problemă a vagonetului formulată de oamenii care controlează vagonetul.
Knight adaugă o observație tehnică. Modelele nu sunt aliniate prin natura lor, iar comportamentul dorit este impus ulterior, peste un sistem antrenat pe date eterogene. Faptul că protecțiile pot fi îndepărtate arată, în opinia lui, că metoda nu este neapărat cea potrivită. Rămâne apoi întrebarea la care industria răspunde vag: aliniate cu cine și cu ce anume.
Tot el respinge afirmațiile despre inteligența artificială generală: Această afirmație că AGI a fost rezolvată mi se pare absurdă. Istoria domeniului, spune Knight, este istoria unor demonstrații spectaculoase din care oamenii au extras mult mai mult decât era acolo, de la algoritmii de șah încoace. Sistemele actuale fac salturi reale, dar păstrează goluri evidente față de modul în care gândesc copiii sau adulții.
Partea care se vede deja pe raft
Discuția despre riscuri nu rămâne abstractă nici în episodul respectiv. La rubrica de final, Barrett a ales drept lucru pe care nu îl mai suportă chiar funcțiile de ascultare anunțate de Apple pentru Apple Watch Series 12 și Ultra 4, de la recunoașterea sunetelor până la transcrierea ultimelor 15 secunde de conversație. El recunoaște că funcțiile sunt opționale, dar subliniază asimetria: consimțământul îi aparține doar celui care poartă ceasul, nu și persoanei cu care vorbește.
Este, la scară mică, exact problema despre care vorbește Knight la scară mare. Nu un sistem care scapă de sub control, ci decizii luate rapid, în competiție, ale căror efecte cad peste oameni care nu au fost întrebați.
Am scris anterior despre poziția lui Dario Amodei privind momentul în care publicul va crede în inteligența artificială și despre avertismentul MIT privind lucrările de licență rezolvate de AI.
Episodul integral și transcrierea sunt disponibile pe WIRED, iar declarațiile ulterioare ale cercetătorului și poziția companiei au fost sintetizate de eWeek.
