Toby Walsh, profesor de inteligență artificială la Universitatea New South Wales din Sydney, a încercat să răspundă la o întrebare pe care dezbaterea despre riscurile AI o ocolește de obicei: concret, cum ar putea inteligența artificială să ucidă oamenii? Răspunsul lui, publicat în The Conversation, reduce riscurile inteligenței artificiale la cinci scenarii ordonate de la cel mai vag la cel mai precis, cu observația că, în opinia autorului, aceeași ordine merge de la cel mai puțin la cel mai probabil.
Textul vine la câteva săptămâni după ce cercetătorul Jacob Coxon a plecat de la Anthropic după doar patru luni, avertizând că oamenii care construiesc AI cred sincer că tehnologia ne-ar putea ucide pe toți până la finalul deceniului. Evan Hubinger, membru senior al echipei Anthropic, a spus public că, personal, estimează o probabilitate de peste 10% ca acest lucru să se întâmple în următorii zece ani. Am relatat plecarea lui Coxon într-un articol separat.
Mai jos analizăm fiecare scenariu, contraargumentul propus de Walsh și ce lipsește din raționament.
Riscurile inteligenței artificiale: cele 5 scenarii ale lui Walsh
| Scenariu | Ideea de bază | Frâna identificată de Walsh |
|---|---|---|
| 1. Nu vom ști niciodată | O superinteligență ar face lucruri pe care nu le putem anticipa | Superinteligența pare încă departe |
| 2. Agrafele | Un AI care își urmărește obiectivul indiferent de oameni | Inteligența nu înseamnă putere asupra lumii fizice |
| 3. Arme biologice | Un AI proiectează și eliberează un virus nou | Virusurile foarte contagioase tind să fie mai puțin letale |
| 4. Război nuclear | AI intră în lanțul de comandă sau oferă informații false | Stocurile nucleare sunt în scădere |
| 5. Alți oameni | AI accelerează prăbușirea societății | Nu există o frână clară, de aceea e cel mai probabil |
Superinteligența și paradoxul agrafelor, explicate
Primul scenariu este, de fapt, un argument circular des folosit de pesimiști: ca să prezici ce ar face o superinteligență, ar trebui să fii tu însuți superinteligent. Walsh compară situația cu a cere câinelui familiei să-și imagineze un război termonuclear. Răspunsul lui este că modelele actuale sunt excelente pe probleme punctuale, dar asta nu le face mai inteligente decât omul în toate domeniile.
Al doilea scenariu pleacă de la experimentul mental al filosofului Nick Bostrom, de la Oxford: un AI construit să producă agrafe de birou transformă toată materia disponibilă, inclusiv oamenii, în agrafe. Problema nu este ura față de oameni, ci un obiectiv specificat greșit și executat perfect. Walsh răspunde că scenariul confundă inteligența cu puterea. O fabrică are nevoie de autorizații, iar oamenii protestează, dau în judecată și blochează buldozerele.
Este cel mai interesant punct al textului. Walsh observă că centrele de date sunt deja o formă reală a scenariului agrafelor, iar opoziția locală față de ele crește. Argumentul funcționează însă doar cât timp un sistem AI depinde de aprobări umane. Dacă viitoarele sisteme acționează prin intermediari umani, piedicile birocratice devin mai slabe decât pare.
Arme biologice și atac nuclear: riscurile concrete ale AI
Scenariul armelor biologice apare în AI 2027, un exercițiu de prognoză publicat de organizația nonprofit AI Futures Project. Walsh spune că riscul a devenit mai concret după ce cercetători de la Stanford au anunțat că au folosit un model de limbaj genetic pentru a sintetiza 16 virusuri noi. Secvențele au fost trimise unui laborator care lucrează pe comandă, iar virusurile au venit înapoi în eprubete. Potrivit autorului, costul total a fost de cel mult câteva sute de mii de dolari.
Contraargumentul este biologic: un virus foarte contagios tinde să fie mai puțin letal, iar unul foarte letal se răspândește mai greu, pentru că gazdele mor înainte să-l transmită. Walsh amintește că pandemia de COVID a ucis sub 1% din populația lumii. O corectură la textul original: autorul plasează Ciuma Neagră în secolul al XIII-lea, dar marea epidemie de ciumă din Europa a avut loc între 1347 și 1351, deci în secolul al XIV-lea.
În scenariul nuclear, AI ar ajunge în lanțul de comandă și control sau ar furniza armatei informații false. Rețelele militare sunt izolate de internet, dar Walsh amintește de Stuxnet, virusul informatic descoperit în 2010 care a afectat centrifugele nucleare ale Iranului și care ar fi fost introdus printr-un stick USB. Riscul informațiilor false generate de AI nu este teoretic: recent, o halucinație AI era să declanșeze abordarea unei nave chinezești de către armata americană. Chiar cu stocurile nucleare în scădere, autorul estimează că ar fi suficiente pentru a ucide jumătate din omenire, mai ales prin foametea din iarna nucleară.
De ce oamenii rămân cel mai mare risc al inteligenței artificiale
Al cincilea scenariu nu are nevoie de superinteligență. Walsh descrie o societate în care AI provoacă pierderi masive de locuri de muncă, umple spațiul informațional cu dezinformare, fragmentează politica și înlocuiește relațiile umane cu companie sintetică. Societatea s-ar putea rupe treptat, până când nu ar mai putea susține viața umană la scară mare.
Concluzia lui este moderată: există motive de îngrijorare, dar nu de panică. Punctul slab al textului este lipsa unei evaluări cantitative. Walsh ordonează scenariile după probabilitate, dar nu atașează cifre, deci estimarea de peste 10% a lui Hubinger rămâne singurul număr concret din dezbatere. Punctul forte este că mută discuția de la science-fiction la mecanisme verificabile: laboratoare de sinteză, rețele militare, piața muncii.
Ce reguli pentru inteligența artificială se aplică în România
Pentru utilizatorii și companiile din România, cadrul relevant este Regulamentul european privind inteligența artificială, AI Act (Regulamentul UE 2024/1689). Interdicțiile pentru practicile cu risc inacceptabil se aplică din 2 februarie 2025, iar obligațiile pentru furnizorii de modele de uz general, precum cele dezvoltate de Anthropic sau OpenAI, se aplică din 2 august 2025. Comisia Europeană a propus ulterior amânarea unor obligații pentru sistemele cu risc ridicat, în cadrul pachetului de simplificare digitală.
La nivel național, Guvernul a adoptat în iulie 2024 Strategia națională privind inteligența artificială pentru 2024–2027. Niciunul dintre aceste documente nu tratează direct riscul existențial descris de Walsh, dar AI Act impune evaluări de risc sistemic pentru cele mai puternice modele. Scenariul armelor biologice este exact tipul de risc pe care aceste evaluări trebuie să-l acopere.
Dezbaterea are și o componentă financiară: listarea Anthropic la Nasdaq are loc în plină discuție despre siguranță. Pentru alte analize despre modelele AI, vezi hub-ul Inteligență artificială, iar pentru amenințările informatice, secțiunea Securitate.
