Pionierul inteligenței artificiale Geoffrey Hinton a surprins pe mulți luni când a dezvăluit că a demisionat de la Google, unde a lucrat în ultimul deceniu la proiecte de inteligență artificială.
Supranumit adesea „părintele inteligenței artificiale” pentru munca sa revoluționară care stă la baza multor sisteme de inteligență artificială din prezent, Hinton, născut în Marea Britanie și în prezent în vârstă de 75 de ani, a declarat pentru New York Times că este foarte îngrijorat de viteza cu care companii precum Open AI, cu instrumentul ChatGPT, și Google, cu Bard, lucrează la dezvoltarea produselor lor, mai ales că acest lucru ar putea avea loc în detrimentul siguranței.
Hinton este atât de îngrijorat încât a spus chiar că o parte din el regretă eforturile sale din trecut în domeniul inteligenței artificiale.
După cum subliniază Hinton, instrumentele de inteligență artificială generativă se îndreaptă deja spre înlocuirea lucrătorilor umani, iar tehnologia poate fi folosită și pentru crearea și răspândirea de dezinformări.
Harta creierului, asemănări frapante cu rețelele de inteligență artificială
Într-adevăr, una dintre îngrijorările lui Hinton este că internetul, ale cărui date sunt folosite pentru a antrena instrumentele de IA generativă, va fi inundat de informații false care ar putea determina roboții de chat precum ChatGPT și Bard să promoveze nenumărate neadevăruri într-un mod care să sune credibil.
Pe măsură ce companiile din spatele acestei tehnologii își lansează instrumentele cu inteligență artificială pentru uz public fără a le cunoaște pe deplin potențialul, Hinton se teme că este „greu de văzut cum poți împiedica rău-voitorii să le folosească pentru lucruri malefice”.
Hinton a declarat că reglementarea tehnologiei va fi dificilă, deoarece companiile și guvernele pot lucra la această tehnologie destul de mult în secret, adăugând că o modalitate de a rezolva această problemă este de a încerca să convingă oamenii de știință importanți să lucreze împreună la modalități de a controla tehnologia.
Expertul în inteligență artificială a declarat luni, într-un tweet, că a decis să plece de la Google pentru a putea „vorbi despre pericolele inteligenței artificiale fără a lua în considerare modul în care acest lucru afectează Google”, sugerând că vom mai auzi multe despre el pe măsură ce tehnologia continuă să se dezvolte.
Luna trecută, când a fost întrebat într-un interviu pentru CBS despre posibilitatea ca inteligența artificială „să distrugă omenirea”, Hinton a spus: „Nu este posibil ca inteligența artificială să distrugă omenirea:.Nu este de neconceput”.
După aflarea veștii plecării lui Hinton, Jeff Dean, șeful departamentului de știință al Google, a spus într-o declarație: „Rămânem dedicați unei abordări responsabile a inteligenței artificiale. Învățăm continuu pentru a înțelege riscurile emergente, inovând în același timp cu îndrăzneală”.
Hinton nu este singurul expert care și-a exprimat îngrijorarea cu privire la noul val de tehnologie IA care a luat cu asalt lumea.
Poate surprinzător, șeful OpenAI, Sam Altman, a recunoscut recent că este „un pic speriat” de efectele potențiale ale tehnologiei AI.
Iar în luna martie, o scrisoare semnată de lideri din domeniul tehnologiei și de academicieni a susținut că tehnologia prezintă „riscuri profunde pentru societate și umanitate”.
Publicată de Future of Life Institute și printre ai cărei semnatari se numără și Elon Musk, scrisoarea cerea o pauză de șase luni în activitatea de dezvoltare pentru a acorda timp pentru crearea și implementarea unor protocoale de siguranță pentru instrumentele avansate.
Aceasta a adăugat că, dacă este tratată în mod corect, omenirea va putea „să se bucure de un viitor înfloritor cu ajutorul AI”.
Inteligența artificială ar putea aduce sfârșitul omenirii? Un nou semnal de alarmă!