Geoffrey Hinton, considerat drept „părintele AI” sau ,,nașul inteligenței artificiale”, afirmă că are emoții că tehnologia pe care și-a petrecut o viață întreagă construind-o ar putea prelua controlul asupra lumii.
Într-o apariție la emisiunea CBS 60 Minutes din weekend, renumitul om de știință și cercetător în domeniul IA – care a făcut valuri mediatice la începutul acestui an când și-a anunțat plecarea de la Google, a declarat că „pentru prima dată”, omenirea trebuie să se confrunte cu realitatea că altceva de pe planeta noastră este „mai inteligent decât noi”.
Poate cea mai interesantă parte a schimbului de replici a venit atunci când Scott Pelley, gazda CBS, l-a întrebat pe Hinton dacă o inteligență artificială super-inteligentă ar putea ajunge să „ia locul umanității”.
„Nu spun că se va întâmpla”, a declarat Hinton gazdei CBS Scott Pelley. „Dacă am putea să le împiedicăm să vrea vreodată să o facă, ar fi grozav”.
„Dar”, a adăugat Hinton, „nu este clar că putem să-i împiedicăm să vrea vreodată să o facă”.
Inteligența artificială ar putea aduce sfârșitul omenirii? Un nou semnal de alarmă!
Marea necunoscută
În ceea ce privește specificul modului în care AI ar putea, în cele din urmă, să-și depășească stăpânii umani, Geoffrey Hinton a speculat că inteligența artificială ar putea începe să se „modifice singură”.
„Acesta este un lucru de care trebuie să ne îngrijorăm serios”, a adăugat el, menționând îngrijorarea sa cu privire la lipsa de înțelegere detaliată pe care o au de fapt cercetătorii cu privire la modul exact în care funcționează cu adevărat algoritmii de învățare automată.
Avem o idee aproximativă „foarte bună” despre cum învață sistemele de inteligență artificială, „dar, de îndată ce devine foarte complicat, nu știm de fapt ce se întâmplă mai mult decât știm ce se întâmplă în creierul tău”.
,,Este o preocupare corectă; indiferent dacă rezultatul unei mașini este corect din punct de vedere tehnic – să zicem că produce cât mai multe agrafe de hârtie posibil – tot contează foaia de parcurs pe care mașina o parcurge pentru a ajunge la acel punct final. Dacă oamenii recompensează suficient de mult timp rezultatele corecte obținute prin mijloace problematice, am putea antrena accidental instrumentele de inteligență artificială în moduri care s-ar putea să se întoarcă împotriva noastră”, a declarat acesta.
Temerile lui Hinton nu se limitează la chestiunile legate de dominația lumii.
Potrivit CBS, el este îngrijorat și de impactul modului în care oamenii ar putea folosi inteligența artificială, de la utilizarea armelor și a roboților de război autonomi, la înlocuirea în masă a lucrătorilor umani cu inteligența artificială, la o proliferare destabilizatoare a dezinformării bazate pe inteligența artificială.
,,Este o perspectivă sumbră, cu siguranță, dar, pe măsură ce această mare necunoscută se desfășoară, potențialele amenințări – în special atunci când se referă la utilizarea abuzivă de către oameni, față de temerile opace de triumf al mașinilor asupra oamenilor – continuă să merite să fie luate în considerare”, a declarat Hinton.
„Există o incertitudine enormă”, i-a spus Hinton lui Pelley, „cu privire la ceea ce se va întâmpla în continuare.”