Unul dintre cei trei „nași ai inteligenței artificiale” trage un semnal de alarmă: „Există riscuri de abuz a acestei puteri”

Yoshua Bengio, expert în știința calculatoarelor și unul dintre cei trei denumiți „nași ai inteligenței artificiale”, a emis un avertisment grav referitor la efectele potențiale ale acestei tehnologii avansate și a subliniat pericolele asociate cu oamenii care o controlează, conform unei relatări de pe futurism.com.

Profesor la Universitatea din Montreal și director al Institutului de Algoritmi de Învățare din Montreal, Bengio și-a exprimat preocupările cu privire la tehnologia la care a contribuit semnificativ, sugerând chiar că indivizi cu o influență considerabilă ar putea dori să înlocuiască umanitatea cu mașinii.

„Este esențial să ne imaginăm un viitor în care mașinile sunt la fel de inteligente ca noi în multe privințe și să ne gândim la implicațiile acestuia pentru societate”, a declarat el într-un interviu oferit CNBC la summitul One Young World din Montreal, o conferință destinată tinerilor lideri interesați de soluționarea problemelor contemporane.

Bengio a preconizat că mașinile ar putea dobândi în curând capacități cognitive similare cu cele umane, referindu-se la Inteligența Artificială Generală (A.G.I.), o etapă anticipată în dezvoltarea A.I. în care aceasta ajunge la sau depășește capacitățile cognitive ale oamenilor în diverse domenii.

„Inteligența aduce control. Cine va deține această putere?”, a întrebat Bengio. „Sisteme care depășesc cunoștințele majorității oamenilor pot fi periculoase în mâinile nepotrivite, generând instabilitate geopolitică sau exacerband terorismul”, a prezis cercetătorul din Canada.

Bengio subliniază că oamenii de știință nu au soluții pentru a preveni daunele sistemelor A.I.

Bengio a indicat, de asemenea, că doar un număr restrâns de organizații și guverne vor avea capacitatea financiară de a dezvolta mașini A.I. avansate, iar aceste sisteme vor deveni din ce în ce mai sofisticate pe măsură ce vor evolua.

„Aceste mașini necesită miliarde de dolari pentru construcție și antrenare, iar doar câteva organizații și țări vor putea să le realizeze. Este un trend întâlnit deja”, a afirmat Bengio.

„Va exista o concentrare a puterii: economică, ce poate afecta piețele; politică, ce poate zgudui democrația; și militară, ce poate aduce destabilizare geopolitică pe glob. Sunt multe întrebări cu care trebuie să ne confruntăm și acțiuni pe care trebuie să le inițiem cât mai curând posibil”, a adăugat cercetătorul.

El a menționat că astfel de scenarii ar putea deveni realitate în câteva decenii, „dar dacă se realizează în 5 ani, nu suntem pregătiți (…) deoarece nu dispunem de metodele necesare pentru a ne asigura că aceste sisteme nu vor cauza rău oamenilor sau nu se vor întoarce împotriva lor”.

„Nu știm cum să gestionăm această problemă”, a subliniat el. De asemenea, Bengio a menționat că modul actual de instruire a sistemelor A.I. „ar putea conduce la crearea de mașini care se întorc împotriva omenirii”.

Cercetătorul discută despre oameni care s-ar putea bucura de înlocuirea majorității cu mașinării

„În plus, există indivizi care ar putea dori să abuzeze de această putere, iar alții care ar putea fi încântați să vadă umanitatea substituită de mașini. Deși aceasta este o opțiune extremă, persoanele cu o influență mare ar putea realiza acest lucru dacă nu implementăm urgent măsurile de protecție necesare”, a adăugat el.

Această declarație survine după ce, în luna iunie, Bengio a susținut o scrisoare intitulată „Dreptul de a atrage atenția asupra inteligenței artificiale avansate”. Scrisoarea, semnată de foști și actuali angajați ai OpenAI, a subliniat „riscuri serioase” asociate cu progresul tehnologiei A.I. și a solicitat colaborarea oamenilor de știință, decidenților și a publicului pentru a dezvolta norme care să minimizeze pericolele.

Deși ChatGPT a câștigat popularitate la nivel global, compania din spatele său a generat recent îngrijorări legate de practicile sale de dezvoltare a tehnologiei de inteligență artificială în condiții de siguranță. Aceste îngrijorări s-au amplificat după desființarea, în octombrie, a echipei dedicate gestionării tranziției către Inteligența Artificială Generală.

Cine sunt cei trei „Nași ai A.I.”

„Primul pas necesar pentru guverne este implementarea reglementărilor care să oblige [companiile] să se înregistreze atunci când dezvoltă aceste sisteme avansate, cunoscute pentru costurile de instruire ce se ridică la sute de milioane de dolari. Guvernele trebuie să fie informate cu privire la locația și specificațiile acestor sisteme”, a declarat Yoshua Bengio pentru CNBC.

Yoshua Bengio, alături de cercetătorii Yann LeCun și Geoffrey Hinton, a fost recompensat în 2018 cu Premiul Turing pentru contribuțiile lor la tehnologiile de învățare profundă. Această tehnologie este o componentă esențială în metoda de învățare automată, bazată pe rețele neuronale artificiale.

Cei trei cercetători sunt adesea denumiți „Nașii A.I.” sau „Nașii Deep learning”. Premiul Turing, adesea considerat „Premiul Nobel al informaticii”, este acordat anual persoanelor care au adus contribuții tehnice semnificative în domeniul IT. Este numit după Alan Turing, un matematician britanic recunoscut ca fiind părintele informaticii teoretice și al inteligenței artificiale.

LeCun, în prezent director științific la Meta, este un critic cunoscut al OpenAI. Hinton, recent premiat cu Premiul Nobel pentru Fizică în 2024, a demisionat de la Google în 2023 pentru a avertiza cu privire la dezvoltarea necontrolată a sistemelor A.I.