Inteligența artificială superinteligentă va aduce umanitatea împreună în fața unei amenințări comune, afirmă un expert în domeniu

Dezvoltarea rapidă a tehnologiei inteligenței artificiale a generat o competiție globală în domeniul militar, dar Geoffrey Hinton, unul dintre cei trei fondatori ai conceptului de A.I. și laureat al Premiului Nobel pentru Fizică în 2024, susține că națiunile vor colabora în fața unei amenințări comune, în momentul în care aceasta va deveni evidentă, conform Business Insider.

„Statele nu colaborează în privința riscurilor legate de armele autonome letale”, a declarat Hinton la un seminar găzduit de Academia Regală Suedeză de Științe Inginerești. „Principalele țări producătoare de arme – Rusia, Statele Unite, China, Marea Britanie, Israel și posibil Suedia – sunt concentrate pe dezvoltarea de arme autonome, fără a dori reglementări sau colaborări”.

Hinton, care a fost distins cu Premiul Nobel pentru Fizică împreună cu John J. Hopfield pentru contribuțiile lor la învățarea automată cu rețele neuronale, crede că situația geopolitică se va modifica atunci când umanitatea va trebui să se confrunte cu o posibilă amenințare reprezentată de A.I. superinteligentă.

„Odată ce aceste sisteme de A.I. vor depăși inteligența umană – un lucru pe care majoritatea cercetătorilor îl consideră inevitabil, cu opinii diverse privind termenul, care poate varia de la 5 la 30 de ani – vor prelua controlul. Există ceva ce putem face pentru a preveni această situație?”, a întrebat el audiența.

„Vom colabora în această direcție, deoarece nicio țară nu își dorește ca acest lucru să se întâmple”, a prezis Hinton.

Înainte de a obține Premiul Nobel pentru Fizică anul acesta, Hinton a fost laureat al Premiului Turing în 2018, împreună cu Yann LeCun și Yoshua Bengio, pentru realizările lor în învățarea profundă, un subset al metodelor de învățare automată bazate pe rețele neuronale.

Cei trei cercetători sunt adesea denumiți „pionierii A.I.” sau „pionierii Deep Learning”. Hinton a renunțat la funcția sa de la Google în 2023 pentru a atrage atenția asupra dezvoltării necontrolate a tehnologiilor A.I. LeCun, acum director științific la compania Meta, este un critic recunoscut al OpenAI, iar Bengio a subliniat și el preocupările legate de inteligența artificială.

Un alt expert în domeniu lansează un avertisment serios despre tehnologia actuală

Bengio, profesor la Universitatea Montreal și conducător al Institutului pentru Algoritmi de Învățare din Montreal, a exprimat îngrijorări față de tehnologia la care a contribuit semnificativ, unele dintre observațiile sale fiind similare cu cele ale lui Hinton.

„Este crucial să ne imaginăm un viitor în care mașinile sunt la fel de inteligente ca noi și impactul pe care acest lucru l-ar putea avea asupra societății”, a declarat el într-un interviu pentru CNBC, în cadrul summit-ului One Young World din Montreal.

„Inteligența aduce putere. Cine va controla această putere?”, a întrebat Bengio.

„Sisteme care au o cunoaștere superioară majorității oamenilor pot fi periculoase dacă ajung în mâini nepotrivite și pot crea instabilitate geopolitică sau situații de terorism”, a prezis cercetătorul.

Cercetătorul afirmă că oamenii de știință nu au soluții pentru a preveni potențialele daune ale inteligenței artificiale

„Construirea și antrenarea acestor mașini necesită miliarde, iar puține organizații și țări pot face acest lucru. Observăm deja efectele”, a subliniat Bengio, care a fost mai pesimist în privința cooperării internaționale pentru a aborda riscurile A.I.

„Există un risc de concentrare a puterii: putere economică, care ar putea afecta piețele; putere politică, care ar putea submina democrația; și putere militară, care ar putea compromite stabilitatea geopolitică. Avem multe întrebări urgente de investigat și măsuri pe care trebuie să le implementăm cât mai curând”, a adăugat el.

Bengio a subliniat că scenariile potential negative ar putea deveni reale în câteva decenii, dar dacă acestea se materializează în 5 ani, „nu suntem pregătiți... deoarece nu avem metode prin care să ne asigurăm că aceste sisteme nu vor provoca daune oamenilor”.

„Nu știm cum să prevenim acest lucru”, a insistat el, adăugând că modul actual de instruire al sistemelor A.I. ar putea duce la dezvoltarea de tehnologii care se întorc împotriva umanității.