Un cercetător semnalează că OpenAI ar putea deveni cea mai „orwelliană” companie din istorie: „Adevărul a fost dezvăluit”

OpenAI, firma responsabilă pentru crearea celebrului chatbot ChatGPT, este recunoscută pentru generarea unui entuziasm masiv în jurul tehnologiei inteligenței artificiale. Totuși, începe să apară o îngrijorare cu privire la intențiile sale reale, un cercetător sugerând că aceasta ar putea deveni cea mai „orwelliană” companie din toate timpurile, conform celor reportate de futurism.com.

În urmă cu o săptămână, OpenAI a obținut 6,6 miliarde de dolari dintr-o nouă rundă de investiții, atingând o evaluare impresionantă de 157 de miliarde de dolari. Această sumă o plasează în rândul marilor companii, cum ar fi Disney (169 de miliarde) și Goldman Sachs (159 de miliarde), chiar dacă OpenAI nu este listată la bursă.

Cu toate că fundația OpenAI se prezintă ca o organizație non-profit, dedicată cercetării în slujba umanității, Sam Altman a publicat recent un manifest în care promite că inteligența artificială va contribui la soluționarea problemelor presante cu care se confruntă planeta.

Altman, care a devenit miliardar anul acesta, subliniază că în viitor omenirea va experimenta o „prosperitate comună” de neimaginat în prezent și că „viitorul tuturor poate fi mai strălucit decât viața cuiva în prezent“.

Totuși, scepticismul crește în jurul scopurilor OpenAI, având în vedere recentele controverse, inclusiv impactul negativ al cercetărilor A.I. asupra mediului, din cauza consumului enorm de energie, și metodele de dezvoltare sigură a inteligenței artificiale.

Într-o piață din ce în ce mai competitivă, unii temeri că OpenAI ar putea lua măsuri riscante pentru a-și asigura continuarea veniturilor.

Cercetătorul se gândește la OpenAI prin prisma cărții „1984”

Gary Marcus, un cercetător recunoscut pentru contribuțiile sale în științele cognitive, neuroștiințe și inteligență artificială, consideră că viitorul OpenAI nu este unul optimist and că se aseamănă mai mult cu scenario din cartea „1984” a lui George Orwell.

„Cred că OpenAI va deveni cea mai orwelliană companie din toate timpurile”, a declarat Marcus recent, în cadrul unei conferințe la Universitatea Stanford, axată pe implicațiile inteligenței artificiale pentru societate.

„Ceea ce se va întâmpla cu OpenAI este că va fi forțată să devină o companie de supraveghere”, a afirmat el, fiind citat de Business Insider. Marcus sugerează că investitorii nu pot aștepta finanțări indefinite și că OpenAI va trebui să genereze profit.

„OpenAI a promovat ideea unei A.I. universale, iar în 2023, majoritatea companiilor mari au experimentat pe baza acestei promisiuni”, a continuat el cu explicația sa.

„Dar în 2024, multe analize subliniază o dezamăgire: tehnologia nu este încă suficient de robustă pentru utilizare efectivă din cauza problemelor precum halucinațiile și erorile fundamentale”, a subliniat el, exprimând îngrijorări că multe afaceri devin mai rezervate în fața promisiunilor legate de A.I.

Liderul Oracle discută despre un viitor al supravegherii în care cetățenii vor acționa „cât mai bine”

Comentariile lui Gary Marcus se aliniază cu cele ale analiștilor financiari, care susțin că bursa americană este într-o „bulă” generată de entuziasmul asupra tehnologiei A.I., o stare care nu se justifică, având în vedere aplicațiile actuale și potențialul lor.

Larry Ellison, miliardar și fondator al Oracle, a oferit perspective cu privire la utilizarea A.I. pentru supravegherea în masă a cetățenilor, sugerând că aceasta va deveni o realitate.

„Se va implementa supravegherea”, a afirmat el, discutând despre impactul tehnologiei A.I. asupra responsabilizării polițiștilor și urmării infractorilor.

Cu toate acestea, la momentul respectiv, atât Business Insider cât și The Register au notat că Ellison nu se așteaptă ca A.I. să fie folosită exclusiv pentru a trasa responsabilitatea polițiștilor.

„Cetățenii vor fi motivați să se comporte cât mai bine, având în vedere că înregistrăm și raportăm constant activitățile”, a adăugat el, fără a oferi detalii despre metodele de înregistrare.

Îngrijorări cu privire la viitorul companiei conduse de Sam Altman

Conform relatărilor de pe futurism.com, supravegherea, într-o formă sau alta, a devenit o sursă de venit pentru numeroase companii tehnologice mari. Platformele de social media, de exemplu, vând informații despre utilizatori către terți.

În majoritatea cazurilor, acestea sunt companii de publicitate dornice să creeze reclame mai eficace, însă unele sunt firme de supraveghere care își oferă serviciile agențiilor guvernamentale.

Unii observatori au remarcat că OpenAI ar putea intra pe această cale, mai ales după numirea lui Paul Nakasone, fost director al NSA, în Consiliul său de Administrație.

Gary Marcus a menționat că, deși a sperat că OpenAI va respecta angajamentul său de a realiza cercetări în beneficiul umanității, a devenit din ce în ce mai cinic față de conducerea lui Altman, în special după ce OpenAI a început să se îndepărteze de modelul său non-profit.

„În ultimele luni, adevărul a fost dezvăluit și am serios îndoieli că [Altman] va reveni vreodată la misiunea inițială. Promisiunile făcute investitorilor pentru profit indică faptul că direcția este deja stabilită”, a concluzionat el pentru BI.