85 de ani de la o previziune despre un internet amenințat de paradoxuri

Cum se vor adapta internetul și societatea umană, profund interconectate, în anii următori? Revista The Conversation analizează câteva dintre viziunile scriitorilor de ficțiune.

În romanul său din 2019, „Fall”, autorul Neal Stephenson prezintă o societate viitoare unde internetul încă există dar este copleșit de dezinformare și publicitate, transformându-se într-o platformă aproape inutilizabilă.

Aceasta este o situație similară cu cea observată pe rețelele sociale precum Facebook, TikTok sau 'X', care au devenit surse majore de dezinformare și canale pentru reclame înșelătoare.

Vizionarul Stephenson a anticipat fenomenul metaversului în romanul său din 1992, „Snow Crash”, și a introdus un manual interactiv în „The Diamond Age” din 1995, funcționând ca un chatbot.

La prima vedere, chatboții populari, care par să remedieze problema dezinformării, ar putea oferi informații factuale și alternative utile utilizatorilor care adresează întrebări.

Cu toate acestea, paradoxal, informațiile generate de chatboți ar putea reprezenta o amenințare majoră pentru viitorul internetului. Acest pericol a fost anticipat cu mult timp în urmă de scriitorul Jorge Luis Borges, considerat un titan literar al secolului XX.

Ascensiunea chatboților în era digitală

Astăzi, internetul continuă să fie o sursă semnificativă de conținut factual, care este validat de experți și revizuit.

Dezvoltatorii de modele lingvistice avansate (LLM), care stau la baza chatboților precum ChatGPT, au folosit această resursă pentru a-și construi tehnologiile.

Pentru a-și îmbunătăți performanțele, aceste modele necesită un volum uriaș de texte de calitate, mult dintre acesta fiind extras din diverse surse online.

Totuși, deoarece internetul, deși vast, este o resursă limitată, textele de calitate neexploatate devin din ce în ce mai rare, provocând astfel o „criză emergentă de conținut”, conform The New York Times.

Acest aspect a determinat companii precum OpenAI să încheie parteneriate cu editori pentru a obține mai mult material pentru chatboții lor. Însă, potrivit unei analize realizate de EpochAI, o criză de date de calitate ar putea apărea începând cu 2026.

Provocările informaționale pe internet

Pe măsură ce chatboții generează conținut pe internet, apar aceste texte de „generație a doua”, unele conținând informații false și erori evidente, ce riscă să polueze mediul online.

Dacă un chatbot interacționează cu conținut problematic, poate învăța și reproduce idei inacceptabile, cum a demonstrat cazul Microsoft cu botul „Tay”, care a început să dezvăluie prejudecăți rasiale.

Aceste probleme s-ar putea traduce în informații din ce în ce mai nefiabile și mai puțin utile pe internet, iar modele LLM alimentate cu date slabe pot produce rezultate chiar mai interpretabile.

Imaginarul unui cerc vicios devine plauzibil, în care chatboții se hrănesc din outputul lor imperfect, inducând o degradare continue a calității informației.

Un studiu recent publicat în revista Nature a arătat că antrenarea modelelor A.I. pe date generate recursiv poate duce la „defecte ireversibile” care amenință integritatea modelului.

Reflecții inspirate de Borges

În povestirea sa din 1941, „Biblioteca Babel”, Borges imaginează o universitate a cunoștințelor, într-un spațiu ce conține o infinitate de cărți, fiecare având structură similară.

Aceste cărți oferă toate permutările posibile ale literelor pentru fiecare limbă, iar locuitorii visează la descoperirea unor lucrări ce detaliază destinul umanității.

Cu toate acestea, majoritatea textelor rezultate sunt combinații aleatorii, iar adevărul coexista alături de minciuni, ascunse într-o cantitate uriașă de informații fără sens.

Căutarea adevărului se transformă într-o deziluzie, iar puținele descoperiri semnificative nu pot garanta informații corecte.

Dilema contemporană a internetului

Va ajunge internetul să fie atât de contaminat încât informațiile de calitate să devină rare? Sau va produce atât de mulți chatboți încât localizarea adevărului să devină o provocare semnificativă?

Personajele din romanul lui Stephenson optează pentru „fluxuri editate”, surse de informație curate, considerate de încredere.

Dar acestea sunt accesibile doar celor cu resurse financiare, lăsând majoritatea utilizatorilor să se confrunte cu conținut online slab.

Internetul, deși văzut ca o realizare remarcabilă, necesită o gestionare atentă. Lipsa acestei atenții ar putea conduce la o viziune distopică similară cu cea prezentată de Borges, concluzionează The Conversation.

Ne bucurăm că ai parcurs această ediție a rubricii Nerd Alert. Dacă ești interesat, poți găsi și ediția de duminica trecută.