Un renumit autor de science-fiction aduce în discuție o propunere pentru Big Tech și un avertisment: Să nu devenim „eloi”

Neal Stephenson, unul dintre cei mai apreciați autori contemporani de science-fiction, a propus ca sistemele de inteligență artificială să aibă permisiunea de a concura între ele, având în vedere că evoluția asigură un echilibru în ecosisteme. Totodată, el consideră că oamenii ar trebui să limiteze utilizarea A.I. înainte ca aceasta să ne afecteze negativ ca specie.

Faimos pentru termenul „metavers” pe care l-a introdus în romanul său emblematic „Snow Crash” din 1992, iar în 1999, cu „Cryptonomicon”, a anticipat apariția criptomonedelor și nevoia de criptare. Viziunea sa profetică, împreună cu narațiunile sale captivante care explorează teme precum matematică, criptografie, lingvistică, filosofie și istoria științei, îl fac o figură importantă atât ca romancier, cât și ca gânditor.

Recent, Stephenson a participat la un panel despre inteligența artificială, organizat în cadrul unui eveniment privat în Noua Zeelandă.

Ulterior, el a publicat discursul său de deschidere, în care a subliniat anxietatea generată de dezvoltarea rapidă a inteligenței artificiale generative.

Scriitorul compară A.I. cu formele non-umane de inteligență existente pe planetă

Stephenson ne îndeamnă să ne amintim că împărțim planeta cu numeroase forme de inteligență non-umană din regnul animal și că, de-a lungul timpului, am învățat să coexistăm cu acestea.

„De obicei, le considerăm mai puțin inteligente decât noi – și în multe cazuri, aceasta nu este greșit, dar este posibil să fie mai corect să gândim că posedă tipuri diferite de inteligență, adaptate pentru diverse sarcini” a notat el.

Stephenson sugerează o clasificare a acestor inteligențe non-umane, afirmând că cele mai utile sisteme de A.I. ar putea fi similare cu câinii ciobănești: capabile să îndeplinească sarcini mai eficient decât un om. Alte A.I. ar putea fi comparabile cu libelulele: utile, dar indiferente față de oameni, în timp ce unele vor fi ca și corbii sau ciorile: conștiente de prezența umană, dar lipsit de interes față de aceasta.

Stephenson consideră că ChatGPT se aseamănă cu un „cățel de poală”: un tip de inteligență dependent de oameni, special conceput pentru a le facilita acestora viața.

O propunere pentru a lansa inteligențele artificiale în competiție între ele

Autorul crede că vor apărea inteligențe artificiale ce ar putea reprezenta un risc pentru umanitate.

„Sper totuși că, chiar și în cazul acestor A.I. care pot fi periculoase, putem găsi o sursă de inspirație în natură, unde competiția împiedică o specie să domine complet ecosistemul”, a afirmat el. „Chiar și T. Rex trebuia să fie vigilent pentru a nu fi atacat de un Triceratops, având de înfruntat și paraziți, infecții și lipsa de resurse”.

„Dacă instruim A.I. să concureze și să înfrunte alte A.I., s-ar putea să reușim să menținem un echilibru sănătos în noul ecosistem. Dacă aș avea mai mult timp și o mai bună înțelegere a A.I., m-aș dedica creării unor sisteme care să aibă ca obiectiv combaterea modelelor existente: prin livrarea de date false, perturbarea alimentării cu energie, descurajarea investitorilor și sabotarea activității acestora”, a continuat Stephenson.

La vârsta de 65 de ani, scriitorul subliniază că nu propune această idee din răutate, ci din „convingerea că orice entitate ar trebui să participe la competiție, iar un ecosistem diversificat încurajează rezultate mai sănătoase pe termen lung comparativ cu dezvoltarea unui superprădător într-un mediu controlat, unde are totul la dispoziție”.

Totodată, Stephenson a recunoscut că nu e probabil ca o confruntare directă între A.I. să se întâmple în viitorul apropiat, și astfel s-a concentrat pe alte metode de a reduce riscurile. În acest sens, el a făcut referire la observarea filozofului canadian Marshall McLuhan care a spus că „fiecare augmentare este și o amputație”.

„Trebuie să ne păstrăm gândirea critică în fața A.I.”

Stephenson a ilustrat acest concept prin discuții cu profesori care afirmă că elevii lor folosesc ChatGPT pentru orice, ceea ce a dus la stagnarea învățării.

„Se poate ajunge, astfel, la o generație care amintește de eloii din Mașina timpului de H.G. Wells: indivizi cu capacități cognitive limitate, complet dependenți de tehnologii pe care nu le înțeleg și pe care nu ar putea să le reconstruiască în caz de defecțiune,” a subliniat Stephenson, punând o întrebare retorică:

„Cine este cu adevărat cățelul de poală într-un univers plin de A.I. puternice?”

El susține că este ușor să prevenim transformarea în eloi: tot ce trebuie să facem este să adoptăm „soluții simple, precum obligativitatea susținerii examenelor în săli supravegheate, cu răspunsuri scrise de mână, pe foi albe.”

„Este realizabil, deoarece așa se desfășurau toate examenele în trecut. Nu necesită tehnologie nouă și nu există obstacole reale, în afară de inerția instituțională și, regretabil, refuzul părinților de a-și pregăti copiii pentru provocări serioase,” a adăugat el.

„În scenariul menționat anterior, unde oamenii fac parte dintr-un ecosistem stabil, dar competitiv, este esențial să devenim și noi competitori capabili. Când competiția se desfășoară în domeniul inteligenței, aceasta înseamnă să ne păstrăm și să ne dezvoltăm propria inteligență, evitând atracțiile seducătoare ale augmentărilor care vin cu costuri.”