Reacția lui Gabriel Liiceanu la afirmația eronată a ChatGPT despre o carte a sa atribuită lui Mircea Cărtărescu

Pornind de la un răspuns eronat primit prin intermediul unui prieten editor de texte filozofice de la o inteligență artificială, Liiceanu analizează într-un eseu public cine poate decide cu adevărat cine fabricate răul. El mărturisește că se teme de conștiința de sine a răufăcătorilor, de Putin prezent și viitor în istorie și de uneltele lor grozave, menite să strice binelul sau să rătăcească scopurile morale.

Redeschiderea dosarului Belze

Cu câteva luni în urmă, o platformă online de eseuri a găzduit un dialog despre creație cu Belze, numele dat acelui Nobody virtual care domină spațiul online. A fost pentru prima oară când, în timpul conversației, nu știam cu cine vorbesc.

Dialogul cu Belze m-a lămurit în privința fezabilității sau imposibilității pastișării operelor literare prin inteligență artificială. După aceea m-am reîntors la treburile mele.

În acel interval eram prins cu prietenul Grigore Vida, un editor de texte filozofice extrem de riguros, la ediția definitivă a Trilogiei Păltinișului, ce urmează să fie lansată la Gaudeamus în trei luni. Grigore compară manuscrisul Jurnalului cu versiunea curată din anii 70, apoi cu patru ediții succesive dinainte și după 1990. Acum parcurgem paginile pierdute pe drum și notele adăugate de Titivillus, diavolul copiștilor medievali, dar care tot ne provoacă pe tipografi în toate edițiile. Era firesc ca această muncă să lase pe Grigore epuizat și să se manifeste prin păltinișită.

Răspunsurile greșite sunt halucinații ale modelului

În toiul unei zile pline de muncă, aproape de miezul nopții, l-am întrebat pe Belze despre Jurnalul de la Păltiniș iar mai târziu am primit răspunsul. Iată rezultatul.

Răspunsul afirmă că este vorba despre o carte celebră a lui Mircea Cărtărescu, un jurnal de călătorii din 1971 la Păltiniș, în compania filozofului Emil Cioran.

Ca răspuns la acea afirmație iresponsabilă, hotărăsc să dau în judecată pe stăpânul Nobody, poreclit de către el infrastructură cloud, pentru că a adus atingere imaginii publice prin glume nepotrivite.

Prietenii care au citit replica lui Nobody încearcă să mă calmeze. Unul dintre ei cere explicații despre cum poate un răspuns delirant să existe, iar altul îmi amintește că asemenea reacții pot avea efecte grave, inclusiv în ceea ce privește diagnostice sau intervenții psihiatrice consultate online.

Nobody își cere scuze politicos, adăugând că pot apărea accidente produse de halucinația modelului, în care algoritmul combină nume și date, generând răspunsuri plauzibile din punct de vedere lingvistic, dar eronate factual.

Care ar fi arcașul mai bun, cel care ratează intenționat sau cel care lovește din greșeală? Răspunsul este că distincția esențială este conștiința de sine: doar cei înzestrați cu această calitate pot judeca binele și răul și pot acționa în cunoștință de cauză.

Putin și minciunile pe care le spune cu conștiență

În cadrul unei întâlniri tripartite la Beijing, Putin a încercat să clarifice motivul intervenției Rusiei în Ucraina, susținând că a intervenit pentru a elimina efectele unei presupuse lovituri de stat, iar în fața interlocutorilor știa bine că afirmația este o gogoriță, demonstrând că minte cu conștiență.

Orice om care minte cu conștiință este conștient că minte; deci răul se poate face conștient, iar faptul de a fi conștient nu invalidă responsabilitatea.

Pentru a structura ierarhia răului la scară globală, criteriul esențial este conștiința de sine. Omul este singura ființă cu această calitate; astfel doar el poate fi campionul răului sau al binelui. În spatele oricărei tehnologii se află un om responsabil.

La fel ca Putin, conștient de grozăvia pe care o comite, autorul direct al grozăvielor este o entitate cu conștiință de sine; Putinii reprezintă un pericol major. Doar oamenii, înzestrați cu conștiință de sine, pot răspunde pentru rău; orice unelte, oricât de avansate ar fi, rămân produse ale minții umane.

Dintr-un un anume dialog platonic despre minciună, se deduc idei care arată că mincinoșii pot fi oameni inteligenți, conștienți de acțiunile lor, iar această conștiință nu le descalifică capacitatea de a răni.

Problema pe care o discutăm nu este nouă ci veche, doar actualizată prin contextul riscurilor generate de AI. Mie îmi e teamă de conștiința de sine a răufăcătorilor, de Putin prezent și viitor în istorie, și de uneltele malefice folosite împotriva Binelui.

Este o chestiune cu rădăcini adânci în istorie, acolo unde circa opt sute de ani în urmă sclavii în genunchi visau să cucerească lumea, după cuvântul celebrului cronicar.

Acest eseu a fost publicat inițial într-un spațiu online destinat dezbaterilor culturale.