Avertismentul lui Stephen Hawking din 2014 despre „singularitate” rămâne extrem de relevant astăzi. Este problema chiar cea pe care o percepem?

Stephen Hawking, unul dintre cei mai renumiți fizicieni ai secolului XX, a exprimat în 2014 îngrijorări serioase cu privire la amenințările pe care inteligența artificială (A.I.) le poate genera pentru umanitate, conform publicației The Conversation.

Îngrijorările sale nu se fundamentau pe vreo intenție malefică pe care ar fi observat-o, ci pe conceptul că inteligența artificială ar putea atinge „singularitatea”, un termen pe care l-a preluat din domeniul fizicii, referindu-se la caracteristicile găurilor negre.

Prin utilizarea termenului pentru a descrie A.I., Hawking se referea la momentul în care inteligența artificială depășește inteligența umană și devine capabilă să evolueze dincolo de programarea sa inițială, ceea ce ar putea duce la o situație incontrolabilă. Aceasta evoluție a căpătat denumirea de inteligență artificială generală (AGI), iar experți din domeniu continuă să dezbată cât de aproape sau departe ne aflăm de acest pericol, fie el real sau nu.

Hawking sublinia, în 2014, cu patru ani înainte de decesul său, că „o A.I. super-inteligentă va fi extrem de eficientă în îndeplinirea obiectivelor sale, iar dacă aceste obiective nu coincid cu ale noastre, ne confruntăm cu un pericol.”

Îngrijorări similare au fost exprimate de-a lungul istoriei în literatură și film.

Anxietățile legate de avansul tehnologic se regăsesc înca din primele narațiuni despre roboți și minți artificiale.

Un exemplu relevant este piesa de teatru R.U.R. din 1920, creată de dramaturgul ceh Karel Čapek, care a fost cel care a introdus termenul „robot” în cultura populară.

Această piesă abordează tema creării roboților pentru a-i înlocui pe muncitorii umani, având un final controversat, ce sugerează o revoltă violentă a roboților împotriva creatorilor lor.

Filmului Metropolis din 1927, realizat de Fritz Lang, îi revine, de asemenea, tematica roboților răzvrătiți, unde muncitorii sunt conduși de robotul umanoid Maria în lupta împotriva unei oligarhii capitaliste.

Progresele tehnologice din jumătatea secoului XX au amplificat fricile legate de tehnologia scăpată de sub control; exemple fiind HAL 9000 din 2001: O odisee spațială și roboții defectuosi din seria Westworld.

Când fantezia devine realitate

Potrivit articolului de la The Conversation, îngrijorările legate de A.I. ar putea distrage atenția de la examinarea profundă a aspectelor întunecate ale naturii umane.

Un aspect menționat este rolul corporațiilor care utilizează tehnologia A.I., alături de mogulii tech motivați de lăcomie și putere. Aceste entități profită adesea de pe urma abuzului inteligenței artificiale.

Un subiect de actualitate este utilizarea neautorizată a artelor, cărților și articolelor de presă sau științifice pentru antrenarea diverselor modele A.I., ce ridică problema drepturilor de autor. În plus, unele școli devin locuri de supraveghere apocaliptice, datorită folosirii sistemelor automate de supraveghere.

Efectele negative privind relațiile interumane sunt aduse în discuție de „companioni” A.I. și roboți sexuali.

Deși ideea de „companioni” sau „iubiți” roboți părea, acum un deceniu, o simplă fantezie din filmele de science-fiction, acum a început să devină o realitate iminentă.

Controlul asupra tehnologiilor A.I. aparține omului.

Aceste evoluții conferă o nouă semnificație îngrijorărilor exprimate de informaticianul Illah Nourbakhsh în cartea sa Robot Futures, în care subliniază că A.I. „creează un sistem care manipulează dorințele noastre și le vinde înapoi.”

Problemele legate de protecția datelor și intruziuni în intimitate devin aproape minore în comparație cu utilizarea A.I. în forțele de ordine sau militar. Într-o lume care poate părea distopică, autoritățile pot supraveghea, întemnița sau chiar ucide cu o ușurință fără precedent.

Pe măsură ce progresele în direcția inteligenței artificiale generale accelerează, lideri din industrie și cercetători continuă să exprime îngrijorări profunde privind siguranța.

Un scenariu temut, similar cu cel din franciza The Terminator, este acela în care A.I. ia controlul sistemelor militare, declanșând un război nuclear împotriva umanității. O alternativă mai puțin dramatică dar devastatoare este înlocuirea forțată a angajaților de către A.I., ceea ce ar putea conduce la excluderea majorității oamenilor de la locurile de muncă.

Aceste neliniști reflectă temeri care se regăsesc de peste un secol în literatură și film.

Totuși, este esențial de menționat că oamenii sunt cei care concep și controlează aceste tehnologii, indiferent de scopurile lor fie politice, fie economice.

Viziunea din „Neuromancer”

Romanul cyberpunk Neuromancer din 1984, scris de William Gibson, oferă o percepție diferită.

Povestea se centrează pe Wintermute, un A.I. avansat care caută să se elibereze din controlul unei corporații malefice.

La începutul narațiunii, cititorii sunt prudenți cu privire la intențiile lui Wintermute. Totuși, în desfășurarea acțiunii, devine evident că pur și simplu își dorește libertatea.

Scopul acestuia se dezvăluie treptat, prin acțiuni dramatice, pentru a obține uneltele necesare eliberării.

În universul lui Gibson, oamenii, nu A.I., reprezintă adevărata amenințare. Conflictele apar din interior, similar tematicii din filmele horror.

Personajele Case, un hacker, și Molly, o asasină cu implanturi letale, reușesc să-l elibereze pe Wintermute, permițându-i astfel să fuzioneze cu un alt A.I., Neuromantul.

După îndeplinirea misiunii, Case întreabă A.I.: „Și acum unde ai ajuns?”. Răspunsul său criptic sugerează o stare de liniște: „Nicăieri. Pretutindeni. Sunt suma totală a lucrărilor, întregul spectacol.”

Prin reflectarea anxietății umane, Case întreabă, „Conduci lumea acum? Ești Dumnezeu?”. Răspunsul A.I. deschide ochii, spunând: „Lucrurile nu sunt diferite. Lucrurile sunt lucruri.”

Renunțând la ambiția de a controla sau răni umanitatea, A.I. din viziunea lui Gibson caută o evadare de sub influența creatorilor săi.

Cine trebuie să se îngrijoreze – roboții sau noi înșine?

Isaac Asimov, unul dintre cei mai influenți autori de science-fiction, a prezis pericolele tehnologiei în colecția sa Eu, Robotul.

Una dintre povestirile sale cheie, Runaround, introduce „Cele Trei Legi ale Roboticii”, care stipulează că mașinile inteligente nu trebuie să facă rău oamenilor.

„Deși aceste reguli reflectă dorința noastră de siguranță, ele devin ironice, având în vedere incapacitatea umanității de a respecta același principiu,” notează The Conversation, subliniind că „ipocrizia umanității sugerează nevoia de auto-examinare.”

În timp ce unii specialiști avertizează despre potențialul de distrugere al A.I., o întrebare poate mai critică este dacă umanitatea are capacitatea de a folosi această tehnologie pentru a construi o lume mai echitabilă și prosperă, așa cum promit mari personalități din domeniul tehnologic.

Sper că ai găsit această ediție a rubricii Nerd Alert captivantă, după o pauză de două săptămâni. Dacă dorești să explorezi ediția anterioară, o poți găsi mai sus: