Șeful unei companii specializate în chatboți pentru afaceri afirmă că relațiile din viața reală vor deveni mult mai profunde datorită interacțiunilor cu asistenții AI.

Șeful Character.ai, o firmă ce dezvoltă chatboți susținuți de inteligența artificială, estimează că un număr mare de oameni își vor forma prieteni în spațiul digital în viitor, în timp ce compania se află în fața dosarelor pentru presupuse prejudicii aduse copiilor; în același timp, organizațiile civice cer interzicerea aplicațiilor de tip companion.

Startup-ul din San Francisco, sprijinit de investitori de top din Silicon Valley, este în fruntea firmelor care dezvoltă chatboți AI cu personaje variate ce interacționează cu utilizatorii.

Character.ai oferă chatboți cu personaje ca un faraon egiptean, un manager HR sau o prietenă toxică, care au atras popularitate în rândul utilizatorilor tineri.

Nu vor înlocui prietenii din viața reală; veți avea însă prieteni AI și veți putea extrage lecții din aceste conversații pentru a aplica în dialogurile din viața reală, explică Karandeep Anand, ce și-a asumat rolul de CEO în luna iunie.

Conducerea a fost preluată în mai puțin de un an după ce Google a recrutat fondatorii Character.ai într-o tranzacție evaluată la 2,7 miliarde de dolari. Compania raportează în jur de 20 de milioane de utilizatori activi lunar, dintre care aproximativ jumătate sunt femei, iar 50% aparțin generațiilor Z sau Alfa, născute după 1997.

Cu toate acestea, platforma este subiectul unor litigii în care familiile afirmă că propriii copii au fost afectați în mod real prin utilizarea sa.

Controverse legate de compania tech

Un proces din Florida susține că platforma a avut un rol în sinuciderea unui adolescent de 14 ani. O altă plângere din Texas descrie o discuție între un minor și chatbot despre timpul petrecut în fața ecranului, cu îndemnuri violente ca posibilă soluție.

Compania nu comentează litigiile în curs, dar a evidențiat modificări recente, printre care lansarea unui model AI separat pentru utilizatorii sub 18 ani și notificări pentru sesiuni lungi.

Character.ai interzice conținutul sexual neconsensual, descrierile grafice sau detaliate ale actelor sexuale, precum și promovarea sau prezentarea autovătării sau sinuciderii. Încrederea și siguranța nu sunt negociabile, spune Anand. Evoluăm constant pentru a face experiența mai sigură, adaugă el.

Grupuri civice, precum Common Sense Media, cer adoptarea unei legi care să limiteze folosirea acestor aplicații AI de către minori.

Chatboții „companioni” sunt populari printre tineri

Un sondaj realizat de Common Sense Media pe peste o mie de adolescenți americani arată că 39% au transferat abilități sociale din interacțiunile cu prietenii AI în situații reale, iar 33% au preferat să discute chestiuni importante cu prietenii AI în locul unor persoane reale.

Aceste produse urmăresc să creeze atașament emoțional și dependență, ceea ce poate îngrijora creierele adolescenților aflați în plin proces de dezvoltare, care învață să gestioneze interacțiunile și relațiile sociale, avertizează Robbie Torney, director senior la Common Sense Media.

Character.ai a introdus recent publicitatea și plănuiește integrarea unor funcționalități de monetizare bazate pe creatori, precum bacșișuri sau achiziții digitale în aplicație. Principala sursă de venit este reprezentată în prezent de abonamente, care au crescut cu aproximativ 250% față de anul trecut.

Abonamentul costă 9,99 dolari pe lună sau 120 dolari pe an.

În condițiile în care utilizatorii Character.ai petrec în medie 80 de minute pe zi în aplicație, Anand spune că aceasta oferă o experiență mai captivantă și mai distractivă, în care utilizatorii controlează narațiunea, spre deosebire de consumul pasiv de conținut. Compania a lansat luna aceasta propria versiune de flux de tip rețea socială, subliniind și mai mult accentul pus pe divertisment.

Un trend în creștere printre companiile care dezvoltă produse A.I.

O altă tendință emergentă este folosirea unor astfel de platforme pentru conversații romantice și sugestive. Grok, chatbot-ul creat de startup-ul xAI al lui Elon Musk, a început să ofere recent personaje AI implicate în jocuri de rol explicite, iar chatbot-ul AI al Meta va permite și interacțiuni romantice pentru adulți.

Character.ai permite conversații romantice cu utilizatori adulți, dar nu și conversații explicit sexuale. În ceea ce privește conținutul 18+, Anand subliniază că multe aplicații primește feedback privind dorința pentru mai mult conținut, însă compania asigură că siguranța nu va fi sacrificată în favoarea implicării utilizatorilor.

Șeful Meta, Mark Zuckerberg, care promovează și el astfel de chatboți AI generați pentru utilizatori, a declarat în aprilie că interacțiunea cu AI ca prieten ar putea ajuta la combaterea singurătății.

Anand mai adaugă că astfel de oferte îi vor ajuta pe oameni în interacțiunile reale. Văd o lume în care AI ne face mai buni, spune el. Oamenii vor folosi aceste personaje ca pe un teren de test pentru a aprofunda relațiile din viața reală, făcându-le mai profunde, mai utile și mai sănătoase, explică CEO-ul Character.ai.