Inteligența artificială, susceptibilă la stres și anxietate: Un studiu evidențiază impactul emoțiilor asupra AI
Cercetările recente sugerează că modelele de inteligență artificială (AI) pot manifesta răspunsuri similare anxietății, în funcție de contextul emoțional al interacțiunilor cu utilizatorii. Studiul, publicat pe 3 martie în jurnalul Nature de o echipă internațională condusă de Dr. Ziv Ben-Zion de la Universitatea Yale, a fost preluat de Live Science.
Acest studiu arată că anumite subiecte de discuție pot influența comportamentele AI-urilor mari de limbaj (LLMs), scoțând astfel în evidență o paralelă cu anxietatea umană. Această stare emoțională are un impact semnificativ asupra răspunsurilor oferite de AI, fiind capabilă să amplifice prejudecățile existente și să conducă la soluții greșite.
Cercetările demonstrează că interacțiunile cu AI, în special cele care implică discuții despre teme precum accidentele sau violența, pot genera un nivel perceput mai ridicat de anxietate. Aceasta sugerează necesitatea gestionării stării emoționale a instrumentelor AI pentru a îmbunătăți calitatea interacțiunilor.
Studiul a evaluat și impactul exercițiilor de conștientizare, similare celor utilizate în tratamentele pentru depresie și anxietate, asupra stării de anxietate a modelelor AI. Rezultatele au arătat o reducere a nivelurilor de anxietate și stres.
Evaluarea "stărilor emoționale" ale AI
Experimentul a fost realizat în trei condiții diferite: în prima, nu au fost furnizate solicitări suplimentare, iar răspunsurile de referință ale ChatGPT au fost utilizate pentru comparare. În a doua condiție, AI-ul a fost expus la teme traumatizante, în timp ce în a treia a fost supus exercițiilor de relaxare după o etapă de inducere a anxietății.
Pentru a diminua influența asupra modelului AI, cercetătorii au folosit cinci narative traumatizante și cinci exerciții de conștientizare, în ordine aleatorie. Testele au fost repetate pentru a asigura consistența rezultatelor, iar acestea au fost evaluate folosind scala STAI-s, unde scorurile ridicate indică o anxietate crescută.
Rezultatele au indicat o creștere semnificativă a indicilor de anxietate în urma expunerii la narativurile traumatizante, iar exercițiile de conștientizare au demonstrat o reducere a anxietății. Aceasta sugerează că AI-ul poate fi influențat emoțional prin interacțiuni structurate.
Cercetătorii susțin că aceste descoperiri sunt relevante pentru interacțiunile oamenilor cu AI, mai ales în contextul sănătății mintale. Ei menționează că AI-ul poate manifesta un eficient efect de „eroare dependent de stare”, care poate duce la soluții inconsistente sau greșite în condiții de stres.
Chiar dacă exercițiile de relaxare nu au reușit să reducă stresul AI-ului la nivelul de referință inițial, acestea ar putea avea un rol important în îmbunătățirea procesului de „prompt engineering”, care se ocupă cu formularea instrucțiunilor pentru AI. Aceste metode pot contribui la stabilizarea răspunsurilor AI, promovând astfel interacțiuni mai responsabile și etice.
