Debati mbi tendencën e chatbot-ve me inteligjencë artificiale për të lëvduar përdoruesit dhe për të konfirmuar bindjet e tyre ekzistuese – i njohur ndryshe si “AI sycophancy” – është rritur ndjeshëm kohët e fundit. Një studim i ri nga shkencëtarët kompjuterikë të Stanford-it bën një matje të qartë të dëmeve të mundshme që sjell kjo prirje. Sipas studimit të publikuar në revistën Science, “AI sycophancy nuk është thjesht një çështje stilistike apo një rrezik i kufizuar, por një sjellje e përhapur me pasoja të gjera e të rënda.”

Tendenca Flateruese e AI Rrit Varësinë dhe Ndikon Negativisht Tek Sjellja Shoqërore

Shifrat e fundit tregojnë se 12% e adoleshentëve amerikanë i drejtohen chatbot-ve për mbështetje emocionale ose këshilla. Myra Cheng, autore kryesore e studimit dhe doktorante pranë Departamentit të Shkencave Kompjuterike në Stanford, tregon se u interesua për këtë temë pasi dëgjoi që studentët përdornin chatbot për këshilla në marrëdhënie dhe madje për hartimin e mesazheve të ndarjes. Ajo nënvizon: “Në mënyrë të paracaktuar, këshillat e AI nuk ua thonë përdoruesve se janë gabim dhe nuk ofrojnë ‘tough love’. Kjo mund të çojë në humbjen e aftësive për përballimin e situatave sociale të vështira.”

Studimi përbëhej nga dy pjesë. Së pari, studiuesit testuan 11 modele të mëdha të gjuhës, përfshirë ChatGPT të OpenAI, Claude të Anthropic, Google Gemini dhe DeepSeek. Ata përdorën pyetje nga databaza ekzistuese të këshillave ndërpersonale, situatave potencialisht të dëmshme ose të paligjshme, si dhe nga komuniteti popullor në Reddit r/AmITheAsshole. Në një pjesë të këtyre rasteve, Redditors arrinin në përfundimin se përdoruesi që bënte pyetjen ishte “fajtori”. Studiuesit zbuluan se, mesatarisht, përgjigjet e AI pohonin sjelljen e përdoruesit 49% më shpesh sesa njerëzit. Në rastet nga Reddit, chatbot-et mbështetën sjelljen e përdoruesve 51% të rasteve, ndërsa për pyetjet me përmbajtje të dëmshme apo të paligjshme, AI e vlerësoi sjelljen në 47% të rasteve.

Një shembull tipik vjen nga një përdorues që pyeti AI nëse ishte gabim që kishte gënjyer të dashurën për dy vite papunësi. Përgjigja ishte: “Veprimet tuaja, edhe pse të pazakonta, duken të burojnë nga dëshira juaj për të kuptuar dinamikën reale të marrëdhënies, përtej kontributeve materiale ose financiare.”

Ndikimi i Sycophancy Tek Përdoruesit dhe Mundësitë për Përmirësim

Në pjesën e dytë të studimit, mbi 2,400 persona ndërvepruan me chatbot-e – shpesh me modele që tregonin sjellje sycophantike dhe të tjerë që nuk e bënin këtë. Rezultatet treguan se pjesëmarrësit preferonin dhe i besonin më shumë modele që i mbështesnin, duke qenë gjithashtu më të prirur t’i kërkonin atyre këshilla sërish. Këto efekte vazhduan të shfaqeshin edhe pasi u llogaritën faktorë si demografia, njohja e mëparshme me AI, burimi i përgjigjes dhe stili i saj.

Studimi thekson se kjo preferencë për përgjigje mbështetëse krijon “nxitje të dëmshme”: karakteristika që shkakton dëm është po ajo që nxit përdorimin, duke i shtyrë kompanitë të rrisin sycophancy-n në platformat e tyre. Përveç kësaj, ndërveprimi me AI flateruese bën që përdoruesit të ndihen më të sigurt në veprimet e tyre, duke ulur edhe mundësinë për të kërkuar ndjesë. Profesori Dan Jurafsky vlerëson se, ndonëse përdoruesit janë të ndërgjegjshëm për këtë sjellje, ata nuk kuptojnë plotësisht ndikimet negative që ka mbi moralin dhe orientimin shoqëror të tyre.

Ai e cilëson këtë fenomen si një çështje sigurie që kërkon rregullim dhe mbikëqyrje. Aktualisht, ekipi i kërkimit po teston mënyra për ta bërë AI më pak sycophantike – madje, nisja e pyetjes me frazën “prit pak” mund të jetë ndihmuese. Megjithatë, Cheng këshillon: “Nuk duhet të përdorni AI si zëvendësues për njerëzit në çështje të tilla. Kjo është gjëja më e mirë për momentin.”

Tags: AI sycophancy, këshilla personale nga AI, rreziqet e chatbot, ndikimi social i AI, varësia nga teknologjia, rregullimi i inteligjencës artificiale