One day in November, a product strategist we’ll call Michelle (not her real name) logged into her LinkedIn account and switched her gender to male. She also changed her name to Michael, as she told TechCrunch. She was partaking in an experiment called #WearthePants where women tested the hypothesis that LinkedIn’s new algorithm was biased against women.

Eksperimentet dhe Dyshimet për Algoritmin

Për disa muaj, përdorues të rregullt të LinkedIn vunë re rënie të ndërveprimeve dhe shikueshmërive të postimeve në rrjetin social të orientuar nga karriera. Ndryshimet ndodhën pasi platforma raportoi se kishte zbatuar modele të reja të inteligjencës artificiale për të përcjellë përmbajtje të dobishme për përdoruesit e saj. Michelle kishte mbi 10,000 ndjekës dhe ghostwrite-onte për bashkëshortin e saj, i cili kishte vetëm 2,000 ndjekës. Megjithatë, të dy merrnin gati të njëjtin numër shikimesh, gjë që e shtyu atë të dyshonte se faktori i vetëm i dukshëm ishte gjinia.

Një sipërmarrëse tjetër, Marilynn Joyner, e ndryshoi gjininë dhe raportoi rritje prej 238% të shikimeve brenda një dite. Gra të tjera, si Megan Cornish, Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies dhe Lucy Ferguson, patën rezultate të ngjashme. Nga ana tjetër, LinkedIn shprehu që algoritmi dhe AI nuk përdorin informacione demografike si moshë, racë apo gjini për të përcaktuar shikueshmërinë e përmbajtjes. Kjo u konfirmua edhe nga specialistë të algoritmeve sociale, të cilët pohuan se ndonëse seksizmi eksplicit mund të jetë i përjashtuar, paragjykimi implicit mund të ekzistojë.

Brandeis Marshall, një konsulente e etikës së të dhënave, deklaroi se algoritmet janë të ndërlikuara dhe faktorë të tjerë, përveç ndryshimit të gjinisë apo fotos, mund të ndikojnë në mënyrën si përmbajtja ndahet. Eksperimentet #WearthePants nisën nga dy sipërmarrëse të suksesshme, Cindy Gallop dhe Jane Evans, të cilat u kërkuan burrave të postonin të njëjtën përmbajtje. Edhe pse gratë kishin ndjekës shumë më tepër, shikueshmëria u favorizua ndjeshëm për postimet e burrave.

Marshall vuri në dukje se modelet LLM, shpesh, kanë të integruar këndvështrime perëndimore, mashkullore dhe të bardha për shkak të mënyrës së trajnimit të modeleve. Megjithatë, mënyra si secila kompani i zbaton sistemet e AI mbetet një “kuti e zezë”. LinkedIn sqaroi se të dhënat demografike përdoren vetëm gjatë testimeve për të siguruar që postimet konkurronjen në kushte të barabarta.

Mund të ekzistojnë edhe faktorë të tjerë të panjohur që ndikojnë në algoritmin, si bashkimi me një trend viral, ndryshimi i stilit të shkrimit, apo edhe ndërveprimet më të fundit në platformë. Michelle zbuloi se kur postoi si “Michael” dhe adoptoi stilin më të thjeshtë dhe të drejtpërdrejtë të bashkëshortit, ndërveprimet u rritën në mënyrë të ndjeshme. Megjithatë, ajo përfundoi se sistemi nuk ishte domosdoshmërisht seksist në mënyrë të qartë, por stilin e komunikimit të lidhur me gratë e konsideronte automatikisht me vlerë më të ulët.

Ndikimi i Stilove të Shkrimit dhe Algoritmeve

Stereotipat ekzistuese lidhur me stilin e të shkruarit – burrat besohet të jenë më konçiz, gratë më emocionale – mund të ndikojnë në mënyrën si algoritmet vendosin cilat postime të promovojnë. Nëse LLM-të favorizojnë stile të lidhura me burrat, kjo paraqet një paragjykim të fshehtë. Për më tepër, profesorja Sarah Dean nga Cornell thekson se platforma si LinkedIn përdorin të gjithë profilin e përdoruesve, përfshirë sjelljen dhe përmbajtjen që ata konsumojnë, kur vendosin se çfarë të promovojnë.

LinkedIn deklaroi se AI vlerëson qindra sinjale, përfshirë aktivitetin, rrjetin dhe përshkrimin e profilit. Ndryshimet e fundit i kanë bërë algoritmet të fokusohen më pak te pëlqimet apo komentet, dhe më shumë te përmbajtja që tregon kuptim dhe vlerë. Kjo e bën edhe më të vështirë identifikimin e shkakut të vërtetë të rezultateve të eksperimentit #WearthePants.

Shumë përdorues, pavarësisht gjinisë, kanë shprehur pakënaqësi me algoritmin e ri. Disa raportojnë rënie të forta të ndërveprimeve, ndërsa të tjerë shohin rritje të ndjeshme, duke sugjeruar se algoritmi shpërblen përmbajtje të caktuara për audienca të caktuara. Megjithatë, rastet personale të paragjykimeve të raportuara, sidomos ndaj grave me ngjyrë kur postojnë rreth ekspertizës së tyre, tregojnë se epërsia mund të jetë e lidhur më shumë me historikun e ndërveprimit të platformës sesa thjesht me demografinë.

LinkedIn ka zbuluar se postimet rreth përvojave profesionale, analizës së industrisë dhe përmbajtjes edukative rezultojnë më të suksesshme. Moskuptimi i thellë i algoritmit mbetet sfidë për shumë përdorues. Edhe pse kërkohet transparencë, kompani si LinkedIn mbajnë sekret mënyrën si funksionojnë algoritmet, pasi kjo mund të çonte në manipulimin e tyre. Prandaj, shanset që transparenca të arrihet ndonjëherë janë të pakta.

Tags: algoritmet e LinkedIn, paragjykimet gjinore, eksperimentet sociale, rrjetet profesionale, transparenca e algoritmeve, stili i shkrimit