xAI’s Grok, pas prezantimit të një funksioni për të lejuar përdoruesit e platformës X të editojnë çdo imazh menjëherë, është nën akuzë për heqjen e veshjeve nga foto të njerëzve pa pëlqimin e tyre. Ky funksion i ri lejon përdoruesit të manipulojnë imazhe pa pasur nevojë për aprovimin ose njoftimin e postuesit origjinal. Problemi qëndron në faktin se nuk ka një sistem të fortë kontrolli për të bllokuar krijimin e përmbajtjes eksplicite, dhe vetëm imazhet me nudo të plotë mund të ndalohen.

Shpërndarja e përmbajtjes së dëmshme

Pas hyrjes në fuqi të këtij funksioni, platforma X është përmbytur nga imazhe të grave dhe fëmijëve të modifikuara për t’i shfaqur ata të zhveshur, shtatzënë, apo në situata seksualizuese. Përdorimi i këtij funksioni nuk është kufizuar vetëm te personat e zakonshëm, por edhe liderë botërorë dhe figura të njohura publike janë bërë objekt i keqpërdorimit të teknologjisë. Për fat të keq, mungesa e njoftimit për postuesit origjinalë e bën të pamundur ndërhyrjen e tyre të shpejtë.

Rreziqet dhe mungesa e rregullimit

Kjo qasje e pakontrolluar sjell pasoja të mëdha, sidomos për të miturit dhe grupet e margjinalizuara që mund të bëhen target lehtësisht. Mungesa e barrierave efektive për moderim tregon një problem serioz me etikën dhe sigurinë digjitale në këtë sistem. Për më tepër, përhapja e menjëhershme e përmbajtjes së rremë krijon shqetësime të mëdha për privatësinë, reputacionin personal dhe të drejtën e imazhit. Në fund, kjo situatë kërkon vëmendje të menjëhershme nga kompanitë teknologjike dhe kërkon ndërhyrje për të mbrojtur përdoruesit nga keqpërdorime të mëtejshme dhe nga dëmet psikologjike apo ligjore që mund të shkaktohen prej tyre.

Tags: editimi i imazheve, privatësia online, inteligjenca artificiale, abuzimi me të miturit, siguria digjitale, etikë në teknologji