India kërkon veprime të menjëhershme ndaj Grok të Elon Musk

India ka urdhëruar X-in e Elon Musk të bëjë ndryshime të menjëhershme teknike dhe procedurale në chatbot-in e tij me inteligjencë artificiale, Grok, pasi përdoruesit dhe ligjbërësit kanë raportuar krijimin e përmbajtjeve “të pahijshme”, përfshirë imazhe të modifikuara me AI të grave, duke përdorur këtë mjet.

Urdhri i Indisë dhe pasojat për X

Të premten, Ministria e IT-së në Indi nxori një urdhër duke kërkuar nga X të marrë masa korrigjuese për Grok, përfshirë kufizimin e gjenerimit të përmbajtjes që përfshin “lakuriqësi, seksualizim, përmbajtje seksualisht eksplicite, ose materiale të paligjshme”. Platformës i janë dhënë 72 orë kohë për të raportuar mbi hapat e ndërmarrë për të parandaluar hostimin ose shpërndarjen e përmbajtjes “të pahijshme, pornografike, vulgare, indecente, seksualisht eksplicite, pedofilike, ose materialeve që ndalohen nga ligji.”

Urdhri, i shqyrtuar nga TechCrunch, paralajmëron se mosrespektimi mund të rrezikojë mbrojtjen “safe harbor” të X, që i siguron imunitet ligjor për përmbajtjen e gjeneruar nga përdoruesit sipas ligjit indian. India ndërhyri pas shqetësimeve të ngritura nga përdorues të cilët shpërndanë shembuj të manipulimeve të imazheve nga Grok, kryesisht të grave, për t’i paraqitur ato me veshje banjoje, duke sjellë dhe një ankesë zyrtare nga deputetja Priyanka Chaturvedi. Përveç kësaj, u raportuan raste kur chatbot-i gjeneroi imazhe të seksualizuara që përfshinin të mitur, problem që X e ka pranuar si rezultat i mangësive në masat mbrojtëse. Këto imazhe u hoqën më pas, por imazhet e grave të manipuluara me rroba banjoje vazhduan të ishin të arritshme në X në momentin e publikimit nga TechCrunch.

Konteksti dhe ndikimi global i rregulloreve indiane

Ky urdhër vjen vetëm disa ditë pas shpalljes së një këshillimi të përgjithshëm nga Ministria e IT për platformat sociale, duke ua sjellë në vëmendje se pajtueshmëria ndaj ligjeve lokale mbi përmbajtjen e pahijshme është e domosdoshme për të ruajtur imunitetin ligjor. Këshillimi u kërkon kompanive të forcojnë masat e sigurisë dhe paralajmëron për pasoja ligjore ndaj platformave, zyrtarëve të tyre dhe përdoruesve në rast shkeljeje, pa njoftim të mëtejshëm.

Qeveria indiane theksoi se mosrespektimi mund të sjellë ndjekje në bazë të ligjit të IT-së dhe atij penal të Indisë. India, si një nga tregjet më të mëdha digjitale, është bërë një rast testimi jetik për mënyrën se si shtetet janë të gatshme të mbajnë përgjegjëse platformat për përmbajtjen e krijuar nga AI. Çdo forcim i rregulloreve në Indi mund të krijojë ndikim global për kompanitë teknologjike që operojnë në juridiksione të ndryshme.

Ky urdhër vjen në një kohë kur X po sfidon gjykatat indiane mbi rregullat e heqjes së përmbajtjeve, duke thënë se pushtetet qeveritare mund të jenë të tepërta, edhe pse platforma ka zbatuar shumicën e urdhrave të bllokimit. Në të njëjtën kohë, përdorimi i Grok për verifikim faktesh dhe komentim të lajmeve e ka bërë prodhimin e tij shumë më të dukshëm dhe politikisht sensitiv krahasuar me mjetet e pavarura të AI.

X dhe xAI nuk kanë reaguar menjëherë ndaj pyetjeve të mediave për këtë urdhër të qeverisë indiane.

Tags: India, Elon Musk, X (Twitter), AI Grok, përmbajtje e pahijshme, rregullore ligjore