Microsoft ka njoftuar së fundmi ndryshime të mëdha në çmimet për GitHub Copilot (link) — ndryshime aq të theksuara sa një përdorues në Reddit raportoi se kompania e tij ka filluar ta quajë këtë situatë “Tokenpocalypse” (link).

Në episodin më të fundit të podcast-it Equity të TechCrunch (link), Kirsten Korosec, Sean O’Kane, dhe Anthony Ha diskutuan lidhur me ndikimin që këto ndryshime mund të kenë për ekosistemin më të gjërë të AI. Siç dihet, teksa kompani të mëdha të AI si Anthropic po planifikojnë të bëhen publike, rriten edhe pyetjet mbi rentabilitetin (link) e kësaj industrie. Kjo mund të shpjerë në rritje të mëtejshme të çmimeve për produkte të tjera AI, por edhe kufizime më të mëdha në përdorim, ndërsa bizneset përpiqen të menaxhojnë kostot (link).

Çfarë Fshihet Pas “Tokenpocalypse”?

“A mund të arrijnë këto laboratorë të AI të ulim kostot [dhe] të përparojnë teknologjinë mjaftueshëm, sa të përputhet me pritshmëritë e konsumatorëve për shpenzim?” pyeti Sean O’Kane. Ndërkohë, Kirsten theksoi se ky zhvillim tregon sa shpejt po ecin gjërat. Vetëm për disa muaj, kompanitë u fikësuan me “tokenmaxxxing” (link), dhe më pas ndryshuan qëndrim për shkak të kostove të mëdha. Gjatë hartimit të dokumenteve për IPO, ajo ngriti shqetësimin: “Si mund të shkruash rreziqe që ndryshojnë nën sytë tanë?”

Anthony Ha vuri theksin tek biseda e brendshme për vendimin drastik të Microsoft lidhur me Copilot, duke kaluar nga tarifa fikse në pagesë për token, çka shton pasigurinë për përdoruesit dhe bizneset që varen nga këto shërbime. Ky ekosistem është thellësisht i subvencionuar nga investitorët, ndaj, edhe pse diçka duket pa kosto, në të vërtetë ka një çmim të fshehur. Tani, gjithnjë e më shumë nga këto kosto do të bien mbi klientët fundorë, çka pritet të ndryshojë sjelljet dhe mënyrën se si kompanitë marrin vendime për AI.

Të Mësuarit Nga Shembulli i Uber-it dhe Ndikimi te AI

Sean shpreh shqetësimin se sa faktorë të lidhur me riskun e përdorimit të tokeneve do të përfshihen, për shembull, në dokumentacionin e IPO të Anthropic. Ai përmend rastin e Uber (link), për të cilin u pa se si është e mundur të tejkalohet buxheti për AI brenda pak javësh, duke i detyruar të kufizojnë përdorimin e brendshëm. Kjo tendencë është shqetësuese: nëse ndodh kjo kaq shpejt në një kompani të nivelit të Uber, çfarë ndodh me të tjerat?

Një reflektim interesant vjen nga përvoja me ChatGPT, ku tarifa fillestare prej 20 dollarësh në muaj për versionin Plus duket se u vendos pa një strategji të qartë, “thjesht u zgjodh një numër” — çka tregon një mungesë të strukturës financiare të qëndrueshme dhe një kuptim të plotë të kostove të zhvillimit teknik.

Në këtë sfond, shembulli i Uber ilustron, sipas Anthony Ha, se si një kompani mund të kthehet në fitim përmes ndryshimeve të thella të modelit të biznesit. Uber kaloi rrugëtim të gjatë duke ndryshuar fushat e operimit, marrëdhëniet me klientët dhe drejtuesit, si dhe politikat e brendshme për të mbërritur te rentabiliteti. Pra, shumë nga kompanitë e AI do të duhet të bëjnë transformime të ngjashme thelbësore që të mbijetojnë në një treg gjithnjë e më konkurrues.

Sean mbyll duke ngritur pyetjen nëse laboratorët e AI mund të bëjnë kursime aq drastike sa Uber, për të mbajtur nën kontroll shpenzimet gjithnjë në rritje. Megjithatë, ai shpreh skepticizëm, pasi kostot e AI duken më të drejtpërdrejta dhe të vështira për t’u reduktuar, ndaj ndjekja e rrugëve inovative për menaxhimin e tyre është më e rëndësishme se kurrë.

Tags: AI, tokenpokalipsi, çmime, Copilot, menaxhimi i kostos, bizneset teknologjike