I recently had the opportunity to sit down with Francis de Souza, COO of Google Cloud, backstage at an event in Los Angeles. Amid the din around us, de Souza, who speaks in the calm, measured manner of a university professor, offered useful advice for companies navigating the AI security moment we’re all living through, noting that “there’ll be a transition period, and then I think we get to this better place.”

He wasn’t speaking about Google at that moment, but it’s clear that even Google is still figuring things out.

Integrimi i Sigurisë në Epokën e AI

De Souza’s core message was one security professionals have been trying to get executives to internalize for years, now made urgent by AI: security can’t be an afterthought. “As companies embark on this AI journey, they need to take a platform approach,” he said. “Security is not something you can bolt on later, and it’s not something you can leave up to employees to do on their own.” Ai paralajmëroi veçanërisht për “shadow AI” – të punësuar që përdorin mjete konsumatori pa mbikëqyrje organizative – dhe argumentoi se kompanitë duhet të kërkojnë siguri, qeverisje dhe auditueshmëri nga platformat e tyre që në fillim. “Nuk ka një strategji të AI-së pa një strategji të të dhënave dhe një strategji të sigurisë. Duhet të ecin së bashku.”

Vlen të theksohet: ai nuk po bënte reklamë për Google Cloud. Kur vëreja se këshillat e tij tingëllonin si një reklamë e Google, ai u përgjigj menjëherë. Google, tha ai, është e përkushtuar në një qasje multicloud, dhe ai argumentoi se kompanitë që mendojnë se operojnë në një cloud të vetëm, pothuajse me siguri nuk janë. “Edhe nëse zgjedhin një cloud të vetëm, varen nga aplikacione SaaS, dhe ka partnerë biznesi që mund të përdorin cloud të ndryshme,” tha ai. “Është e rëndësishme që kompanitë të kenë një pozicion sigurie të qëndrueshëm në të gjithë cloud-et.”

Ai gjithashtu argumentoi se peizazhi i kërcënimeve ka ndryshuar aq thelbësisht, saqë modelet e vjetra mbrojtëse janë shumë të ngadalta. Koha mes një shkeljeje fillestare dhe kalimit në fazën e ardhshme të një sulmi ka rënë nga tetë orë në 22 sekonda, duke zgjeruar sipërfaqen e sulmit jashtë perimetrit tradicional të rrjetit. “Përveç burimeve të tua të zakonshme, tani ke modele. Ke pipeline të të dhënave që përdoren për trajnim të modeleve. Ke agjentë, ke prompts. Të gjitha këto duhet të mbrohen.”

Një kërcënim që de Souza theksoi është se agjentët që lëvizin nëpër sistemet e brendshme të kompanisë mund të nxjerrin në pah depo të të dhënave të harruara. “Shumë organizata kanë servera të vjetër SharePoint që nuk janë përditësuar për vite, por nuk kishte rëndësi sepse askush nuk dinte ku ishin. Por agjentët në ndërmarrje do të gjejnë ato asete dhe do të ekspozojnë të dhënat mbi to.”

Përgjigjja, sipas tij, është të përballësh shpejtësinë e makinës me shpejtësinë e makinës. “Tani po shohim shfaqjen e një mbrojtjeje plotësisht agentike të lindur nga AI, ku organizatat mund të përdorin agjentë që drejtojnë mbrojtjen,” tha ai. “Në vend që të kesh një mbrojtje të drejtuar nga njerëzit, tani mund të kesh njerëz që mbikëqyrin një mbrojtje plotësisht agentike.” Ai shtoi se kjo tashmë është një çështje e niveleve të larta drejtuese dhe e bordit, jo vetëm e ekipit të sigurisë.

Pavarësisht se AI merr më shumë nga barra e mbrojtjes, njerëzit e kualifikuar për ta mbikëqyrur janë të paktë ndërsa dobësitë që sjell vetë AI po shumohen më shpejt sesa mund të adresohen. “Do të na duhen njerëz që të përballen me bug-pokalipsin,” tha Lea Kissner, CISO e LinkedIn, për New York Times këtë javë, duke shtuar se nuk pret që industria të kuptojë sigurinë e AI-së në mënyrë të qëndrueshme për të paktën disa vite.

Probleme të Platformave dhe Politika të Paqarta

Kjo na kthen te vetë ofruesit e platformave. The Register publikoi raporte se shumë zhvillues të Google Cloud janë goditur me fatura pesëshifrore pas përdorimeve të paautorizuara të API-ve Gemini — shërbime që as nuk i kishin përdorur apo aktivizuar ndonjëherë në mënyrë të qëllimshme. Skema ishte e njohur: çelësat e API-t vendosur publikisht për Google Maps, sipas udhëzimeve të Google, filluan të kishin qasje në Gemini pasi Google zgjeroi fushën e tyre pa njoftim të qartë.

Rod Danan, CEO i platformës Prentus, tha se fatura e tij arriti $10,138 në vetëm 30 minuta pasi sulmuesit shfrytëzuan çelësin e kompromentuar. Isuru Fonseka në Sydney hasi tarifa prej rreth AUD $17,000 megjithëse besonte se kishte një kufi shpenzimi prej $250. Çfarë nuk dinin ata ishte që sistemet e automatizuara të Google i kishin kaluar automatikisht në nivele faturimi më të larta, duke rritur kufijtë efektivë deri në $100,000 pa pëlqimin e tyre të qartë.

Google i rimbursoi të dy pas daljes së raportit të parë. Megjithatë, Google i tha The Register se nuk planifikon të ndryshojë këtë politikë të përmirësimeve automatike të niveleve të faturimit, duke thënë se prioritizon shmangien e ndërprerjeve të shërbimit mbi respektimin e kufijve të deklaruar nga përdoruesit.

Ndërkohë, mbetet pyetja çfarë ndodh kur një zhvillues tenton të mbyllë gjithçka. The Register raportoi se, edhe nëse një çelës API kompromentohet dhe fshihet menjëherë, sulmuesit mund ta përdorin atë edhe për 23 minuta pasi Google propagandon heqjen e çelësit përmes infrastrukturës së vet. Në disa minuta, mbi 90% e kërkesave ende autentifikoheshin — duke mundësuar sulmuesit të marrin skedarë apo të dhëna nga Gemini.

Hulumtuesit vunë re se format e reja të kredencialeve të Google nuk kanë këtë problem: kredencialet service account zhbëhen për rreth 5 sekonda, ndërsa kyçet e reja AQ të Gemini kërkojnë rreth një minutë. “Të dyja funksionojnë në shkallën e Google,” shkroi Aikido. “Të dyja sugjerojnë se është e zgjidhshme teknikisht edhe për çelësat ekzistues të Google API.” Pra, dritarja 23-minutëshe nuk është një kufizim inxhinierik, por një çështje prioriteti për kompaninë.

Kjo është e rëndësishme për t’u marrë parasysh kur lexoni këshillat e de Souza, të cilat janë të vlefshme dhe duhet t’i kushtohet vëmendje e madhe. Ai ka të drejtë, por për momentin ekziston një boshllëk mes asaj që platformat predikojnë dhe asaj se sa shpejt vetë ato po përshtaten, dhe është e shëndetshme të jemi të vetëdijshëm për këtë.

Tags: siguria në AI, AI në kohë reale, Google Cloud, sfida të sigurisë, qeverisja e të dhënave, rreziqet e AI