Kohët e fundit pata mundësinë të intervistoja Francis de Souza, COO i Google Cloud, pas skenave të një eventi në Los Angeles. Në një atmosferë të zhurmshme, de Souza dha këshilla të vlefshme për kompanitë që përballen me sfidat e sigurisë së inteligjencës artificiale (AI) sot. Ai theksoi se do të ketë një periudhë tranzicioni, por në fund të fundit, teknologjia do të na çojë në një vend më të sigurt dhe të mirë.

Siguria në AI: Strategjia duhet të jetë prioritare

Mesazhi kryesor i de Souza-s, që tani është më i rëndësishëm për shkak të AI-së, është se siguria nuk mund të trajtohet si një shtesë e vonë. Ai sugjeroi që bizneset që nisin udhëtimin e tyre në AI duhet të kenë një qasje platforme, ku siguria integrohet që në fillim. Sipas tij, “Siguria nuk është diçka që mund t’i bashkangjitet më pas, dhe nuk është diçka për të cilën punonjësit duhet të kujdesen vetë.” Ai paralajmëroi për rrezikun e “shadow AI”, ku punonjësit përdorin vegla konsumatori pa miratim të kompanisë, dhe theksoi nevojën për qeverisje dhe auditim të sistemeve që prej fillimit. “Nuk ekziston strategji AI pa strategji të dhënash dhe strategji sigurie; ato duhet të ecin paralelisht”, shprehet ai.

Ndërsa diskutonte rreth Google Cloud, de Souza këmbënguli se kompania promovon një qasje multicloud, pasi shumica e bizneseve mbështeten në aplikacione dhe partnerë që përdorin platforma të ndryshme cloud. Ai këshilloi që të gjitha kompanitë të kenë një strategji të sigurisë të unifikuar për të gjitha cloud-et dhe modelet.

Sfidat Teknike dhe Rreziqet e Reja në Ekosistemin AI

De Souza theksoi se peizazhi i kërcënimeve ka ndryshuar në mënyrë drastike. Mesatarisht, koha nga komprometimi fillestar deri te faza tjetër e sulmit është ulur nga tetë orë në 22 sekonda. Sipërfaqja e sulmit është zgjeruar jashtë perimetrit tradicional rrjetor, duke përfshirë modelet AI, ‘data pipelines’, agjentët dhe prompt-et, të gjitha kërkojnë mbrojtje të integruar.

Në mesin e kërcënimeve të reja, ai veçoi faktin se agjentët inteligjentë mund të zbulojnë të dhëna të vjetra, që mund të jenë harruar për vite nga organizatat, si serverët SharePoint të paazhornuar dhe akseset e papërditësuara. Këta agjentë mund t’i ekspozojnë të dhënat sensitive brenda kompanive.

Për t’iu përgjigjur këtyre sfidave, de Souza theksoi nevojën që organizatat të shfrytëzojnë mbrojtje të automatizuar në të njëjtën shpejtësi me automatikun e AI. Kjo do të thotë të implementohen agjentë AI që mbrojnë sistemet pa ndërhyrje të vazhdueshme nga njerëzit, me mbikëqyrje nga stafi. Ai e considerei këtë një çështje të nivelit të bordit dhe drejtuesve, jo vetëm të ekipit të sigurisë IT.

Megjithatë, ndërsa AI zgjidh shumë probleme të sigurisë, është e qartë se mungesa e ekspertëve të kualifikuar vazhdon të mbetet sfidë. Rreziqet që sjell inteligjenca artificiale po shtohen më shpejt se sa mund t’i përballojnë ekipet ekzistuese të sigurisë. Kreu i sigurisë së informacionit në LinkedIn, Lea Kissner, tha se do të duhen disa vite që industria të zhvillojë strategji të qëndrueshme për sigurinë në AI.

Sfidat nuk kufizohen vetëm në aplikimin e AI-së. Sipas hulumtimeve të publikuara së fundmi, disa zhvillues në Google Cloud janë përballur me fatura të larta të papritura pas përdorimit të paautorizuar të API-ve të modeleve Gemini. Kjo ka ndodhur sepse çelësat API, fillimisht të përdorur për Google Maps dhe të publikuar sipas udhëzimeve të Google, papritur kanë fituar akses në shërbimet Gemini pa një lajmërim të qartë nga Google. Disa zhvillues kanë marrë fatura prej mijëra dollarësh në vetëm minuta pasi çelësat e tyre janë kompromentuar, me Google që ka kthyer shumat pas raportimit publik, por pa ndryshuar politikën për rritjen automatike të limitit të shpenzimit.

Në të njëjtën kohë, një problem tjetër i theksuar është vonesa e propagandimit të çelësave të revokuar në infrastrukturën Google: një çelës i fshirë mbetet funksional deri në 23 minuta më pas, një interval që mund të përdoret nga sulmuesit për të kopjuar të dhëna sensitive. Ndërsa formatet më të reja të kredencialeve kanë kohë më të shkurtër revokimi, kjo tregon se është e mundur teknikisht një siguri më e lartë, dhe mbetet çështje prioriteti për platformën.

Si përfundim, këshillat e Francis de Souza-s mbeten të vlefshme për çdo kompani që kërkon të ruajë sigurinë në epokën e AI. Megjithatë, është e rëndësishme të jemi të vetëdijshëm për boshllëqet ekzistuese mes asaj që ofrojnë platformat kryesore dhe ritmit të përshtatjes së tyre me kërcënimet reale të kohës së sotme.

Tags: siguria në AI, AI në kohë reale, Google Cloud, sfida të sigurisë, qeverisja e të dhënave, rreziqet e AI