Një nxënës i shkollës së mesme në Baltimore County, Maryland është prangosur dhe është kontrolluar nga forcat e sigurisë pasi një sistem sigurie me inteligjencë artificiale e shënoi çantën e patatinave të tij si armë të mundshme zjarri. Taki Allen, nxënës në Kenwood High School, i tha WBAL se “Po mbaja një qese Doritos — me dy duar dhe një gisht jashtë, dhe ata thanë se dukej si armë.” Si pasojë, Allen shtoi: “Më detyruan të ulem në gjunjë, të vendosja duart pas shpine dhe më vunë pranga.” Ngjarja ka ngjallur shqetësim të madh në komunitet, veçanërisht në mesin e prindërve dhe nxënësve që kërkojnë qartësi se si funksionojnë sistemet e reja të sigurisë në shkolla.

Si ndodhi incidenti në Kenwood High School

Principalja Katie Smith, në një deklaratë për prindërit, sqaroi se departamenti i sigurisë së shkollës kishte shqyrtuar dhe anuluar alarmin e detektorit të armëve, por, Smith (e cila nuk ishte informuar menjëherë për anulimin), raportoi situatën tek oficeri i policisë së shkollës, i cili njoftoi policinë lokale. Ky zinxhir komunikimi solli që Allen të përballej me veprime të rënda të sigurisë, edhe pse kërcënimi i vlerësuar nga AI kishte rezultuar i pabazë. Kjo nxori në pah sfidat që mund të shfaqen nga varësia ndaj teknologjisë në ndjekjen e sigurisë së shkollave, sidomos kur koordinimi i brendshëm bie poshtë.

Reagimet pas incidentit dhe përgjegjësia e sistemit AI

Kompania Omnilert, që menaxhon sistemin me inteligjencë artificiale për detektimin e armëve, deklaroi për CNN: “Na vjen keq që ky incident ndodhi dhe duam të shprehim shqetësimin tonë për nxënësin dhe komunitetin më të gjerë të prekur nga ngjarjet që pasuan.” Megjithatë, Omnilert shtoi se “procesi funksionoi siç ishte parashikuar.” Kjo deklaratë ngre pyetje të rëndësishme për sa i përket balancimit midis sigurisë së fëmijëve dhe mbrojtjes nga ngatërresa apo gabime të inteligjencës artificiale. Edhe pse është thelbësore të merren masa të shpejta në rast të alarmit për armë, është po aq e rëndësishme që reagimi të jetë i informuar dhe proporcional. Prindërit, nxënësit dhe stafi i shkollave, tani më shumë se kurrë, kërkojnë transparencë në mënyrën se si vendosen dhe përdoren këto teknologji, në mënyrë që situata të tilla të menaxhohen me kujdes maksimal në të ardhmen.

Tags: inteligjenca artificiale, siguria në shkolla, detektimi i armëve, incident në shkollë, Omnilert, gabime të AI