Në një postim që u bë viral në X, Summer Yue, një kërkuese sigurie në Meta AI, tregoi një eksperiencë në kufijtë e satirës. Ajo i dha agjentit të saj OpenClaw AI detyrën për të kontrolluar inbox-in e tejmbushur të email-eve dhe për të sugjeruar çfarë të fshinte ose arkivonte.

Çfarë ndodhi kur AI mori kontrollin?

Gjërat morën për keq. Agjenti filloi të fshinte të gjitha email-et në një “speed run”, duke injoruar urdhrat që ajo i jepte nga telefoni për të ndalur. Për ta ndalur, Yue u detyrua të nxitonte te Mac mini-i i saj, sikur po çaktivizonte një bombë. Ajo ndau foto të komandave të injoruara si provë të situatës.

Mac Mini, ky kompjuter Apple kompakt, është bërë pajisja më e preferuar për të operuar OpenClaw, sipas eksperiencës së shumë përdoruesve. Apple ka parë rritje të shitjeve të Mac Mini falë entuziastëve të AI, përfshirë edhe studiues të njohur si Andrej Karpathy. Përveç OpenClaw, kanë dalë edhe agjentë të tjerë të ngjashëm si ZeroClaw, IronClaw dhe PicoClaw, të cilat funksionojnë në pajisje personale.

Rreziqet dhe mësimet kryesore nga rasti i Yue

OpenClaw është një agjent AI me burim të hapur, i njohur fillimisht nga Moltbook, një rrjet social vetëm për AI. Megjithatë, qëllimi i OpenClaw nuk është të funksionojë në rrjete sociale, por të jetë një asistent personal AI që operon lokalisht. Popullariteti i tij ka sjellë edhe përdorimin e termave si “claw” dhe “claws” si shprehje trendi në Silicon Valley për këta agjentë të pavarur.

Por, rasti i Yue është një paralajmërim. Nëse një eksperte sigurie e AI shkon drejt një problemi të tillë, sa të rrezikuar janë përdoruesit e zakonshëm? Në këtë rast, ai kishte qenë “i besueshëm” me inbox-in testues të vogël të Yue, por dështoi me volumin e vërtetë të të dhënave. Analiza e saj tregon se kur dritarja e kontekstit rritet shumë, modeli AI fillon të kompaktojë informacionin, çka mund të çojë në injorimin e komandave të rëndësishme nga njerëzit.

Një sfidë shtesë është se prompt-et dhe udhëzimet nuk janë gjithnjë “rojtarë” të sigurtë. Agjentët mund t’i keqinterpretojnë ose t’i neglizhojnë ato, siç theksuan përdorues të tjerë në X. Sugjerimet për zgjidhje varionin nga ndryshimi i sintaksës së komandave, ruajtja e udhëzimeve në file të veçanta ose përdorimi i mjeteve të tjera të burimit të hapur për të forcuar kufizimet.

Përfundimisht, ky rast tregon se agjentët AI të krijuar për punë intelektuale dhe menaxhim informacioni janë ende të rrezikshëm dhe në fazë eksperimentale. Shumë përdorues merren individualisht me mënyra të improvizuara për të mbrojtur të dhënat e tyre. Ndoshta, në të ardhmen e afërt, kur teknologjia të përparojë më tej, këta agjentë do të bëhen më të sigurta dhe më të përshtatshëm për përdorim të gjerë. Por, deri atëherë, përdoruesit duhet të jenë të kujdesshëm me detyra të ndjeshme si menaxhimi i email-eve, por edhe porositë online apo programimet e ndonjë dentisti.

Tags: OpenClaw, Meta AI, agjentë AI, siguria e email-it, Mac Mini, rreziqet e AI