OpenAI ka njoftuar të hënën se ka blerë Promptfoo, një startup i sigurisë AI i themeluar në vitin 2024 për të mbrojtur LLM-të nga sulmet online të kundërshtarëve.

Integrimi i teknologjisë së Promptfoo në platformën OpenAI Frontier

Në një postim në blog [https://openai.com/index/openai-to-acquire-promptfoo/], laboratori i avancuar deklaroi se pas mbylljes së marrëveshjes, teknologjia e Promptfoo do të integrohet në OpenAI Frontier, platformën për ndërmarrje dedikuar agjentëve të AI-së. Po ashtu, zhvillimi i agjentëve të pavarur të AI që mund të kryejnë detyra digjitale ka krijuar entuziasëm për përfitimet në produktivitet. Megjithatë, kjo ka sjellë edhe rreziqe të reja, sepse aktorët keqdashës mund të aksesojnë të dhëna të ndjeshme ose të manipulojnë sistemet e automatizuara. Ky zhvillim shfaq përpjekjet e laboratorëve ‘frontier’ për të garantuar përdorim të sigurt të teknologjive të tyre në operacione të rëndësishme të bizneseve.

Promptfoo është themeluar nga Ian Webster dhe Michael D’Angelo dhe fokusi i tyre ka qenë zhvillimi i veglave që ndihmojnë kompanitë të testojnë dobësitë e sigurisë në LLM, përfshirë një ndërfaqe dhe bibliotekë burim të hapur. Sipas kompanisë, më shumë se 25% e kompanive Fortune 500 përdorin produktet e tyre. Për më tepër, Promptfoo ka arritur të mbledhë vetëm 23 milionë dollarë që nga themelimi dhe pas raundit të fundit të investimit në korrik 2025, vlera e kompanisë arriti 86 milionë dollarë, sipas PitchBook. Megjithatë, OpenAI nuk zbuloi vlerën e kësaj marrëveshjeje.

Përfitimet për sigurinë e agjentëve të AI dhe planet për burimin e hapur

Sipas postimit të OpenAI, teknologjia e Promptfoo do t’i lejojë platformës së agjentëve të kryejë testime të automatizuara të sigurisë (red-teaming), të vlerësojë flukset e punës për shqetësime të sigurisë dhe të monitorojë aktivitetet për rreziqe apo nevoja të përputhshmërisë. Për më tepër, kompania deklaron se do të vazhdojë të zhvillojë ofertën e Promptfoo në fushën e “open source”. Kjo pritet të përmirësojë proceset e sigurisë për shumë biznese që mbështeten te zgjidhjet AI.

Ndërkohë, vlen të përmendet se OpenAI me këtë lëvizje synon të fitojë besimin e korporatave lidhur me sigurinë dhe funksionalitetin e agjentëve të saj dhe të ruajë pozitat në tregun në rritje të zgjidhjeve të automatizuara për ndërmarrje. Si rezultat, bashkimi i forcave me Promptfoo mund të ndikojë ndjeshëm në nivelin e sigurisë së zgjidhjeve të ardhshme AI të OpenAI.

Tags: OpenAI, Promptfoo, Siguria e AI, Agjentët e AI, LLM Security, Blerje Startup