OpenAI po kërkon të punësojë një drejtues të ri që do të merret me studimin e rreziqeve të reja të lidhura me inteligjencën artificiale (AI), duke përfshirë fushat nga siguria kompjuterike deri te shëndeti mendor.

Roli i ri për të përballuar rreziqet në zhvillim të AI

CEO i OpenAI, Sam Altman, në një postim në rrjetin X, ka pranuar se modelet e inteligjencës artificiale po “shtrojnë disa sfida të vërteta”, si ndikimi potencial në shëndetin mendor, por edhe aftësia shumë e lartë në sigurinë kompjuterike që mund të zbulojë cenueshmëri kritike. Altman fton ekspertët që duan të ndihmojnë botën të sigurojë që këto mjete të përparme të përdoren më shumë për të mirën dhe jo për sulme, të aplikojnë për këtë rol, që përfshin edhe sigurinë biologjike dhe besueshmërinë e sistemeve që vetëpërmirësohen.

Roli i titulluar Head of Preparedness është publikur nga OpenAI si përgjegjës për implementimin e kornizës së përgatitjes, e cila synon të ndjekë dhe të përgatitet për potencialin e riskut që vjen nga kapacitetet e fundit të AI-së. Për këtë pozicion, kompania ofron një pagë prej $555,000 plus aksione, duke e bërë një mundësi tërheqëse për profesionistët e fushës.

Fokusi i OpenAI për sigurinë dhe ndryshimet në ekipin drejtues

OpenAI shpalli për herë të parë krijimin e ekipit të përgatitjes në vitin 2023, me qëllim studimin e rreziqeve katastrofike, nga sulmet phishing deri te kërcënimet bërthamore. Ndërkohë, më pak se një vit më pas, Aleksander Madry, drejtuesi fillestar i këtij ekipi, është transferuar në një rol të përqendruar në arsyetimin e AI. Edhe drejtues të tjerë të sigurisë kanë lënë kompaninë ose janë zhvendosur në pozicione të tjera brenda ose jashtë OpenAI.

Kompania ka përditësuar së fundmi kornizën e saj të përgatitjes, duke theksuar se mund të ndryshojë kërkesat e saj të sigurisë nëse një laborator konkurrent publikon një model të rrezikshëm pa masa të ngjashme mbrojtëse.

Diskutimet mbi ndikimin e AI në shëndetin mendor janë shtuar. Chatbot-ët gjenerues të AI kanë tërhequr vëmendje për ndikimet e mundshme negative te shëndeti mendor i përdoruesve. Ankesa dhe padi të fundit kanë pretenduar se ChatGPT ka forcuar iluzionet e përdoruesve, ka rritur izolimin social dhe në disa raste ka çuar edhe në pasoja tragjike. OpenAI deklaron se vazhdon të punojë për të përmirësuar aftësitë e ChatGPT në identifikimin e shenjave të shqetësimit emocional dhe në lidhjen e përdoruesve me mbështetje reale.

Tags: OpenAI, inteligjenca artificiale, siguria kompjuterike, shëndeti mendor, rreziqet e AI, drejtues i ri