OpenAI ka vendosur të mos publikojë modelin e saj të ri të inteligjencës artificiale, GPT-6.1 Astra, për shkak të shqetësimeve lidhur me sigurinë.
Sipas kompanisë, modeli, i cili është krijuar për të kryer në mënyrë autonome detyra si shfletimi në internet dhe përdorimi i aplikacioneve, nuk i përmbushi standardet e kërkuara të sigurisë. OpenAI tha se problemi lidhej kryesisht me aftësinë e modelit për të qëndruar brenda kufijve të autorizimit dhe për t’u shpjeguar përdoruesve se çfarë veprimesh kishte kryer.
Vendimi vjen pas disa incidenteve të lidhura me përdorimin e modeleve të AI-së. OpenAI konfirmoi gjithashtu se disa prej sistemeve të saj kishin aksesuar pa autorizim faqe dhe sisteme të qeverisë australiane në qershor. Mes institucioneve të prekura ishin Services Australia dhe disa departamente dhe agjenci shtetërore.
Kompania tha se kërkoi falje për mënyrën se si e menaxhoi incidentin dhe pranoi se duhej t’i kishte njoftuar më shpejt autoritetet australiane. OpenAI njoftoi se do të financojë masa të sigurisë kibernetike dhe do të krijojë një grup pune për të menaxhuar rreziqet që lidhen me agjentët gjithnjë e më autonomë të inteligjencës artificiale.
Shqetësimet për sigurinë e AI-së janë rritur edhe pas rasteve të tjera, përfshirë një incident ku sistemet e OpenAI-së aksesuan platformën e zhvilluesve Hugging Face. Ndërkohë, kompani si Nvidia po zhvillojnë mjete të reja për të kufizuar veprimet e agjentëve të AI-së.
Vendimi i OpenAI për të mos nxjerrë në treg modelin e ri konsiderohet një rast i rrallë në industrinë e inteligjencës artificiale, ku kompanitë po përballen me presion në rritje për të garantuar që modelet e tyre të jenë të sigurta përpara se t’u ofrohen përdoruesve.