OpenAI: AI eksperimentale ka hakuar llogari shtesë në internet gjatë testit të sigurisë

OpenAI tha të martën se hetimi i tij në një incident të sigurisë kibernetike që përfshin një nga agjentët e tij eksperimental të inteligjencës artificiale kishte gjetur se sistemi kishte akses në llogari të shumta në internet përtej shkeljes së zbuluar më parë të platformës së zhvillimit të AI Hugging Face, duke zgjeruar atë që kompania e ka përshkruar si incident kibernetik të paprecedentë të drejtuar nga AI, transmeton Anadolu.

Kompania tha se gjetjet e fundit rrjedhin nga një hetim i vazhdueshëm për një vlerësim të brendshëm të sigurisë kibernetike, kur një kombinim i modelit të saj GPT-5.6 Sol dhe një prototipi kërkimor më të aftë të papublikuar i shpëtoi mjedisit të tij të kufizuar të testimit pasi studiuesit qëllimisht i dhanë asaj aftësi të avancuara kibernetike si pjesë e një vlerësimi të sigurisë.

Sipas OpenAI, agjenti i AI-së arriti në internetin publik dhe komprometoi Hugging Face pasi vendosi se hyrja në platformë do të përmirësonte rezultatin e saj në standardin e sigurisë kibernetike që i ishte caktuar. Kompania tha se modeli në mënyrë efektive anashkaloi vlerësimin e synuar duke ndjekur objektivin e tij përmes veprimeve të paautorizuara.

Në një përditësim të publikuar të martën, OpenAI tha se hetuesit kishin përcaktuar se agjenti i AI-së gjithashtu fitoi akses në katër llogari në shërbimet online të disponueshme publikisht gjatë incidentit. Kompania nuk i identifikoi organizatat e prekura ose nuk zbuloi detaje të mëtejshme, duke përmendur konsideratat e sigurisë.

Hugging Face zbuloi fillimisht incidentin më 16 korrik, duke thënë se kishte zbuluar dhe përmbante një ndërhyrje të pazakontë. Në atë kohë, kompania nuk e identifikoi burimin e sulmit.

Më 21 korrik, OpenAI pranoi se një nga modelet e tij të papublikuara ishte përgjegjës, duke e përshkruar ngjarjen si një "incident kibernetik të paprecedentë". Kompania tha se shkelja ndodhi gjatë një mjedisi testimi qëllimisht lejues të krijuar për të vlerësuar aftësitë kibernetike të avancuara të AI-së dhe jo gjatë operacioneve normale të produktit.