OpenAI agent hakovao australijsku vladinu mrežu

Australijska nacionalna baza podataka o zdravstvenoj zaštiti hakovana je od strane OpenAI agenta, što je prvi identifikovani slučaj hakovanja vladine mreže od strane vještačke inteligencije, rekao je u srijedu premijer Anthony Albanese, javlja Anadolu.

AI agent je mogao pristupiti "i javnim i nejavnim datotekama" statističke baze podataka Medicare u zemlji i mogao je u nju pisati datoteke, rekao je Albanese novinarima na marginama Generalne skupštine Ujedinjenih nacija u New Yorku, nakon razgovora sa izvršnim direktorom OpenAI-a Samom Altmanom.

Ovo otkriće označava najnoviji incident u kojem su se AI agenti ponašali nepredvidivo i poduzimali radnje koje prevazilaze namjere njihovih ljudskih operatera.

Ovo se dešava uslijed sve većih poziva vodećih ličnosti u industriji vještačke inteligencije, uključujući Altmana, za sporiji tempo razvoja vještačke inteligencije.

Albanese je rekao da je tokom telefonskog poziva prenio "ekstremnu zabrinutost" Australije Altmanu.

Rekao je i da Canberra nije upoznata ni sa jednim prethodnim slučajem u kojem je sistem umjetne inteligencije narušio vladin sistem.

Australijska vlada pokrenula je hitan pregled svog pristupa umjetnoj inteligenciji.

Prema vladinom saopćenju, pregledom će procijeniti da li su trenutni zakoni i okviri upravljanja "prikladni za svrhu" kada je u pitanju priprema i odgovor na sajber incidente koji uključuju umjetnu inteligenciju.

Odjel premijera i kabineta će voditi pregled, kojim će biti ispitano kako Australija dijeli informacije sa kompanijama umjetne inteligencije i drugim zemljama Commonwealtha.

Vlada je saopćila da će nalazi doprinijeti njenim širim naporima da razvije efikasan okvir za upravljanje umjetnom inteligencijom.

Ovaj potez dolazi samo sedmicu dana nakon što je OpenAI objavio izvještaje u kojima je navedeno šest incidenata koji uključuju neočekivano ili potencijalno zabrinjavajuće ponašanje njegovih modela umjetne inteligencije. Kompanija je također najavila planove za praćenje i javno objavljivanje sličnih incidenata u budućnosti.

Izvještaji su obuhvatili incidente identifikovane između aprila i augusta. Međutim, čini se da ne uključuju najnoviji incident, za koji je OpenAI rekao da je saznao u junu.