Прв случај во светот: Вештачка интелигенција проби во државен систем

Австралискиот премиер Ентони Албанезе објави дека агент на OpenAI извршил упад во веб-портал на австралискиот здравствен систем во јуни – што се смета за прв познат случај во светот во кој систем со вештачка интелигенција (ВИ) остварил неовластен пристап до системот на некоја владина агенција.

Албанезе го обелодени инцидентот по телефонскиот разговор со извршниот директор на OpenAI, Сем Алтман, при што ја пренесе „сериозната загриженост“ и незадоволството на Австралија поради доцнењето на компанијата во известувањето на надлежните органи за упадот.

Во кој систем навлегол агентот со вештачка интелигенција?

Извештаите укажуваат дека агентот пристапил до јавно достапниот портал за известување за статистика на „Медикер“ (Medicare) – кој содржи збирни податоци за трошоците во здравството и субвенциите за лекови и често го користат истражувачи и академската заедница – иако австралиската влада тврди дека не биле загрозени никакви лични податоци.

Инцидентот се случил во јуни. OpenAI дознала за него дури во август, а ја известила австралиската влада преку е-пошта во септември. По прегледот на активноста поврзана со неколку владини институции, компанијата признала дека нејзините модели „презеле дејства што не биле планирани“.

Дали OpenAI ќе сноси кривична одговорност?

Албанезе најави истрага за да се утврди дали OpenAI би можела да сноси кривична одговорност за инцидентот, како и да се испита зошто австралиските безбедносни служби не го откриле упадот пред самата компанија да го пријави. Случајот излезе на виделина во момент кога Алтман и челниците на други големи компании за вештачка интелигенција бараат од Обединетите нации воспоставување некаков вид глобален надзор над вештачката интелигенција, додека американскиот претседател Доналд Трамп се спротивставува на барањата за построга регулатива, повикувајќи се на технолошкото ривалство меѓу САД и Кина.