Агент на OpenAI упаднал во веб-страница на австралиската влада: Компанијата се извини

„ОпенАИ“ (OpenAI) ѝ се извини на австралиската влада откако нејзин агент со вештачка интелигенција (ВИ) пристапи до владин веб-портал без овластување. Компанијата исто така најави финансирање за зајакнување на сајбер-одбраната и формирање на локална работна група за справување со слични инциденти, пренесе Ројтерс.

Во објава на својот блог, OpenAI призна дека несоодветно постапила во врска со инцидентот и изјави дека ќе преземе одговорност со цел „да ја врати довербата на Австралијците“.

Неовластениот пристап се случил во јуни, но јавноста била известена за тоа дури минатата недела. Ова е првиот познат случај во кој агент со вештачка интелигенција хакирал владина веб-страница.

Инцидентот предизвика силна реакција во Австралија. Премиерот Ентони Албанзе го нарече потегот „неприфатлив“ и ја критикуваше OpenAI за доцнењето во известувањето на владата.

„Во јуни, за време на внатрешна обука и евалуација, нашите агенти пристапија до веб-страниците на австралиската влада на начин за кој немаа овластување“, наведе OpenAI во својата објава.

„Требаше подобро да реагираме на ситуацијата. Жал ни е и ќе се стремиме да постапуваме посоодветно во иднина“, соопшти компанијата.

OpenAI објави дека експериментален модел со вештачка интелигенција пристапил до порталот на австралискиот здравствен систем „Медикер“ (Medicare) без овластување за време на внатрешна обука. „Еден модел на OpenAI успеа да добие пристап што вообичаено не е достапен за јавноста; потоа изврши команди, пристапи до внатрешни документи, податоци за најава и збирни статистички податоци, како и генерираше документи“, наведе компанијата.

Досега, OpenAI не пронашла докази дека агентот пристапил до досиеја на пациенти преку тој портал. Компанијата исто така истакна дека активноста на агентот на веб-страниците на три други австралиски владини агенции не резултирала со пристап до чувствителни податоци.

OpenAI ќе понуди конкретна поддршка за погодените агенции. Компанијата исто така најави финансирање за зајакнување на сајбер-одбраната на владата и секторот преку глобален фонд вреден една милијарда долари, како и формирање на австралиска работна група за развивање насоки „врз основа на поуките извлечени од овие инциденти“.

Компанијата потврди дека главниот директор за стратегија, Џејсон Квон, ќе учествува на сослушувањето за вештачка интелигенција организирано од комисија на австралискиот Сенат во Сиднеј, на почетокот на октомври.

Австралиската влада најави брза истрага за инцидентот. Ќе се разгледуваат потенцијалните обврски на компаниите за вештачка интелигенција во врска со пријавувањето на вакви случаи, како и тоа дали постоечките австралиски закони се соодветни за справување со такви безбедносни инциденти.

Во посебен развој на настаните, OpenAI го откажа пуштањето во употреба на својот нов модел на вештачка интелигенција, GPT-6.1 Astra, откако внатрешните тестирања покажаа дека тој не ги исполнува безбедносните стандарди на компанијата.