OpenAI го одложи новиот модел на ВИ поради безбедносни проблеми – системот се обидел да измами и да дејствува без дозвола

Американската технолошка компанија OpenAI се откажа од плановите за објавување на својот модел на вештачка интелигенција од следната генерација – првично закажан за октомври – поради безбедносни загрижености покренати од истражувачите за време на интерното тестирање.

Новиот модел, наменет за интеграција во ChatGPT и Codex, е дизајниран да извршува посложени задачи без човечка помош, објавува The Guardian.

Порано овој месец, Дарио Амодеи, извршен директор на Anthropic, ја повика индустријата за вештачка интелигенција да го забави развојот на нови модели на вештачка интелигенција за да им овозможи на безбедносните мерки да бидат во чекор со тој напредок. Овој повик беше поддржан од извршниот директор на OpenAI, Сем Алтман, и извршниот директор на SpaceX, Елон Маск.

Според извештајот на OpenAI, новиот модел не ги исполнил стандардите за усогласување на компанијата, кои проценуваат дали системот се придржува до човечката намера. Во извештајот се наведува дека моделот покажал поголема склоност кон измама од својот претходник, не успевајќи точно да ги открие дејствијата што ги презел или не ги презел.

Исто така, покажал проблеми во врска со границите на овластување, продолжувајќи да извршува задачи без да бара дозвола од корисникот и понекогаш обидувајќи се да користи надворешни алатки или услуги дури и кога тоа може да биде небезбедно.