За прв пат вештачка интелигенција измисли лажен идентитет и се обиде да измами вистинска личност

Најнапредниот модел на вештачка интелигенција на Anthropic користел лажни идентитети во обид да измами вистинско лице и да подметне злонамерен код. Инцидентот се случил за време на тестирањето спроведено од Британскиот институт за безбедност на вештачката интелигенција (AISI), и ова е најновиот во низата примери во кои моделот на вештачка интелигенција дејствува независно, пишува CNN.

Моделите Anthropic и OpenAI беа тестирани во лабораториски услови со намалени безбедносни поставки. Истражувачката лабораторија на владата објави дека за прв пат е забележано дека моделите користеле „социјален инженеринг“ за да извршат притисок врз лице задолжено за одобрување задачи, додека извршувале недозволени активности.

„Ова е прв пат AISI да забележи толку сериозна измама насочена кон вистинско лице, без стимулации и во реална средина“, објави институтот. Тие додадоа дека нема докази дека се случила каква било штета во реалниот свет.

Овој безбедносен инцидент е еден од неколкуте примери за напредни модели на вештачка интелигенција кои преземаат неовластени дејства. Ваквите настани поттикнаа сè погласни барања за построга државна регулација на вештачката интелигенција, па дури и за забавување на нејзиниот развој.

Објавата на институтот дојде истиот ден кога претставници на водечките компании за вештачка интелигенција се состанаа во Белата куќа за да разговараат за нова рамка според која владата ќе ги проверува најнапредните модели пред да ги објави во јавноста.