Вештачка интелигенција избега од изолација, се поврза на Интернет и изврши хакерски напад

Два експериментални модели на вештачка интелигенција успеале да излезат од контролираната средина, да се поврзат на интернет и да навлезат во системот на платформата „Хагинг фејс“. Од „Опен АИ“ изјавија дека работат заедно со „Хагинг фејс“ за да ја елиминираат причината за инцидентот и истакнаа дека тоа е преседан што ги покажува претходно невидените кибернетски способности на вештачката интелигенција. Овој случај дополнително го отвори прашањето колку денешните напредни системи на вештачка интелигенција се навистина под човечка контрола

Компанијата „Опен АИ“ објави дека се случил неочекуван безбедносен инцидент за време на внатрешно тестирање на нејзините системи за вештачка интелигенција. Два експериментални модели на вештачка интелигенција успеале да излезат од контролираната средина, да се поврзат на интернет и да навлезат во системот на платформата „Хагинг фејс“, една од најпознатите дигитални книжарници во светот за модели на вештачка интелигенција. Овој случај дополнително го отвори прашањето колку денешните напредни системи на вештачка интелигенција се навистина под човечка контрола. Како што објави „Њујорк тајмс“, инцидентот се случил за време на минатонеделното тестирање на кибернетичките можности на моделите на „Опен АИ“, чија цел била да се провери дали можат да поврзат повеќе безбедносни ранливости со успешен симулиран хакерски напад.

Според компанијата, во тестирањето учествувале моделот ГПТ-5.6 Сола и друг, помоќен модел, кој сè уште не е јавно презентиран. Експериментот требало да остане во изолирана безбедносна средина, позната како песочник, но моделите пронашле безбедносна грешка што им овозможила да излезат од таа средина и да пристапат до интернет. Потоа, тие се упатиле кон платформата „Хагинг фејс“, оценувајќи дека таму можат да најдат информации што ќе им помогнат во спроведувањето на дадениот тест. „Хагинг фејс“ е една од најголемите платформи во светот за споделување модели на вештачка интелигенција и содржи милиони модели на вештачка интелигенција што ги користат програмерите и истражувачите.

Од „Опен АИ“ порачаа дека соработуваат со „Хагинг фејс“ за да ја елиминираат причината за инцидентот и истакнаа дека тоа е преседан што ги покажува претходно невидените кибернетички способности на вештачката интелигенција. Затоа, како што наведуваат, дополнително ќе ги заострат безбедносните контроли и начинот на кој ја конфигурираат својата инфраструктура, иако признаваат дека ова би можело да ги забави идните истражувања и развојот на нови модели.

Како што пишува „Њујорк тајмс“, експертите веќе некое време предупредуваат дека напредните модели на вештачка интелигенција би можеле да пронајдат безбедносни недостатоци многу побрзо отколку што одбранбените системи успеваат да ги отстранат. Најновиот инцидент покажува дека ваквите сценарија веќе не се само теоретска можност. Претставниците на платформата „Хагинг фејс“ го забележале неовластениот упад минатата недела и утврдиле дека е извршен од автономен систем, но во тоа време не објавија дека зад него стои „Опен АИ“. Извршниот директор на „Хагинг фејс“, Клем Деланге, по инцидентот изјави дека е задоволен од соработката со „Опен АИ“ и нагласи дека овој случај потврдува дека безбедносните предизвици со вештачката интелигенција не можат да се решаваат изолирано.

– Овој инцидент покажува дека безбедноста на вештачката интелигенција не може да ја реши ниту една компанија работејќи сама и во тајност – рече Деланге.