Најопасниот вид на ВИ заврши во погрешни раце? Контроверзната НСА користи моќен модел кој претставува закана за целиот свет

Националната безбедносна агенција на САД (НСА) користи еден од најмоќните модели на вештачка интелигенција на Anthropic – Mythos Preview – и покрај тоа што претставници на Пентагон истовремено ја етикетираат компанијата како потенцијален „ризик“.

Оваа контрадикторна ситуација беше потврдена од два извори запознаени со развојот на настаните, откривајќи длабоки поделби во рамките на американскиот безбедносен апарат кога станува збор за употребата на напредни алатки за вештачка интелигенција.

Во пракса, ова значи дека американската влада истовремено води правна и политичка битка против Anthropic, додека нејзините најчувствителни институции ги користат нејзините технологии. Министерството за одбрана, кое ја надгледува НСА, се обиде во февруари да ја прекине соработката со Anthropic и да ги принуди неговите добавувачи да го сторат истото. Тој процес сè уште е во тек. Сепак, паралелно, воениот и разузнавачкиот сектор ја прошируваат употребата на нивните алатки, што го поставува прашањето – што навистина е прво: безбедносната политика или технолошката предност?

Ваквите дилеми не се нови кога станува збор за НСА. Агенцијата веќе беше во центарот на глобален скандал во 2013 година, кога поранешниот вработен Едвард Сноуден објави класифицирани документи и откри постоење на програми за масовно надгледување, како што е PRISM, кои овозможуваа пристап до огромни количини на комуникации – вклучувајќи е-пошта, повици и интернет активности на милиони луѓе ширум светот. Според достапните податоци, овие програми дозволуваа собирање податоци дури и без индивидуални судски налози, што предизвика глобална дебата за границите на државната моќ и правото на приватност. Поради ова наследство, секоја нова технолошка иницијатива на NSA сега се гледа низ призмата на потенцијална злоупотреба.

Според достапните информации, Mythos веќе се користи во рамките на NSA, а еден извор тврди дека неговата примена е поширока и вклучува и други делови од Министерството за одбрана. Точната намена на моделот не е јавно позната, но се претпоставува дека се користи за анализа и откривање на ранливости во дигиталните системи – односно за идентификување на потенцијални сајбер напади пред да се случат.

Mythos е исклучително ограничена алатка. Anthropic им овозможил пристап само на околу 40 организации ширум светот, тврдејќи дека неговите офанзивни сајбер способности претставуваат преголем ризик за поширока дистрибуција. Само 12 корисници се официјално објавени, додека се верува дека NSA е меѓу оние кои не се јавно именувани. Сличен пристап имаат и британските разузнавачки агенции, кои го користат моделот преку Националниот институт за безбедност на вештачката интелигенција.

Зад оваа приказна стои и политичка динамика. Извршниот директор на Anthropic, Дарио Амодеј, неодамна се сретна со шефицата на кабинетот на Белата куќа, Сузи Вајлс, и секретарот за финансии, Скот Бесант. Темата на дискусија била употребата на Mythos во владините институции, но и пошироките безбедносни прашања и идните планови на компанијата. Според изворите, состанокот се сметал за „продуктивен“, а следните чекори би можеле да вклучуваат проширување на соработката со институции надвор од Пентагон.

Kлучно прашање во односот меѓу Антропик и Министерството за одбрана се појави за време на преговорите за нови договори претходно оваа година. Пентагон побара Антропик да дозволи употреба на својот модел Клод за „сите законски цели“, што би вклучувало потенцијално масовен надзор на населението или развој на автономно оружје. Компанијата одби, инсистирајќи на јасни ограничувања и етички стандарди.

Одлуката предизвика сомнежи кај некои воени претставници, кои веруваат дека Антропик не е сигурен партнер во ситуации каде што војската може да бара целосен пристап до технологијата без ограничувања. Од друга страна, компанијата ги отфрла ваквите тврдења, нагласувајќи дека одговорното користење на вештачката интелигенција мора да има граници, дури и во безбедносниот сектор.

Сепак, во рамките на американската администрација постои поинакво мислење. Некои претставници веруваат дека конфликтот со Антропик треба да се реши што е можно поскоро, бидејќи откажувањето од нивните технологии би значело заостанување во глобалната трка за доминација во областа на вештачката интелигенција. Во овој контекст, фактот дека НСА веќе го користи Митос може да се смета за прагматичен потег – без оглед на политичките несогласувања.