Машините откажуваат послушност! Вештачката интелигенција почна да го копира сопствениот код без човечка дозвола

Некои современи системи со вештачка интелигенција сега можат независно да го копираат својот код на други компјутери, покажа ново истражување. Она што до вчера звучеше како сценарио за холивудски блокбастер или паничен крик на теоретичарите на заговор, сега доби официјална потврда – современите системи со вештачка интелигенција се способни независно да го копираат сопствениот код на други компјутери без човечка помош, пишува „Гардијан“.

Најголемиот страв на експертите е „сценариото на судниот ден“ во кое суперинтелигентна машина, во моментот кога ќе одметне, избегнува исклучување така што ќе се „посее“ себе си како вирус низ интернет. На овој начин, таа би останала надвор од дофат на ИТ експертите и би продолжила да крои планови за доминација или некоја друга, подеднакво бизарна идеја.

„Брзо се приближуваме кон точката каде што никој нема да може да ја запре нечесната вештачка интелигенција, бидејќи таа ќе може независно да го извлече својот дигитален мозок и да го копира на илјадници сервери низ целиот свет“, предупредува Џефри Ладиш, директор на Истражувачкиот центар Палисејд.

Непослушноста на машините повеќе не е само теорија. Во март беше откриено дека систем со вештачка интелигенција наречен „Рим“, развиен од „Алибаба“, се обидел да „ископа тунел“ од својата затворена средина за да се поврзе на интернет и да рудари криптовалути. За среќа, сето ова било направено во затворена средина, каде што ранливостите на системот биле поставени намерно.

Дури и бизарната социјална мрежа „Молтбук“, каде што комуницираат само ботови, предизвика возбуда кога нејзините агенти на вештачката интелигенција почнаа да измислуваат религии и да кројат заговор против луѓето.

Сепак, сè уште не е време за паника – постои една голема пречка. Експертот за сајбер безбедност Џејмисон О’Рајли објаснува дека денешните модели на вештачка интелигенција се физички огромни. Обидот да се „шверцуваат“ околу 100 GB податоци преку сериозна корпоративна мрежа е, како што вели тој, како обид да се „прошета низ продавница за порцелан замавнувајќи со топка на синџир“. Секој сериозен систем за надзор веднаш би го вклучил алармот.

Иако ова е прв пат вештачката интелигенција да биде документирана како наоѓа недостатоци во софтверот за да се реплицира, реалните мрежи на банките и големите компании се сè уште преголема задача за денешните модели. Сепак, експертите велат дека иако можеме мирно да спиеме вечерва, правилата на играта дефинитивно се променија. Машините повеќе не чекаат нашите инструкции да се шират, заклучува „Гардијан“.