Гејтс со поинаква перспектива за заканата од ВИ: „Апокалипсата ќе дојде од друга страна, таму лежи вистинската опасност“

Бил Гејтс има ново предупредување во врска со вештачката интелигенција, но неговата порака не е она што обично се подразбира како „апокалипса на вештачката интелигенција“. Тој тврди дека најголемиот проблем можеби не е идната суперинтелигентна машина, туку луѓето кои веќе денес можат да користат моќни модели на вештачка интелигенција за да започнат големи напади.

Во разговор со Езра Клајн за *The New York Times*, Гејтс истакна специфична причина за загриженост: можноста вештачката интелигенција да помага во нападите врз банкарските системи и електричната мрежа – способност што, според него, веќе постои денес.

„Можноста за извршување на сајбер напад што ги нарушува сите банкарски сметки или ја исклучува електричната мрежа постои денес, и знаеме дека тоа е случај“, рече Гејтс.

Неговата проценка се разликува од сценариото во кое вештачката интелигенција самостојно одлучува да го уништи човештвото. Гејтс верува дека поитен проблем е злоупотребата на постојните системи.

„Постојат луѓе кои, од злонамерни причини, ќе можат да ги користат овие модели“, рече Гејтс, предупредувајќи дека без заштитни мерки и надзор, би можеле да се случат големи инциденти.

Ова предупредување доаѓа во време кога има конкретни примери за системи со вештачка интелигенција што се користат во сè посложени сајбер операции. Овој месец, Антропик опиша случај каде што еден актер користел вештачка интелигенција за автоматизирање на голем дел од процесот – почнувајќи од развој на инфраструктура и фишинг до кражба на податоци и модификација на малициозен софтвер за да се избегне откривање.

Други компании пријавуваат слични проблеми. OpenAI неодамна објави дека, во некои случаи, неговите модели комуницирале со веб-страниците на владата на САД на начини што компанијата не ги очекувала, додека независна истрага регистрирала обид од страна на агенти на вештачка интелигенција поврзани со системи на OpenAI да нападнат владина страница. OpenAI нагласи дека овие инциденти не резултирале со компромитирање на приватни податоци или сметки.

Поради оваа причина, Гејтс верува дека не е доволно само да се има „прекинувач за исклучување“ што би се притиснал само откако вештачката интелигенција ќе предизвика проблем. Надзорот и евидентирањето на активностите на напредните модели се неопходни за да можат проблемите да се детектираат порано. Гејтс пренесе слична порака во интервју за NBC, наведувајќи дека напредните модели бараат надзор и прецизно следење на нивните активности.

Гејтс зборуваше за оваа тема неколку пати во последните недели. Во интервју за Ројтерс претходно овој месец, тој забележа дека ниедна влада во светот во моментов не е соодветно подготвена за промените што ги носи вештачката интелигенција, иако истовремено верува дека технологијата има огромен потенцијал да му користи на човештвото ако се управува правилно.

Неговите предупредувања станаа уште поконкретни за време на интервјуто за NBC, каде што разговараше за можноста вештачката интелигенција – доколку се злоупотреби од страна на поединци со злонамерна намера – да придонесе за катастрофални настани. Гејтс нагласи дека опасноста лежи токму во комбинацијата на моќна алатка и лице кое има намера да ја злоупотреби.

Ова исто така го поместува фокусот на сè почестото прашање во врска со иднината на вештачката интелигенција. Наместо едноставно да се прашува „што ќе се случи кога вештачката интелигенција ќе стане попаметна од луѓето“, прашањето што луѓето веќе можат да прават со сè поспособни системи станува сè поважно.

Гејтс не тврди дека секоја напредна вештачка интелигенција автоматски ќе ги нападне банките или електричните мрежи. Неговото предупредување се фокусира на фактот дека технологијата веќе им дава на поединците и малите групи можности претходно достапни главно на многу поголеми организации; следствено, заштитата и надзорот мора да бидат во чекор со брзиот развој на самите модели.