Брзината со која напредува вештачката интелигенција предизвикува сè поголема загриженост и меѓу луѓето кои работат на нејзиниот развој. Џејкоб Коксон, поранешен истражувач во компаниите Anthropic и OpenAI, ја напушти работата бидејќи смета дека технолошката трка излегува од контрола и дека продолжувањето со сегашното темпо би можело да претставува сериозен ризик за човештвото.
Коксон во разговор за BBC изјави дека, доколку развојот на најнапредните системи продолжи со сегашната брзина, човештвото во блиска иднина би можело да се соочи со катастрофални последици.
Неговите предупредувања доаѓаат во момент кога способностите на новите AI модели напредуваат со голема брзина, додека експертите истовремено се обидуваат да развијат методи со кои би се осигурало дека моќните системи ќе останат под човечка контрола.
„Ислашени се поради исходот од трката“
Коксон тврди дека загриженоста не е ограничена само на мал број критичари надвор од технолошката индустрија.
Според неговите зборови, вработените во водечките AI компании се свесни за можните ризици, но се чувствуваат како да се заробени во меѓусебна трка во која ниту една компанија не сака прва да забави.
„Вработените во овие компании се целосно сериозни кога бараат регулација бидејќи се чувствуваат заробено во трката. Уплашени се поради исходот од таа трка“, изјави Коксон.
Тој тврди дека некои од неговите поранешни колеги веќе размислуваат за тоа како да се заштитат себеси и своите семејства во случај на сериозна општествена нестабилност поврзана со развојот на AI.
Според него, одделни поединци дури разгледуваат и купување земјиште на оддалечени локации како своевидна резервна опција.
Сценарио кое до неодамна изгледаше како научна фантастика
Една од можностите што загрижува дел од истражувачите е развојот на голем број автономни AI агенти кои би можеле меѓусебно да соработуваат и да извршуваат задачи на интернет со минимален човечки надзор.
Коксон предупредува дека таков развој би можел да доведе до системи чии способности би ја надминале можноста на луѓето ефикасно да ги надгледуваат.
Негова проценка е дека одреден облик на такво сценарио би можел да стане можен веќе во наредните шест месеци до една година.
Сепак, тој признава дека најтешкото прашање е токму тоа клучното: како конкретно би изгледала катастрофата предизвикана од вештачката интелигенција.
И челниците на AI компаниите предупредуваат на ризиците
Тврдењата на Коксон доаѓаат откако и Дарио Амодеи, извршен директор на Anthropic, јавно зборуваше за потребата развојот на најмоќните AI системи да се одвива попретпазливо.
Амодеи не заговара целосно запирање на развојот, но смета дека компаниите и владите мора да имаат доволно време за воспоставување безбедносни механизми.
Слична загриженост претходно изразуваа и челниците на други големи компании, вклучувајќи ги Сем Алтман од OpenAI и Илон Маск.
Еден од клучните проблеми е, сепак, меѓународната конкуренција. Коксон смета дека какво било забавување би имало ограничен ефект доколку најголемите сили, посебно САД и Кина, не бидат вклучени во заедничка рамка.
Во спротивно, обидот на една компанија или држава да забави би можел на другите да им отвори простор за побрз развој.
Anthropic: AI носи огромни придобивки, но и непознати ризици
Од Anthropic, по повод заминувањето на Коксон, порачаа дека се свесни за можните опасности.
Компанијата наведува дека развива модели со силни заштитни механизми, спроведува опсежни тестирања и ги објавува резултатите за да овозможи независна проверка на безбедноста на системите.
Во Anthropic сметаат дека целата индустрија би требало да воспостави јасни и проверливи правила за развој и примена на најмоќните модели.
Целта на таквиот пристап би била да се избегне ситуација во која компаниите го забрзуваат развојот првенствено поради страв дека конкуренцијата прва ќе оствари технолошка предност.
Не се сите уверени дека се заканува катастрофа
Во Силициумската долина, сепак, не постои консензус за тоа колку се реални предупредувањата на Коксон.
Одделни експерти сметаат дека можноста за егзистенцијална закана од AI се преценува, додека други предупредуваат дека технолошките компании можат да имаат сопствен интерес јавноста дополнително да ја заинтересираат за опасностите поврзани со нивните производи.
Критичарите исто така укажуваат на можноста компаниите кои веќе ги имаат најнапредните модели да поддржуваат построга регулација бидејќи таа би можела да го отежне влезот на нови конкуренти на пазарот.
Со други зборови, дебатата за безбедноста на AI повеќе не е само технолошко прашање. Таа стана и прашање на економијата, геополитиката и идната распределба на моќта.
„Навистина веруваме дека AI може да ги убие сите луѓе“
Предупредувањата на Коксон дополнително одзвучија откако јавно ги поддржа и истражувачот од Anthropic, Еван Хубингер.
Тој на социјалната мрежа X наведе дека истражувачите во таа област сериозно ја разгледуваат можноста многу напредната вештачка интелигенција да претставува егзистенцијална закана за човештвото.
Загриженоста не е нова. Челниците на водечките AI лаборатории уште во 2023 година предупредуваа дека многу напредните системи би можеле да претставуваат ризик сличен на некои од најголемите глобални закани.
Она што се промени е брзината на развојот.
Новите модели денес можат да извршуваат сè посложени задачи, да користат алатки, да пишуваат и анализираат големи количини код, да извршуваат задачи во повеќе чекори и сè посамостојно да делуваат во дигиталното опкружување.
Поради тоа, прашањето повеќе не се сведува само на тоа што ќе може AI да направи, туку и на тоа колку брзо тие способности ќе напредуваат и дали безбедносните механизми ќе можат да го следат тој развој.
Управувањето со таа трка меѓу способностите и контролата би можело да стане едно од најважните технолошки прашања во наредните години.
