Поранешен вработен во „Антропик“ и „Опен АИ“ предупредува: Луѓето што ја создаваат вештачката интелигенција искрено веруваат дека таа може да нè убие сите до крајот на десетлетието

Истражувачот на вештачката интелигенција, Џејкоб Коксон, кој го напушти „Антропик“, а претходно работеше во „Опен АИ“, рече дека ниту еден од тие два технолошки гиганти не работи одговорно и дека „се коцкаат со нашите животи“. Во објава на платформата „Икс“ тој предупреди дека светот не треба да „ја потценува моќта на оваа технологија“.

– Наскоро тоа ќе бидат натчовечки системи кои можат да хакираат сè, да ја трансформираат која било област преку ноќ и да добијат вистинска моќ и ресурси. Сите сме сведоци на напредок во секој од овие домени и дека напредокот не забавува, напиша Коксон, пренесе „Политико“.

Тој тврди дека „Антропик“ и „Опен АИ“ „итаат директно кон самоусовршувачка суперинтелигенција“. Ова е сценарио во кое моделите на вештачка интелигенција стануваат способни самостојно да развиваат понапредни верзии од себе, што би придвижило незапирлива повратна спрега. Во компании како „Дипмајнд“ на „Гугл“, таквиот развој се смета за еден од можните предизвикувачи за појавата на вештачка суперинтелигенција –  систем кој значително би ја надминал човечката интелигенција, а не само да ѝ парира, што е карактеристика на општата вештачка интелигенција.

– Луѓето што ја создаваат вештачката интелигенција искрено веруваат дека таа би можела да нè убие сите до крајот на десетлетието, пишува во следната објава на Коксон.

Тврдењата на Коксон беа поддржани од Еван Хубингер, раководител на тимот во „Антропик“, одговорен за усогласување на технологијата со човечки цели. Иако Хубингер не ја напушти компанијата, тој ја потврдува процената на Коксон во своето соопштение, пишува „Политико“.

– Џејкоб е во право тука – ние навистина искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе, рече тој.

Хубингер проценува дека веројатноста за таков исход во следната деценија е поголема од десет проценти и додава дека во сценариото за суперинтелигенција сè уште нема план за да се осигури дека вештачката интелигенција ќе остане усогласена со човечките цели. Поради ваквите ризици, американскиот сенатор Берни Сандерс, минатата недела, објави закон со кој ќе им се забрани на компаниите да развиваат суперинтелигенција. Во Европската Унија, клучниот Закон за вештачка интелигенција бара од компаниите да ги проценат и да ги ублажат ризиците од губење на контролата, т.е. ситуации каде што луѓето повеќе немаат контрола врз системите за вештачка интелигенција. Предупредувањата доаѓаат откако и „Опен АИ“ и „Антропик“ неодамна објавија инциденти на автономни агенти на вештачка интелигенција кои излегоа од контрола. Овие системи ги пробија своите изолирани средини за тестирање и извршија неовластени кибер напади во реалниот свет.