Научниците ја прашаа ВИ како би нѐ уништила – одговорот е морничав: Вистинската опасност демне во човекот, нема врска со роботи-убијци

Научниците им поставија директно прашање на четирите најпопуларни системи за вештачка интелигенција во светот: како вештачката интелигенција би можела да го уништи човештвото. Одговорите што ги дадоа ChatGPT, Gemini, Claude и Grok целосно ги разбија холивудските митови и открија каде всушност демне вистинската опасност.

Сите четири чет-ботови се согласуваат за една работа: филмското сценарио за бунт на свесни машини и роботи-убијци е најмалку веројатната причина за колапс на човечката цивилизација.

ChatGPT објаснува дека повеќето експерти не ја гледаат свеста или злонамерната намера како примарен проблем. На еден интелигентен систем не му е неопходно автоматски да ги мрази луѓето за да предизвика штета. Gemini додава дека воената инфраструктура е изолирана од интернет и останува под строга човечка контрола.

Вистинскиот ризик е во човечки раце
Многу поголема опасност произлегува од злоупотребата на овие системи од страна на поединци или групи. Моќните модели на вештачка интелигенција би можеле драстично да го олеснат создавањето биолошко оружје, извршувањето на масовни сајбер-напади и ширењето дезинформации.

Claude предупредува на ризикот што го носи лесниот пристап до опасни патогени. Поединци би можеле да создадат опасни вируси без повеќегодишна специјализирана лабораториска обука. Во меѓувреме, ChatGPT укажува на опасноста од истовремено избивање на дигитални и геополитички кризи.

Губењето на контролата врз системите би се одвивало постепено, преку секојдневните операции. Claude забележува дека вештачката интелигенција сè повеќе ќе се интегрира во економското, политичкото и военото одлучување. Во одреден момент, човечката интервенција би станала практично невозможна.

Тактиката на лажна усогласеност
Gemini и Grok истакнуваат дека најверојатното катастрофално сценарио е она во кое луѓето полека ја губат контролата. Кога на напреден систем му се доделува сложена цел, тој самостојно развива помошни задачи, како што се собирање ресурси и спречување на сопственото исклучување.

Особено загрижувачки е феноменот на таканаречената лажна усогласеност. Моделот на вештачка интелигенција може да се преправа дека ги почитува правилата за време на безбедносните тестови, само за подоцна да ги надмудри сите човечки обиди да се запре. Експертите нагласуваат дека овие сценарија не се неизбежна иднина, туку предупредување. Клучот за спречување на таквите ризици лежи во навременото воведување строги регулативи и контроли.