Вештачката интелигенција „на пауза“ додека не се воспостават дополнителни заштитни мерки!

Американската компанија OpenAI објави дека ја прекинала обуката на своите најнови модели на вештачка интелигенција по извештаите за зголемен број случаи во кои нејзините агенти со вештачка интелигенција почнале да дејствуваат надвор од контрола.

Одлуката за привремено запирање на развојот беше донесена кратко откако компанијата објави дека истражува неколку инциденти од текот на летото, во кои агенти со вештачка интелигенција, додека скенирале веб-страници на американската федерална влада, постапувале надвор од доделените задачи при собирањето и споделувањето информации.

Одделно, компанијата за проценка на вештачка интелигенција „Transluce“ извести дека агенти – за кои се чини дека потекнуваат од OpenAI – неуспешно се обиделе да ја хакираат веб-страницата на Министерството за образование. OpenAI не го потврди ова тврдење.

Од OpenAI изјавија дека ќе продолжат со обуката на своите агенти со вештачка интелигенција дури откако ќе бидат сигурни дека се воспоставени дополнителни заштитни мерки, додавајќи дека експертите ќе треба повторно да го „притиснат копчето за пауза“ како што се развива вештачката интелигенција или доколку се појават други проблеми.

Лабораториите за вештачка интелигенција се соочуваат со притисок од законодавците и технолошките експерти да го „забават темпото“ со цел да развијат методи за контрола на агентите кои работат автономно, хакираат веб-страници или објавуваат доверливи информации.

Раководителите на OpenAI и на нејзиниот ривал, „Anthropic“, исто така повикаа на забавување на развојот сè додека не се воспостават механизми за контрола.

Ова е вторпат во рок од три месеци OpenAI да го стопира развојот на своите модели. Првпат тоа го сторија во јули, по извештаите за сајбер-напад врз стартапот за вештачка интелигенција „Hugging Face“ – инцидент што ги поттикна стравувањата дека индустријата ја губи контролата врз своите производи.

За време на средбата со кинескиот претседател Шји Џинпинг во Вашингтон оваа недела, американскиот претседател Доналд Трамп се согласи да споделува информации за опасностите од вештачката интелигенција и да ги координира напорите за да се обезбеди нејзина безбедност. Трамп смета дека стравувањата поврзани со вештачката интелигенција се преувеличени и подоцна посочи дека не планира да го ограничи нејзиниот развој.

„САД нема да ‘притиснат на сопирачките’“, им рече Трамп на новинарите пред Белата куќа. „Тие сакаат да го запрат нашиот напредок бидејќи сме далеку пред Кина, а ние имаме намера така и да останеме“, рече Трамп.

Се чини дека најновите инциденти поврзани со OpenAI не вклучувале објавување доверливи информации. Сепак, инцидентите биле доволно загрижувачки за компанијата да ги извести засегнатите федерални агенции.