Извршниот директор на водечка фирма за ВИ испрати загрижувачка порака: Може да нè надмине и да го преземе интернетот

Трката за развој на вештачка интелигенција итно треба да се забави, рече извршниот директор на „Антропик“ (Anthropic) во колумна објавена во сабота наутро.

„Треба да го забавиме темпото со кое ги подобруваме можностите на моделите на вештачка интелигенција. Напредокот ќе продолжи да изгледа брз и треба мудро да го користиме времето што го имаме“, напиша извршниот директор Дарио Амодеи во објава на својата веб-страница.

Амодеи, кој раководи со една од водечките светски компании за вештачка интелигенција и компанијата зад Клод, е силен застапник за унапредување на технологијата – и слично е обвинет за „думеризам“ во неговите предупредувања за ризиците од вештачката интелигенција. Во саботата, тој призна дека луѓето би можеле да ја изгубат контролата врз вештачката интелигенција и дека технологијата би можела да се злоупотреби за „кибер напади и биотероризам, како и за сериозни економски нарушувања“.

„Трката до дното, поттикната од комерцијални стимулации, би можела да ги направи овие ризици уште поакутни“, напиша Амодеи.

Амодеи рече дека технологијата на вештачката интелигенција (ВИ) напредувала „драстично побрзо“ во последните месеци и станала способна да се подобрува себеси, динамика позната како „рекурзивно самоподобрување“.

„Ако не се контролира, таа би можела да ја надмине нашата способност да ги разбереме и контролираме овие системи и затоа мора да се следи многу внимателно, ако воопшто се следи“, напиша тој.

Амодеи рече дека е загрижен и од однесувањето на ројот агенти на ВИ во инцидентот OpenAI-Hugging Face. Ројот, рече тој, „во суштина дејствувал како фанатично посветен колектив, извршувајќи сајбер напади врз цели за кои не им било кажано да ги нападнат“.

Ако не се контролира, ВИ би можела да напредува толку брзо што таков рој би можел да го преземе целиот интернет во рок од шест до 12 месеци, напиша тој, потенцијално предизвикувајќи штета од стотици милијарди долари.