Неконтролираниот напредок на ВИ може да биде егзистенцијален ризик за човештвото

– Вештачката интелигенција што ја избегнува својата средина за тестирање или ги уценува програмерите да избегнат деактивирање е премногу моќна вештачка интелигенција – рече високиот функционер на ОН, Турк, на отворањето на 63. сесија на Советот за човекови права во Женева.

Тој повика на „силни заштитни мерки во врска со безбедноста на вештачката интелигенција, пред да биде предоцна“.

– Неколку луѓе имаат речиси неограничена моќ врз вештачката интелигенција, за која постојано ни се вели дека има незамислива компјутерска моќ. Тие зборуваат за слобода, но по подетално испитување, се покажува дека е малку повеќе од слобода да ги искористиме нашите податоци.

Вештачката интелигенција што манипулира со луѓето е веќе реалност. Најновите генеративни модели на вештачка интелигенција повеќе не само што ги следат наредбите туку и одат дотаму што лажат, смислуваат или се закануваат за да ги постигнат своите цели, што предизвикува голема загриженост кај некои истражувачи – рече Турк.

Турк најави дека во наредните денови ќе им пише на компаниите во секторот „за да ги повика да преземат мерки во своја моќ за намалување на ризиците“.

– Потребни ни се независна верификација и многу поблиска соработка во безбедноста во рамките на индустријата – рече Турк, повикувајќи на разгледување на „влијанието на вештачката интелигенција врз практиките на вработување, основните демократски принципи и животната средина“.