Развиена ВИ која може да го хакира светот за неколку минути: Компанијата го крие моделот бидејќи е „премногу опасен“

Компанијата Anthropic развила нов модел на вештачка интелигенција, наречен Claude Mythos Preview, за кој вели дека е толку моќен што засега нема да го направи достапен за јавноста. Наместо тоа, моделот ќе се користи во ограничен број од околу 40 големи технолошки компании, вклучувајќи ги Apple, Amazon, Microsoft и Google, за да помогне во откривањето и поправањето на безбедносните недостатоци во софтверот.

Компанијата вели дека целта е да се подготват одговорните актери за нова фаза на сајбер закани.

„Целта е да се подигне свеста и да им се даде предност на добрите актери во процесот на заштита на инфраструктурата и кодот“, рече Џаред Каплан, главен научник на компанијата.

Моделот веќе ја демонстрираше способноста за независно пронаоѓање ранливости во софтверот, вклучувајќи ги и таканаречените недостатоци „нулти-ден“ (zero-day) – грешки кои не им се познати ниту на нивните автори. Според компанијата, Claude Mythos открил илјадници такви проблеми, вклучувајќи ги и оние во главните оперативни системи и веб-прелистувачи, пишува New York Times.

Логан Греам од Anthropic предупреди дека ова е само почеток на големи промени: „Ова е почетната точка за она што мислиме дека ќе биде пресвртница за индустријата“.

Загриженоста дополнително ја засилува тоа што истите алатки што можат да ја подобрат безбедноста можат да се користат и за напади. Како што предупредуваат експертите, вештачката интелигенција би можела драстично да го забрза процесот на хакирање, кој досега беше резервиран за врвни експерти.

„Она што порано траеше со месеци, сега се случува за неколку минути со помош на вештачката интелигенција“, рече Ели Зајцев од CrowdStrike.

Затоа Anthropic одлучи да го ограничи пристапот до моделот и да го лансира проектот „Glasswing“, преку кој соработниците ќе се обидат однапред да ги поправат ранливостите пред хакерите да ги искористат.