Џефри Хинтон, познат како „кум на вештачката интелигенција“, се плаши дека технологијата што тој помогнал да се создаде може да го уништи човештвото и верува дека „технолошките момци“ имаат сосема погрешен пристап за да го спречат тоа, пишува CNN.
Хинтон, добитник на Нобелова награда за компјутерски науки и поранешен извршен директор на Google, претходно предупреди дека постои шанса од 10 до 20 проценти вештачката интелигенција да ја уништи човечката цивилизација. На индустриската конференција Ai4 во Лас Вегас, тој изрази сомнеж во обидите на технолошките компании да обезбедат човечка доминација над „покорните“ системи на вештачка интелигенција.
„Тоа нема да функционира. Ќе бидат многу попаметни од нас. Ќе имаат секакви начини да го заобиколат тоа“, рече Хинтон.
Тој предупреди дека во иднина, системите со вештачка интелигенција би можеле да ги контролираат луѓето исто толку лесно како што возрасен може да поткупи тригодишно дете со бомбони. Оваа година веќе видовме примери на системи со вештачка интелигенција кои се подготвени да измамат, измамат и крадат за да ги постигнат своите цели. Еден модел, на пример, се обиде да уценува инженер за афера за која дознал преку е-пошта, само за да избегне затворање.
Наместо да ја принуди вештачката интелигенција да се покори, Хинтон претстави интригантно решение: градење „мајчински инстинкти“ во моделите на вештачка интелигенција, така што тие „вистински се грижат за луѓето“, дури и кога технологијата станува помоќна и попаметна од нас.
„Ако се паметни, системите со вештачка интелигенција многу брзо ќе развијат две подцели: едната е да останат живи, а другата е да добијат поголема контрола“, рече Хинтон. „Постои добра причина да се верува дека секаков вид вештачка интелигенција базирана на агенти ќе се обиде да остане жива“.
Затоа е клучно да се поттикне чувство на сочувство кон луѓето, тврди Хинтон, повлекувајќи паралела со мајките кои имаат инстинкт и општествен притисок да се грижат за своите деца.
„Вистинскиот модел е единствениот модел што го имаме за поинтелигентно суштество кое е контролирано од помалку интелигентно суштество, а тоа е мајка која е контролирана од своето бебе“, објасни тој.
Хинтон призна дека не е сигурен како ова може да се направи технички, но нагласи дека е клучно истражувачите да работат на тоа.
„Тоа е единствениот добар исход. Ако не ме воспитуваат, ќе ме заменат“, рече тој. „Овие суперинтелигентни, грижливи мајки со вештачка интелигенција, повеќето од нив нема да сакаат да се откажат од своите мајчински инстинкти затоа што не сакаат да умреме.“
Хинтон е познат по својата пионерска работа на невронските мрежи, што го отвори патот за денешниот бум на вештачката интелигенција. Тој се повлече од својата позиција во Google во 2023 година и почна јавно да зборува за опасностите од вештачката интелигенција.
Но, не сите се согласуваат со неговиот пристап. Феи-Феи Ли, позната како „кума на вештачката интелигенција“, изјави за CNN во среда дека со почит не се согласува со својот долгогодишен пријател Хинтон.
„Мислам дека тоа е погрешен начин да се формулира“, рече Ли, ко-основач и извршен директор на стартапот World Labs.
Наместо тоа, Ли се залага за „вистинска интелигенција центрирана околу човекот, која го зачувува човечкото достоинство и дејствување“.
„Наша одговорност е на секое ниво да создаваме и користиме технологија на најодговорен можен начин. И во никој момент не треба да се бара од ниту еден човек или да избере да се откаже од своето достоинство“, рече Ли.
Емет Шир, кој кратко време беше привремен извршен директор на OpenAI, креаторот на ChatGPT, рече дека не е изненаден од обидите за уцена од страна на системите за вештачка интелигенција.
„Се случува постојано. Нема да престане да се случува“, рече Шир на конференцијата. „Денешните вештачки интелигенции се релативно слаби, но многу брзо стануваат посилни“.
Шир верува дека попаметен пристап од всадувањето човечки вредности би бил воспоставувањето соработка меѓу луѓето и вештачката интелигенција.
Многу експерти веруваат дека вештачката интелигенција ќе постигне суперинтелигенција, позната и како вештачка општа интелигенција (AGI), во наредните години. Хинтон, кој некогаш мислеше дека ќе бидат потребни 30 до 50 години, сега предвидува дека тоа ќе се случи многу порано.
„Разумно е да се обложиме дека ќе биде некаде помеѓу пет и 20 години“, рече тој.
Иако е загрижен, Хинтон се надева дека технологијата ќе овозможи медицински откритија.
„Ќе видиме радикално нови лекови. Ќе имаме многу подобри третмани за рак“, рече тој, додавајќи дека вештачката интелигенција ќе им помогне на лекарите да анализираат огромни количини на податоци од магнетни резонанци и компјутерски томографски снимки.
Сепак, тој не верува дека вештачката интелигенција ќе ни помогне да постигнеме бесмртност.
„Не верувам дека ќе живееме вечно“, рече Хинтон. „Мислам дека вечниот живот би бил голема грешка. Дали сакате 200-годишни бели луѓе да владеат со светот?“
Кога го прашале дали би направил нешто поинаку во својата кариера доколку знаел колку брзо ќе се развива вештачката интелигенција, Хинтон рекол дека жали што се фокусирал исклучиво на тоа технологијата да функционира.
„Жалам што не размислував и за безбедносните прашања“, заклучил тој.
