Една фотографија од дете е доволна за уцена со вештачка интелигенција

Националната агенција за криминал на Велика Британија (NCA) ги предупреди родителите да бидат внимателни кога објавуваат фотографии од своите деца на интернет, бидејќи тие би можеле да бидат злоупотребени за создавање сексуално експлицитен материјал со употреба на вештачка интелигенција (ВИ).

NCA и Фондацијата за надзор на интернет (IWF) објавија нови упатства насочени кон заштита на децата од зголемената злоупотреба на ВИ технологијата.

Предупредувањето следи по случај во Велика Британија во кој криминални групи користеле јавно достапни фотографии од ученици, создале лажна експлицитна содржина со употреба на ВИ, а потоа ги уценувале училиштата заканувајќи се дека ќе ја објават.

Според IWF, во 2025 година биле откриени 3.400 видеа генерирани од ВИ од овој тип, во споредба со само 13 претходната година. Извршниот директор на IWF, Кери Смит, предупреди дека ова е загрижувачки тренд што може да има долгорочни последици за децата.

Тој нагласи дека целта не е да се обесхрабрат родителите да споделуваат фотографии со семејството и пријателите, туку да се едуцираат за ризиците за да можат да донесуваат одлуки за кои претходно ќе бидат информирани.

Организациите предупредуваат дека содржината генерирана од вештачка интелигенција станува сè пореална и насилна. Дури 65 проценти од 3.443 видеа генерирани од вештачка интелигенција во 2025 година беа класифицирани во најтешката категорија според британскиот закон.

На родителите им се препорачува да споделуваат фотографии од своите деца само во затворени групи или да ги ограничат поставките за приватност на социјалните мрежи на доверливи луѓе. Во исто време, IWF ги повикува технолошките компании подобро да ги заштитат моделите на вештачка интелигенција за да спречат нивна злоупотреба за креирање таква содржина.