З поширенням технологій генеративного штучного інтелекту (ШІ) зростають не лише зовнішні загрози у сфері кібербезпеки, але й внутрішні. Компанії, які історично покладалися на традиційні методи захисту від кібератак зсередини, тепер змушені стикатися з новими викликами, спричиненими розповсюдженням технологій ШІ.
Джерело зображення: Unsplash, Azamat E
Як пояснює Financial Times, минулорічна діяльність північнокорейського хакерського угруповання продемонструвала, наскільки винахідливими можуть бути організатори кібератак на інфраструктуру американських компаній. Насамперед, зловмисникам вдалося проникнути до понад 100 компаній на території США під виглядом понад 80 американських громадян, чиї персональні дані були викрадені. Активність хакерів принесла їм понад 5 мільйонів доларів прибутку. За результатами розслідування були заарештовані 8 громадян США, які сприяли північнокорейським хакерам, розміщуючи на американській території “ферми ноутбуків” у житлових приміщеннях. Це дозволяло роботодавцям вважати, що на них працюють справжні американці віддалено. Водночас ноутбуки, встановлені на цих американських “фермах”, фактично віддалено керувалися з-за меж країни.
За статистикою оператора зв’язку Verizon, з 22 000 інцидентів у сфері кібербезпеки у світі цього року приблизно 12% стосувалися атак на інфраструктуру компаній зсередини. Зловмисні дії від атакуючих, які знаходяться всередині компанії, історично завдавали найсерйозніших збитків, оскільки хакер у такому випадку зазвичай добре знайомий зі слабкими місцями в захисті та розуміє, які елементи простіше і вигідніше атакувати. Крім того, системи генеративного ШІ зараз дозволяють створювати “синтетичних інсайдерів”, які видають себе за реальних співробітників компанії, викрадаючи їхню зовнішність та голос за допомогою цифрових технологій у разі необхідності. Компанії в таких умовах посилили відбір потенційних кандидатів на вакансії, і до процесу долучаються фахівці з безпеки, які раніше не завжди залучалися кадровими підрозділами.
Експерти пояснюють, що боротися з діпфейками на етапі віддалених співбесід можна досить простими методами. Достатньо попросити кандидата помахати рукою або повернути голову вбік, щоб з високою ймовірністю виявити підробку. Підозріла активність віддалених співробітників також повинна моніторитися спеціалізованим програмним забезпеченням. У 62% випадків, згідно зі статистикою Fortinet, інциденти у сфері інформаційної безпеки минулого року траплялися внаслідок людської помилки або витоку облікових даних. Найсерйозніші інциденти в цій сфері можуть коштувати бізнесу від 1 до 10 мільйонів доларів.
Представники Google наголошують, що так зване “тіньове використання ШІ” співробітниками також становить загрозу для захисту інформації компаній. Якщо якась чутлива інформація завантажується співробітником у чат-бот, вона потім легко може стати надбанням зловмисників. Загроза набуває особливої актуальності з урахуванням поширення ШІ-агентів, які можуть виступати в ролі віртуальних співробітників. Їх, своєю чергою, можна втягнути в неправомірну діяльність, зазначає Financial Times. На корпоративному ринку з’являється все більше програмного забезпечення, призначеного для спостереження за збереженням конфіденційних даних в умовах тотального впровадження ШІ. Стає складно забезпечити надійність функціонування інфраструктури і при цьому не відлякати співробітників надмірною недовірою до них з боку роботодавця. Важливо чітко виділяти індикатори ризику, але при цьому не гальмувати бізнес-процеси загальною недовірою та тотальним стеженням.
За матеріалами: 3dnews.ru