Microsoft попереджає про ризики нових ІІ-агентів у Windows 11
Компанія Microsoft анонсувала плани щодо перетворення Windows 11 на “агентну операційну систему” та запустила тестову функцію, яка дозволяє користувачам взаємодіяти зі штучним інтелектом (ШІ). Однак, як з’ясувалося, нова технологія супроводжується низкою проблем, пов’язаних як із функціональністю, так і з безпекою.
В офіційному попередженні корпорація зазначила, що агентний ШІ здатний виконувати складні завдання та значно розширює можливості взаємодії людини з комп’ютером.
Водночас моделі штучного інтелекту залишаються обмеженими і можуть надавати так звані “галюцинації” – некоректні або неочікувані результати.
Особливу увагу Microsoft приділила ризикам безпеки.
У компанії наголосили, що додатки на базі агентного ШІ можуть стати об’єктом атак через перехресні запити (XPIA). Шкідливий контент, вбудований в елементи інтерфейсу або документи, здатний перевизначати інструкції агента та призводити до ненавмисних дій, включаючи крадіжку даних або встановлення шкідливого програмного забезпечення.
Розробники пояснили, які завдання мають виконувати агенти та де саме виникають вразливості, закликавши користувачів уважно ознайомитися з деталями. Водночас у корпорації визнали, що, враховуючи особливості сучасних моделей ШІ, повністю усунути проблему найближчим часом може виявитися неможливим.
Таким чином, тестування агентної ОС Windows 11 виявило не лише нові можливості, а й серйозні виклики, пов’язані з безпекою та надійністю роботи штучного інтелекту. Проте, функція, що тестується, залишається доступною для користувачів.
Що це означає для користувачів: Тестування нових можливостей ШІ в Windows 11 відкриває шлях до більш інтерактивної взаємодії з комп’ютером, але вимагає уважності через потенційні помилки та ризики безпеки. Користувачам варто бути обережними при використанні функцій, що базуються на ШІ, та слідкувати за офіційними оновленнями від Microsoft щодо стабільності та безпеки цих інструментів.