ШІ-інцидент в AWS: Автономний інструмент спричинив збій

Amazon Web Services (AWS) зіткнувся з 13-годинною перервою в роботі однієї зі своїх систем у середині грудня. Причиною стало те, що інженери дозволили інструменту ШІ для написання коду під назвою Kiro внести певні зміни. Цей автономний інструмент, який може діяти від імені користувачів, вирішив “видалити та відтворити середовище”. Amazon опублікував внутрішній звіт про цей збій системи, яка допомагає клієнтам відстежувати витрати на сервіси AWS.

За словами кількох співробітників Amazon, це вже другий випадок за останні місяці, коли ШІ-інструмент компанії стає причиною порушення роботи сервісу. Один зі старших співробітників AWS зазначив: “Ми вже бачили щонайменше два збої в продуктивності. Інженери дозволили ШІ-агенту вирішити проблему без втручання. Збої були невеликими, але цілком передбачуваними”.

AWS, що генерує близько 60% операційного прибутку Amazon, активно працює над створенням та впровадженням ШІ-інструментів, включно з “агентами”, здатними діяти автономно. Компанія також прагне продавати цю технологію зовнішнім клієнтам. Однак такі інциденти підкреслюють ризики, пов’язані з потенційними збоями в роботі цих інструментів. Amazon заявив, що це було “співпадіння, що ШІ-інструменти були залучені”, і що “та сама проблема могла б статися з будь-яким інструментом розробника або ручною дією”.

Представник Amazon зазначив: “У обох випадках це була помилка користувача, а не помилка AI”, додавши, що немає доказів частішого виникнення помилок через ШІ-інструменти. У грудневому інциденті було задіяно лише один сервіс у материковому Китаї, тоді як попередній збій не вплинув на сервіси AWS, орієнтовані на клієнтів. Жоден з цих збоїв не був порівнянний за масштабом із 15-годинним відключенням AWS у жовтні 2025 року, яке вплинуло на роботу численних застосунків і вебсайтів, включно з ChatGPT від OpenAI.

Співробітники повідомили, що ШІ-інструменти компанії мали такі ж дозволи, як і оператори. У згаданих випадках інженери не вимагали додаткового затвердження перед внесенням змін, як це передбачено стандартними процедурами. Хоча інструмент Kiro за замовчуванням “запитує авторизацію перед виконанням будь-якої дії”, інженер, причетний до грудневого інциденту, мав “ширші дозволи, ніж очікувалося”, що вказує на проблему контролю доступу користувача, а не на автономність ШІ.

AWS запустив Kiro у липні. Цей помічник з написання коду має розвиватися від “vibe coding” (швидке створення застосунків на основі ідей) до написання коду за заданими специфікаціями. Раніше інженери використовували Amazon Q Developer, чатбот з підтримкою ШІ, який, за словами трьох співробітників, брав участь у попередньому збої.

Системні вимоги / Платформи:

• PC
• PS5
• Xbox

Теги: AWS, Amazon, штучний інтелект, ШІ, кібербезпека, збій, розробка програмного забезпечення, хмарні технології, IT-інциденти