Захисники опановують атаки через промпт-ін’єкції

Техніка “контекстної бомби” змушує ШІ-агентів вимикатися до того, як вони вчинять шкоду. Ін’єкції запитів (prompt injections) — це шкідливі команди, які зловмисники вбудовують у контент, щоб спонукати великі мовні моделі (LLM) виконувати їх. Добре сформована команда, вкрадена в електронному листі…








