Microsoft зламала 15 ШІ-моделей одним запитом: дослідження виявило вразливість

Новий метод Microsoft може зламати захист 15 моделей ШІ одним запитом Як простий запит може перетворити штучний інтелект на генератора небезпечного контенту Навіть один, на перший погляд, невинний запит на етапі навчання зі зворотним зв’язком (reinforcement learning) може кардинально змінити…








