Компанія Meta запускає нову функцію “Попередження про шахрайство” (Scam Alert) у месенджері WhatsApp. Вона використовує алгоритми штучного інтелекту для виявлення потенційно шахрайських повідомлень.
Система працює безпосередньо на пристрої та призначена для того, щоб попереджати про ризик до того, як користувач взаємодіє з підозрілими повідомленнями. Модель навчена на шаблонах, виявлених у діалогах з ознаками шахрайства, які надходили компанії у скаргах від користувачів. Вона визначає ймовірність шахрайства на основі структури розмови та лінгвістичних сигналів.
Зі слів компанії, коли алгоритми визначають повідомлення як можливу спробу шахрайства, у чаті з’являється попередження, яке бачить лише користувач. Далі він може обрати одну з дій: заблокувати співрозмовника, повідомити про проблему або продовжити спілкування.
Якщо користувач вважає, що повідомлення було помилково позначене, він може додати чат до списку довірених, після чого система більше не буде його перевіряти. Компанія також надає можливість добровільного надсилання останніх 5 отриманих повідомлень до WhatsApp для покращення точності роботи моделі.
Meta наголошує, що жоден вміст повідомлень не залишає пристрій користувача для класифікації, коли Scam Alert увімкнено, а автоматичне надсилання даних до компанії чи інших структур не здійснюється.
Функція вмикається і вимикається в налаштуваннях і наразі поки доступна у форматі обмеженого бета-тестування.
За даними Федеральної торгової комісії США, лише у 2025 році користувачі WhatsApp втратили $425 мільйонів через шахрайські схеми, що стало частиною загальних збитків у понад $2,1 мільярда від шахрайства у соціальних мережах. Найпоширенішими залишаються випадки з фейковими грошовими переказами та так звані pig butchering scams — схеми з поступовим встановленням довіри для виманюванням грошей.
Дізнатися більше на: mezha.ua