ІБ-дослідники Джон Сеймур (John Seymour) і Філіп Таллі Балтімор (Philip Tully of Baltimore) з компанії ZeroFox представили на конференції Black Hat в Лас-Вегасі новий інструмент для шахрайства в соцмережах. Створена експертами рекуррентная нейронна мережа під назвою SNAP_R здатна створювати шкідливі повідомлення, орієнтовані на конкретного користувача. В ході проведеного фахівцями експерименту з'ясувалося, що двоє з трьох користувачів Twitter без побоювання відкривали створене SNAP_R повідомлення.

SNAP_R може працювати в двох напрямках. Перше включає метод штучного інтелекту "глибоке вивчення", який використовується, наприклад, Google для створення систем, які розуміють і переводять іноземні мови. SNAP_R навчалася на 200 млн повідомлень в Twitter, що дозволило їй створювати власні максимально реалістичні твіти.

Другий напрямок є більш цілеспрямованим. SNAP_R вчиться створювати повідомлення, вивчаючи твіти конкретного користувача, його передплатників і тих, на яких він підписаний, за допомогою так званої ланцюга Маркова. Сгенерированное SNAP_R повідомлення буде дуже схоже на твіти конкретного користувача, який може подумати, що твіт був написаний його однодумцем.

SNAP_R також може визначати найбільш впливових і популярних користувачів. Створена експертами модель здатна знаходити спеціальні хештегом і кількість передплатників користувача.

За словами дослідників, не варто побоюватися зростання кібератак з використанням рекурентних нейтронних мереж найближчим часом. Однак алгоритми машинного навчання стають простіше з кожним днем, і зловмисникам не обов'язково навчати програму ідеальною граматики й синтаксису для здійснення шахрайських кампаній в соціальних мережах.