Платформа стимульованого машинного навчання OpenAI Gym використовували для підвищення скритності шкідливого софту. Доповідь про це був зачитаний на хакерській конференції DEF CON.

Авторазработчік вірусів.

Виступаючи на хакерській конференції DEF CON експерт компанії Endgame Хірам Андерсон (Hyrum Anderson) показав, як можна налаштувати систему машинного навчання так, що вона буде розробляти шкідливе ПО.

Мова йде не про повноформатної розробці троянів, однак автору доповіді вдалося використати систему машинного навчання так, щоб вона перетворювала легітимний код у шкідливий, але при цьому антивірусні рішення з високою часткою ймовірності продовжували її ігнорувати.

В цілому алгоритм виглядає так: система машинного навчання вносить невеликі зміни в двійковий код, проганяє його через антивірусний движок, аналізує отримані від антивіруса дані і, відповідно до них, виробляє нові модифікації.

Система, створена в Endgame, тренувалася в такий спосіб протягом 15 годин, зробивши на світ в цілому 100 тис. шкідливих семплів. 16% з них виявилися невидимими для антивірусних двигунів.

Вирусописательстве наступного покоління.

За словами Хірама Андерсона, такий підхід дозволяє обманювати в тому числі ті антивірусні платформи, які самі базуються на системах машинного навчання і AI (штучний інтелект).

З 2016 р. деякі компанії, що займаються розробками подібних антивірусів, почали зловживати термінами «штучний інтелект» в маркетингових цілях, стверджуючи, що їх розробки - це «антивіруси наступного покоління».

Таким чином, тепер «антивірусів наступного покоління» доведеться боротися з вірусами наступного покоління.

«Як бачимо, AI цілком можливо використовувати під шкідливих цілях, і це, насправді, дуже безрадісне розвиток подій», - вважає Ксенія Шилак, директор з продажу компанії SEC Consult. - «Використання AI для удосконалення скритності шкідливих програм може перевести« гонку озброєнь »між вірусопісателямі і антивірусними вендорами на принципово новий рівень. Особливо якщо таке автоматичне поліпшення буде поставлено на потік ».

Система Endgame побудована на основі системи OpenAI, розробленої некомерційною організацією на чолі з Елоном Муськом,. У квітні 2016 року. ця організація опублікувала публічну бета-версію OpenAI Gym, платформи для розробки і порівняння алгоритмів «стимульованого навчання» штучного інтелекту.

Саме на базі цієї платформи Endgame і розробили свій «шкідливий AI». Її вихідні опубліковані на GitHub і доступні всім бажаючим для використання.