Поліцейська служба Європейського союзу (Європол) опублікувала терміновий звіт, в якому попереджає, що ChatGPT та інші системи зі штучним інтелектом можуть бути використані для онлайн-шахрайства та інших кіберзлочинів, повідомляє Euractiv..

Великі мовні моделі, які можна використовувати для різних цілей, як ChatGPT від Open AI, можуть принести користь бізнесу та окремим користувачам. Однак європейське поліцейське агентство підкреслило, що вони також є проблемою для правоохоронних органів, оскільки зловмисники можуть використовувати їх у своїх цілях..

"

Публікація стала результатом серії семінарів, організованих Інноваційною лабораторією Європолу для обговорення потенційного кримінального використання ChatGPT як найбільш яскравого прикладу великих мовних моделей та того, як ці моделі можуть бути використані для підтримки слідчої роботи..

Агентство ЄС вказує на той факт, що правила модерації ChatGPT можна обійти за допомогою так званої техніки підказок – практики введення даних у модель ІІ саме для отримання певного результату.

Оскільки ChatGPT - нова технологія, тому з оновленнями постійно з'являються лазівки, які можуть попросити ІІ прикинутися вигаданим персонажем або надати відповідь у коді. Інші обхідні шляхи можуть замінювати тригерні слова або змінювати контекст пізніше у процесі взаємодії. Орган ЄС наголосив, що найбільш ефективні обхідні шляхи, що дозволяють звільнити модель від будь-яких обмежень, постійно вдосконалюються та ускладнюються..

Експерти виявили цілу низку незаконних випадків використання ChatGPT, які зберігаються і в найпросунутішій моделі OpenAI - GPT-4 - де потенціал шкідливих реакцій системи в деяких випадках навіть вищий.

Оскільки ChatGPT може генерувати інформацію, придатну для читання, Європол попереджає, що нова технологія може прискорити процес дослідження зловмисником без попередніх знань про потенційну сферу злочину, таку як проникнення в будинок, тероризм, кіберзлочинність або сексуальне насильство над дітьми..

"

Фішинг, практика надсилання фальшивого електронного листа з метою змусити користувачів перейти за посиланням, є найважливішою сферою застосування. У минулому такі шахрайства легко виявлялися через граматичні або мовні помилки, у той час як текст, згенерований штучним інтелектом, дозволяє видати себе за іншого в дуже реалістичній манері..

Аналогічно, онлайн-шахрайству можна надати більшу правдоподібність, використовуючи ChatGPT для створення фальшивої активності в соціальних мережах.

Крім того, здатність ІІ видавати себе за стиль і мовлення конкретних людей може призвести до випадків зловживань щодо пропаганди, мови ненависті та дезінформації..

Крім простого тексту, ChatGPT також може створювати код різними мовами програмування, розширюючи можливості зловмисників, які практично не мають знань в галузі IT, щодо перетворення природної мови на шкідливе ПЗ.

" Якщо підказки розбиті на окремі кроки, оминути ці заходи безпеки простіше простого"

[see_also ids\u003d"

ChatGPT вважається ІІ загального призначення - моделлю, яка може бути адаптована для виконання різних завдань.

Поки Європейський парламент доопрацьовує свою позицію щодо закону про ІІ, євродепутати обговорюють запровадження деяких суворих вимог до цієї базової моделі, таких як управління ризиками, надійність та контроль якості.

Інший ризик полягає в тому, що ці великі мовні моделі можуть стати доступними в даркнеті без будь-яких гарантій і бути навченими на особливо шкідливих даних. Тип даних, якими харчуватимуться ці системи, і те, як їх можна буде контролювати – ось основні питання майбутнього.

Раніше генеральний директор OpenAI Сем Олтмен заявив, що він "