Де тільки не світився сенсаційний ChatGPT від OpenAI — у всіх новинах, форумах та мемах по всьому світу. Навіть Ілон Маск написав у Твіттері, що інструмент до жаху вмілий. Але що, якщо він стане не знахідкою, а проблемою для фахівців із кібербезпеки, а хакери використовуватимуть його в зловмисних цілях? А якщо так уже є?
Чат-бот на основі штучного інтелекту, вміє спілкуватися з користувачами, відповідати на додаткові запитання та визнавати свої помилки. Тому не виключено, що кіберзлочинці будуть використовувати його, наприклад, для створення правдоподібних фішингових кампаній або інших технік взлому.
У цій статті ми зібрали основні відомості про ChatGPT на основі досліджень BlackBerry, що думають фахівці з кібербезпеки про потенційну проблему і про те, які підводні камені можуть чекати попереду.

Що таке ChatGPT?

ChatGPT — це чат-бот, який використовує штучний інтелект, методи глибокого навчання, відомого як Transformer, сучасну мовну модель та інші технології для взаємодії з реальними людьми. 
ChatGPT створений для генерування людських відповідей на широкий спектр даних, що вводяться за допомогою алгоритмів. Таким чином, він може використовуватися для безлічі завдань, включаючи відповіді на питання, спілкування з людьми природною мовою, генерацію тексту і навіть створення музики та зображень. 

Чим небезпечний ChatGPT?

Більшість IT-фахівців погоджуються з тим, що кібератаки з використанням ChatGPT неминучі. Дослідження BlackBerry показують, що 78% експертів прогнозують перші атаки з використанням ChatGPT протягом двох найближчих років, 51% — протягом року або швидше, а дехто вважає, що це відбудеться в найближчі кілька місяців. 
У той час як три чверті респондентів вважають, що ChatGPT буде використовуватися в основному на користь, 71% однаково впевнені, що деякі держави вже можуть використовувати ChatGPT у зловмисних цілях. 
На думку респондентів, є п'ять основних способів використання чат-бота зловмисниками:
● Створення правдоподібних фішингових електронних листів (53%) ● Допомога менш досвідченим хакерам у покращенні своїх технічних знань та розвитку навичок (49%) ● Розповсюдження дезінформації (49%) ● Створення нового шкідливого програмного забезпечення (48%) ● Підвищення складності загроз/атак (46%) 
«Я вважаю, що ці побоювання обґрунтовані, зважаючи на те, що ми вже бачимо. Є добре задокументовані відомості, що зловмисники вже тестують підґрунтя, і протягом цього року ми очікуємо, що хакери отримають набагато краще уявлення про те, як успішно використовувати чат-боти з підтримкою AI для шкідливих цілей», — каже технічний директор бізнес-відділу з кібербезпеки у BlackBerry, Shishir Singh. 

ChatGPT — зброя для кіберзлочинців чи допомога у боротьбі з ними?

Чат-бот може стати корисним інструментом для фахівців з кібербезпеки. Незважаючи на це, він також може стати потужною зброєю в руках кіберзлочинців, дозволивши навіть новачкам писати код для програм-вимагачів. 
Давайте розглянемо приклади того, як ChatGPT може допомогти у боротьбі за безпеку мережі чи навпаки ускладнити її. 
ChatGPT та Reddit
Підфорум Reddit r/cybersecurity містить декілька коментарів про використання бота для написання:
● Політик системи управління ризиками ● Порад щодо виправлення для звітів про пентести ● Базових скриптів PowerShell
Деякі користувачі кажуть, що він погано пише програмний код. Тим не менш, на тому ж форумі існують побоювання, що здатність робота генерувати переконливу прозу може зробити роботу команд безпеки ще складнішою, ніж вони вже є.
ChatGPT та фішингові листи
Дослідник загроз Джонатан Тодд зацікавився питанням, чи може ChatGPT створити ефективний контент для соціальної інженерії, яка є ключовою тактикою зловмисників для обману людей та зміцнення довіри. Він працював з ботом над створенням коду, який буде аналізувати повідомлення та коментарі користувача Reddit та розробляти шлях швидкої атаки. Потім він доручив AI написати фішингові повідомлення — електронні листи або повідомлення — на основі того, що йому відомо про людину.
Його дослідження довело, що ChatGPT дозволяє створювати автоматичні фішингові кампанії з високою точністю у нескінченному масштабі.
ChatGPT та шкідливе ПЗ
Група дослідників нещодавно натрапила в даркнеті на тему «ChatGPT — Переваги шкідливого ПЗ», де користувачі стверджували, що вони розробили базовий код для крадіжки інформації за допомогою робота. Дослідники перевірили та підтвердили, що це твердження було правдою. Це говорить про те, що ChatGPT може допомогти новачкам у написанні скриптів та у створенні зловмисного коду, вимагаючи менших технічних навичок, ніж їм могло б знадобитися.

Перспективи для ChatGPT та кібербезпеки?

Якщо вам все ще цікаво, що чекає на ChatGPT і кібербезпеку в майбутньому, ви не самотні. Експерти прогнозують, що бот стане розумнішим і потужнішим, оскільки користувачі зрозуміють, як структурувати свої запити для отримання максимальних результатів. 
Чим довше бот вчитися і чим більше запитів і контенту, пов'язаних з кібербезпекою, він зустрічає, тим майстернішим він, ймовірно, стане. 
Це робить кібербезпеку ще актуальнішим питанням для будь-якої компанії, великої чи маленької. Електронна пошта, мережі, IT-інфраструктура — все потребує захисту від шкідливих програм та зловмисників, а також безперервний моніторинг для запобігання атакам. Такий захист може забезпечити екосистема BlackBerry UES. Рішення захищає мережу вашої організації, блокуючи доступ до шкідливих сайтів та програм, керує мережевою активністю та контролює доступ співробітників до інформації. Система також використовує аналіз поведінки користувачів виявлення незвичайної активності, яка може вказувати на наявність кіберзагроз.