Где только не светился нашумевший ChatGPT от OpenAI — во всех новостях, форумах и мемах по всему миру. Даже Илон Маск писал в Твиттере, что инструмент пугающе хорош. Но что, если он станет не находкой, а проблемой для специалистов по кибербезопасности, а преступники будут использовать его в злонамеренных целях? А если так уже и есть?
Чат-бот, основанный на искусственном интеллекте, умеет общаться с пользователями, отвечать на дополнительные вопросы и признавать свои ошибки. Поэтому не исключено, что киберпреступники будут использовать его для создания правдоподобных фишинговых кампаний или для других техник взлома.
В этой статье мы собрали основные сведения о ChatGPT на основе исследований BlackBerry, что думают специалисты по кибербезопасности о потенциальной проблеме и о том, какие подводные камни могут ждать впереди.

Что такое ChatGPT?

ChatGPT — это чат-бот, который использует искусственный интеллект, методы глубокого обучения, известного как Transformer, современную языковую модель и другие технологии для взаимодействия с реальными людьми.

ChatGPT создан для генерирования человеческих ответов на широкий спектр данных, вводимых с помощью алгоритмов. Таким образом, он может использоваться для множества задач, включая ответы на вопросы, общение с людьми на естественном языке, генерацию текста и даже создание музыки и изображений.  

Чем же опасен ChatGPT?

Большинство IT-специалистов согласны с тем, что кибератаки с использованием ChatGPT неизбежны. Исследования BlackBerry показывают, что 78% экспертов прогнозируют первые атаки с использованием ChatGPT в течение двух ближайших лет, 51% — в течение года или быстрее, а некоторые считают, что это произойдет в ближайшие несколько месяцев. 
В то время как три четверти респондентов считают, что ChatGPT будет использоваться в основном во благо, 71% все равно уверены, что некоторые государства уже могут использовать ChatGPT в злонамеренных целях. 
По мнению респондентов, есть пять основных способов использования чат-бота злоумышленниками:
● Создание правдоподобных фишинговых электронных писем (53%) ● Помощь менее опытным хакерам улучшить свои технические знания и развить навыки (49%) ● Распространение дезинформации (49%) ● Создание нового вредоносного ПО (48%) ● Повышение сложности угроз/атак (46%) 
«Я считаю, что эти опасения обоснованы, исходя из того, что мы уже видим. Есть хорошо задокументированные сведения, что злоумышленники уже проверяют почву, и в течение этого года мы ожидаем, что хакеры получат гораздо лучшее представление о том, как успешно использовать чат-боты с поддержкой ИИ для вредоносных целей», — говорит технический директор бизнес отдела по кибербезопасности в BlackBerry, Shishir Singh. 

ChatGPT — оружие для киберпреступников или помощь в борьбе с ними?

Чат-бот может стать полезным инструментом для специалистов по кибербезопасности. Несмотря на это, он также может стать и мощным оружием в руках киберпреступников, позволив даже новичкам писать код для программ–вымогателей. 
Давайте рассмотрим примеры того, как ChatGPT может помочь в борьбе за безопасность сети или наоборот усложнить ее. 
ChatGPT и Reddit
Подфорум Reddit r/cybersecurity содержит несколько комментариев об использовании бота для написания:
● Политик системы управления рисками ● Советов по исправлению для отчетов о пентестах ● Базовых скриптов PowerShell 
Некоторые пользователи говорят, что он плохо пишет программный код. Тем не менее, на том же форуме бытуют опасения, что способность бота генерировать убедительную прозу может сделать работу команд безопасности еще сложнее, чем они уже есть. 
ChatGPT и фишинговые письма
Исследователь угроз Джонатан Тодд задался вопросом, может ли ChatGPT создать эффективный контент для социальной инженерии, которая является ключевой тактикой злоумышленников для обмана людей и укрепления доверия. Он работал с ботом над созданием кода, который будет анализировать сообщения и комментарии пользователя Reddit и разрабатывать путь быстрой атаки. Затем он поручил ИИ написать фишинговые сообщения — электронные письма или сообщения — на основе того, что ему известно о человеке. 
Его исследование доказало, что ChatGPT позволяет создавать автоматические фишинговые кампании с высокой точностью в бесконечном масштабе. 
ChatGPT и вредоносное ПО
Группа исследователей недавно наткнулись в даркнете на тему «ChatGPT — Преимущества вредоносного ПО», где пользователи утверждали, что они разработали базовый код для кражи информации с помощью бота. Исследователи проверили и подтвердили, что это утверждение было правдой. Это говорит о том, что ChatGPT может помочь новичкам в написании скриптов и в создании вредоносного кода, требуя меньших технических навыков, чем им могло бы понадобиться.  

Перспективы для ChatGPT и кибербезопасности?

Если вам все еще интересно, что ждет ChatGPT и кибербезопасность в будущем, вы не одиноки. Эксперты прогнозируют, что бот станет умнее и мощнее, поскольку пользователи поймут, как структурировать свои запросы для получения максимальных результатов.

Чем дольше бот учиться и чем больше запросов и контента, связанных с кибербезопасностью, он встречает, тем более искусным он, вероятно, станет.

Это делает кибербезопасность еще более актуальным вопросом для любой компании, большой или маленькой. Электронная почта, сети, IT-инфраструктура — все требует защиты от вредоносных программ и злоумышленников, а также непрерывный мониторинг для предотвращения атак.

Такую защиту может обеспечить экосистема BlackBerry UES. Решение защищает сеть вашей организации, блокируя доступ к вредоносным сайтам и приложениям, управляет сетевой активностью и контролирует доступ сотрудников к информации. Система также использует анализ поведения пользователей для выявления необычной активности, которая может указывать на наличие киберугроз.