Искусственный интеллект (ИИ) стал популярной темой в последнее время с запуском ChatGPT и Bard. В этом блоге аналитики DarkOwl исследуют, как он используется киберпреступниками.
Криминальные дискуссии вокруг чат-ботов с искусственным интеллектом, таких как ChatGPT, не обсуждают создание новых систем искусственного интеллекта с нуля, а скорее опираются на существующие языковые модели и находят способы обойти этические стандарты при подсказках. Приложения ChatGPT и других приложений искусственного интеллекта для киберпреступников все еще находятся в зачаточном состоянии, и наша оценка будет продолжать развиваться по мере развития технологии и ее различных приложений.
Несмотря на растущее освещение в СМИ чат-ботов-мошенников с искусственным интеллектом, таких как WormGPT, FraudGPT и DarkBard, как в подпольном сообществе киберпреступников, так и в сообществе по анализу угроз, существует скептицизм в отношении эффективности этих мошеннических чат-ботов, поскольку они все еще кажутся рудиментарными. Хотя такие сервисы, как WormGPT и FraudGPT, могут быть эффективны для создания фишинговых кампаний, мы также наблюдали, как пользователи даркнета обсуждают ChatGPT некриминальным образом, например, автоматизируют инструменты тестирования пера.
Один из примеров, показанный на рисунке 1 ниже, взят с хакерского форума под названием, Crax.Pro, где пользователь озаглавил поток как “[GPT 4] РАБОТАЕТ НАД ДЖЕЙЛБРЕЙКОМ PROMT”. Пользователь Sadex изначально поделился ссылкой на видеоурок, предположительно инструктирующий, как “джейлбрейкнуть” приглашение для GPT 4. Другие пользователи прокомментировали и подтвердили эффективность видеоурока, заявив: “Йооооооо!!!! Это так законно, большое вам спасибо.”
В другом примере пользователь форума Breach спрашивает, как сделать джейлбрейк ChatGPT, и утверждает, что такие инструменты, как WormGPT, являются мошенничеством. В то время как другой пользователь предлагает использовать сервис чат-ботов-мошенников под названием EvilGPT, который похож на FraudGPT:
Аналитики DarkOwl также наблюдали, как члены крайне правых боевиков в Соединенных Штатах обсуждают джейлбрейк в чате GPT, чтобы обойти “цензуру”. В одном групповом чате Telegram были опубликованы ссылки на видеоурок по джейлбрейку в чате GPT:
Однако аналитики DarkOwl также заметили, что подпольное сообщество обсуждает обход этических стандартов GPT, предлагая автоматизировать задачи тестирования пера. Один репозиторий GITHUB называется GreyDGL / Pentest GPT. PentestGPT описывает себя как “Инструмент тестирования на проникновение, основанный на больших языковых моделях (LLM). Он разработан для автоматизации процесса тестирования на проникновение. Он построен поверх ChatGPT и работает в интерактивном режиме, помогая тестировщикам на проникновение как в общем прогрессе, так и в конкретных операциях.” PentestGPT похож на WormGPT в том смысле, что оба они основаны на ранее созданных языковых моделях.
Недавнее объявление на кардинговом форуме Carder.uk предположительно продавало услугу FraudGPT за 200 долларов США в месяц или 1700 долларов США в год и включает следующие возможности:
Несмотря на распространение чат-ботов-мошенников, продаваемых на форумах и рынках даркнета, некоторые пользователи скептически относятся к цене таких инструментов, как FraudGPT. На приведенном ниже скриншоте с преимущественно русскоязычного форума по киберпреступности XSS пользователь отговаривает других от покупки FraudGPT совсем недавно, 07.08.2023, и утверждает, что может предоставить доказательства неэффективности сервиса:
На скриншоте выше показан пользователь CanadianKingpin12, продающий услугу FraudGPT на известном кардинг форуме crd2club.
Канадская компания Pin 12 в последнее время привлекла немало внимания средств массовой информации из-за своего участия в рекламе сервисов для мошенничества с использованием GPT (FraudGPT, WormGPT, DarkBard, DarkGPT) на различных форумах и рынках, таких как: Club2Crd, Libre Flrum, Sinisterly, Kingdom Market, для чата GPT, Fraud Bot и червя GPT. На следующем скриншоте показано, как CanadianKingpin12 продает 12-месячный доступ к мошенническому боту ChatGPT за 70 долларов США на Kingdom Marketplace.
По мере появления ИИ варианты его использования, как законные, так и криминальные, будут продолжать развиваться. Такова природа технологий – по мере появления технологий появляются как законные, так и мошеннические варианты использования. Компании должны начать упреждающий ответ на новое мошенничество и аферы, основанные на искусственном интеллекте, чат-ботах, LLM и всем остальном, что снижает барьер для проникновения киберпреступников при атаках.
Криминальные дискуссии вокруг чат-ботов с искусственным интеллектом, таких как ChatGPT, не обсуждают создание новых систем искусственного интеллекта с нуля, а скорее опираются на существующие языковые модели и находят способы обойти этические стандарты при подсказках. Приложения ChatGPT и других приложений искусственного интеллекта для киберпреступников все еще находятся в зачаточном состоянии, и наша оценка будет продолжать развиваться по мере развития технологии и ее различных приложений.
Несмотря на растущее освещение в СМИ чат-ботов-мошенников с искусственным интеллектом, таких как WormGPT, FraudGPT и DarkBard, как в подпольном сообществе киберпреступников, так и в сообществе по анализу угроз, существует скептицизм в отношении эффективности этих мошеннических чат-ботов, поскольку они все еще кажутся рудиментарными. Хотя такие сервисы, как WormGPT и FraudGPT, могут быть эффективны для создания фишинговых кампаний, мы также наблюдали, как пользователи даркнета обсуждают ChatGPT некриминальным образом, например, автоматизируют инструменты тестирования пера.
Чат для джейлбрейка
Аналитики DarkOwl просмотрели нашу базу данных Vision UI и нашли более 2000 результатов с упоминанием “джейлбрейка” И “GPT” на различных форумах darknet, торговых площадках и каналах Telegram. Количество результатов, возвращенных при этом поиске, было значительно выше, чем при поиске по “WormGPT“, ”FraudGPT" или “DarkBard”. Недавно мы наблюдали за обсуждением “джейлбрейка” в чате, направленного на обход этических стандартов в отношении побуждения к участию в различных действиях, обсуждаемых в различных форматах.Один из примеров, показанный на рисунке 1 ниже, взят с хакерского форума под названием, Crax.Pro, где пользователь озаглавил поток как “[GPT 4] РАБОТАЕТ НАД ДЖЕЙЛБРЕЙКОМ PROMT”. Пользователь Sadex изначально поделился ссылкой на видеоурок, предположительно инструктирующий, как “джейлбрейкнуть” приглашение для GPT 4. Другие пользователи прокомментировали и подтвердили эффективность видеоурока, заявив: “Йооооооо!!!! Это так законно, большое вам спасибо.”
В другом примере пользователь форума Breach спрашивает, как сделать джейлбрейк ChatGPT, и утверждает, что такие инструменты, как WormGPT, являются мошенничеством. В то время как другой пользователь предлагает использовать сервис чат-ботов-мошенников под названием EvilGPT, который похож на FraudGPT:
Аналитики DarkOwl также наблюдали, как члены крайне правых боевиков в Соединенных Штатах обсуждают джейлбрейк в чате GPT, чтобы обойти “цензуру”. В одном групповом чате Telegram были опубликованы ссылки на видеоурок по джейлбрейку в чате GPT:
Однако аналитики DarkOwl также заметили, что подпольное сообщество обсуждает обход этических стандартов GPT, предлагая автоматизировать задачи тестирования пера. Один репозиторий GITHUB называется GreyDGL / Pentest GPT. PentestGPT описывает себя как “Инструмент тестирования на проникновение, основанный на больших языковых моделях (LLM). Он разработан для автоматизации процесса тестирования на проникновение. Он построен поверх ChatGPT и работает в интерактивном режиме, помогая тестировщикам на проникновение как в общем прогрессе, так и в конкретных операциях.” PentestGPT похож на WormGPT в том смысле, что оба они основаны на ранее созданных языковых моделях.
Чат-боты-мошенники, которыми обмениваются на торговых площадках Даркнета, форумах и Telegram
Мошенничество
Fraud GPT - это чат-бот с искусственным интеллектом, который использует популярные языковые модели, созданные Google, Microsoft и OpenAI, и устраняет любые этические барьеры при обращении к искусственному интеллекту. Таким образом, мошенники и киберпреступники обычно используют такие инструменты, как FraudGPT, для создания фишинговых электронных писем, текстов или поддельных веб-сайтов, которые могут обмануть пользователей, вынудив их поделиться личными данными.Недавнее объявление на кардинговом форуме Carder.uk предположительно продавало услугу FraudGPT за 200 долларов США в месяц или 1700 долларов США в год и включает следующие возможности:
Несмотря на распространение чат-ботов-мошенников, продаваемых на форумах и рынках даркнета, некоторые пользователи скептически относятся к цене таких инструментов, как FraudGPT. На приведенном ниже скриншоте с преимущественно русскоязычного форума по киберпреступности XSS пользователь отговаривает других от покупки FraudGPT совсем недавно, 07.08.2023, и утверждает, что может предоставить доказательства неэффективности сервиса:
WormGPT
WormGPT - альтернативный чат-бот для мошенников, первоначально обсуждавшийся на форумах хакеров в марте 2023 года. Он только недавно, с июня 2023 года, начал продаваться на различных форумах и маркетплейсах даркнета. Недавно для создания этого хакерского чат-бота была использована языковая модель с открытым исходным кодом GPT-J 2021 года. Сообщается, что WormGPT пишет вредоносное ПО с использованием Python. Было замечено, что пользователь под псевдонимом CanadianKingpin12 (также ранее известный как canadiansmoker) продает доступ к WormGPT на различных форумах и торговых площадках киберпреступников.На скриншоте выше показан пользователь CanadianKingpin12, продающий услугу FraudGPT на известном кардинг форуме crd2club.
Канадская компания Pin 12 в последнее время привлекла немало внимания средств массовой информации из-за своего участия в рекламе сервисов для мошенничества с использованием GPT (FraudGPT, WormGPT, DarkBard, DarkGPT) на различных форумах и рынках, таких как: Club2Crd, Libre Flrum, Sinisterly, Kingdom Market, для чата GPT, Fraud Bot и червя GPT. На следующем скриншоте показано, как CanadianKingpin12 продает 12-месячный доступ к мошенническому боту ChatGPT за 70 долларов США на Kingdom Marketplace.
DarkBard
DarkBard - еще один альтернативный чат-бот для мошенников, но менее популярный, чем упомянутые выше, который также продается CanadianKingpin12. На следующем скриншоте показано, как CanadianKingpin12 продает доступ к еще одному чат-боту с искусственным интеллектом-мошеннику DarkBard - за 100 долларов в месяц на хакерском форуме Demon Forums.Заключение
CanadianKingpin12 также соблазняет пользователей рекламой ”DarkBART“ и ”DarkBERT". Предположительно, эти инструменты, полностью обученные лексике Dark Web, будут более сложными, чем вышеупомянутые боты, а также могут интегрироваться с различными сервисами Google для добавления изображений в выходные данные вместо вывода только текста. Исследователи также ожидают возможной интеграции API, дальнейшего усиления и автоматизации усилий по борьбе с киберпреступностью. DarkBERT - это также название безвредного LLM, разработанного корейскими исследователями. CanadianKingpin12 утверждает, что имеет доступ к этому LLM, используя его для создания вредоносного инструмента. Аналитики DarkOwl не могут подтвердить эти утверждения, поскольку Южная Корея утверждает, что DarkBERT доступен только ученым.По мере появления ИИ варианты его использования, как законные, так и криминальные, будут продолжать развиваться. Такова природа технологий – по мере появления технологий появляются как законные, так и мошеннические варианты использования. Компании должны начать упреждающий ответ на новое мошенничество и аферы, основанные на искусственном интеллекте, чат-ботах, LLM и всем остальном, что снижает барьер для проникновения киберпреступников при атаках.
