Мошенники в области криптовалюты используют ботнет на основе ChatGPT на социальной платформе X

Мошенники используют ботнет на основе ChatGPT на платформе X.

Последнее расследование исследователей из Индианского университета Блумингтон выявило использование ботнета, работающего на основе ChatGPT, сложной модели искусственного интеллекта, разработанной OpenAI, для продвижения криптовалютных мошенничеств на платформе X (ранее известной как Twitter).

Ботнет, получивший имя Fox8 из-за связи с сайтами, связанными с криптовалютой, состоял из 1 140 аккаунтов, которые использовали ChatGPT для генерации и размещения контента, а также взаимодействия с другими публикациями. Автоматически создаваемый контент стремился соблазнить неподозрительных пользователей, чтобы они переходили по ссылкам, ведущим на сайты, расхваливающие криптовалюту.

Исследователи обнаружили активность ботнета, идентифицировав определенную фразу, “As an AI language model…”, которую ChatGPT иногда использует в ответе на определенные запросы.

Это заставило их вручную изучать аккаунты, которые они подозревали в управлении ботами. Несмотря на относительно несложные методы, использованные ботнетом Fox8, он смог публиковать кажущиеся убедительными сообщения, поддерживающие сайты с криптовалютой, что показывает, насколько легко можно использовать искусственный интеллект для совершения мошенничества.

• Starkware откроет исходный код «волшебной палочки» своей криптографии с нулевым разглашением информации на следующей неделе
• Friend.Tech Hype превышает базу конкурирующих блокчейнов Layer 2 по среднему количеству транзакций в секунду
• Сэм Бэнкман-Фрид заявляет о своей невиновности по новым обвинениям в мошенничестве и заговоре

Мика Массер, эксперт по дезинформации, основанной на искусственном интеллекте, считает, что это открытие может быть только вершиной айсберга более серьезной проблемы, учитывая популярность больших языковых моделей и чат-ботов.

“Это самые доступные цели”, – сказал Массер в интервью WIRED. “Очень вероятно, что за каждой обнаруженной кампанией стоит множество других, которые занимаются более сложными вещами”.

Политика использования OpenAI явно запрещает использование своих моделей искусственного интеллекта для мошенничества и дезинформации. Исследователи подчеркивают сложность выявления таких ботнетов, когда они эффективно настроены, так как они могут избежать обнаружения и манипулировать алгоритмами для более эффективного распространения дезинформации.

Филиппо Менцер, профессор, возглавляющий исследования Университета по ботнету Fox8, сказал, что они заметили этот ботнет только потому, что мошенники были небрежными. “Любые хорошие злодеи не совершат такую ошибку”, – заявил он.

Спам-боты на платформе X

Спам-боты давно преследуют онлайн-сообщество криптовалюты и являются обычной жалобой среди влиятельных личностей в этой сфере. Такие боты обычно легко обнаруживаются на платформах, таких как YouTube и X, но тем не менее они смогли украсть миллионы у жертв, выдавая себя за известных личностей и продвигая вредоносные розыгрыши.

Хотя Илон Маск обещал “победить спам-ботов” после покупки Twitter, Менцер считает, что боты стали более распространенными с тех пор, как Маск стал владельцем. Исследователь и его команда больше не связываются с X, чтобы сообщать о своих открытиях относительно ботов.

“Они не очень реагируют”, – говорит Менцер. “У них не хватает персонала”.

Маск подтвердил на выходных, что X удалит свою функцию блокировки, вызвав дополнительную критику от создателей, которые беспокоятся, что им не удастся настроить свои ленты для удаления мошенников и подражателей.

We will continue to update BiLee; if you have any questions or suggestions, please contact us!