Дешевые и эффективные: исследователи обеспокоены темпами роста ИИ спам-ботов

Люди продолжают находить новые способы использования ChatGPT. Одним из последних является наполнение социальных сетей спам-ботами и контентом, созданным искусственным интеллектом, что может ухудшить качество информации в интернете.

Об этом рассказал Insider со ссылкой на исследование, опубликованное в прошлом месяце исследователями из Обсерватории социальных медиа Университета Индианы.

В нем ученые как разбирают как злоумышленники пользуются преимуществами ChatGPT от OpenAI.

Исследования обнаружили, что способность ChatGPT генерировать текст используется для запуска ботнетов в Twitter.

Что такое ботнеты и чем они вредны?

Ботнеты – это сети сотен вредоносных ботов, которые могут не заметить фильтры защиты от спама.

Ботнеты пытаются убедить людей инвестировать в поддельные криптовалюты и даже могут похитить из существующих криптовалютных кошельков.

Сеть, найденная исследователями на Twitter, содержала более 1000 активных ботов. Боты следили за публикациями друг друга и отвечали на них. Часто публиковали селфи, находившиеся в профилях реальных пользователей.

Обнаруженные исследователями ИИ-боты в сети в основном публиковали сообщения о мошеннических криптовалютных кампаниях и рекламировали подозрительные веб-сайты на подобные темы, которые сами, вероятно, были написаны с помощью ChatGPT.

ИИ создает целые веб-сайты с дезинформацией

Кроме социальных медиа, инструменты, подобные ChatGPT, создали общие новостные веб-сайты со спамом, многие из которых публикуют откровенную ложь.

Частная компания NewsGuard, которая оценивает надежность новостных и информационных веб-сайтов, нашла свыше 400 таких веб-сайтов, созданных искусственным интеллектом, в рамках своих текущих проверок с апреля.

Эти веб-сайты получают доход от рекламы благодаря автоматизированным рекламным технологиям, которые покупают рекламное пространство на веб-сайтах, независимо от их качества или характера.

Пока мы все еще можем находить ШИ-спам

Эксперты опасаются, что чат-боты смогут лучше имитировать людей и это значительно усложнит отслеживание контента, созданного ИИ.

Беспокойство исследователей вскоре могут стать реальностью. В политических структурах ЕС прогнозируют, что к 2026 году 90% интернет-контента будет создано ИИ.

Без регулировки и с низкими затратами на создание контента злоумышленники всегда будут впереди.

«Это сродни воде в пластиковых бутылках. Мы знаем, что это катастрофа для окружающей среды, но пока она будет дешевой и без больших штрафов она будет широко распространена», — заявляют исследователи.

Читайте также:

«Полностью меня уничтожило»: модераторы контента не могут оправиться от работы с ChatGPT

ИИ-поиск Google рассказывает о «преимуществах рабства и геноцида» и предлагает блюда с ядовитыми грибами

40% работников вынуждены переквалифицироваться в ближайшие годы из-за ИИ