«Дешево и эффективно»: разработчик создал ИИ-конвейер фейков за $400

Разработчик Nea Paw (имя выдуманное, сам решил остаться анонимным) создал «конвейер фейков» с искусственным интеллектом.

Это он сделал для того, чтобы подчеркнуть опасность массового производства дезинформации искусственным интеллектом.

Проект CounterCloud разработчик создал и запустил менее чем через два месяца. А стоил он меньше $400.

Реализация проекта

Автор рассказал, что они начали с генерации статей в ChatGPT, которые опровергли содержимое предыдущих. И написание промтов для этого.

Затем ИИ предлагал разные примеры одной статьи, написанные в разных стилях и с разными точками зрения.

Статьи были написаны путем «создания фейковых историй, фейковых исторических событий и создания сомнений в точности оригинальной статьи».

Затем был добавлен модуль гейткипера, чтобы искусственный интеллект реагировал только на наиболее релевантное содержимое, а для создания подлинности были добавлены фотографии, сгенерированные искусственным интеллектом.

Разработчики также создали фейковые профили журналистов и фейковые комментарии под некоторыми статьями.

Системе была поставлена ​​задача лайкать и репостить сообщения, которые совпадали с ее позицией.

За два месяца разработчик получил полностью автономную систему на основе ИИ, которая создавала «убедительный контент 90% времени, 24 часа в сутки, семь дней в неделю».

Создатели не публиковали модель, поскольку «когда джинн появляется в интернете, неизвестно, у кого он окажется».

Напомним, одной из самых больших проблем в дебатах по ИИ является его способность ускорять создание и распространение дезинформации в интернете.

Угроза  ИИ для демократии из-за его способности ускорять создание и распространение дезинформации в Интернете была.

Предостерегал об этом и директор OpenAI Сэм Альтман.

i am nervous about the impact AI is going to have on future elections (at least until everyone gets used to it). personalized 1:1 persuasion, combined with high-quality generated media, is going to be a powerful force.

— Sam Altman (@sama) August 3, 2023

Читайте также:

Дешевые и эффективные: исследователи обеспокоены темпами роста ИИ спам-ботов

ШИ-поиск Google рассказывает о «преимуществах рабства и геноцида» и предлагает блюда с ядовитыми грибами

Военные ищут Python-разработчика: нужно научить ИИ распознавать объекты