OpenAI заявила про використання росією ШІ в масштабній кампанії дезінформації
Російська кампанія Doppelganger за допомогою штучного інтелекту від OpenAI створювала антиукраїнські коментарі в соціальній мережі X.
Про це йдеться в матеріалі The New York Times, який посилається на звіт OpenAI.
OpenAI виявила кампанії прихованого впливу, до яких долучилися державні структури та приватні компанії в Росії, Китаї, Ірані та Ізраїлі.
Зокрема, йдеться про п’ять онлайн-кампаній. Під час них ШІ генерував маніпулятивні коментарі з метою впливу на громадську думкою в усьому світі.
Doppelganger — операція впливу, спрямована на припинення підтримки України міжнародними партнерами. За оцінкою Meta, це наймасштабніша російська дезінформаційна кампанія з 2017 року.
Операції використовували технологію OpenAI для:
- створення постів у соціальних мережах,
- перекладу та редагування статей,
- написання заголовків
- налагодження комп’ютерних програм.
Дослідники соцмереж зазначили, що це перший випадок, коли велика ШІ-компанія повідомляє про використання своїх технологій в зловмисних цілях.
У своєму звіті OpenAI заявила, що її інструменти використовувалися в кампаніях впливу, які дослідники відстежували роками, зокрема й російську кампанію під назвою Doppelganger і китайську кампанію під назвою Spamouflage.
Кампанія Doppelganger використовувала технологію OpenAI для створення антиукраїнських коментарів, які були розміщені на платформі X англійською, французькою, німецькою, італійською та польською мовами.
Інструменти OpenAI також використовувалися для перекладу та редагування статей, які підтримували росію у війні в Україні, а також для конвертації антиукраїнських матеріалів в пости на Facebook.
У рамках цієї роботи також використовувалися інструменти OpenAI для налагодження комп’ютерного коду, який, очевидно, був розроблений для автоматичної публікації інформації в телеграмі.
Тим не менш, в OpenAI підкреслюють, що хоча ШІ і може допомогти зробити кампанії більш ефективними, потоку переконливої дезінформації так і не було створено.
«Це свідчить про те, що деякі з наших найбільших побоювань щодо операцій впливу за допомогою ШІ та дезінформації за допомогою ШІ поки що не справдилися», — заявив директор з розвідки компанії Graphika (відстежує маніпуляції в соціальних мережах) Джек Стаббс.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: