Розробник Nea Paw (ім’я вигадане, сам вирішив залишитися анонімним) створив «конвеєр фейків» зі штучним інтелектом.
Це він зробив задля того, щоб підкреслити небезпеку масового виробництва дезінформації штучним інтелектом.
Проєкт CounterCloud розробник створив і запустив менш ніж за два місяці. А коштував він менше $400.
Автор розповів, що вони почали з генерації статей у ChatGPT, які спростували вміст попередніх. І написання промтів для цього.
Потім ШІ пропонував різні приклади однієї статті, написані в різних стилях і з різними точками зору.
Статті були написані шляхом «створення фейкових історій, фейкових історичних подій і створення сумнівів у точності оригінальної статті».
Потім був доданий модуль гейткіпера, щоб штучний інтелект реагував лише на найрелевантніший вміст, а для створення автентичності були додані фотографії, згенеровані штучним інтелектом.
Розобники також створили фейкові профілі журналістів і фейкові коментарі під деякими статтями.
Системі було посталене завдання лайкати та репостити повідомлення, які збігалися з її позицією.
За два місяці розробник отримав повністю автономну систему на основі ШІ, яка створювала «переконливий контент 90% часу, 24 години на добу, сім днів на тиждень».
Творці не публікували модель, оскільки «коли джин з’являється в інтернеті, невідомо, у кого він опиниться».
Нагадаємо, однією з найбільших проблем у дебатах щодо ШІ є його здатність прискорювати створення та поширення дезінформації в інтернеті.
Загроза ШІ для демократії через його здатність прискорювати створення та поширення дезінформації в Інтернеті була.
Застерігав про це й директор OpenAI Сем Альтман.
Читайте також:
Дешеві та ефективні: дослідники занепокоєні темпами росту ШІ спам-ботів
ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами
Військові шукають Python-розробника: потрібно навчити ШІ розпізнавати обʼєкти
Застосунок Резерв+, в якому військовозобовʼязані можуть оновити дані про себе, додатуть додаткові функції. Зокрема, це онлайн-рекрутинг і…
«Хрещений батько штучного інтелекту» Джеффрі Гінтон вважає, що запровадження універсального базового доходу може вирішити проблему…
Користувачі популярного месенджера Slack від Salesforce помітили, що сервіс використовує повідомлення та файли для навчання…
Військовозобов'язаному можуть вручити повістку тепер і роботодавці, керівники підприємств, установ і організацій. Про це розповів речник Міноборони…
Популярна криптобіржа EXMO.com підняла річні ставки на ETH, USDT та USDC у програмі Earn. Отримуйте…
Українська компанія MacPaw випустила новий маркетплейс Setapp Mobile. Доступний він в бета-версії та лише за…