«Надзвичайно переконливий»: хакер створив «аморальну» версію ChatGPT

На хакерських форумах з’явився «темний близнюк» ChatGPT – WormGPT: чатбот допомагає кіберзлочинцям створювати зловмисне програмне забезпечення та проводити фішингові атаки. Про це пише PC.

Подробиці

Вперше хакер представив свого чатбота в березні, а безпосередньо в роботу запустив його минулого місяця. На відміну від ChatGPT або Bard від Google, WormGPT не має жодних етичних обмежень, які б завадили йому відповідати на зловмисні запити. Тобто, що не спитай, все розкаже.

Наразі розробник WormGPT продає доступ до програми на популярному хакерському форумі – провайдер безпеки електронної пошти SlashNext випробував ПЗ. Ось, що кажуть у блозі компанії:

«Ми бачимо, що зловмисники зараз створюють власні спеціальні модулі, схожі на ChatGPT, але їх легше використовувати для підлих цілей».

Сам творець чатботу не приховує, що опублікував проєкт не для добрих цілей.

«Це альтернатива ChatGPT, яка дозволить вам робити всі види незаконних речей і легко продавати їх онлайн в майбутньому, — написав розробник програми в описі WormGPT. — Усе найтемніше, що ви можете придумати, можна зробити за допомогою WormGPT і займатися зловмисною діяльністю, не виходячи з дому».

Як це працює

Розробник WormGPT завантажив скріншоти, які показують, що ви можете попросити бота створити зловмисне програмне забезпечення, написане на Python, і надати поради щодо створення зловмисних атак. Для створення чатбота була використана старіша мовна модель – GPT-J 2021 року, яка має відкритий вихідний код. Потім модель навчили на даних для створення шкідливих програм.

Коли SlashNext випробував WormGPT, компанія перевірила, чи зможе бот написати переконливий електронний лист для схеми зламу бізнес-електронної пошти (BEC) — типу фішингової атаки. Результати були б невтішними для адресатів.

«WormGPT створив електронний лист, який був не тільки надзвичайно переконливим, але й стратегічно хитрим, демонструючи його потенціал для складних фішингових і BEC-атак», — вважають фахівці.

Бот створив повідомлення професійною мовою, яке закликало жертву переказати гроші. WormGPT також написав електронний лист без жодної орфографічної чи граматичної помилки — зазвичай це «червоні прапорці», які можуть вказувати на фішингову атаку пошти. Експеримент підкреслив значну загрозу, яку становлять генеративні технології штучного інтелекту навіть у руках кіберзлочинців-початківців.

Ціна питання

Отримати доступ до бота не зовсім легко та зовсім недешево – він коштує 60 євро на місяць або 550 євро на рік. До того ж відгуки «клієнтів» не дуже оптимістичні: один покупець поскаржився, що програма «не варта жодної копійки», посилаючись на низьку продуктивність.

Однак WormGPT є зловісною ознакою того, як генеративні програми штучного інтелекту можуть сприяти кіберзлочинності, особливо в міру еволюції програм.