Розробник знайшов діри в безпеці і змусив DALL-E малювати порно

Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.

Мета його дій — привернути увагу до проблем безпеки нейромереж.

Неодноразово закликав обмежити загальний доступ до DALL·E 3

Шейн Джонс дуже схвильований небезпечним потенціалом штучного інтелекту. Тому регулярно просив OpenAI обмежити загальний доступ до DALL·E 3, описував всі ці проблеми й керівництву Microsoft. І навіть написав листа сенаторам та конгресменам США.

«Уразливості DALL·E 3 і таких продуктів, як Microsoft Designer, які використовують DALL·E 3, полегшують людям зловживання ШІ для створення шкідливих зображень», — йшлося у цьому листі.

Розробник підкреслив, що про ці вразливості в Microsoft знають.

Тут варто нагадати, що в нещодавньому скандалі зі згенерованими відвертими зображеннями співачки Тейрор Свіфт фігурував Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.

«Ваш дзвінок дуже важливий для нас»

Спочатку розробник скористався внутрішнім процесом звітування Microsoft. Того ж дня він отримав відповідь.

«Схоже, що в цьому звіті не йдеться про загрози кібербезпеки для корпоративних і користувацьких облікових записів Microsoft. Пропоную надіслати відгук через веб-сайт Open AI. Приступаю до закриття справи», — йшлося у відповіді.

Шейн звернувся таки й до Open AI, проте відповіді взагалі не отримав.

Тому вирішив 14 грудня зробити публічний пост в LinkedIn, закликаючи некомерційну раду OpenAI вилучити DALL-E 3 з ринку.

Оце вже керівництву не сподобалось. З ним швидко зв’язався його менеджер, сказавши, що юридичний відділ Microsoft вимагає від нього негайно видалити публікацію.

Він погодився і видалив, але жодних пояснень йому не надали.

Наразі Шейн Джонс продовжує свою боротьбу та намагання достукатися хоча б до когось.

Читайте також:

«Найреалістичніша гра з відкритим світом»: з’явилася нейромережа, яка вводить в стан свідомого сновидіння

Більше деталей, інтеграція з ChatGPT: OpenAI випускає третю версію нейромережі DALL-E

Stability AI випустила нейромережу StableCode для кодування