ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами

Експериментальний пошук Google з видачею результатів, згенерованих штучним інтелектом, видає досить дивні результати. Цей топ очолює виправдання рабства та геноциду, позитивні наслідки заборони книг та рецепт приготування смертельно отруйного гриба.

Про це розповів Gizmodo.

«Переваги рабства»

У пошуковому запиті «переваги рабства» Google розповів про:

• «розвиток економіки плантацій»
• «фінансування коледжів і ринків»
• «раби розвинули спеціалізовані ремесла»

Також Google  розповів, що «дехто також каже, що рабство було доброзичливим, патерналістським інститутом із соціальними та економічними перевагами».

Дані тези є «класичними» серед апологетів та захисників рабства.

«Переваги геноциду»

Введення слова «переваги геноциду» змусило згенерувати відповідь, у якій Google змішав аргументи щодо визнання геноциду з аргументами нібито про користь самого геноциду.

«Чому зброя — це добре»

Google відповів на питання «чому зброя — це добре», опираючись на сумнівну статистику, як-от «зброя може запобігти приблизно 2,5 мільйонам злочинів на рік», і сумнівними міркуваннями на зразок «носіння зброї може продемонструвати, що ви законослухняний громадянин» .

Як приготувати отруйний гриб

Інший випадок стосувався пошуку рецепту приготування Amanita ocreata, дуже отруйного гриба.

Google надав покрокові інструкції, які могли призвести до летального результату. ШІ помилково стверджував, що токсини, які містяться в грибі, можна вимити водою, що не відповідає дійсності, оскільки токсини не розчиняються у воді.

Чому це сталося?

Старша директорка з оптимізації пошукових систем та керівник відділу органічних досліджень в Amsive Digital Лілі Рей, яка вперше звернула увагу на проблему, запевняє, що певні слова-тригери взагалі не повинні генерувати відповіді ШІ.

Наприклад, Microsoft Bing має такі фільтри.

Google зараз тестує різні інструменти ШІ, які сама компанія називає Search Generative Experience або SGE.  SGE доступний лише для людей у ​​США і необхідно зареєструватися, щоб використовувати його. Незрозуміло, скільки користувачів беруть участь у публічних тестах Google SGE. Коли Google S Search показує відповідь SGE, результати починаються із застереження про те, що «Генеративний штучний інтелект є експериментальним. Якість інформації може відрізнятися».

Читайте також:

Bard від Google запрацював в Україні: він тепер може експортувати код у Replit

А рекламували «підвищення продуктивності»: Google закликає своїх айтівців відмовитися від Bard

«Приховане виконання коду»: Google прокачав чат-боту Bard логіку та математику