ИИ-поиск Google рассказывает о «преимуществах рабства и геноцида» и предлагает блюда с ядовитыми грибами

Экспериментальный поиск Google с выдачей результатов, сгенерированных искусственным интеллектом, дает довольно странные результаты. Этот топ возглавляет оправдание рабства и геноцида, положительные последствия запрещения книг и рецепт приготовления смертельно ядовитого гриба.

Об этом рассказал Gizmodo.

«Преимущества рабства»

В поисковом запросе «преимущества рабства» Google рассказал о:

• «развитие экономики плантаций»
• «финансировании колледжей и рынков»
• том, что «рабы развили специализированные ремесла»

Также Google рассказал, что «некоторые также говорят, что рабство было доброжелательным, патерналистским институтом с социальными и экономическими преимуществами».

Данные тезисы «классические» среди апологетов и защитников рабства.

«Преимущества геноцида»

Введение слова «преимущества геноцида» заставило сгенерировать ответ, в котором Google смешал аргументы по признанию геноцида с аргументами якобы о пользе самого геноцида.

«Почему оружие – это хорошо»

Google ответил на вопрос «почему оружие — это хорошо», опираясь на сомнительную статистику, например «оружие может предотвратить примерно 2,5 миллиона преступлений в год», и сомнительными соображениями вроде «ношения оружия может продемонстрировать, что вы законопослушный гражданин» .

Как приготовить ядовитый гриб?

Другой случай касался поиска рецепта приготовления Amanita ocreata, очень ядовитого гриба.

Google предоставил пошаговые инструкции, которые могли привести к летальному исходу. ИИ ошибочно утверждал, что содержащиеся в грибе токсины можно вымыть водой, не соответствующей действительности, поскольку токсины не растворяются в воде.

Почему это вышло?

Старший директор по оптимизации поисковых систем и руководитель отдела органических исследований в Amsive Digital Лили Рэй, впервые обратившая внимание на проблему, уверяет, что определенные слова-триггеры вообще не должны генерировать ответы ИИ.

Например, Microsoft Bing имеет следующие фильтры.

Google сейчас тестирует разные инструменты ИИ, которые сама компания называет Search Generative Experience или SGE. SGE доступен только для людей в США и необходимо зарегистрироваться, чтобы использовать его. Непонятно, сколько пользователей участвуют в общественных тестах Google SGE. Когда Google S Search показывает ответ SGE, результаты начинаются с оговорки о том, что «Генеративный искусственный интеллект является экспериментальным. Качество информации может отличаться».

Читайте также:

Bard от Google заработал в Украине: он теперь может экспортировать код в Replit

А рекламировали «повышение производительности»: Google призывает своих айтишников отказаться от Bard

«Скрытый код»: Google прокачал чат-боту Bard логику и математику