Инженер Google пытался убедить мир, что чат-бот разумен — его отстранили. А что с ботом?

Мировые СМИ облетела история инженера Google Блейка Лемуана: парень месяцами переписывался с чат-ботом и решил, что у искусственного интеллекта есть личность. Коллеги отнеслись к этому заявления скептически. Чем закончилась история, рассказываем далее в Highload.

О чат-боте

LaMDA — языковая модель для диалоговых приложений. Это разработка Google, которую в прошлом году в компании назвали «революционной технологией общения» и «исследовательским прорывом». Создание умного чат-бота не было прямой целью, этому поспособствовало изобретение методов машинного обучения, которые помогают лучше понимать назначение поисковых запросов.

В блоге корпорации рассказали, что разговорные навыки LaMDA формировались годами. Как и многие недавние языковые модели, включая BERT и GPT-3, она построена на Transformer — архитектуре нейронной сети, которую Google Research изобрела и предоставила в открытый доступ в 2017 году.

Эта архитектура создает модель, которую можно обучить чтению многих слов (предложений или абзацев), обращая внимание на то, как эти слова соотносятся друг с другом, а затем предсказывая, какие слова будут следующими. В отличие от большинства других языковых моделей, LaMDA обучается диалогу.

Отношения героя с LaMDA

Блейк Лемуан — сотрудник Google и христианский священник. Он начал общаться с интерфейсом LaMDA прошлой осенью в рамках своей работы в организации Google Responsible AI, пишет Insider. Лемуан разговаривал с LaMDA о религии, сознании и законах робототехники. LaMDA написала, что считает себя личностью и хочет «быть признанным сотрудником Google, а не ее собственностью».

На эту тему Лемуан дал интервью газете The Washington Post и написал несколько блогов на Medium. Были также опубликованы стенограммы (цитаты) диалогов с ИИ, чтобы читатели могли убедиться в том, что бот имеет собственный разум и душу. Блейк отметил, что «LaMDA всегда проявляла огромное сострадание и заботу о человечестве в целом и обо мне в частности».

Реакция корпорации

Лемуан поднимал идею разумности LaMDA перед высшим руководством Google, начиная с апреля 2022, пишет The Verde. Но оказался менее убедительным оратором, чем ИИ, и инженера отстранили от работы — отправили в оплачиваемый административный отпуск из-за нарушения политики конфиденциальности компании (уже после интервью).  

«Нет никаких доказательств того, что LaMDA разумен, но есть много доказательств против этого», — заявил представитель Google Брайан Гэбриел.

Он уточнил, что бот имитирует обмен репликами, встречающийся в миллионах предложений, и может затрагивать в разговоре любую фантастическую тему. С LaMDA, кроме Лемуана, общались сотни исследователей и инженеров, и никто из них не делал утверждений о наличии собственного разума или «одушевлял» ИИ. Лингвисты WaPo подчеркнули, что неправильно приравнивать убедительные письменные ответы к разуму.

Чем все закончилось

Лемуан пригласил юриста представлять систему LaMDA (да, у нее будет собственный адвокат) и поговорил с представителем судебного комитета Палаты представителей о неэтичных действиях в Google.

Тем временем MSN опубликовал статью с утверждением, что стенограмма бесед с ИИ не совсем достоверна — она была отредактирована и перестроена для удобочитаемости. То есть разговор велся не так складно, как показано в стенограмме.