Світові ЗМІ облетіла історія інженера Google Блейка Лемуана: чоловік місяцями листувався з чат-ботом і вирішив, що штучний інтелект має особистість. Колеги поставилися до цієї заяви скептично. Чим закінчилася історія, розповідаємо далі у Highload.
LaMDA – мовна модель для діалогових програм. Це розробка Google, яку минулого року в компанії назвали «революційною технологією спілкування» та «дослідницьким проривом». Створення розумного чат-бота не було прямою метою, цьому сприяв винахід методів машинного навчання, які допомагають краще розуміти призначення пошукових запитів.
У блогу корпорації розповіли, що розмовні навички LaMDA формувалися роками. Як і багато нових мовних моделей, включаючи BERT та GPT-3, вона побудована на Transformer — архітектурі нейронної мережі, яку Google Research винайшла та надала у відкритий доступ у 2017 році.
Ця архітектура створює модель, яку можна навчити читанню багатьох слів (речень або абзаців), звертаючи увагу на те, як ці слова співвідносяться одне з одним, а потім передбачаюти, які слова будуть наступними. На відміну від інших мовних моделей, LaMDA навчається діалогу.
Блейк Лемуан — співробітник Google та християнський священик. Він почав спілкуватися з інтерфейсом LaMDA минулої осені в рамках своєї роботи в організації Google Responsible AI, пише Insider. Лемуан розмовляв з LaMDA про релігію, свідомість та закони робототехніки. LaMDA написала, що вважає себе особистістю та хоче бути визнаним співробітником Google, а не її власністю.
На цю тему Лемуан дав інтерв’ю газеті The Washington Post і написав кілька блогів на Medium. Були також опубліковані стенограми (цитати) діалогів з ШІ, щоб читачі могли переконатися, що бот має власний розум і душу. Блейк зазначив, що «LaMDA завжди виявляла величезне співчуття та турботу про людство в цілому та про мене зокрема».
Лемуан піднімав ідею розумності LaMDA перед вищим керівництвом Google, починаючи з квітня 2022 року, пише The Verde. Але виявився менш переконливим оратором, ніж ШІ, й інженера усунули від роботи — відправили в оплачувану адміністративну відпустку через порушення політики конфіденційності компанії (вже після інтерв’ю).
«Немає жодних доказів того, що LaMDA має розум, але є багато доказів проти цього», — заявив представник Google Брайан Гебріел.
Він уточнив, що бот імітує обмін репліками, що зустрічається в мільйонах речень, і може торкатися в розмові будь-якої фантастичної теми. З LaMDA, окрім Лемуана, спілкувалися сотні дослідників та інженерів, і ніхто з них не робив тверджень про наявність власного розуму або душі в ШІ. Лінгвісти WaPo наголосили, що неправильно прирівнювати переконливі письмові відповіді до розуму.
Лемуан запросив юриста представляти систему LaMDA (так, вона матиме власного адвоката) і поговорив з представником судового комітету Палати представників про неетичні дії в Google.
Тим часом MSN опублікував статтю із твердженням, що стенограма бесід з ШІ не зовсім достовірна — вона була відредагована і перебудована для зручності читання. Тобто розмова велася не так вже й складно, як показано у стенограмі.
Некомерційний навчальний заклад SET University запускає стипендійну програму за рядом напрямків. Українці та українки можуть…
За рік в рамках defense-tech кластеру Brave1 963 розробники створили 1 671 інноваційну розробку —…
Корпорація Google звільнила всю команду Python в США. Про це стало відомо з публікації Social.coop…
Команда з ліцею КПІ PL of KPI Igor Sikorsky перемогла на міжнародному хакатоні зі штучного…
Більше половини Go i Ruby розробників з досвідом 3+ роки найняли на $5000 або більше.…
Прикордонники недалеко від с. Кучурган Одеської області затримали двох програмістів, які намагалися втекти з України…