Журналіст The New York Times, Wired та видання Coders Клайв Томпсон у своєму блозі на Medium питається: «Зима наближається? Звичайно, маю на увазі “ШІ-зиму”».
Томпсон зауважує: «зима» є частиною циклу розвитку штучного інтелекту. Коли починається бум ШІ, розробники та компанії презентують нові технології, які здаються потужними та багатообіцяючими. Технічні компанії використовують їх для створення продуктів, що обіцяють полегшити життя кожного, інвестори починають вкладати у це гроші.
Усі, включно з журналістами, які полюють за новинками, починають захоплено оспівувати ШІ: «зовсім як людина», «божественно», «знає все».
Однак автор переконаний: такий ажіотаж має ціну. У якийсь момент ШІ виявляється не здатним виконати всі обіцянки своїх творців.
Компанії та люди, які намагаються використовувати його для вирішення повсякденних проблем, виявляють, що він часто помиляється.
Потім починається «ШІ-зима». Клієнти починають думати, що ціна на ШІ-продукти завищена, інвестори не так охоче дають гроші, а в пресі з’являються критичні статті.
Цікавість до ШІ зменшується і тому навіть винахідники, які вигадали щось справді вартісне, не можуть отримати фінансування. Це триває роками.
Передаємо слово автору.
Наразі було навіть дві великі «ШІ-зими»:
На конференції в Дартмуті у 1956 році науковці передбачили, що «кожен аспект навчання або будь-яка інша особливість інтелекту може бути настільки точно описана, що можна створити машину, яка б симулювала це».
Два наступні десятиліття роботу над ШІ супроводжували захопливі обіцянки: коли New York Times вперше повідомив про нейронні мережі, репортер писав про «зародок електронного комп’ютера, який, як очікують експерти Navy, зможе ходити, говорити, бачити, писати, відтворювати себе і усвідомлювати власне існування».
На той час розробників та компанії особливо зацікавила ідея автоматичного перекладу тексту: якби це вдалось, то прибуток би вимірювався мільярдами.
Але вже на початку 70-х років стало зрозуміло, що прототипи ранньої стадії штучного інтелекту не досягають обіцяних результатів. Коли вони робили машинний переклад, то не могли впоратись навіть з граматикою середньої складності. Машини, які навчаються самостійно, все ще були науковою фантастикою. Тоді й настала «ШІ-зима»: інвестори втекли, грошові потоки вичерпались.
«Весна» прийшла лише у 80-х. На той час більшість технологічних компаній відмовилися від солодких мрій створити машину, що самонавчається і натомість зосередились на створенні «експертних систем».
Здебільшого це були просто if-then — найпростіші рішення, які намагалися автоматизувати ухвалення рішень щодо однієї (і лише однієї) конкретної проблеми.
Visa збиралась створювати систему для автоматичного схвалення заявок на кредитні картки; авіакомпанія планувала отримати автоматичне прокладання маршруту для літаків.
Ці системи мали одну перевагу: вони справді працювали. Але були дорогими і могли використовуватись лише для конкретної задачі. А ще вони помилялись, коли зіштовхувались з непередбаченими межовими випадками.
Я чув про випадок, коли така система видала кредитну картку дев’ятирічній дитині, оскільки в заявці (звісно ж, з неправдивими даними) було зазначено 20 років досвіду роботи. Програмісти забули встановити перевірку для випадку, коли досвід роботи більший, ніж вік замовника.
Ось це й було проблемою: реальний світ надто складний, щоб охопити все. Коли про такі збої «експертних систем» стали говорити все частіше, настала чергова «ШІ-зима».
Наразі зацікавленість ШІ знову сягнула піку: те, що відбувається — це «літо ШІ».
У 2010-х роках з’явились непогані результати глибокого навчання.
Нейронні мережі існували десятиліттями, але у 90-х та на початку 2000-х років вони вважалися непрактичними: для їх навчання було недостатньо даних, і воно вимагало занадто багато ресурсів.
«Ще в 90-х люди сміялися з нас і казали, що це ніколи не спрацює», — розповідав мені піонер глибокого навчання Джефф Гінтон.
Але він та кілька його колег, які працювали у різних куточках світу, впорались з цим. У 2000-х ситуація покращилася. Кількість тренувальних даних значно збільшилась (оскільки люди публікували в інтернеті безліч фотографій та текстів). Обробка стала дешевою і швидкою.
Використовуючи кілька хороших ідей розробки нейронної мережі від Гінтона та інших піонерів, розробники змогли покращити розпізнавання образів у 2010-х роках.
Навчаючись на безлічі розбражень, нейронна мережа може стати майстром розпізнавання об’єктів, а навчання на парах перекладених речень значно покращують її здатності як перекладача.
А якщо ШІ тренувати на текстах, то матимемо справу з GPT-3. Цей бот може настільки чітко передбачити наступне ймовірне слово в реченні, що легко пише прозу як людина, відповідає на запитання та підсумовує документи.
Тренуєте нейронну мережу на мистецтві? Що ж, ви отримаєте Midjourney. А якщо вона навчалась на комп’ютерному коді – Copilot.
Інвестори залюбки дають гроші на ШІ, і стартапи запускають безліч продуктів, які працюють з генерацію тексту чи зображень або з доповненням коду.
Я щойно перевірив Product Hunt, там повно таких товарів. Ось три:
Чи може прийти нова «ШІ-зима»? Ось чому я почав думати про це: деякі історичні моделі, здається, повторюються.
По-перше, ми побачили, що ШІ помиляється. Нещодавно Google продемонстрував штучний інтелект у чаті (відчайдушно намагаючись наздогнати OpenAI), і чат-бот припустився величезних фактичних помилок:
Фондовий ринок одразу зменшив вартість Google на $100 мільярдів, а це падіння на 7,8%. Потім Microsoft представила свій новий продукт Bing, доповнений ChatGPT і він також припускався значної кількості фактичних помилок (зокрема, наполягав, що зараз все ще 2022 рік).
Втім, багато хто (включно зі мною) не дивуються таким ситуаціям: передбачення слів є потужною технікою, але, як підозрюють спеціалісти, цього може бути недостатньо, щоб відтворити справжнє людське мислення.
Збої трапляються не лише у мовних моделей: безпілотні автомобілі теж не ідеальні. Національна адміністрація з безпеки дорожнього руху оголосила про відкликання Tesla, оснащених бета-версією Full Self-Driving Beta (програмним забезпеченням, призначеним для автоматизації водіння).
За словами уряду, програмне забезпечення Tesla створює «необґрунтований ризик для безпеки транспортних засобів через недостатнє дотримання законів безпеки дорожнього руху», тобто воно схильне до непередбачуваних і небезпечних рішень.
Це може бути ознакою наближення «ШІ-зими». Також ми бачимо багато обіцянок, які так і не виконані.
Згадайте безпілотні автомобілі: винахідники казали, що вони от-от з’являться («це індустрія на трильйони доларів», як сказав мені один комп’ютерний вчений у 2017 році), репортери активно розмірковували про їхній потенційний вплив.
Піонери мовних моделей наполягали, що якщо продовжувати розвивати такі моделі та надсилати їм більше даних, вони перетворяться на машини, які усвідомлюють себе (один із засновників OpenAI навіть заявив, що GPT-3 вже «трохи свідомий».) Такі амбітні обіцянки творців дуже контрастують з реальністю, коли ШІ не може сказати, який зараз рік і дратується, якщо його виправляють.
Але я ухилюсь від прямої відповіді, що я думаю про майбутнє ШІ. Якщо чесно, я не знаю, чи справді «ШІ-зима» близько.
Навіть якщо сьогоднішні чат-боти виявляться мильною бульбашкою, глибоке навчання, як технологія, залишатиметься надзвичайно цінним у вузьких сферах. Воно показує чудові результати для створення автоматичних розпізнавачів і категоризаторів. І воно залишатиметься затребуваним, навіть якщо OpenAI так і не змусить ChatGPT на відмінно виконувати математичні задачі для середньої школи. Тож маловірогідно, що галузь ШІ занепаде.
Але це не точно. Може трапитись так, що люди залюбки бавитимуться з мовними моделями («напишіть мені шекспірівський сонет про теорію пласкої Землі!»), але остерігатимуться використовувати їх для бізнесу. Або потік SEO-оптимізованих нісенітниць в інтернеті може призвести до погіршення репутації ШІ. Звісно ж, це впливатиме на зацікавленість інвесторів.
Або ті ж безпілотні автомобілі: незважаючи на те, що інвестори вклали десятки мільярдів у цю сферу, на дорогах практично немає таких машин, а стартапи в цій індустрії, які минулого року вийшли на IPO, за два роки втратили 81% своєї вартості.
А ще можна згадати судові позови проти ШІ, який створює зображення та код: в них стверджується, що творці ШІ не мали права використовувати роботи митців та чужий код для навчання.
Проте, я все-таки дотримуюсь думки, що навіть серйозний збір не означатиме кінець ШІ. Ця галузь уже двічі переживала занепад і відновлювалась. Якщо виявиться, що великі мовні моделі — у тому вигляді, в якому вони створені зараз — приречені на помилки та необґрунтованість, спеціалісти зосередяться на інших технологіях.
З ШІ ніколи не слід говорити «ніколи». Але якщо настає зима і дорогу засипає снігом — єдиним варіантом розвитку може стати зміна курсу.
Автор: Клайв Томпсон
Текст адаптувала Євгенія Козловська
32-річний розробник безпеки інформаційних систем Агентства національної безпеки Джарех Себастьян Далке отримав 22 роки в'язниці…
Українська компанія Flytech представила розвідувальний безпілотний літальний апарат ARES. Основні його переваги — недорога ціна…
MC.today разом з Асоціацією IT Ukraine і сервісом моніторингу та аналітики згадок у ЗМІ та…
Україна не буде примусово повертати чоловіків призовного віку з-за кордону. Про це повідомила у Брюсселі…
В Збройних Силах України з'явився жіночий підрозділ з БПЛА. І вже проводиться конкурсний відбір до…
GitHub анонсував Copilot Workspace, середовище розробки з використанням «агентів на базі Copilot». За задумкою, вони…
