Дорого та сердито: щоденну підтримку ChatGPT оцінюють в $700 тис.

Робота ChatGPT може коштувати OpenAI приблизно $700 тис. на день. Причина — занадто дорогі сервери.

ChatGPT потребує величезної обчислювальної потужності, щоб відповідати на запити.

Про це повідомив Business Insider.

Як повідомив головний аналітик дослідницької фірми SemiAnalysis Ділаа Патель, це пояснюється дорогою технологічною інфраструктурою, яку використовує штучний інтелект.

«Більшість цих витрат базується на дорогих серверах, які їм потрібні», — заявив він.

При цьому оцінка в $700 тис. вже може бути застарілою, оскільки розрахунки орієнтуються на мовну модель GPT-3. А вже є GPT-4, і вона ще дорожча в експлуатації.

Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати на розгортання штучного інтелекту можуть набагато їх перевершувати.

Аналітики вважають, що компанії, які використовують мовні моделі OpenAI, завжди багато платять за це.

Генеральний директор стартапу Latitude, що створює ігри зі штучним інтелектом Нік Волтон розповів, що . на ШІ та оплату за користування серверами Amazon Web Services він щомісяця витрачав приблизно $200 тис.

«Ми жартували, що у нас є люди, а також працівники штучного інтелекту, і ми витратили приблизно стільки ж на кожного з них», — розповів він CNBC.

Втім, через високу вартість вирішив змінити GPT на AI21 Labs. Це допомогло компанії скоротив витрати витрати на ШІ вдвічі.

Цікаво, що зовсім недавно стало відомо, що Microsoft розробляє власний чип для роботи з ChatGPT. Вірогідно, що саме для зменшення навантаження на сервери та оптимізації витрат.

Читайте також

Чат-бот Snapchat зі ШІ став повністю безкоштовним: додайте його в чат до друзів

Meta взялася за ШІ: випустила модель для розпізнавання об’єктів і планує створювати «розумну» рекламу

Ілон Маск підписав лист проти ШІ. А потім придбав 10 тис. процесорів і взявся за розробку ШІ для Twitter