Ілон Маск, Стів Возняк та Юваль Харарі вимагають призупинити навчання потужних систем ШІ

Партнер видання Favbet Tech

Стів Возняк, Ілон Маск, Еван Шарп (Pinterest), Кріс Ларсен (Ripple), Юваль Харарі, та сотні інших підприємців, інвесторів та розробників вимагають призупинити гігантські експерименти з ШІ та ChatGPT.

Про це йдеться в відкритому листі-петиції, розміщеному на сайті неприбуткової організації Future of Life Institute.

Небезпека поряд

Одна з основних вимог — призупинити мінімум на 6 місяців тренування систем ШІ, які можуть бути потужнішими за GPT-4.

За словами авторів, потужні системи штучного інтелекту можуть породити серйозні ризики для суспільства та людства.

Автори листа посилаються на принципи штучного інтелекту Asilomar, в яких сказано, що потужний штучний інтелект може представляти глибоку зміну в історії життя на Землі, і його слід планувати та керувати відповідною ретельністю та ресурсами. І на жаль, такого рівня планування та управління не існує.

Натомість має бути розроблено та впроваджено набір загальних протоколів безпеки для розробки ШІ, які будуть ретельно перевірені та контрольовані незалежними експертами.

Заходи безпеки

Задля того, щоб нівелювати негативний вплив ШІ, потрібно налагодити співпрацю між між  розробниками та політиками. Що включає:

• нові та ефективні регуляторні органи;
• відслідковування висококваліфікованих ШІ-систем;
• відповідальність за шкоду, яку вони можуть спричинити;
Основи Web дизайну від Hillel IT School.
Цей онлайн-курс з основ веб-дизайну дозволить вам опанувати мистецтво створення ефективних та привабливих інтерфейсів для вебсайтів і застосунків. Ви оволодієте ключовими принципами UX/UI дизайну, створюватимете дизайн-макети та прототипи, розроблятимете адаптивні інтерфейси для різних пристроїв, готуючись до професійної кар'єри в галузі веб-дизайну.
Дізнатися більше
• дослідження технічної безпеки ШІ.

Також автори листа вважають, що треба:

• створити робочу групу з незалежних експертів та ШІ-лабораторій для розвитку та впровадження загальних протоколів безпеки;
• зробити обов’язковим відслідковування висококваліфікованих ШІ- систем та великих кластерів обчислювальної потужності;
• створити систему provenance та watermarking, щоб розрізняти реальні дані від синтетичних та відстежувати витоки моделей;
• розвинути екосистему аудитування та сертифікації, щоб вона була надійною та ефективною;
• створити фінансово підтримку інфраструктури для того, щоб впоратися з драматичними економічними та політичними зрушеннями, які можуть бути спричинені ШІ (зокрема це стосується демократії).

Крім того, підписанти вважають, що потрібно встановити відповідальність за шкоду, яку можуть спричинити ШІ-системи.

«Суспільство може насолоджуватися благодатями AI у майбутньому, якщо розвиток AI буде відповідальним та безпечним», — резюмується у зверненні.

Цікаво, що зовсім недавно творець культового фільму «Термінатор» Джеймс Кемерон заявив, що боїться, що розвиток штучного інтелекту може зайти занадто далеко.

Читайте також:

«Може вийти з-під контролю»: Білл Гейтс оцінив майбутнє ШІ

Українські роботодавці починають шукати кандидатів зі знанням ChatGPT: зарплати — до 120 тис. грн

Штучний інтелект повністю автоматизує 300 млн робочих місць — Goldman Sachs

Партнер видання Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% украі‌нською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи‌ та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.