Компания OpenAI приступила к формированию специальной команды для разработки способов управления и контроля «сверхумного» искусственного интеллекта.
Об этом стало известно из публикации в официальном блоге OpenAI.
Возглавит ее главный научный сотрудник и один из соучредителей OpenAI Илья Суцкевер.
Он, а также и руководители команды адаптации Ян Лейке прогнозируют, что ИИ с превосходящими человеческими способностями может появиться в течение десяти лет.
Этот искусственный интеллект, если предположить, что он действительно появится, не обязательно будет дружелюбным, утверждают Сацкевер и Лейке. Это, в свою очередь, требует исследования способов контроля и ограничения.
«На данный момент у нас нет решения для управления потенциально сверхумным искусственным интеллектом и предотвращения его выхода из-под контроля», — пишут они.
Исследователи отмечают, что текущие методы управления искусственного интеллекта возлагаются на способность людей контролировать искусственный интеллект.
«Но люди не смогут надежно контролировать системы ИИ, которые намного умнее нас», — заявляют они.
Ключевая цель состоит в том, чтобы научить одни системы искусственного интеллекта посредством обратной связи с человеком оценивать работу других систем искусственного интеллекта и, наконец, создать искусственный интеллект, который может проводить процедуру согласования. Под последним подразумевается обеспечение того, чтобы системы ИИ достигли желаемых результатов и не «сошли с рельсов».
Напомним, недавно компания OpenAI объявила о релизе новых версий GPT-3.5-turbo и GPT-4, представила новый инструмент — вызов функций, а также заявила о снижении цен для разработчиков.
Читайте также:
Сегодня мы поговорим о том, как выбрать лучшие курсы Power BI в Украине, особенно для…
В 2023 году во всех крупнейших регионах конкуренция за вакансию выросла на 5–12%. Не исключением…
Unicorn Hunter/Talent Manager Лина Калиш создала бесплатный трекер поиска работы в Notion, систематизирующий все этапы…
Edtech-стартап Mate academy принял решение отправить своих работников в десятидневный отпуск – с 25 декабря…
Служба безопасности Украины задержала в Киеве 46-летнего программиста, который за деньги устанавливал шпионские программы и…
IT-специалист Джордан Катлер создал и выложил на Github подборку разнообразных ресурсов, которые помогут достичь уровня…