Генеральный директор Google DeepMind Демис Хассабис, генеральный директор OpenAI Сэм Альтман, а также ведущие исследователи ИИ Джеффри Хинтон и Юшуа Бенгио опубликовали достаточно интересное заявление о перспективах развития искусственного интеллекта.
В Заявлении о риске ИИ они предупреждают об экзистенциальной угрозе, которую, по их мнению, представляет ИИ для человечества.
Заявление из 21 слова
Заявление опубликовано некоммерческой организацией из Сан-Франциско, Центром безопасности искусственного интеллекта.
Письмо подписало более 350 руководителей, инженеров и ученых.
Само же заявление звучит так:
«Уменьшение риска вымирания через ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война»
При этом Джеффри Хинтон и Юшуа Бенгио — двое из трех исследователей искусственного интеллекта, получивших премию Тюринга 2018 года (иногда ее называют Нобелевской премией по вычислительной технике) за работу над ИИ.
Исследователи «выразили искреннюю обеспокоенность»
Ден Хендрикс, исполнительный директор Центра безопасности искусственного интеллекта, сказал The New York Times , что лаконичность заявления, не предлагающего никаких потенциальных способов смягчить угрозу, которую представляет искусственный интеллект, имела целью избежать таких разногласий.
«Мы не хотели настаивать на слишком большом перечне из 30 потенциальных угроз», — сказал Хендрикс.
Хендрикс описал это сообщение как «выход» для представителей отрасли, озабоченных риском ИИ.
Между тем, как сторонники ИИ, так и скептики соглашаются, что даже без усовершенствования своих возможностей системы ИИ представляют ряд угроз в наше время — от их использования для массовой слежки до облегчения создания дезинформации и дезинформации.