Ведущие эксперты предложили заключить международный договор о безопасности ИИ

Ведущие эксперты предложили заключить международный договор о безопасности ИИ
© Изображение из открытых источников

В начале ноября 2023 года в Лондоне прошел первый Международный саммит по
безопасности ИИ. Накануне проведения этого важного мероприятия ведущие
мировые эксперты в области ИИ опубликовали открытое письмо. В документе
специалисты призывают к разработке и ратификации договора о безопасности
ИИ, который должен получить широкое одобрение во всем международном
сообществе. Для этого необходимо при широкой международной поддержке
создать на Саммите по безопасности ИИ в Великобритании рабочую группу.

В число экспертов, подписавших открытое письмо, вошли: ведущий эксперт
в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный
сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI)
Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио,
известный когнитивист Гари Маркус, а также член правления ведущей
лаборатории ИИ Anthropic Люк Мюльхаузер и многие другие.

По мнению экспертов, международный договор о безопасности ИИ должен
предусмотреть всемирные ограничения на объем вычислений для обучения
какой-либо модели ИИ, масштабное совместное объединение ресурсов, опыта
и знаний в деле безопасности ИИ – «ЦЕРН» по безопасности ИИ, а также
создание комиссии по соблюдению договора, роль которой должна быть
аналогична роли Международного агентства по атомной энергии (МАГАТЭ).
Главные цели договора – снизить катастрофические риски, которые системы
ИИ представляют для человечества, и обеспечить доступ к благам ИИ для
всех людей.

Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может
принести нам катастрофические риски, просто потому что без очень
серьезного и тщательного проектирования модели и архитектуры могут
развиваться непредсказуемым образом. И именно поэтому нам как
человеческому сообществу необходимо сотрудничать и выяснять
потенциальные пути и различные угрозы и по возможности готовиться.
Для договора по искусственному интеллекту нам нужен глобальный
консенсус и глобальное содействие, начиная с крупнейших держав
в области искусственного интеллекта, ведущих исследователей
искусственного интеллекта и компаний, чтобы показать и привести
мир к лучшему будущему, делясь тем, как разрабатывать и внедрять
системы ИИ, ставящие безопасность во главу угла, не оставляя никого
позади».

03.11.2023 в 21:00

Что будем искать? Например,Человек

Мы в социальных сетях