Осознавая возможное чрезмерное развитие ИИ, серьезно угрожающее безопасности и благополучию человека, эксперты со всего мира заявляют о необходимости объединиться для создания регулирующих этот процесс международных институтов и правил. Специалисты подписали открытое письмо, призывающее разработать и ратифицировать международный договор о безопасности ИИ, который бы получил во всем международном сообществе широкое одобрение, а также создать в ходе Саммита специальную рабочую группу. Документ опубликован накануне первого Международного саммита по безопасности ИИ, который прошел 1 и 2 ноября 2023 года в Лондоне.
В числе тех, кто поставил под обращением подпись, были как возглавивший инициативу британский прогнозист Толга Билге, так и ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио и многие другие.
В международный договор специалисты предлагают включить такие компоненты, как «ЦЕРН» по безопасности ИИ – глобальное объединение ресурсов, опыта и знаний в деле безопасности ИИ, комиссию по соблюдению договора, отвечающую за мониторинг соблюдения договора, роль которой аналогична роли Международного агентства по атомной энергии (МАГАТЭ), а также всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.
Предотвращение бесконтрольного масштабирования возможностей искусственного интеллекта для сокращения разрушительных рисков, которые для человечества представляют системы искусственного интеллекта – одна из главных целей создания международного договора по безопасности ИИ наряду с обеспечением доступа к благам ИИ для всех людей.
Толга Бильге заявил: «Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах».
