Ведущие эксперты считают необходимым заключение международного договора о безопасности ИИ
Создающее большие угрозы безопасности и благополучию человека чрезмерное развитие искусственного интеллекта требует регулирования. С целью сокращения катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, а также обеспечения для всех людей доступа к благам ИИ ведущие эксперты заявляют о необходимости заключения международного договора о безопасности ИИ. Следует предотвратить бесконтрольное масштабирование возможностей ИИ, считают специалисты.
Коалиция научных экспертов, лидеров бизнеса и государственного управления в преддверии проведенного в Лондоне первого Международного саммита по безопасности ИИ опубликовала открытое письмо с призывом разработать и ратифицировать международный договор о безопасности ИИ, для чего предложено на Саммите создать специальную рабочую группу.
Ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, известный когнитивист Гари Маркус и другие вошли в числе подписавших письмо наиболее известных лиц.
По мнению экспертов, всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ, создание организации по безопасности ИИ, которая по примеру «ЦЕРН» объединит ресурсы, знания и опыт в деле безопасности ИИ, а также комиссии по соблюдению договора (ее роль должна быть аналогична роли МАГАТЭ) должны стать основными компонентами международного договора.
«Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться. Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади», – сказал китайский ученый Йи Цзэн.
