Згідно з новою дорожньою картою стандартів, зростає занепокоєння щодо ризиків, пов’язаних із зловживаннями відкритими моделями та втратою контролю над штучним інтелектом (ШІ). Програма Азії у Вашингтоні досліджує загрозливі безпеці ризики, що ставлять під загрозу мир, зростання та можливості в Азійсько-Тихоокеанському регіоні, зокрема, в Китаї, Японії та на Корейському півострові.
Програма технологій та міжнародних справ розробляє ідеї для вирішення викликів управління новими технологіями. Наші експерти вказують на кращі практики для лідерів індустрії та уряду у сферах штучного інтелекту, кіберзагроз, безпеки хмар, протидії інформаційним операціям, зменшення ризиків біотехнологій та забезпечення глобальної цифрової інклюзії.
Комprehensive Governance Framework 2.0
Найвпливовіша організація стандартів штучного інтелекту в Китаї випустила всебічну рамку, яка відображає, як технічні фахівці та політичні консультанти сприймають ризики ШІ та способи їх запобігання. Рамка “AI Safety Governance Framework 2.0”, випущена у вересні, базується на попередній версії, що з’явилася рік тому. Вона відповідає змінам у ШІ за минулий рік, зокрема глобальному поширенню відкритих моделей.
Основні ризики та пропозиції
У документі міститься секція, присвячена принципам управління, поділу ризиків, технічним заходам та методам управління. Основна увага приділяється парі специфічних ризиків із технічними мірами запобігання їм. Зокрема, висловлюється заклик до “встановлення системи оцінки безпеки штучного інтелекту”.
Рамка 2.0 містить суттєві оновлення, включаючи детальні обговорення ризиків, пов’язаних з відкритими моделями, та впливом на ринок праці. Вона також піднімає питання катастрофічних ризиків, включаючи втрату контролю над знаннями і можливостями ядерних і біологічних технологій.
Висновки та майбутнє ризиків ШІ
Рамка 2.0 свідчить про спробу Китаю проактивно розглядати потенційні великі ризики. Цей процес вже розпочато, з початку 2025 року TC260 випустить проект “Системи стандартів безпеки ШІ (V1.0)”. У документі також вказується на важливість міжнародного співробітництва, хоча основна увага, ймовірно, зосереджена на внутрішніх акторах.
В умовах, коли Комуністична партія Китаю закликає до використання штучного інтелекту для модернізації економіки, суспільства та уряду, документ відображає певні страхи партії щодо контролю інформаційного середовища, соціальних наслідків ШІ та ризиків, пов’язаних із втратою контролю.
-600x450.jpg){kind=spacer}