США уклали угоди з технічними гігантами щодо безпеки ШІ

Уряд Сполучених Штатів зробив значний крок у напрямку забезпечення безпечного розгортання передової технології штучного інтелекту, уклавши значні угоди з трьома найвпливовішими технологічними компаніями світу. Google DeepMind, Microsoft і xAI зобов’язалися дозволити федеральним регулюючим органам проводити перевірку безпеки їхніх передових моделей штучного інтелекту до того, як ці системи стануть доступними для громадськості. Цей спільний підхід представляє важливий перетин між технологічними інноваціями та міркуваннями національної безпеки, створюючи прецедент для того, як уряд і приватний сектор можуть працювати разом, щоб пом’якшити нові ризики в умовах ШІ, що швидко розвивається.

Центр стандартів та інновацій штучного інтелекту (CAISI), невід’ємна частина Міністерства торгівлі США, офіційно оголосив про ці новаторські угоди у вівторок. Ця ініціатива підкреслює відданість федерального уряду розумінню справжніх можливостей і потенційної вразливості штучного інтелекту нового покоління, одночасно захищаючи інтереси Америки. Встановлюючи цю структуру перевірки, Міністерство торгівлі прагне забезпечити, щоб нові потужні моделі пройшли ретельне тестування на безпеку перед розгортанням, дозволяючи розробникам політики та експертам із безпеки визначати й усувати потенційні ризики, перш ніж вони вплинуть на мільйони користувачів.

В основі цих угод лежить цілеспрямоване вивчення конкретних категорій загроз, які викликають найбільше занепокоєння для посадових осіб національної безпеки. Процес тестування національної безпеки буде зосереджено на виявленні потенційних вразливостей кібербезпеки, якими можуть скористатися зловмисники, ризиків біозахисту, пов’язаних із розробкою біологічної зброї або патогенів, і загроз хімічної зброї, які можуть виникнути через неправильне використання систем ШІ. Ці три сфери представляють найактуальніші проблеми національної безпеки, визначені розвідувальними агентствами та експертами з питань оборони, відображаючи роки аналізу того, як передові можливості штучного інтелекту потенційно можуть використовуватися як зброя чи зловживати ними.