Трамп змінює позицію безпеки ШІ після Mythos Scare

Разюче змінивши свою попередню позицію, цього тижня адміністрація Трампа підписала ключові угоди з великими технологічними компаніями, зокрема Google DeepMind, Microsoft і xAI, щодо проведення комплексного державного тестування безпеки їхніх найдосконаліших моделей штучного інтелекту. Ці угоди встановлюють протоколи для ретельної оцінки прикордонних систем штучного інтелекту як до, так і після їх публічного оприлюднення, відзначаючи значні зміни в підході адміністрації до регулювання та нагляду за штучним інтелектом.

Зміна політики різко контрастує з попередньою зневажливою позицією адміністрації щодо заходів безпеки ШІ. Коли Трамп спочатку вступив на посаду, він агресивно демонтував систему безпеки штучного інтелекту часів Байдена, характеризуючи добровільні перевірки безпеки як обтяжливе надмірне регулювання, яке придушить інновації та технологічний прогрес. Особливо символічним кроком стало те, що команда Трампа перейменувала Інститут безпеки штучного інтелекту США в Центр стандартів та інновацій штучного інтелекту (CAISI), навмисно видаливши слово «безпека» з назви організації як різку критику регуляторної філософії його попередника.

Здається, різка зміна політики була спровокована нещодавніми подіями навколо революційної нової моделі Claude Mythos від Anthropic, складної системи штучного інтелекту, спеціально розробленої для програм кібербезпеки. Anthropic прийняла суперечливе рішення суворо обмежити доступ до Mythos, посилаючись на серйозні занепокоєння щодо наслідків для безпеки від випуску такого потужного інструменту для широкого загалу. Керівництво компанії висловило глибоку стурбованість тим, що зловмисники потенційно можуть використати розширені можливості кібербезпеки моделі для нечесних цілей, створюючи безпрецедентні ризики для критичної інфраструктури та національної безпеки.

Це рішення Anthropic, схоже, викликало потужний резонанс в адміністрації Трампа, раптово змінивши розмову навколо вимог тестування безпеки штучного інтелекту. Директор Національної економічної ради Білого дому Кевін Хассетт, ключовий радник президента з економічних питань, зазначив, що Трамп зараз серйозно розглядає можливість видання всеосяжного виконавчого указу, який зобов’язує уряд тестувати та оцінювати всі передові системи штучного інтелекту перед їх оприлюдненням. Це означає не що інше, як повну відміну попередньої позиції адміністрації про те, що перевірка безпеки є непотрібним нормативним перевищенням.

Час зміни цієї політики викликає важливі запитання щодо того, які конкретні фактори спонукали адміністрацію переглянути свою позицію щодо протоколів безпеки передового ШІ. Галузеві спостерігачі та політичні аналітики припускають, що ситуація з Mythos викристалізувала реальні ризики, пов’язані з розгортанням надзвичайно потужних систем ШІ без відповідних гарантій. Природа моделі Клода Мітоса, орієнтована на кібербезпеку, зробила потенційні небезпеки особливо відчутними та конкретними, можливо, таким чином, що попередні застереження дослідників штучного інтелекту не повністю передали політикам.

Угоди, які зараз підписуються з Google DeepMind, Microsoft і xAI, створюють основу для систематичного оцінювання передових моделей штучного інтелекту, включаючи тестування перед випуском і моніторинг після розгортання. Ці партнерства між державними установами та приватними технологічними компаніями є спробою збалансувати прихильність адміністрації до інновацій із нещодавно визнаними занепокоєннями щодо катастрофічних ризиків. Імовірно, державна система тестування штучного інтелекту оцінюватиме різні параметри безпеки моделі, включно з потенційними сценаріями неправильного використання, уразливими місцями кібербезпеки та ширшими наслідками для суспільства.

Значення цієї зміни політики виходить за рамки безпосереднього питання про процедури перевірки безпеки ШІ. Він демонструє, як реальні випадки та конкретні приклади потенційної шкоди можуть змінити політичні пріоритети навіть для адміністрацій, які спочатку скептично ставилися до регуляторних підходів. Ситуація з Mythos стала яскравою ілюстрацією того, як передові можливості штучного інтелекту можуть створювати нові форми кібератак і загроз безпеці, завдяки чому абстрактні аргументи щодо ризику штучного інтелекту раптово здаються більш актуальними та значущими для тих, хто приймає рішення.

Зацікавлені сторони галузі неоднозначно відреагували на новий акцент адміністрації Трампа на обов’язковій оцінці безпеки ШІ. Деякі технологічні компанії розглядають державне тестування як розумний компроміс, який забезпечує гарантію безпеки, одночасно дозволяючи продовжувати розробку та розгортання передових систем. Інші занепокоєні тим, що державні вимоги до тестування можуть призвести до затримок у виведенні на ринок інноваційних програм штучного інтелекту, що потенційно може поставити американські компанії в невигідніші умови порівняно з міжнародними конкурентами, менш обмеженими вимогами безпеки.

Центр стандартів та інновацій штучного інтелекту, незважаючи на те, що в його ребрендингу чітко вилучено посилання на безпеку, тепер, схоже, він може взяти на себе значну відповідальність у державному режимі тестування та оцінювання штучного інтелекту. Ця організаційна одиниця, швидше за все, координуватиме роботу з приватними компаніями, які підписали угоди з адміністрацією, працюючи над встановленням узгоджених стандартів і процедур для оцінки прикордонних моделей ШІ. Конкретні протоколи тестування та критерії оцінки ще мають бути деталізовані в очікуваному розпорядженні.

Заглядаючи вперед, ця зміна політики може мати важливі наслідки для підходу інших країн до регулювання ШІ та тестування безпеки. Уряди в усьому світі борються з тим, як заохочувати інновації, водночас керуючи справжніми ризиками, створеними дедалі потужнішими системами ШІ. Еволюція адміністрації Трампа щодо цього питання може вплинути на міжнародні дискусії щодо відповідної нормативної бази для розробки та розгортання передового ШІ.

Ширший контекст цього розвороту виявляє напругу всередині адміністрації Трампа між її сильною ідеологічною прихильністю до дерегуляції та прагматичним визнанням справжніх проблем безпеки. Угоди про перевірку безпеки штучного інтелекту представляють собою компромісну позицію, яка намагається задовольнити обидва імпульси — зберігаючи позицію адміністрації щодо інновацій, одночасно вирішуючи проблеми кібербезпеки та безпеки, на які ситуація з Mythos звернула увагу. Чи виявиться цей компромісний підхід ефективним, ще належить побачити, оскільки адміністрація продовжує розробляти свою всеохоплюючу політику AI.

Оскільки системи штучного інтелекту стають дедалі складнішими та потужнішими, питання відповідних процедур перевірки та оцінки безпеки, ймовірно, залишатиметься центральним у політичних обговореннях уряду. Несподіваний перехід адміністрації Трампа на підтримку державних перевірок безпеки прикордонних моделей штучного інтелекту демонструє, що практичні занепокоєння щодо безпеки та зловживання можуть зрештою переважати над ідеологічними запереченнями проти регулювання. Найближчі тижні та місяці розкриють детальні специфікації нового підходу адміністрації до безпеки та стандартів штучного інтелекту, потенційно створюючи прецеденти, які впливатимуть на розробку та розгортання штучного інтелекту на багато років.