Трамп меняет позицию по безопасности искусственного интеллекта после паники вокруг мифов

Администрация Трампа на этой неделе резко изменила свою предыдущую позицию и подписала ключевые соглашения с крупными технологическими компаниями, включая Google DeepMind, Microsoft и xAI, о проведении комплексных государственных испытаний на безопасность их самых передовых моделей искусственного интеллекта. Эти соглашения устанавливают протоколы для тщательной оценки передовых систем ИИ как до, так и после их публичного выпуска, что знаменует собой значительный сдвиг в подходе администрации к регулированию и надзору в области ИИ.

Поворот в политике резко контрастирует с прежней пренебрежительной позицией администрации в отношении мер безопасности ИИ. Когда Трамп впервые вступил в должность, он агрессивно демонтировал систему безопасности искусственного интеллекта эпохи Байдена, охарактеризовав добровольные проверки безопасности как обременительное чрезмерное регулирование, которое будет душить инновации и технологический прогресс. Особенно символичным шагом стало то, что команда Трампа переименовала Американский институт безопасности ИИ в Центр стандартов и инноваций ИИ (CAISI), намеренно убрав слово «безопасность» из названия организации как резкую критику философии регулирования его предшественника.

Похоже, что резкий сдвиг в политике был вызван недавними событиями вокруг новаторской новой модели Claude Mythos от Anthropic — сложной системы искусственного интеллекта, специально разработанной для приложений кибербезопасности. Anthropic принял спорное решение строго ограничить доступ к Mythos, сославшись на серьезные опасения по поводу последствий для безопасности выпуска такого мощного инструмента для широкой публики. Руководство компании выразило глубокую обеспокоенность тем, что злоумышленники потенциально могут использовать расширенные возможности кибербезопасности модели в гнусных целях, создавая беспрецедентные риски для критически важной инфраструктуры и национальной безопасности.

Это решение Anthropic, похоже, вызвало большой резонанс в администрации Трампа, внезапно изменив дискуссию о требованиях к тестированию безопасности ИИ. Директор Национального экономического совета Белого дома Кевин Хассетт, ключевой экономический советник президента, отметил, что Трамп сейчас серьезно рассматривает возможность издания всеобъемлющего указа, который обязывает правительство тестировать и оценивать все передовые системы искусственного интеллекта перед их выпуском для общественности. Это представляет собой не что иное, как полный отказ от прежней позиции администрации, согласно которой испытания на безопасность представляли собой ненужное превышение нормативных требований.

Сроки изменения политики поднимают важные вопросы о том, какие конкретные факторы побудили администрацию пересмотреть свою позицию в отношении передовых протоколов безопасности ИИ. Отраслевые обозреватели и политические аналитики предполагают, что ситуация с Mythos кристаллизовала реальные риски, связанные с развертыванием чрезвычайно мощных систем искусственного интеллекта без адекватных мер безопасности. Ориентированная на кибербезопасность модель Клода Мифоса сделала потенциальные опасности особенно ощутимыми и конкретными, возможно, в том смысле, в котором предыдущие предупреждения исследователей ИИ не были полностью доведены до сведения политиков.

Соглашения, которые сейчас подписываются с Google DeepMind, Microsoft и xAI, создают основу для систематической оценки передовых моделей искусственного интеллекта, включая как предварительное тестирование, так и мониторинг после развертывания. Это партнерство между правительственными учреждениями и частными технологическими компаниями представляет собой попытку сбалансировать приверженность администрации инновациям с недавно признанной обеспокоенностью по поводу катастрофических рисков. Государственная система тестирования ИИ предположительно будет оценивать различные аспекты безопасности моделей, включая возможные сценарии неправильного использования, уязвимости кибербезопасности и более широкие социальные последствия.

Значение этого изменения политики выходит за рамки непосредственного вопроса о процедурах тестирования безопасности ИИ. Он демонстрирует, как реальные инциденты и конкретные примеры потенциального вреда могут изменить приоритеты политики даже для администраций, изначально скептически относящихся к подходам регулирования. Ситуация с Mythos стала яркой иллюстрацией того, как передовые возможности ИИ могут обеспечить новые формы кибератак и угроз безопасности, в результате чего абстрактные аргументы о рисках ИИ внезапно стали более актуальными и значимыми для лиц, принимающих решения.

Заинтересованные стороны отрасли неоднозначно отреагировали на новый акцент администрации Трампа на обязательной оценке безопасности ИИ. Некоторые технологические компании рассматривают государственные испытания как разумный компромисс, который обеспечивает гарантию безопасности и в то же время позволяет продолжать разработку и развертывание передовых систем. Другие обеспокоены тем, что требования государственного тестирования могут привести к задержкам в выводе на рынок инновационных приложений искусственного интеллекта, что потенциально поставит американские компании в невыгодное положение по сравнению с международными конкурентами, менее ограниченными требованиями безопасности.

Центр стандартов и инноваций ИИ, несмотря на ребрендинг, в котором явно удалены ссылки на безопасность, теперь, похоже, может взять на себя значительную ответственность в государственном режиме тестирования и оценки ИИ. Эта организационная структура, скорее всего, будет координировать свои действия с частными компаниями, подписавшими соглашения с администрацией, работая над установлением последовательных стандартов и процедур для оценки передовых моделей ИИ. Конкретные протоколы тестирования и критерии оценки еще предстоит подробно описать в ожидаемом указе.

В перспективе этот сдвиг в политике может иметь важные последствия для подхода других стран к регулированию ИИ и тестированию безопасности. Правительства во всем мире пытаются решить, как стимулировать инновации, одновременно управляя реальными рисками, создаваемыми все более мощными системами искусственного интеллекта. Эволюция действий администрации Трампа по этому вопросу может повлиять на международные дискуссии о соответствующей нормативной базе для разработки и внедрения искусственного интеллекта.

Более широкий контекст этого изменения показывает противоречия внутри администрации Трампа между ее твердой идеологической приверженностью дерегуляции и прагматическим признанием подлинных проблем безопасности. Соглашения о тестировании безопасности искусственного интеллекта представляют собой компромиссную позицию, которая пытается удовлетворить оба импульса: сохранить позицию администрации в поддержку инноваций и одновременно решить проблемы кибербезопасности и безопасности, которые ситуация с Mythos выдвинула на первый план. Окажется ли этот компромиссный подход эффективным, покажет время, пока администрация продолжит разработку комплексной политики в области искусственного интеллекта.

Поскольку системы искусственного интеллекта становятся все более сложными и функциональными, вопрос соответствующих процедур тестирования и оценки безопасности, вероятно, останется центральным в обсуждениях государственной политики. Неожиданный сдвиг администрации Трампа в сторону поддержки государственных проверок безопасности передовых моделей ИИ демонстрирует, что практические опасения по поводу безопасности и неправильного использования могут в конечном итоге преобладать над идеологическими возражениями против регулирования. В ближайшие недели и месяцы будут раскрыты подробные спецификации нового подхода администрации к безопасности и стандартам ИИ, что потенциально создаст прецеденты, которые повлияют на практику разработки и внедрения ИИ на долгие годы.