Google подписывает секретную сделку по искусственному интеллекту с Пентагоном

Важным событием, подчеркивающим растущее пересечение между искусственным интеллектом и оборонными операциями, стало то, что Google, как сообщается, подписал секретное соглашение с Пентагоном, которое предоставляет Министерству обороны США широкий доступ к его моделям искусственного интеллекта для того, что чиновники называют «любыми законными правительственными целями». Соглашение, о котором впервые сообщило издание The Information, знаменует собой поворотный момент в взаимодействии технологического сектора с военными приложениями машинного обучения и передовыми вычислительными системами.

Время этого объявления имеет особое значение, поскольку оно появилось всего через несколько часов после значительного внутреннего восстания в Google. Сотрудники компании написали открытое письмо генеральному директору Сундару Пичаи, призывая его принять строгие меры безопасности, которые не позволят Пентагону получить доступ к технологии искусственного интеллекта Google или использовать ее в целях, которые они считают потенциально «бесчеловечными или чрезвычайно вредными». Петиция сотрудников представляет собой редкий момент общественного несогласия внутри компании, подчеркивая этическую напряженность, которая все чаще характеризует отношения индустрии искусственного интеллекта с военными подрядчиками и оборонными ведомствами.

Засекреченный характер соглашения означает, что многие конкретные детали остаются нераскрытыми для общественности и, возможно, для некоторых заинтересованных сторон внутри самой Google. Однако широкая формулировка, разрешающая использование для «любых законных государственных целей», предполагает чрезвычайно обширную структуру, которая может охватывать все: от стратегического анализа и оптимизации логистики до более чувствительных военных применений. Такой обширный охват усилил обеспокоенность среди специалистов в области технологий, которые обеспокоены потенциальными последствиями развертывания передовых систем искусственного интеллекта в оборонной сфере.

<изображение src="https://platform.theverge.com/wp-content/uploads/sites/2/chorus/uploads/chorus_asset/file/24925007/23678 0_Google_AntiTrust_Trial_Custom_Art_CVirginia__0001_5.png?quality=90&strip=all&crop=0%2C0%2C100%2C100&w=2400" alt="Генеральный директор Google Сундар Пичаи выступает на технологической конференции с логотипом Google на заднем плане" />

Если это соглашение получит официальное подтверждение, Google присоединится к все более эксклюзивному клубу крупных технологических компаний, которые заключили секретные контракты с военным ведомством США. OpenAI, компания, создавшая широко разрекламированную систему ChatGPT, уже официально оформила свое собственное секретное соглашение с Пентагоном, создав прецедент для компаний, занимающихся искусственным интеллектом, желающих работать напрямую с оборонными ведомствами. Аналогичным образом, xAI, предприятие по искусственному интеллекту, возглавляемое Илоном Маском, заключило контракт с собственным министерством обороны, что указывает на более широкую тенденцию отрасли к военному партнерству.

Это также предполагает, что Anthropic, еще одна крупная компания по искусственному интеллекту, основанная бывшими исследователями OpenAI, может участвовать в текущих переговорах с Пентагоном относительно подобных соглашений. Такое сближение нескольких ведущих компаний, занимающихся искусственным интеллектом, вокруг оборонных контрактов отражает как стратегическую важность, которую военные планировщики придают передовым возможностям искусственного интеллекта, так и экономические возможности, которые эти партнерства представляют для технологических компаний, ищущих стабильные и высокодоходные потоки доходов.

Сопротивление сотрудников Google отражает более широкую обеспокоенность общества по поводу милитаризации технологий искусственного интеллекта. Озабоченность вызывает вопросы автономных систем вооружения, алгоритмов идентификации целей, которым может не хватать адекватного человеческого контроля, а также возможности систем искусственного интеллекта принимать важные решения без достаточной прозрачности или подотчетности. Формулировка "любая законная цель" в соглашении между Google и Пентагоном мало помогает развеять эти опасения, поскольку определение законной цели может меняться в зависимости от юридических интерпретаций, которые со временем меняются.

Эта ситуация отражает фундаментальное противоречие в технологической отрасли между императивами бизнеса и социальной ответственностью. Google, как и другие крупные технологические компании, работает в сложной экосистеме взаимоотношений с правительством, ожиданий инвесторов и ценностей сотрудников. Хотя прибыльные оборонные контракты могут существенно повысить доходы акционеров, они одновременно рискуют оттолкнуть сотрудников, которые присоединились к компании именно из-за ее заявленного обязательства развивать искусственный интеллект ответственно и этично.

Засекреченное соглашение также поднимает важные вопросы о прозрачности и общественном контроле. Когда соглашения между крупными технологическими фирмами и государственными учреждениями остаются скрытыми от общественного внимания, гражданам, избранным представителям или даже другим заинтересованным сторонам становится чрезвычайно трудно понять, как и для каких целей используются передовые технологии. Эта непрозрачность может подорвать демократическую подотчетность и общественное доверие как к технологическим компаниям, так и к государственным учреждениям.

Если посмотреть на более широкую картину, появление множества компаний, занимающихся искусственным интеллектом, работающих с Пентагоном, позволяет предположить, что военные ведомства рассматривают передовой искусственный интеллект как стратегически важную инфраструктуру, заслуживающую значительных инвестиций и развития. Конкуренция между OpenAI, Google, xAI и, возможно, Anthropic за получение этих контрактов может ускорить милитаризацию технологий искусственного интеллекта, даже несмотря на то, что академические исследователи и специалисты по этике продолжают выражать обеспокоенность по поводу безопасности и социальных последствий развертывания таких систем в военном контексте.

Сопротивление сотрудников Google также демонстрирует, как меняется внутренняя динамика внутри технологических компаний. Десять лет назад такие прямые вызовы исполнительному руководству в вопросах корпоративной стратегии и партнерства были практически немыслимы в крупных технологических компаниях. Появление организованной активности сотрудников по таким вопросам, как государственные контракты, конфиденциальность данных и этика искусственного интеллекта, представляет собой значительный сдвиг в культуре труда и корпоративном управлении в технологическом секторе.

Кроме того, такое развитие событий происходит на фоне продолжающегося контроля со стороны регулирующих органов в отношении крупных технологических компаний. Конгресс, Федеральная торговая комиссия и международные регулирующие органы все больше внимания уделяют тому, как технологические компании управляют своими системами искусственного интеллекта и какие меры защиты существуют для предотвращения неправильного использования. Соглашение Пентагона, если оно будет подтверждено, вероятно, будет занимать видное место на предстоящих слушаниях и дискуссиях регулирующих органов о корпоративной ответственности в разработке искусственного интеллекта.

Потенциальное подтверждение этого соглашения Google с Пентагоном в области искусственного интеллекта поднимает неотложные вопросы, выходящие далеко за рамки корпоративного партнерства. Поскольку страны конкурируют за превосходство в области искусственного интеллекта и военное преимущество, участие ведущих частных компаний в области ИИ в оборонных приложениях становится неизбежным. Однако механизмы, обеспечивающие соответствие этого сотрудничества демократическим ценностям, этическим принципам и международному гуманитарному праву, остаются плохо развитыми и недостаточно прозрачными для общественного контроля и подотчетности.

Поскольку эта ситуация продолжает развиваться, заинтересованным сторонам в правительстве, промышленности и гражданском обществе придется решать фундаментальные вопросы о роли частных технологических компаний в национальной обороне, соответствующих гарантиях военного применения искусственного интеллекта и механизмах, с помощью которых можно поддерживать общественный вклад и демократический контроль в областях, где как коммерческая конкуренция, так и соображения национальной безопасности создают мощные стимулы для секретности и оперативной автономии.