Google укладає секретну угоду з Пентагоном щодо штучного інтелекту

Повідомляється, що компанія Google підписала секретну угоду з Пентагоном, яка надає Міністерству оборони США широкий доступ до своїх моделей штучного інтелекту для того, що офіційні особи характеризують як «будь-яку законну державну мету». Угода, про яку вперше повідомило The Information, знаменує собою ключовий момент у взаємодії технологічного сектора з військовими застосуваннями машинного навчання та передових обчислювальних систем.

Час цієї заяви має особливу вагу, оскільки вона з’явилася лише через кілька годин після значного внутрішнього бунту в Google. Співробітники з усієї компанії написали відкритого листа генеральному директору Сундару Пічаї, закликаючи його вжити суворих заходів безпеки, які б перешкоджали Пентагону отримати доступ або використовувати технологію ШІ Google для цілей, які вони вважали потенційно «негуманними або надзвичайно шкідливими». Петиція співробітників стала рідкісним моментом громадського незгоди в компанії, підкреслюючи етичну напругу, яка все більше характеризує відносини індустрії ШІ з військовими підрядниками та оборонними відомствами.

Секретний характер угоди означає, що багато конкретних деталей залишаються нерозкритими для громадськості та, можливо, для деяких зацікавлених сторін у самій Google. Проте широке формулювання, яке дозволяє використовувати «для будь-яких законних державних цілей», передбачає надзвичайно широку структуру, яка може охоплювати все, від стратегічного аналізу та оптимізації логістики до більш чутливих військових застосувань. Цей всеосяжний обсяг посилив занепокоєння серед технологічних професіоналів, які турбуються про потенційні наслідки розгортання передових систем штучного інтелекту в контексті оборони.

<зображення src="https://platform.theverge.com/wp-content/uploads/sites/2/chorus/uploads/chorus_asset/file/24925007/23678 0_Google_AntiTrust_Trial_Custom_Art_CVirginia__0001_5.png?quality=90&strip=all&crop=0%2C0%2C100%2C100&w=2400" alt="Генеральний директор Google Сундар Пічаї виступає на технологічній конференції з логотипом Google у фоновому режимі" />

Якщо ця угода отримає офіційне підтвердження, Google приєднається до все більш ексклюзивного клубу великих технологічних фірм, які уклали секретні контракти з військовим відомством США. OpenAI, компанія, що стоїть за широко розрекламованою системою ChatGPT, уже офіційно оформила власну секретну угоду з Пентагоном, створивши прецедент для компаній ШІ, які бажають працювати безпосередньо з оборонними відомствами. Подібним чином xAI, підприємство зі штучного інтелекту під керівництвом Ілона Маска, уклало власний контракт із міністерством оборони, що свідчить про ширшу галузеву тенденцію до військового партнерства.

Ця розробка також свідчить про те, що Anthropic, ще одна велика компанія зі штучним інтелектом, заснована колишніми дослідниками OpenAI, може вести поточні дискусії з Пентагоном щодо подібних домовленостей. Таке зближення багатьох провідних компаній зі штучного інтелекту навколо оборонних контрактів відображає як стратегічне значення, яке військові планувальники надають розширеним можливостям штучного інтелекту, так і економічні можливості, які ці партнерства представляють для технологічних компаній, які прагнуть отримати стабільні, високовартісні потоки доходу.

Опозиція співробітників Google відображає ширші суспільні занепокоєння щодо мілітаризації технології штучного інтелекту. Занепокоєння зосереджено на питаннях автономних систем зброї, алгоритмів ідентифікації цілей, які можуть бути відсутніми під належним наглядом з боку людини, і можливості систем ШІ приймати непрямі рішення без достатньої прозорості та підзвітності. Формулювання «будь-якої законної мети» в угоді між Google і Пентагоном мало заспокоює ці занепокоєння, оскільки визначення законної мети може змінюватися залежно від правових тлумачень, які змінюються з часом.

Ця ситуація відображає фундаментальну напругу в індустрії технологій між бізнес-імперативами та соціальною відповідальністю. Google, як і інші великі технологічні компанії, працює в складній екосистемі відносин з урядом, очікувань інвесторів і цінностей працівників. Хоча вигідні оборонні контракти можуть значно підвищити прибутки акціонерів, вони водночас ризикують відштовхнути співробітників, які прийшли в компанію саме через її заявлену відданість відповідальному та етичному розвитку штучного інтелекту.

Секретна угода також піднімає важливі питання щодо прозорості та громадського контролю. Коли угоди між великими технологічними фірмами та урядовими установами залишаються прихованими від громадського контролю, громадянам, обраним представникам або навіть іншим зацікавленим сторонам стає надзвичайно важко зрозуміти, як розгортаються передові технології та з якою метою. Така непрозорість може підірвати демократичну підзвітність і громадську довіру як до технологічних компаній, так і до державних установ.

Дивлячись на ширший ландшафт, поява кількох компаній штучного інтелекту, які співпрацюють із Пентагоном, свідчить про те, що військові установи розглядають передовий штучний інтелект як стратегічно важливу інфраструктуру, яка заслуговує значних інвестицій і розвитку. Конкуренція між OpenAI, Google, xAI і, можливо, Anthropic за отримання цих контрактів може прискорити мілітаризацію технологій штучного інтелекту, навіть якщо академічні дослідники та етики продовжують висловлювати стурбованість щодо безпеки та суспільних наслідків розгортання таких систем у військових умовах.

Опозиція працівників Google також демонструє, як розвивається внутрішня динаміка в технологічних компаніях. Десять років тому такі прямі виклики виконавчому керівництву з питань корпоративної стратегії та партнерства були практично немислимими для великих технологічних компаній. Поява організованої активності працівників навколо таких питань, як державні контракти, конфіденційність даних і етика штучного інтелекту, свідчить про значні зміни в культурі робочого місця та корпоративному управлінні в технологічному секторі.

Крім того, цей розвиток відбувається на тлі постійного регуляторного контролю великих технологічних компаній. Конгрес, Федеральна торгова комісія та міжнародні регуляторні органи все більше зосереджуються на тому, як технологічні компанії керують своїми системами штучного інтелекту та які існують гарантії для запобігання зловживанням. Якщо угода Пентагону буде підтверджена, ймовірно, вона займатиме важливе місце в майбутніх слуханнях і регуляторних дискусіях щодо корпоративної відповідальності в розробці штучного інтелекту.

Потенційне підтвердження цієї угоди щодо штучного інтелекту з Пентагоном Google викликає нагальні запитання, які виходять далеко за межі корпоративного партнерства. Оскільки країни змагаються за перевагу в області штучного інтелекту та військову перевагу, залучення провідних приватних компаній штучного інтелекту до оборонних програм стає неминучим. Однак механізми забезпечення того, щоб ця співпраця залишалася узгодженою з демократичними цінностями, етичними принципами та міжнародним гуманітарним правом, залишаються недостатньо розробленими та недостатньо прозорими для громадського контролю та підзвітності.

Оскільки ця ситуація продовжує розвиватися, зацікавлені сторони в уряді, промисловості та громадянському суспільстві повинні будуть боротися з фундаментальними питаннями про роль приватних технологічних компаній у національній обороні, відповідні гарантії для військових застосувань штучного інтелекту та механізми, за допомогою яких можна підтримувати громадський внесок і демократичний нагляд у сферах, де як комерційна конкуренція, так і проблеми національної безпеки створюють потужні стимули для секретності та оперативної автономії.