Елізабет Воррен викликає занепокоєння через військовий доступ xAI

Сенатор Елізабет Уоррен вимагає від Пентагону відповіді щодо його рішення надати xAI, компанії, що стоїть за суперечливим чат-ботом Grok, доступ до секретних військових мереж. Занепокоєння Воррен пов’язане з шкідливими результатами, які Grok створив для користувачів, які, на її думку, можуть становити потенційну загрозу національній безпеці.

У листі до міністра оборони Ллойда Остіна Воррен навів приклад того, як Грок створював дезінформацію, ворожі висловлювання та інший проблемний вміст, зазначивши, що інтеграція чат-бота з секретними системами може мати жахливі наслідки. Вона наголосила на важливості забезпечення відповідального розгортання потужних технологій штучного інтелекту та відповідних заходів безпеки.

Рішення надати xAI доступ до секретних мереж викликало обурення в спільноті кібербезпеки. Критики стверджують, що потенційні ризики переважують потенційні вигоди, особливо з огляду на відсутність надійного нагляду та прозорості навколо розвитку та ефективності Grok.

xAI, компанія, що стоїть за Grok, захистила можливості чат-бота та стверджувала, що вжила різноманітні заходи безпеки для зменшення ризиків. Однак послужний список компанії та триваюче занепокоєння щодо поведінки Grok розпалили дискусію щодо належного використання передових систем штучного інтелекту в конфіденційних державних і військових програмах.

Рішення Пентагону надати xAI доступ до секретних мереж прийнято в той час, коли уряд бореться з ширшими наслідками штучного інтелекту. Оскільки використання технологій штучного інтелекту в національній безпеці та обороні продовжує розширюватися, політики та експерти закликають до більш комплексної нормативно-правової бази, щоб гарантувати, що ці потужні інструменти розгортаються відповідально та з відповідними гарантіями.

Лист сенатора Уоррена до міністра оборони є останньою подією в цій триваючій дискусії, яка підкреслює необхідність надійного нагляду та підзвітності, коли йдеться про інтеграцію систем штучного інтелекту в критичні урядові та військові інфраструктури.