Создатель чат-бота Anthropic бросает вызов постановлению Пентагона о цепочке поставок

Стартап в области искусственного интеллекта Anthropic подал иск против Министерства обороны, оспаривая решение администрации Трампа признать технологию компании угрозой национальной безопасности и ввести федеральный запрет на ее использование.

Спор возник из-за спора по контракту между Anthropic и Министерством обороны, который перерос в более широкое определение риска цепочки поставок, которое фактически запретило федеральным агентствам использовать продукты компании, включая ее популярного чат-бота Claude.

В своем иске Anthropic утверждает, что правительство превысило свои полномочия и не обеспечило стартапу надлежащую правовую процедуру или реальную возможность решить проблемы национальной безопасности. Компания утверждает, что это определение было произвольным, капризным и противоречащим закону.

"Anthropic чрезвычайно серьезно относится к безопасности своих технологий и доверию своих клиентов", - говорится в заявлении компании. «Мы уверены, что наши продукты и услуги не представляют никакой угрозы национальной безопасности, и мы будем решительно защищаться от подобных злоупотреблений со стороны правительства».

Этот спор подчеркивает растущее противоречие между быстро развивающейся индустрией искусственного интеллекта и усилиями правительства по снижению потенциальных рисков безопасности, создаваемых новыми технологиями. Поскольку чат-боты и языковые модели на базе искусственного интеллекта становятся все более сложными и широко распространенными, политики пытаются найти баланс между инновациями и проблемами национальной безопасности.

Anthropic, соучредителем которой является бывший исследователь мозга Google Дарио Амодей, позиционирует себя как лидер в разработке этичного и ответственного искусственного интеллекта. Компания неоднократно заявляла о важности согласования систем искусственного интеллекта с человеческими ценностями и предотвращения их неправомерного использования во вредных целях.

Иск против Министерства обороны — это последняя глава в продолжающихся дебатах о регулировании и надзоре в сфере искусственного интеллекта. Поскольку технологии продолжают развиваться, политикам и компаниям необходимо будет найти способ совместной работы для решения законных проблем безопасности, одновременно поддерживая инновации и прогресс.