Разрыв контракта Anthropic с Пентагоном: внутренняя история

Anthropic, компания по искусственному интеллекту, основанная Дарио Амодеи и другими, недавно была втянута в скандальный контракт на 200 миллионов долларов с Министерством обороны. Однако сейчас сделка сорвана из-за разногласий по поводу предоставления военным неограниченного доступа к передовым технологиям искусственного интеллекта Anthropic.

По данным источников, знакомых с переговорами, Амодей и его команда не хотели передавать Пентагону полный контроль над своими ценными системами искусственного интеллекта. Камнем преткновения, судя по всему, стало требование военных о неограниченном доступе и правах использования, на что Anthropic не желала соглашаться.

"Anthropic всегда была сосредоточена на разработке систем искусственного интеллекта, которые были бы безопасны и полезны для человечества", - сказал один из инсайдеров. «Их не устраивала идея, что военные будут иметь полную свободу действий в отношении своих технологий, поскольку они были обеспокоены возможным неправильным использованием или непредвиденными последствиями».

Разрыв контракта на 200 миллионов долларов стал серьезным ударом как для Anthropic, так и для Пентагона, который стремился использовать передовые возможности искусственного интеллекта компании для военных приложений. Это также поднимает вопросы о более широких проблемах, с которыми сталкиваются стартапы в области ИИ, когда дело доходит до навигации по сложному ландшафту государственных контрактов и интересов национальной безопасности.

Несмотря на провал сделки, источники предполагают, что Amodei, возможно, все еще пытается найти способ сотрудничать с Пентагоном, хотя и на более выгодных для Anthropic условиях. Приверженность компании ответственной разработке искусственного интеллекта и ее желание сохранить контроль над своими технологиями, по всей видимости, не подлежат обсуждению.

"Anthropic" здесь идет по тонкой грани", - сказал технологический аналитик, внимательно следящий за индустрией искусственного интеллекта. «Они хотят быть хорошими корпоративными гражданами и вносить вклад в усилия по национальной безопасности, но у них также есть долг перед своими акционерами и ответственность за соблюдение своих принципов. Будет интересно посмотреть, как это закончится в ближайшие месяцы».

Поскольку дебаты о целесообразности использования искусственного интеллекта в военных целях продолжаются, сага Anthropic-Pentagon служит предостережением для компаний, занимающихся искусственным интеллектом, которые сталкиваются со сложными и часто спорными отношениями между технологиями и национальной безопасностью.