Anthropic отказа от запитването на Pentagon за неограничено военно използване на ИИ, дори при наличие на предупреждения

Кратко съдържание

* Ситуация:

Компанията Anthropic отказа да предостави на Министерството на отбраната на САЩ (MoD) неограничен достъп до своите ИИ‑модели, въпреки заплахата за загуба на договор в размер на $200 млн.

* Контекст:

По време на среща в Белия дом министърът на отбраната Пит Хегсет даде на Anthropic до края на работния ден на петък време да обмисли предложението, но вече в четвъртък компанията обяви отказа.

* Позицийте на страните:

- MoD изисква пълен достъп до ИИ‑технологии за свободна употреба в военни цели.
- Други големи играчи (OpenAI, Google, xAI на Маск) се съгласиха да позволят Пентагонът да използва техните системи „за всички законни цели“ в незашифрованите мрежи и работят по споразумения за шифровани мрежи.

* Реакция на Anthropic:

В изявление от главния изпълнителен директор Дарио Амодеи (Dario Amodei) подчерта, че компанията активно сътрудничи с военните структури и вярва в екзистенциалната важност на ИИ за защита на САЩ. Въпреки това тя никога не е възражала срещу конкретни военни операции и смята, че ИИ може да нарушава демократичните ценности само в много ограничени случаи.

Амодеи подчертва две „красни линии“:

1) липса на масово наблюдение върху гражданите на САЩ;
2) забрана за разработка на летателно автономно оръжие (или всяко оръжие, способно да унищожава цели без човешки контрол).

В момента компанията не е готова да използва напълно автономни системи.

* Потенциални последици:

Пентагон вече се обърна към големи отбранителни подизпълнители с молба да оценят зависимостта от модела Claude. Ако MoD сметне Anthropic за „риска за веригата на доставки“, това може да доведе до класифициране на компанията като заплаха за националната сигурност, което обикновено се прилага към китайски и руските фирми.

Пентагон заяви готовността си да изиска потвърждение от всички доставчици и подизпълнители, че не използват „антропогенни“ модели. При отказ от услугите на Anthropic компанията е готова да осигури плавен преход към друг доставчик без прекъсвания в военните операции.

* Законодателни мерки:

Пентагон разглежда прилагането на „Закон за отбранителната продукция“ от 1950 г., който позволява федералната власт да се намеси в дейността на частни компании, за да изпълни изискванията на MoD.

* Ключовото послание на Anthropic:

Заплахата от страна на Министерството не променя позицията на компанията: те не могат с чиста совест да удовлетворят заявките за пълен достъп. При отказ от сътрудничество Anthropic е готова да подпомогне плавен преход и продължи да предоставя своите модели при договорени условия.

Извод:

Anthropic остава привързана към принципите си за поверителност и ограничения в военната употреба на ИИ, въпреки риска от загуба на значителен договор. Министерството на отбраната, от своя страна, се стреми да получи пълен достъп до напреднали технологии от всички ключови доставчици. Вариантите за решение включват възможно намесата на федералното правителство или преход към алтернативни доставчици.