Google и OpenAI изискват засилване на ограниченията при използването на изкуствен интелект в военното поле

Технологични гиганти се обединяват в защита от военна натиск

Служителите на компании Google и OpenAI публикуват открито писмо с заглавието „Няма да бъдем разделени“. То съдържа почти 900 подписи, предимно около сто служители на OpenAI и приблизително осемстотин представители на Google. Целта на писмото е да призовава за по-строги ограничения върху използването на ИИ от военни.

Защо възникна напрежение
* Министерството на отбраната на САЩ (МО) включи технологиите на компанията Anthropic в черния списък, след като Anthropic отказа да разрешава тяхното приложение за масово наблюдение и напълно автономно оръжие.

* Писмото критикува тактиката на МО: „те се опитват да разделят всяка компания…“. Авторите на писмото се стремят да създадат взаимопонимание и солидарност сред технологичните компании в отговор на натиска от страна на правителството.

Широка реакция на индустрията
* През последните месеци индустрията изисква по-голяма прозрачност при работа с правителството, особено когато става въпрос за договор за облачни услуги и ИИ.

* Google е под критика за предполагаеми преговори със Същества на Пентагон относно внедряването на модела Gemini в тайна военна система.

Адвокати по правото
* В петък групата No Tech For Apartheid публикува декларация „Amazon, Google, Microsoft трябва да откажат изискванията на Пентагона“.

* Те смятат, че тези компании могат да участват в масово наблюдение и други неправомерни практики.

* Групата посочва потенциалната сделка с Пентагон, сравнявайки я със споразумението за Grok от xAI, което позволява на Министерството да развива ИИ „в тайни среди без ограничения“.

Откритото писмо в подкрепа на Anthropic
* Стотици служители от различни компании (OpenAI, Salesforce, Databricks, IBM, Cursor и др.) подпишат открито обръщение към МО.

* Писмото поиска отмената статуса „риска за веригата на доставки“ за Anthropic.

* Също така се предлага Конгресу да разгледа необходимостта от прилагане на изключителни полномощия срещу американски технологични компании.

Вътре в Google
* Миналата седмица над 100 служители, работещи по ИИ, се обърнаха към ръководството с опасения относно сътрудничеството на компанията с МО.

* Те изискват да установят „червени линии“, подобни на тези, които приложи Anthropic.

* Джеф Ден (главен научен сотрудник на Google) твърди, че масовото наблюдение нарушава Четвъртата поправка и заплашва свободата на изразяване.

* Той отбелязва склонността на системите за следене към злоупотреби в политически и дискриминационни цели.

История на конфликтите
* През 2018 г. Google се сблъска с бунт от хиляди служители поради проекта Maven – програма на Пентагон, използваща ИИ за анализиране на видеозаписи от дронове.

* След това компанията създаде „Принципи за ИИ“, регулиращи използването на такива технологии.

* През 2024 г. Google уволни над 50 служители след протести по отношение на проекта Nimbus, обща стойност $1 млн, при споразумение с Amazon.

Резултат
Технологичните гиганти продължават да се борят за прозрачност и етична употреба на ИИ. Откритите писма, колективните протести и изискванията за „червени линии“ свидетелстват за растящата тревога сред специалистите: те искат да гарантират, че военните приложения на изкуствения интелект ще бъдат ограничени в рамките на закона и правата на човека.