OpenAI е ликвидирала два отдели за сигурност на изкуствения интелект в полза на печалбата, съобщава бивш служител на стартапа

Свидетелства от бивши служители на OpenAI в съдебния процес по делото за Илона Маск

В федералния съд в Окланд (Калифорния) двама бивши служители на OpenAI подадоха показания в рамките на искането на Илона Маск срещу компанията. Те твърдят, че стремежът към комерсиализация на ИИ-продукти разрушава задълженията на стартапа по сигурността, а изпълнителният директор Сам Алтман систематично заблуждава борда.

1. Кейс Рози Кампбел
- Период на работа: 2021‑2024 в екипа за подготовка към AGI (Artificial General Intelligence).

- Основен аргумент: OpenAI се превърна от изследователска организация в комерсиална структура. Екипът, който тя ръководи, беше разформирован, а групата *Super Alignment* – отговорна за спазването на човешките ценности на ИИ – бе затворена.

- Пример за нарушение на сигурността: Microsoft стартира GPT‑4 в Индия чрез Bing без одобрение от Департамента по сигурност при внедряване (DSB) на OpenAI.

- Реакция на адвокатите на OpenAI: При кръстовото допитване Кампбел признава, че „по нейното предположително мнение“ подходът към сигурността в компанията всъщност е по-добър от този на xAI – ИИ-компанията на Маск, която SpaceX погълна в началото на 2026 г.

2. Историята за освобождаването на Алтман
- Причини: В 2023 г. бордът временно освободил Алтман след жалби от служители относно стила на ръководство. Сред критиците бяха бившият главен научен сотрудник Илия Суккевер и техническият директор Мира Мурат, които твърдяха, че изпълнителният директор избягва конфликти.

- Таша Макколи (член на борда в тоя момент) разказа как Алтман заблуждава борда:

- Лъжа за намерението да освободи Хелен Тонер (авторка на критична анализираща статия по сигурността).

- Не информиране на борда за стартирането на ChatGPT в публичен достъп.

- Скриване на възможни конфликти от интереси.

- Резултат: Бордът загуби увереността, че получаваната информация е достатъчна за вземането на обмислени решения.

3. Последствия и реакция
- Освобождаването на Алтман съвпадна с предложението за изкупуване на акции от служителите.

- Персоналът на OpenAI подкрепи бившия CEO, а Microsoft настоява за възстановяването на предишния ред. В крайна сметка бордът се отдръпна, а сторонниците на Алтман тръгнаха в пенсия.

- Маск използва този инцидент като доказателство, че превръщането на OpenAI от изследователски проект в голяма частна компания наруши „непубличния договор“ между основателите.

4. Експертно мнение
Дейвид Шайзър (бивш декан на юридическия факултет на Колумбийски университет и поканен експерт на Маск) подчертал:

> *„OpenAI твърди, че сигурността е ключова част от мисията й и приоритетна пред печалба. Ако нещо трябва да премине проверка за сигурност, то тя трябва да се случи. Същността е в процедурата.“*

5. Позицията на Таша Макколи
Макколи смята, че управленските провали в OpenAI подчертават необходимостта от държавно регулиране на ИИ:

> *„Ако решенията се вземат от един изпълнителен директор и обществените интереси са задима – това е крайна неуспешна конструкция.“*

Кратко: Бивши служители разкриха пред съда, че комерсиалната ориентация и манипулациите от страна на ръководството подкопаят задълженията на OpenAI по сигурността. Техните показания засилват аргументите на Маск за това, че компанията наруши собствените си принципи, както и подкрепят призовете за по-строго регулиране на изкуствения интелект.