OpenAI интегрира сигурността в AI‑агентите, като придобива стартиращата компания Promptfoo

OpenAI придобива стартап Promptfoo

Компанията OpenAI подписа споразумение за покупка на двугодишния стартап Promptfoo, който разработва инструменти за проверка на сигурността на изкуствения интелект още в етапа на неговото създаване. Според Bloomberg целта на сделката е да намали рисковете за клиентите, използващи AI‑решения, и да привлече голям корпоративен пазар.

Кой е Promptfoo?

- Основан: 2022 г.
- Местонахождение: Сан-Франциско.
- Услуги: отворен код за тестване на невронни мрежи, включително „червена команда“ (red‑team), където специалистите имитират атаки върху собствените модели, откривайки слабости преди да бъдат намерени от злоумишленици.
- Клиенти: около 25 % от компаниите в списъка Fortune 500.

Какво ще се промени след интеграцията?

Технологии Promptfoo ще бъдат внедрени в корпоративната платформа на OpenAI – Frontier. Това ще даде Frontier автоматизирано тестване, мониторинг на промените и система за докладване на проверки, съответстващи на изискванията за сигурност.

Реакция от инвеститорите

Ганеш Белл (CEO Insight Partners), който ръководи раунда по финансиране на Promptfoo с 18,4 млн долара миналата година, отбеляза: „Покупката демонстрира явна ангажираност на OpenAI към създаването на корпоративен AI, който ще бъде не само мощен, но и безопасен и надежден при мащабиране.“ Финансовите детайли на сделката все още не са разкривани.

Бъдеще на Promptfoo

OpenAI ще продължи да развива отвореният изходен код на Promptfoo паралелно с неговата комерсиална интеграция. Наскоро компанията вече представи AI‑агент, способен да намира и отстранява уязвимости в базите данни – подобен инструмент като Anthropic PBC.