Гугъл първо открива и блокира нула-дневен ИИ експлойт, който нарушава двуфакторната автентикация

Google открила експлойт с нулев ден, създаден от изкуствен интелект

*Кратко за фактите*

Четвъртък и защо
Откриването
Групата Google Threat Intelligence Group (GTIG) първи път идентифицира и блокира нов експлойт с нулев ден. Авторството на експлойта е генерирано чрез изкуствен интелект, а не написано ръчно от човек.

Цел на атаката
Масово вмешателство в системата за двуфакторна автентикация (2FA) на уеб приложение с отворен код за системно администриране.

Как разпознаваха следите от ИИ
В Python кода има „подписи“ – фалшиво оценяване CVSS, типично „учебно“ форматиране и шаблони характерни за големи езикови модели (LLM).

Причина за уязвимостта
Грешка в логиката: разработчик е предположил, че определен компонент на системата винаги е безопасен и не го проверява. Чрез този непроверен елемент хакерите обходят 2FA.

Обект на атаката
Конкретното приложение Google не разкрива.

Роля на Gemini
Според изследователите моделът Gemini не е използван при създаването на експлойта.

Профилактика
Атаката беше спряна преди да стане масова.

Какво още забеляза GTIG
1. Нови методи за атаки

Хакерите използват ИИ не само за създаване на зловреден код, но и за „обход“ инфраструктурата на самите ИИ‑системи.

2. Ролево измама

Хакерите формулират заявки така, сякаш са експерти по сигурност, принуждавайки моделите да се държат различно от предвиденото ограничение.

3. Зареждане на големи бази данни

Вътре в моделите се зареждат цели каталози с уязвимости, след което се използва инструмент OpenClaw за дебъгване на зловредни програми в контролирана среда преди реалното разгръщане.

Резултат
Google успя да идентифицира и нейтрализира експлойт, създаден от ИИ, благодарение на подробен анализ на кода и разпознаване на „подписите“ на машинното обучение. Това подчертава необходимостта от постоянна проверка на логиката на приложенията и осъзнаването, че хакерите могат да използват ИИ както като инструмент за създаване на атаки, така и за обход на защитните механизми на самите системи.