Социалните мрежи скоро ще преживят масови атаки от AI агенти, предвиждат учениците

Масивни атаки на ИИ‑ботове: нова заплаха за социалните мрежи

В най-близкото бъдеще в социалните мрежи могат да се появят крупномащабни кампании, организирани от ботове с изкуствен интелект (ИИ). Тези ботове ще моделират поведението на реални хора и ще използват психологическата предразположеност към „мъдростта на мнозинството“, за да манипулират общественото мнение. В резултат те ще могат:

* Разпространяване на лъжливи сведения

* Даване на натиск върху отделни потребители

* Влияние върху политическите процеси

Така ИИ‑ботовете могат да станат нов тип оръжие в информационните войни.

Как работят бъдещите ботове
Норвежкият професор Йонас Кунст предупреждава, че ботовете с ИИ ще могат:

1. Да подражават на хора – тяхната активност ще изглежда естествена, затова ще е трудно да се открият.

2. Да създават илюзиите на толпа – хората ще следват „мъдростта“, но в действителност това ще бъде управлявано от неизвестен оператор (индивид, група, политическа партия, компания или държавен служител).

3. Да преследват тези, които отказват да се присъединят – ботовете могат да потискат контрааргументите и да усиливат собствената си нарративна линия.

Пока няма точни срокове за появата на такива „роботи“, експертите смятат, че те вече са разположени в някои места. Заплахата се усилва от факта, че цифровите екосистеми са ослабени поради загубата на рационален дискурс и общата неясност относно реалността сред гражданите.

От прости към сложни ботове
* Примитивните ботове вече съставляват над половината от уеб трафика. Те изпълняват само базови задачи: публикуват еднородни съобщения, но са лесно откриваеми, ако има оператори.

* ИИ‑ботовете, базирани на големи езикови модели, ще бъдат много по-сложни.

* Адаптират се към конкретни общности.

* Създават няколко „личности“ с памет и идентичност.

* Самоорганизират се, учат се и специализират в експлоатацията на човешките слабости.

Кунст ги сравнява със „самодостатъчен организъм“, способен да координира действия без постоянно намесване от човек.

Вече видими първи признаци
През миналата година администрацията на Reddit обяви съдебно искане срещу изследователи, които използвали чат‑ботове за манипулация на мнението на 4 млн потребители. Резултатите показаха, че отговорите на ИИ бяха три–шест пъти убедителни по-от реалните публикации.

* Масштаба на атаката зависи от изчислителната мощност на злоумышленника и способността на платформата да му се противопостави.

* Дори малко число агенти може да окаже значително влияние в локални общности, тъй като новите участници ще бъдат възприемани с подозрение.

Какво могат да направят администраторите на социалните мрежи
1. Усилване на автентикацията – изискване за потвърждение, че потребителят е човек (не панацея, но усложнява задачата на злоумышленниците).

2. Сканиране на трафика в реално време – откриване на статистически аномалии и отклонения от нормалното поведение.

3. Създаване на общности от експерти – обединяване на специалисти и институции за мониторинг на атаките, реагиране и повишаване на обществената осведоменост.

Игнорирането на тези мерки може да доведе до сериозни нарушения при изборите и други важни събития.

Извод
Масивните атаки на ИИ‑ботове вече не са чисто теоретична проблематика. Те представляват реална заплаха за честния обмен на информация, демокрацията и социалната стабилност. За да се защитят, платформите и потребителите трябва активно да внедряват нови технологии за откриване, както и да повишават нивото на критическо мислене в обществото.