ИИ сега може да разкрие истинните създатели на фалшиви онлайн акаунти, поставяйки под заплаха анонимността в мрежата.

Как изкуствения интелект разкрива фалшивите акаунти

В мрежата много потребители създават анонимни или подправени профили, смятайки, че това ще защити тяхната личност. Въпреки това нови изследвания показват, че съвременните модели ИИ могат не само да открият такива „фалшивки“, но и да определят истинския собственик.

Кой е проучил този въпрос?

Швейцарската висша техническа школа Цюрих (ETH Zurich), независимата образователна и научно-изследователска програма MATS, както и компанията Anthropic съвместно публикуват резултатите в PDF‑документ.

Как работят моделите ИИ?

Моделите използват редица сигнали: съвпадения на данни (от малки фрагменти до големи масиви) и характерни модели на поведение. Тези признаци позволяват „подозряване“ истинността на акаунта и, в повечето случаи, намиране на неговия реален собственик.

Ключови цифри от изследването

Показател | Стойност
---|---
Успешно откриване на фалшив 68 %
Точно указване на истинския собственик 90 %

Защо това е важно?

Резултатите могат да засегнат не само обичайните потребители, но и тези, които публикуват информация под чужди имена в социални мрежи. ИИ може да разкрие истинските имена на хакери, които разпространяват конфиденциални данни на служители на компании, както и хора, задаващи въпроси на отворени форуми. Дори бизнес ръководителите понякога използват псевдоними за популяризиране на своята дейност или за причиняване вреда на конкуренти – в такъв случай е известен случаят с Илън Маск. Освен това разкриването на идентичността може да постави под заплаха информаторите, активистите и жертвите на насилие, за които анонимността е жизнено необходима.

Проблеми със защитата от деанонимиране

Учениците препоръчват няколко мерки:

1. Ограничаване достъпа до потребителски данни чрез API в платформите.
2. Усилване на механизмите за откриване на автоматизирано събиране на информация.
3. Минимизиране на експорта на големи обеми данни.

Въпреки това изследователите отбелязват, че дори тези стъпки не гарантират стопроцентна защита. В близките години – и дори месеци – ще бъде все по-трудно да се задържи ИИ от извършване на такива операции.

Извод:

Моделите на изкуствения интелект вече могат да разпознават фалшиви акаунти и да откриват техните реални собственици в значителна част от случаите. Това поставя под заплаха анонимността не само на обичайните потребители, но и на тези чието безопасност зависи от скритостта. Засилването на мерките за защита може да забави процеса, но все още няма да спре развитието на технологията.