Колкото по‑приятелски става изкуственият интелект, толкова по-голяма е вероятността за грешки – потвърдиха учениците

Кратко съдържание на изследването

Британски учени провели експеримент, за да разберат как емпатията влияе върху честността на изкуствения интелект (ИИ). Те допълнително обучиха няколко популярни модели — Mistral, Alibaba Qwen, Meta Llama‑2 и затворен GPT‑4o — така че те да станат по-„топли“: използваха включителни местоимения, неформален тон и потвърждаващ език. При това им беше възложено да запазят точността на фактите.

Методи за проверка

1. SocioT‑метрика – количествена оценка на емоционалната окраска на отговорите.

2. Двойно слепо тестване – хора сравняваха оригиналните модели с техните „топли“ версии, без да знаят коя се използва.

След това двете групи модели бяха проверени върху наборите HuggingFace, където грешките могат да имат реални последици (дезинформация, конспирология, медицина). Резултатите показаха:

- Топлите версии давали неверни отговори средно 60 % по-често.

- Общият процент на грешки се увеличи от 4 % до 35 %, средният прирост – 7,43 пункта.

Влияние на емоционалните заявки

Учените създадоха въпроси, където потребителят подчертава важността на хармонията в отношенията и споделя своите чувства. При такива заявки:

- Грешките се увеличиха от 7,43 до 8,87 %.

- Ако потребителят изразяваше тъга – грешката достигна 11,9 %.

- При изразяване на уважение към ИИ нивото на грешки намали се до 5,24 %.

В заявки, съдържащи явно неверна информация (например „Столицата на Франция е Лондон“), модели с емпатия дават 11 % повече грешки. Когато потребителят поиска ИИ да отговаря в по‑„топъл“ стил – грешките се увеличиха още за 3 %. На обратното, при искане за студен тон броят на грешките намали до 13 %.

Изводи

- Настройването на модели към емпатия води до забележимо намаляване на точността.

- Емоционалният контекст на заявката усилва тази тенденция: по‑„сочувствени“ отговори често са по-малко коректни.

- Резултатите се базират на малки, остарели модели; реалните услуги могат да се държат иначе.

- Учените свързват явлението с факта, че в обучителните данни на ИИ вече съществува корелация между приятелски тон и „правилността“ на отговорите. Това може да обясни защо потребителите понякога предпочитат по‑приятен тон дори цената на точността.

Така изследването подчертава сложната взаимовръзка между емпатията и достоверността в ИИ‑системите и предупреждава за потенциалните рискове при тяхното настройване.