Изкуственият интелект все по-често пише научни статии, а разпознаването им от човешки става невъзможно, което е страшно.

ИИ в научната публикация: растеж и предизвикателства

Какво се случва
- Увеличение на обема

Според *Nature* броят статии, където е използван ИИ, вече надхвърля този, написан само от хора (професорите от Graphite проучили 55 000 нови уеб страници до края на март).

- Предимства и недостатъци

ИИ ускорява изследователския процес, но едновременно с това се появяват много нискокачествени трудове.

Как измерват участието на ИИ
Изследване Период Обем данни Ключови изводи Pangram Labs (7000 статии + 8000 рецензии) яну‑фев 2021–фев 2026 7 000/8 000 От ноември 2022 г. растежът на работите с 42 % е свързан с ИИ.
От началото на 2024 г. статии, където >70 % текст – от ИИ, се увеличили вдвойна; 30 % рецензии съдържат ИИ‑текст. Биомедицински журнали (Science, Nature, Cell)—≈5 000 статии 6 статии напълно написани от ИИ; всяка осма статия съдържа елементи на ИИ‑текст. arXiv (компютърни науки) 2020–2025 >124 000 рукописи Обзорни статии с ИИ се увеличили от 7 % до 43 %. Уникални изследвания с ИИ‑текст – от 3 % до 23 %.

Проблеми и ограничения
1. Надеждност на детекторите

- Съвременните инструменти не разпознават „редактирания“ текст и напълно генериран от ИИ.

- Могат да се получават лъжливо положителни резултати – материал написан от човек е маркиран като ИИ.

2. Липса на точни метрики

Няма универсален начин за определяне на долята на съдържание, създадено от ИИ, в общата научна литература.

3. Еволюция на технологиите

- С развитието на ИИ се появяват нови методи „очовенчаване“ на текста и заобикаляне на детекторите.

- Появяват се решения, като *водни знаци*, които явно указват участието на ИИ; тяхното прилагане вече доведе до отхвърляне на 497 статии от конференция.

Резултат
Научната общност се сблъсква с бърз растеж на публикации, в които участват изкуствен интелект. Това отваря нови възможности за ускоряване на изследванията, но едновременно с това изисква развитие на надеждни инструменти за откриване и контрол на качеството, за да се запази достоверността на научната литература.