Служителите на Amazon използват изкуствен интелект само за отчитане, а не за реални резултати

Как генериращият изкуствен интелект се превръща в „показател“ за ефективността на служителите

С нарастващата популярност на технологиите за генеративен изкуствен интелект (ИИ) компаниите все по-често изискват от своите работници да демонстрират практични постижения при работа с тези системи. В отговор на това натискане се появява нов феномен: служителите възлагат ИИ безсмислени задачи само за подобряване на своята статистика по използването на технологията.

Финансовият Таймс описва ситуацията в Amazon

В статията на Financial Times се говори как работниците на гигантата за електронна търговия все по-активно прилагат софтуерното решение MeshClaw. Този агент се свързва с работните инструменти на служителите и може да изпълнява задачи от тяхно име. Някои от тях го използват за автоматизиране на фактически безполезни действия, за да повишат личния си рейтинг по ефективността при усвояване на ИИ.

Причината – усиливащото се натиск от страна на управлението: сега над 80 % разработчици са задължени да използват ИИ всяка седмица. За всеки служител се води отделна статистика, и тези, които отстъпват от целевите показатели, трябва да обясняват това на управлението. Макар формално мениджърите не бива да оценяват служителите по данни за използването на токени ИИ, в последните месеци се появиха подозрения, че точно така се случва.

В такова среда някои работници в Amazon имат лъжливи стимули: те симулират висока активност с цел лична полза, а не за доброто на компанията. Това е особено важно за технологичните гиганти, които инвестирайки огромни суми в инфраструктурата на ИИ и искат да покажат на инвеститорите и управлението реалната полза от внедряването.

Как Amazon управлява данните за работа с ИИ

Amazon планира да изразходва тази година около 200 млн. долара за капиталоизточни разходи. За да се увери, че технологиите действително се прилагат, компанията усилва контрола върху използването на ИИ. Първоначално публикувалась групова статистика по използване на ИИ от служителите, но сега достъп до индивидуалните резултати имат само самите специалисти и тяхното непосредствено ръководство. Формално е забранено за ръководителите да използват тези данни за оценка на ефективността на персонала.

Ситуацията в други технологични компании

Financial Times отбелязва, че подобни злоупотреби се наблюдават и в Meta Platforms. MeshClaw, разработен от над 30 специалиста в Amazon, може да зарежда софтуерен код в продукционните версии, сортира писма и взаимодействува с приложения като Slack. Много служители изразяват загриженост за сигурността на такива решения: ИИ може да генерира грешки, а контрола над неговите действия остава слаб.

Така че растежът на изискванията за използване на генеративния ИИ води до създаването на „показатели“ за ефективност, които понякога стават цел сам по себе си, а не средство за постигане на реални бизнес резултати.