Главата на служба за киберсигурност на AI в Anthropic напусна компанията, признавайки, че „светът е под заплаха“.

Мринанк Шарма напуска Anthropic: писмо към колегите и планове за бъдещето

Бившият ръководител на отдела по изследване на сигурността на ИИ в компанията Anthropic, Мринанк Шарма (Mrinank Sharma), в началото на тази седмица публикува в мрежата своето разходно писмо. В него той обяснява причините за напускането, споделя размисли за текущите рискове и разказва какво ще прави по-нататък.

Какво се казва в писмото
* Постижения – Шарма отбелязва, че „достигна тук всичко, което исках“. Сред споменатите проекти са разработването на защитни механизми срещу биотероризма с помощта на ИИ и изследвания за влиянието на невронните мрежи върху обществото.

* Причината за напускане – авторът стигна до заключението, че е време да се движим напред. Той постоянно размислял върху „опасността, която може да носи ИИ, биологично оръжие и веригата от взаимосвързани кризи, развиващи се в момента“. Според него приближаваме до прага, след който мъдростта трябва да расте пропорционално на нашата способност да влияем върху света; иначе ни очакват непредсказуеми последствия.

* Културни бариери – Шарма подчертава колко е трудно да се запазят ценностите при натиск. Той го вижда както вътре в себе си, така и във фирмата, където понякога трябва да се откажат от важни неща заради външно влияние, както и в обществото като цяло.

* Бъдещи планове – след напускането той планира да работи по проекти, съответстващи на принципите си, а също така ще изучава поезията и други творчески направления.

Какво се случва в Anthropic
* В компанията вече напуснаха няколко водещи разработчици, което засилва вълната от кадрова смяна.

* Anthropic води преговори за привличане на допълнителни инвестиции. При успешното приключване на сделката пазарната стойност може да се увеличи до 350 млрд долара.

* Миналата седмица беше стартирана нова версия на модела Claude Opus 4.6. Тя подобрява офисната продуктивност и ефективността при програмиране, разширява контекстния прозорец за работа с големи документи и поддържа по-сложни задачи.

Къде да намерите писмото
Пълният текст на прощалното писмо на Шарма е публикуван в статията Business Insider. Това ще даде по-подробен поглед върху неговите мисли и мотивация.