ОпенАИ е назначил „главен специалист за подготовка“, който ще ръководи безопасността на изкуствения интелект

OpenAI назначил новия ръководител по сигурността на изкуствения интелект

В светлината на нарастващите въпроси за безопасното използване на ИИ компанията OpenAI обяви нов член на екипа – Дилан Скандинаро в ролята *Head of Preparedness* (директор по готовност).

Кой е Дилан Скандинаро?
ПериодКомпанияРоляМай 2023 – февруари 2024AnthropicРъководител на проекти за сигурността на ИИСептември 2022 – май 2025DeepMind (Google)Специалист по синтетични данни за обучение на GeminiДо 2022Palantir, Unity Technologies, Everyday RobotsРазлични позиции в областта на машинното обучение и разработка на софтуер
Скандинаро е известен с това, че в предишните си места на работа се занимаваше със същите задачи за намаляване на рисковете при разработката на модели ИИ.

Какво означава новото назначение?
* Роля: Водеща позиция в екипа „готовност“ – отговорен за подготовка и внедряване на мерки, които ще позволят разработването на мощни модели без заплаха за потребителите.
* Условия: Заплата 550 000$ годишно плюс акции на OpenAI.
* Контекст: От 2023 г. в компанията действа „екип готовност“, който по-рано е ръководил Александър Мадрий, специалист от MIT.

Как вижда ситуацията ръководителят на OpenAI
Генерален директор Сейм Алтман отбеляза, че с ускоряването на развитието на моделите компанията ще се сблъсква с нови и по-сериозни рискове. Той подчерта:

> „Ще работим върху много мощни модели. Това ще изисква съответните предпазни мерки, за да осигурим продължаващо предоставяне на големи ползи.“

Алтман изрази увереност в компетенциите на Скандинаро:

*«Той е най-добрият кандидат за тази роля от всички хора, които някога съм срещал», – каза той.*

Той добави, че благодарение на новия ръководител екипът ще може да се съсредоточи върху дългосрочната сигурност и „ще спи по-спокойно“.

Какво се очаква от Скандинаро?
Скандинаро сам признал, че бързо развиващите се модели ИИ могат да предизвикат „екстремна и дори необратима щета“. Затова пред него стои задачата:

* разработване на стратегии за минимизиране на рисковете;
* внедряване на практики за безопасно обучение и експлоатация на модели;
* координиране на усилията на целия екип на OpenAI в тази област.

Резултат
OpenAI разширява своята структура за сигурност, привличайки опитен специалист от водещи компании в индустрията. Новото назначение подчертава стремежа на компанията към отговорна разработка на ИИ и подготовка за възможните предизвикателства на бъдещето.