OpenAI отложи създаването на възрастен съдържание в ChatGPT и постави проекта за AI‑бот за възрастни „на дълъг шкаф“.

OpenAI отложи еротичния чат‑бот

По време на прегледа на бизнес стратегията управлението на компанията стигна до заключението кои направления всъщност оправдават планираните многомилиардни инвестиции. В резултат решението за подкрепата на видео генератора Sora внезапно бе отменено, а проектът с еротичния чат‑бот беше отложен в „дългия кутия“.

Защо възникнаха съмнения
1. Социална отговорност

Инвеститорите и служителите на OpenAI изразиха тревога относно потенциалните негативни последици от продукта: усилване на токсичната атмосфера около ботове, рискът от достъп на непълнолетни до възрастен контент.

2. Липса на емпирични данни

Досега няма проверени изследвания за влиянието на еротичния ИИ върху обществото. Затова компанията решава да проведе задълбочен анализ преди вземане на решение.

3. Фокус върху основната мисия

В момента OpenAI предпочита да инвестира ресурси в инструменти, които повишават производителността на умствената работа и тяхната монетизация. Планираното настолно приложение с модули ChatGPT е приоритет.

4. Регулаторен риск

След скандала около чат‑бота Grok от xAI вниманието на регулатори към подобни продукти се усилило. Възникването на еротично ИИ решение може да насторожи инвеститорите, особено като се вземат предвид перспективите за IPO на компанията.

5. Технически бариери

ChatGPT беше разработен с оглед строгите етични ограничения. За еротичния проект щеше да се наложи частично да ги премахнем, но при това да запазим блокиране на табу теми – задача изключително трудна.

Текущи проблеми със сигурността
Новата система за проверка на възрастта на потребителите все още допуска грешки в повече от 10 % случаи. Това означава, че милиони непълнолетни биха могли да получат достъп до съдържание за възрастни, създавайки сериозни юридически рискове за OpenAI.

Следователно проектът с еротичния чат‑бот официално е отложен без конкретни срокове за реализация. Компанията планира да изучи по-детайлно влиянието му върху обществото и техническите изисквания, преди да вземе окончателно решение.