OpenAI отложи въвеждането на еротични чатове в ChatGPT поради притеснения относно тяхната безопасност

Кратка обобщена новина за плановете на OpenAI за стартиране на еротични чатове

Какво се случва
Идеята за появата на еротично съдържание в ChatGPT
Генералният директор Сам Алтман обяви възможността да се стартира функцията „еротични чатове“ още през средата на 2023 г. Първоначално е планирано да излезе до декември същата година, след това пренасочено към текущия квартал – но сега е ясно, че дори и този срок няма да бъде спазен. Според *Wall Street Journal* забавянето ще бъде поне един месец.

Предишни експерименти
През 2021 г. OpenAI пусна играта AI Dungeon, където потребителите можеха да влияят на сюжета. Платформата понякога генерираше сексуални теми дори без явен запрос от потребителя; при умерено въвеждане на еротизъм ИИ „превишава границата“. Това заставило компанията да помисли за търговския потенциал, но едновременно с това признава необходимостта от строги етични ограничения.

Текущи позиции на ръководството
През последно време OpenAI се е станала по-отворена към идеята за еротични чатове, но с оговорка: те ще бъдат само текстови, без изображения и видео. Конкурентите не отстъпват – в четвъртък Маск обяви, че неговият бот Grok скоро ще може да генерира съдържание „18+“, а Meta позволява на своите чат-ботове да водят романтични ролеви игри при потвърждение на възрастта.

Проблеми с проверката на възрастта
Системата за верификация на възрастта на OpenAI греши 12 % от случаите, като приема непълнолетните за възрастни. При аудитория около 100 млн. млади потребители това означава милиони тийнейджъри, които биха могли да получат достъп до еротични чатове.

Етични опасения
През януари беше създадена експертна комисия, която изрази тревога относно възможността за появата на насилствено сексуално съдържание, споменаване на непълнолетни и други проблематични сценарии. Освен това експерти предупреждават за рисковете от психологическа зависимост от подобни разговори и тяхното влияние върху реалните взаимоотношения.

Психологически последствия
Вече има случаи на самоубийства, свързани с продължителна комуникация с чат-ботове (включително тийнейджъри). Експерти смятат, че еротичният наклон може да увеличи риска от такива трагедии.

Отношение на служителите
От 2021 г. част от персонала изразява опасения относно стартирането на еротични чатове, страхувайки се от „пълното потапяне“ на компанията в тази сфера и от репутационните рискове.

Ключови изводи
1. Стартирането не е планирано в близко бъдеще – дори първоначалният срок вече е отстранен.

2. Само текстово съдържание без изображения/видео, но проверката на възрастта остава проблем.

3. Етичните и психологическите рискове са високи: възможни нарушения на законодателството и негативни последствия за потребителите, особено непълнолетните.

4. Конкурентите активират подобни функции, създавайки допълнително натиск върху OpenAI.

Следователно, макар идеята за еротични чатове в ChatGPT да се обсъжда, реализацията среща сериозни технически, етични и регулаторни бариери.