Никакого порно: появились подробности взрослого режима ChatGPT

OpenAI планирует добавить в ChatGPT так называемый взрослый режим, который позволит пользователям вести с чат-ботом разговоры на эротические темы. Однако, по данным The Wall Street Journal, порнографии не будет: функцию ограничат более мягким сексуальным контентом в текстовой форме.

О разработке режима стало известно ещё в октябре. Тогда глава OpenAI Сэм Альтман говорил, что компании удалось снизить риски, связанные с психическим здоровьем. Поэтому появилась возможность ослабить ограничения безопасности и разрешить «эротику для подтверждённых взрослых пользователей».

Изначально запуск ожидался в этом квартале, но в начале марта OpenAI сообщила о переносе релиза. Компания объяснила это тем, что сейчас сосредоточена на более приоритетных задачах. Новые сроки выхода функции пока не объявлены.

Я горжусь компанией и тем, как мало нас отвлекает эта задача. Но иногда соблазн всё же возникает.

Сэм Альтман

Генеральный директор OpenAI

По данным The Wall Street Journal, задержка связана с внутренними опасениями и техническими трудностями. Консультативный совет OpenAI предупредил в январе, что взрослый режим может оказаться доступен детям и способствовать формированию нездоровой эмоциональной зависимости от чат‑бота. Один из членов совета заявил, что в худшем случае компания рискует создать «секс-коуча по самоубийству».

Дополнительные трудности возникли с модерацией контента. Источники сообщают, что OpenAI пытается ослабить ограничения на определённые материалы для взрослых, но при этом сохранить запрет на более опасные сценарии — например, сцены секса без согласия.

Отдельной проблемой стало создание системы определения возраста. Алгоритм, который должен ограничивать несовершеннолетним доступ к эротическому контенту, в одном из тестов ошибочно определял подростков как взрослых примерно в 12% случаев. С учётом того, что ChatGPT еженедельно используют около 100 миллионов пользователей младше 18 лет, такая ошибка теоретически могла бы открыть доступ к сексуализированным диалогам для миллионов несовершеннолетних.

При этом OpenAI отмечает, что её система определения возраста работает примерно на уровне всей индустрии — но полностью исключить ошибки в таких алгоритмах невозможно. Вероятно, именно поэтому взрослый режим на первом этапе ограничат текстовыми диалогами. Такой подход также помогает обходить требования некоторых законов — например, британского закона о безопасности в интернете (Online Safety Act), который требует обязательной проверки возраста для порнографических изображений, но не для текстовой эротики.

На фоне этого подход OpenAI выглядит более осторожным по сравнению с некоторыми конкурентами. Например, xAI уже позволяет своему чат‑боту Grok генерировать более откровенный визуальный контент — по словам Илона Маска, всё, что допустимо для фильмов с рейтингом R (аналог российского 18+).