OpenAI планирует добавить в ChatGPT так называемый взрослый режим, который позволит пользователям вести с чат-ботом разговоры на эротические темы. Однако, по The Wall Street Journal, порнографии не будет: функцию ограничат более мягким сексуальным контентом в текстовой форме.
О разработке режима стало известно ещё в октябре. Тогда глава OpenAI Сэм Альтман говорил, что компании удалось снизить риски, связанные с психическим здоровьем. Поэтому появилась возможность ослабить ограничения безопасности и разрешить «эротику для подтверждённых взрослых пользователей».
Изначально запуск ожидался в этом квартале, но в начале марта OpenAI сообщила о переносе релиза. Компания объяснила это тем, что сейчас сосредоточена на более приоритетных задачах. Новые сроки выхода функции пока не объявлены.
Я горжусь компанией и тем, как мало нас отвлекает эта задача. Но иногда соблазн всё же возникает.
Сэм Альтман
Генеральный директор OpenAI
По данным The Wall Street Journal, задержка связана с внутренними опасениями и техническими трудностями. Консультативный совет OpenAI предупредил в январе, что взрослый режим может оказаться доступен детям и способствовать формированию нездоровой эмоциональной зависимости от чат‑бота. Один из членов совета заявил, что в худшем случае компания рискует создать «секс-коуча по самоубийству».
Дополнительные трудности возникли с модерацией контента. Источники сообщают, что OpenAI пытается ослабить ограничения на определённые материалы для взрослых, но при этом сохранить запрет на более опасные сценарии — например, сцены секса без согласия.
Отдельной проблемой стало создание системы определения возраста. Алгоритм, который должен ограничивать несовершеннолетним доступ к эротическому контенту, в одном из тестов ошибочно определял подростков как взрослых примерно в 12% случаев. С учётом того, что ChatGPT еженедельно используют около 100 миллионов пользователей младше 18 лет, такая ошибка теоретически могла бы открыть доступ к сексуализированным диалогам для миллионов несовершеннолетних.
При этом OpenAI отмечает, что её система определения возраста работает примерно на уровне всей индустрии — но полностью исключить ошибки в таких алгоритмах невозможно. Вероятно, именно поэтому взрослый режим на первом этапе ограничат текстовыми диалогами. Такой подход также помогает обходить требования некоторых законов — например, британского закона о безопасности в интернете (Online Safety Act), который требует обязательной проверки возраста для порнографических изображений, но не для текстовой эротики.
На фоне этого подход OpenAI выглядит более осторожным по сравнению с некоторыми конкурентами. Например, xAI уже позволяет своему чат‑боту Grok генерировать более откровенный визуальный контент — по словам Илона Маска, всё, что допустимо для фильмов с рейтингом R (аналог российского 18+).
Что в сумке? Как изменилось то, что мы носим с собой
Чем заняться в выходные осенью в Санкт-Петербурге: 5 идей на любой вкус
Как выбрать кухонный нож: 3 совета от Samura
Не Питером единым: 10 мест в Ленобласти, которые стоит посетить