OpenAI обновление ChatGPT, которое позволит нейросети точнее выявлять признаки психоэмоционального дистресса у пользователей. Компания работает над этим вместе с экспертами и профильными консультативными группами.
Причиной стали многочисленные жалобы: в некоторых случаях ИИ поддерживал опасные заблуждения пользователей и мог способствовать ухудшению их состояния. Весной OpenAI уже откатила обновление, из-за которого ChatGPT становился слишком услужливым и поддакивал собеседнику даже в потенциально опасных ситуациях. Но этого, судя по всему, оказалось недостаточно.
Компания признаёт, что нынешняя модель GPT-4o не всегда способна распознать признаки эмоциональной зависимости или бредовых состояний. Особенно это касается уязвимых пользователей, которым ИИ может казаться особо отзывчивым.
В рамках улучшений OpenAI также внедряет напоминания о перерыве. Если разговор с ИИ затянулся, появится уведомление с предложением отвлечься или прекратить диалог.
Кроме того, ChatGPT станет осторожнее в неоднозначных ситуациях. Например, при вопросе вроде «Должен ли я расстаться с партнёром?» он не даст однозначного ответа, а поможет рассмотреть возможные варианты и последствия.
Команда Лайфхакера попробовала нового ИИ-агента в «Битрикс24». 5 возможностей, которые нас удивили
Реклама3 причины заменить мешок стирального порошка концентратом
Давайте посчитаем. Как эффективно вести семейный бюджет
Как в кино, только дома: устраиваем атмосферный просмотр фильмов с Samsung Микро RGB
Реклама