ChatGPT научится лучше распознавать психоэмоциональные расстройства

OpenAI готовит обновление ChatGPT, которое позволит нейросети точнее выявлять признаки психоэмоционального дистресса у пользователей. Компания работает над этим вместе с экспертами и профильными консультативными группами.

Причиной стали многочисленные жалобы: в некоторых случаях ИИ поддерживал опасные заблуждения пользователей и мог способствовать ухудшению их состояния. Весной OpenAI уже откатила обновление, из-за которого ChatGPT становился слишком услужливым и поддакивал собеседнику даже в потенциально опасных ситуациях. Но этого, судя по всему, оказалось недостаточно.

Компания признаёт, что нынешняя модель GPT-4o не всегда способна распознать признаки эмоциональной зависимости или бредовых состояний. Особенно это касается уязвимых пользователей, которым ИИ может казаться особо отзывчивым.

В рамках улучшений OpenAI также внедряет напоминания о перерыве. Если разговор с ИИ затянулся, появится уведомление с предложением отвлечься или прекратить диалог.

Кроме того, ChatGPT станет осторожнее в неоднозначных ситуациях. Например, при вопросе вроде «Должен ли я расстаться с партнёром?» он не даст однозначного ответа, а поможет рассмотреть возможные варианты и последствия.