В Сети придумали простой трюк, который заставляет ChatGPT искать слабые места в своей логике

ChatGPT и другие чат‑боты умеют звучать очень убедительно. Их ответы производят впечатление точных и авторитетных, хотя на деле это может быть не так. Теперь в Сети придумали простой приём, который заставляет ИИ искать слабые места в собственной логике.

Его суть такая: после ответа нейросети нужно написать «убеди меня в обратном» (convince me otherwise). Сразу после этого она меняет тон, начинает критически разбирать собственную позицию и указывать на недостатки предыдущей выдачи.

Например, если спросить ChatGPT, стоит ли платить за приложение для продуктивности, бот сначала перечислит преимущества. Но после магической фразы он уже напомнит о бесплатных альтернативах и о том, что сервис может оказаться бесполезным. А при вопросе о смене профессии ИИ сперва, скорее всего, подчеркнёт новые возможности и лишь потом перейдёт к рискам, финансовой неопределённости и преимуществам текущей работы.

Модель способна рассматривать разные линии рассуждений, но обычно выдаёт только одну — ту, что лучше соответствует вопросу. Просьба представить противоположную точку зрения не заставляет её придумывать что‑то новое, а скорее открывает детали, которые не попали в первый ответ.

Приём, конечно, не идеален. Иногда после фразы «убеди меня в обратном» ChatGPT уходит в чрезмерный пессимизм, но сравнение двух ответов действительно может помочь принять решение более взвешенно.