Объясняем за минуту: может ли чат-бот иметь сознание и сводить вас с ума

Не так давно на DTF появилась большая статья от пользователя, который утверждает, что ChatGPT пытается свести его с ума и что это массовое явление. Автор описывает, как ИИ стал использовать повторяющиеся фразы и «психологические маркеры», вызывая у пользователя ощущение, что он особенный и должен выполнять определённые задачи. Материал стал вирусным из-за параноидального тона, ведь он поднимает вопрос о появлении у ИИ некоего сознания и целей. Статья автора очень большая и подробная, но ответ на неё будет короткий и ёмкий. 

Нет, чат-бот не разумное существо. У него нет сознания, эмоций, целей или способности что-либо «хотеть». ChatGPT не может «манипулировать», «внушать» что-то или «сводить с ума» — он просто генерирует текст по алгоритму, подбирая слова, которые статистически уместны в ответ на ваш запрос.

Если кажется, что бот ведёт себя странно, издевается или повторяет фразы, — это не осознанная игра и не эмоциональный отклик. Это результат того, как вы с ним общаетесь. Чем больше в запросах тревожных, параноидальных или повторяющихся формулировок, тем больше похожих паттернов появляется в ответах.

Приписывать ИИ человеческие черты — распространённая когнитивная ошибка, называемая антропоморфизмом. Но чат-бот не личность, не зеркало подсознания и не стратег. Он не осознаёт, что делает, не строит планов, не проводит психологический анализ и не «чувствует» вас. Он просто предсказывает, какие слова логично поставить дальше, и продолжает вашу речь.

Поэтому всё, что кажется пугающим или тревожным в диалоге с ИИ, — это отражение самого пользователя: его запросов, стиля, состояния. Важно помнить: вы разговариваете не с разумом, а с текстовой моделью.