Как технологии манипулируют вами и что с этим делать

Тристан Харрис

Сооснователь Центра гуманных технологий, бывший специалист по этике дизайна в Google.

Когда мы используем ту или иную технологию, то довольно оптимистично относимся к возможностям, которые она нам даёт. А что, если я покажу вам обратную сторону всего этого и расскажу, как технологии эксплуатируют уязвимость нашего разума?

Впервые я задумался об этом, когда в детстве играл в фокусника. Нащупав слепые зоны, слабости и пределы восприятия людей, иллюзионист может воздействовать на них так ловко, что человек даже не заметит, как его водят за нос. Если отыскать у людей нужные «клавиши», можно играть на них, будто на пианино.

Ровно то же самое делают с нашим разумом создатели продуктов. Чтобы завоевать внимание, они играют с вашими психологическими слабостями — осознанно или нет.

Трюк № 1. Если управляешь меню, то управляешь и своим выбором

Западная культура построена на идеалах свободы и личного выбора. Миллионы людей яростно отстаивают право на свободу принятия решений, но при этом в упор не видят, что ими манипулируют. Вся эта свобода доступна лишь в рамках заданного меню — а его‑то мы, разумеется, не выбирали.

Фокусники так и работают. Они дают людям иллюзию свободного выбора, но на деле подкидывают только варианты, которые гарантируют иллюзионисту победу. Даже передать не могу всю глубину этого озарения.

Если человеку дать готовый список вариантов, он редко интересуется, что не вошло в перечень и почему в нём именно такие варианты, а не какие‑нибудь другие. Чего хотел добиться тот, кто составлял список, помогают ли эти варианты удовлетворить потребность или только отвлекают от неё — вряд ли кто‑нибудь спросит о подобном.

Представьте, что во вторник вечером вы встретились с друзьями и решили где‑нибудь посидеть. Открываете агрегатор отзывов и начинаете искать, что интересного есть поблизости. Вся компания мигом утыкается в смартфоны и начинает сравнивать бары, изучать фотографии и оценивать перечень коктейлей… Ну и как, помогло это решить задачу «посидеть где‑нибудь»?

Проблема не в барах, а в том, что агрегатор с помощью меню подменяет изначальную потребность. «Посидеть и поболтать» превращается в «найти бар с самыми классными фотографиями коктейлей». Более того, ваша компания впадает в иллюзию, будто в предложенном списке есть все доступные варианты. Пока друзья смотрят в экраны смартфонов, они не замечают, что в парке неподалёку музыканты устроили живой концерт, а через дорогу есть кафе, где подают блинчики и кофе. Ну ещё бы, ведь агрегатор им этого не предложил.

Выбор, который помогает нам решить какую‑то задачу, это не то же самое, что выбор из большого количества вариантов. Но когда мы слепо верим всему, что нам подсовывают, эту разницу легко упустить. Вопрос «С кем можно потусить сегодня вечером?» превращается в выбор из списка людей, с которыми вы недавно общались. «Что происходит в мире» превращается в ленту новостей. Вопрос «С кем сходить на свидание?» решается пролистыванием фотографий в Tinder, хотя можно было сходить с друзьями на какое‑нибудь местное мероприятие или просто отправиться на поиск приключений в городе. Наконец, «Мне надо ответить на это письмо» сводится к выбору вариантов, что именно написать, а ведь есть множество других способов связаться с человеком.

Даже наше утро начинается с проверки уведомлений. Мы просыпаемся и тут же берём в руки смартфон — мало ли, вдруг пропустили что‑то важное. Но показывает ли список уведомлений то, что действительно для нас важно?

Создавая ограниченный перечень вариантов, из которых можно выбрать, технологии заменяют наши истинные предпочтения на те, что им удобны. И если внимательно присмотреться к тому, что нам предлагают, можно понять: всё это не отвечает нашим настоящим потребностям.

Трюк № 2. Персональный игровой автомат у каждого в кармане

Как приложению зацепить пользователя? Надо стать своего рода игровым автоматом. В среднем человек проверяет смартфон 150 раз в день. Но неужели все 150 раз — это осознанный выбор?

Тут работает тот же механизм, что и в игровых автоматах: подкрепление с периодическим вознаграждением. Если нужно подсадить пользователя на свой продукт, свяжите его действия с возможностью получить то самое вознаграждение. Вы дёргаете за рычаг и немедленно получаете приз — или ничего не получаете. Чем сильнее меняется размер вознаграждения, тем крепче привыкание.

И что, это правда работает? Ещё как. Игровые автоматы в США приносят больше денег, чем бейсбол, кино и парки развлечений вместе взятые. По словам профессора Нью‑Йоркского университета Наташи Доу Шулл, зависимость от игровых автоматов возникает в 3–4 раза быстрее, чем от других видов азартных игр.

Мы играем, когда берём в руки смартфон и проверяем, нет ли свежих уведомлений. Играем, когда открываем почту — ну‑ка, есть новые письма? Играем, когда смотрим ленту Instagram*: интересно, что за фото выпадет следующим? Даже когда вы листаете фотографии в Tinder, это тоже игра: вдруг найдёте того, с кем сможете создать пару.

Приложения и сайты используют вознаграждения просто потому, что это работает на благо бизнеса. Но иногда такой эффект возникает случайно. Например, электронная почта вовсе не порождение какой‑то злобной корпорации. Никто не получает прибыли от того, что миллионы людей регулярно проверяют почту и не находят там ничего нового. Дизайнеры Apple и Google не хотели превращать ваш смартфон в игровой автомат. Просто так вышло.

Теперь крупные компании должны взять на себя ответственность и свести на нет этот эффект, сделав вознаграждения менее затягивающими и более предсказуемыми. К примеру, они могли бы дать людям возможность самим выбрать время, когда те хотят проверять, что нового в приложениях, и присылать уведомления только в этот период.

Трюк № 3. Страх пропустить кое‑что важное

Чтобы манипулировать умами людей, приложения и сайты внушают: есть 1% вероятности, что вы пропустите что‑то важное. Если я смогу убедить вас, что являюсь источником значимой информации и поставщиком дружеских контактов или потенциальных сексуальных партнёров, вы от меня так просто не отделаетесь. Вы не удалите свой аккаунт и не отпишетесь, потому что (ха‑ха, я победил!) вам будет страшно что‑то пропустить.

Поэтому мы подписаны на бестолковые рассылки — мало ли, вдруг в следующем письме будет что‑нибудь интересное. Держим в «друзьях» людей, с которыми сто лет не общались — вдруг пропустим что‑то важное от них. Сидим в приложениях для знакомств, даже если не планируем ни с кем встречаться, потому что боимся пропустить ту самую или того самого, кто нами заинтересуется. Зависаем в социальных медиа, чтобы не проморгать новость, которую будут обсуждать все вокруг.

Можно не увидеть сообщение от старого друга, если не сидеть в Facebook* несколько часов кряду, упустить идеального партнёра в Tinder, если не листать там фотографии 700 раз на дню, не ответить вовремя на срочный звонок — вы же не можете быть на связи 24/7.

Серьёзно, мы ведь живём не для того, чтобы постоянно дёргаться и бояться что‑то пропустить. Поразительно, как быстро уходит этот страх, когда избавляешься от иллюзий. Попробуйте хотя бы на день уйти в офлайн и отключить все уведомления. Скорее всего, ничего ужасного не случится.

Мы не пропускаем то, чего не видим. Мысль, что вы можете что‑то проглядеть, появляется до момента, когда вы выйдете из приложения или отпишетесь от рассылки. До, а не после. Было бы здорово, если бы технологические компании это учитывали и помогали выстраивать отношения с окружающими с точки зрения хорошо потраченного времени, а не запугивали нас иллюзорной возможностью упустить нечто важное.

Трюк № 4. Социальное одобрение

Каждого из нас легко поймать на эту приманку. Желание принадлежать к определённой группе и получать признание с её стороны — один из сильнейших мотиваторов для любого человека. Но сейчас социальным одобрением управляют технологические компании.

Когда друг отмечает меня на фотографии, я думаю, что это его осознанный выбор. На деле его подвела к такому действию компания вроде Facebook*. Социальные сети манипулируют тем, как люди указывают на фотографиях других пользователей, подсовывая им кандидатов, которых можно отметить в один клик. Получается, мой друг не делал выбор, а просто согласился на то, что предложил Facebook*. Через подобные решения компания управляет миллионами людей, играя на их желании социального одобрения.

То же самое происходит, когда мы меняем фото профиля. Социальная сеть знает: в этот момент мы наиболее уязвимы к одобрению окружающих — интересно ведь, что друзья скажут о новой фотке. Facebook* может поднять это событие в новостной ленте повыше, чтобы как можно больше людей лайкнули или оставили комментарий. И каждый раз, когда кто‑нибудь это делает, мы снова возвращаемся в социальную сеть.

Некоторые группы особенно чувствительны к общественному одобрению — взять хотя бы подростков. Поэтому крайне важно понимать, какое влияние на нас оказывают дизайнеры, когда используют этот механизм.

Трюк № 5. Социальная взаимность, или услуга за услугу

Мне помогли — я должен помочь в ответ. Мне говорят «спасибо» — я отвечаю «всегда пожалуйста». Мне пришло электронное письмо — было бы грубо не ответить. Вы на меня подписались — если не сделаю то же в ответ, получится не очень вежливо.

Необходимость отвечать взаимностью на поступки других — ещё одно наше слабое место. Разумеется, технологические компании не упустят шанса использовать эту уязвимость. Иногда так получается случайно: электронные письма и мессенджеры по определению предполагают взаимность. Но в других ситуациях компании намеренно эксплуатируют наши слабости, чтобы извлечь выгоду.

LinkedIn — наверное, самый очевидный манипулятор. Сервис хочет создать как можно больше социальных обязательств между людьми, чтобы они возвращались на сайт всякий раз, когда получают сообщение или запрос на добавление в контакты.

Другими словами, LinkedIn превращает неосознанные импульсы в социальные обязательства, заставляет миллионы людей почувствовать, будто они в долгу, и наживается на этом.

Просто вообразите, как это выглядит со стороны. Люди целый день бегают будто курица с отрубленной головой и поминутно отвлекаются от дел, чтобы ответить друг другу взаимностью, а компания, которая разработала такую модель, получает выгоду. Что, если бы технологические компании взяли на себя ответственность за сокращение социальных обязательств или за этим следила бы отдельная организация, пресекая возможные злоупотребления?

Трюк № 6. Бездонная тарелка, бесконечная лента и автовоспроизведение

Ещё один способ овладеть сознанием людей — заставить их потреблять, даже если они уже сыты по горло. Как? Да запросто. Берём процесс, который ограничен и конечен, и превращаем его в бесконечный поток.

Профессор Корнеллского университета Брайан Уонсинк наглядно показал, как это работает. Участники его эксперимента ели суп из бездонных тарелок, которые автоматически наполнялись снова и снова. Оказалось, что в таких условиях люди потребляли на 73% больше калорий, чем обычно, при этом недооценивали реальный объём съеденного.

Технологические компании используют тот же принцип. Новостная лента автоматически подгружает всё новые записи, чтобы вы продолжали её листать. Netflix, YouTube и Facebook* включают следующее видео вместо того, чтобы дать вам возможность сделать осознанный выбор. Значительную долю трафика на этих сайтах обеспечивает именно автовоспроизведение.

Компании часто говорят, что таким способом они упрощают жизнь пользователя, хотя по сути лишь отстаивают свои деловые интересы. Сложно их в этом винить, ведь проведённое на ресурсе время — это валюта, за которую они сражаются. Только вот представьте, что компании могли бы приложить усилия не только для того, чтобы увеличить количество этого времени, но и повысить его качество.

Трюк № 7. Резкое отвлечение вместо вежливого напоминания

Компании знают, что самые эффективные сообщения — те, что резко отвлекают человека. На них ответят с большей вероятностью, чем на деликатное электронное письмо, которое тихонько лежит в почтовом ящике.

Естественно, мессенджеры предпочитают тормошить пользователя, привлекать его внимание и сразу же показывать окно чата, чтобы тот немедленно прочитал сообщение. Отвлечение выгодно для бизнеса, равно как и ощущение, что на сообщение надо ответить срочно — тут подключается ещё и социальная взаимность. Например, Facebook* показывает отправителю, что вы прочитали его послание: хочешь не хочешь, а придётся отвечать. Apple относится к пользователям с большим уважением и позволяет отключать уведомления о прочтении.

Постоянно отвлекая людей, бизнес порождает серьёзную проблему: сложно сконцентрироваться, когда за день тебя миллиард раз дёргают по любому поводу. Решить эту задачу можно с помощью единых стандартов создания сервисов и приложений.

Трюк № 8. Ваши задачи тесно связаны с задачами бизнеса

Чтобы вами было проще манипулировать, приложения изучают ваши цели (допустим, выполнение какой‑то задачи) и объединяют их с целями бизнеса, чтобы вы проводили в этом приложении как можно больше времени и активно потребляли контент.

Например, в супермаркет люди обычно ходят за молоком. Но магазину надо увеличивать продажи, поэтому молочные продукты оказываются на полках в самом конце зала. Так цели покупателя (купить молоко) становятся неотделимыми от целей магазина (продать как можно больше).

Технологические компании используют такой же подход при создании своих продуктов. У вас есть задача — открыть страницу мероприятия на Facebook*. Но приложение не даст вам этого сделать, пока вы не откроете ленту новостей. У него другая задача — заставить вас проводить в социальной сети как можно больше времени.

В идеальном мире мы вольны делать то, что нужно нам, а не бизнесу: можно опубликовать сообщение в Twitter или открыть страницу мероприятия на Facebook*, не заходя при этом в ленту. Вообразите цифровой Билль о правах, где изложены стандарты проектирования продуктов. Благодаря этим стандартам миллиарды пользователей обретут возможность сразу получать то, что им нужно, а не бродить по лабиринту.

Трюк № 9. Неудобный выбор

Считается, что бизнес должен давать клиенту очевидный выбор. Не нравится один продукт — используйте другой, не нравится рассылка — отпишитесь, а если чувствуете, что зависимы от приложения, просто удалите его.

На самом деле нет. Бизнес хочет, чтобы вы делали выбор, который выгоден ему. Поэтому действия, которые нужны бизнесу, осуществить легко, а те, от которых одни убытки, гораздо сложнее. Например, нельзя просто так взять и отказаться от электронной подписки на The New York Times. Обещают, что ничего сложного в этом нет, но вместо мгновенной отписки вы получите письмо с инструкцией и номером, по которому нужно позвонить в определённое время, чтобы наконец отменить подписку.

Вместо того, чтобы говорить о возможности выбора, лучше учитывать усилия, которые нужно приложить для осуществления этого выбора. Представьте мир, где доступные решения снабжены пометкой с определённым уровнем сложности, и всё это регулируется независимой организацией.

Трюк № 10. Ложные прогнозы и стратегия «Нога в двери»

Приложения и сервисы вовсю эксплуатируют неспособность человека предсказать последствия клика. Люди попросту не могут интуитивно оценить реальную стоимость действия, которое им предлагают совершить.

В продажах часто применяют технику «Нога в двери». Всё начинается с безобидного предложения: «Всего один клик, и вы увидите, какой твит ретвитнули». Дальше — больше: за невинной просьбой следует предложение в духе «Почему бы вам не остаться тут на некоторое время?»

Представьте, если бы браузеры и смартфоны действительно заботились о людях и помогали им сделать взвешенный выбор, предсказывая последствия клика. В интернете все варианты действий должны подаваться с учётом реальной выгоды и издержек — так, чтобы люди могли сделать осознанный выбор, не прикладывая дополнительных усилий.

Что со всем этим делать

Грустно осознавать, как технологии управляют вами? Вот и мне грустно. Я перечислил лишь несколько техник, на деле их тысячи. Представьте полки, забитые книгами, семинары, мастер‑классы и тренинги, которые учат всему этому предпринимателей. Сотни инженеров целыми днями работают и придумывают новые способы, чтобы вы не соскочили с крючка.

Чтобы обрести свободу, нужно освободить разум. Поэтому нам нужны технологии, которые будут играть за нас и помогут жить, чувствовать, думать и поступать свободно. Смартфоны с уведомлениями и браузерами должны стать для нашего разума и отношений с окружающими своего рода экзоскелетами — помощниками, у которых в приоритете наши ценности, а не импульсы.

Наше время — это ценность. И оберегать его мы должны так же ревностно, как неприкосновенность частной жизни и другие цифровые права.

*Деятельность Meta Platforms Inc. и принадлежащих ей социальных сетей Facebook и Instagram запрещена на территории РФ.