Примерное время прочтения: 12 минут.

“Проще обмануть человека, чем убедить его, что он был обманут”

Неизвестный автор

Я разбираюсь в том как технологии используют наши психологические уязвимости. Именно поэтому последние три года я проработал экспертом по этике дизайна в Google. Я изучаю как создавать продукты так, чтобы защитить миллиард человеческих умов от манипуляций.

Когда мы используем технологии, то чаще фокусируемся на позитивной стороне того, что они делают для нас. Но я хочу показать вам обратную сторону…

Как технологии используют уязвимости нашего разума?

Впервые я стал об этом думать, когда был иллюзионистом в детстве. Иллюзионисты ищут слепые зоны, уязвимости и пределы восприятия человека, чтобы заставить человека сделать то, что он даже не будет осознавать. Когда ты понимаешь на какие кнопки человеческого разума нажимать, ты будешь играть на них, как на пианино.



Это я показываю фокус на дне рождения мамы

И это именно то, что создатели продуктов делают с вашим разумом. В погоне за вашим вниманием они играют против вас, используя ваши психологические уязвимости — осознанно и неосознанно.

Я хочу показать вам как они это делают.

Уловка #1: Выбирая из набора вариантов, вы якобы контролируете свой выбор

Западная культура построена вокруг идеалов индивидуального выбора и личной свободы. Многие из нас яростно защищают право делать «свободный» выбор, но мы не замечаем того, как составляющими этого выбора манипулируют.

Это именно то, что делают иллюзионисты. Они дают иллюзию выбора, подбирая варианты так, чтобы выигрывать независимо от того, что выберет человек. Не могу передать всю глубину этого инсайта.

Когда людям дают варианты для выбора, они редко спрашивают:

Какие варианты не были включены в список?

Почему я выбираю из этих, а не других опций?

Знаю ли я цели тех людей, которые дают мне выбор?

Ведут ли эти варианты к удовлетворению моей истинной потребности — или только отвлекают от неё? (Например, бесконечное множество зубных паст в супермаркете)



Насколько это множество опций помогает удовлетворить потребность «у меня закончилась зубная паста»?

Представьте, что вы тусуетесь с друзьями вечером в четверг и хотите где-то продолжить общение. Вы открываете Yelp (агрегатор отзывов), и ищете бары поблизости. Все друзья уткнулась в смартфоны и сравнивают бары. Ваши друзья начинают скрупулезно рассматривать фотографии и коктейльное меню. Насколько это соответствует изначальной потребности вашей компании «где-то продолжить общение»?

Не то чтобы бары — это плохое решение, но дело в том, что Yelp подменил изначальную задачу «куда нам пойти, чтобы продолжить общение?» на «у какого бара лучше фото и коктейли?» через подачу вариантов.

Более того, Yelp создал для вашей компании иллюзию, что перечисленное в нем являются исчерпывающим списком вариантов. Пока вы смотрели в смартфоны, вы не заметили через дорогу парк с музыкантами, вы не заметили галерею на другой стороне улицы, где подают блины с кофе. Ни того ни другого нет в Yelp.



Yelp незаметно изменил потребность компании «куда пойти чтобы продолжить общение?»

Чем больше всего технологии дают нам в каждой сфере нашей жизни (информация, события, места где побывать, друзья, дейтинг, работа) тем больше мы думаем, что выбор в нашем телефоне является исчерпывающим. Но так ли это?

Выбор, приближающий нас к целям отличается от выбора с наибольшим количеством вариантов. Однако если слепо следовать выбору, который дан, легко не заметить это отличие:

«Кто свободен сегодня вечером?» становится выбором среди тех, кто недавно написал нам (кого мы можем пингануть).

«Что происходит в мире?» становится тем, что пишут в новостных лентах.

«Кто свободен для свидания?» становится набором фотографий для свайпа в Tinder (вместо локальных мероприятий с друзьями или городских приключений).

«Мне нужно ответить на этот имейл» становится выбором ключевых слов для ответа (вместо более вовлекающих и глубоких вариантов коммуникации с человеком).



«Запланировать время». Все пользовательские интерфейсы это выбор среди вариантов. Что если ваш email клиент даст вам варианты воодушевляющих ответов вместо “каким сообщением вы хотите ответить?”

Когда мы просыпаемся утром и утыкаемся в телефон с уведомлениями, это создает идею «утреннего подъема вместе со всем, что я пропустил со вчерашнего вечера» (еще больше примеров тут: Joe Edelman’s Empowering Design talk)



Список уведомлений, когда мы проснулись утром — насколько он помогает нам достичь целей? Насколько он отражает то, что нам действительно важно?

Создавая варианты для выбора, технологии подменяют то, как мы воспринимаем свой выбор. Чем больше внимания мы будем обращать на те варианты, которые нам даны, тем больше мы будем замечать, когда они не соответствуют нашим истинным потребностям.

Уловка#2. Положите игровой автомат в свой карман

Если ты — мобильное приложение, то как ты можешь сделать так, чтобы привязать к себе любого человека? Ответ: стань игровым автоматом.

Обычный человек проверяет смартфон 150 раз в день. Почему мы это делаем? Неужели мы делаем 150 осознанных выборов в день?



Как часто вы проверяете свой email в течение дня?

Основной ингредиент в игровых автоматах — это переменная награда.

Если вы хотите максимизировать зависимость от своего продукта, то вам нужно связать действия пользователя (дернуть рычаг) с переменной наградой. Вы тянете рычаг и немедленно получаете или заманчивую награду (например, мэтч в Tinder или какой-то другой «приз»), или вообще ничего. Зависимость возрастает, когда ставка вознаграждения наиболее вариативна.

Действительно ли этот эффект работает на людях? Да. Игровые автоматы зарабатывают в США больше денег, чем бейсбол, кино и парки развлечений вместе взятые. В сравнении с другими видами азартных игр, «проблемная зависимость» от игровых автоматов возникает в 3-4 раза быстрее, согласно профессору университета Нью-Йорка Natasha Dow Schull, автору книги Addiction by Design.



Неприятная правда: несколько миллиардов человек держат игровые автоматы в своих карманах

Когда мы достаем телефон из кармана, мы играем в игровые автоматы, чтобы увидеть какие уведомления к нам пришли.

Когда мы обновляем входящую почту, мы играем в игровые автоматы, чтобы увидеть какие новые письма мы получили.

Когда мы прокручиваем ленту Instagram, мы играем в игровые автоматы, чтобы увидеть, какое фото выпадет следующим.

Когда мы свайпаем лица в Tinder, мы играем в игровые автоматы, чтобы узнать, получится у нас с кем-то потенциально создать пару.

Когда мы тапаем на красную точку на колокольчике в Facebook, мы играем в игровые автоматы, чтобы узнать, что там внутри.



«Сыграй в игровые автоматы, чтобы узнать как много лайков ты собрал»

Приложения и сайты распыляют переменную награду по своим продуктам, потому что это выгодно для бизнеса.

В каких-то случаях игровые автоматы в продуктах появляются случайно. Например, нет никакой злой корпорации, которая специально сделала из email игровой автомат. Никому не выгодно, что миллионы людей проверяют свою почту, а там ничего нет. Дизайнеры Apple и Google также не хотели сделать игровой автомат из смартфона. Это вышло случайно.

Но сейчас компании типа Apple или Google должны взять на себя ответственность за снижение влияния переменной награды и переход к менее аддиктивным, более предсказуемым моделям за счет продуманного дизайна. Например, компании могут побуждать людей установить период времени в течение дня или недели, когда они могут использовать приложения-«игровые автоматы» и подстраивать все уведомления под это время.

Уловка #3. Страх пропустить что-то важное (FOMO, fear of missing out)

Другая уловка для управления нашим разумом — увеличить «1% шанс пропустить что-то действительно важное».

Если я смогу убедить вас, что я — канал важной информации, сообщений, дружеских контактов, потенциальных сексуальных партнеров, то вам будет тяжело меня выключить, отписаться или удалить свой аккаунт… потому что (ага, я выиграл!) вы можете пропустить что-то важное.

Поэтому мы оставляем новостные email-рассылки, даже если они не приносят нам ничего полезного (“что если я пропущу важный анонс в будущем?”)

Поэтому мы остаемся «друзьями» с людьми, с которыми не общались вечность («что если я пропущу что-то важное от них?»)

Поэтому мы продолжаем свайпать фотографии в приложениях для дейтинга, даже если мы давно ни с кем не встречались («Что если я пропущу ту единственную, которой я понравлюсь»)

Поэтому мы продолжаем использовать соцмедиа («Что если я пропущу то, что обсуждают мои друзья?»)

Но если мы углубимся в изучение этого страха, мы увидим, что он бесконечен. Мы всегда будем упускать что-то важное когда мы не используем что-либо.

Будут моменты в Facebook, которые мы пропустим, не листая фейсбук шестой час за день (например, старый друг приехавший в ваш город).

Будут моменты в Tinder, которые мы пропустим, не свайпая 700 фотографий подряд (например, партнер о котором мы мечтали).

Будут экстренные звонки, которые мы пропустим, не будучи онлайн круглосуточно.

Но давайте будем честны: проживать моменты нашей жизни, боясь пропустить что-то важное, — это не то, для чего мы были созданы.

Удивительно, как быстро мы очнемся от этой иллюзии, отпустив этот страх. Когда мы отключимся больше чем на день, отпишемся от уведомлений или поедем на неделю на «диджитал детокс» — то поймем, что на самом деле нам не о чем переживать.

То, на что мы не обращаем внимания, не беспокоит нас.

Мысль «а что если я пропущу что-то важное?» появляется до отключения, отписки или выключения — не после. Представьте, что технологические компании осознают это и помогут нам выстроить отношения с друзьями или продуктами с точки зрения «хорошо потраченного времени», а не того, что мы могли бы что-то упустить.

Уловка #4. Социальное одобрение



“Марк Хауман отметил вас на фотографии”. Одно из самых убедительных сообщений, которое может получить человек.

Мы все уязвимы перед социальным одобрением. Потребность в принадлежности к определенному кругу, быть принятым — это одна из самых сильных мотиваций человека. Сегодня социальное одобрение находится в руках технологических компаний.

Когда меня отмечает на фото мой приятель Марк, я думаю, что он делает осознанный выбор отметить меня. Но я даже не представляю, как компания типа Facebook подводит его к этому действию.

Facebook, Instagram и Snapchat манипулируют тем, как люди отмечают других на фотографиях, предлагая пользователям все лица, которые они могут распознать. Например, они упрощают задачу, создавая рамку с вопросом «отметить Тристана на фото?» — по которой нужно всего лишь кликнуть.

Так вот, когда Марк отмечает меня, на самом деле он отвечает на предложение Facebook отметить меня, а не делает осознанный выбор. Такой дизайн позволяет Facebook контролировать, как часто миллионы людей получают социальное одобрение.



«Хотите отметить себя?» Facebook использует отметки на фото, чтобы люди чаще отмечали других людей, и тем самым создавали больше внешних социальных эффектов.

То же происходит, когда мы меняем наше фото в профиле? Facebook знает, что в этот момент мы наиболее уязвимы перед социальным одобрением: «что мои друзья подумают о моём новом фото?» Facebook может ранжировать эту фотографию выше в новостных лентах, она дольше будет на виду и больше людей лайкнут или оставят комментарий. Каждый раз, когда кто-то ставит лайк или комментирует, мы возвращаемся обратно в соцсеть.

Каждый человек по-умолчанию реагирует на социальное одобрение, но некоторые демографические группы (тинэйджеры) имеют более сильные реакции, и следовательно, более уязвимы. Именно поэтому так важно понимать насколько могущественны продуктовые дизайнеры, когда они эксплуатируют такие человеческие уязвимости.



“Как много лайков я получил?”

Уловка #5. Социальная взаимность («зуб за зуб»)

Ты делаешь мне услугу — я должен тебе услугу в следующий раз

Ты говоришь «спасибо» — я отвечаю «пожалуйста»

Ты отправляешь мне e-mail — некрасиво не ответить тебе

Ты подписываешься на меня — некрасиво не подписаться в ответ (особенно для подростков).

Мы уязвимы из-за необходимости отвечать взаимностью на жесты других. И также как с социальным одобрением, технологические компании манипулируют тем, как часто мы испытываем социальную взаимность.

В части случаев так произошло само собой: email и мессенджеры по умолчанию подразумевают взаимность. Но в других случаях компании эксплуатируют эту уязвимость намеренно.

LinkedIn самый очевидный манипулятор. LinkedIn стремится создать настолько много взаимных обязательств между пользователями, насколько возможно. Всё потому, что каждый раз, когда достигается взаимность между пользователями (через принятие запроса на контакт, ответа на сообщения или подтверждения навыка) им нужно вернуться на linkedin.com. Так LinkedIn заставляет пользователей проводить больше времени у себя на сайте или в приложении.

Так же как Facebook, LinkedIn эксплуатирует «асимметрию восприятия». Когда вы получаете приглашение установить контакт с кем-то, вы представляете, что этот человек сделал осознанный выбор добавить вас. Но в реальности он бессознательно ответил на собранный LinkedIn’ом список предложенных контактов. Другими словами, LinkedIn перевел ваш подсознательный импульс добавить человека в социальное обязательство, на которое миллионы пользователей хотят ответить взаимностью. И все ради выгоды, которую получит соцсеть от проведенного в ней времени.



Разве не странно, что LinkedIn поставил в одно место подтверждение запросов на контакт вместе с кучей новых приглашений законнектиться?

Представьте себе миллионы людей, вырванные посреди дня, чтобы ответить взаимностью друг другу — все ради выгоды компаний, которые создали такой дизайн.

Добро пожаловать в мир социальных медиа.



“Теперь ваш ход. Подтвердите навыки ваших контактов”. После того, как вы приняли подтверждение ваших навыков, LinkedIn пользуется вашим когнитивным искажением ответить взаимностью и предлагает подтвердить навыки еще четырем контактам.

Представьте, если бы технологические компании несли ответственность за минимизацию взаимных обязательств. Или если бы существовала организация, которая представляет общественные интересы — как индустриальный консорциум или FDA (Управление по санитарному надзору США), но для технологий. Они могли бы мониторить, чтобы технологические компании не злоупотребляли человеческими уязвимостями.



“LinkedIn наконец-то начал окупаться — он привел мне двух новых подписчиков в Twitter”

Уловка #6. Бездонные сосуды, бесконечные ленты и автозапуск



YouTube автоматически запускает следующее видео после обратного отсчета.

Другой способ манипулировать умами — дать людям возможность потреблять без остановки, даже если они уже насытились.

Как? Да легко. Возьмите конечный и ограниченный опыт и сделайте из него бесконечный непрекращающийся поток.

Профессор Корнельского университета Brian Wansink продемонстрировал это в своем исследовании, показав как обмануть человека и заставить его есть суп, дав ему бездонную тарелку, которая автоматически наполняется по мере того, как человек ест. С бесконечной тарелкой супа люди потребляют на 73% больше калорий, чем с обычной тарелкой, и ошибаются в оценке съеденного на 140 калорий.

Технологические компании используют похожий принцип. Новостные ленты созданы с автоматической догрузкой, чтобы вы продолжали прокручивать и у вас не было повода остановиться, передумать или уйти.

По этой же причине видеосервисы Netflix, YouTube или Facebook после обратного отсчета включают следующее видео — вместо того, чтобы дождаться вашего осознанного выбора. Огромная доля трафика на этих сайтах генерируется за счет автовоспроизведения следующего видео.



“Netflix автоматически включает следующий эпизод после обратного отсчета”



Facebook без вашего спроса включает автовоспроизведение следующего видео после обратного отсчета.

Технологические компании часто заявляют «мы всего лишь упрощаем для пользователя просмотр видео, которое он хочет посмотреть», в то время как они всего лишь преследуют собственные интересы. И нельзя их винить в этом, потому как «проведенное на платформе время» (time spent) – это валюта, за которую они борются.

Несмотря на это, представьте себе, если бы технологические компании помогали вам сознательно ограничить браузинг, чтобы увеличить качество потраченного времени.

Уловка #7. Прерывания против «уважительных» уведомлений

Компании знают, что сообщения, которые прерывают пользователя, чаще получают немедленный ответ, чем асинхронные сообщения, например, email.

Если бы Facebook messenger (или WhatsApp, WeChat или SnapChat) дали волю, они бы сделали такой дизайн системы сообщений, что немедленно прерывали бы пользователя (и показывали ему окно с чатом) вместо того, чтобы помочь пользователям с уважением относиться к вниманию друг друга.

Другими словами, прерывание выгодно для бизнеса.

Также в интересах компаний повышение ощущений срочности и необходимости вернуть социальное обязательство. Например, Facebook автоматически сообщает отправителю когда вы "просмотрели" сообщение, вместо того, чтобы помочь вам избежать “раскрытия” читали вы его или нет ("когда вы знаете, что тот кто отправил вам сообщение знает, что вы его прочитали — вы еще больше чувствуете себя обязанным ответить").

На этом фоне выделяется Apple с более уважительным отношением к пользователям и возможностью отключить "уведомления о прочтении".

Проблема в том, что увеличение прерываний во имя бизнеса разрушает возможность сфокусироваться для миллионов людей и создает миллиарды бесполезных прерываний каждый день. Это огромная проблема, которую нам нужно решить общими стандартами дизайна (возможно, как часть проекта Time Well Spent).

Уловка #8. Связать свои потребности с потребностями пользователя

Другой способ манипулирования вами — это взять ваше намерение использовать приложение (например, чтобы выполнить задачу) и сделать его неотделимым от задач бизнеса (максимизировать наше потребление, пока мы используем продукт).

Например, когда мы идем в магазин за углом, намерения #1 и #2 — это покупка лекарств и молока. Но продуктовые магазины хотят максимизировать количество покупок, поэтому они ставят молоко и лекарства в конец магазина.

Другими словами, они делают то, что хотят покупатели (молоко и лекарства) неотделимым от того, что хочет бизнес. Если бы магазины были действительно организованы для поддержки людей, они бы поместили наиболее популярные продукты в начале.

Технологические компании создают дизайн своих сайтов похожим образом. Например, если ты хочешь посмотреть мероприятия сегодня вечером на Facebook (твое намерение), то приложение Facebook не даст тебе сделать это. Сначала ты попадешь на ленту новостей (интересы бизнеса). Это сделано намеренно. Facebook хочет конвертировать интерес в его использовании в интерес провести максимально много времени на Facebook, потребляя контент.

Представьте, если бы...

Twitter дал возможность публиковать твит без необходимости смотреть свою ленту.

Facebook дал возможность посмотреть сегодняшние события без необходимости смотреть свою ленту.

Facebook дал возможность использовать Facebook Connect как паспорт для создания аккаунтов в сторонних приложениях — без необходимости устанавливать приложение целиком, с лентой новостей и уведомлениями.

В мире «хорошо потраченного времени» всегда есть прямая возможность получить то, что ты хочешь независимо от того, что хочет бизнес. Представьте цифровой «Билль о правах», который очерчивает стандарты дизайна и принуждает продукты для миллионов людей давать им возможность напрямую получать то, что они хотят, без необходимости проходить намеренно установленные отвлечения.



Представьте, если бы браузеры помогали находить то, что вам нужно — особенно на сайтах, которые намеренно уводят вас от цели по своим собственным причинам.

Уловка #9. Неудобный выбор

Нам говорят, что бизнесу достаточно «сделать выбор доступным»:

«Если вам не нравится этот продукт, вы всегда можете использовать другой»

«Если вам не нравится, вы всегда можете отписаться»

«Если вы зависимы от нашего приложения, вы всегда можете удалить его со своего телефона»

Бизнес в прямом смысле хочет, чтобы ты делал выбор который ему нужен легко, а тот который не нужен сложно. Иллюзионисты делают то же самое. Ты облегчаешь зрителю выбор того, что ты хочешь и усложняешь выбор того, чего не хочешь.

Например, NYtimes.com дает вам "сделать свободный выбор" по отмене подписки. Но вместо отключения по кнопке "отписаться" они отправляют вам письмо с инструкцией по какому номеру и в какое время нужно позвонить, чтобы отменить подписку.



NYtimes якобы дает свободу выбора в отмене подписки.

Вместо того, чтобы смотреть на мир с позиции возможности выбора, мы должны смотреть на мир с позиции усилия необходимого для совершения выбора. Представьте себе мир, где опции для выбора помечены уровнем сложности их воплощения (как коэффициент силы). И была бы независимая сущность — индустриальный консорциум или некоммерческая организация, которая помечала бы эти уровни сложности и устанавливала бы стандарты навигации среди них.

Уловка #10. Ошибки предсказания и стратегия «ноги в двери»



«Потратить следующие 20 минут». Facebook предлагает простой выбор "посмотреть фото". Кликнули бы мы если бы знали реальную "цену" этого выбора?

Последняя уловка такая: приложения эксплуатируют неспособность человека предсказывать последствия первого действия.

Люди не могут интуитивно предсказать реальную цену клика, когда видят предложение кликнуть. Продажники используют техники «ноги в двери», задавая небольшие, невинные вопросы, чтобы начать разговор («всего один клик, чтобы посмотреть какой из твитов был ретвитнут») и и продолжить («почему бы не остаться ненадолго?»). Все вовлекающие сайты используют этот трюк.

Представьте, если бы веб-браузеры и смартфоны, двери, через которые люди делают выбор, по настоящему присматривали бы за людьми и помогали им предсказывать последствия клика (на основе реальных данных о том какие реальные выгоды и стоимость имеет этот клик?)

Именно поэтому я добавляю «примерное время прочтения» в начале моих постов. Если вы показываете «настоящую стоимость» выбора перед пользователями, вы относитесь к вашей аудитории с достоинством и уважением. В мире «хорошо потраченного времени» опции для выбора подаются в формате прогноза издержек и выгод, чтобы пользователи могли по умолчанию делать обоснованный выбор, а не прилагать дополнительные усилия.



«Вы все еще кликните?» TripAdvisor использует технику «ноги в двери», предлагая поставить оценку в один клик («сколько звёзд?»), при этом спрятав за кликом трехстраничный опросник.

Выводы и как мы можем исправить ситуацию

Вы расстроены тем, как технологии манипулируют вашим разумом? Я тоже. Я перечислил всего несколько техник, но их буквально тысячи. Представьте целые книжные полки, семинары, воркшопы и тренинги, которые учат вдохновленных технологических предпринимателей подобным техникам. Представьте сотни инженеров, чья каждодневная работа состоит в том, чтобы придумывать, как держать вас на крючке.

Настоящая свобода — это свободный разум, и нам нужны технологии на нашей стороне, которые помогут нам жить, чувствовать и действовать свободно.

Смартфоны, экраны уведомлений и веб-браузеры нужны нам в качестве экзоскелетов для нашего разума и межличностных отношений. Экзоскелетов, которые ставят в приоритет наши ценности, а не наши импульсы. Человеческое время — это ценность. И мы должны защищать его с тем же рвением, как приватность и другие цифровые права.

Тристан Харрис был Product Philosopher в Google до 2016. Он изучал как технологии воздействуют на внимание миллиардов людей, их поведение и благополучие.

Перевод на русский