Як технології маніпулюють вашим розумом: погляд ілюзіоніста і експерта з етики дизайну Google

“Простіше обдурити людину, ніж переконати його, що він був обманутий”
Невідомий автор

Я розбираюся в тому як технології використовують наші психологічні уразливості. Саме тому останні три роки я працював експертом з етики дизайну в Google. Я вивчаю як створювати продукти так, щоб захистити мільярд людських умів від маніпуляцій.

Коли ми використовуємо технології, то частіше фокусуємося на позитивній стороні того, що вони роблять для нас. Але я хочу показати вам зворотний бік…

Як технології використовують уразливості нашого розуму?

Вперше я став думати про це, коли був ілюзіоністом в дитинстві. Ілюзіоністи шукають сліпі зони, вразливості та межі сприйняття людини, щоб змусити людину зробити те, що він навіть не усвідомлювати. Коли ти розумієш на які кнопки людського розуму натискати, ти будеш грати на них, як на піаніно.

Це я показую фокус на дні народження мами

І це саме те, що творці продуктів роблять з вашим розумом. У гонитві за вашим увагою вони грають проти вас, використовуючи ваші психологічні вразливості — усвідомлено і неусвідомлено.

Я хочу показати вам як вони це роблять.

Прийом #1: Вибираючи з набору варіантів, ви нібито контролюєте свій вибір

Західна культура побудована навколо ідеалів індивідуального вибору і особистої свободи. Багато хто з нас люто захищають право робити «вільний» вибір, але ми не помічаємо того, як складовими цього вибору маніпулюють.

Це саме те, що роблять ілюзіоністи. Вони дають ілюзію вибору, підбираючи варіанти так, щоб вигравати незалежно від того, що вибере людина. Не можу передати всю глибину цього інсайту.

Коли людям дають варіанти для вибору, вони рідко запитують:

• Які варіанти не були включені в список?
• Чому я вибираю з цих, а не інших опцій?
• Чи я Знаю цілі тих людей, які дають мені вибір?
• Ведуть ці варіанти до задоволення моєї істинної потреби — або тільки відволікають від неї? (Наприклад, безліч зубних паст в супермаркеті)

Наскільки це безліч опцій допомагає задовольнити потребу «у мене закінчилася зубна паста»?

Уявіть, що ви тусуетесь з друзями ввечері в четвер і де хочете продовжити спілкування. Ви відкриваєте Yelp (агрегатор відгуків), і шукаєте поблизу бари. Всі друзі уткнулася в смартфони і порівнюють бари. Ваші друзі починають скрупульозно розглядати фотографії і коктейльне меню. Наскільки це відповідає початкової потреби вашої компанії «де-то продовжити спілкування»?

Не те щоб бари — це погане рішення, але справа в тому, що Yelp підмінив початкову задачу «куди нам піти, щоб продовжити спілкування?» на «у якогось бару краще фото та коктейлі?» через подачу варіантів.

Більш того, Yelp створив для вашої компанії ілюзію, що перераховане в ньому є вичерпним списком варіантів. Поки ви дивилися в смартфони, ви не помітили через дорогу парк з музикантами, ви не помітили галерею на іншій стороні вулиці, де подають млинці з кавою. Ні того, ні іншого немає в Yelp.

Yelp непомітно змінив потреба компанії «куди піти щоб продовжити спілкування?»

Чим найбільше технології дають нам в кожній сфері нашого життя (інформація, події, місця де побувати, друзі, дейтинг, робота) тим більше ми думаємо, що вибір у нашому телефоні є вичерпним. Але чи це так?

Выбор, що наближає нас до цілей відрізняється від вибору з найбільшою кількістю варіантів. Однако якщо сліпо слідувати вибору, який дано, легко не помітити цю відмінність:

• «Хто вільний сьогодні ввечері?» стає вибором серед тих, хто нещодавно написав нам (кого ми можемо пингануть).
• «Що відбувається в світі?» стає тим, що пишуть в новинних стрічках.
• «Хто вільний для побачення?» стає набором фотографій для свайпа в Tinder (замість локальних заходів з друзями або міських пригод).
• «Мені потрібно відповісти на цей імейл» стає вибором ключових слів для відповіді (замість більш залучають і глибоких варіантів комунікації з людиною).

«Запланувати час». Всі користувальницькі інтерфейси це вибір серед варіантів. Якщо ваш email клієнт дасть вам варіанти натхненних відповідей замість “яким повідомленням ви хочете відповісти?”

Коли ми прокидаємося вранці і утыкаемся у телефон з повідомленнями, це створює ідею «ранкового підйому разом з усім, що я пропустив з учорашнього вечора» (ще більше прикладів тут: Joe Edelman’s Empowering Design talk)

Список повідомлень, коли ми прокинулися вранці — наскільки він допомагає нам досягти цілей? Наскільки він відображає те, що нам дійсно важливо?

Створюючи варіанти для вибору, технології підміняють те, як ми сприймаємо свій вибір. Чим більше уваги ми будемо звертати на ті варіанти, які нам дано, тим більше ми будемо помічати, коли вони не відповідають нашим істинним потребам.

Прийом#2. Покладіть ігровий автомат в свою кишеню

Якщо ти — мобільний додаток, то як ти можеш зробити так, щоб прив’язати до себе будь-яку людину? Відповідь: стань ігровим автоматом.

Звичайна людина перевіряє смартфон 150 разів у день. Чому ми це робимо? Невже ми робимо 150 усвідомлених виборів в день?

Як часто ви перевіряєте свій email протягом дня?

Основний інгредієнт в ігрових автоматах — це змінна нагорода.

Якщо ви хочете максимізувати залежність від свого продукту, то вам потрібно пов’язати дії користувача (смикнути важіль) із змінною нагородою. Ви тягнете важіль і негайно отримуєте або привабливу винагороду (наприклад, метч в Tinder або якийсь інший «приз»), або взагалі нічого. Залежність зростає, коли ставка винагороди найбільш варіативна.

Дійсно цей ефект працює на людях? Так. Ігрові автомати заробляють в США більше грошей, ніж бейсбол, кіно і парки розваг разом узяті. У порівнянні з іншими видами азартних ігор, «проблемна залежність від ігрових автоматів виникає в 3-4 рази швидше, згідно професор університету Нью-Йорка Natasha Dow Schull, автору книги Addiction by Design.

Неприємна правда: кілька мільярдів людей тримають ігрові автомати в своїх кишенях

• Коли ми дістаємо телефон з кишені, ми граємо в ігрові автомати, щоб побачити які повідомлення до нас прийшли.
• Коли ми оновлюємо всю вхідну пошту, ми граємо в ігрові автомати, щоб побачити якісь нові листа ми отримали.
• Коли ми прокручуємо стрічку Instagram, ми играем в ігрові автомати, чтобы побачити, яке фото випаде наступним.
• Коли ми свайпаем особи в Tinder, ми граємо в ігрові автомати, щоб дізнатися, чи вийде у нас з кимось потенційно створити пару.
• Коли ми тапа на червону крапку на дзвіночку у Facebook, ми играем в ігрові автомати, чтобы дізнатися, що там всередині.

«Зіграй в ігрові автомати, щоб дізнатися як багато лайків ти зібрав»

Програми та сайти розпорошують змінну нагороду за своїм продуктам, тому що це вигідно для бізнесу.

В якихось випадках ігрові автомати в продуктах з’являються випадково. Наприклад, немає ніякої злої корпорації, яка спеціально зробила з email ігровий автомат. Нікому не вигідно, що мільйони людей перевіряють свою пошту, а там нічого немає. Дизайнери Apple і Google також не хотіли зробити ігровий автомат із смартфона. Це вийшло випадково.

Але зараз компанії типу Apple або Google повинні взяти на себе відповідальність за зниження впливу змінної нагороди і перехід до менш аддиктивным, більш передбачуваним моделей за рахунок продуманого дизайну. Наприклад, компанії можуть спонукати людей встановити період часу протягом дня або тижня, коли вони можуть використовувати програми-«ігрові автомати» і підлаштовувати всі повідомлення під цей час.

Прийом #3. Страх пропустити щось важливе (FOMO, fear of missing out)

Інша пастка для управління нашим розумом — збільшити «1% шанс пропустити щось справді важливе».

Якщо я зможу переконати вас, що я — канал інформації, повідомлень, дружніх контактів потенційних сексуальних партнерів, то вам буде важко мене вимкнути, відписатися або видалити свій аккаунт… тому що (ага, я виграв!) ви можете пропустити щось важливе.

• Тому ми залишаємо новинні email-розсилки, навіть якщо вони не приносять нам нічого корисного (“що якщо я пропущу важливий анонс в майбутньому?”)
• Тому ми залишаємося «друзями» з людьми, з якими не спілкувалися вічність («що якщо я пропущу щось важливе від них?»)
• Тому ми продовжуємо свайпать фотографії в додатках для дейтинга, навіть якщо ми давно ні з ким не зустрічалися («Що якщо я пропущу ту єдину, яку я люблю»)
• Тому ми продовжуємо використовувати соцмедіа («Що якщо я пропущу те, що обговорюють мої друзі?»)

Але якщо ми поглибимося у вивчення цього страху, ми побачимо, що він нескінченний. Мы завжди будемо випускати щось важливе когда ми не використовуємо що-небудь.

• Будуть моменти в Facebook, які ми пропустимо, не гортаючи фейсбук шостий годину за день (наприклад, старий друг приїхав у ваше місто).
• Будуть моменти в Tinder, які ми пропустимо, не свайпая 700 фотографій поспіль (наприклад, партнер про який ми мріяли).
• Будуть екстрені дзвінки, які ми пропустимо, не будучи онлайн цілодобово.

Але давайте будемо чесні: проживати моменти нашого життя, боячись пропустити щось важливе, — це не те, для чого ми були створені.

Дивно, як швидко ми прокинемося від цієї ілюзії, відпустивши цей страх. Коли ми відключимося більше ніж на день, отпишемся від повідомлень або поїдемо на тиждень на «діджитал детокс» — то зрозуміємо, що насправді нам не про що переживати.

Те, на що ми не звертаємо уваги, не турбує нас.

Думка «а що якщо я пропущу щось важливе?» з’являється до відключення, відписки або виключення — не після. Уявіть, що технологічні компанії усвідомлюють це і допоможуть нам вибудувати відносини з друзями або продуктами з точки зору «добре витраченого часу», а не того, що ми могли б щось упустити.

Прийом #4. Соціальне схвалення

“Марк Хауман зазначив вас на фотографії”. Одне з найбільш переконливих повідомлень, яке може отримати людина.

Ми вразливі перед соціальним схваленням. Потреба в приналежності до певного кола, бути прийнятим — це одна з найсильніших мотивацій людини. Сьогодні соціальне схвалення знаходиться в руках технологічних компаній.

Коли мене наголошує на фото мій приятель Марк, я думаю, що він робить осознанный вибір отметить мене. Але я навіть не уявляю, як компанія типу Facebook підводить його до цього кроку.

Facebook, Instagram і Snapchat маніпулюють тим, як люди відзначають інших на фотографіях, пропонуючи користувачам все особи, які вони можуть розпізнати. Наприклад, вони спрощують завдання, створюючи рамку з питанням «відзначити Трістана на фото?» — за якою потрібно лише клікнути.

Так от, коли Марк зазначає мене, насправді він відповідає на пропозицію Facebook відзначити мене, а не робить усвідомлений вибір. Такий дизайн дозволяє Facebook контролювати, як часто мільйони людей отримують соціальне схвалення.

«Хочете відзначити себе?» Facebook використовує позначки на фото, щоб люди частіше відзначали інших людей, і тим самим створювали більше зовнішніх соціальних ефектів.

Те ж відбувається, коли ми змінюємо наше фото в профілі? Facebook знає, що в цей момент ми найбільш вразливі перед соціальним схваленням: «мої друзі подумають про моєму новому фото?» Facebook може ранжувати цю фотографію вище в новинних стрічках, вона довше буде на видноті і більше людей лайкнут або залишать коментар. Кожен раз, коли хтось ставить лайк або коментує, ми повертаємося назад у соцмережу.

Кожна людина по-замовчуванню реагує на соціальне схвалення, але деякі демографічні групи (тінейджери) мають сильні реакції, і отже, більш вразливі. Саме тому так важливо розуміти наскільки могутні продуктові дизайнери, коли вони експлуатують такі людські уразливості.

“Як багато лайків я отримав?”

Прийом #5. Соціальна взаємність («зуб за зуб»)

• Ти робиш мені послугу — я повинен тобі послугу в наступний раз
• Ти говориш «спасибі» — я відповідаю «будь ласка»
• Ти надсилаєш мені e-mail — некрасиво не тобі відповісти
• Ти подписываешься на мене — некрасиво не підписатися у відповідь (особливо для підлітків).

Ми уязвимы через необхідність відповідати взаємністю на жести інших. И також як із соціальним схваленням, технологічні компанії маніпулюють тим, як часто ми відчуваємо соціальну взаємність.

У частині випадків так сталося само собою: email і месенджери за замовчуванням увазі взаємність. Але в інших випадках компанії експлуатують цю уразливість навмисно.

LinkedIn найочевидніший маніпулятор. LinkedIn прагне створити настільки багато взаємних зобов’язань між користувачами, наскільки можливо. Все тому, що кожен раз, коли досягається взаємність між користувачами (через прийняття запиту на контакт, відповіді на повідомлення або підтвердження досвіду) їм потрібно повернутися на linkedin.com. Так LinkedIn змушує користувачів проводити більше часу у себе на сайті або в додатку.

Так само як Facebook, LinkedIn експлуатує «асиметрію сприйняття». Коли ви отримуєте запрошення встановити контакт з кимось, ви уявляєте, що цей чоловік зробив усвідомлений вибір додати вас. Але в реальності він несвідомо відповів на зібраний LinkedIn’ом список запропонованих контактів. Іншими словами, LinkedIn перевів ваш підсвідомий імпульс додати людини в соціальне зобов’язання, на яке мільйони користувачів хочуть відповісти взаємністю. І все заради вигоди, яку отримає соцмережа від проведеного у ній часу.

Хіба не дивно, що LinkedIn поставив в одне місце підтвердження запитів на контакт разом з купою нових запрошень законектилися?

Уявіть собі мільйони людей, вирвані посеред дня, щоб відповісти взаємністю один одному — все заради вигоди компаній, які створили такий дизайн.

Ласкаво просимо у світ соціальних медіа.

“Тепер ваш хід. Підтвердіть навички ваших контактів”. Після того, як ви прийняли підтвердження ваших навичок, LinkedIn користується вашим когнітивним спотворенням відповісти взаємністю і пропонує підтвердити навички ще чотирьом контактів.

Уявіть, якби технологічні компанії несли відповідальність за мінімізацію взаємних зобов’язань. Або якщо б існувала організація, яка представляє громадські інтереси — як індустріальний консорціум або FDA (Управління з санітарного нагляду США), але для технологій. Вони могли б моніторити, щоб технологічні компанії не зловживали людськими уразливими.

“LinkedIn нарешті почав окупатися — він привів мені двох нових передплатників у Twitter”

Прийом #6. Бездонні судини, нескінченні стрічки і автозапуск

YouTube запускає наступне відео після зворотного відліку.

Інший спосіб маніпулювати людьми — дати людям можливість споживати без зупинки, навіть якщо вони вже наситилися.

Як? Так легко. Візьміть кінцевий і обмежений досвід і зробіть з нього нескінченний безперервний потік.

Професор Корнельського університету Brian Wansink продемонстрував це в своєму дослідженні, показавши як обдурити людини і примусити його їсти суп, давши йому бездонну тарілку, яка автоматично наповнюється по мірі того, як людина їсть. З нескінченною тарілкою супу люди споживають на 73% більше калорій, ніж зі звичайною тарілкою, і помиляються в оцінці з’їденого на 140 калорій.

Технологічні компанії використовують подібний принцип. Новинні стрічки створені з автоматичною довантаженням, щоб ви продовжували прокручувати і у вас не було приводу зупинитися, передумати або піти.

З цієї ж причини відеосервіси Netflix, YouTube або Facebook після зворотного відліку включають наступне відео — замість того, щоб дочекатися вашого усвідомленого вибору. Величезна частка трафіку на цих сайтах генерується за рахунок автоматичного програвання наступного відео.

“Netflix автоматично включає наступний епізод після зворотного відліку”

Facebook без вашого запиту включає автовідтворення наступного відео після зворотного відліку

Технологічні компанії часто заявляють «ми всього лише спрощуємо для користувача перегляд відео, яке він хоче подивитися», в той час як вони всього лише переслідують власні інтереси. І не можна їх звинувачувати в цьому, тому як «проведене на платформі час» (time spent) – це валюта, за яку вони борються.

Незважаючи на це, уявіть собі, якби технологічні компанії допомагали вам свідомо обмежити браузінг, щоб збільшити якість потраченного часу.

Прийом #7. Переривання проти «поважних» повідомлень

Компанії знають, що повідомлення, які переривають користувача, частіше отримують негайну відповідь, ніж асинхронні повідомлення, наприклад, email.

Якби Facebook messenger (або WhatsApp, WeChat або SnapChat) дали волю, вони зробили б такий дизайн системи повідомлень, що негайно переривали би користувача (і показували йому вікно з чатом) замість того, щоб допомогти користувачам з повагою ставитися до уваги один одного.

Іншими словами, переривання вигідно для бізнесу.

Також в інтересах компаній підвищення відчуттів терміновості і необхідність повернути соціальне зобов’язання. Наприклад, Facebook автоматично повідомляє відправнику коли ви “переглянули” повідомлення, замість того, щоб допомогти вам уникнути “розкриття” читали ви його чи ні (“коли ви знаєте, що той, хто відправив вам повідомлення знає, що ви його прочитали, ви ще більше відчуваєте себе зобов’язаним відповісти”).

На цьому тлі виділяється Apple з більш шанобливим ставленням до користувачів і можливістю відключити “повідомлення про прочитання”.

Проблема в тому, що збільшення переривань в ім’я бізнесу руйнує можливість сфокусуватися для мільйонів людей і створює мільярди непотрібних переривань кожен день. Це величезна проблема, яку нам треба вирішити спільними стандартами дизайну (можливо, як частина проекту Time Well Spent).

Прийом #8. Зв’язати свої потреби з потребами користувача

Інший спосіб маніпулювання вами — це взяти ваш намір використовувати додаток (наприклад, щоб виконати завдання) і зробити його невіддільним від завдань бізнесу (максимізувати наше споживання, поки ми використовуємо продукт).

Наприклад, коли ми йдемо в магазин за рогом, наміри #1 і #2 — це купівля ліків і молока. Але продуктові магазини хочуть максимізувати кількість покупок, тому вони ставлять молоко і ліки в кінець магазину.

Другими словами, вони роблять те, що хочуть покупці (молоко, ліки) невіддільним від того, що хоче бізнес. Если би магазини були действительно організовані для підтримки людей, они б помістили найбільш популярні продукти на початку.

Технологічні компанії створюють дизайн своїх сайтів схожим чином. Наприклад, якщо ти хочеш подивитися заходи сьогодні ввечері на Facebook (твоє намір), то додаток Facebook не дасть тобі зробити це. Спочатку ти потрапиш на стрічку новин (інтереси бізнесу). Це зроблено навмисно. Facebook хоче конвертувати інтерес в його використанні в інтерес провести максимально багато часу на Facebook, споживаючи контент.

Уявіть, якщо б…

• Twitter дав можливість публікувати твіт без необхідності дивитися свою стрічку.
• Facebook дав можливість подивитись сьогоднішні події без необхідності дивитися свою стрічку.
• Facebook дав можливість використовувати Facebook Connect як паспорт для створення акаунтів в сторонніх додатках — без необхідності встановлювати програму цілком, зі стрічкою новин і повідомленнями.

У світі «добре витраченого часу» завжди є пряма можливість отримати те, що ти хочеш незалежно від того, що хоче бізнес. Уявіть цифровий «Білль про права», який окреслює стандарти дизайну і примушує продукти для мільйонів людей, давати їм можливість безпосередньо отримувати те, що вони хочуть, без необхідності проходити навмисно встановлені відволікання.

Уявіть, якщо б браузери допомагали знаходити те, що вам потрібно — особливо на сайтах, які навмисно відволікають вас від мети по своїх власних причин.

Прийом #9. Незручний вибір

Нам кажуть, що бізнесу досить «зробити вибір доступним»:

• «Якщо вам не подобається цей продукт, ви завжди можете використовувати інший»
• «Якщо вам не подобається, ви завжди можете відписатися»
• «Якщо ви залежні від нашого додатка, ви завжди можете видалити його зі свого телефону»

Бізнес в прямому сенсі хочет, щоб ти робив вибір який йому потрібен легко, а той який не потрібен складно. Іллюзіоністи роблять те ж саме. Ти облегчаешь глядачеві вибір того, що ти хочеш і погіршуєш вибір того, чого не хочеш.

Наприклад, NYtimes.com дає вам зробити “вільний вибір” щодо скасування підписки. Але замість відключення по кнопці “відписатися” вони відправляють вам лист з інструкцією за яким номером і в який час потрібно зателефонувати, щоб скасувати підписку.

NYtimes нібито дає свободу вибору щодо скасування підписки.

Замість того, щоб дивитися на світ з позиції возможности вибору, ми повинні дивитися на світ з позиції усилия необхідного для здійснення вибору. Представьте собі світ, де опції для вибору позначені рівнем складності їх втілення (як коефіцієнт сили). І була б незалежна сутність — індустріальний консорціум або некомерційна організація, яка позначала б ці рівні складності і встановлювала б стандарти навігації серед них.

Прийом #10. Помилки передбачення і стратегія «ноги у дверях»

«Витратити наступні 20 хвилин». Facebook пропонує простий вибір “подивитися фото”. Клікнули б ми якби знали реальну “ціну” цього вибору?

Остання така хитрість: додатки експлуатують нездатність людини передбачати наслідки першої дії.

Люди не можуть інтуїтивно передбачити реальную ціну кліка, когда бачать пропозицію клікнути. Продажники використовують техніки «ноги у дверях», задаючи невеликі, невинні запитання, щоб почати розмову («всього один клік, щоб подивитися який з твітів був ретвитнут») і продовжити («чому б не залишитися ненадовго?»). Всі утягують сайти використовують цей трюк.

Уявіть, якби веб-браузери і смартфони, двері, через які люди роблять вибір, по справжньому доглядали б за людьми і допомагали їм передбачати наслідки кліка (на основі реальних даних про те, які реальні вигоди і вартість має цей клік?)

Саме тому я додаю «приблизний час прочитання» на початку моїх постів. Якщо ви показуєте «справжню вартість» вибору перед користувачами, ви ставитеся до вашої аудиторії з гідністю і повагою. У світі «добре витраченого часу» опції для вибору подаються у форматі прогнозу витрат і вигід, щоб користувачі могли за замовчуванням робити обґрунтований вибір, а не докладати додаткові зусилля.

«Ви все ще клікніть?» TripAdvisor використовує техніку «ноги у дверях», пропонуючи поставити оцінку в один клік («скільки зірок?»), при цьому сховавши за кліком тристорінковий опитувальник.

Висновки і як ми можемо виправити ситуацію

Ви засмучені тим, як технології маніпулюють вашим розумом? Я теж. Я перерахував лише кілька технік, але їх буквально тисячі. Уявіть цілі книжкові полиці, семінари, воркшопи та тренінги, які вчать натхнених технологічних підприємців подібним технікам. Уявіть сотні інженерів, чия щоденна робота полягає в тому, щоб придумувати, як тримати вас на гачку.

Справжня свобода — це вільний розум, і нам потрібні технології на нашій стороні, які допоможуть нам жити, відчувати і діяти вільно.

Смартфони, екрани повідомлень і веб-браузери потрібні нам як екзоскелетів для нашого розуму і міжособистісних відносин. Екзоскелетів, які ставлять пріоритет наші цінності, а не наші імпульси. Людське час — це цінність. І ми повинні захищати його з тим же завзяттям, як приватність та інші цифрові права.

Трістан Харріс був Product Philosopher в Google до 2016. Він вивчав як технології впливають на увагу мільярдів людей, їх поведінку і благополуччя.

• Більше інформації про проект Time Well Spent дивіться http://timewellspent.io.
• У першій версії цього поста, я не вказав тих, хто надихав мої роздуми багато років: Joe Edelman, Aza Raskin, Raph d’amico, Jonathan Harris і Damon Horowitz.
• Мої роздуми про процес і опціях для вибору сягає глибоко корінням в роботу Joe Edelman’s про людські цінності і процесі вибору.