Facebook против лайков и шеров: что известно из внутренних документов компании

В начале октября бывшая сотрудница Facebook Фрэнсис Хауген передала внутренние документы компании властям США. Сегодня СМИ получили новую порцию архива Facebook Papers, согласно которому, Facebook уже давно изучает влияние отметок «Мне нравится» и репостов на пользователей.

Из документов следует: эксперты неоднократно предупреждали, что алгоритмы поощряют хейтбейт и дезинформацию. В компании отрицают обвинения: отдавать приоритет вредному контенту нелогично, потому что это отпугнуло бы рекламодателей.

В 2019 году эксперты Facebook начали очередное исследование одной из основополагающих функций социальной сети — кнопки «Мне нравится».

Согласно внутренним документам, они изучали, что люди будут делать, если Facebook удалит значок с поднятым вверх большим пальцем и другими эмоджи-реакциями из Instagram. Исследователи обнаружили, что кнопки иногда вызывали у самых молодых пользователей Instagram «стресс и беспокойство», особенно если посты не получали достаточного количества лайков от друзей.

Но обнаружилось, что, когда кнопка «Мне нравится» скрыта, пользователи меньше взаимодействовали с публикациями и рекламой. В то же время это не уменьшило социальную тревогу подростков, и молодые пользователи не делились большим количеством фотографий, как предполагала компания.

Согласно документам, CEO Facebook Марк Цукерберг и другие руководители обсуждали возможность скрыть кнопку «Мне нравится» для большего числа пользователей Instagram. В конце концов, эксперимент провели в ограниченном масштабе, чтобы «создать позитивный нарратив в прессе» вокруг Instagram.

Из документа: «Обзор Project Daisy — версия, представленная Марку Деку».

• Мы делаем количество лайков приватным для всех в Instagram — они не исчезают, просто становятся приватными.
• В Instagram подростки испытывают настоящее «давление, чтобы быть совершенными».
• Мы надеемся, что сделав количество отметок приватным, сможем уменьшить это давление.
• Приложение Facebook — это другой опыт, и мы не планируем внедрять там эту возможность.
• Люди не особенно беспокоятся о том, сколько лайков они получают на Facebook.

Исследование кнопки «Мне нравится» показывает, как Facebook ставит под сомнение основополагающие функции социальных сетей.

Поскольку компания неоднократно переживала кризис за кризисом из-за дезинформации, конфиденциальности и разжигания ненависти, ключевой вопрос состоял в том, является ли причиной устройство платформы. По сути, это те функции, которые сделали Facebook таким, какой он есть.

Помимо кнопки «Мне нравится» изучались и другие функции: «Поделиться», которая позволяет мгновенно распространять контент, размещенный другими людьми; группы, на базе которых формируются цифровые сообщества; и другие инструменты, которые определяют, как более 3,5 млрд человек ведут себя и взаимодействуют онлайн.

Выводы экспертов далеко не всегда были положительными. Раз за разом подтверждалось, что ключевые функции становятся объектом злоупотреблений или поощряют токсичный контент. Во внутренней записке за август 2019 года несколько исследователей заявили, что именно «основная механика продукта» Facebook позволила дезинформации и риторике ненависти распространиться на сайте.

Из документа: «Что такое сопутствующий ущерб».

• «У нас также есть убедительные доказательства того, что наши основные механизмы продукта, такие как витальность, рекомендации и оптимизация взаимодействия, являются важной частью того, почему эти типы речи процветают на платформе».
• «Если мы примем решение не вмешиваться в эти проблемы, будь то по техническим (точным) или философским причинам, то конечным результатом будет то, что Facebook как платформа в целом, будет активно (если не обязательно сознательно) продвигать подобную деятельность. Механика нашей платформы не является нейтральной».

В архиве Facebook Papers, который содержит слайды, темы внутренних обсуждений, диаграммы, заметки и презентации, нет информации о том, какие действия предпринял Facebook после получения результатов.

При этом в последние годы некоторые функции были изменены. Теперь пользователям легче скрыть сообщения, которые они не хотят видеть, а политические группы не отображаются в рекомендациях, что должно замедлить распространение дезинформации.

Но основа работы Facebook — сеть, в которой информация может быстро распространяться, где люди могут накапливать друзей, подписчиков и лайки, — в конечном счете остается в значительной степени неизменной. По словам некоторых нынешних и бывших руководителей, многие существенные изменения в социальной сети были блокировались для роста и привлечения пользователей.

Бывший вице-президент Facebook Брайан Боланд покинул компанию в прошлом году. По его словам, несмотря на то, что сотрудники могут активно высказывать свое мнение, изменить что-то довольно трудно.

Документы компании — часть архива, который адвокат Фрэнсис Хауген предоставил Комиссии по ценным бумагам и биржам и Конгрессу США. Ранее Хауген передала документы изданию The Wall Street Journal. В этом месяце отредактированная информация из архива была раскрыта нескольким СМИ.

Представитель Facebook Энди Стоун раскритиковал статьи, основанные на документах, заявив, что они были построены на «ложной предпосылке».

По его словам, Facebook инвестировал $13 млрд и нанял более 40 тысяч сотрудников для обеспечения безопасности людей. Кроме того, добавляет он, компания призывает «к обновлению правил, в соответствии с которыми демократические правительства устанавливают отраслевые стандарты, которых мы все можем придерживаться».

В этом месяце Марк Цукерберг опубликовал пост, где отметил: для компании было бы «крайне нелогично» отдавать приоритет вредному контенту, потому что рекламодатели не хотят покупать рекламу на платформе, которая распространяет ненависть и дезинформацию.

«На самом базовом уровне, я думаю, большинство из нас просто не распознают ложную картину компании, которую рисуют», — пишет он.

Основы успеха

17 лет назад, когда Цукерберг основал Facebook в своей комнате в общежитии Гарвардского университета, миссия сайта заключалась в том, чтобы объединить людей в кампусах колледжей и сформировать в интернете группы в соответствии с интересами и нахождением пользователей.

Активный рост начался в 2006 году, когда Facebook представил ленту новостей — поток фотографий, видео и обновлений статуса, размещенных друзьями. Со временем компания добавляла все больше функций, чтобы людям было интересно проводить время на платформе.

В 2009 году Facebook представил кнопку «Мне нравится». Крошечный символ, отображающий предпочтения пользователей, стал одной из самых важных функций социальной сети. Компания разрешила другим веб-сайтам использовать кнопку «Мне нравится», чтобы люди могли поделиться интересными материалами на своей странице в Facebook.

Это дало Facebook представление о деятельности и настроениях людей за пределами собственного сайта и лучше таргетировать их с помощью рекламы. Лайки также означали, что пользователи хотели видеть больше в своих лентах новостей. Таким образом люди проводили больше времени на Facebook.

Позже была добавлена возможность создавать группы, которая позволила присоединяться к закрытым каналам, чтобы обсуждать конкретные интересы. Благодаря функции страниц компании и знаменитости смогли собирать большие базы поклонников и транслировать сообщения подписчикам.

Еще одним нововведением стала кнопка «Поделиться», с помощью которой люди быстро делились фотографиями, видео и сообщениями, размещенными другими пользователями, в своей ленте новостей или в других местах. Автоматически сгенерированная система рекомендаций учитывала поведение пользователя в интернете и предлагала ему подписаться на новые группы, друзей или страницы.

Но, согласно документам, у этих функций были побочные эффекты. Некоторые люди начали использовать лайки, чтобы сравнивать себя с другими. Другие использовали кнопку «Поделиться», чтобы быстро распространять информацию, поэтому ложный или вводящий в заблуждение контент становился вирусным за считанные секунды.

Из документа: «Daisy Project, отметки “Мне нравится” и социальное сравнение».

• Когда людей просили вспомнить опыт, который вызвал негативное социальное сравнение в Instagram, они чаще всего связывали это негативное чувство с количеством лайков.

Facebook заявлял, что проводит внутренние исследования в том числе и для выявления проблем, которые можно исправить, сделав продукты безопаснее. Глава Instagram Адам Моссери сказал, что благодаря анализу благополучия пользователей платформа больше инвестировала в меры по борьбе с буллингом.

Тем не менее Facebook не может просто исправить себя и стать более здоровой социальной сетью, когда так много проблем связано с основными функциями. Так считает Джейн Литвиненко, старший научный сотрудник Гарвардского центра Кеннеди Шоренштейна, которая изучает социальные сети и дезинформацию.

«Когда мы говорим о кнопке “Мне нравится”, кнопке “Поделиться”, ленте новостей и их мощности, мы, по сути, говорим об инфраструктуре, на которой построена сеть, — говорит она. — Суть проблемы здесь заключается в самой инфраструктуре».

Самоанализ

По мере того как исследователи Facebook продолжали изучать работу его продуктов, тревожных результатов становилось все больше.

В июле 2019 года они оценивали, как члены сообществ могут подвергаться дезинформации. Выяснилось, что все начиналось с пользователей, которые приглашали других в закрытую группу. Эти люди могли привлечь тысячи новых участников, и сообщества вырастали буквально за ночь. Затем они заваливали группы материалами с пропагандой этнического насилия или другим вредным контентом.

В другом отчете за 2019 год рассматривалось, как некоторые страницы набирали популярность в Facebook с помощью постов, посвященных милым животным и другим безобидным темам. Но как только набиралось несколько десятков тысяч подписчиков, страницу продавали. Затем покупатель использовал ее, чтобы демонстрировать дезинформацию или политически противоречивый контент.

В документах говорится, что пока исследователи изучали кнопку «Мне нравится», руководство Facebook также задумывалось о том, чтобы скрыть функцию. В сентябре 2019 года небольшой эксперимент прошел в Австралии, когда лайки на публикациях пользователей Facebook были скрыты.

Компания хотела посмотреть, поможет ли это снизить давление и социальное сравнение между пользователями. Предполагалось, что это даже может побудить их чаще размещать публикации. Но этого не произошло. Тогда Facebook решил не проводить тест на большей аудитории, отметив, что кроме количества лайков предстоит решить еще немало проблем.

В исследовании от 2020 года один из экспертов отметил, что кнопка «Поделиться» и так называемые агрегаторы репостов в ленте новостей (автоматически сгенерированные кластеры сообщений, которыми делились друзья пользователя), «предназначены для привлечения внимания и поощрения взаимодействия».

Однако без надлежащего контроля эти функции могут «распространять плохой контент и источники», например буллинг и публикации с обнаженной натурой, отметил он.

Это происходит потому, что благодаря этим функциям люди стали меньше стесняться делиться друг с другом постами, видео и сообщениями. На самом деле, пользователи в три раза чаще делились любым контентом из агрегаторов репостов, сказал исследователь.

Одно из сообщений, которое завирусилось таким образом, было размещено аккаунтом под названием «Сердитый патриот». Его автор призывал людей, протестующих против жестокости полиции, «выбрать целью полицейский участок» в Портленде, штат Орегон. После того, как он попал в агрегаторы, появились сотни комментариев, наполненных ненавистью. Это был пример «хейтбейта», объясняет исследователь.

Через все материалы красной нитью проходит история того, как сотрудники Facebook выступали за изменения в работе социальной сети и часто обвиняли руководителей в том, что они препятствуют этому.

Во внутреннем сообщении в августе 2020 года исследователь Facebook раскритиковал систему рекомендаций, которая предлагает страницы и группы для людей, которым следует следовать, и сказал, что она может «очень быстро привести пользователей к теориям заговора и соответствующим группам».

«Из-за опасений по поводу возможных реакций общественности и заинтересованных сторон, мы сознательно подвергаем пользователей риску, — написал он. — За то время, что мы колебались, я видел, как люди из моего родного города все дальше и дальше спускались в “кроличью нору” таких движений, как QAnon, антипрививочники и теория заговора о COVID-19».

«За этим было больно наблюдать», — добавил он.