Является ли Facebook угрозой свободному обществу?

22.05.2017

Недавно я прочла статью, которая произвела на меня неизгладимое впечатление. Многое из описанного ниже не было сюрпризом, а о чем-то я узнала впервые. Первым желанием было срочно удалить свой профайл в Facebook, вторым — перевести и рассказать о прочитанном как можно большему количеству человек. Ниже вы можете ознакомится с моим переводом этой статьи, где автор аргументированно объясняет, как Марк Цукерберг практически стал самым могущественным человеком на Земле.

Вступление

Facebook по величине рыночной капитализации — шестая компания в мире. Количество зарегистрированных пользователей приближается к двум миллиардам и рост пользовательской базы остается стабильным. Facebook собирает беспрецедентный объем данных о миллиардах пользователей.

Возможно, компания Марка Цукерберга станет в ближайшее время самой крупной в мире, а сам он самым богатым человеком, поскольку структура акций Facebook построена таким образом, что основатель обладает исключительно уникальным правом голоса и контроля.

По мере роста Facebook будет расти его собственность на наш социальный граф и наши цифровые «я». Как известно, системный риск — самый высокий в централизованных системах. Экстраполируя тенденции, я считаю, что Facebook станет центром риска для свободного общества. Ниже перечислены мои аргументы:

• Facebook участвует во всеобъемлющем и постоянно растущем сборе данных о миллиардах своих пользователей;
• Эти данные позволяют в геометрической прогрессии манипулировать людьми и их реальностями;
• Facebook расширяется за счет человеческого моделирования;
• Facebook аккумулирует беспрецедентную централизацию власти и влияние в руках отдельного человека.

Сбор данных

Facebook уже знает о своих пользователях больше, чем они сами знают о себе, и скорость сбора данных растет. Всеобъемлющие объемы индивидуальных данных Facebook являются его текущим продуктом и ложатся в основу его будущих амбиций.

Личные данные

Facebook получает очень ценные персональные данные, которые добровольно передаются при регистрации. Пользователи охотно раскрывают:

• Настоящее имя
• Образование
• Данные по трудоустройству (и доходу)
• Месту жительства и своему текущему расположению
• Местам путешествий
• Социальным связям (семья, партнеры, друзья, знакомые)
• Хобби, увлечения
• Предпочтения («likes») для брендов, продуктов, политических партий, еды, развлечений и т.д.

Всё это формирует ядро личного профиля в Facebook.

Поведенческие данные

Распространённость Facebook позволяет ему собирать непревзойденное количество поведенческих данных для заполнения личного профиля. Он отслеживает или теоретически может отслеживать:

Каждый посещаемый сайт. Кнопка «like» на Facebook находится практически на каждой странице. Даже этой. Если вы залогинились в Facebook, как большинство пользователей, ваши данные будут собраны.

Каждую покупку, которую вы совершаете. Facebook работает со сторонними поставщиками данных, чтобы знать историю ваших покупок. А сопоставить набор данных с реальными именами уже не составляет проблем. Facebook также отслеживает продажи, совершаемые через собственную платформу, и покупки, которые выбраны, но не приобретены. Вы могли также заметить, что виджет «Поделитесь своими покупками с друзьями» становится все более распространенным на страницах подтверждения заказа — это также можно отследить.

Места, которые вы посещаете. В дополнение к местоположениям, которые вы самостоятельно отмечаете, Facebook расширяет и дополняет данные, используя отслеживание геолокаций в различных мобильных приложениях.

Прогнозные данные

Facebook собирает данные о вас постоянно, даже если вы не ведете свой профайл или его нет. Но если вы активно взаимодействуете в системе, он собирает еще больше данных, чем вы можете себе представить, и там, где вы даже не можете вообразить.

«Теневые» профили. Facebook создает теневые профили для пользователей, не входящих в систему, сохраняя их имена, адреса, контактную информацию и т.д. Это обеспечивается путем поиска существующими пользователями этих людей через систему «Найти моих друзей» и может быть дополнено сканированием в интернете.

Ваше изображение. Facebook сканирует миллиарды загрузок изображений, которые он получает, чтобы создать лицевые и телесные профили для всех пользователей, предлагая отметить на фото своих знакомых или друзей. Он также использует эти данные для расширения «теневых» профилей. Таким образом, Facebook знает персональную информацию и биометрические шаблоны для пользователей, которые даже не зарегистрировались. Facebook может отслеживать фотографии общественных мест, к примеру, туристов, и идентифицировать пользователей и «теневых» пользователей в фоновом режиме. Фотографии содержат информацию о геолокации, поэтому местоположение этих лиц отслеживается без их согласия. Нейронные сети (например, мощное программное обеспечение для распознавания образов Google) могут также определять расположение фотографии, даже если метаданных местоположения нет.

Ваши эмоции. Обработка естественного языка (Natural language processing) позволяет Facebook понимать ваши эмоции. Он это делает путем анализа того, как и что вы печатаете в статусах, а также в сообщениях через Messenger (примечание автора: WhatsApp закодировано). Он также знает настроение вашего оппонента, с которым вы взаимодействуете, используя одни и те же алгоритмы, что и при определении эмоций в ваших статусах и сообщениях. Поэтому Facebook знает, участвуете ли вы в более позитивным или негативным диалоге, а также как каждый из типов контента заставляет вас чувствовать себя на основе вашего ответа. Кнопка «Like» была модернизирована как «реакции». Предоставляя вам больше возможностей выразить свои эмоции, Facebook создал больше ресурсов для их отслеживания. Те же нейронные сети, которые идентифицируют ваше лицо на каждой фотографии, могут определить ваше эмоциональное состояние в момент фотографирования.

Больше. Я не хочу грузить вас информацией и пугать, но важно понимать, сколько данных получает Facebook. Важным моментом является и то, что Facebook имеет доступ к таким большим объемам данных о людях, что это выходит за рамки человеческого понимания и понятий личного пространства. По мере совершенствования технологии искусственного интеллекта способность извлекать эту информацию будет только возрастать.

Манипуляция людьми и их реальностью

Имея доступ к такому большому набору данных, Facebook имеет уникальную возможность манипулировать своими пользователями и их реальностью, увеличивая свою власть и влияние на реальную жизнь. Вы ведь помните, что лента Facebook не является хронологической. Facebook сам решает, какие посты вы видите, и кто видит ваши сообщения.

Исследование человеческой психологии

Я бы хотел, чтобы вы серьезно рассмотрели идею о том, что Facebook имеет большую способность понимать человеческую психологию, чем каждый психолог, философ, когнитивный ученый и поведенческий экономист в истории человечества все вместе взятые. Если это шокирует вас, позвольте мне объяснить.

Для академической и практической работой по человеческой психологии обычно используют выборки, исчисляемые сотнями респондентов. Я прочел множество исследований и видел единицы работ, в которых были выборки размером в несколько тысяч; уникальные по объемам работы — максимум десять тысяч. Дополнительно проблему представляет выбор образца — респондента, предмета исследования. Как правило, это две категории — либо студенты, привлекаемые в университетах, или люди, участвующие за деньги. Большинство обычных людей не являются предметом изучения и никогда не будут.

Facebook обладает данными различных людей по всему миру, богатых и влиятельных в том числе. И размер в 2 миллиарда буквально на порядок больше любого другого психологического исследования когда-либо проведенного.

Facebook знает об этом, поэтому у него есть Facebook Research. Это подразделение является самым мощным центром психологических экспериментов в истории человечества. У него есть 2 миллиарда предметов исследования и больше данных, чтобы их понять. Большинство исследователей и ученых могут об этом только мечтать.

Манипуляция людьми ради прибыли

Facebook делает все, чтобы пользователи взаимодействовали с новостной лентой (News Feed), продавая рекламу на миллиардов долларов. Он манипулирует психикой своих пользователей, чтобы удерживать их вовлеченными, получая при этом прибыль.

Вот как это работает: новостная лента предназначена для того, чтобы вызывать привыкание, как и игровые автоматы. Facebook (и другие платформы для социальных сетей) используют Machine Zone.

Что такое machine zone? Это ритм. Это ответ на точно настроенный цикл обратной связи. Это мощное пространственно-временное искажение. Вы нажимаете кнопку. Что-то происходит. Вы снова нажимаете. Нечто подобное, но не совсем то же самое происходит снова. Может быть, вы выиграете, а может нет. Повторение. Повторение. Повторение. Повторение. Повторение. Это удовольствие от повтора, безопасность цикла.

Прокручивая новостную ленту вы испытываете те же чувства, что и заядлый игрок постоянно нажимающий ручку игрового автомата в поиске удовольствия: что следующее, что дальше и т.д. Facebook делает это с помощью манипуляций.

Возьмем гипотетического пользователя Facebook Джимми. Джимми обычно прокручивает Facebook на своем телефоне в течение 5 минут, затем закрывает приложение. Facebook знает, что Джимми любит посты от своего друга Стива, потому что он обычно оставляет на них положительные комментарии. В следующий раз, когда Джимми достигнет 5-минутной отметки, Facebook покажет ему пост от Стива. Джимми оставляет комментарий, прокручивая его немного дольше, а затем завершает работу приложения с 8-минутной отметкой. Facebook также знает, что Джимми интересуется Дженни — он задерживаться всякий раз, когда она выкладывает новый пост в Instagram, даже если он не знаком с ней или не комментирует ее фотографии. В следующий раз, когда Джимми достигнет 8-минутной отметки, Facebook покажет ему пост от Дженни. Этот шаблон продолжается, и использование Джимми Facebook вырастает с 5 минут в день до 15.

Исследование Facebook показало, что вы не можете долго держать людей в Machine Zone с позитивным содержанием. Таким образом, время от времени алгоритм начинает использовать и отрицательное содержимое. Джимми ненавидит Чада, и Facebook это знает, потому что Джимми об этом писал в диалогах с другими пользователями в Messenger. Так что теперь, когда Джимми достигает 15-минутной отметки, Facebook показывает ему картину Чада, делающего что-то веселое. Ярость заставляет Джимми продолжать прокручивать ленту, пока уровень дофамина не достигнет уровня от просмотра постов Стива или Дженни.

Теперь Facebook увеличивает время, потраченное Джимми каждый день, и его рекламные доллары растут вместе с ним. Вот так происходит манипуляция психикой Джимми.

Манипуляция людьми для исследований

Манипуляции в Facebook существуют не только для увеличение времени в системе и прибыли. Исследование показало, что Facebook также способен манипулировать людьми, а именно — управлять новостной лентой пользователей, чтобы влиять на эмоциональные состояния этих пользователей. Исследователи обнаружили:

Когда положительные новостные посты были сокращены, люди произвели меньше позитивных новостей и больше отрицательных. Когда отрицательные посты были уменьшены, имела место обратная картина. Эти результаты показывают, что эмоции, выраженные другими людьми в Facebook, влияют на наши собственные эмоции, являясь экспериментальным доказательством массового заражения через социальные сети.

Напоминаю, что Facebook выбирает, что вам показать. Он знает эмоциональное содержание сообщений в вашей ленте, и то, как ваши эмоции реагируют на них. Он может и манипулирует пользователями соответствующим образом.

Как Facebook может манипулировать вами для исследований? Давайте рассмотрим наших гипотетических пользователей Facebook: Джимми, его друга Стива и тайный интерес Джимми- Дженни. Есть ли что-нибудь, что может показать Facebook Джимми и Стиву, что вызовет раскол между ними? Возможно, в ленте перестанут показывать записи Джимми и Стива друг другу. Или отображать только отрицательные. Может ли что-нибудь сделать Facebook, чтобы привести Джимми и Дженни к отношениям? Возможно, в ленте начнут показать только положительные образы Джимми для Дженни, определенные социальные знаки и статусы.

Даже если Facebook не вмешивается напрямую, чтобы вызвать такие результаты, у них есть все данные, необходимые для поиска шаблонов у других друзей, которые действительно сходятся, расходятся, оказываются в отношениях. Вы быстро найдете связи у 2-х миллиардов людей для наблюдений.

Манипулирование действиями людей

Facebook может не только манипулировать вашими эмоциями, но и вашими действиями. Я не утверждаю, что они это используют (пока), но возможность и вероятность существуют.

Мы социальные животные и нуждаемся в одобрении и любви других. Каждый «like» и комментарий вызывают выработку гормона дофамина в коре головного мозга. Взаимодействия в социальных сетях формируют механизм обратной связи в наших неврологических связях: мы с большей вероятностью продолжим размещать материалы, которые помогают нам активно участвовать в социальной жизни, и реже отправлять те, которые этого не делают.

Facebook выбирает, кто видит ваши посты. Если вы публикуете что-то, что кому-то не понравится, он может скрыть это от других пользователей. Если вы опубликуете что-то, что кому-то нравится, он распространит это по многим каналам, и вы получите больше лайков и ретвитов, чем раньше. Выбирая тех, кто видит, что вы публикуете, Facebook выбирает то, что вы будете публиковать в долгосрочной перспективе.

Например, скажем, если Facebook захочет, чтобы вы употребляли больше алкоголя, он может размещать ваши фотографии из баров среди большей аудитории для получения большего количество положительных реакций, а именно лайков. Ваш мозг подсознательно подтолкнет вас ходить в бары чаще в долгосрочной перспективе.

Управляя тем, как вы себя чувствуете, что вы считаете социально приемлемым, и тем, как вы действуете, Facebook может манипулировать вашей реальностью. Я не знаю, делают ли они это или планируют, но такая возможность есть, и они показали, что готовы использовать ее в определенных обстоятельствах.

Исследования заполняют профайл

Сочетание большого объема персональных данных и экспериментальных возможностей дает Facebook возможность создать почти полную модель вашей психики. Facebook знает о вас больше, чем вы сами о себе, и он может предсказать ваши реакции на все, что угодно. После тестирования на вас он может комбинировать результаты с результатами других людей, объединяя респондентов в необходимые демографические группы, чтобы увидеть, как более крупные целевые аудитории населения реагируют на определенные вещи.

Например, Facebook может знать следующее:

• Женатые люди в Айове более похотливые, чем в других штатах?
• Вы с большей вероятностью купите пиво после просмотра патриотического видео?
• Пакистанские американцы больше заинтересованы в рэп-музыке, чем пакистанцы в Пакистане?
• Японских мужчин больше привлекают лица или попы?
• Какой контент в новостной ленте скорее всего заставит вас пойти в почтовое отделение?
• Консерваторы (или либералы) более откровенны в своих частных беседах, чем в публичных высказываниях?

Все эти данные и исследования помогают понять, как Facebook может использовать информацию для построения психологического профиля вас и предсказать, как вы будете реагировать на различные стимулы. Затем эти стимулы могут быть использованы по желанию, подталкивая вас к выбранным эмоциям, действиям и результатам.

Человеческое моделирование и Виртуальная реальность

Вы должны понимать, что у Facebook есть все инструменты, необходимые для человеческого моделирования больше, чем у кого-либо когда-либо. Aral Balkan утверждает, что это их нынешняя бизнес-модель и стратегия:

Facebook — это не социальная сеть; это сканер, который оцифровывает людей. Это, во всех смыслах и целях, камера, которая захватывает вашу душу. Бизнес Facebook заключается в том, чтобы контролировать ваше моделирование, через которое он будет контролировать вас.

Переход от Манипуляции к Mоделированию

Манипулирование пользователями, подробно описанное выше, является как этически неприемлемым и сомнительным, так и ужасным PR для Facebook. Что, если вы могли бы получить те же результаты без фактического тестирования на пользователях?

Обратим внимание на отдел Facebook AI Research (FAIR). В их миссии написано: «главная цель — понимание интеллекта и построения интеллектуальных машин» путем «извлечение знаний из данных».

Ниже вы можете ознакомится с рядом цитат из этой проницательной и/или ужасающей статьи о FAIR:
Они воссоздают виртуальную память реальности и группируют ее в контексте других мест и событий. Они могут даже «фактически представлять человека», основываясь на его предыдущих симпатиях, интересах и цифровом опыте. Это несколько экспериментально, но имеет большое значение для новостной ленты Facebook…

«Если у нас есть рабочая идея, то в течение месяца она может быть внедрена на 1,5 миллиард человек», — сказал ЛеКун (Ян ЛеКун — пионер искусственного интеллекта и директор FAIR.)

Facebook открыто наращивает потенциал для моделирования человеческой психики и с гордостью сообщает об этом. Когда их технология станет достаточно мощной и продвинутой, исчезнет необходимость тестирования на реальных пользователях. Эти пользователи могут быть использованы только для проверки результатов моделирования.

Oculus и Виртуальная реальность

В 2014 году Facebook приобрела Oculus, ведущий потребительский бренд виртуальной реальности за 2 миллиарда долларов. В своем посте о приобретении Цукерберг заявил:

Самое невероятное в этой технологии — это то, что вы чувствуете, что действительно находитесь в другом месте с другими людьми… Мы верим, что однажды такая захватывающая дополненная реальность станет частью повседневной жизни для миллиардов людей.

Цукерберг хочет, чтобы миллиарды людей ежедневно пользовались его технологией виртуальной реальности.

Нетрудно увидеть усиление связи между искусственным интеллектом и моделированием человека. Отмоделированные люди, созданные из огромного массива данных, сразу будут подключаться к виртуальным реальностям Oculus.

Использование виртуальной реальности создаст еще больше возможностей для Facebook, чтобы стимулировать, манипулировать и отслеживать пользователей. Вот некоторые возможности:

Отслеживание движения глаз и зрачка. Отслеживание движения глаз и зрачка является необходимым компонентом успешного внедрения виртуальной реальности и позволит решить многие проблемы, с которыми в настоящее время сталкиваются пользователи. Facebook и Oculus в данный момент работают над вводом отслеживания движения глаз. Теперь представьте: движение ваших глаз и зрачка показывают, как вы думаете, и ими можно манипулировать, чтобы влиять на то, как вы думаете (источник). По движению глаз и зрачка можно понять, насколько вы уверены в своих решениях, независимо от того, лжете вы или нет, думаете ли вы в большей или меньшей степени о ваших желаниях. Есть свидетельства того, что манипулирование тем, на чем фокусируются ваши глаза, влияет на ваше моральное суждения. Facebook способен манипулировать тем, что видят пользователи и фиксирует их реакцию. Используя технологию отслеживанием зрачка, Oculus способен управлять тем, что пользователи испытывают, и угадывать их мысли.

Биометрическое отслеживание. Уже есть игры виртуальной реальности, которые измеряют и используют биометрические данные, в том числе электроэнцефалограмму — EEG (мозговые волны), кожно-гальваническую реакцию — GSR (уровни стресса), сердечный ритм и дыхание.

Хотя нет доказательств того, что Oculus в настоящее время разрабатывает приложения для отслеживания этих переменных, я считаю, это всего лишь вопрос времени и сбор биометрических данных может быть включен в будущие версии контроллеров или гарнитур. Завершая общую картину реакций на внешние стимулы, биометрическое отслеживание позволит Facebook собирать данные о стимулах-ответах вашего физического тела. Объемы поведенческих данных и отслеживание глаз будут моделировать и отслеживать ваш разум, в то время как биометрия будет моделировать и отслеживать ваше физическое тело.

В итоге: Facebook имеет все необходимые инструменты не только моделирования вашей психики, но и возможность манипулировать и моделировать все ваше существо, поскольку их платформа сливается с Oculus VR.

Верховный владыка Цукерберг

Мы уже рассказали выше о том, что Цукерберг имеет эксклюзивный контроль над Facebook за счет своей доли в акциях. Фактически, он единолично управляет Facebook без каких-либо сдержек и противовесов.

Каковы мотивы Цукерберга? Можем ли мы доверить ему ту власть, которой он будет обладать? Можем ли мы доверять кому-либо одному такую власть?

Политические амбиции

В феврале Марк Цукерберг опубликовал манифест «Построение глобального сообщества». Я не буду критиковать политику Цукерберга, но я не могу не отметить, что он принимает свои собственные политические предпочтения как очевидные цели для всей планеты.

Независимо от того, планирует ли Цукерберг баллотироваться в президенты США, достаточно ясно, что у него есть политические амбиции. Недавно он выступал совместно с Ангелой Меркель в ООН. Он гастролирует по всем 50 штатам США в 2017 году, чтобы понять, почему существует «большее разделения, чем я чувствую в своей жизни».

Это действия человека, который не собирается сидеть на обочине, зарабатывая свои миллиарды. Цукерберг предпринимает согласованные усилия, чтобы стать политическим центром США.

Представьте себе политика, у которого есть:

• Инструменты влияния на фокус-группы – не для небольших групп из 100 жителей штата Пенсильвания или Айова, а для 2 млрд глобальных пользователей;
• Инструменты для непосредственного влияния на информацию, доступную избирателям;
• Инструменты для измерения и манипулирования политическими предпочтениями электората.

Теперь представьте, что это один и тот же человек — самый богатый человек в мире. Будь то деньги, убеждения, «фальшивые новости» или что-нибудь еще, Цукерберг будет иметь доступ ко всему этому.

Наличие власти, чтобы влиять на политиков, создает власть, чтобы так или иначе влиять на политику.

Цукерберг человек

Готовы ли мы доверять человеку с:

• Наибольшей долей материальных благ на планете?
• Самым большим объемом персональных данных?
• Максимальным контролем над информационными потоками?
• Самым большим психологическим исследовательским центром в истории?
• Самой влиятельной интеллектуальной машиной?

Цукерберг всего лишь человек. Как говорится: «власть развращает, а абсолютная власть развращает абсолютно». Напоминаю, это тот же самый человек, который написал слова, ставшие уже мемом:

Zuck: Да, если тебе когда-нибудь понадобится информация о ком-нибудь в Гарварде
Zuck: Просто спроси
Zuck: у меня более 4000 писем, картинок, адресов, SNS
{Имя отредактированного друга} Что? Как ты справился с этим?
Zuck: Люди только что представили его.
Zuck: Я не знаю почему.
Цук: Они «доверяют мне»
Zuck: Мудаки (в оригинале: Dumb fucks)

Угроза свободному обществу

Давайте сделаем шаг назад и выведем Цукерберга из уравнения. Как мы видели, Facebook является крупнейшим сборщиком личных данных в истории. Он открыто работает над моделированием поведения человека для исследований. У него есть все инструменты, необходимые для манипулирования реальностями, эмоциями, мыслями и политическими предпочтениями людей. И он продолжает создавать эти возможности, особенно в виртуальной реальности.

Само по себе уже это является центром риска для свобод нашего общества. Эта централизация частных данных, власти и влияния опасна.

Теперь добавляем Цукерберга. У него есть политические амбиции и спорный послужной список.

Разумно ли оставлять исключительный контроль в руках одного человека? Лично я не доверяю Цуку. Но это мое мнение и интуиция, так что…

В ближайшее время Facebook станет самым мощным инструментом политической власти и манипуляций в истории. Так или иначе, кто-то другой возьмет его под свой контроль.

Надеюсь, я ошибаюсь. Время покажет.

Оригинал: TRUTHHAWK