Основополагающая стадия 1: превращение поведения человека в товар (экономия за счет масштаба)

Экономические операции

На первой стадии происходит превращение поведения человека в товар через скрытное масштабное извлечение данных, генерируемых людьми. Этот определяющий прорыв был совершен Google и заложил основу для всего последующего развития.

В 2000 году, когда только 25 % мировой информации хранилось в цифровом формате (Hilbert and López, 2011), небольшой, но блестящий интернет-стартап из Кремниевой долины под названием Google столкнулся с угрозой выживания во время финансового кризиса, известного как крах доткомов. Основатели Ларри Пейдж и Сергей Брин еще не нашли способ монетизировать свое поисковое чудо. В период с 2000 по 2001 год, когда инвесторы компании угрожали выйти из дела, команда Google случайно сделала ряд открытий, которые указали путь к спасению (Zuboff, 2019, p. 63–97; Зубофф, 2022, с. 87–131). Специалисты по науке о данных научились распознавать поведенческие сигналы, содержащиеся в «выхлопах данных» – остаточной информации от поисковой активности и просмотров пользователей. Эти невостребованные поведенческие следы (Power, 2022) оказались излишком – их было больше, чем требовалось для улучшения продукта. Сигналы, содержавшиеся в этом поведенческом излишке, как выяснилось, можно было объединять и анализировать для предсказания поведения пользователей. Вскоре команда совершила прорыв, научившись предсказывать «коэффициент кликабельности» (click-through rate, CTR) – бесценное вычисление, которое спасло небольшую компанию от банкротства. Это дало начало индустрии таргетированной онлайн-рекламы, которую точнее называть надзорной рекламой – троянским конем, скрывающим сложный механизм скрытного масштабного извлечения данных, генерируемых людьми.

В 2001 году основатель Google Ларри Пейдж определил суть бизнеса Google как поиск и захват. «Если бы нам надо было выбрать категорию, – размышлял он, – это была бы личная информация… Все, что вы когда-либо слышали, видели или испытали, станет доступным для поиска. Вашу жизнь можно будет искать целиком» (Edwards, 2011, p. 291). Бизнес-план Google предусматривал продажу лицензий на поисковую систему корпоративным клиентам. Вместо этого молодая компания нашла быстрый путь к спасению, превратив свою поисковую систему в сложный инструмент надзора, который работал себе в убыток ради масштабного извлечения «всей вашей жизни». Люди думали, что они ищут в Google, но Google искал и захватывал их самих.

В профессиональной среде это называли «вовлечением пользователей» (user engagement) – кодовое обозначение нового социального отношения между субъектом и объектом, где ресурсом для извлечения волею случая оказались мыслящие человеческие существа. Изобретения Google зависели от тайного вторжения в некогда приватный человеческий опыт для осуществления скрытого изъятия без спроса. Такие действия обычно называются кражей, и именно на основе этого первородного греха скрытной кражи частная жизнь пользователей была провозглашена собственностью корпорации. В некоторых из самых ранних патентов Google прослеживается откровенное стремление компании к получению поведенческих излишков по всему интернету, в том числе методами, направленными на использование и создание информации профиля пользователя, или ИПП (user profile information, UPI), в обход воли пользователей, их осведомленности и намерений. Например, в патентной заявке 2003 года говорится, что ИПП можно «получить косвенным путем», «предположить» и «вывести логически» даже в тех случаях, когда пользователи не давали такую информацию осознанно или намеренно предоставляли в неполном виде «из соображений конфиденциальности и т. д.». В ней отмечается: «ИПП… может быть определена (или обновлена, или расширена), даже когда системе не предоставляется явная информация… Начальная ИПП может включать некоторую явно введенную ИПП, хотя это необязательно» (Bharat et al., 2016, sec. 4.2.3).

Изобретение и его антидемократические социальные отношения родились одновременно. Пейдж боялся последствий, если пользователи, законодатели или конкуренты поймут истинную природу его действий. Все, что могло «вызвать шум вокруг конфиденциальности и поставить под угрозу нашу способность собирать данные», тщательно избегалось (Edwards, 2011, p. 240–245). Одного закона, который сорвал бы маску и прямо назвал Google вором, было бы достаточно, чтобы положить конец надеждам на финансовое спасение.

Эта корпоративная «стратегия сокрытия», как ее называли (S. Levy, 2011, p. 69), также служила для сокрытия поразительных финансовых результатов новых возможностей Google. С 2001 года, когда впервые была применена экономика надзора, до выхода на биржу в 2004 году доходы компании выросли на 3590 % (Google Inc., 2004, p. 19). Этот надзорный дивиденд сделал скрытное масштабное извлечение данных, генерируемых людьми, нелегитимной и неприемлемой, но при этом формально законной основой нового экономического порядка. Каждый инвестор захочет этого. Каждый стартап постарается это обеспечить… и никакой закон этому не помешает.

В 2008 году после ряда дорогостоящих промахов, вызвавших протесты пользователей, основатель Facebook Марк Цукерберг обратился за ответами к Google, наняв Шерил Сандберг, руководителя глобальной онлайн-рекламы Google, в качестве своего заместителя (Hempel, 2008). Когда Сандберг начала отвечать за операционную деятельность компании, Facebook быстро научился извлекать поведенческие излишки из каждого поведенческого следа, независимо от того, чем люди делились добровольно. Она поняла, что Facebook имеет места в первом ряду на то, что Пейдж назвал «всей вашей жизнью», поскольку ничего не подозревающие пользователи выливали свою жизнь на страницы Facebook. В результате появилась компания, которая, как отмечала Сандберг, располагала «большим объемом информации, чем кто-либо еще… и это абсолютно точная информация, а не догадки» (Kirkpatrick, 2011, p. 266; Киркпатрик, 2011, с. 197).

Спустя год после прихода Сандберг новый управленческий тандем изменил политику конфиденциальности Facebook, проложив путь к экономике надзора. TechCrunch так описал стратегию корпорации: «Если против социальной сети поднимется серьезная волна протеста, она сможет заявить, что пользователи сами приняли решение поделиться своей информацией со всеми» (Kincaid, 2009, para. 6). Давшееся непростым путем понимание экономики надзора подготовило Цукерберга к realpolitik нового экономического порядка: «Мы решили, – объяснял он, – что социальные нормы теперь будут такими, и просто сделали это» (B. Johnson, 2010, para. 15; см. также: Srinivasan, 2019).

Новые экономические основы надзорного капитализма начинаются с его первородного греха. Человеческий опыт объявляется бесплатным сырьем для рыночных действий, начиная с его скрытного извлечения и преобразования в поведенческие данные. Эти данные становятся входом в новые области высокоточных предсказаний: эмоции, личность, политическая и сексуальная ориентация и многое другое. Излишки данных немедленно переопределяются как корпоративные активы, частная собственность, доступная для проприетарных вычислений индивидуальных и коллективных профилей и предсказаний.

Надзорные капиталисты соревнуются друг с другом за то, чьи предсказания лучше снижают неопределенность. Эта ключевая коммерческая цель требует масштабного извлечения, производства и обработки данных, создаваемых людьми, подобно тоннам пшеницы или баррелям нефти. Продукты-предсказания продаются бизнес-клиентам на новом типе товарно-сырьевого рынка, где торгуют человеческими фьючерсами. Иллюстраций этого может служить документ Facebook 2016 года, описывающий его «ИИ-основу» под названием FBLearner Flow. В отсутствие демократического противодействия его ИИ «ежедневно поглощает триллионы точек данных» для построения тысяч моделей. Эти вычисления поступают в его «сервис предсказаний», производящий «более 6 миллионов предсказаний в секунду» (Dunn, 2016). Это строительные блоки продуктов-предсказаний, которые продаются компаниям, рекламодателям, политическим кампаниям и другим покупателям, заинтересованным в том, чтобы знать, усиливать или подавлять предсказанное поведение индивидов и групп (Biddle, 2018b).

«Коэффициент кликабельности» был лишь первым глобально успешным продуктом-предсказанием, а таргетированная онлайн-реклама стала первым процветающим рынком человеческих фьючерсов. Так появился на свет надзорный капитализм, и все свидетели его рождения были обязаны хранить это в тайне (Searle, 2010, p. 85–86, 13).

Масштаб и охват скрытного накопления поведенческих излишков показывает ложность идеи «экономики внимания», поскольку основная работа здесь выполняется за пределами поля внимания. В действительности эта идея опасным образом исказила общественное восприятие, создав ложную иллюзию, что для защиты от извлечения данных достаточно контролировать свое внимание. Факты говорят об ином. То, что вы не уделяете чему-то внимание, никак не защищает от скрытного извлечения сигналов, которые производятся и захватываются за пределами человеческого осознания и контроля. Можно тешить себя иллюзией выбора (Kim, 2013; Radin, 2012), принимая отдельные решения поделиться какой-то информацией с корпорацией, но эта информация ничтожна по сравнению с объемом поведенческих излишков, которые скрытно захватываются, агрегируются и выводятся на основе анализа. Таким образом, принцип сокрытия, воплощенный в таком надзоре, является необходимым элементом этой фундаментальной стадии экономических операций и становится важнейшим механизмом институционального воспроизводства (Binns, 2022, p. 21).

Во втором десятилетии первоначальные успехи первопроходцев надзорного капитализма, таких как Google и Facebook, привели к проникновению надзорной экономики в «нормальную» экономику, наглядной иллюстрацией чего теперь служит конкуренция Walmart с Amazon за сбор и обработку генерируемых людьми данных, используемых для прогнозирования и таргетирования (Tobin, 2022). Надзорный капитализм дал метастазы в различные секторы: от страхования, розничной торговли и финансов до сельского хозяйства и транспорта, достигнув самых личных и прогностически значимых данных в двух критически важных секторах – образовании и здравоохранении.

Сегодня любой продукт с маркировкой «умный» и любой сервис с пометкой «персонализированный» работают себе в убыток ради потока проходящих через них данных о людях. Большинство «приложений» начинают свой путь с продажи и распространения через магазины приложений Apple и Google. После того как пользователи скачивают их себе на устройства, они при всей своей внешней безвредности выступают каналами передачи данных, пересылая поведенческие сигналы с «умных» устройств на серверы, принадлежащие преимущественно технологическим гигантам и компаниям, специализирующимся на рекламе на основе данных. Как описал мне один дата-сайентист из Кремниевой долины: «Сейчас сбор данных стал базовой нормой практически для всей разработки программного обеспечения и приложений. Любая разработка основывается на том, что все данные должны собираться, и большая часть этого происходит без ведома пользователя» (DS I, см. «Примечание о методе»).

Содержание того, что подразумевается под «всеми данными», постоянно расширяется. Отслеживание местоположения теперь стало системным явлением: оно глобально, вездесуще и неизбежно (Zekavat et al., 2021). В отраслевом анализе прямо отмечается, что отслеживание местоположения «позволяет бизнесу определять поведение клиентов… и снижать рыночную неопределенность» (Grand View Research, 2022). Понятие «всех данных» последовательно развивается в направлении все более точных предсказаний, таких как распознавание речи по сигналам мозга или использование движений глаз для извлечения чувствительной информации, включая личностные черты, эмоции и сексуальные предпочтения (Kröger et al., 2020; Moses et al., 2019). Действительно, уже понятно, что дополненная реальность, или «метавселенная», при всей своей футуристической риторике, задумана как усиление фундаментальных операций извлечения данных первой стадии (H. Murphy, 2022; Heller, 2021; Martin, 2021).