Цитаты из книги «Государство строгого режима. Внутри китайской цифровой антиутопии»

В 2013 году созданная Кай-Фу Ли венчурная фирма Sinovation Ventures, специализирующаяся на ИИ, поддержала развивающуюся платформу распознавания лиц Megvii (Mega Vision). Сумма инвестиций не раскрывалась. Затем SenseTime (конкурент Megvii, основанный в Гонконге в 2014 году) выпустила первый алгоритм, способный при определенных условиях идентифицировать людей с точностью, превышающей возможности человеческого глаза, и заявила, что превзошла показатели Facebook, – это стало вехой в индустрии ИИ[11].

Более современная технология – глубинная нейронная сеть – обладала целым рядом преимуществ. У операторов больше не было необходимости выполнять монотонную и трудоемкую работу по ручной категоризации изображений и данных, а затем писать правила для системы искусственного интеллекта. Вместо этого программное обеспечение научилось самостоятельно соединять разрозненные данные, просматривая огромный объем информации, а затем обучаться на основе этих данных. Впоследствии программа могла совершенствовать алгоритм выполнения задачи, для решения которой ее и создавали. Чем меньше операторов контролировало и ограничивало программное обеспечение, тем больше вариантов применения ИИ появлялось у компаний. Глубинные нейронные сети научились управлять беспилотными автомобилями, помогать врачам ставить диагнозы, а также выявлять мошенничество с кредитными картами.

В работе с иностранными партнерами китайские корпорации, поддерживаемые государством, практиковали то, что в бизнесе называется «принудительной передачей интеллектуальной собственности». Чтобы выйти на закрытый рынок Китая, иностранным компаниям обычно приходилось договариваться с китайскими партнерами. Одно из неформальных требований заключалось в передаче китайским компаниям так называемых чувствительных технологий – полупроводников, медицинской аппаратуры и нефтегазового оборудования. По правилам Всемирной торговой организации такое требование является незаконным, однако американские компании хоть и неохотно, но все же раскрывали свои коммерческие тайны в надежде получить доступ к 1,4 млрд потенциальных клиентов в Китае.

Управление госбезопасности в Синьцзяне могло расписать схему взаимоотношений любого человека почти с каждым, с кем он переписывался или созванивался посредством WeChat. Доступ к этой паутине связей означал, что полицейские знали, до кого из друзей, знакомых или членов семьи им нужно добраться, если они захотят кого-нибудь допросить или арестовать.

В общем смысле метаданные – это упрощенные данные, которые описывают или идентифицируют другие части данных, например номер телефона, по которому совершался звонок, но не само содержание разговора.

«Над людьми ставились эксперименты по наблюдению», – вспоминает Ирфан. WeChat предоставлял «внушительную онлайн-базу данных о человеческой жизни: покупках, лайках, расставаниях и переписках. Создавалась экосистема. Мы собирали большой объем информации, необходимый для массовой слежки».

Ирфан рассказывал, как в конце 2000‐х годов несколько высокотехнологичных китайских компаний объединились, чтобы создать систему наблюдения нового образца – так называемые IP-камеры, работающие по интернет-протоколу. Эти камеры передавали видео по сети, оставив в прошлом старую систему замкнутого телевидения (CCTV), для которой требовалось локальное записывающее устройство, например видеомагнитофон. Китай быстро освоил эту относительно новую и более эффективную технологию, используя возможности интернета для передачи данных с камер в центры управления. Ирфан понимал, что происходит нечто важное. До сей поры американские, европейские, японские и тайваньские компании в общем и целом доминировали на рынке камер видеонаблюдения. Но большинство этих титанов «зациклились» на аналоговых устройствах, продавая камеры системы телевидения замкнутого контура (CCTV).

«Великий Китайский файервол» – так прозвали китайскую систему интернет-цензуры, блокирующую сайты за пределами страны. Ее разработал академик Фан Биньсин. За его роль в цензурировании интернета Фана возненавидела вся страна – в 2011 году разгневанный мужчина забросал его ботинками и яйцами. Но меры прижились, и Китай внедрил вторую систему под названием «Золотой щит», позволяющую властям просматривать любые принимаемые или отправляемые данные, а также блокировать домены на территории Китая[9].

Мансур, бизнесмен по образованию и человек, хорошо разбирающийся в текущих событиях, рассказывал мне о трех этапах создания идеального полицейского государства. Я сократил и во многих местах перефразировал его наблюдения. Шаг первый, говорил он, заключается в том, чтобы определить врага – меньшинства, иммигрантов, евреев или, в данном случае, мусульман – и обвинить их в своих проблемах. Убедите свой народ, что эти враги повсюду и «что они угрожают силе и чести вашей нации». Шаг второй – получить контроль над технологиями, чтобы следить за своими врагами. На первых порах руководители технологических компаний, если их прибыли высоки, будут делать вид, что все это не имеет к ним отношения, но начнут сотрудничать, как только их прибыли станут снижаться, потому что им понадобится поддержка государства. Это поможет установить камеры и запустить социальные сети, способные собирать информацию о ваших врагах: черты лица, ДНК, записи голоса, а также данные о том, чем эти люди занимаются в интернете. «Распространяйте фальшивые новости о своих врагах в социальных сетях и приложениях». Цель – создать атмосферу истерии, обвинений и паранойи.

«Между авторитарными государствами и крупными, владеющими большим объемом данных IT-монополиями, может возникнуть альянс, который объединит зарождающиеся системы корпоративной слежки с уже развитой системой государственного надзора, – заявил финансист Джордж Сорос на Всемирном экономическом форуме в январе 2018 года. – Это вполне может привести к созданию такой паутины тоталитарного контроля, какой не могли себе представить даже Олдос Хаксли или Джордж Оруэлл». Он предсказал, что Китай станет одной из первых стран, где будет заключен «нечестивый союз» между авторитарным режимом и технологическими компаниями.