Цитаты из книги «Государство строгого режима. Внутри китайской цифровой антиутопии»

В июне 2020 года генеральный директор IBM Арвинд Кришна написал письмо в Конгресс, в котором заявил, что IBM больше не будет разрабатывать технологии распознавания лиц: IBM больше не предлагает программное обеспечение общего назначения для распознавания или анализа лиц. IBM выступает решительно против и не оправдывает использование любых технологий, включая технологии распознавания лиц, предлагаемые другими поставщиками, для массовой слежки, расового профилирования, нарушения основных прав и свобод человека или любых иных целей, не соответствующих нашим ценностям и принципам Доверия и Прозрачности. Мы считаем, что наступило время широкого общественного диалога на тему того, должны ли технологии распознавания лиц использоваться правоохранительными органами страны и каким именно образом.

Искусственный интеллект – это мощный инструмент, который может помочь правоохранительным органам обеспечить безопасность граждан. Но поставщики и пользователи систем ИИ несут общую ответственность за то, чтобы обеспечить проверку искусственного интеллекта на предвзятость, особенно в контексте его использования в правоохранительной деятельности, а также за то, чтобы такая проверка подлежала контролю, а ее результаты раскрывались общественности.

Департамент полиции Лос-Анджелеса (LAPD) первым отказался от использования PredPol, новаторской программы в области предиктивного полицейского контроля. В июле 2019 года департамент объявил о прекращении этого проекта, изначально предназначенного для выявления районов с повышенной вероятностью совершения преступлений против собственности. Вслед за полицией Лос-Анджелеса от программы отказались и другие полицейские отделения. «Она не помогала нам раскрывать преступления», – заявила представительница полиции Пало-Альто (штат Калифорния) газете Los Angeles Times.

Разве ИИ не должен был стать сверхинтеллектуальным героем правоохранительной деятельности, спасением от предубеждений и дискриминации, свойственных человеку? Результаты исследований в Соединенных Штатах подчеркивают то, что уже начали понимать ответственные лица: искусственный интеллект является отражением тех, кто его создает. Люди пишут алгоритмы и отбирают для них входные данные, так что алгоритмы наследуют изъяны своих разработчиков. Что еще хуже, мы не совсем понимаем, как полиция собирает данные, насколько они качественны и как эти непрозрачные алгоритмы их обрабатывают. Здесь не хватает системы сдержек и противовесов.

Многочисленные исследования, опубликованные в 2018 и 2019 годах Национальным институтом стандартов и технологий при правительстве США и другими исследовательскими институтами, неизменно показывали, что системы искусственного интеллекта предвзято относятся к людям, чья кожа не белого цвета, а также к женщинам. Одно исследование при поддержке государства, опубликованное в 2019 году, показало, что вероятность неправильного распознавания лиц мужчин азиатского и афроамериканского происхождения в сто раз выше, чем белых мужчин, а вероятность неправильной идентификации женщин выше, чем мужчин. Белых мужчин среднего возраста системы ИИ почти всегда распознавали верно.

Мы сильно отстали в поиске способов контролировать технологии, которые настолько глубоко проникли в нашу повседневную жизнь, что зачастую мы их даже не замечаем. Десятилетие прогресса в области создания смартфонов, коммуникации в социальных сетях и электронной коммерции поставило мир на порог очередной технологической революции. Искусственный интеллект, в определенных областях уже достигший сверхспособностей, вскоре может превзойти возможности человека. Впрочем, видные футурологи и технические специалисты сомневаются, что ИИ сможет уподобиться человеческому мозгу в ближайшем будущем. Тем не менее полагать, что ИИ не преуспеет в этом начинании, а тактика слежения, используемая в Синьцзяне, не найдет применения во многих уголках мира, – неоправданный оптимизм. ИИ, слабо регулируемый и плохо изученный, уже повсюду – отслеживает наши покупки и клики в интернете, учится корректировать наше поведение. Он умеет управлять самолетами, принимать решения об инвестициях на миллиарды долларов, расшифровывать электрокардиограммы и организовывать производственные процессы.

Наблюдая за наступлением тоталитаризма, разгаром мировых войн и геноцида в ХХ веке, некоторые из самых прозорливых писателей пришли к заключению, что мир превратится в антиутопию, если мы не предпримем какие-то меры. В книге «О дивный новый мир», написанной в 1931 году, Олдос Хаксли создал образ мирового государства, с детства подвергающего людей индоктринации в рамках жесткой кастовой системы при помощи наркотика, вызывающего состояние эйфории и заставляющего забыть о безысходности существования в антиутопии XXVI века. Семнадцать лет спустя, в 1949 году, Джордж Оруэлл опубликовал «1984», описав уже откровенно фашистское государство, контролирующее свой народ с помощью паноптикона. Другие книги еще точнее предсказали сегодняшнюю жизнь. В менее известном романе «Всем стоять на Занзибаре», опубликованном в 1968 году, американский писатель-фантаст Джон Браннер поразительным образом предвидел, что в 2010 году мир окажется перенаселен, 7 млрд его обитателей будут читать короткие порции новостей и общаться в реальном времени при помощи социальной сети, похожей на твиттер, а Китай станет главным соперником США.

В 2016 году на Китай приходилось более 80% добычи редкоземельных элементов, таких как диспрозий, тербий и иттрий, используемых для изготовления аккумуляторных батарей и ноутбуков. Но соседи Китая по Центральной Азии предоставляют еще больше возможностей для шахтеров, разыскивающих редкоземельные элементы, которые будут обеспечивать работу технологий будущего, а также нефть, способствующую бурному росту промышленности. «Пока футурологи и первопроходцы в области сетевых технологий рассуждают о том, как захватывающий мир искусственного интеллекта, больших данных и машинного обучения обещает изменить то, как мы живем, работаем и думаем, – пишет профессор Оксфордского университета, специалист по истории Шелкового пути Питер Франкопан, – мало кто задается вопросом, откуда берутся материалы, на которых строится новый цифровой мир, или что произойдет, если их поставки либо иссякнут, либо будут использованы в качестве торгового или политического оружия теми, кто почти монополизировал глобальную систему поставок».

Эквадор набрал китайских кредитов на сумму в 19 млрд долларов. Они пошли на строительство мостов, автомагистралей, ирригационных систем, школ и, что самое главное, крупной дамбы ГЭС под названием «Кока Кодо Синклер», которая была призвана решить проблемы дефицита энергии и вывести страну из нищеты. Эквадор согласился погасить многие кредиты нефтью, а не наличными, отдав на откуп Китаю 80% своего нефтяного экспорта. Китай получил эту нефть с дисконтом и смог заработать на ее перепродаже. Через два года после открытия дамбы Эквадор сотряс скандал. «Оборудование плотины покрыто тысячами трещин. Водохранилище забито илом, песком и деревьями. Единственный раз, когда инженеры попытались запустить плотину на полную мощность, она вырубила национальную электросеть», – сообщала газета The New York Times в декабре 2018 года. Тем временем Эквадор ломал голову над тем, как выкачать достаточно нефти, чтобы погасить свой долг перед Китаем. Он проводил бурильные работы глубоко в тропических лесах Амазонки, и без того страдающих от вырубки, урезал расходы на социальное обеспечение и закрыл государственные учреждения.

«В рамках своей инициативы „Один пояс и один путь“ стоимостью 1 трлн долларов Китай поддерживает инфраструктурные проекты в развивающихся странах со стратегически важным расположением, зачастую предоставляя им огромные кредиты. В результате страны попадают в долговую ловушку, которая делает их зависимыми от Китая», – писал Брахма Челлани, выдающийся индийский геополитический стратег, придумавший термин «дипломатия долговой ловушки». Он считает, что «Один пояс и один путь» был разработан не для поддержки местных экономик, а для обеспечения Китаю доступа к природным ресурсам и рынкам сбыта для китайских «дешевых и некачественных экспортных товаров»: «Во многих случаях Китай даже присылает своих строителей, минимизируя количество создаваемых рабочих мест».