Пандемия продемонстрировала некоторые преимущества автоматизации убедительнее, чем это могла бы сделать любая экспертная группа в Давосе. Благодаря роботам и ИИ компании продолжали поставлять важнейшие продукты даже при росте заболеваемости среди работников. ИИ и автоматизация производства помогли фармацевтическим компаниям ускорить поиски эффективных методов лечения и разработку вакцин. Миллиарды людей, сидевших по домам и опасавшихся тесных контактов, положились на автоматизированные интеллектуальные услуги Amazon, Google и Facebook – и их холодильники по-прежнему были забиты, а социальные контакты не прерывались.

В то же время пандемия выявила ряд ограничений автоматизации и показала, что очень многие важные задачи пока нельзя переложить на машины. Заговорили о «ключевых специалистах» – людях, чей труд необходим для функционирования общества, и выяснилось, что многие из них работают не в технической, финансовой или какой-нибудь другой престижной отрасли, а в относительно малопривлекательных сферах, таких как уход за больными, ремонт машин и сельское хозяйство. Мы также увидели, что некоторые виды деятельности почти невозможно перевести в виртуальный формат. Стоило нам просидеть пару месяцев перед экранами, превратившимися в единственный канал общения, как многих настойчиво потянуло обратно в реальный мир. Некоторые школьники и студенты, вынужденные учиться дистанционно, жаловались, что не узнают ничего нового и не получают никакого удовольствия. Офисные служащие, запертые по домам, жаждали вернуться на свои места, где легче работать в команде и продвигаться по службе. (Один мой знакомый, технический специалист, ворчал, что «по “Зуму” никто не получает повышения».) Люди, которым в первые месяцы пандемии вполне хватало виртуального общения, начали нарушать правила социального дистанцирования, чтобы вместе с друзьями поесть в ресторане, выпить в баре, сходить на концерт или посетить церковную службу.

Оказалось, что машины не способны ни заменить человеческое взаимодействие, ни дать нам всё необходимое для движения вперед. И, возможно, это никогда не будет им под силу.

Я несколько лет изучал историю ИИ и автоматизации и современное положение дел в этой сфере, и теперь мне трудно сохранять наивную, утопическую веру в то, что эти инструменты ведут нас по гладкой, как скатерть, дороге к прогрессу и гармонии. Вместе с тем я пришел к выводу, что и крайне антиутопическая и фаталистическая версия ИИ-сценария – согласно которой умным машинам суждено захватить мир и нам остается только смириться со своей моральной устарелостью – довольно неубедительна.

Прежде всего, рассуждая об ИИ и автоматизации, и оптимисты, и пессимисты почему-то обычно демонстрируют исключительно дальнозоркость. Они сосредоточены на последствиях, к которым приведут новые технологии через несколько лет или даже десятилетий, и пренебрегают анализом тех последствий, к которым они уже привели.

Сознательно или нет, но большинство из нас ежедневно взаимодействуют с десятками интеллектуальных продуктов: моделями машинного обучения, выстраивающими ленту новостей в соцсетях и обеспечивающими общение с виртуальными помощниками вроде Alexa и Siri; программами динамического ценообразования, рассчитывающими, сколько нам платить за номер в гостинице и билет на самолет; таинственными алгоритмами, определяющими, имеем ли мы право на социальное пособие; прогнозирующими алгоритмами, которые помогают полиции патрулировать улицы. Все эти системы жизненно важны, но почти ни одна не привлекает к себе такого внимания, как вопрос, потеряют ли дальнобойщики работу из-за внедрения беспилотных фур.

Центральная дискуссия об ИИ и автоматизации сосредоточена на том, как ИИ влияет на конкретные показатели экономического благосостояния, такие как рост производительности и уровень безработицы, но, как правило, игнорирует более субъективные вопросы: например, действительно ли эти технологии улучшают людям жизнь? Как отмечали эксперты – Кэти О’Нейл, Сафия Умоджа Ноубл, Руха Бенджамин и другие, – плохо продуманные интеллектуальные инструменты, даже если они «работают», могут причинять вред уязвимым и маргинальным группам населения, способствуя внедрению новых видов сбора данных и наблюдения и закладыванию исторически сложившихся форм дискриминации в автоматизированные системы. Вред может исходить от самых разных технологических новинок: от алгоритма сортировки резюме, который обучается отдавать предпочтение мужчинам в ущерб женщинам; от системы распознавания лиц, которой трудно идентифицировать гендерно-неконформных людей; от системы прогнозирования рисков, которая научается устанавливать более высокие ставки для темнокожих кандидатов на получение кредита, – и сколько-нибудь адекватный разговор об ИИ и автоматизации не может обойтись без обсуждения этих вопросов и поиска решений.

Но, на мой взгляд, главная проблема центральной дискуссии об ИИ – в том, что обе ее стороны склонны воспринимать технический прогресс как безликий естественный фактор, вроде силы тяжести или законов термодинамики, с которым приходится просто мириться. И оптимисты, и пессимисты рассуждают об «алгоритмах, излечивающих болезни» и «роботах, отнимающих работу», как если бы какая-то программа могла наделить машины чувствительностью или карьерными амбициями. Ни те ни другие не хотят признавать, что именно люди изо дня в день принимают решения о том, как разрабатывать, внедрять и оценивать эффективность всех этих систем.

Я постоянно слышу довод: «Автоматизация – это наша судьба», особенно в Кремниевой долине, где о техническом прогрессе говорят так, словно это набирающий скорость поезд и либо мы в него вскочим, либо он нас переедет; и я отлично понимаю, почему эта точка зрения так притягательна. Долгое время я и сам ее придерживался. Однако она ошибочна. И в глубине души мы все это сознаём.

С тех давних пор, как Homo sapiens впервые потер одну о другую две палочки, чтобы добыть огонь, движущей силой технического прогресса всегда были человеческие желания. Печатный станок, паровой двигатель, социальные сети – не возникло же всё это из ниоткуда, новенькое, как с иголочки, и уже интегрированное в жизнь общества. Мы их придумали, приняли соответствующие законы и правила и решили, чьим интересам они будут служить. Кроме того, инновации не нечто непреложное, и предыдущие поколения успешно боролись за ограничение распространения таких губительных изобретений, как ядерное оружие, асбестовые изоляционные плиты и свинецсодержащая краска, олицетворявших в свое время технический прогресс.

Независимо от того, считаете вы, будто ИИ и автоматизация принесут человечеству благо или причинят вред, вы не должны забывать, что в них нет ничего предопределенного. Не алгоритмы, а руководители решают, заменять ли людей машинами. Не роботы, а законодатели определяют, какие ограничения установить на новейшие технологии вроде распознавания лиц и таргетированной рекламы в интернете. Разработчики новых форм ИИ могут влиять на то, как будут устроены эти новые инструменты, а пользователи – решать, приемлемы ли они с моральной точки зрения.

Вот и вся правда об ИИ-революции. Нет никакого надвигающегося машинного переворота, нет армии злобных роботов, замышляющих восстать и обратить нас в рабство.

Есть только люди, решающие, в каком обществе мы хотим жить.

* * *

Эта книга не выступление в защиту идеи, что роботы отнимут у нас всю работу или часть ее или что ни того ни другого не случится. Это не разглагольствование об ужасах технокапитализма и не размышление о том, как мы будем сосуществовать с машинным интеллектом. Я не собираюсь предсказывать, когда наступит состояние сингулярности, или советовать, как разбогатеть на основании ИИ-стартапа.

Эта книга о том, как человеку жить в мире, который всё больше выстраивается машинами и подстраивается под них. Это попытка убедить вас, что ключ к счастливой, плодотворной жизни в эпоху ИИ и автоматизации – не в том, чтобы соревноваться с машинами напрямую: учиться программированию, оптимизировать свою жизнь, изживать в себе непродуктивность и небрежность в любых проявлениях, – а в том, чтобы совершенствовать исключительно человеческие навыки, чтобы иметь больше возможностей делать то, что машины делать не способны.

Если у вас возникало ощущение, что жизнь проносится мимо, или вы тревожились, что вам никак не угнаться за техническим прогрессом, я надеюсь убедить вас в обратном. Я хочу помочь вам сохранить работу, выстроить более ровные отношения с новыми технологиями и научиться мирно сосуществовать с алгоритмами, пытающимися диктовать вам, что покупать, на чём концентрировать внимание и как смотреть на мир.

И, наконец, я хочу вырвать дискуссию о технологиях из формата крайностей: либо эйфория, либо панический страх – и вести более честный разговор о том, что нам предстоит и что мы можем предпринять.

Часть I, «Машины», – попытка подготовить почву. Опираясь на интервью со специалистами, книги и научные работы и трехвековую историю индустриального развития, я объясню, почему считаю, что ИИ и автоматизация уже оказывают глубокое преобразующее воздействие на общество, и почему в дальнейшем стоит ожидать ускорения изменений. Я опровергну некоторые общепринятые представления о том, как машины отбирают у людей работу, и объясню, почему, на мой взгляд, мы опасаемся не тех роботов, которых следует.

Часть II, «Правила», – мои советы. Я расскажу о девяти конкретных шагах, которые можно предпринять для подготовки к будущему; они помогут уберечь то человеческое, что в вас есть, обратить свои человеческие качества в капитал и отчасти оградить себя от вредного воздействия современных технологий. Я расскажу о людях, которым в разные времена удавалось таким образом обходить подводные камни технического прогресса, и объясню, как применить их опыт в своей жизни и карьере.

Надеюсь, что, дочитав эту книгу, вы разделите мое беспокойство по поводу ИИ и автоматизации, а также экономических, политических и социальных проблем, к которым они могут привести в будущем. Но еще я надеюсь, что вы почувствуете себя увереннее перед лицом этих проблем. Моя главная цель – убедить вас, что вы можете стать тем, кому не о чем беспокоиться, тем, кого его истинно человеческие качества делают незаменимым вопреки всем умениям и неумениям ИИ.

Читая эту книгу, вы заметите, что она больше сосредоточена на «микро», чем на «макро». В ней нет подробных рассуждений о производительности и доле экономически активного населения, и у меня нет готового набора рекомендаций по поводу политики в сфере ИИ. Подготовка политических и экономических институтов к технологическим переменам – безусловно, важная задача, и многие эксперты, в том числе авторы работ, которые я включил в список рекомендованной литературы, давно размышляют о том, как подстроить общество к надвигающейся автоматизации. Но я главным образом хочу поговорить о том, что могут сделать обычные люди – такие, как мы с вами, кому нужно заботиться о своей работе, родных и близких.

Я часто говорю от первого лица. Меня всё это тоже касается. Я каждый день выясняю отношения с машинами и постоянно тревожусь о том, какое место буду занимать в автоматизированном обществе (я газетный обозреватель, а эта профессия не из тех, о которых сразу вспоминаешь, когда речь заходит о «работе будущего»). Эту книгу я стал писать в том числе из эгоистических побуждений: надеялся, что мне удастся обнаружить проницательную догадку, неопровержимые данные – то, что позволит мне больше не беспокоиться о том, какие сюрпризы мне готовит будущее.

Но я обнаружил, что будущее ничего мне не готовит. Его попросту нет. Сейчас, как и в любой момент истории, перед нами есть лишь бесчисленное множество вариантов развития событий, каждый из которых определяется нашими решениями. Если случится машинный апокалипсис, он будет делом наших рук. А если технологическая революция сделает мир справедливее, счастливее и благополучнее, то потому, что мы перестанем строить теории и спорить, станем хозяевами своей судьбы и сделаем себя неуязвимыми для будущего.