Часть II. Настоящее

После внедрения определенной технологии мы не можем отказаться от нее.

Колин Харрисон, IBM

Таких примеров, как в первой части этой книги, можно привести множество. Человеческая цивилизация эволюционирует непрерывно, события социально-технологической эволюции соединены между собой множеством причинно-следственных связей и во многом предопределены климатическими, демографическими, экономическими, технологическими факторами. Некоторые из этих связей читатель заметил, познакомившись с предыдущими главами этой книги. Конечно, в истории всегда есть место случаю, и предопределенность в социально-технологической эволюции не означает жесткую безальтернативность конкретных событий в определенное время. Но цивилизация, как и отдельные нации и общества, в любом случае, развивается в некоем «коридоре возможностей». Кроме того, все народы получили изначально некую выданную «колоду карт» в виде особенностей своего географического положения и климата, в которой могли, как у Японии или Великобритании, выпасть «козырные карты», а у кого-то, как у государства майя или некоторых африканских стран, оказались на руках только «шестерки». Очень условно происходящий процесс можно сравнить с компьютерной игрой «Cid Meyer`s Civilization», где игрок строит собственную «цивилизацию», опираясь на заранее предопределенные факторы.

Уже не раз упоминалось, что одна из характерных черт социально-технологической эволюции – увеличение «плотности интеллекта». Да, в какой-то степени эволюция человечества – это непрерывный процесс концентрации «вычислительных мощностей» биологического происхождения. Сначала эта концентрация была совсем невелика, интеллект был «размазан» тонким слоем по планете, так как плотность населения была очень небольшой. Переход к оседлому образу жизни увеличил его концентрацию, появление городов увеличило еще сильнее. В монастырях, а затем в университетских центрах стал концентрироваться научный потенциал как квинтэссенция человеческого интеллекта. Процесс урбанизации, начавшийся в конце XIX – начале XX века, сделал концентрацию интеллекта в городах и урбанизированных зонах высокой как никогда ранее. Это резко стимулировало технологический прогресс.

Прогресс можно описать простой формулой: чем больше совокупная вычислительная мощность интеллекта, тем больше объем информации, которую он может обрабатывать. Рост вычислительных мощностей стимулирует рост объема передаваемой информации. Но, чем больший объем информации нужно обрабатывать, тем больше требуется интеллекта и вычислительных мощностей. Прогресс идет по восходящей спирали.

Вскоре урбанизация привела к появлению громадных мегаполисов с населением 10 и более млн человек, фактически сверхсложных вычислительных центров с десятками миллионов процессоров. И, наконец, появились компьютеры, интернет, а затем и поисковики и соцсети как места, где интеллект, биологические «вычислительные мощности» всех людей вместе взятых могут быть сконцентрированы одномоментно, практически в одной точке. Возможно, остался лишь один, последний шаг – воссоединение этого «концентрированного биологического интеллекта» в мегамозг, единый искусственный интеллект, который будет квинтэссенцией совокупного интеллекта всех людей на планете. И, похоже, это произойдет быстрее, чем мы можем ожидать.

Ученые называют момент, когда человечество сделает этот шаг, «технологической сингулярностью». Некоторые ученые даже прогнозируют наступление ее в ближайшие 30 лет (в 2045 году по версии известного американского футуролога-визионера Рэя Курцвейла). Предполагается, что технологическая сингулярность будет характеризоваться феноменально быстрым, возможно экспоненциальным научно-техническим прогрессом, и это станет возможным благодаря искусственному сверхинтеллекту. Курцвейл не скрывает своей уверенности, что это будет слияние человечества в биологическом смысле и искусственного интеллекта. Однако описывает он это событие в очень общих чертах: с его точки зрения, это будет «период в будущем, когда темпы технологического прогресса окажутся настолько высокими, когда влияние технологий станет настолько глубоким, что человеческая жизнь безвозвратно перевернется».

То, что она перевернется, сомнений нет. Вопрос – как? И что нас ждет, собственно, на пути к этой технологической сингулярности? Большинство футурологов и визионеров стараются быть оптимистичными: ведь позитивный взгляд на будущее продается слушателям и в особенности корпорациям намного лучше, чем негативный. Многие ученые стараются обходить сложные вопросы стороной, выдавая банальные рекомендации. Мол, все будет хорошо, люди будут получать деньги в виде безусловного дохода, то есть просто так, будут всю жизнь учиться и переучиваться, чтобы соответствовать той скорости технологического прогресса, который все ускоряется и ускоряется перед наступлением «технологической сингулярности». Часто слышатся голоса, утверждающие, что в конце концов люди будут заниматься исключительно творчеством, потому что искусственный интеллект никогда не научится творить.

Тут иногда приводится «блестящий» аргумент, гласящий, что у алгоритмов «нет души», поэтому их творческая деятельность никогда не достигнет человеческого уровня. И, кстати, первая часть этого высказывания – чистая правда. У алгоритма действительно нет души, это не более чем программа, компьютер, вычислительная машина, созданная для обработки огромных потоков информации. Правда, искусственный интеллект – тот самый алгоритм – по признанию как специалистов, так и простых людей давно уже пишет отличную музыку, рисует прекрасные картины, сочиняет прозу и даже стихи на уровне человека. И люди с удовольствием эту музыку слушают, картинами восхищаются, а прозой зачитываются. Но это не главное. Главное в том, что современные ученые уже давно выяснили: на самом деле, души нет не только у компьютера, ее нет и у человека. По крайней мере, в науке такое понятие отсутствует.

Но даже если бы у «человека разумного» была душа, всю жизнь учиться и переучиваться, пытаясь конкурировать сразу со всеми людьми на планете (и с теми же алгоритмами – специалисты по искусственному интеллекту называют их нейросетями) в гонке за выживание – удовольствие, на самом деле, не из приятных. И дело в общем-то даже не в удовольствии. Дело в том, что перманентный образовательный процесс для людей старше 40 лет, как правило, физически невозможен. Биологические организмы изнашиваются, и ваше тело, как и головной мозг, после 40 лет уже не те, даже если вы сами очень хотите, несмотря ни на что, «учиться, учиться и учиться». Однако, если вы и сможете по достижении сорокалетнего рубежа вдруг переквалифицироваться сначала из инженера в программиста, потом в специалиста по большим данным, а потом, скажем, в специалиста по кибербезопасности, вы все равно в итоге будете неконкурентоспособны по сравнению с молодыми специалистами, например, из индийского Бангалора или, тем более, нейросетями – не говоря уже о том, что вы просто будете экономически невыгодны работодателю. Ведь ваш труд – труд опытного профессионала, жителя благополучного мегаполиса – будет стоить намного дороже работы искусственного интеллекта.

И, кстати, это лишь один из множества неожиданных сюрпризов, которые могут ожидать человека на пути к технологической сингулярности. Во второй части этой книги читатель сможет приоткрыть «завесу неизвестности» и понять, какие перспективы поджидают его лично на этом пути уже в ближайшее время, и увидит он это на примерах конкретных изменений, которые еженедельно, ежедневно и ежечасно происходят с человеком, экономикой и современным обществом в целом.

Описание этих изменений, которое читатель увидит в следующих главах, будет максимально объективным – без сгущения красок, но и без ложного оптимизма. Таких «оптимистичных оракулов» и без того хватает.

Глава 1. Новые риски

В апреле 2019 г. в Сингапуре вышел номер журнала «Esquire», все статьи которого впервые были написаны искусственным интеллектом. Робот (так называемый ИИ-бот) полностью самостоятельно написал пять больших текстов, включая «письмо редактора», и потратил на каждый материал всего по несколько минут. При этом нейросеть не испытывала никаких мук творчества, не отвлекалась на переписку в соцсетях, прослушивание музыки или просмотр семейного видео, присланного женой. Остальные ее материалы пришлось редактировать, но все равно это был самый дешевый по себестоимости номер «Esquire» в истории. Никаких гонораров авторам платить не пришлось, командировочных и накладных расходов нести тоже. Уникальный номер журнала покупатели расхватали как горячие пирожки.

Почти одновременно с «Esquire» американская газета «The Guardian» начала публиковать статьи, полностью написанные искусственным интеллектом, который умеет брать большие данные, обрабатывать их и вставлять в приготовленные заранее текстовые шаблоны.

Интеллектуальная программа, использованная в «Guardian», получила название «ReporterMate», что в вольном переводе звучит как «Друг Репортера», но можно перевести и как «Мат (конец игры) репортеру». После запуска проекта создатель робота-журналиста Ник Эверсхед заявил, что его программа никогда не заменит журналистов, просто сделает их работу удобнее и комфортнее, так как может работать с Big Data. Как тут не вспомнить слова инвестбанкира Пола Джонса, который, проведя очередное сокращение в своей компании, сказал сотрудникам: «No man is better than a machine, and no machine is better than a man with a machine» («Ни один человек не может быть лучше, чем машина, и ни одна машина не может быть лучше, чем человек с машиной»).

Как, наверное, и любое знаковое событие, появление полностью автоматизированных «алгоритмов-журналистов» было воспринято профессиональным сообществом двояко. Оптимисты рукоплескали, предвкушая скорый приход благословенных времен, когда людям вообще не придется работать, а можно будет лишь созерцать и заниматься творчеством. Пессимисты же нахмурили брови: до недавних пор написание качественной прозы вообще-то тоже относилось к творческой деятельности, и считалось, что алгоритмы никогда не смогут полностью заменить людей в этом процессе.

Учитывая, что в 2019 году Всемирный банк обнародовал новые данные о рекордном росте неравенства в Европейском Союзе (на 70 % за последние 15 лет), пессимистов было, пожалуй, немного больше. Они отмечали, что «труд» алгоритмов приносит доход только их создателям и владельцам, рядовые же сотрудники от этого только теряют. И действительно, новые технологии не в последнюю очередь «виноваты» в том, что беднейшие 10 % европейцев стали на 7 % беднее, а богатейшие 10 % – на 66 % богаче. Но, казалось бы, какая связь между уменьшением количества рабочих мест благодаря новым технологиям и галопирующим ростом социального неравенства даже в богатейших странах мира?

В течение довольно короткого времени после описанных событий множество политиков и общественных деятелей высказали свое мнение о роли искусственного интеллекта в будущем и о том, что может случиться, если он выйдет из-под контроля человека. Не обошел стороной проблему и Папа Римский Франциск, выступивший в Ватикане на конференции «Общее благо в цифровой век» в сентябре 2019 года. «Разработки в области технологий, в частности те, которые связаны с искусственным интеллектом, вызывают все более существенные изменения во всех областях человеческой деятельности», – заявил он. – Если бы так называемый технический прогресс человечества стал врагом общего блага, это привело бы к тому, что человечество регрессировало к варварству, где главным законом был бы закон сильнейшего».

Впрочем, Папа Римский был далеко не первым в ряду выдающихся деятелей религии, политики, науки и культуры, который высказал опасения по поводу неконтролируемого распространения технологий, технологического прогресса и будущего, в которое этот технологический прогресс может завести людей.

Еще в 1996 году Джон Мазер, известный писатель, нобелевский лауреат, главный астрофизик лаборатории наблюдательной космологии в Центре космических полетов им. Годдарда (НАСА), предупреждал:

«Мыслящие машины эволюционируют точно так же, как описанные Дарвином живые (и мыслящие) биологические виды – посредством конкуренции, сотрудничества, борьбы за выживание и воспроизводства. Машины становятся интереснее по мере того, как они учатся понимать физические объекты и управлять ими либо непосредственно, либо при участии людей.

Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдет, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители…

Я пришел к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса – да чего угодно!

Я думаю, результаты нам не понравятся. А они могут появиться очень быстро, настолько быстро, что великие империи падут и на их месте вырастут новые, а у людей будет самый минимум времени, чтобы приспособиться к жизни в новой действительности. Я не знаю, окажется ли кто-нибудь достаточно умным и одаренным для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придется не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения».

Да, если исходить из того, что к социально-технологической эволюции можно отнести и экономическое развитие, и технологический прогресс, Джон Мазер попал в точку. Мыслящие машины (они же искусственный интеллект) эволюционируют по точно таким же законам, как и люди. Более того, все говорит о том, что они являются аналогом, продолжением «человека разумного» – но, конечно, ровно настолько, насколько может являться аналогом «биологического процессора» мегапроцессор технологический, который вот-вот должен появиться, воплотив в жизнь мечты визионеров о технологической сингулярности. А пока на пути к ней новые технологии появляются одна за одной. Среди них есть и ключевые (такие как Big Data, мобильный интернет, нейросети), есть и проходные. Тем не менее, каждая новая технология делает жизнь людей (прежде всего власть имущих) более комфортной, удобной, безопасной и увеличивает объемы обмена данными, потоки которых растут экспоненциально. Это, в свою очередь, требует все более быстрого увеличения вычислительных мощностей: «биологических процессоров» для вычислительного процесса уже давно не хватает.

Но социально-технологическая эволюция – это не только экономический рост, удобство и комфорт. Это все больше и больше новых вызовов. Ведь пока все человечество строем идет вперед в светлое будущее, индивидуум, особенно, если он не принадлежит к элите, должен постоянно приспосабливаться. И одно дело адаптироваться к изменениям в течение нескольких поколений, и совсем другое, когда в течение жизни одного поколения изменения следуют одно за другим чуть ли не каждый месяц.

«Это вызывает дискомфорт только у старшего поколения. Представители молодежи чувствуют себя в такой среде как рыба в воде», – скажет читатель. Однако порой с серьезными проблемами, обусловленными всеобщей «технологизацией», сталкиваются и молодые люди.

…Казалось бы, мобильный интернет появился не так давно. Множество приложений в AppStore, огромное количество возможностей, выбирай на вкус. А как удобно расплачиваться телефоном, привязав банковскую карту и счет к своему номеру! Однако молодой российский журналист Никита так уже не считает.

Однажды Никита забыл свой мобильный телефон в ночном клубе. Вспомнил, вернулся, телефон ему отдали. Но то, что в мобильнике почему-то не оказалось сим-карты, он на радостях заметил только на следующий день. Казалось бы, что такое сим-карта? Пустяк, всего несколько минут потраченного времени в любом салоне сотового оператора – и новая карта уже в телефоне, не хуже прежней. Однако, когда Никита обратился в салон, там неожиданно выяснилось, что, пока он высыпался после бурной ночи, его сим-картой уже кто-то успел воспользоваться.

Никита устремился в свой банк – крупный, надежный, с западным капиталом. В банке его ждало горькое разочарование: неизвестные сняли со счета несколько миллионов рублей, отложенных молодой семьей на первый взнос по ипотеке. Излишне добавлять, что мошенников никто найти не смог, а деньги банк не вернул. Ведь формально клиент банка снял деньги со своего счета сам, идентифицировав себя своим собственным номером мобильного телефона, который реально ему принадлежал. Ужасно глупая случайность, приведшая к столь печальным последствиям. А ведь таких случаев – тысячи и даже, может быть, десятки тысяч, если не больше.

Впрочем, в этой истории есть хотя бы доля вины «потерпевшего»: все-таки человек, очевидно, проявил невнимательность. Но ведь непредсказуемые «цифровые» риски могут возникать даже, казалось бы, в самой безобидной ситуации. Например, ваш телефон или планшет разрядился, а вам срочно нужна зарядка. Наверное, скажет читатель, нет ничего страшного в том, чтобы воспользоваться общественной зарядкой (например, в ресторане или аэропорту) или попросить зарядный провод у незнакомца, сидящего рядом и использующего аналогичный вашему мобильный телефон. Однако специалисты по кибербезопасности категорически рекомендуют этого не делать.

«Есть такие вещи, которые просто нельзя одалживать, – уверен Чарльз Хендерсон, управляющий партнер и руководитель проекта X-Force Red в «IBM Security». – Если бы вы путешествовали и спохватились, что забыли взять с собой нижнее белье, вы бы наверняка не стали просить спутников одолжить вам его. Вы бы пошли в магазин и купили новое».

И такое мнение имеет под собой достаточное обоснование. В 2019 году специалисты по кибербезопасности выяснили, что через зарядные устройства и иные провода, которые вы подключаете к вашему смартфону или планшету, злоумышленникам несложно похитить данные ваших кредитных карт, контакты, любые другие файлы и информацию, которые хранятся в телефоне. Мнению Чарльза Хендерсона можно доверять: он сам руководит командой хакеров, которые разработали технологии, позволяющие через провода зарядных устройств внедрять вирусы, удаленно атакующие смартфоны и компьютеры, и выполняющие любые вредоносные команды своего «хозяина».

Вы все еще не верите? А зря. В августе 2019 года в «летнем лагере» для хакеров и киберспециалистов – «DEF CON Hacking Conference» – один из хакеров, известный под ником MG, продемонстрировал подобную технологию. Он смог подключиться к компьютеру удаленно через «доработанный» зарядный провод IPhone и получил полный контроль над ноутбуком Apple. Более того, MG заявил, что не составляет сложности создать программу, которая «убьет» внедренный вирус, не оставив ни единого следа его существования, после того, как задачи, поставленные перед вирусной программой, будут выполнены.