Глава 8

Ночь перед днем Х пролетела, на взгляд Элис, слишком быстро. И рассвет на первой космической приближал ее к неизбежному. Сегодня просто чертов день чертова Джеральда Риверса: сперва лекция, а потом консультация, в ожидании которой тряслись все поджилки в маленьком тощем тельце. Что бы там ни говорила Генри, как бы ни пыталась переубедить, Элис не могла, а может, действительно не хотела избавиться от предвзятого отношения. После сцены в клубе в самый первый вечер, после его поведения на людях, после всех намеков и недосказанности что она должна была думать? Риверс вел себя однозначно и вполне соответствующе тому образу, что успел сформироваться в ее голове.

Бросив взгляд на часы, показывавшие половину девятого утра, Элис вздохнула, прикрыла глаза и решилась; у нее оставалась пара часов, которые можно смело потратить на маленькие глупости. Профессор в обед, профессор на ужин, теперь еще и на завтрак. Достав из-под кровати ноутбук, она открыла его и запустила в браузере поисковик. Окей, Гугл… Что ты нам расскажешь по запросу «Джеральд Риверс»? Один электронный импульс, и на Элис вывалились десятки страниц ссылок и фотографий.

Первым делом любопытство потребовало посмотреть снимки. С каким-то удивлением она обнаружила огромное количество изображений с конференций, где Риверс стоял то за трибуной, то подле экрана, на котором светились размытые блок-схемы и графики. Нашлось и прошлогоднее часовое видео с одного из выступлений для TED^[27] на конференции разработчиков. Запустив в фоновом окне «Ютьюб», она листала страницу, рассматривая фотографии Риверса в дорогущих деловых костюмах и с неизменной искусственной улыбкой. Серьезные кадры перемежались совершенно внезапными снимками с невероятных вечеринок, официальных приемов, среди которых засветилась чуть ли не вся верхушка управленческой власти. Нашлась даже парочка студенческих фото. Взгляд задержался на одном из таких: молодой и худой, как бы даже не истощенный, парень лет двадцати зло ухмылялся в камеру, сидя на фоне какой-то оштукатуренной стены. Заинтересованная Элис кликнула по фотографии, но браузер мгновенно выдал, что страница не найдена или была удалена. Пожав плечами, она обругала чертово кэширование и вслушалась в доносившийся из динамиков знакомый уверенный голос.

На развернутом во весь экран видео профессор сидел в кресле, закинув ногу на ногу и рассеянно поигрывая микрофоном. На его лице кривилась самодовольная улыбка, а сам он напрочь игнорировал бушевавшее в зале возбуждение и безмятежно рассматривал бейдж. Похоже, он только что весьма специфически пошутил. Зрители весело галдели и улюлюкали вслед нескольким спешно покидающим зал людям, о чем-то тревожно переговаривались организаторы. Наконец гомон стих, и Риверс поднял голову, как ни в чем не бывало оглядывая аудиторию.

– Все ушли, кто хотел? – Он проводил взглядом последнюю из удалявшихся спин, что успела выхватить камера. – Замечательно. Как я вижу, оставшиеся не из пугливых и не боятся, что сейчас прямо со сцены начнется вербовка в Пентагон. Впрочем, даже если вы и рассчитывали, то вакантные места в аду уже заняты.

Пронесшийся по переполненному залу смех прервал профессора, который и не думал присоединяться к веселью.

– Но мы здесь собрались для другого. Уверен, каждый из присутствующих хотя бы раз создавал нейронную сеть для решения примитивных или же, наоборот, глобальных задач. И вы наверняка ждете от меня примеров, интересных случаев и задач, однако этого не будет. Вместо разбора десятков строчек кода я хотел бы задать всего один вопрос. Многие ли из нас осознают, какие проблемы могут нести в себе наши разработки?

Элис, как и многие в зале, удивленно моргнула и недоверчиво уставилась на лениво покачивающего ногой Риверса. Тот помолчал, словно ожидал ответа, безотчетно скользнул кончиками пальцев свободной руки по идеально небритому подбородку и, так и не услышав ни одного комментария, медленно поднялся, выпрямляясь во весь рост. И будто именно этого не хватало, чтобы публика впала в зыбкое оцепенение и окончательно погрузилась в атмосферу, которую мог создать только он. Мягкая вкрадчивость его голоса одурманивала.

– Судя по многозначительному молчанию, ответ – нет. Но с момента моего вопроса прошли десятки секунд, и вот уже появились единицы, кто может сказать о социальной и этической важности. Но что же остальные? А остальные кинулись упиваться инвестиционной значимостью каждого своего чиха. Верно?

Риверс прислонил руку к глазам, стараясь за безумным светом софитов разглядеть реакцию людей.

– Вы киваете, значит, я прав. Судите сами, мы создаем интеллект, который способен решать задачи без человеческого участия. Обучаем его, тренируем, иногда воспитываем. Вам это ничего не напоминает?

Профессор, который до этого медленно расхаживал перед аудиторией, остановился и сделал паузу, снова оглядев слушателей. Те хранили мертвое молчание.

– Ожидаемо. – Он скептически усмехнулся, а потом устало выдохнул: – Это ребенок. Ваше чадо, которое постепенно растет, меняется и… становится мудрее. Однако вместе с этими переменами приходят и проблемы. Во-первых, машины становятся нашими конкурентами, сокращая изо дня в день необходимость в человеческих ресурсах. Во-вторых, наш опыт показывает: искусственный интеллект еще более необъективен, чем человеческий. Он полностью зависит от того, чему мы его научим, и даже малейший сдвиг в балансе приведет к тому, что на конкурсах красоты компьютер выберет исключительно белых участниц. Каков расист, верно? Но даже это еще не все. Есть последний, но важный момент – кто будет виноват в компьютерном сбое, когда он произойдет? Кто понесет ответственность, когда ваш искусственный разум решит запустить ядерные боеголовки только лишь потому, что в его алгоритмы заложена система защиты себя самого? Да, мы сделали это: наш код прекрасно определяет, как реагировать на события и реагировать ли вообще. Но можем ли мы предсказать его поступки? Нет. Однажды настанет момент, когда мы поймем, что хоть и создаем нейронную сеть, но не управляем ею. Границы ответственности стираются. Уже сейчас даже при самом невинном сбое нельзя сказать, кто виноват: пользователь, разработчик или тот, кто обучал…

Риверс на мгновение прервался, глотнул воды и заговорил снова, однако мозг Элис неожиданно погрузился в оцепенение и заевшей пластинкой проигрывал одну и ту же фразу: «Мы создаем нейронную сеть, но не управляем ею». О господи! От осознания очевидной мысли на мгновение стало очень страшно, но тут на экране особо ярко мигнул новый слайд, и Эл очнулась. Она смотрела на фото подростка с геймбоем в руках, пока в разум впивался ядовитый голос Риверса:

– Сейчас мы не думаем об этих проблемах. Мы вообще ни о чем не задумываемся, а потому я спрошу вас: не кажется ли вам, что, живя так, мы играем в Господа Бога? Посмотрите, у нас даже машины созданы по образу и подобию человеческому. – Риверс зло хохотнул и спрятал за полуприкрытыми веками страшный взгляд.

В этот же момент картинка сменилась неожиданным кадром из фильма, профессор оглянулся, уставившись на зарывшуюся носом в песок ракету Stark Industries, а аудитория беззвучно задохнулась от грубого и неприкрытого намека. Закусив костяшки пальцев, Элис ждала последней, решающей крупицы, что в мутное крошево разобьет ее стройный красивый мир. И это произошло, когда экран показал погрязшую в войнах планету, а издалека донесся негромкий голос:

– Сколько осталось честности и ответственности в нас самих до того момента, как мы направим человечество к деструктивному поведению, используя лишь несколько десятков строчек кода? В наших руках огромная власть, которую многие из вас даже не осознают, считая все это… – Он обвел рукой зал, где летали три маленьких дрона, мерцая вспышками фотокамер. – Невинными играми разума.

Реакция тела оказалась быстрее застопорившегося разума, который впервые и сразу так грубо вытряхнули из академического вакуума. Палец судорожно дернулся на тачпаде, непроизвольно остановив видео, где замерло взятое крупным планом лицо Риверса: открытое, честное и потому совершенно обесчеловеченное. Элис смотрела в бликующий глянец ноутбука, пока медленно осознавала, что наконец-то сбросила весь сонм навешанных иллюзий и идеалистических заблуждений.

Господи! Кто этот человек? Как ему вообще позволили говорить о таком? Но… если подумать, кто бы еще смог? Риверс – Тони Старк их совсем не комиксовой реальности. Риверс – звезда Пентагона, крупнейшей организации, что несла мир через войну. Риверс – создатель программ для управления машинами и причина невинных смертей, когда снаряды летели в мирные дома. И именно Риверс без малейшей попытки смягчить неудобную правду прямо сейчас признал в этом свою вину. Он без капли самообмана взял на себя положенную долю ответственности и гордо вложил ее в головы будущих программистов. Да, не он выбирал цели, но это его руки написали код, его гений дал военным оружие. Мог ли Джеральд Риверс не делать этого? Разумеется. Но обязательно нашелся бы кто-нибудь другой. Кто-то, согласившийся на сделку с собственной совестью или вообще не видящий ничего за тысячами равнодушных строчек алгоритмов.

«Невинные игры разума». Что же, так назвать тотальную власть над сознанием мог только профессор. Элис сардонически хмыкнула. Пройдет совсем немного времени, прежде чем искусственному интеллекту подчинятся все сферы жизни. Да что там, сама жизнь! И тогда будет невероятно сложно не забыться, не заиграться. Черт возьми, скоро даже стиральная машинка сможет сообщить, какая Элис Чейн неряха, да еще пост в «Твиттере» накатает об этом. Эл фыркнула, подумав, что сюжеты в новостях про свихнувшихся от мании преследования людей не так уж и беспочвенны. Большой Брат следит за ними. Мало того, они сами, своими руками создают его каждый день, и она в том числе. Какой кошмар! Профессор прав. Роль Господа Бога манит слишком многих. И все же… несмотря на весь ужас, яд и желчь, невзирая на отрезвляющую честность, речь Риверса воодушевляла. Глядя на него, хотелось стать лучше, умнее, сознательнее. Никогда до этого Элис не испытывала настолько сильный душевный подъем и вдохновение разом свернуть все выросшие на ее пути горы.

Повинуясь внезапному желанию, она открыла поиск в научной библиотеке и вбила имя преподавателя. Только спустя полчаса с невероятным усилием ей удалось оторваться от изучения десятков невероятнейших статей и перевести дыхание, испытывая чуть ли не физический оргазм. Если раньше у нее и возникали кощунственные сомнения в одаренности профессора, то теперь она оказалась в одном шаге от создания новой религии с Великолепным Риверсом в роли главного божества. В голове крутился лишь один вопрос: что этот человек забыл в университете? Почему он тратил свое время, силы и умственные ресурсы на кучку неблагодарных ленивых студентов? Вся его преподавательская деятельность – чистой воды благотворительность. Джеральд Риверс мог нагнуть и поиметь весь мир, если бы захотел.

Элис стало неловко и стыдно за свое поведение на первой лекции, а от воспоминаний об их последнем разговоре вырвался стон. Прочитай она сразу, послушай Хиггинса, и бог знает, как сложилось бы их общение дальше, но ей точно не пришлось бы краснеть за свои слова. Не выдав ни капли тщательно оберегаемой военными информации, не напечатав ни строчки кода, Риверс больно и резко поставил мисс Чейн на место. Ему даже делать ничего для этого не пришлось! Читая его куда более философские, нежели технические статьи, прослеживая неутихающую в кругу таких же неравнодушных ученых полемику, Элис с новой, неожиданной стороны открывала для себя его личность.

Ее погруженный в себя взгляд бесцельно скользил по светившемуся экрану ноутбука с открытым поисковым запросом. На глаза неожиданно попалась ссылка на сайт массачусетского университета с краткой биографией профессора. Такие странички были у каждого преподавателя, но Элис никогда не заходила на них, считая бесполезной тратой времени. Ей нужны были знания и ничего больше, а вникать в жизнь профессоров казалось сродни подглядыванию. Исключением стал Мэттью Хиггинс, но и ситуация у них была немного нестандартной, что ни говори. Так что сейчас Элис впервые захотела узнать о ком-то все, что только можно, и с жадностью вчитывалась в формальные строчки университетской анкеты.

По всему выходило, что Джеральд Риверс родился тридцать четыре года назад в конце ноября, и, судя по датам, сначала учился в частной школе, потом неожиданно перевелся на домашнее обучение. Получил диплом экстерном на год раньше сверстников, поступил в Массачусетс, прошел курс военной подготовки и с третьего года обучения начал сотрудничать с Министерством обороны. Остался в институте на соискание степени доктора наук под руководством нынешнего президента университета Самюэля Коэна. Защитился, ненадолго пропал из жизни вуза и вернулся в год поступления Элис, начав трижды в неделю вдалбливать знания в головы нерадивых студентов. Увлекался музыкой. Далее шел внушительный список публикаций, монографий, докладов. Элис не удержалась и просмотрела перечень последних работ. Судя по количеству перечисленных научных журналов, Джеральд Риверс работал много. Очень много. Ошеломительно много. И как жаль, что к большинству статей не получить доступ даже из главной библиотеки. Но даже того, что нашлось в открытой публикации, могло бы хватить. Вдруг эти статьи ей помогут? Каким бы сильным теперь ни было восхищение, профессор все еще пугал Элис. А его слишком откровенные намеки убивали любое желание общаться лично. Но отведенное Хиггинсом время заканчивалось.