8

Ночь перед днём Х пролетела, на взгляд Элис, слишком уж быстро. И рассвет на первой космической приближал её к неизбежному. Ха! Да сегодня просто чёртов день чёртова Джеральда Риверса: сперва лекция, а потом консультация, в ожидании которой трясутся все поджилки в маленьком тощем тельце. Что бы там ни говорила Генри, как бы ни пыталась переубедить, Элис не могла, а может, действительно не хотела избавиться от предвзятого отношения. После сцены в клубе в самый первый вечер, после его поведения на людях, после всех намёков и недосказанности по отношению к ней самой, что она должна была думать? Риверс вёл себя однозначно и вполне соответствующе той картинке, что успела сформироваться в её голове.

Бросив взгляд на часы, показывавшие половину девятого утра, Элис вздохнула, прикрыла глаза и решилась; у неё есть пара часов, которые можно смело потратить на маленькие глупости. Профессор в обед, профессор на ужин, теперь ещё и на завтрак. Достав из-под кровати ноутбук, она открыла его и запустила в браузере поисковик. Ну, О’кей, Гугл… Что ты нам расскажешь по запросу «Джеральд Риверс». Один электронный импульс и на Элис вывалились десятки страниц ссылок и фотографий.

Первым делом любопытство потребовало посмотреть снимки. С каким-то удивлением она обнаружила огромное количество изображений с конференций, где Риверс стоял то за трибуной, то подле экрана, на котором светились размытые блок-схемы и графики. Нашлось и прошлогоднее часовое видео с одного из выступлений для TED²² на конференции разработчиков. Запустив в фоновом окне YouTube, она листала страницу, рассматривая фотографии Риверса в дорогущих деловых костюмах и с неизменной искусственной улыбкой. Серьёзные кадры перемежались совершенно внезапными снимками с невероятных вечеринок, официальных приёмов, среди которых засветилась чуть ли не вся верхушка управленческой власти, и была даже парочка студенческих фото. Взгляд задержался на одном из таких: молодой и худой, как бы даже не истощённый, парень лет двадцати зло ухмылялся в камеру, сидя на фоне какой-то заштукатуренной стены. Заинтересованная Элис кликнула по фотографии, но браузер мгновенно выдал, что страница не найдена или была удалена. Пожав плечами, она обругала чёртово кэширование и вслушалась в доносившийся из динамиков знакомый уверенный голос.

На развёрнутом во весь экран видео профессор сидел в кресле, закинув ногу на ногу и рассеянно поигрывая микрофоном. На его лице кривилась самодовольная улыбка, а сам он напрочь игнорировал бушевавшее в зале возбуждение и рассматривал собственный невероятно интересный бейдж. Похоже, он только что весьма специфически пошутил. Зрители весело галдели и улюлюкали вслед нескольким спешно покидающим зал людям, о чём-то тревожно переговаривались организаторы. Наконец гомон более или менее стих, и Риверс поднял голову, как ни в чём и не бывало оглядывая свою аудиторию.

– Все ушли, кто хотел? –  Он проводил взглядом последнюю из удалявшихся спин, что успела выхватить камера. –  Замечательно. Как я вижу, оставшиеся не из пугливых и не боятся, что сейчас прямо со сцены начнётся вербовка в Пентагон. Впрочем, даже если вы и рассчитывали, то вакантные места в аду уже заняты. 

Пронёсшийся по переполненному залу смех прервал профессора, который и не думал веселиться с остальными.

– Но мы здесь собрались для другого. Уверен, каждый из присутствующих хотя бы раз создавал нейронную сеть для решения примитивных или же, наоборот, глобальных задач. И вы наверняка ждёте от меня примеров, интересных случаев и задач, однако, этого не будет. Вместо разбора десятков строчек кода я хотел бы задать всего один вопрос. Многие ли из нас осознают, какие проблемы могут нести в себе наши разработки? 

Элис, как и многие в зале, удивлённо моргнула и недоверчиво уставилась на лениво покачивающего ногой Риверса. Тот помолчал, словно ожидал ответа, безотчётно скользнул кончиками пальцев свободной руки по идеально ощетинившемуся подбородку и, так и не услышав ни одного комментария, медленно поднялся, выпрямляясь во весь свой гигантский рост. И будто именно этого не хватало, чтобы публика впала в зыбкое оцепенение и окончательно погрузилась в атмосферу, которую мог создать только он. Мягкая вкрадчивость его голоса одурманивала.

– Судя по многозначительному молчанию, ответ – нет. Но с момента моего вопроса прошли десятки секунд, и вот уже появились единицы, кто может сказать о социальной и этической важности. Но что же остальные? А остальные кинулись упиваться инвестиционной значимостью каждого своего чиха. Верно? 

Риверс прислонил руку к глазам, стараясь за безумным светом софитов разглядеть реакцию людей.

– Вы киваете, значит, я прав. Судите сами, мы создаём интеллект, который способен решать задачи без человеческого участия. Обучаем его, тренируем, иногда воспитываем. Вам это ничего не напоминает?

Профессор, который до этого медленно расхаживал перед аудиторией, остановился и сделал паузу, снова оглядев слушателей. Те хранили мёртвое молчание.

– Ожидаемо. – Он скептически усмехнулся, а потом устало выдохнул: – Это ребёнок. Ваше чадо, которое постепенно растёт, меняется и… становится мудрее. Однако вместе с этими переменами приходят и проблемы. Во-первых, машины становятся нашими конкурентами, сокращая изо дня в день необходимость в человеческих ресурсах. Во-вторых, наш опыт показывает – искусственный интеллект ещё более необъективен, чем человеческий. Он полностью зависит от того, чему мы его научим, и даже малейший сдвиг в балансе приведёт к тому, что на конкурсах красоты компьютер выберет исключительно белых участниц. Каков расист, верно? Но даже это ещё не всё. Есть последний, но важный момент – кто будет виноват в компьютерном сбое, когда он произойдёт? Кто понесёт ответственность, когда ваш искусственный разум решит запустить ядерные боеголовки только лишь потому, что в его алгоритмы заложена система защиты себя самого? Да, мы сделали это – наш код прекрасно определяет, как реагировать на события и реагировать ли вообще. Но можем ли мы предсказать его поступки? Нет. Однажды настанет момент, когда мы поймём, что хоть и создаём нейронную сеть, но не управляем ею. Границы ответственности стираются. Уже сейчас даже при самом невинном сбое нельзя сказать, кто виноват: пользователь, разработчик или тот, кто обучал…

Риверс на мгновение прервался, глотнул воды и заговорил снова, однако мозг Элис неожиданно погрузился в оцепенение и заевшей пластинкой проигрывал одну и ту же фразу: «Мы создаём нейронную сеть, но не управляем ею». О господи! От осознания этой очевидной мысли на мгновение стало очень страшно, но тут на экране особо ярко мигнул новый слайд, и Эл очнулась. Она смотрела на фото подростка с геймбоем в руках, пока в уши впивался ядовитый голос Риверса:

– Сейчас мы не думаем об этих проблемах. Мы вообще ни о чём не задумываемся, а потому я спрошу вас – не кажется ли вам, что, живя так, мы играем в Господа Бога? Посмотрите, у нас даже машины созданы по образу и подобию человеческому. – Риверс зло хохотнул и спрятал за полуприкрытыми веками страшный мучительный взгляд.

В этот же момент картинка сменилась неожиданным кадром из фильма, профессор оглянулся, уставившись на зарывшуюся носом в песок ракету «Stark Industries», а аудитория беззвучно задохнулась от грубого и неприкрытого намёка. Закусив костяшки пальцев, Элис ждала последней, решающей крупицы, что в мутное крошево разобьёт её стройный красивый мир. И это произошло, когда экран показал погрязшую в войнах планету, а издалека донёсся негромкий голос:

– Сколько осталось честности и ответственности в нас самих до того момента, как мы направим человечество к деструктивному поведению, используя лишь несколько десятков строчек кода? В наших руках огромная власть, которую многие из вас даже не осознают, считая всё это… – Он обвёл рукой зал, где летали три маленьких дрона, мерцая вспышками фотокамер. – Невинными играми разума.

Реакция тела оказалась быстрее застопорившегося разума, который впервые и сразу так грубо вытряхнули из академического вакуума. Палец судорожно дёрнулся на тачпаде, непроизвольно остановив видео, где замерло взятое крупным планом лицо Риверса: открытое, честное и потому совершенно обесчеловеченное. Элис смотрела в бликующий глянец ноутбука, пока медленно осознавала, что наконец-то сбросила весь сонм навешанных иллюзий и идеалистических заблуждений.

Господи! Кто этот человек? Как ему вообще позволили говорить о таком? Но… если подумать, кто бы ещё смог? Риверс – Тони Старк их совсем не комиксовой реальности. Риверс – звезда Пентагона, крупнейшей организации, что несла мир через войну. Риверс – создатель программ для управления машинами и причина невинных смертей, когда снаряды летели в мирные дома. И именно Риверс без малейшей попытки смягчить неудобную правду прямо сейчас признал в этом свою вину. Он без капли самообмана взял на себя положенную долю ответственности и гордо вложил её в головы будущих программистов. Да, не он выбирал цели, но это его руки написали код, его гений дал военным оружие. Мог ли Джеральд Риверс не делать этого? Разумеется. Но обязательно нашёлся бы кто-нибудь другой. Кто-то, согласившийся на сделку с собственной совестью или вообще невидящий ничего за тысячами равнодушных строчек алгоритмов.

«Невинные игры разума». Что же, так назвать тотальную власть над сознанием мог только профессор. Элис сардонически хмыкнула. Пройдёт совсем немного времени, прежде чем искусственному интеллекту подчинятся все сферы жизни. Да что там! Сама жизнь! И тогда будет невероятно сложно не забыться, не заиграться. Чёрт возьми, скоро даже стиральная машинка сможет сообщить, какая Элис Чейн неряха, да ещё пост в Твиттере накатает об этом. Эл фыркнула, подумав, что все эти сюжеты в новостях про свихнувшихся от мании преследования людей, на самом деле, не так уж и беспочвенны. Большой Брат следит за ними. Мало того, они сами, своими руками создают его каждый день, и она в том числе. Кошмар какой! Профессор прав. Роль Господа Бога манит слишком многих. И всё же… Несмотря на весь ужас, яд и желчь. Невзирая на отрезвляющую честность, речь Риверса воодушевляла. Глядя на него, хотелось стать лучше, умнее, сознательнее. Никогда до этого Элис не испытывала настолько сильный душевный подъём и вдохновение разом свернуть все выросшие на её пути горы.