Чего от нас ждут

Это предупреждение. Пожалуйста, прочтите внимательно.

К этому моменту вы уже наверняка видели Предсказателя; миллионы экземпляров будут проданы к тому времени, как вы прочтете эти слова. Для тех, кто не видел: это маленькое устройство, вроде пульта от двери гаража. На нем есть одна кнопка и большой зеленый светодиод. Он вспыхивает, если нажать кнопку. Точнее, за секунду до того, как вы ее нажмете.

Большинство людей говорят, что при первом использовании это напоминает странную игру, целью которой является нажать кнопку после вспышки, и игра эта несложная. Но, попробовав нарушить правила, вы поймете, что не можете этого сделать. Если попытаться нажать кнопку без вспышки, светодиод тут же вспыхнет, и, как бы стремительно вы ни двигались, вам не удастся нажать кнопку, пока не пройдет секунда. Если вы ждете вспышку, не собираясь нажимать кнопку, вспышки не будет. Что бы вы ни делали, вспышка всегда предшествует нажатию кнопки. Обмануть Предсказателя невозможно.

В основе каждого Предсказателя лежит контур с отрицательной временной задержкой; он посылает сигнал назад во времени. Полная значимость технологии станет ясна позже, когда удастся получить задержку длиннее одной секунды, но к предупреждению это не относится. Непосредственная проблема заключается в том, что Предсказатель демонстрирует отсутствие свободы воли.

Всегда существовали доказательства иллюзорности свободы воли; одни основывались на твердой физике, другие – на чистой логике. Большинство людей согласны, что доказательства эти неопровержимы, однако в действительности никто не воспринимает всерьез то, что они подтверждают. Опыт обладания свободой воли слишком силен, чтобы его победили какие-то свидетельства. Для этого нужна наглядная демонстрация – и именно ее предоставляет Предсказатель.

Обычно человек несколько дней маниакально играет с Предсказателем, показывает его друзьям, пробует разные схемы, чтобы обмануть устройство. Он может внешне утратить интерес к Предсказателю, однако никто не может забыть его смысл; в последующие недели человек полностью осознает непреложность будущего. Некоторые люди, понимая, что их выбор не имеет значения, вообще отказываются выбирать. Подобно легиону писцов Бартлби^[4], они больше не совершают спонтанных поступков. В конечном итоге треть игроков с Предсказателем оказываются в больнице, потому что перестают питаться. Их конечным состоянием является акинетический мутизм, разновидность комы наяву. Они следят глазами за движением и время от времени меняют положение – но больше ничего не делают. Способность двигаться сохраняется, однако мотивация исчезает.

Прежде чем люди начали играть с Предсказателями, акинетический мутизм встречался очень редко и был результатом повреждения передней поясной коры головного мозга. Теперь он распространяется, подобно когнитивной чуме. Раньше люди строили предположения о том, какая мысль может уничтожить мыслителя – некий невыразимый лавкрафтов ужас или геделево предложение, сокрушающее человеческую логику. Оказывается, мы все сталкивались с этой разрушительной мыслью – с идеей, что свободы воли не существует. Просто она не причиняла вреда, пока мы в нее не верили.

Врачи пытаются спорить с пациентами, пока те участвуют в беседах. Прежде мы все вели счастливую, активную жизнь, говорят они, а ведь тогда у нас тоже не было свободы воли. Почему что-то должно меняться? «Все поступки, совершенные вами в прошлом месяце, были не более свободными, чем те, что вы совершаете сегодня, – может сказать врач. – Ничто не мешает вам вести себя как прежде». На что все пациенты отвечают: «Теперь я знаю». И для некоторых эти слова становятся последними.

Кто-то заявляет: сам факт, что Предсказатель вызывает подобное изменение в поведении, означает наличие у нас свободы воли. Автомат не может разочароваться; на это способна только свободномыслящая личность. То, что одни люди впадают в акинетический мутизм, а другие – нет, лишь подчеркивает важность выбора.

Увы, подобные рассуждения ошибочны; каждая форма поведения согласуется с детерминизмом. Одна динамическая система может попасть в область притяжения и окончить свои дни в фиксированной точке, в то время как другая будет бесконечно хаотично метаться – но поведение обеих будет полностью предопределено.

Я передаю вам это предупреждение, находясь чуть больше чем на год в вашем будущем; это первое длинное послание, полученное с использованием в устройствах связи контуров с негативной задержкой в мегасекундном диапазоне. Будут и другие сообщения, на другие темы. Мое послание таково: делайте вид, будто обладаете свободой воли. Очень важно, чтобы вы вели себя так, словно ваши решения значимы, даже если вы знаете, что это не соответствует действительности. Реальность не имеет значения; значение имеет ваша вера, и вера в ложь – единственный способ избежать комы наяву. Теперь цивилизация зависит от самообмана. А может, всегда от него зависела.

И все же я знаю, что, поскольку свобода воли – иллюзия, заранее предопределено, кто впадет в акинетический мутизм, а кто нет. С этим ничего нельзя поделать; нельзя выбрать влияние, которое окажет на вас Предсказатель. Кто-то поддастся, а кто-то нет, и мое послание не изменит этого. Тогда почему же я его отправил?

Потому что у меня не было выбора.

Жизненный цикл программных объектов

Ее зовут Ана Альварадо, и сегодня у нее отвратительный день. Всю неделю она готовилась к рабочему интервью – первому, которое за долгие месяцы безработицы стало не просто электронной перепиской, а видеоконференцией. Но лицо рекрутера мелькнуло на экране лишь на несколько секунд, за которые он успел сообщить ей, что компания уже наняла человека на эту должность. И Ана продолжает сидеть у монитора в своем лучшем костюме, который надела совершенно зря. Она делает несколько вялых попыток разослать резюме в другие компании, но мгновенно получает автоматические отказы. Примерно через час Ана решает отвлечься: она открывает окно «Другого Измерения», чтобы поиграть в свою любимую игру – «Эпоху Иридия».

Береговой плацдарм заполонен воинами, но на ее аватаре перламутровые доспехи – о таких можно только мечтать, – и вскоре игроки наперебой приглашают ее в свои команды. Они пересекают зону боевых действий, покрытую дымом горящих бронетранспортеров, а потом час пробиваются через укрепления «мантисс»^[5] Боевая задача как раз по вкусу Ане: не чрезмерно сложная, что дает уверенность в победе, однако и не настолько простая, чтобы не получить удовольствие от игры. Ее товарищи по команде уже готовы приступить к следующей миссии, но в нижнем углу монитора открывается окошко телефона – вызов от ее подруги Робин. Ана переключает микрофон.

– Привет, Робин.

– Привет, Ана. Как жизнь?

– Даю намек: прямо сейчас я играю в «Иридий».

Робин улыбается:

– Значит, утро было неважным?

– Как минимум.

Ана рассказывает подруге о своем практически несостоявшемся интервью.

– Что ж, зато у меня есть кое-какие новости, которые могут тебя приободрить. Встречаемся на «ООПП Земля»^[6].

– Идет. Дай мне только выйти из «Иридия».

– Я буду там же, где всегда.

– О’кей, до встречи.

Ана извиняется перед игроками и закрывает свое окно «Другого Измерения». Затем входит в «ООПП Земля» и выводит на экран монитора место своего последнего пребывания – данс-клуб, вырубленный прямо в гигантской скале. В «ООПП Земля» множество своих игровых континентов: «Эльдерторн», «Орбус Тетриус», но Ане они не очень-то по вкусу, и здесь она проводит время только на социальных континентах. Ее аватар одет так же, как и в прошлый раз, в костюм для вечеринки. Она переодевается в более удобную одежду и открывает портал домашнего адреса Робин. Шаг внутрь – и она в виртуальной гостиной Робин, в жилом аэростате, который парит над подковообразным водопадом с милю шириной.

Их аватары обнимаются.

– Что нового? – спрашивает Ана.

– Blue Gamma стартует, – говорит Робин. – Мы получили очередную порцию грантов и можем начинать поиск работников. Я рассовала повсюду твое резюме, и теперь каждый мечтает встретиться с тобой лично.

– Со мной? Из-за моего огромного опыта? – Ана буквально на днях сдала экзамен на сертификат тестера ПО^[7].Вводные занятия с их группой вела Робин – там они, собственно, и познакомились.

– Между прочим, именно из-за этого. Их интересует твое последнее место работы.

Ана шесть лет проработала в зоопарке, и только его закрытие вынудило ее снова сесть за парту.

– Я знаю, что каждый стартап^[8]поначалу напоминает сумасшедший дом, но не уверена, что им нужен смотритель зоопарка.

Робин смеется.

– Давай-ка я лучше покажу тебе, над чем мы работаем. Наверху дали на это добро.

Это уже серьезно. До сих пор Робин не имела права распространяться о своей работе в Blue Gamma.

– У нас здесь свой частный остров. Посмотрим?

Она открывает новый портал, и их аватары проходят через него.

Пока картинка на мониторе обновляется, Ана ожидает увидеть какой-нибудь фантастический ландшафт. Однако вместо этого ее аватар оказывается в некоем подобии детских яслей. Присмотревшись, Ана видит, что вся сцена словно взята из детской книжки: маленький антропоморфный тигренок, щелкающий цветными костяшками, нанизанными на проволоку; панда, крутящая в лапах игрушечный автомобиль; мультяшный шимпанзе, катающий шар из пенистой резины.

Аннотация на экране сообщает, что это дигитанты. Ана знает, что дигитанты – это дигитальные^[9]организмы, живущие в виртуальных мирах типа «ООПП Земля», однако таких ей видеть еще не приходилось. Это не идеализированные домашние питомцы, приобретенные людьми, которые не могут посвятить силы и время настоящим животным. Дигитантам недостает проработанной в деталях картиночной привлекательности, а движения их слишком неуклюжи. Не похожи они и на обитателей биомов^[10]«ООПП Земля». Ана бывала на Пангее – архипелаге, где можно было увидеть одноногих кенгуру или змей, которые могли ползти, по своему желанию, головой либо хвостом вперед, и прочую живность, выведенную в местных «инкубаторах». Но эти дигитанты явно были родом не оттуда.

– Так вот что собирается выпускать Blue Gamma? Дигитантов?

– Да, но не совсем обычных дигитантов. Смотри. – Аватар Робин подходит к шимпанзе, катающему мяч, и присаживается на корточки рядом с ним. – Привет, Понго. Чем занимаешься?

– Понго играй мяч, – отвечает дигитант, и Ана вздрагивает от неожиданности.

– Играешь с мячом? Здорово! А можно я тоже поиграю?

– Нет. Мяч Понго.

– Ну пожалуйста?

Шимпанзе осматривается и потом, не выпуская мяча, ковыляет к рассыпанным на земле небольшим деревянным блокам. Один из них он пинает ногой в сторону Робин.

– Робин играй с броки. – Шимпанзе садится. – Понго играй мяч.

– Что ж, ладно. – Робин возвращается к Ане. – И что скажешь?

– Это поразительно. Я понятия не имела, что дигитанты на это способны.

– Стали способны, но совсем недавно. Наша группа разработчиков наняла двух докторов наук после того, как в прошлом году мы увидели их презентацию. Теперь у нас есть геном-движок^[11], который мы называем Нейровзрыв. Он обеспечивает когнитивное развитие в гораздо большей степени, чем все, что мы видели прежде. Эти ребятишки, – Робин машет в сторону обитателей детских яслей, – пока что самые башковитые из всех, что мы вывели.

– И вы собираетесь продавать их как домашних питомцев?

– Во всяком случае, планируем. Мы собираемся рекламировать их как питомцев, с которыми можно разговаривать, которых можно обучать всяким трюкам, и так далее. Наш неофициальный – для внутреннего употребления – девиз: «Забавно, как с обезьянкой, плюс никто не швыряет в тебя какашками».

Ана улыбается:

– Кажется, я начинаю понимать, чем может пригодиться опыт работы с животными.

– Вот-вот. Мы не всегда можем заставить этих ребят делать то, что им говорят, и в каждом конкретном случае мы не знаем почему – гены ли виноваты или то, что мы неверно с ними работаем.

Ана смотрит, как дигитант-панда, взяв одной лапой игрушечный автомобиль, переворачивает его и осторожно постукивает другой лапой по колесам.

– Каков начальный уровень знаний и умений этих дигитантов?

– Практически нулевой. Я тебе покажу.

Робин активирует экран на одной из стен детсада. На видео – комната, раскрашенная в яркие цвета, и несколько дигитантов, лежащих на полу. Внешне они ничем не отличаются от тех, что с таким увлечением играют сейчас в яслях, но движения их бесцельны и дергано-спазматичны.

– Эти инстанцированы^[12]совсем недавно. Необходимо несколько месяцев субъективного времени, чтобы они освоили самые азы существования: как интерпретировать визуальные сигналы, как двигать конечностями, как обращаться с твердыми предметами. Этот этап они проводят в «инкубаторе», и занимает он примерно неделю. Когда они готовы к освоению языка и общению, мы переводим их в режим реального времени. С этого момента начиналась бы твоя работа.

Панда несколько раз прокатывает автомобильчик по полу вперед и назад, а потом издает пронзительный крик: «Мо-мо-мо!» Ана понимает, что дигитант смеется. Робин продолжает:

– Я знаю, что в университете ты изучала принципы общения с приматами. Вот тебе шанс применить знания на практике. Что скажешь? Заинтересовало тебя наше предложение?

Ана колеблется. Поступая в колледж, она представляла себе будущее совершенно иным. На минуту она задумывается, как до всего этого дошло. Еще девочкой она мечтала продолжить работу, которую в Африке делали Фосси и Гудолл^[13], однако ко времени окончания школы человекообразных обезьян на планете осталось так мало, что наилучшим вариантом для Аны стала работа в зоопарке. А теперь на повестке дня – дрессировка виртуальных домашних питомцев. На примере ее карьеры можно проследить, как с депрессивной очевидностью съеживается мир природы.

«Прекрати, возьми себя в руки», – приказывает себе Ана. Может, она и хотела чего-то лучшего, но эта работа связана с программированием – и разве не для того она ходила на свои последние курсы? А дрессировать виртуальных обезьян, возможно, все же веселее, чем тестировать пакеты программ. И если Blue Gamma предложит достойную зарплату – так почему бы и нет?

Его зовут Дерек Брукс, и новое задание его не слишком радует. Дерек разрабатывает аватары дигитантов Blue Gamma, и работа ему в принципе нравится, но вчера менеджеры производственного отдела дали ему задание, которое он воспринял как откровенно неудачную идею. Он пытался им это объяснить, но решение уже было принято, и теперь ему остается лишь понять, как выполнить работу на более или менее приличном уровне.

Дерек обучался искусству анимации, так что, с одной стороны, разработка дигитальных персонажей – дело вполне по его профилю. С другой стороны, эта работа радикально отличается от того, чем традиционно занимаются аниматоры. В обычной ситуации он разрабатывал бы походку и жестикуляцию персонажа, но у дигитантов и походка, и жесты уже содержатся в геноме, постепенно проявляясь вовне. Его же задача – создать такое тело, которое воспроизводило бы «врожденные» жесты дигитантов таким образом, чтобы это нравилось людям. Из-за таких специфических требований многие аниматоры – включая его жену Венди – не работают с дигитальными формами жизни. Однако Дереку это нравится. Он считает, что помочь новой форме жизни выразить себя – это самая интересная работа, какая может выпасть на долю аниматора.

Он также разделяет философию Blue Gamma в подходе к разработке ИИ^[14]: опыт – лучший учитель, поэтому вместо того, чтобы начинять ИИ знанием, которое предпочел бы ты, следует продавать ИИ, изначально способный к обучению, и предоставить покупателям самим заниматься его воспитанием и образованием. Но для того, чтобы покупателям хотелось прилагать усилия, дигитанты должны быть исключительно хороши во всех аспектах. Их дигитальное «я», их личность должна быть привлекательной. Этим занимаются программисты-разработчики. Их аватары должны быть симпатичными и радующими глаз – а это уже делает Дерек. Но он не может просто наделить их огромными глазами и маленькими носиками. Если они выглядят как мультяшки, никто не будет принимать их всерьез. И напротив, если они будут до мельчайших деталей напоминать реальных животных, их мимика в сочетании со способностью говорить будут сбивать потребителя с толку и даже настораживать его. Здесь требуется тонкий и точный баланс между первым и вторым. Он проводил бесчисленные часы, просматривая видеозаписи с детенышами животных, – и в результате добился того, что создал гибридные мордашки: очаровательные, однако не преувеличенно очаровательные.