– Да! Именно! И физические процессы не мыслят!.. А есть мое понимание, понимаете? Я понимаю! Что такое понимание, осознание, ощущение? В реальном физическом мире ведь нет красного, шумного, болезненного… Это все лишь мои ощущения. То есть мой внутренний мир – это мир ощущений! И весь внешний мир тоже представлен для меня только в моих ощущениях! Никак иначе. Поэтому он весь помещается внутри меня. А «снаружи», в реальности – просто электромагнитная волна отражается вот от этой сахарницы в определенном диапазоне, который я воспринимаю как «красное». А дальтоник – как «зеленое». А собака с черно-белым зрением – как оттенок серого, наверное. Но мир собаки – это не мой мир. И вообще, если отъехать к физике, к квантовой механике, то…

– Давайте туда не будем ехать! – взмолился я. – Я понял вашу мысль, мне хватит, я забыл всю физику… Сознание – это мое восприятие, ощущения и самоощущение. А компьютер, – я кивнул на его ноутбук, – его не имеет. Все!

– Не имеет. Откуда ему его взять? Компьютеры – и даже суперкомпьютеры, которые выигрывают в шахматы у чемпионов, – всего лишь работают по алгоритмам и заточены под определенную задачу – например, играть в шахматы. В этом они превосходят человека, но отстают по другим параметрам. В том числе и по вычислительным возможностям, как ни странно, потому что мозг обрабатывает такое количество информации, управляя нашим телом и ориентируясь в пространстве… Бездну информации! И главное, у него есть чем! У нас нейронов в мозге 80 миллиардов, да еще столько же астроцитов, это такие вспомогательные клетки, которые, тем не менее, тоже принимают активное участие в передаче сигналов. И все это связано проводами аксонов. Каждый нейрон имеет десятки тысяч связей с другими клетками!.. И если мы хотим смоделировать мозг с помощью машины, у нее должна быть похожая архитектура. Вы слышали про нейросети?

– Да. Но не особо вникая, честно говоря… – Я все еще не понимал, куда он клонит.

– И не надо особо вникать! Просто для понимания: это принципиально другая архитектура, и нейросети нужно обучать, а не программировать… То есть они как бы программируют себя сами, ориентируясь на ответные сигналы из среды, как это делает мозг.

– Так… Я правильно понял – вы мечтаете построить такой нейросетевой сверх-супер-пупер-компьютер, чтобы в нем был не только простой счетный интеллект по заданному вами алгоритму, но и сознание – хотя мы и не знаем, что такое сознание? И на это тратите деньги налогоплательщиков? – радушно и приветливо улыбнулся я, отложив наконец чайную ложечку.

Фридман не улыбнулся мне в ответ.

– Мы уже его построили.

Это была третья кружка каленого, горяченного чая, который налил мне из клокочущего пластмассового электрочайника Фридман. Я не отказался, хотя за время жизни в Америке больше привык к кофе. Или мне только казалось, что привык, потому как ни разу за время пребывания в России меня к кофе не потянуло. А вот чаю я выпил уже преизрядное количество! И, судя по всему, до конца поездки выпью еще несколько ведер. Говорят, в чае кофеина даже больше, чем в кофе. Но мне главное – удерживаться от сахара. Если уж от варенья удержаться не получилось…

Смех смехом, но на сладкое я и вправду зря налегаю. Хотя, говорят, сахар помогает мозгам думать. А думать мне сейчас было над чем. Мы говорили с Андреем уже почти час, а я так и не добрался до сути своего визита. Но перебивать Фридмана мне не хотелось. Он рассказывал вещи, которые меня всегда интересовали – по меньшей мере, пока я жил тут. Америка, правда, подстерла своей суетой все прежние интересы – не до того стало. Но теперь, вернувшись на родную когда-то почву, я вновь с любопытством слушал своего собеседника, возбужденно поблескивающего очками. Он, кажется, начал подбираться к цели нашей встречи.

– …вот так примерно работает вычислительный автомат, – рисовал мне на бумажке какие-то схемы Фридман. В которых я давно уже запутался, но виду не подавал, делая серьезное лицо и усиленно кивая. – Это называется еще машиной Тьюринга, был такой английский…

– Я знаю.

– Отлично. Его машина – версия конечного автомата… Ну, не важно, мы не будет углубляться особо в детали. Тут важно только, что этот автомат не может мыслить – ему нечем. И когда люди это поняли, они задумались и решили делать машины по примеру мозга – имитируя нейросети. И не программировать эти нейросети, а обучать, как это делает мозг, обучаясь, то есть самопрограммируясь. Ну, мы об этом уже говорили…

Фридман поднял палец, привлекая мое внимание. Но оно и так было в тонусе. Я упорно следил за его мыслью в меру своего ограниченного понимания.

– Но смотрите теперь, какая ужасная вещь. Ведь мозг – тоже машина, только биологическая. Машина не мыслит. Значит, и мозг, получается, не может мыслить? Да и чему там мыслить-то? Ведь в клетках просто идут химические реакции, сложные, конечно, но там всего-навсего производятся высокомолекулярные соединения. Творится химия – кислород присобачился там к углероду, например… Электрические сигналы, вещества разные передаются туда-сюда по аксонам. Сплошная биохимия, которая не мыслит! Нейрон – это просто клетка, такая же, как все наши остальные клетки – у нее есть ядро, цитоплазма, белки, клеточные органеллы… Каждый отдельный нейрон не мыслит, он просто работает как живая клетка, как маленькая биохимическая фабрика. А мышление, оно висит над нейронами! Оно как бы совокупность всех сигналов сразу. Понимаете?

– Чай, не дурачок. Хотя все эти рассуждения о конечных автоматах, признаться, не очень понял.

– Да и неважно!.. Важно, что мы можем сымитировать нейросеть, можем заставить машину учиться, то есть самопрограммироваться, как мозг. Но будет ли она при этом думать и понимать – вот вопрос! Будет ли у нее сознание?

– Понятия не имею. И как узнать?

– Вот! – возбужденно воскликнул Фридман. – Сейчас мы к этому перейдем… Вы варенье-то берите.

– Я беру. Уже полбанки забрал, – я снова потянулся ложкой к блюдцу с горкой блестящих глянцевых ягод янтарного цвета. Что же я делаю-то? Это же какая-то катастрофа!

Андрей вскочил и прошелся по кабинету, видно было, что он возбужден рассказом и размышлениями. А я сидел и был спокоен – я просто умел слушать, и это тоже профессиональная черта журналистов и полицейских детективов.

– Мы не знаем, что такое сознание и мышление по существу своему. Но мы знаем одну приметную черту сознания – самоосознание, то есть выделение себя из окружающего мира. Верно?

– Видимо, так, – задумался я. Мысль мне понравилась. – Если нет выделения себя, то о каком сознании может идти речь? Если существо не выделяет себя из мира, то его и нету, считай. А если выделяет, активно стремится сохранить себя, значит, оно себя осознает!

– Отлично! Осознание и есть самовыделение! Ощущение себя, ощущение себя личностью. Но откуда берется это ощущение? Как оно формируется? Человек ведь рождается пустой флешкой. Ну, ладно, отформатированной флешкой! Генами отформатированной, с определенной способностью записать на себе информацию. И вот сразу после рождения личность начинает на эту пустую отформатированную генами флешку как-то прописываться. Как?

– Постепенно. Обучением. Воспитанием. Мама-папа. Программы: это не делай, так не поступай, это плохо, ремешком по заднице получишь. Психологические паттерны, как говорит Джейн, – сказал я, слегка недоумевая: почему мы пошли по второму кругу? Про обучение мы ведь уже говорили…

– Да, обучение! Но личность – это то, что отличает один субъект от другого. – Фридман подчеркнул интонацией слова «личность» и «отличает». – Русский язык прямо показывает связь этих слов! Личность – то, что отличает нас от себе подобных! Иными словами, личность, то есть отличия, у нас формируются в общении с себе подобными, схожими субъектами. Родители нас воспитывают и учат, учителя, другие люди, сверстники, телевидение, интернет, улица… В общем, мы как детали по время галтовки – тремся друг о друга и об абразив жизни и тем самым формируемся.

– Мне это в голову не приходило, конечно, но, наверное, вы правы, – снова согласился я. – Если бы, например, мои отец с матерью не расстались, у меня была бы другая биография и я, как личность, по-другому бы сформировался. Другая биография, другая страна проживания, другая жена была бы – с Леной мы просто не встретились бы, потому что… Была бы совсем другая личность – с другой судьбой! Это даже, я бы сказал, тривиально.

– Не тривиально! Вы не поняли. Тут важно не то, что вы сформировались бы другим человеком, правда, с той же телесной базой, которая определяется генным «форматированием», а то, что личность вообще, то есть способность отличать себя от других, иными словами, само сознание не может сформироваться вне контакта с себе подобными!

– Маугли! – вдруг вспомнил я. – Дети, воспитанные животными, если они не попали к людям до определенного возраста, так и остаются животными – волком в теле человека. Носитель у него отформатирован, как вы это называете, по-человечески, в смысле, телесно он человек, но сознанием это волк. У него личность волка.

– Ну-у-у, – с сомнением протянул Фридман. Видимо, его такой простой найденный мною пример не вдохновил. – Да, так тоже можно сказать. Хотя это, наверное, упрощение. А может, как раз и не упрощение, а самая суть… Я как-то с другой стороны к этой мысли пришел… В общем, только отношения с себе подобными нас формируют путем взаимообучения. А у суперкомпьютера, который стоит один в темном зале, потому что ему даже свет не нужен, откуда возьмутся «себе подобные»? Таких машин вообще по пальцам в мире… А таких, какую мы создали, – вообще нет. Мы начали экспериментировать с квантовыми кубитами. Впрочем, вы просили квантовую механику объехать стороной… Но суть в том, что наша машина…

– Очень большая?

– Еще больше! Больше, чем вы можете вообразить! И кто-либо вообще… Она не просто большая! Она состоит из сверхмощных квантовых элементов. Причем для каких-то особо сложных вычислительных процессов она может задействовать по сетям сторонние ресурсы, другие вычислительные мощности, свободные в мире, – вплоть до персональных компьютеров, но там, правда, даже одного процента мощности не набегает, потому что главное – те самые кубиты, это новые элементы, в которых реализована…

Я поморщился и отрицательно махнул рукой – не надо подробностей! Меня больше интересовало другое:

– То есть сознания внутри нее все равно нет, потому что она одна-одинешенька в мире?

– Да. Поэтому мы пошли другим путем. Вычислительные мощности, нами саккумулированные, столь чудовищны, что мы смогли просто запустить внутри нее тот самый процесс «галтовки».

– Не понял. – Я даже отставил кружку.

– Мы создали внутри виртуальный мир… Виртуальную среду. Сама машина сознанием не обладает. А вот внутри машины… Ну, представьте город или биосферу. У них же нет сознания, личности. А вот у их обитателей есть! В общем, после долгих лет работы, проб и ошибок примерно месяц назад стало можно войти в контакт.

– Войти в контакт?

– Да. Собственно, это и было нашей целью.

– Как будто с пришельцами! – улыбнулся я.

– Именно так, – без улыбки откликнулся Фридман. – В полной мере! Про Тьюринга вы слышали. А про тест Тьюринга? Про это слышали?..

– Чего-то слышал, но не помню.

– Очень просто – если человек долго беседует с собеседником, которого не видит, и не может визуально определить, с машиной он беседует или с живым человеком, значит, его собеседник – мыслящее существо. Вне зависимости от того, машина это или человек. Ну, понятно – мышление есть то, что мы интуитивно понимаем, хотя определить и не можем. Но каждый про себя точно знает, что он мыслит! И про других предполагает и уверен в том же. И если вы будете уверены, что ваш собеседник за стенкой человек… значит, там действительно человек! В смысле некое мыслящее существо. Это и есть тест Тьюринга.

– Да, точно. Я читал…

– Да наверняка читали! Много об этом пишут… И уже давно есть разные версии роботов, которые по определенным алгоритмам составляют фразы в ответ на ваши, поддерживая диалог, но при достаточно длительной беседе всегда можно расколоть машину, которая подделывается под человека. А вы будете беседовать…

– Я?

– Да! Это и будет ваш «пациент», как вы выразились. Вы будете долго, несколько дней или больше беседовать с нашей машиной… В специально выделенном помещении, вам не будут мешать, и вы…

– Стоп. Стоп. Я буду говорить с машиной, зная, что это машина? А в чем тогда смысл?

– В этом как раз! Это такой перекошенный текст Тьюринга, модифицированный. Усложненный, я бы сказал. Вы будете знать, что ваш собеседник – виртуальный, но в конце, тем не менее, дадите свой вердикт – есть ли у него сознание, мышление… я не знаю… человечность. В общем, весь тот набор, который присущ и вам самому… Там будут всего две графы в анкете, увидите сами… Понимаете, мы уже проводили классический тест Тьюринга – с добровольцами, которые не знали, с кем беседуют. Машина их легко обманула. Точнее, переиграла. Машина слишком мощная, и все уверенно написали, что беседуют с человеком. Но нас-то не это интересует!

– А что?

– То, на что ответит… должна, по нашей идее, ответить вторая серия экспериментов. В которой вы будете участвовать.

– Погодите, – я старался вникнуть в то, что он говорил. – Еще раз. Я буду говорить с машиной и буду знать про это?

– Уже знаете!

– И потом должен буду дать ответ… точнее, сделать выбор – человек это был или машина?

Фридман вздохнул:

– Да, я понимаю, что на слух это звучит нелепо, но сейчас попробую вам объяснить по-другому… Наверное, я неправильно объяснял или вы не совсем верно поняли. Вас смущает, наверное, слово «машина». Но вы будете говорить не с машиной! Машина – это только среда. Вы будете говорить с эмулированной, точнее, выделенной этой цифровой средой личностью. Или даже лучше сказать – живущей в среде.

– Так… – Я пытался собраться с мыслями. – А почему именно я? Почему вам вдруг понадобился для этого человек аж из самой Америки?

– А кто вам сказал, что вы – «именно»? У нас много добровольцев. И в первой серии с классическим тестом Тьюринга было много, и во второй вы далеко не один. Мы стараемся отбирать разных людей по психотипам. Вы сюда попали только потому, что пару недель назад я беседовал с Джейн, рассказывал ей о наших успехах. Она очень интересуется нашими экспериментами, мы же с ней вместе в Массачусетском…

– Да, я помню.

– Вот… И она сказала: есть у меня трудный клиент, с необычной психикой, сложная личность. Вот бы тебе такого на тест! А на днях буквально… когда?.. позавчера, что ли, или пару дней назад позвонила и сказала: тебе повезло, этот человек, о котором я тебе говорила, летит в Россию, я дала ему твой телефон, если ты не против. Я был только за!.. Так что вы не один. И даже не один из десяти. У нас около сотни добровольцев. Мы даже платим деньги.

– Да я не из-за денег, собственно.

– Придется взять. Если мы вас оформим в эксперимент, нам все равно отчитываться, а лишних денег не бывает, купите себе варенья. Я вижу, вы любите…

Я с раскаянием посмотрел на изрядно опустевшую банку с янтарными ягодами. И ведь Фридмана с его мамой даже обвинить в случившемся нельзя!