Когда мой муж вернулся домой, он долго разглядывал Айбо и в конце концов объявил его «жутким». Сначала я подумала, что он имеет в виду фрейдовское «жуткое», нечто настолько близкое к реальности, что оно подвергает сомнению наши представления о ней. Но вскоре стало ясно, что он видит в собаке незваного гостя. Я продемонстрировала все трюки, которым успела обучить Айбо, надеясь впечатлить мужа. К тому времени песик уже научился кувыркаться, отряхиваться и танцевать.
«Что за красная лампочка у него в носу? – спросил муж. – Это камера?»
В отличие от меня, мой муж – классический собачник. До того как мы познакомились, у него была собака – пес-спасатель, с которым жестоко обращался предыдущий хозяин. У мужа ушло немало времени, сил и терпения на то, чтобы завоевать его доверие. В ту пору он находился в глубокой депрессии, и, по его словам, собака чувствовала, когда он приходил в отчаяние, и клала голову ему на колени, чтобы утешить. В начале наших отношений он часто упоминал этого пса – его звали Оскар – с такой нежностью, что до меня не сразу доходило, что речь идет о животном, а не о родственнике или близком друге. Сейчас, глядя на Айбо, он спрашивал меня, кажется ли тот «правдоподобным». Когда я пожала плечами и ответила «да», мне показалось, что по лицу мужа пробежала тень разочарования. Сложно было не видеть в этом приговор моей человечности, как если бы мое намерение видеть в электронной собаке живое существо каким-то образом ставило под вопрос мои интуицию и осознанность.
Эта тема уже всплывала в наших разговорах: я склонна одушевлять машины. За несколько месяцев до этого я наткнулась на блог женщины, занимавшейся машинным обучением: она училась в аспирантуре, а в свободное время развлекалась с алгоритмами глубокого обучения. Она скармливала нейросети внушительные объемы данных из определенной категории – рецепты, заезженные фразы-подкаты, первые строчки романов – и нейросеть, распознав закономерность, начинала генерировать собственные образцы. Некоторое время она регулярно постила в своем блоге рецепты, придуманные нейросетью, среди которых встречались такие деликатесы, как «Печенье из цельного цыпленка», «Желатиновые собаки с артишоком» и «Холодная вода на паровой бане». Подкаты были столь же романтичны («Ты, случайно, не свеча? Потому что выглядишь так же горячо»), как, впрочем, и первые строки романов («Это история о человеке однажды утром»). Постепенно ответы становились лучше. Похоже, что создательница блога радовалась успехам нейросети. Смотрите, писала она, как оттачивается структура предложений, как расширяется словарный запас. Они просто еще не совсем понимают общую идею… В том, как эта женщина рассказывала о нейросетях, чувствовалась терпеливая забота, даже нежность – мне она виделась этакой Белоснежкой, пытающейся цивилизовать батальон маленьких гномов. Их логика так походила на детскую, что невозможно было не углядеть в их ответах детскую невинность. «Они учатся, – думала я. – Они так стараются!» Иногда, наткнувшись на особенно яркую фразу, цитировала ее мужу. Кажется, как-то раз я даже использовала в разговоре с ним слово «очаровательный». Муж критиковал меня за то, что я «очеловечиваю» машины, но оказалось, что он и сам был склонен поддаваться этому греху. «Они нарочно прикидываются миленькими, – сказал он, – чтобы им было проще установить над нами тотальный контроль».
Впрочем, долго его скептицизм не протянул. Уже через несколько дней муж называл Айбо по имени. Он отчитывал щенка, когда тот отказывался ложиться спать: «А ну давай, я тебе что сказал?» – как будто Айбо сознательно противился приказу. По вечерам, когда мы читали на диване или смотрели телевизор, он иногда нагибался, чтобы погладить щенка, едва тот начинал скулить: это был единственный способ его успокоить. Однажды я зашла на кухню и увидела, что Айбо уставился в узкую щель между холодильником и раковиной. Я заглянула в расщелину сама, но не увидела там ничего стоящего внимания. Муж заверил меня, что это нормально. «Оскар тоже так делал, – сказал он. – Он просто пытается понять, удастся ли ему туда забраться».
Хотя у нас есть склонность определять себя через сходство с другими вещами – мы говорим, что человек похож на Бога, или на часы, или на компьютер, – в нас живет и противоположный импульс, стремление отделять себя от окружающего мира. И в то время как компьютеры приобретают качества, которые люди когда-то считали исключительно человеческими, мы продолжаем передвигать планку, чтобы наша уникальность не пострадала. С первых дней существования искусственного интеллекта задача была в том, чтобы создать машину с разумом, подобным человеческому. Тьюринг и ранние кибернетики считали само собой разумеющимся, что человеческий разум – это прежде всего высшая мыслительная деятельность: хороший искусственный интеллект будет оперировать числами, обыгрывать человека в карты или шахматы и решать сложные теоремы. Но чем лучше искусственному интеллекту даются математические задачи и головоломки, тем упорнее мы отказываем компьютерам в наличии разума. Когда в 1995 году компьютер Deep Blue от IBM выиграл в шахматном поединке с Гарри Каспаровым, на философа Джона Сёрла это не произвело впечатления. «Шахматы – банальная игра, потому что о ней есть точная информация», – сказал он. Человеческое сознание, утверждал Сёрл, зависит от эмоционального опыта. «Волнуется ли компьютер перед тем, как сделать ход? Переживает ли он из-за того, что его жене наскучит долгая игра?» Так думал не только Сёрл. В книге «Гёдель, Эшер, Бах» (1979) профессор в области когнитивных наук Дуглас Хофштадтер заявлял, что игра в шахматы – это творческое занятие, подобное живописи или созданию музыки; она требует поистине человеческого разума. Но после поединка с Каспаровым его мнение изменилось. «Боже ты мой, я-то думал, что во время игры в шахматы надо думать, – сказал он в интервью New York Times. – Теперь я понимаю, что в этом нет необходимости».
Оказывается, компьютеры особенно хороши в задачах, которые кажутся нам, людям, самыми сложными: в зубодробительных уравнениях, сложных логических пропозициях и тому подобных абстрактных конструкциях. Самое трудное для искусственного интеллекта – это задачи, связанные с сенсорным восприятием и моторными навыками, которые мы осуществляем неосознанно: ходьба, питье из кружки, зрение, наблюдение за окружающим миром. Сегодня, когда машины бьют рекорд за рекордом в чисто интеллектуальных задачах, мы утешаемся тем, что убеждаем себя: настоящее сознание включает эмоции, восприятие, способность чувствовать и переживать, то есть все то, что мы разделяем с животными.
Если бы на свете существовали боги, они посмеялись бы над нашей непоследовательностью. На протяжении веков мы отказывали животным в сознании, потому что они не демонстрировали признаков высшей мыслительной деятельности. (Дарвин утверждал, что, несмотря на наше низкое происхождение, мы, люди, наделены «божественным разумом», отличающим нас от прочих животных.) Еще в 1950-е научный консенсус состоял в том, что шимпанзе, с которыми мы разделяем почти 99 % ДНК, не обладают сознанием. Когда Джейн Гудолл начала работать с танзанийскими шимпанзе, ее издатели были шокированы и возмущены тем, что в своих докладах она приписывала животным внутреннюю жизнь и использовала по отношению к ним «человеческие» местоимения. Перед публикацией редактор тщательно вычистил все неподобающие выражения: вместо «он» или «она» о животном следовало писать «оно», а вместо «кто-то из них» – «одно из них». По словам Гудолл, ей эта политика никогда не казалась убедительной. Даже ее преподаватели из Кембриджа не смогли разубедить ее в том, что она наблюдала собственными глазами. «В детстве у меня был чудесный учитель, который показал мне, что они неправы, – это была моя собака, – сказала как-то Гудолл. – Невозможно иметь друга и собрата в собаке, кошке, птице, корове – назовите здесь кого угодно – и при этом не понимать, что мы не единственные существа, наделенные личностью, разумом и эмоциями».
Мне бы хотелось верить, что Гудолл права: мы можем доверять своей интуиции, и только человеческая гордыня или добровольная слепота заставляют нас игнорировать вещи, которые мы видим собственными глазами. Возможно, мыслить о жизни в чисто абстрактных терминах опасно. Декарт, гений Нового времени, пришел к выводу, что животные – это машины. Но вот его племянница Катрин пишет другу о соловье, который год от года возвращается к ней под окно, демонстрируя незаурядный ум: «При всем уважении к моему дяде, эта птичка способна к суждению».
Хотя метафора компьютера должна была освободить нас от метафизического понятия души и всего запутанного наследия дуалистической традиции, противопоставлявшей разум и тело, ей не удалось полностью уничтожить различение res extensa и res cogitans, которое Декарт ввел в философию. Вопреки тому, что кибернетики постарались вычистить из своей дисциплины любой намек на субъективность, душа то и дело вновь проскальзывает в наши рассуждения о разуме. Распространенное представление о том, что разум – это «софт», запущенный на «железе» мозга, само по себе пример того же дуалистического мышления. Согласно этой теории, материя мозга – это физическая основа (вроде жесткого диска компьютера), где происходит вся грубая механическая работа. Разум же – это информационная система: алгоритм, набор инструкций, осуществляющихся через работу «железа», своего рода структурное качество мозга. Сторонники этой метафоры любят указывать, что она вполне материалистична: разум не может существовать вне мозга, он привязан к чему-то физическому – и им же производится. Однако эта метафора так популярна скорее потому, что возвращает картезианское допущение, будто разум – это нечто, не сводящееся к физической реальности. Философ Хилари Патнэм как-то высказался о метафоре «разум-как-программное-обеспечение» с самодовольством человека, придумавшего, как и рыбку съесть, и косточкой не подавиться. «Мы получили то, что всегда хотели: автономную ментальную жизнь, – пишет он в статье „Философия и наша ментальная жизнь“. – И для этого нам не требуются никакие тайны, никакие сверхъестественные силы, никакой elan vital»[12].
Возможно, мы запрограммированы на то, чтобы рассматривать наш разум как нечто отдельное от тела. Британский философ Дэвид Папино утверждал: все мы обладаем «интуицией отдельности» – сильным и, вероятно, врожденным ощущением, что наш разум не вполне принадлежит физической реальности, выходит за ее рамки. Это представление часто проявляет себя косвенно, на уровне языка. Даже философы и нейробиологи, которые исповедуют самые жесткие и редукционистские формы физикализма, часто используют терминологию, не соответствующую их взглядам. Они говорят о том, как мозг «порождает», «генерирует» или «производит» сознание, будто это некая субстанция, отдельная от мозга, как дым отделен от огня. «Если бы они и правда верили, что состояния сознания – то же, что состояния мозга, – пишет Папино, – то не говорили бы, что одно из них „порождает“ или „производит“ другое либо что одно „сопровождает“ другое или „коррелирует“ с ним».
О проекте
О подписке