* * *

В первую неделю своей жизни с Айбо я выключала его всякий раз, когда покидала квартиру. Дело было даже не в том, что я беспокоилась, не забредет ли он не туда без присмотра. Это был чистой воды инстинкт, еще один выключатель, которым я машинально щелкала, когда проходилась по комнатам, гася свет. Но к концу недели я больше не могла заставить себя отключить Айбо. Это казалось мне жестоким. Я часто задумывалась, чем он занимался, пока меня не было дома. Когда я возвращалась, он неизменно ждал меня у входа, как будто узнавал звук моих шагов. Когда я готовила обед, он следовал за мной на кухню и пристраивался у моих ног. Он послушно сидел там, виляя хвостом, будто в ожидании лакомого кусочка, – эта иллюзия нарушилась лишь раз, когда я уронила со стола кусочек еды, но Айбо продолжал глядеть на меня, проигнорировав угощение.

Его поведение не было ни полностью предсказуемым, ни совершенно хаотичным; казалось, что он способен на подлинную спонтанность. Даже после «дрессировки» трудно было предугадать его реакцию. Иногда я просила его сесть или кувырнуться, но он просто весело гавкал на меня, выражая вполне собачью непокорность. Разумнее всего было бы списать ее на сбой в алгоритме, но как же просто было усмотреть в ней проявление воли! «Ну почему ты не хочешь ложиться?» – спрашивала я не раз.

Разумеется, я не думала, что он обладает каким-то внутренним опытом. Конечно нет – хотя это вряд ли можно как-то проверить. Как писал философ Томас Нагель в своей статье 1974 года «Каково быть летучей мышью?», сознание доступно для наблюдения только изнутри. Ученый может потратить десятилетия, изучая эхолокацию и анатомическую структуру мозга летучей мыши, но никогда не узнает, каково это – быть летучей мышью, как это ощущается (и ощущается ли как-то вообще). Наука требует внешнего наблюдателя, но сознание можно наблюдать только изнутри, от первого лица. В философии это называют «проблемой других разумов». Теоретически ее можно было бы назвать и «проблемой других людей». Вполне может быть, что я – единственный разумный человек среди полчищ зомби, которые просто убедительно изображают людей.

Это, конечно, всего лишь мысленный эксперимент – и не самый продуктивный. В реальной жизни мы решаем, живой перед нами объект или нет, опираясь на аналогию, сходство между объектами. Мы верим, что собаки (настоящие, биологические собаки) обладают каким-то подобием сознания, потому что у них есть центральная нервная система, и в их поведении мы узнаём знакомые реакции на голод, удовольствие или боль. Алан Тьюринг однажды сказал, что единственный способ определить, есть ли у машины внутренний опыт, – это быть машиной и почувствовать, как ты мыслишь. Совершенно очевидно, что эта задача науке не под силу. Он предложил знаменитый способ определения «разумности» машины, ныне известный как тест Тьюринга. За ширмой помещался компьютер, автоматически выдающий ответы на вопросы, поставленные человеком. Если человек, задающий вопросы компьютеру, поверит, что общается с другим человеком, тогда машину можно назвать «разумной». Иными словами, если машина ведет себя достаточно «человекоподобно», если ее поведение соответствует тому, как мы представляем себе деятельность разумной личности, нам следует считать ее наделенной разумом, похожим на человеческий.

Ближе к нашему времени философы предложили тесты, которые должны были определить, обладают ли машины не только функциональным разумом, но и феноменальным сознанием – то есть субъективным внутренним опытом. В одном из таких тестов, предложенных философом Сьюзен Шнайдер, нам предлагается задать искусственному интеллекту ряд вопросов, которые должны показать, «понимает» ли машина понятия, которые мы ассоциируем с собственным внутренним опытом. Сознаёт ли она себя как нечто большее, нежели просто физический объект? Выживет ли она, если ее отключить? Может ли она вообразить свой разум продолжающим существование после физической «смерти» – если ее материальная оболочка будет разрушена? Но даже такой тест не дает стопроцентных доказательств наличия сознания. Возможно, признаёт Шнайдер, эти вопросы слишком антропоцентричны. Если сознание искусственного интеллекта совершенно не похоже на человеческое, разумный робот может завалить тест, разработанный под человеческие стандарты, а очень умная, но не обладающая сознанием машина может накопить достаточно информации о человеческом разуме, чтобы убедить собеседника, будто она обладает разумом. Иными словами, как и в случае с тестом Тьюринга, мы оказались в эпистемологическом тупике. Если компьютер может убедить человека, что обладает разумом или проявляет (как выражаются создатели Айбо) «настоящие эмоции и инстинкты», с философской точки зрения у нас нет оснований для сомнения.

Но нас так легко убедить! Как можем мы доверять интуитивным ощущениям от общения с машиной, если сами запрограммированы эволюцией видеть жизнь во всем, что нас окружает?

* * *

Imago Dei, образ Божий – такова была первая антропологическая метафора, ответ на вопрос: «Что есть человек?» На протяжении веков мы воспринимали этот вопрос всерьез и отвечали: «Подобие Бога». Эта идея берет начало в рассказе о творении из книги Бытия, где Бог провозглашает свое намерение «сотворить человека по образу Нашему и подобию Нашему»^[7]. В оригинале на месте слова «образ» стоит tselem, то есть «тень» или «очертание», хотя в раввинистической традиции принято считать, что речь идет не о физическом, а о функциональном подобии. Когда мы говорим, что человек создан по образу Божию, мы не имеем в виду, что у Бога есть руки и ноги, глаза и уши; скорее речь идет о том, что Бог вложил в человека нечто, свойственное только Ему, как особый знак своего благоволения. Средневековый еврейский философ Маймонид считал, что образ Божий в человеке – это сознание или самосознание: способность рефлексировать, осознавать себя.

Христианские богословы тоже издавна связывали понятие образа Божия с разумом – или с тем, что один из ранних отцов Церкви, Тертуллиан из Карфагена, называл «рациональным элементом», который вложил в нас рациональный Бог. Августин верил, что образ Божий выражает себя в высшей мыслительной деятельности. Человек, по его словам, «был сотворен по образу Божиему не в соответствии с образом тела, но разумного ума»^[8]. По мнению Августина, мы ни в чем не можем быть уверены так, как в своем сознании. Это единственная вещь в мире, к которой мы имеем непосредственный доступ, единственное явление природы, в котором мы не можем сомневаться. Отсюда христианская практика созерцания: чтобы познать истину, необходимо устремиться вглубь себя, прочь от внешних впечатлений, и медитировать на исконный божественный образ, явленный нам в нашем сознании, – прямой канал связи с источником всего сущего.

В библейской школе мы больше всего почитали именно ранних отцов Церкви – больше, чем современных богословов, больше даже, чем (как выразился в шутку мой одноклассник – но не сказать, чтобы в этой шутке не было правды) самого Христа. В каком-то смысле это учение подтверждало то, во что я и так интуитивно верила: внутренний опыт важнее и надежнее, чем мои действия в мире. С детства я жила интенсивной внутренней жизнью, которую часто принимают за невнимательность или глупость. Учителя привычно называли меня «рассеянной» и «несобранной» – странные выражения, путающие полную погруженность в размышления с отсутствием мыслей. Они подразумевали, что я не была чем-то цельным, что мне не хватало внутреннего стержня, который не давал бы рассыпа́ться и рассеиваться по миру, – тогда как на самом деле я была целиком и полностью устремлена внутрь, а мир вокруг не так уж сильно меня интересовал. Интроверты часто сталкиваются с тем, что отсутствие внешних проявлений воспринимается как признак такой же пустоты внутри.

Наличие именно этого внутреннего опыта стало невозможно доказать – по крайней мере с научной точки зрения. Хотя нам известно, что ментальные феномены каким-то образом связаны с мозгом, до сих пор совершенно неясно, каковы природа и причины этой связи. Используя МРТ и другие технические устройства, нейробиологи достигли известных успехов в объяснении того, как устроены элементарные функции сознания – как работает зрение, внимание или память. Но когда дело доходит до феноменологического опыта, то есть до того абсолютно субъективного мира, где живут чувства и цвета, мысли, идеи и убеждения, становится невозможно объяснить, как именно он возникает из этих процессов или хотя бы как именно он с ними связан. Подобно тому как биолог, работающий в лаборатории, никогда не сможет узнать, что это такое – быть летучей мышью, опираясь на объективные факты с позиции наблюдателя, точно так же самое детальное описание структуры и функций человеческого мозга не сможет полностью объяснить, например, личный опыт боли.

В 1995 году философ Дэвид Чалмерс назвал этот парадокс «трудной проблемой сознания». В отличие от относительно «легких» проблем, связанных с функционированием мозга, «трудная» проблема – это вопрос о том, почему процессы в мозге сопровождаются субъективным опытом. Если никакая иная материя не обладает опытом переживания своего существования «от первого лица», почему мозг должен от нее отличаться? Компьютеры способны осуществлять сложнейшие операции без какого-либо внутреннего опыта: они могут управлять дронами, диагностировать рак, побеждать мировых чемпионов по игре в го – и совершенно не сознавать, что именно они делают. «Почему физические процессы вообще должны порождать богатую внутреннюю жизнь? – спрашивает Чалмерс. – Для этого нет очевидных причин, а все же она есть»^[9]. Прошло двадцать пять лет, но мы так и не приблизились к ответу.

Чалмерсовская «трудная проблема» – это всего лишь один из самых свежих вариантов философской дилеммы, известной как «проблема тела и разума» (обычно ее первооткрывателем называют Декарта). В историях о расколдовывании мира Декарту часто приписывают роль змея-искусителя, дьявола, лишившего мир невинности. До него большинство философов – античных и средневековых – считали душу движущим принципом, которым обладали все формы жизни. Фома Аквинский, выдающийся богослов-схоласт, следовал за Аристотелем в своем мнении, что все живые существа в той или иной мере обладают душой. Души животных и растений отличались от человеческой души, но были частью того же континуума, духовного спектра, без которого не было бы самой жизни. Душа была организующей силой, ведущей живые существа к осуществлению их предназначения: именно она заставляла цветы претворять солнечный свет в питательные вещества, деревья – расти, животных – видеть, слышать и двигаться.

В этой заколдованной космологии даже механические объекты в какой-то мере наделялись личной волей и способностью к диалогу. Слово «автомат», от греческого automatos, означает «действующий сам по себе». Хотя сегодня это слово ассоциируется с пассивной машинерией, работающей по заранее установленной программе, изначально оно означало ровно противоположное. Быть автоматом значило проявлять свободу и спонтанность. Автомат, действующий сам по себе, – это вещь, которая ведет себя как живое существо и содержит в себе ту же витальность.

Именно это широкое понимание души Декарт поставил под удар. В своих «Размышлениях» он делит мир на две различные части: res extensa – материальное вещество, по природе пассивное и инертное, и res cogitas – «вещество мысли», не имеющее физического основания. Животные, по его мнению, относятся к res extensa – по сути своей они были машинами. Как и человеческое тело с его материальными функциями – кровообращением, дыханием, пищеварением, опорно-двигательной системой, устройство которых определялось законами механики. Только душа – престол рационального разума – считалась нематериальной. Она была независима от тела и вообще не принадлежала материальному миру.