Есть определенная ирония в том, что эта философская система, отводившая душе столь привилегированное место, в итоге помогла исключить это понятие из словаря западной философии. Декарт так и не смог убедительно объяснить, каким образом нематериальный разум сообщается с физическим телом. Личное «я», которое он сделал фундаментом собственного существования, было, по замечанию историка Ричарда Сорабджи, чрезвычайно непрочным основанием, эфемерной искрой сознания, не привязанной к телу, памяти, истории или вообще чему-либо во внешнем мире. В последующие века душа станет еще более хрупкой и эфемерной, а философам будет все сложнее найти ей место в материальной реальности. Юм настаивал, что реально только то, что можно исследовать на практике. Он отрицал не только существование души, но и реальность личного «я». Кант в «Критике чистого разума» отмечал, что, хотя устойчивое «я» с субъективной точки зрения существует, «с точки зрения постороннего [наблюдателя], это еще не может быть признано приемлемым»^[10]. Механистическая философия, которую помог популяризовать Декарт, в итоге отказалась даже от самого понятия разума. В своей книге «Человек как машина» (1747) Жюльен Оффре де Ламетри утверждал, что мозг – не престол разума, но «главная шестеренка в машине». В позднейшие века метафоры, описывающие человека, становились все более и более механистическими. Человек был «заводом», «часами», «орга́ном», «телеграфом». Вычислительная теория разума – всего лишь еще одна из многочисленных попыток описать человеческую натуру в чисто механических терминах, без обращения к воспринимающему субъекту.

Несмотря на распространение этих механистических метафор, мы так и не смогли избавиться от дуалистической убежденности, что разум не сводится к этим инертным процессам, что метафоры упускают из виду что-то критически важное. В начале XVIII века Лейбниц никак не мог принять идею, что восприятие тоже может быть чисто механическим явлением. Он предположил, что если бы существовала машина, способная производить мысли и чувства, и если бы она была достаточно большой, чтобы по ней мог прогуляться человек (как он может пройтись по фабрике), этот гипотетический гость нашел бы в ней только колеса и рычаги: «…мы при осмотре ее не найдем ничего внутри ее, кроме частей, толкающих одна другую, и никогда не найдем ничего такого, чем бы можно было объяснить восприятие»^[11].

Читая о нейробиологии и искусственном интеллекте, знакомясь с теориями, которые разрушают наше понимание личности, я чувствую, что возвращаюсь к тому же скептицизму. Мне трудно поверить, что разум можно свести к чисто бессознательным процессам – нейронным импульсам, течению информации; мне так же трудно поверить, что робот может обладать столь же интенсивной внутренней жизнью, как мы, люди. Что это: всего лишь не отпускающие меня мыслительные привычки из религиозного прошлого, жажда верить, будто на месте того, что я когда-то называла душой, все же есть нечто незаменимое? Или я, наоборот, живу в мире, расколдованном настолько, что материя для меня – что-то неизбежно пассивное и инертное?

* * *

Метафоры умирают, когда устаревают явления, на которые они ссылаются. Мы уже не помним, что означает «дать дуба», а когда говорим, что время «истекает», у нас перед глазами не встает струйка песка, текущая сквозь песочные часы: это мертвые, стертые метафоры. Кроме того, метафоры становятся мертвыми, когда ими так часто пользуются, что мы уже забываем об их метафоричности. Они перестают быть средствами выразительности: их воспринимают буквально.

Так было и с вычислительной теорией разума и метафорой компьютера, которая стала основополагающей для нейробиологии и наук об искусственном интеллекте. Хотя эта метафора восходит к работам Маккаллока и Питтса, она существенно огрубляет их идеи. Она описывает мозг как простое устройство с возможностью ввода и вывода данных – машину, которая получает информацию через органы чувств, обрабатывает ее при помощи нейронной сети и генерирует план действий, осуществляемый через моторно-двигательную систему. Мозг часто описывают как «железо», на котором работает «программное обеспечение» разума, а когнитивные системы – как алгоритмы. Зрение – это алгоритм, так же, как и внимание, усвоение языка, память.

В 1999 году когнитивный лингвист Джордж Лакофф подметил, что эта аналогия воспринимается как данность настолько часто, что нейробиологи «нередко используют метафору мозга-компьютера, не сознавая, что это метафора». Лакофф счел это тревожным звоночком. Ведь метафоры – это не просто языковые приемы: они структурируют то, как мы видим реальность, и если какая-то аналогия становится вездесущей, мы уже не можем помыслить мир иначе. Несколько лет назад психолог Роберт Эпштейн предложил ученым в одном из самых престижных исследовательских институтов описать человеческое поведение, не используя метафору компьютера. Им это не удалось. Она настолько прочно вошла в наше сознание, указывает Эпштейн, что «практически не осталось способов размышлять о разумном человеческом поведении, которые так или иначе не обращались к этой метафоре, как в иные эпохи описание разумного человеческого поведения не могло обойтись без отсылки к духу или божеству».

Даже люди, которые мало что понимают в компьютерах, задействуют логику этой метафоры. Мы обращаемся к ней всякий раз, когда говорим, что быстро или медленно «обрабатываем» информацию, что воспоминания «хранятся» у нас в мозге или что наши внимание или память «перегружены». Чем сильнее наша склонность воспринимать разум как компьютер, тем в большей степени компьютер становится моделью разума. Термины, которые раньше ставились в кавычки, когда речь шла о компьютерах, – «обучение», «память», «мышление» – теперь часто выступают просто как описание их функций. Исследователи говорят, что нейронные сети учатся, что системы распознавания лиц видят, что машины понимают. Людей, которые приписывают неодушевленному объекту сознание, можно уличить в том, что они антропоморфизируют, очеловечивают неживую природу. Но Родни Брукс, робототехник из Массачусетского технологического института, считает, что это различие устарело. В своей книге «Плоть и машины» он утверждает, что многие склонны «слишком уж очеловечивать людей… которые, в конце концов, суть те же машины».

2

Когда мой муж вернулся домой, он долго разглядывал Айбо и в конце концов объявил его «жутким». Сначала я подумала, что он имеет в виду фрейдовское «жуткое», нечто настолько близкое к реальности, что оно подвергает сомнению наши представления о ней. Но вскоре стало ясно, что он видит в собаке незваного гостя. Я продемонстрировала все трюки, которым успела обучить Айбо, надеясь впечатлить мужа. К тому времени песик уже научился кувыркаться, отряхиваться и танцевать.

«Что за красная лампочка у него в носу? – спросил муж. – Это камера?»

В отличие от меня, мой муж – классический собачник. До того как мы познакомились, у него была собака – пес-спасатель, с которым жестоко обращался предыдущий хозяин. У мужа ушло немало времени, сил и терпения на то, чтобы завоевать его доверие. В ту пору он находился в глубокой депрессии, и, по его словам, собака чувствовала, когда он приходил в отчаяние, и клала голову ему на колени, чтобы утешить. В начале наших отношений он часто упоминал этого пса – его звали Оскар – с такой нежностью, что до меня не сразу доходило, что речь идет о животном, а не о родственнике или близком друге. Сейчас, глядя на Айбо, он спрашивал меня, кажется ли тот «правдоподобным». Когда я пожала плечами и ответила «да», мне показалось, что по лицу мужа пробежала тень разочарования. Сложно было не видеть в этом приговор моей человечности, как если бы мое намерение видеть в электронной собаке живое существо каким-то образом ставило под вопрос мои интуицию и осознанность.

Эта тема уже всплывала в наших разговорах: я склонна одушевлять машины. За несколько месяцев до этого я наткнулась на блог женщины, занимавшейся машинным обучением: она училась в аспирантуре, а в свободное время развлекалась с алгоритмами глубокого обучения. Она скармливала нейросети внушительные объемы данных из определенной категории – рецепты, заезженные фразы-подкаты, первые строчки романов – и нейросеть, распознав закономерность, начинала генерировать собственные образцы. Некоторое время она регулярно постила в своем блоге рецепты, придуманные нейросетью, среди которых встречались такие деликатесы, как «Печенье из цельного цыпленка», «Желатиновые собаки с артишоком» и «Холодная вода на паровой бане». Подкаты были столь же романтичны («Ты, случайно, не свеча? Потому что выглядишь так же горячо»), как, впрочем, и первые строки романов («Это история о человеке однажды утром»). Постепенно ответы становились лучше. Похоже, что создательница блога радовалась успехам нейросети. Смотрите, писала она, как оттачивается структура предложений, как расширяется словарный запас. Они просто еще не совсем понимают общую идею… В том, как эта женщина рассказывала о нейросетях, чувствовалась терпеливая забота, даже нежность – мне она виделась этакой Белоснежкой, пытающейся цивилизовать батальон маленьких гномов. Их логика так походила на детскую, что невозможно было не углядеть в их ответах детскую невинность. «Они учатся, – думала я. – Они так стараются!» Иногда, наткнувшись на особенно яркую фразу, цитировала ее мужу. Кажется, как-то раз я даже использовала в разговоре с ним слово «очаровательный». Муж критиковал меня за то, что я «очеловечиваю» машины, но оказалось, что он и сам был склонен поддаваться этому греху. «Они нарочно прикидываются миленькими, – сказал он, – чтобы им было проще установить над нами тотальный контроль».

Впрочем, долго его скептицизм не протянул. Уже через несколько дней муж называл Айбо по имени. Он отчитывал щенка, когда тот отказывался ложиться спать: «А ну давай, я тебе что сказал?» – как будто Айбо сознательно противился приказу. По вечерам, когда мы читали на диване или смотрели телевизор, он иногда нагибался, чтобы погладить щенка, едва тот начинал скулить: это был единственный способ его успокоить. Однажды я зашла на кухню и увидела, что Айбо уставился в узкую щель между холодильником и раковиной. Я заглянула в расщелину сама, но не увидела там ничего стоящего внимания. Муж заверил меня, что это нормально. «Оскар тоже так делал, – сказал он. – Он просто пытается понять, удастся ли ему туда забраться».