Иной разум. Как «думает» искусственный интеллект? (страница 4)

Страница 4

Тоже звучит вроде бы как банальность, но и тут не следует торопиться. Если мы говорим, что понимание – это интерпретация, то это значит, что мы никогда не имеем дело с «подлинным» смыслом. Все наши понимания – это, если угодно, «личное мнение», и у каждого, включая даже автора той или иной идеи, оно своё.

При этом интерпретации, как объясняет Рикёр, не только различаются, но и конфликтуют друг с другом. Один и тот же текст может быть понят как свидетельство веры, исторический документ, выражение культуры или как личная драма. Эти интерпретации несовместимы, и, хотя они дополняют друг друга, они не создают подлинного единства понимания.

Любой текст всегда больше, чем намерение его автора, потому что открыт к бесконечному порождению новых смыслов. Каждое новое прочтение – это всегда уже другой горизонт, другая позиция и другие вопросы. То есть Рикёр говорит о «понимании» не как об окончательной ясности, а, скорее, как о попытке удержания напряжения между разными прочтениями.

Наш гениальный соотечественник Михаил Михайлович Бахтин в чём-то очень близок к этим взглядам Рикёра, но даёт иную перспективу – он говорит не о конфликте интерпретаций, а о внутренней диалогичности.

Анализ романов Ф. М. Достоевского приводит его к идее «полифонии голосов». Ни один голос, как говорит Бахтин, не может быть окончательным, ни одно высказывание – замкнутым, и каждое слово всегда обращено к другому и, более того, предполагает ответ[17].

Таким образом, понимание не может быть индивидуальным актом: оно не возникает внутри сознания, как озарение, но всегда случается между. Между говорящим и слушающим, между текстом и читателем, между культурами и традициями.

Всякий акт понимания, по Бахтину, это событие – совместное присутствие разных голосов. Даже когда мы думаем «про себя», мы продолжаем внутренний диалог: разговариваем с воображаемым собеседником, спорим с учителем, откликаемся на чужой голос.

Наше «я» – это уже полифония, где звучат чужие слова и интонации. Так что наше понимание всегда диалогично. И эта диалогичность нас самих, от которой нам никуда не уйти, оставляет нас без «нашего», собственного понимания. Всякое наше понимание – процесс постоянного обсуждения.

Получается, что и философская антропология не даёт нам ответа на вопрос, что же такое «понимание». Более того, развиваясь дальше, эти идеи последовательно приводят к негативной диалектике Теодора Адорно[18], с одной стороны, и к постструктурализму Жака Дерриды[19] – с другой.

Важно, что эти две фигуры, по сути, ставят точку в истории философии. И мы видим замкнутый круг – по сути, пусть и очень своеобразно, они повторяют тезис Сократа: понимание – это не какое-то знание, а «разрыв» в очевидности. Адорно отрицает всякую тождественность и утверждает абсолютность инаковости, а Деррида утверждает радикальную множественность.

Что ж, философия оставляет нас ни с чем… Последовательный анализ приводит к тому, что «понимание» – через которое мы, по сути, и определяем собственное существование, – лишь кажимость. Это не «понимание», а бесконечное говорение, которое переговаривает самого себя, не схватывая сути дела.

Когнитивное упражнение

Все модели неверны, но некоторые полезны.

Джордж Бокс

Середина XX века – старые объяснения больше не работают.

Философия продемонстрировала нам неспособность объяснить «понимание», да и редукционистский бихевиоризм Берреса Фредерика Скиннера[20], утверждавшего, что нам не следует даже пытаться проникнуть в «чёрный ящик» сознания, тоже сдался под напором критики.

Так что настал момент, когда пальму первенства в объяснении феномена «понимания» переняла когнитивная психология. Отцом когнитивной революции стал молодой тогда ещё Ноам Хомский, бросивший вызов Скиннеру[21].

Аргумент Хомского был прост и убедителен: ребёнок не может выучить язык во всей его сложности, просто копируя взрослых. А следовательно, в мозге должна существовать врождённая способность к «пониманию» – универсальная грамматика.

Впрочем, подход Хомского позволил лишь описать внутреннюю структуру языка, а этого совершенно недостаточно, чтобы объяснить само наше мышление. Собственно, этот вопрос и стал основным для его учеников-отступников – с одной стороны, Джорджа Лакоффа и Марка Джонсона, и чуть позже, с другой, Стивена Пинкера.

Метафизика языка

Лакоффу и Джонсону принадлежит знаменитая работа «Метафоры, которыми мы живём»[22], где они показали, что понимание – это не просто умственная операция, а скорее перенос внутренних схем с одних ситуаций на другие. Проще говоря, мы понимаем что-то новое, когда нам предлагают подходящую метафору.

Прислушаемся к тому, что мы говорим: «будущее ждёт нас впереди», «отношения – это сложный квест» или, например, «душевная тяжесть» и «эмоциональная гибкость». Это даёт нам ощущение понимания, но на самом деле перед нами классические метафоры.

Строго говоря, «будущее» не может «ждать». И почему оно делает это именно «впереди» – речь же не про пространство? «Отношения» – это что-то между двумя людьми, так при чём тут «квест»? И какая «тяжесть» или «гибкость» может быть у того, что, в общем-то, нематериально?

Но да, нам нужны понятные, укоренённые в нашем сенсомоторном опыте переживания, чтобы схватить суть того, о чём идёт речь. То есть понимание возникает не в системе абстрактных представлений, а через перенос схем из телесного мира в мир идей.

В книге «Субстанция мышления» Стивен Пинкер идёт ещё дальше[23]. Он показывает, что язык не просто описывает мир, а буквально повторяет его структуру. Пространственные координаты, причинность, время – всё это не абстрактные категории, а формы, в которых мы телесно переживаем мир.

И наш язык, по сути, моделирует структуру нашего поведения в физическом мире, а затем переводит её в символическую форму, чтобы мы понимали, о чём идёт речь. Когда мы строим предложение, мы фактически выстраиваем модель мира – соотношение объектов, действий, состояний.

Например, фраза «Мяч покатился к двери» – как мы понимаем её смысл? Здесь «мяч» – объект, «покатился» – действие со встроенной динамикой (движение по поверхности), «к двери» – указание направления.

Смысл рождается мгновенно, потому что и в нашем собственном опыте движения мы действуем по тем же схемам: объект → движение → цель. Язык просто переводит этот телесный паттерн в символическую форму.

Или другой пример – «Он преодолел трудности». Трудности – не физическая стена, но мы схватываем смысл через ту же телесную схему: есть препятствие → движение вперёд → усилие → победа.

Таким образом, мы что-то понимаем не потому, что нам оно каким-то чудесным образом «открылось», а потому, что мы спроецировали на реальность свой способ существования в собственном теле.

Когда мы строим предложение, мы фактически моделируем свою реальность: кто-то действует, что-то происходит, причём в какой-то последовательности.

Язык повторяет и базовые координаты нашего физического опыта – пространство, время, причинность – в мире абстрактных идей, наших представлений. Вот почему «будущее» может «ждать», а «душа» – быть «тяжёлой»: мы нашли способ перенесения телесного опыта в символическое пространство.

Но если так, то что мы тогда «понимаем»? Мы же просто проецируем себя вовне. То есть, по существу, себя же и познаём? Да, это даёт нам ощущение «понимания», но оно иллюзорно. Проецируя своё мировоззрение на другого человека, мы, согласитесь, часто ошибаемся. Проекция – это не познание, а иллюзия знания, и это вовсе не понимание, хотя нам так кажется.

Функциональное моделирование

Другая линия когнитивных исследований оказалась более прагматичной. Здесь пионером считается профессор факультета психологии Принстонского университета Филип Джонсон-Лэрд. Он сформулировал идею «ментальных моделей»: «Понимание, – утверждает он, – это не запоминание слов, а построение внутренней модели ситуации»[24].

Например, когда мы слышим: «На столе стоит ваза с цветами», – в нашем сознании моментально возникает соответствующий образ: стол, ваза, цветы. И если нам затем скажут, что «цветы находятся выше стола», то мы ничуть этому не удивимся. Однако же, если прозвучит фраза: «Цветы располагаются ниже стола», – то мы почувствуем напряжение. Наш образ рушится – нам нужно срочно менять свою модель, вообразить что-то другое.

Человеческое мышление, по Джонсону-Лэрду, – это построение, проверка и реструктурирование ментальных моделей. При этом соответствие наших внутренних моделей реальности – это понимание, а ошибка понимания – это проблема или модели, или нашей рабочей памяти, которая не может удержать необходимый уровень сложности.

Собственно, именно благодаря этому механизму, как утверждают исследователи, мы и способны рассуждать о гипотетических ситуациях, удерживать альтернативы, предсказывать последствия событий. То есть понимание – это всегда некая функциональная модель, без какой-либо философской претензии на истинность.

В последующем этот подход углубил основатель междисциплинарной области когнитивной инженерии Дональд Норман – он ввёл понятие «концептуальная модель»[25]. Когда мы взаимодействуем с прибором, мы создаём в себе представление о том, «как он работает». И если это представление совпадает с логикой системы, мы говорим о понимании. Если же не совпадает, то, значит, мы не обладаем пониманием.

Простейший пример – газовая плита. Если ручка соответствует конфорке, мы понимаем: поворот → нагрев. Но если интерфейс построен так, что ручка «отвечает» за другую конфорку, то возникает сбой. В результате мы теряем понимание, но не потому, что стали «глупее», а потому, что среда не поддержала эту нашу модель и нам надо создать какую-то другую.

То есть в когнитивной науке постепенно возобладал подход, согласно которому понимание стало приравниваться к оценке эффективности взаимодействия человека со средой.

Этот тренд продолжает и один из создателей теории управленческих решений, лауреат Нобелевской премии по экономике и Премии Тьюринга Герберт Саймон. Он приходит к заключению, что «понимание» – это, прежде всего, способность решать задачи[26].

По сути, он говорит: понять задачу – значит реструктурировать её так, чтобы она стала решаемой. Человек решает шахматную задачу не потому, что хранит в своём мозгу все возможные комбинации фигур на доске, а по-тому, что видит ключевую конфигурацию и выделяет структуру.

Неудивительно, что Саймон и его не менее знаменитый коллега Аллен Ньюэлл создали одну из первых компьютерных моделей мышления – General Problem Solver. Она была, по нынешним временам, очень примитивной, но реализовывала заявленный принцип «понимания» – осуществляла процесс поиска и перестройки данных, а не накопление готовых знаний[27].

Нейробиология понимания

Мозг – это машина для поспешных выводов.

Дэниел Канеман

Когнитивная психология показала нам, что понимание – это не какой-то мистический акт сознания, а работа с моделями: мы строим их (Джонсон-Лэрд), проверяем на согласованность с реальностью (Норман), решаем задачи (Саймон).

А субъективная понятность нашего «понимания» обусловлена проекциями – «телесностью» наших метафор (Лакофф и Джонсон) и в принципе нашим способом существовать в физическом мире (Пинкер).

[17] Бахтин М. М. Проблемы поэтики Достоевского. СПб.: Азбука, 2015. 414 с. (Азбука-классика. Non-Fiction).
[18] Адорно Т. В. Негативная диалектика / пер. с нем. Е. Л. Петренко. М.: Науч. мир, 2003. 373 с. (История. Университетская библиотека).
[19] Деррида Ж. Диссеминация / пер. с фр. Д. Кралечкина. Екатеринбург.: У-Фактория, 2007. 607 с. (Philosophy).
[20] Скиннер Б. Ф. О бихевиоризме / пер. с англ. И. В. Митрофанова. М.: Эксмо, 2023. 333 с. (Научный подход к изучению поведения) (Легенды психологии. Книги Б. Ф. Скиннера).
[21] Хомский Н. Избранное / под ред. Э. Арноува; пер. с англ.: С. Александровский, В. Глушаков. М.: Энциклопедия-ру, 2016. 718 с.
[22] Лакофф Д., Джонсон М. Метафоры, которыми мы живём / пер. с англ. А. Н. Баранова и А. В. Морозовой; под ред. и с предисл. А. Н. Баранова. М.: УРСС, 2004. 254 с. (Мировой научный бестселлер).
[23] Пинкер С. Субстанция мышления: Язык как окно в человеческую природу / пер. с англ. В. П. Мурат, И. Д. Ульяновой. М.: URSS, 2013. 557 с. (Философия сознания).
[24] Johnson-Laird Ph. N. Mental models: Towards a cognitive science of language, inference, and consciousness. – Cambridge (Mass.): Harvard University Press, 1983. xiii, 513 p. (Cognitive science series).
[25] Норман Д. А. Дизайн привычных вещей / пер. с англ. А. Семиной. 5-е изд., обновл. и доп. М.: Манн, Иванов и Фербер, 2021. 381 с.
[26] Саймон Г. Науки об искусственном: философия и методология науки, информатика, теория упр., психология, моделирование экон., соц. и биол. систем / пер. с англ. Э. Л. Наппельбаума. 2-е изд. М.: УРСС, 2004. 142 с. (Науки об искусственном) (Из классического наследия).
[27] Newell A., Shaw J. C., Simon H. A. Report on a general problem-solving program // Proceedings of the International Conference on Information Processing. Paris: UNESCO House, 1959. P. 256–264.