Андрей Курпатов: Deepfake. Где ты? Проснись!

© А. В. Курпатов, 2024

© ООО Издательский дом «Нева», 2025

* * *

Обращаюсь ко всем, кто ещё способен услышать…

Я поверил бы только в то божество, которое умело бы танцевать.

Фридрих Ницше

Извинения, необходимые оговорки и информированное согласие

Видимо, я должен начать с извинений…

Прошу прощения, но эта книга – не для всех. Нет, я не шучу, и это не маркетинговый ход. И дело не в сложности текста, а в том внутреннем вызове, на который надо решиться, чтобы её понять.

Первый вариант книги, который я опубликую отдельно под названием «История твоего „я“», и правда написан достаточно сложно. В нём есть всё необходимое для серьёзной научной работы – специальная терминология, сотни ссылок на учёных и философов, на теории и конкретные статьи, объяснения экспериментов и т. п.

Здесь я всё это «роскошество» безжалостно порезал. Терминология, без которой уж совсем было не обойтись, в этой книге была максимально упрощена и объяснена на понятных примерах.

Признаюсь, труд этот дался мне нелегко. Мне нравится писать сложно – это для меня само по себе интеллектуальное удовольствие. Да и мысль можно сделать более выверенной, точёной, объёмной. Но детали, к сожалению, затемняют основной смысл – главный посыл книги, а именно на этом я бы хотел сейчас сосредоточиться.

Многие читатели «Красной таблетки» благодарны мне именно за доступность и наглядность. Образ «Матрицы», который я использовал, интуитивно понятен: мир – не таков каким он нам кажется. Осознать это – значит принять «красную таблетку» Морфеуса: у нас открываются глаза на ложность прежних истин.

Проблема в том, что признать иллюзорность нашего восприятия – лишь начало пути. Недаром создатели «Матрицы» иронично назвали Морфеуса не каким-нибудь Прометеем, а именем бога сновидений…

Нео вовсе не просыпается, а лишь оказывается в другой Матрице.

Да, он теперь больше понимает про то, как устроен мир. Но что это меняет? Только то, что он оказался в шрёдингеровской суперпозиции – как тот кот в ящике, который и не жив, и не мёртв.

Если мы и в самом деле хотим что-то изменить, нам нужно заглянуть в этот ящик. Котам это не повредит, но способно повредить вашему «я», вашему представлению о себе. И честно признаюсь, я даже на это рассчитываю.

Мы расколдуем ваш мир, столкнёмся со страхом небытия, пройдём, как мифологический герой, через долину смерти. Мы отправимся на поиски подлинности, чтобы обрести её.

Найдём ли? Не могу вам этого обещать. Скажу одно – мы попробуем.

Если же вы ещё не готовы – нестрашно: сработают психологические защиты, и вас просто откинет в начало пути. Наше сознание, столкнувшись с тем, что ему не по зубам, всему найдёт «разумное объяснение» – мы заболтаем свой опыт, начнём его обесценивать… На подобные фокусы наше «эго» тратит все свои силы и всю нашу жизнь.

Так что по большому счёту вы ничем не рискуете. Ну не понравится вам это чтиво – выбросите, не велика потеря. Моё предупреждение важно по другой причине: вы должны внутренне выбрать этот опыт и этот путь, испытать себя. Никто другой не пройдёт наш путь своими ногами.

Эта книга для тех, кто уже стоит на пути. Для тех, кто уже ищет себя, как чёрную кошку в чёрной комнате, и не может найти.

Для тех, у кого уже тревожный сон. И я не буду вас убаюкивать. Наоборот. Так что вам решать – закрыть сейчас эту книгу или отправиться в путь.

Что ж, если вы решите продолжать, то будем считать это «информированным согласием». Я же ещё раз искренне попрошу прощения, если обманул чьи-то ожидания и кот в мешке книжной обложки оказался не тем, что вам грезится. В конце концов, с ним всегда что-то не так.

Итак, все формальности соблюдены. Мы выступаем…

Вместо введения
Системная ошибка

Однажды Чжуан-цзы заснул, и ему приснилось, что он бабочка, которой снится, что она Чжуан-цзы.

Проснувшись, философ долго не мог понять, кто же он – Чжуан-цзы, которому снилось, что он бабочка, или бабочка, которой снилось, что она Чжуан-цзы.

Чжуан-цзы

Вы открываете глаза после долгого ночного сна и вдруг отчётливо осознаёте, что всё вокруг вас… нереально.

Машинально берёте телефон, открываете его, и снова это чувство: всё в нём – подделка. Лента новостей, ваши фото и видео – каждая буква и каждый кадр – всё это какой-то фантастический, невообразимый deepfake.

Вам начинает казаться, что за эту ночь какой-то тайный демон полностью заменил ваш мир. Всё в нём вроде бы на месте – ваша комната, этот телефон, вы сами. Всё так, как и должно быть. Только нет чувства подлинности.

Это словно наваждение, продолжение сна. Наверное, так и есть…

Вы с непривычной тяжестью поднимаетесь с кровати и, пошатываясь, словно не на своих ногах, идёте по тёмному коридору – в ванную. Там зажигаете свет, опираетесь руками на раковину, протираете глаза.

Из зеркала на вас смотрит совершенно незнакомый вам человек.

Что?!

Нет, это вы. Вы – собственной персоной: те же черты лица, те же утренняя отёчность и бардак на голове. Но при всей этой абсолютной внешней схожести вы себя не узнаёте.

Примерно так ощущает себя пациент с синдромом Капгра при старческой деменции: реальность начинает как будто мерцать.

Всё, на первый взгляд, как обычно – те же ситуации, обстановка, лица родственников. Они что-то ему говорят, улыбаются, предлагают чай, о чём-то его спрашивают. В общем, ничего из ряда вон выходящего.

Но пациенту кажется, что его родственников подменили. Будто бы всё это – странный спектакль, где вместо живых людей – куклы, загримированные под его близких. Бездушные актёры, которые лишь прикидываются ими.

И знаете что?

Мы все живём с этим синдромом.

Идеальная подделка

Все мы постоянно галлюцинируем. Просто, когда мы сходимся во мнении относительно этих галлюцинаций, мы называем их реальностью.

Анил Сет

Всё, что мы видим, слышим, чувствуем, думаем, переживаем, – всё это, как мы знаем благодаря современным научным исследованиям, продукт, то есть непосредственное производное нашего мозга. Точнее сказать, это подделки, которые создаёт наш мозг.

Вот простой пример, который часто используют, потому что нагляднее уже сложно придумать…

У каждого из нас есть «слепое пятно». Это участок сетчатки, где зрительный нерв входит в специальное отверстие внутри глазницы.

На этом участке нет светочувствительных рецепторов, а потому в поле нашего зрения, куда бы мы ни посмотрели, всегда должны зиять две чёрные дыры.

Но где же они?

Говорят, что мозг автоматически «закрашивает» эти пробелы, создавая иллюзию целостного изображения. Но на деле ситуация куда удивительнее.

Карл Фристон

В 2018 году директор Лаборатории функциональных изображений мозга при Университетском колледже Лондона профессор Карл Фристон опубликовал статью, в которой обобщил результаты своих и множества других исследований в рамках единой теории «предиктивного кодирования».

Без преувеличения, это одна из самых прорывных работ XXI века в науках о мозге и человеке.

Суть в том, что наш мозг не воспринимает реальность, а пытается предсказывать её на основе уже имеющихся у него данных.

Проще говоря, он постоянно создаёт наиболее вероятный образ реальности.

То есть всё, что вы видите, слышите, ощущаете, – это в действительности продукт вашего воображения. Или, как говорит другой выдающийся нейробиолог современности, руководитель Центра изучения сознания Сассекского университета Анил Сет, «контролируемая галлюцинация».

Только если картинка, созданная нашим мозгом, значимо не соответствует происходящему, он вносит в свою галлюцинацию небольшие правки. И это именно правки – уточнения, коррекция, штрихи, адаптация под задачу, само изображение мира – сделанное.

Вам кажется, что вы смотрите вокруг… Но нет, вы смотрите свой сон.

Вам только кажется, что вы наблюдаете, воспринимаете окружающий вас мир.

Странно ли, что мы никогда не видим своего «слепого пятна»? Нет, но оно должно быть!

Или другой избитый, но очень показательный пример – эксперименты по «бинокулярному соперничеству». Как вы думаете, что вы увидите, если показывать вашему правому глазу одно изображение, а левому – другое? По идее, должно произойти какое-то наслоение изображений, правильно?

Но этого не происходит. Вместо этого ваш мозг «выберет», какое изображение он будет показывать вашему сознанию. И скорее всего, сначала вы увидите одно, а потом – другое, затем снова первое.

Понимаете, в такой ситуации наш мозг буквально отбрасывает половину объективно воспринимаемой им визуальной информации, а мы этого даже не замечаем!

Но если такие штуки возможны со зрительным анализатором, чего мы не замечаем ещё?

И нет, это не какие-то сбои или ошибки. Это нормальная работа нашего мозга. Ну а с позиции нашего сознания, говоря юридическим языком, это просто «добросовестное заблуждение».

Мозг нас обманывает, а мы обманываемся и ничего не можем с этим поделать.

Ещё раз: воспринимаемый нами мир нами не воспринимается!

Ошибка думать, что на нас подействовал какой-то раздражитель, а мы его восприняли, и вот результат. Нет, наш мозг создал представление о реальности, примерил его на неё. И если она активно этому не воспротивилась, мы эту подделку и будем видеть.

«А если воспротивилась?» – спросите вы.

Не переживайте, он сделает другое изображение и воспользуется уже им. Всё наше восприятие мира – грандиозный обман. В экспериментах, к сожалению, это можно показать только на отдельных, относительно простых нейронных процессах. Но это системный эффект, а точнее – системная ошибка.

Вот почему эта книга называется «Deepfake»: реальность, которую мы воспринимаем, иллюзорна.

Она создана нашим мозгом согласно той самой технологии deepfake, когда одно изображение намеренно накладывается на другое.

Впрочем, восприятие – это только цветочки и верхушка айсберга. Ягодки, поверьте, впереди. В самом деле, если нас настолько дурачит вроде бы элементарный процесс восприятия, то представьте, какой неслыханный подлог происходит на уровне сознания!

Что такое, например, наше чувство собственной «личности», нашего «я»?

Художественная аппликация

Реальность бесконечно сложна для нашего познания. Мы должны упрощать.

Олдос Хаксли

Мозг виртуозно создаёт удивительно масштабную и непротиворечивую иллюзию всей нашей реальности – всего привычного нам мира. Диву даёшься, как ему это удаётся! И правда, как?

Фокус в том, что разные элементы «картины реальности» создаются в разных отделах мозга.

Например, затылочная кора создаёт зрительный образ – допустим, внешние черты ваших близких. А чувства, которые вы к ним испытываете, порождаются уже в другой области – в передней поясной извилине, то есть, по сути, в противоположной части мозга.

Теперь вернёмся к нашему больному с синдромом Капгра. Из-за дегенеративных процессов длинные нервные пути должны страдать первыми, правильно? Именно так!

Поэтому больной видит внешность человека – его зрительная кора создаёт образ. А вот эмоции, которые должны это изображение оживить, – то ли затерялись где-то, то ли просто опаздывают.