Она сама не знала, почему заглянула в кафе, может, потому что договорилась об отгуле заранее, а идти больше было некуда.

В кофейне было многолюдно.

Но он не придет.

У Юйтун просидела полчаса, уныло помешивая пенку, плававшую на поверхности кофе.

Внезапно перед ней возник мужчина.

– Вы госпожа У Юйтун? – вежливо спросил посетитель.

Она подняла на него взгляд. Незнакомец был высоким, с кантонскими чертами лица, в коричневом пиджаке, небрежно наброшенном на плечи.

– А вы?..

– Меня зовут Ли Цзысюй.

Глаза У Юйтун невольно расширились.

Незнакомец пододвинул стул и уселся напротив.

– Я здесь по поручению Ли Цзысюя. Вы же знаете, что он не сможет прийти.

У Юйтун прикрыла рот рукой.

– Мне тоже очень жаль. Ли Цзысюй – наш весьма успешный продукт. Предполагалось, что сегодня мы установим его на бионическое тело, чтобы он по-настоящему смог симулировать человека. Печально…

На лице гостя промелькнула тень скорби.

Ли Цзысюй – искусственный интеллект! У Юйтун, оглушенная этой новостью, пришла в замешательство.

– Но не будем об этом. Я пришел сюда затем, чтобы исполнить его желание. Он сказал, что вероятность того, что вы появитесь в этом кафе, составляет 76%, поэтому попросил меня принести вам эти две вещи – считайте, что на память.

Ли Цзысюй положил то, что держал в руках, на стол. Хрупкую, нежную розу и узкий кусочек тонкого листового металла.

– Я исполнил просьбу и теперь прощаюсь, – он встал и собрался уходить.

У Юйтун внезапно очнулась.

– Господин Ли! – окликнула она мужчину. – Вы его разработчик?

– В некотором роде. И его друг.

– Он все еще жив?

– Реконструируется, реорганизуется. Он станет новым искусственным интеллектом. Я не знаю, можно ли сказать в таком случае, что он еще жив. Но, госпожа У, я советую вам забыть о нем.

Ли Цзысюй кивнул на прощание и удалился.

Нежная роза притягивала и колола взгляд.

У Юйтун взяла металлическую пластинку, перевернула и обнаружила, что это табличка с именем.

Ватсон 2084

Буквы ярко сияли.

Она погладила надпись, и уголки ее рта тронула улыбка.

2. Без лица

Пролог

В рассказе «Без лица» нет искусственного интеллекта с чертами личности – редкость для научно-фантастических произведений на эту тему. Он посвящен размышлению над практическим вопросом: как мы будем решать проблемы безопасности, когда распознавание лиц станет ключевой технологией. Поскольку распознавание лиц – это, в конечном счете, просто алгоритм, в нем существуют уязвимости, которыми могут воспользоваться недобросовестные люди.

Это беспокойство вполне естественно. Даже если система пройдет тысячу шлифовок, в ней все еще могут оставаться лазейки, не говоря уже о том, что распознавание лиц было разработано совсем недавно и до зрелости ему далеко.

2019 можно считать годом, когда технология сканирования лица получила широкое распространение. Распознавание лиц Alipay было представлено клиентам в 2018 году, и уже в следующем оказалось крайне востребовано. Распознавание лиц было введено в систему контроля доступа во многих населенных пунктах, а в аэропортах и на вокзалах стало важным звеном в проверке безопасности, даже средством для преследования беглецов. Это отличный пример технологии, привносящей удобство в нашу жизнь.

Но там, где есть хорошее, естественно, появится и плохое. В 2019 году сообщали и о проблемах, с которыми может столкнуться система идентификации.

В сентябре 2019 года произошел инцидент: китайская программа под названием ZAO позволила с «хирургической точностью» заменять лица, так что человек на видео становился совершенно другой личностью. Вы могли перевоплотиться в Обаму, произносящего речь в Белом доме, или главного героя фильмов и сериалов, а еще вас могли зло разыграть. Эта технология получила название «дипфейк», и с ее помощью пользователи подделывали не только лица, но и голоса. Видео получались безупречными – не отличить от настоящих. Несомненно, от технологии больше всего пострадали актеры – с ее появлением стало достаточно отснять только лицо знаменитости, а все остальное оставить на откуп дублерам, после чего провести «операцию по смене лица» – и вуаля. Если обучить ИИ воспроизводить эмоции и движения, искусственный интеллект сможет даже сгенерировать виртуального человека. Вероятно, в будущем индустрия кино и телевидения превратится в высокотехнологичную отрасль, которая позволит актерам уйти на пенсию, а сценаристам и режиссерам – воплощать истории при помощи искусственного интеллекта.

Другой пример – в марте 2019 года ученые сообщили о том, как обмануть систему распознавания лиц. Для этого на полы шляпы устанавливали инфракрасные светодиоды, которые освещали лицо так, что программа идентифицировала человека неправильно. Эта технология позволила людям притворяться кем-то другим, открыла простор для преступных деяний. Можно сказать, что концепция совпадает с идеей «шлема светового поля», упомянутого в рассказе «Без лица». Я написал его в 2017 году, и потому, прочитав эту новость два года спустя, не мог не испытать некоторой авторской гордости.

Обман системы распознавания лиц – это продвинутая мера противодействия. Сообщалось также о первичных мерах противодействия, то есть об использовании некоторых интерференционных картинок. Если поднести такую картинку к груди, искусственный интеллект не сможет распознать лицо. На первый взгляд, это потрясающе – нам очевидно, что человек есть и просто держит в руках странную картинку, а вот ответ, который даст искусственный интеллект, будет совсем другим. Это означает, что ИИ воспринимает мир совершенно не так, как люди. Мир в глазах искусственного интеллекта – это вообще другой мир. Однако люди склонны трактовать выводы ИИ на основании собственного опыта, что приводит к недоразумениям.

С увеличением числа приложений для распознавания лиц подобные ошибки будут случаться все чаще и чаще. Если эта технология попадет в руки злоумышленников, распознавание лиц превратится для них в своеобразный «пропуск». Мы, наверное, можем считать таких людей хакерами эпохи распознавания лиц.

Хакеров отличает крутость, загадочность, владение высочайшими технологиями, они всемогущи, но совершенно невидимы. Проще говоря, они все умеют быть «без лица», и добро и зло в них определяется только совестью.

* * *

Сюй Хайфэн уселся за стол и нажал на кнопку.

Медленно поднялся огромный экран и окружил, совсем как в панорамном кинотеатре. На нем непрерывно мелькали данные.

Стоило взмахнуть рукой, и экран повернулся в такт жесту. Когда перед глазами возникла схема передвижения финансов, Сюй Хайфэн поднял ладонь, словно велел остановиться.

Экран так и сделал.

Перед взором Сюй Хайфэна развернулась двухметровая карта мира. Яркие линии словно очерчивали баллистические траектории: поднимались со всех концов карты, тянулись в разные стороны на разную дальность и, наконец, падали на землю и исчезали. В Северной Америке их было настолько много, что они почти сливались в светящееся полотно, а вот в Восточной Азии царило спокойствие, только время от времени появлялось несколько ярких линий – в Северной Америке наступил полдень, в то время как большая часть Восточной Азии оставалась погруженной в глубокую, непроглядную ночь.

Линии различались по толщине, самые тонкие, вероятно, обозначали суммы всего в несколько сотен юаней, в то время как толстые и яркие соответствовали сотням миллионов.

Невооруженный глаз не мог угнаться за сотнями транзакций в секунду, оставалось лишь наблюдать за тем, как похожие на метеоры суммы расчерчивают шлейфами экран. Несмотря на то что карта глобального слежения за динамикой транзакций походила на прекрасное произведение электронного искусства, долго рассматривать ее было скучно, если не утомительно.

Но Сюй Хайфэн совсем не чувствовал усталости.

Он пристально вглядывался в казавшуюся почти пустой и необъятной Восточную Азию.

Он ждал красной линии.

Красная линия означала, что транзакция отклонена. В море данных о переводах сомнительные сделки распознавала система автоматического мониторинга, и если после анализа она признавала действия незаконными, транзакция отклонялась напрямую, а Управление по финансовым преступлениям немедленно получало предупреждение.

Именно этого предупреждения Сюй Хайфэн и ждал.

Было два отклонения за пятнадцать минут, но оба в Северной Америке – красные линии промелькнули, как молнии. А в Восточной Азии по-прежнему царила темнота.

То, что должно было случиться, так и не случилось.

Сюй Хайфэн нахмурился. Может, этот человек в целях безопасности отказался от сделки?

Он покачал головой и быстро усомнился в этом предположении. Такие люди, как Хуан Хуали, склонны ходить по краю: из-за искушения в 20 миллионов долларов они проигнорируют даже самые огромные риски. Кроме того, поведение человека можно предсказать точно, было бы достаточно ретроспективных данных. Он запросил в базе Тяньянь^[4] информацию о действиях, которые Хуан Хуали совершал за последние десять лет, а затем попросил Вэнь Синя из Ante, компании по финансовому мониторингу, сделать прогноз при помощи данных поведенческого анализа. Результат показал, что Хуан Хуали сегодня вечером обязательно что-то предпримет.

Поимка такой большой рыбы стоила приложенных усилий.

Сюй Хайфэн забросил удочку и теперь неотрывно следил за подрагиванием поплавка, ожидая, когда тот нырнет, и чувствуя, как бешено колотится сердце.

* * *

Внезапно в поле зрения появился зеленый предупреждающий сигнал.

Виртуальный менеджер отправил уведомление.

Как это могло случиться в такое время? Сюй Хайфэн несколько удивился, но зеленый сигнал ярко горел – событие было важное.

Он зажег виртуальный экран.

Сделка!

На его счет была зачислена сумма в триста тысяч долларов, но система отклонила перевод.

Сюй Хайфэн поднял зоркий взгляд – на большом экране из Шанхая поднялась ярко-красная линия, пересекла экран и приземлилась в Пекине.

Это была транзакция на его собственный счет.

И, очевидно, транзакция аномальная. Суммы, поступавшие и уходившие с его счета, никогда не превышали ста пятидесяти тысяч юаней, а триста тысяч долларов – это почти два миллиона, так что, согласно алгоритму следящей системы, эта транзакция определенно нуждалась в проверке.

Хуан Хуали!

Это Хуан Хуали агонизирует.

Однако прежде чем Сюй Хайфэн смог понять, почему противник сделал этот ход, на экране уже загорелись и слились в сплошное полотно красные линии.

Внезапно посыпались незаконные транзакции – Гуйян, Куньмин, Шанхай, Ханчжоу… даже города четвертой линии^[5]. Казалось, люди по всей стране проснулись в одно и то же время и стали отправлять деньги на один и тот же счет.

На счет Сюй Хайфэна.

Поначалу все переводы представляли собой огромные суммы, и система их отклоняла. Вскоре суммы уменьшились настолько, чтобы проверять их не было необходимости, а потому они сразу поступали на счет. Однако они быстро сложились в целое состояние, и баланс вырос со ста двадцати тысяч до двух миллионов меньше чем за две минуты.

Информация на виртуальном экране непрерывно обновлялась, а Сюй Хайфэн был шокирован и напуган.

Внезапно он осознал, что, пока бездействовал, противник готовился отправить его в нокаут.

И в этот момент ему стало очень досадно. У Хуан Хуали хватило наглости вот так его подставить!

Сюй Хайфэн недооценил соперника и пропустил удар! Будь он предусмотрительнее, то ходатайствовал бы о начале расследования и задержал Хуан Хуали для проверки.

А сейчас уже слишком поздно.