Учителя и одноклассники любили Хейли, но была в классе одна девочка, которая при появлении моей сестры съеживалась. Однажды Хейли вернулась домой пьяная в стельку; в другой раз она стащила у меня деньги и врала, будто она ни при чем, до тех пор пока я не нашла их у нее в сумочке. Хейли умела манипулировать людьми и не стеснялась делать это. Она была преданной, мужественной и доброй, но могла также быть безалаберной, мелочной и жестокой. Я любила Хейли, потому что она была живым человеком, но девушка из фильма была чем-то бо́льшим – и в то же время чем-то меньшим.

Я держала свои эмоции при себе. Из чувства вины.

Мама неудержимо двигалась вперед, в то время как мы с папой держались сзади, оглушенные. Какое-то недолгое время казалось, будто ситуация в корне изменилась. Перед Капитолием и Белым домом собирались многолюдные митинги. Выступали ораторы, толпа скандировала имя Хейли. Маму пригласили на популярное ток-шоу. После того как средства массовой информации сообщили о том, что мама ушла с работы ради того, чтобы посвятить себя кампании, анонимный фонд начал сбор денег для нашей семьи.

А затем начался троллинг.

Поток писем на электронную почту, сообщения, грязная ругань в соцсети. Нас с мамой называли продажными шлюхами, наемными актрисами, наживающимися на горе. Незнакомые люди присылали нам длиннющие тексты, разъясняя все те моменты, где папа был неправ и вел себя не по-мужски.

Хейли жива-здорова, заверяли нас. На самом деле она живет на китайском острове Санья на те миллионы, которые ей заплатили ООН и ее приспешники в американском правительстве за то, чтобы она притворилась, будто ее убили. Ее приятель (который также «естественно, не погиб» при стрельбе), на самом деле по национальности китаец, и это можно расценивать как доказательство связи.

Видео с Хейли разбирали по кадрам с целью найти следы монтажа и цифрового редактирования. Цитировались анонимные одноклассники, называвшие ее хронической лгуньей, обманщицей, любительницей театральных эффектов.

По Сети начали распространяться короткие вырезки из видео, перемежающиеся «разоблачительными» вставками. Кто-то с помощью специальных программ состряпал видеоклипы, в которых Хейли проповедовала ненависть и цитировала Гитлера и Сталина, хихикая и маша рукой перед камерой.

Я удалила все свои аккаунты и не выходила из дома, не находя в себе сил встать с кровати. Родители меня не трогали – им самим приходилось вести тяжелые сражения.

САРА ФОРТ

За десятилетия цифровой эры искусство троллинга, эволюционируя, заполнило все ниши, раздвинув границы как технологий, так и приличий.

Со стороны я наблюдала за тем, как тролли роятся вокруг семьи моего брата, разобщенные, но объединенные бесцельной злобой, низменным злорадством.

Теории заговоров переплетались с откровенной фальшивкой, выдавая мемы, в которых сострадание выворачивалось наизнанку, глубокая боль превращалась в хохмочки.

«Мамочка, на пляжах в аду так жарко!»

«Мне нравятся эти новые дырки в моем теле!»

Поисковые системы в ответ на запрос имени Хейли начали выдавать ссылки на порносайты. Программы изучения предпочтений в интернете, управляемые искусственным интеллектом, откликнулись автоматически сгенерированными фильмами и иммерсиями в виртуальную реальность с участием моей племянницы. Алгоритмы брали имеющиеся в открытом доступе кадры с Хейли и гладко вплетали ее лицо, тело и голос в оголтелую порнуху.

Новостные средства массовой информации откликались на происходящее гневно (возможно, даже искренне). Эти публикации порождали новые поиски, что, в свою очередь, приводило к генерации нового контента.

Мой долг как исследователя – оставаться непредвзятой, изучать явление с клинической отрешенностью. Упрощенный подход заключается в том, чтобы считать троллей политически мотивированными – только не в том смысле, в каком этот термин используется обычно. Хотя ярые сторонники Второй поправки^[19] и способствовали распространению мемов, у самих авторов редко имелись вообще какие-либо политические взгляды. Пристанищем этих навозных жуков интернета являются всевозможные анархистские сайты, возникшие на волне войн по борьбе с инакомыслием прошедшего десятилетия. Получая наслаждение от нарушения запретов и беззакония, тролли не имеют общих интересов помимо того, чтобы говорить то, что нельзя говорить, издеваться над искренностью, играть с тем, что остальные считают запретным. Погрязнув в эпатажном и низком, они оскверняют и в то же время определяют установленные средствами массовой информации социальные связи общества.

Однако как человек я не могла спокойно смотреть на то, что делали с образом Хейли. Я связалась со своим братом.

– Давай я вам помогу.

Машинное обучение дало нам возможность предсказывать с достаточно большой точностью, кто станет жертвой нападок, ведь на самом деле тролли далеко не такие непредсказуемые, какими пытаются себя представить. Моя компания и другие крупные социальные медиаплатформы остро сознают, что им нужно аккуратно идти по узкой тропинке между регулированием пользовательского контента и холодной отрешенностью: именно этот показатель в наибольшей степени влияет на рыночную стоимость акций и тем самым является определяющим при принятии решений. Агрессивное вмешательство, особенно когда оно опирается на суждения, принимаемые человеком, подвергается критике со всех сторон, и всем компаниям приходится сталкиваться с обвинениями в цензуре. В конечном счете все подняли руки и отложили в сторону мудреные руководства по регулированию контента. У них нет ни умения, ни желания становиться арбитрами истины и порядочности для общества в целом. Как можно требовать от них решить проблему, с которой не могут справиться даже органы демократии?

Постепенно большинство компаний пришли к одному и тому же решению. Вместо того чтобы сосредоточиваться на оценке поведения ораторов, они потратили значительные силы на то, чтобы дать слушателям возможность самим ограждать себя. Алгоритмическое отделение законной (хотя и страстной) политической речи от целенаправленной травли любого человека является практически неразрешимой проблемой: контент, который одни провозглашают высказыванием правды властям предержащим, другие осуждают как выходящий за рамки. Значительно проще построить для блокировки контента, который не хочет видеть конкретный пользователь, индивидуально настроенную нейросеть и обучить этому ее.

Новые защитные нейросети, представляемые на рынке как «доспехи», отслеживают эмоциональную реакцию каждого пользователя на полученный контент. Способные действовать в областях текстовой, аудио- и видеоинформации, а также искусственной и виртуальной реальности, «доспехи» самообучаются распознавать контент, вызывающий у пользователя сильную негативную реакцию, и отсеивать его, оставляя лишь нейтральный фон. По мере широкого распространения смешанной реальности и иммерсии лучшим способом использования «доспехов» становится ношение очков дополненной реальности, фильтрующих все источники зрительного восприятия. Троллинг, подобно вирусам и «червям» в прошлом, является проблемой технической – и вот теперь мы можем предложить техническое решение.

Для того чтобы получить самую надежную защиту, максимально учитывающую особенности конкретного пользователя, необходимо платить деньги. Социальные сети, которые также настраивают свои «доспехи», утверждают, что это позволяет им уйти от контроля за контентом, снимает с повестки дня необходимость решать, что неприемлемо на площадях виртуальных городов, освобождает всех от колпака цензуры в духе Большого Брата. И то, что идеалы этого заявления в поддержку свободы слова совпадают со стремлением извлекать максимальную прибыль, является чем-то само собой разумеющимся.

Я отправила брату и его семье лучшие, самые совершенные «доспехи», какие только можно купить.

ЭБИГЕЙЛ ФОРТ

Представьте себя на моем месте. Тело вашей дочери с помощью цифровых технологий встроено в откровенную порнографию, ее голос произносит слова ненависти, ее облик искажен немыслимой жестокостью. И все это произошло по вашей вине, вследствие того что вы не отдавали себе отчета в том, каким порочным может быть человеческое сердце. Могли бы вы остановиться? Могли бы остаться в стороне?

«Доспехи» сдерживали самое ужасное, а я продолжала выкладывать посты, поднимая свой голос против неудержимого потока лжи.

Предположение о том, что Хейли якобы не умерла, что она актриса, участвовавшая в правительственном заговоре, направленном на запрещение оружия, казалось настолько нелепым, что вроде бы даже не заслуживало ответа. Однако после того как мои «доспехи» начали фильтровать новостные сайты, оставляя на страницах пустые места, я поняла, что ложь спровоцировала серьезный конфликт. Уважаемые журналисты стали требовать от меня отчеты о том, как я потратила собранные для нас деньги, – и это при том, что мы не получили ни цента! Весь мир сошел с ума.

Я выложила фотографии тела Хейли, полагая, что в этом мире осталась хоть толика порядочности. Определенно, никто не станет оспаривать такие наглядные доказательства?

Стало только хуже.

Для безликой оравы интернета это превратилось в игру: посмотреть, кому удастся преодолеть мои «доспехи», кто сможет вонзить мне в глаз отравленное видео, которое заставит меня вздрогнуть и отшатнуться.

Тролли присылали мне сообщения якобы от других родителей, потерявших своих детей при терактах, а когда я заносила их в «белый» список, выплескивали на меня мерзкие видео. Они присылали мне ролики, посвященные памяти Хейли, которые, после того как их пропускали «доспехи», трансформировались в отвратительное порно. Они собирали деньги и нанимали курьеров и квадрокоптеры службы доставки, чтобы расставлять рядом с нашим домом доверительные маркеры, окружая меня порожденными дополненной реальностью призраками Хейли, корчащимися, хихикающими, стонущими, кричащими, ругающимися, издевающимися.

Хуже всего то, что они оживили изображения окровавленного тела Хейли под аккомпанемент бойкой музыки. Ее смерть стала смешным трендом, подобно «Песенке Хомяка»^[20] моей молодости.

ГРЕГГ ФОРТ

Порой я гадаю, правильно ли мы понимаем, что такое свобода. Мы ценим «свободу что-то делать» гораздо больше «свободы от чего-то». Люди должны иметь свободу владеть оружием, поэтому единственное решение в том, чтобы учить детей прятаться в шкафах и носить в ранцах пуленепробиваемые пластины. Люди должны иметь свободу говорить и выкладывать в интернет все, что им вздумается, поэтому единственное решение в том, чтобы посоветовать их жертвам надевать «доспехи».

Эбигейл просто решила делать так, а мы с Эмили просто последовали за ней. Слишком поздно я стал упрашивать, умолять ее остановиться, отступиться. Мы могли бы продать наш дом и перебраться куда-нибудь подальше от соблазна схлестнуться в схватке с остальным человечеством, подальше от океана ненависти, в котором тонули.

Однако предложенные Сарой «доспехи» вселили в Эбигейл ложное ощущение безопасности, подтолкнули ее удвоить свои усилия в борьбе с троллями. «Я должна сражаться за свою дочь! – кричала она мне. – Я не могу допустить, чтобы ее память оскверняли!»

По мере того как тролли усиливали свой натиск, Сара присылала все новые и новые заплаты для «доспехов». Она добавляла такие слои, как «дополнительные средства борьбы», «самомодифицирующие распознаватели кодов» и «автовосстановители изображений».

Снова и снова «доспехи» держались какое-то недолгое время, после чего тролли находили способы их преодолеть. Свободный доступ к искусственному интеллекту означал, что им были известны все технологии, которыми пользовалась Сара, и у них имелись машины, которые также могли обучаться и настраиваться.

Эбигейл не желала меня слышать. Она оставалась глуха к моим мольбам; быть может, ее «доспехи» научились видеть во мне лишь еще один злобный голос, который нужно было заглушить.

ЭМИЛИ ФОРТ