В настоящее время многие социальные институты находятся под влиянием инструментов и методов, формирующих ценности и способность принимать решения, создавая при этом сложный ряд последующих эффектов. Усиление технократической власти происходило уже давно, но сейчас этот процесс ускорился. Отчасти это связано с концентрацией промышленного капитала в период жесткой экономии и аутсорсинга, включая сокращение финансирования систем социального обеспечения и институтов, которые когда-то служили сдерживающим фактором для рыночной власти. Вот почему мы должны противостоять ИИ как политической, экономической, культурной и научной силе. Как отмечают Алондра Нельсон, Туй Линь Ту и Алисия Хедлам Хайнс: «Соревнования вокруг технологий всегда связаны с более масштабной борьбой за экономическую мобильность, политическое маневрирование и создание сообществ»^[36].

Мы находимся на переломном этапе, который требует от нас сложных вопросов о создании и внедрении ИИ. Мы должны спросить: что такое ИИ? Какие формы политики он пропагандирует? Чьим интересам он служит, и кто несет наибольший риск ущерба? И где использование ИИ должно быть ограничено? Да, на эти вопросы не так просто дать ответы. Но они и не являются неразрешимой ситуацией или точкой невозврата. Антиутопические формы мышления способны воспрепятствовать принятию мер и предотвратить крайне необходимые вмешательства^[37]. Как пишет Урсула Франклин: «Жизнеспособность технологии, как и демократии, в конечном итоге зависит от практики правосудия и соблюдения ограничений власти»^[38].

В этой книге утверждается, что решение фундаментальных проблем ИИ и планетарных вычислений требует объединения вопросов власти и справедливости: от эпистемологии до трудовых прав, от добычи ресурсов до защиты данных, от расового неравенства до изменения климата. Для этого нам необходимо расширить наше понимание того, что происходит в империях ИИ, увидеть, что поставлено на карту, и принять лучшие коллективные решения о том, что должно произойти дальше.

Глава 1
Земля

Boeing 757 заходит на посадку, направляясь в международный аэропорт Сан-Франциско. Левое крыло опускается, и самолет выравнивается со взлетно-посадочной полосой, открывая вид на самое знаковое место в технологическом секторе. Прямо под нами расположились великие империи Кремниевой долины. Гигантский черный круг штаб-квартиры Apple похож на незакрытый объектив камеры, сверкающий на солнце. А вот и главный офис Google, расположенный рядом с федеральным аэродромом НАСА. Когда-то, во время Второй мировой и Корейской войн, это была ключевая площадка для военно-морских сил США, но теперь Google арендует ее (на шестьдесят лет), и руководители высшего звена паркуют здесь частные самолеты. Рядом с Google находятся большие производственные корпуса Lockheed Martin, где аэрокосмическая и оружейная компания строит сотни орбитальных спутников, предназначенных для наблюдения за деятельностью Земли. Далее, у моста Думбартон, виднеется собрание приземистых зданий, окруженных массивными автостоянками рядом с сернистыми соляными прудами. Здесь располагается компания Facebook. С этой точки зрения ничем не примечательные пригородные улочки и индустриальные высотки Пало-Альто не выдают его истинного богатства, власти и влияния. Есть лишь несколько намеков на его центральное место в глобальной экономике и в вычислительной инфраструктуре планеты.

Я прибыла сюда, чтобы узнать об искусственном интеллекте и о том, из чего он состоит. Но для этого мне придется покинуть Кремниевую долину.

Из аэропорта я тотчас прыгаю в микроавтобус и еду на восток. Я пересекаю мост Сан-Матео-Хейворд и проезжаю мимо Национальной лаборатории Лоуренса Ливермора, где Эдвард Теллер проводил исследования термоядерного оружия в годы после Второй мировой войны. Вскоре за городами Центральной долины Стоктон и Мантека возвышаются предгорья Сьерра-Невады. Здесь дороги начинают петлять вверх через высокие гранитные скалы перевала Сонора и вниз по восточной стороне гор к травянистым долинам, усеянным золотыми маками. Сосновые леса уступают место щелочным водам озера Моно и пустынным рельефам Бассейна и Хребта. Чтобы заправиться, я заезжаю в Хоторн, штат Невада, где находится крупнейший в мире склад боеприпасов. Армия США хранит вооружение в десятках покрытых грязью зиккуратов, расположенных в долине аккуратными рядами. Проезжая по шоссе 265 штата Невада, я вижу вдалеке одинокий VORTAC – большую радиовышку в форме кегли для боулинга, разработанную в эпоху до GPS. У нее одна функция: она передает «Я здесь» всем пролетающим самолетам, являясь в одинокой местности фиксированной точкой отсчета.

Мой пункт назначения – немуниципальная община Сильвер-Пик в долине Клейтон в штате Невада, где проживает около 125 человек. Этот шахтерский городок, один из старейших в Неваде, был почти заброшен в 1917 году, после того как на земле обнаружили запасы серебра и золота. Несколько зданий времен золотой лихорадки по-прежнему стоят, неумолимо разрушаясь под солнцем пустыни. Может быть, городок и маленький, и в нем больше брошенных машин, чем людей, однако есть в нем нечто чрезвычайно редкое. Сильвер-Пик расположен на краю огромного подземного озера, богатого литием.

Ценный литиевый рассол, находящийся под поверхностью, выкачивают из земли и оставляют в открытых, радужно-зеленых прудах для испарения. Когда на них падает свет, пруды видны с расстояния в несколько миль, и они переливаются. Вблизи все выглядит иначе. Черные трубы, похожие на инопланетян, вылезают из земли и ползут по покрытой солью земле в неглубоких траншеях, переправляя соленый коктейль в сушилки.

Здесь, в отдаленном уголке штата Невада, находится место, где создаются материалы для искусственного интеллекта.

Добыча лития, Сильвер-Пик. Фотография Кейт Кроуфорд

Добыча полезных ископаемых для ИИ

Долина Клейтон связана с Силиконовой долиной примерно так же, как золотые прииски XIX века с ранним Сан-Франциско. История горного дела, как и разрушения, которые оно оставляет после себя, обычно упускается из виду в стратегической амнезии, сопровождающей рассказы о технологическом прогрессе. Как отмечает исторический географ Грей Бречин, Сан-Франциско построен на доходы от добычи золота и серебра на землях Калифорнии и Невады в 1800-х годах^[39]. Эти же земли были отняты у Мексики по договору Гваделупе-Идальго в 1848 году в конце мексикано-американской войны, когда поселенцам уже стало ясно, что это будут очень ценные золотые прииски. По словам Бречина, это был хрестоматийный пример старой пословицы о том, что «торговля следует за флагом»^[40]. Во время значительного территориального расширения Соединенных Штатов тысячи людей были вынуждены покинуть свои дома. После имперского вторжения Америки туда пришли шахтеры, и земля была разграблена до загрязнения водных путей и уничтожения окружающих лесов.

С древних времен горное дело являлось прибыльным лишь потому, что не приходилось учитывать его истинные затраты: ущерб окружающей среде, болезни и смерть шахтеров, а также убытки, причиняемые населению. В 1555 году Георгий Агрикола, известный как отец минералогии, заметил: «Очевидно, что вред от добычи полезных ископаемых больше, чем стоимость металлов»^[41]. Другими словами, те, кто получают прибыль от добычи полезных ископаемых, делают это лишь потому, что расходы несут другие люди, как живущие, так еще и не родившиеся. Легко назначить цену драгоценным металлам, но какова точная стоимость дикой природы, чистого ручья, пригодного для дыхания воздуха, здоровья местного населения? Это никогда не оценивалось, и поэтому возникла простая задача: добыть все как можно быстрее. Действовать быстро и ломать все на своем пути. В результате Центральная долина была разрушена, и, как заметил один турист в 1869 году: «Торнадо, наводнение, землетрясение и вулкан, вместе взятые, вряд ли могли произвести больший хаос, распространить большие разрушения и обломки, чем [золотодобывающие работы]. В Калифорнии нет таких прав, которые бы соблюдались горнодобывающей промышленностью. Выгода – вот единственный интерес»^[42].

Поскольку Сан-Франциско черпал огромные богатства из шахт, его жители легко забывали, откуда все это бралось. Шахты находились далеко от города, и эта удаленность позволяла людям оставаться в неведении относительно того, что происходило с горами, реками и рабочими. И все же небольшие напоминания о шахтах встречаются повсюду. В новых зданиях города для транспортировки и жизнеобеспечения людей использовались те же технологии, что и в Центральной долине. Системы шкивов, с помощью которых шахтеры спускались в шахтные стволы, были адаптированы и перевернуты, чтобы доставлять людей в лифтах на возвышенные точки города^[43]. Бречин предлагает рассматривать небоскребы Сан-Франциско как перевернутые шахтные ландшафты. Руда, добытая из отверстий в земле, продавалась для создания надземных этажей; чем глубже уходили шахты, тем выше в небо тянулись огромные башни офисов.

Сан-Франциско снова обогатился. Когда-то судьбы строились на золотой руде; теперь же в игру вступило такое вещество, как фторид лития. На рынках минералов его называют «серым золотом»^[44]. Технологическая индустрия стала предметом повышенного интереса – целых пять крупнейших компаний в мире по рыночной капитализации имеют офисы в этом городе: Apple, Microsoft, Amazon, Facebook и Google. Проходя мимо складов стартапов в районе СоМа, где когда-то жили шахтеры в палатках, можно увидеть роскошные автомобили, сети кофеен, финансируемые венчурным капиталом, великолепные автобусы с тонированными стеклами, курсирующие по частным маршрутам, доставляя работников в офисы в Маунтин-Вью или Менло-Парк^[45]. Но всего в нескольких минутах ходьбы находится Дивижн-стрит, многополосная магистраль между СоМа и районом Мишн, где снова появились ряды палаток, готовые приютить людей, которым некуда идти. После технологического бума в Сан-Франциско сейчас там один из самых высоких уровней бездомности^[46]. Докладчик ООН по жилищному вопросу назвал сложившуюся ситуацию «неприемлемым» нарушением прав человека, поскольку тысячи бездомных жителей лишены самого необходимого – воды, канализации и медицинских услуг, в отличие от рекордного числа миллиардеров, живущих поблизости^[47]. Увы, наибольшие выгоды от добычи полезных ископаемых достались немногим.

В этой главе мы пересечем Неваду, Сан-Хосе и Сан-Франциско, Индонезию, Малайзию, Китай и Монголию: от пустынь до океанов. Мы также совершим путешествие во времени: от конфликта в Конго и искусственных черных озер в наши дни до викторианской страсти к белому латексу. Масштабы будут меняться: от камней до городов, от деревьев до мегакорпораций, от трансокеанских судоходных путей до атомной бомбы. Но во всей этой планетарной суперсистеме мы увидим логику добычи, постоянное сокращение запасов минералов, воды и ископаемого топлива, подкрепленное насилием войн, загрязнением, вымиранием и истощением. Последствия масштабных вычислений можно обнаружить в атмосфере, океанах, земной коре, глубоком времени планеты и жестоком воздействии на обездоленные группы населения по всему миру. Чтобы понять все это, нам необходим панорамный взгляд на планетарный масштаб вычислительной добычи.