Не бывает так, чтобы при принятии решения мы были единственной заинтересованной стороной. Не бывает так, чтобы наши решения касались только нас самих. Они влияют на множество людей и явлений – о некоторых из них в момент принятия решения мы не подозреваем и можем никогда о них не узнать. В ситуациях на передовой бывает сложно, порой даже невозможно определить все заинтересованные стороны, как фактические, так и потенциальные. К моменту создания этой книги компания Airbnb обслуживает каждые сутки в среднем по 2 миллиона гостей в 220 странах и регионах по всему миру^[102]. И это мы не говорим о хозяевах, членах их семей, их соседях, предприятиях, которые затрагивает деятельность Airbnb, законодателях, которые регулируют (или не регулируют) эту деятельность, последствиях их работы в налоговой сфере и так далее.

Как подойти к вопросу определения всех заинтересованных сторон? Начать можно с тех, на кого развязка будет влиять непосредственно, или с тех, кто непосредственно влияет на развязку (например, некомпетентная регулирующая организация), или с тех, кто несет серьезные риски (например, пассажиры самолета). Если определить отдельных лиц мы не можем, мы все же можем принимать в расчет категории заинтересованных сторон (например, сотрудников предприятий-поставщиков Boeing или хозяев, сдающих жилье через Airbnb). Как мы увидим в главе 2, временами на передовой мы не можем даже представить себе, кем окажутся заинтересованные стороны, поскольку мы не способны вообразить потенциальные способы использования или злоупотребления той или иной технологией или отклик людей на какую-то ситуацию.

Вопрос № 4. Каковы возможные последствия моего решения в краткосрочной, средней и долгосрочной перспективе?

В момент принятия решения учитывали ли вы немедленный эффект и последствия своего решения в будущем?

Эта парадигма требует, чтобы мы рассмотрели последствия своих решений в краткосрочной, средней и долгосрочной перспективе уже в тот момент, когда мы их принимаем. Следовательно, нам нужно осуществить обычные для этой структуры сверки, чтобы отслеживать последствия с течением времени и учитывать вновь возникающие повороты.

Например, после первого крушения 737 Max 8 в ФАА установили, что в течение ближайших месяцев весьма вероятно повторение подобных чрезвычайных ситуаций с MCAS^[103]. Должны были прогреметь все сигналы тревоги. Вместо этого компания Boeing пообещала ФАА, что она создаст для MCAS корректировки к программному обеспечению^[104]. Однако, когда упал второй самолет, эти корректировки все еще не были готовы. К этому моменту в ФАА должны были знать, что потенциальные последствия – следующая катастрофа; как говорилось выше, для ответа на вопрос, запретить ли этим самолетам подниматься в воздух или нет, дополнительные данные были совершенно не нужны.

Позже высокопоставленный чиновник ФАА засвидетельствовал перед сенатом, что «с точки зрения безопасности мы были твердо уверены, что то, что мы сделали, было адекватным»^[105]. Но в оценке и сертификации мер безопасности ФАА все больше полагалось на Boeing, поэтому сохранять статус-кво «адекватное» было недостаточно. Напротив. Рассматривая этические аспекты возможных последствий своих решений, ФАА и Boeing должны были задать себе следующие неотложные вопросы – они помогут и вам быстро оценить последствия ваших собственных решений.

• Какие потенциальные последствия этого решения будут одновременно и непоправимыми, и важными?

• Какая возможность принести пользу может быть упущена?

• Что бы я чувствовал, если бы это решение повлияло на меня напрямую?

Если бы ФАА и Boeing принимали в расчет первый вопрос, решение было бы ясно: с учетом обстоятельств, риск для жизни людей – недопустимое потенциальное последствие. Им даже не потребовалось бы переходить к двум следующим вопросам.

После трагедий, после того как по всему миру отказались от полетов на этих самолетах и огромного урона репутации генеральный директор Boeing Мюленбург заверил конгресс, что компания устанавливает обновления программного обеспечения, проводит обучение для пилотов, укрепляет культуру безопасности и внедряет другие изменения, которые, по его словам, сделают «безопасные самолеты даже безопаснее»^[106]. Но эти самолеты не были безопасными изначально. Если руководство Boeing отказывается признать эту фундаментальную проблему, то как можно доверять решениям, которые принимает эта компания?

Следующий шаг после правильного применения нашей схемы – распределение ответственности между заинтересованными сторонами. В этом компания Airbnb, в отличие от Boeing, проявила себя достойно, поскольку ответственность руководители взяли на себя. В 2016 году, после эпизода с Грегори Селденом и эксперимента в Гарварде, генеральный директор Брайан Чески извинился за то, что не откликнулся быстрее, и назвал дискриминацию «величайшим препятствием, с которым мы как компания сталкиваемся. Она (дискриминация) проникает в самую нашу суть и затрагивает ценности, за которые мы боремся»^[107]. Компания Airbnb начала собственное внутреннее расследование расового профилирования на своей платформе и предприняла комплексные меры по борьбе с дискриминацией. Были добавлены «Обязательства членов сообщества Airbnb»^[108], и их были обязаны подписать все хозяева, тем самым обещая «относиться ко всем членам сообщества Airbnb с уважением, без осуждения и предубеждения, вне зависимости от их расы, религии, национальной и этнической принадлежности, инвалидности, пола, гендерной идентичности, сексуальной ориентации или возраста».

Руководители также стремятся принимать решения с участием многих заинтересованных сторон. Чтобы проверить платформу и разработать тренинг для хозяев, нацеленный на борьбу с предубеждениями, Airbnb нанял авторитетных экспертов-консультантов из правительства, научных кругов и юристов^[109]. Компания встречалась с различными группами, чтобы узнать разнообразные точки зрения: это сотрудники, хозяева, представители городских администраций, государственных учреждений, туристических компаний, группы по защите гражданских прав и пользователи Airbnb, которые ранее подвергались дискриминации. Компания также собрала команду инженеров-специалистов по программному обеспечению, экспертов по обработке данных, исследователей и дизайнеров с целью выявить и искоренить предвзятость на своей платформе.

В Airbnb могли бы уклониться («мы не несем ответственности за то, что люди делают на нашей платформе») или превратить сложную этическую дилемму в чрезмерно упрощенное, бинарное суждение («ошибка пилота» или же «наша ошибка»), но вместо этого компания собрала больше информации, стала учитывать изъяны системы и действовать исходя из этого. Через год, когда Дайн Су и ее друзья оказались в ловушке в заснеженных горах зимой 2017 года, в Airbnb отреагировали быстро: вернули Су все выплаченные деньги, предложили возместить ее группе стоимость проживания в отеле и лишили Баркер статуса хозяина.

В свою очередь, Су в этой ситуации также выступает как заинтересованное лицо. Она взяла на себя эту ответственность, поведав свою историю СМИ и подав жалобу в агентство, обеспечивающее запрещение расовой и религиозной дискриминации в жилищной сфере, в штате Калифорния, что в конечном итоге привело к заключению соглашения с Баркер. Согласно условиям договора, она, в числе прочего, должна была возместить Су ущерб в размере 5000 долларов, принести ей извинения лично, пройти курс азиатско-американских исследований на уровне колледжа и работать как волонтер в организации по защите гражданских прав^[110].

Чески продемонстрировал, что способен постоянно пересматривать и переоценивать информацию и учитывать интересы разных заинтересованных сторон и последствия решений Airbnb. Двумя годами позже, в 2019 году, в Северной Калифорнии вечеринка в честь Хеллоуина на квартире, снятой через Airbnb, обернулась массовым расстрелом^[111]. Чески заявил, что они создают круглосуточную «горячую линию для соседей»^[112], которая будет действовать по всему миру; также они начнут лично проверять каждое из семи миллионов объявлений на предмет точности, качества и безопасности^[113]; они станут проводить тщательный анализ брони с высоким риском и положат конец проведению несогласованных вечеринок еще до их начала. Обращая внимание на то, какие пробелы наблюдались в политике компании, Чески укрепил доверие к ней.

«Настоящая инновационность нашей компании заключается не в том, что мы помогаем кому-то снять жилье, а в том, что мы разрабатываем парадигму, позволяющую миллионам людей доверять друг другу. …Мы намереваемся делать все, что в наших силах, чтобы извлекать уроки из таких ситуаций, когда они происходят», – сказал Чески^[114].

Когда в компании Airbnb поняли, что возникла проблема, руководители не стали уходить от ответственности или обещать корректировку программного обеспечения – они внесли продуманные изменения в свою работу, что укрепило доверие к компании. Boeing может исправить свои самолеты, может даже уволить своего генерального директора. А вот восстановить доверие к компании будет далеко не так просто.

«Многие из нас, занятых в этой отрасли в последние десять лет, переходят от модели невмешательства, согласно которой интернет воспринимается как устойчивая система, на которую нельзя повлиять, к пониманию, что на самом деле этого недостаточно, – сказал Чески из Airbnb. – Мы должны брать на себя больше ответственности за то, что есть на нашей платформе»^[115].

Все мы – от летчиков-испытателей и аудиторов ФАА до хозяев, гостей и разработчиков программного обеспечения Airbnb, до вас и меня – имеем право и обязаны использовать свой голос и принимать меры, предотвращающие дальнейший вред. Осознайте опасности бинарного, черно-белого мышления в «сером» мире. Примените четыре шага нашей структуры к каждой этической дилемме. Все, что вы делаете, имеет значение.

Глава 2
Рассредоточенная власть

Дилейни Ван Райпер была бодрым, полным энергии ребенком, но ее отец заметил, что она в основном ходит на цыпочках^[116]. Будучи консультантом по генетике, Эй Джей Ван Райпер знал, что это может быть первым признаком генетического заболевания. Его опасения подтвердились, когда в возрасте семи лет у Дилейни диагностировали болезнь Шарко-Мари-Тута (ШМТ), пусть и не смертельную, но все же неизлечимую^[117]. В конечном итоге это должно было привести к тому, что связки у его дочери усохнут, а ее конечности и мышцы медленно атрофируются и ослабеют.

В детстве Дилейни носила на ногах ортезы, которые заставляли ее чувствовать себя «уникальной» на фоне ровесников^[118]. Но к подростковому возрасту физические отличия стали вызывать у нее душевную боль^[119]. В 2017 году, когда Дилейни училась в старших классах, она получила по электронной почте письмо^[120] из лаборатории доктора Брюса Конклина^[121]