Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами (страница 4)
Применение римского додекаэдра – настолько узкое и прикладное, что его изобретение необязательно для функционирования тогдашнего общества и понимания следующими поколениями. Однако если бы люди вдруг забыли принципы работы двигателя внутреннего сгорания или интернета, то остановилось бы множество процессов в самых разных индустриях – от сельского хозяйства до логистики.
Наибольшее влияние на мир оказывают так называемые «сквозные» технологии, которые одновременно влияют на большинство индустрий и множество аспектов жизни человека, поэтому обладают максимальным подрывным характером, меняя привычные нам способы взаимодействия.
Интернет, геолокация и искусственный интеллект – это «сквозные» технологии, пронизывающие общество, бизнес и государство, влияющие на любые индустрии и меняющие наш привычный образ жизни. К сквозным технологиям также можно отнести виртуальную реальность, интернет вещей, большие данные, децентрализованные реестры… Однако со временем список сквозных технологий может меняться. В ближайшем будущем важнейшими из них могут стать нейротехнологии и квантовые вычисления.
Влияние искусственного интеллекта на изменения в обществе
Шахматный суперкомпьютер DeepBlue от IBM в 1997 году выиграл матч из шести партий у чемпиона мира по шахматам Гарри Каспарова. И только спустя два десятилетия в 2015 году программа AlphaGo от компании Google DeepMind смогла обыграть профессионального игрока в го, предложив стратегии, которых человечество не смогло узнать за несколько тысяч лет существования этой игры. А уже через два года программа AlphaZero – прямой потомок AlphaGo – после всего лишь 24 часов обучения смогла победить чемпионов мира среди программ по играм в шахматы, сеги[2] и го.
«Zero» в названии означает, что программа начинала с нулевыми предварительными знаниями и самостоятельно обучалась играть без определения правил человеком. AlphaZero могла играть не только в го, а вообще в любые игры для двух игроков, поначалу совершая ходы случайным образом, но затем улучшая себя до уровня чемпиона мира в течение 24 часов. Игрок мирового класса в шахматы и по совместительству сооснователь и глава Google DeepMind Демис Хассабис[3] так высказался о невероятных прорывах AlphaZero: «Представьте, что утром вы запустили обучение системы игре в шахматы, сходили за кофе и к обеду все еще можете ее обыграть. Но оставьте ее еще на несколько часов, и уже к ужину перед вами будет величайший игрок в шахматы из всех, что когда-либо существовали».
За AlphaZero последовала программа AlphaFold, способная предсказывать пространственную структуру белка – такая визуализация необходима ученым для понимания функций конкретного белка в живом организме. Раньше на такое исследование ученый в среднем тратил 4–5 лет, и описание структуры одного белка вполне могло стать докторской диссертацией. За последние 40 лет биологи всего мира смогли описать примерно 150 тысяч структур белков из более чем 200 миллионов. Такими темпами описание всех известных белков заняло бы вечность. AlphaFold справилась со всеми 200 миллионами всего за год, сэкономив около миллиарда лет исследовательского времени.
И сама программа, и результаты ее работы опубликованы в открытом доступе. Эти исследования крайне важны для понимания болезней и могут сократить сроки создания новых лекарств с нескольких лет до нескольких месяцев. Тот факт, что за несколько часов искусственный интеллект может достичь того, что не удалось миллионам человек на протяжении столетий, – одновременно восхищает и пугает.
Непосредственно на наши с вами жизни искусственный интеллект стал влиять где-то в эпоху Web 2.0, когда появились социальные сети, для которых мы начали писать тонны контента, делать селфи и снимать видео с котами. При этом мы потребляем различную информацию и фактически живем в разных информационных пузырях – каждый в соответствии со своими интересами. Для того чтобы все наши послания с фотографиями котов и еды доставлять до нужной аудитории, нужны алгоритмы, способные раскладывать контент по полочкам. На бытовом уровне искусственный интеллект позволяет нам быстрее и удобнее получать наиболее актуальную информацию. Распознавание голосовых команд, текстовые подсказки к поисковым запросам, рекомендательные сервисы платформ стриминга и электронной коммерции, навигация в реальном времени – все это помогает нам быть эффективнее.
Когда думаешь о роли технологий в социальных изменениях и преобразованиях бизнес-моделей для того, чтобы заработать или инвестировать средства, а может, для создания оружия и угрозы суверенитету других стран, то вопросов больше, чем ответов. Технологии влияют не только на инженерное дело, вычисления или криптографию, но и на экономику, политику и военное дело, имея потенциальное двойное назначение. ИТ-компании, владеющие средствами анализа данных, – это еще и политическое оружие, и орудие пропаганды, так как алгоритмы формирования общественного мнения позволяют убедить человека, что одни ценности, идеология или мировоззрение лучше других.
Возможность не только создавать новые правила, но и менять саму среду обитания человека, расширяя его физические и когнитивные возможности и открывая невероятные перспективы для инноваций, инвестиций и предпринимательства, ставят нас перед множеством выборов, с которыми мы раньше никогда не сталкивались. «Сквозной» характер «подрывных» технологий, помноженный на накопленный груз нерешенных глобальных и локальных проблем – социальных, экономических и политических, – позволит нам увидеть множество экспериментов, которые станут ответами на нынешние и грядущие кризисы.
Какими станут ближайшие десятилетия для человека и человечества?
1. Будет ли ИИ гармонично интегрирован в человеческое общество или начнет реализовывать собственные непонятные цели по сценарию «восстания машин» из фантастических книг и популярных кинофильмов?
2. Откроем ли мы лекарства от большинства видов рака, или прорывы в биомедицине будут использовать для создания нового биологического оружия?
3. Позволит ли бурное развитие генной инженерии радикально продлить человеческую жизнь или только усилит неравенство между богатыми и бедными, создавая новые биологические виды?
4. Приведет ли замена большей части физического труда роботизированными системами ко всеобщему благополучию, или миллионы людей останутся без работы и средств к существованию?
5. Поможет ли внедрение в большинстве стран мира всеобщей системы предиктивной аналитики[4] и цифровой идентификации граждан победить преступность или приведет к тотальному контролю и превентивным арестам, не оставляя пространства для личной свободы?
6. Будет ли реализована возможность построения личных и профессиональных траекторий для раскрытия потенциала человека, или внедрение искусственного интеллекта приведет к коллапсу системы образования?
7. Решит ли введение безусловного базового дохода проблему глобальной бедности, или станет подачкой для «низшей касты», лишенной других способов обеспечить свое существование?
8. Повысят ли социальные сети уровень эмпатии и сотрудничества между людьми, или создание фейковых новостей и манипуляций приведет общество к тотальному недоверию?
9. Обеспечат ли технологии ИИ более высокий уровень общественной безопасности, или его массовое внедрение в армиях повысит риски войн и конфликтов, а киберпреступность и хакерство станут новой формой государственного терроризма?
10. Сможем ли мы победить депрессии благодаря новому поколению антидепрессантов и нейросетевым терапевтам, помогающим людям в саморазвитии, или случится пандемия информационной и психологической перегрузки?
11. Приведет ли научная и техническая революция к устойчивому развитию цивилизации, или квантовые компьютеры взломают традиционную криптографию, гарантируя крах финансовой системы?
12. Расширят ли нейронауки возможности человека в понимании механизмов сознания, или массовое внедрение нейроинтерфейсов превратит людей в программируемых биороботов?
13. Появятся ли поселения на Луне и Марсе, открыв эпоху колонизации планет и космического туризма, или космос станет зоной постоянных военных конфликтов?
14. Будет ли мощный искусственный интеллект писать компьютерные программы и совершать научные открытия в тандеме с человеком, или алгоритмы станут настолько сложными, что люди начнут их обожествлять?
15. Предоставит ли массовый переход в виртуальные миры новые возможности для творчества и самореализации людей, или виртуальная реальность станет новым наркотиком, на который подсядет значительная часть человечества?
Цивилизационные развилки
Возможных вариантов развития событий – множество, среди них есть как предельно оптимистичные, так и крайне пессимистичные, а реальное будущее, вероятнее всего, будет содержать элементы разных сценариев. Человечество ждут десятки развилок с противоположными возможностями и крайностями, поэтому каждый из нас должен понимать последствия того или иного выбора, хотя бы потому, что эта сложносочиненная навигация не только отзовется эхом где-то через столетия, но и отразится уже на наших с вами жизнях.
Проще всего представить разноплановые возможности развития цивилизации в виде бинарных развилок, где можно пойти направо или налево. Мы рассмотрим несколько таких развилок, сопровождая каждую современными и историческими прецедентами, гипотезами о том, каким образом люди могут прийти к одному из выборов, и возможными сценариями на их основе. Эти развилки следует понимать как гипотетические экстремумы противоположных путей развития в политике, обществе, экономике и технологиях, а сценарии рассматривать исключительно как иллюстрации, поскольку реальное будущее, безусловно, гораздо многограннее.
Киберколониализм или технологическая суверенность?
Как будут построены отношения между технологически развитыми и развивающимися государствами: они сравняются в доступе к технологиям и сохранят суверенность, или нас ждет киберколониализм, при котором лидеры будут экспортировать технологии и эксплуатировать население наименее благополучных регионов?
Техноанархизм или цифровое рабство?
Как будут использовать технологии: в качестве инструмента в руках людей, уравнивающего их с общественным институтом, или как инструмент для их контроля и подчинения?
Суверенитет корпораций или национализация?
Какие институты будут играть ключевую роль: транснациональные корпорации с технологическим и экономическим превосходством или государства, которые победят их благодаря регуляторным механизмам и закручиванию гаек?
Коллективизм или индивидуализм?
Приведет ли технологическое неравенство к главенству интересов группы над интересами личности, или технологии обеспечат максимум индивидуальной свободы от государств, корпораций и других людей?
Общее информационное поле или гиперкастомизация?
В каком информационном поле мы будем жить: в общем – на уровне отдельной страны или даже глобально, с одной объективной реальностью и правдой, или в мире с миллиардом субъективных реальностей, где продукты, контент и сервисы будут создавать (адаптировать) под каждого человека?
Физическая реальность или метавселенные?
Как поменяется среда, в которой живет, развивается, работает и развлекается человек: мы продолжим вести основную деятельность в привычном физическом мире или в расширенной реальности с метавселенными, влияющими на события и процессы в реальной действительности?
Техноцентризм или антропоцентризм?
Будет ли технологический прогресс нацелен на обеспечение человеческого благополучия, или его принесут в жертву развитию технологий?
Прозрачность или анонимность?
Как будет обеспечиваться доверие: тотальной прозрачностью всех процессов для каждого стейкхолдера (все будут знать все обо всех) или альтернативной технологической инфраструктурой общества, построенной на принципах конфиденциальности и обеспечивающей доверие при сохранении анонимности?