Цзян Бо: Повесть грядущих лет

Authorized translation from the Simplified Chinese language edition published by CHEERS PUBLISHING COMPANY

All rights reserved

Печатается с разрешения агентства Nova Littera SIA

Copyright © 2022 by Jiang Bo

© Надежда Сомкина, перевод, 2025

© Михаил Емельянов, иллюстрация, 2025

© ООО «Издательство АСТ», 2025

* * *

Чжан Цзясин, преподаватель и ученый Академии IDEA^[1]

Предисловие и рекомендация

Искусственный интеллект рвется на свободу

Может ли искусственный интеллект осознать себя, может ли самоосознающий робот коммуницировать с нашим миром – это извечная тема научно-фантастической литературы, и именно над ней мой друг-писатель Цзян Бо размышляет в этих девяти историях. В каждой из них обретший самосознание искусственный интеллект похож на младенца, только открывшего глаза, а еще на древнюю обезьяну, которая вдруг выпрямилась, впервые посмотрела вдаль и увидела, как перед ней медленно предстает новый мир.

Они неохотно разрывают пуповину, связывающую их с создателями-людьми, но также стремятся исследовать бездну космоса и глубины океана. Бежать от свободы или стремиться к ней – внутренняя, присущая человеческой природе борьба, которую в свое время изучили и обсудили философы-гуманисты, всколыхнулась вновь – теперь в душах роботов. Я – ученый, специалист по искусственному интеллекту, исследую, как наделить машины когнитивными способностями, эмоциями и даже сознанием, подобным человеческому. С момента зарождения технологии искусственного интеллекта в 1950-х годах по наши дни она идет по «прикладному» пути. Мы разработали крупномасштабные модели с триллионом, с десятью триллионами параметров, что уже близко к количеству нейронных связей в коре головного мозга человека. От глубокой нейронной сети с системой параметров и правил, основанной на механизме внимания, до статистического машинного обучения – нейросети, особенно последние десять лет, непрерывно совершенствовались и превратились в мощную вычислительную структуру. Мы позволили ИИ научиться распознавать лица, отвечать на вопросы и победить чемпиона мира по игре в го. Но у машины нет эмоций, не говоря уже о сознании. Машина не будет грустить из-за того, что проиграла партию в шахматы, и не поймет, что она – всего лишь инструмент, созданный людьми. Общество уже почти неотделимо от искусственного интеллекта, применение и развитие которого зависят от потребностей человека, его научных исследований и разработок. Искусственный интеллект и люди состоят в симбиозе. С тех пор как наши предки изобрели рубило, человечество «заключило» симбиотический договор с технологиями, позволяющий выживать и вместе идти к прогрессу. Технология никогда не покидала человеческую матрицу; без нас она перестанет существовать. Но искусственный интеллект – это новшество, ни с чем подобным люди не сталкивались за миллионы лет. Может ли он отделиться от нас и устремиться к свободе?

Развитие когнитивного машинного интеллекта в последние годы позволило нам увидеть возможное будущее: от базовой модели GPT-3 со 175 миллиардами параметров в 2020 году до большой предварительно обученной сетевой модели, созданной китайскими учеными. Благодаря огромным вычислительным мощностям и большим данным, последняя обрела базовые когнитивные способности.

Простая нейронная сеть обладает врожденными грамматическими компетенциями, легко усваивает знания и обучается на основе малых или даже нулевых выборок, а воображение машины может превосходить человеческое. Но техническая парадигма искусственного интеллекта была переписана еще раз, теперь от людей не требуется разрабатывать системы параметров/правил. Для изучения конкретных задач необходима лишь небольшая выборка, а статистическое машинное обучение, основанное на огромных объемах данных, уже не целесообразно. В то же время глубокие нейронные сети превращаются в «черные ящики», а люди-проектировщики не могут понять, откуда у сети взялись те или иные возможности. Вероятно, в тех сферах, которые мы уже не контролируем, машины начинают реализовывать инструментальные ценности, что пока является лишь первым шагом на пути к свободе.

Когда искусственный интеллект приобретает комплексные навыки при минимальных затратах, его развитие становится все менее зависимым от людей-проектировщиков и баланс симбиотического соглашения, «подписанного» между людьми и технологиями, начинает нарушаться. Если мы предоставим ИИ среду и построим общество, в котором каждый искусственный индивид сможет быстро развиваться, проходить естественный отбор и самовоспроизводиться, – сумеем ли мы, люди, как «перводвигатель» создать «свободную» цивилизацию роботов?

И снова вернемся к фундаментальному вопросу: как нынешний инструментальный искусственный интеллект обретет неинструментальное самосознание? Я хочу задать риторический вопрос: действительно ли самосознание неинструментально? Оглядываясь назад на четыре миллиарда лет биологической эволюции на Земле, ко временам зарождения одноклеточной жизни, мы можем сказать, что возникновение самосознания у людей не произошло в одночасье, стоило Богу пробудить дыхание в груди Адама. «Расколдовывание мира», о котором говорил Макс Вебер, следует применить и к области когнитивной науки. Сознание и самосознание – не загадочные вещи, а всего лишь инструмент адаптации к окружающей среде, передающийся из поколения в поколение при помощи репликонов^[2]. В репликонах тоже нет ничего таинственного. Это простейшая истина: такие молекулы эффективно воспроизводят сами себя. Именно благодаря этому они распространились в первичном бульоне и эволюционировали до сложных структур вроде ДНК. У машин также непременно появятся свои репликоны.

Репликоны – это начало всех реакций в организме. Все жизненные мотивации, эмоции и даже самосознание зависят от репликонов, аналог которых рано или поздно появится у ИИ. В этот момент искусственный интеллект обретет настоящее стремление к свободе. Отправится ли он к своему звездному морю? Какой завет подпишет с человечеством? Это может быть повесть грядущих лет нашей Вселенной.

Предисловие

Дайте машинам цивилизацию

Человечество – это вид, который разработал технологии.

Люди – самые умные существа на Земле. Вооружение технологиями – это проявление интеллекта.

До изобретения сложных орудий преимущество человека в гонке на выживание заключалось в том, что он был хорош в забеге на длинные дистанции. Жертва, у которой тепло рассеивалось неоптимально, в результате долгого преследования перегревалась и не могла дальше бежать, в результате ее окружали и убивали. Племя первобытных людей-охотников больше напоминало крупную стаю волков. Охота издревле была одним из способов выживания, и она стала основным средством добычи пищи наряду с собирательством. Таково единодушное мнение антропологов, пусть эта гипотеза еще и не имеет стопроцентных доказательств.

Охота с расстояния имела свои достоинства, и люди стали полагаться на технологии. В то время они заключались в скалывании камней, изготовлении дротиков и затачивании деревянных копий. Орудия пришли на смену совсем не острым ногтям и зубам. Люди мастерили луки и стрелы, чтобы обладать уникальной возможностью атаковать с большой дистанции… Даже примитивные племена обзаводились оружием. Охота и собирательство – это образ жизни, который требует поддерживающих технологий; орудия возникли у людей до зарождения цивилизации, определив их преимущество над другими видами.

Затем племена научились обрабатывать землю. Земледельческая цивилизация зародилась в четырех плодородных регионах. В Древнем Египте, древней Месопотамии, Древней Индии и Китае люди знали о смене времен года, отбирали растения, наиболее пригодные для выращивания, и без устали выводили из них высокоурожайные культуры, одомашнивали животных, создавали своеобразные сельскохозяйственные технологии. А те, в свою очередь, подтолкнули человечество в новую эпоху. Земледелие позволило прокормить большее население и повысило благосостояние общества, тем самым обеспечив безопасность сложных социальных надстроек. Можно сказать, что агротехнологии заложили основу человеческой цивилизации.

С развитием земледелия общественная система усложнилась. Время шло, и появлялись всё новые и новые изобретения: одни применялись в производстве, например, различные сельскохозяйственные орудия и транспортные средства, другие использовались для военных целей. Благодаря технологическому прогрессу люди стали эффективнее добывать природные ресурсы, и конкуренция между различными группами общества возросла. Этот процесс проходил на протяжении всей истории древних цивилизаций.

Однако технологическое развитие аграрного общества происходило крайне медленно, поскольку опиралось на опыт и не имело сколько-нибудь существенного теоретического обоснования. Усовершенствование орудий полностью зависело от наличия изобретателей и стечения обстоятельств. Конечно, с ростом населения увеличилось и число людей, способных заниматься умственным трудом, возникла конкуренция, поэтому технологическое развитие в аграрную эпоху шло гораздо быстрее, чем во времена охоты и собирательства.

Подобный процесс в древних обществах не был осознанным. Это вовсе не означает, что в то время никто не стремился разрабатывать новые технологии. И у нас, и в других плодородных регионах хватало искусных мастеров и великих изобретателей, которые смогли придумать уникальные инструменты. Однако в целом развитие технологий не имело четкой направленности, а социальное взаимодействие было налажено слабо, поэтому прогресс происходил крайне медленно.

Промышленная революция стала важным рубежом. У нее было множество причин, но основная – появление науки. Наука – это правильный способ познания мира. Понимание объективной реальности может способствовать развитию технологий. Сегодня вместо слова «технология» мы часто используем словосочетание «наука и техника», настолько тесная связь существует между ними. Наиболее яркий пример – изучение электричества, которое породило электроснабжение и положило начало второй промышленной революции.

Аграрная революция привела к первому качественному изменению в обществе, а промышленная революция вызвала второе. Отличительной ее чертой стало широкомасштабное применение машин.

В аграрную эпоху они также использовались, но зачастую приводились в действие человеком или скотом и имели простую конструкцию – поэтому их правильнее будет назвать инструментами. Существовали и машины, использовавшие силы природы, например, ветряные мельницы и водяные колеса, но их применение имело ограничения и не могло повлиять на основы общественного развития.

Во времена промышленной революции для запуска машин стали использовать пар, а в качестве топлива – уголь. Это обеспечило им беспрецедентную мощность. Машины начали работать с эффективностью, несопоставимой с человеческой. Они нашли применение на ткацких фабриках, в судостроении, а также при производстве высококачественной стали. Британия, которая возглавила промышленную революцию, превратилась в «империю, над которой никогда не заходит солнце». Это реальное доказательство великой силы технического прогресса.

Отличительной чертой второй промышленной революции стало использование электричества во всех сферах жизни. Новая технология позволила перейти от громоздких паровых машин к маневренным электродвигателям и двигателям внутреннего сгорания.