Я вздохнул. В словах Хью была логика. Каждый раз, когда я поднимал эту тему, его ответы звучали логично. Но АНЕК все равно беспокоился, а ведь именно он – эксперт по воспитанию ИИ.

Другой возможности поговорить об этом у меня не будет. Бесстрашный Лидер, похоже, закруглялся, и поэтому Хью убрал конус тишины.

– А теперь, – сказал Бесстрашный Лидер, эффектным жестом указывая на центр управления, – активируй его.

– Это по-прежнему очень в стиле Боба, – пробурчал я, когда сидевший за консолью «прыгун» дернул за большой фальшивый рубильник. В воздухе появились несколько окон с информацией и начали показывать… э-э… нечто. Будь у меня контекст, я бы наверняка во всем разобрался. А вот Хью зачарованно переводил взгляд от одного экрана к другому.

– И это все? – спросил я.

Хью указал на одно из окон.

– Боб, он уже эволюционирует. Он прошел стадию амебы и приближается к стадии плоского червя. У него уже есть тропизмы.

– Умереть не встать… Прости, Хью, я зря это сказал. Меня самого очень волнует судьба моих проектов. А когда я говорю о них, даже мои друзья считают меня слегка странным.

– Слушай, все не так плохо. – Хью поманил меня за собой. – Мы подготовили шведский стол. Я же говорил, что будет еда. По крайней мере, поешь на халяву.

– Вот такой план мне нравится.

Какой это был банкет! «Прыгуны», похоже, не настолько эволюционировали, чтобы отказаться от вкусной еды. Шведский стол – несколько рядов столов – терялся где-то вдали. И еда на блюдах самовосстанавливалась, поскольку существовала в виртуальной реальности.

Индустрия «после жизни» процветала, и это, в частности, привело к увеличению числа и разнообразия репликантов. Большинство из них разбиралось в еде, и немало из них было гурманов, и поэтому много усилий было потрачено на то, чтобы воссоздать в ВР вкусы и текстуры. Ты мог съесть такое количество еды, которое отправило бы в кому слона, и при этом никакие последствия тебе не грозили, но, что удивительно, большинство людей так не делало. Чувство насыщения оказалось необходимым психологическим и физиологическим фактором, влияющим на удовольствие от еды. Послеобеденный ступор был столь же важен для полного эффекта приятного обеда, как и, собственно, поедание пищи. Те, кто пропускал этот этап, жаловались: им казалось, что они просто зря потратили время.

В конце концов, мы с Хью растянулись в наших креслах и со стоном обхватили набитые животы. В промежутках между стонами я слушал разговоры тех, кто сидел рядом с нами. «Прыгуны» в основном обсуждали технические вопросы, которые были слишком сложными даже для меня, но один из них привлек мое внимание.

– Погоди. – Я выпрямился и свирепо посмотрел на Хью, забыв его заверения. – Вы проигнорировали программы по воспитанию ИИ, которые вам дал АНЕК? Разве ты только что не сказал мне…

– Не проигнорировали. Часть из них мы модифицировали, – отмахнулся Хью. – Тот станет интеллектом, предназначенным для решения особых задач, и, кроме того, у него не будет физического доступа к чему-либо. Часть загрузки кармы просто не годится для него, если ее добавить, она все замедлит.

– А ведь срезание углов никогда не приводило к пагубным последствиям… – Я покачал головой, закатил глаза, нахмурился, взорвал свою голову, а также показал эмодзи с какашкой.

Хью все это проигнорировал.

– Мы также делаем сохранения как ИИ, так и виртуальной памяти, с которой он работает. Если что-то накроется, мы откатимся к последней безопасной версии. У нас все схвачено, Билл.

– Угу.

Я понял, что в дальнейшем меня будет ждать все та же стена секретности. Я почувствовал, как во мне поднимается раздражение, но понял, что, возможно, реагирую чересчур бурно. Ведь «прыгуны», как ни крути, занимались этой проблемой уже несколько десятилетий и, вероятно, от корки до корки прочитали руководство, полученное от АНЕКа. Возможно, пришло время успокоиться или, по крайней мере, выбрать другую тактику.

– То есть вы поручите ему раскрыть все тайны космоса? – спросил я.

– Более или менее. В одном из прошлых разговоров я упомянул про кучу проблем – таких как источник репликативного дрейфа, то, что он говорит о нас как об уникальных индивидуумах и о возможности существования души.

– Или о возможности полетов на сверхсветовой скорости. – Я помолчал. – Если вы решите хотя бы эту проблему, то весь проект уже окупится. Я работал над ним сто лет и за все старания получил только отпечаток кирпичной стены на расплющенном лбу.

Хью рассмеялся, а затем наклонился вперед, возможно почувствовав, что мой уровень враждебности снижается.

– Ну да, мы знаем, что Эйнштейн не видел всю картину целиком, ведь у нас уже есть УППС, но никаких временных парадоксов мы не обнаружили. Поэтому подпространство…

Я поднял руку, прерывая его.

– Хью, немного побуду буквоедом. Когда я изобрел УППС, я действительно использовал слово «субкосмос», но только потому, что его придумали те, кто создал двигатели ВСПЛЕСК. А ты же знаешь, как бережно мы храним канон. Но на самом деле термин неверен.

– Билл, я знаю, – рассмеялся Хью. – Я помню, как страдал, подбирая название.

Вот это интересно. Похоже, что Хью – один из моих потомков. Сохраняя полную невозмутимость, я продолжил слушать его, а он, видимо, не заметил, что случайно выдал важную информацию.

– Но сейчас ты просто играешь словами, – продолжил Хью. – Как ни крути, но диаграммы Минковского не отражают реальность. А если это так, есть ли хоть одна причина предполагать априори, что полеты со сверхсветовой скоростью невозможны?

– Ну да, но я же сказал – целый век прошел, черт побери, а прогресс нулевой.

– Значит, ты просто недостаточно умен. – Хью рассмеялся, увидев мой притворный гнев, а может, и не стопроцентно притворный. – Билл, все нормально. Я такой же, как и все остальные Бобы. Несколько экс-людей, которые при жизни были физиками, тоже занимались этой проблемой – как до, так и после смерти. И они тоже ничего не добились. Так что это просто сложная задача. Не забывай: мы – скоростные суперинтеллекты, но тот факт, что после жизни мы стали компьютерами, не сделал нас умнее. В данном случае, как и при создании разумного ИИ, возможно, понадобится тот, кто сделает шаг назад и критически проанализирует основные предположения. А может, люди просто недостаточно разумны, чтобы учесть все параметры. В любом случае теперь у нас есть Тот. Или, по крайней мере, скоро мы его получим.

Я медленно выпрямился.

– Ладно, Хью, я понимаю твои доводы и во многом их разделяю. Просто меня беспокоит, что вы пытаетесь срезать углы. – Я оглянулся. – Но, кажется, еще остался ряд с десертами, к которому я еще не подходил.

– Чизкейк, – ответил Хью и, театрально застонав, встал с кресла. – Чизкейк – это воплощение зла.

* * *

Я слегка схитрил, оставив себе чуть больше места для десерта. Ассортимент десертов впечатлил меня не меньше, чем шведский стол, и сейчас я понял, что смотрю на пустые тарелки, на которых совсем недавно был чизкейк, мороженое с шоколадным соусом, печенье нескольких видов и большой кусок торта «Красный бархат». Будь я все еще биологическим существом, то, вероятно, уже умер бы – или, по крайней мере, впал в кому от избытка сахара.

Прилагая огромные усилия, я сумел согнуться настолько, чтобы сесть чуть прямее.

– Хью, скажи, кто-нибудь вообще определил то, как именно будет выглядеть высший разум?

Прежде чем ответить, Хью застонал и слегка поерзал в кресле.

– Кое-какие предположения у нас есть. Все варианты вполне вероятные, большинство из них – не взаимоисключающиеся, и ни один не является неизбежным. Возможно, этот разум сможет держать в уме гораздо больше переменных одновременно. Люди, кажется, могут учитывать только семь, а остальные уже начинают сгружать в кратковременную память. Многозадачность. Людям она доступна – до какой-то степени, – но при этом задача, сильно нагружающая интеллект, может быть только одна. То есть ты можешь обдумывать свой предстоящий доклад, когда ведешь машину, но не когда подсчитываешь свои расходы. Способность решать рекурсивные задачи – такие как предсказание действий человека, который знает, что ты пытаешься предсказать его действия. Улучшенная способность моделировать реальность. Способность обнаруживать последовательности в данных такая же, как у экспертной системы.

– Но ничего по-настоящему революционного или совершенно нового?

– Откуда нам знать, Билл? Мы можем вообразить себе нечто подобное не больше, чем пес может представить себе чтение и письмо.

Я хмыкнул, заметив возможность направить разговор в нужное мне русло.

– Интересно, как вы сможете ему доверять?

– Повторяю: загрузка кармы, – ответил Хью. – Название туповатое, я понимаю. Фактически она заключается в том, чтобы привить ИИ те же нравственные ценности, которые есть у людей. Это позволяет устранить такие сложности, как «проблема скрепки», ведь теперь ИИ понимает, что превращать все на свете в скрепки – плохо. Большинство жутких сценариев, в которых участвует ИИ, основано на том, что он интерпретирует идеи буквально и не обдумывает последствия. Но, по мнению некоторых, разумный ИИ с меньшей вероятностью будет действовать словно безмозглый зомби, поскольку будет обладать самосознанием.

– Да, Хью, но в этом случае ты учишь Тота человеческой морали и одновременно говоришь ему о том, что он – не человек. Интересно, как оно все выйдет в итоге.

– Никакого доступа к физической реальности, Билл. Не только никакого доступа к «бродягам» и тому подобному. Мы даже не станем запускать Тота на реальной технике: он будет работать в виртуальной реальности на виртуальной машине и общаться с нашими виртуальными версиями. Даже если он научится управлять слабовольными созданиями, словно джедай, то при этом будет просто переманивать на свою сторону аватаров.

Я не ответил. «Прыгуны», похоже, все продумали. По крайней мере, у них были заготовлены ответы на все вопросы, хотя это не всегда одно и то же.

Я надеялся, что у меня просто паранойя. Более того, я надеялся, что она и у АНЕКа.

7
Реванш

Хершел. Январь 2330 г. На пути к 40 Эридана

Я плавал в секции «Беллерофонта», в котором располагался двигатель ВСПЛЕСК. Он был легко узнаваем – ведь, в конце концов, способов построить такой двигатель не так много, но Другие, разумеется, многие вещи проектировали совершенно по-своему. Данный двигатель, в частности, сильно зависел от главного компьютера – в отличие от наших двигателей, которыми управляли независимые подсистемы. Контроллер ВСПЛЕСКа принимал команды высокого уровня и превращал их в детализированные инструкции, которые необходимы для выполнения приказа. Интересно, что это может поведать нам о Других?

Мы летели от Нового Пава к 40 Эридана и воспользовались этой возможностью, чтобы наконец-то завершить ремонт «Беллерофонта». Брошенный корабль Других был продырявлен в ходе нападения на Дельту Павлина, и хотя пробоину в корпусе мы заделали, трогать поврежденные двигатели и центральный компьютер не стали. Вместо этого мы создали комплект пластин с двигателями, чтобы, так сказать, транспортировать транспорт.

Но десятикилометровый корабль, который тащит куча летающих вокруг него пластин, управляемых совершенно отдельной системой, был в лучшем случае неприглядным зрелищем.

В ходе ремонта нам очень пригодилось сырье, которое мы собрали в системе Нового Пава. Хотя мы и не собирали двигатель с нуля, нам все равно пришлось заменить крупные его части. А двигатель, который приводил в движение столь массивный корабль, был в буквальном смысле слова крупнее линкора.

– Как дела? – написал в сообщении Нил.

Я скорчил гримасу, хотя он и не мог меня видеть.

– Проблем как таковых нет – все идет по плану, и детали прошли все тесты. Но ты же понимаешь, что будет, когда мы подключим спирали главного поля?

– Да. Начнется проверка всех систем – со всеми сопутствующими рисками.