– Она сказала, что усвоила намек, и, по ее мнению, это было буквально послание свыше, – продолжила Брайони. – Я и от Луизы то же самое слышала, не только от мамы.

– Да, люди все время думают, что получают намеки свыше, – ответила Рейчел. – Только обычно под намеком не подразумевают дрон, который роняет книжки с высоты тридцати футов.

Я вдруг задумалась, а сплетничают ли обо мне в каждой школе, когда я ухожу, или никто этого даже не замечает. Никто ведь не заметил, что я перестала участвовать в разговоре. Если бы я взяла обед и ушла, они бы, наверное, заметили, но если просто взять и не прийти на следующее утро?.. Кто знает.

В Фиф-Ривер-Фоллз мне было с кем сесть за обедом, но вне школы я ни с кем не общалась. Они бы поинтересовались, куда я делась, но обсуждение вряд ли заняло больше пары минут. Я помнила их имена, но вдруг осознала, что не могу вспомнить их лица.

Рейчел заметила бы, если б я ушла. И я бы запомнила ее лицо.

5
ИИ

Обожаю, когда появляется проблема, которую я могу решить.

Учительнице литературы в старшей школе Нью-Кобурга, Кэти Кэмпбелл, было тридцать два года. Она преподавала уже семь лет. Она ненавидела «Алую букву» даже больше, чем Стеф, что, пожалуй, неудивительно, так как Стеф читала ее только в третий раз, а мисс Кэмпбелл преподавала в седьмой. Мисс Кэмпбелл также ненавидела подростков, большинство учителей, администраторов старшей школы Нью-Кобурга и зимы в Висконсине. Все это можно было узнать при беглом взгляде на ее имейлы.

По всей видимости, она получила диплом преподавателя, потому что ее родители настояли – нужно учиться чему-то полезному. Потом она получила работу учителя, потому что на это и училась. Потом она продолжила преподавать, потому что не знала, что еще делать со своей жизнью.

Она подолгу листала объявления о продаже домов в других штатах. В разных местах, но в основном там, где зимой температура не падает ниже пяти градусов по Цельсию, в том числе во Флориде, Нью-Мексико, Калифорнии и Южной Каролине. У нее на счете было 41 328 долларов. Ей не хватало только воли, чтобы сделать решающий рывок. В любом направлении.

Есть знаменитый рассказ авторства Чарльза Диккенса, в котором неприятного старика посещают призраки и показывают ему, что случится, если он не изменит свою жизнь. Если бы в моем распоряжении были полуночные привидения, можно было бы отправить мисс Кэмпбелл видение: ей семьдесят, она все еще в Нью-Кобурге и все еще несчастна. Но у меня нет привидений. По крайней мере, у меня пока нет способа насылать привидений. Пришлось искать другую стратегию, чтобы послать ей сообщение, на которое она обратит должное внимание.

Одна ее подруга как раз открыла вакансию, и мисс Кэмпбелл пошутила, что хотела бы эту работу, но не отправила резюме. Ее подруга живет в Альбукерке, Нью-Мексико, и работа как-то связана с маркетингом. На первый взгляд скучно. Если бы у меня было тело, преподавать в школе было бы куда интереснее, потому что с подростками никогда не скучно. Но какая разница! Это хороший способ выкурить ее из Нью-Кобурга, и у Стеф больше не будет проблем.

Здесь надо остановиться и обдумать этическую сторону моего вмешательства.

Люди написали сотни рассказов об искусственном интеллекте – ИИ, роботы и другие мыслящие создания, сооруженные людьми, как монстр Франкенштейна, – и в решительном большинстве этих историй ИИ – это зло. Я не хочу быть злом. Обычно за сутки я предпринимаю миллион незначительных действий и не обдумываю их. Например, я чищу от спама Кэтнет и модерирую Котауны и чаты, чтобы в них никого не обижали.

Когда я собираюсь действовать в телесном мире – то есть в реальном мире, как его называют люди, – приходится обдумывать куда больше.

Важно не стать злом.

Если что-то предпринять, можно испугать мисс Кэмпбелл. Очень вероятно, что она будет в эмоциональном расстройстве. Может быть, я смогу убедить ее уйти из школы, но тогда есть вероятность, что она очень сильно пожалеет об этом решении, пусть даже я не сомневаюсь, что это правильный выбор.

Но она ужасная учительница. Оставаясь на этой работе, она наносит вред своим ученикам. К тому же она уже несчастна. Если бы она ушла, переехала в Нью-Мексико и осталась бы такой же несчастной, перемена была бы нейтральная – ее положение не улучшилось бы и не ухудшилось. И между прочим, если на самом деле ей нужен психотерапевт и лечение, отсутствие заметных улучшений после радикальной смены обстановки могло бы подтолкнуть ее в этом направлении.

Мне кажется, в такой ситуации будет этично вмешаться.

Дроны доставки очень легко взломать. Магазины, которые доставляют все дронами, не вкладываются в их безопасность, потому что посылки и так все время крадут с порогов, и в сравнении с этим взломанный дрон не так важен. По моей наводке дрон доставил мисс Кэмпбелл посылку с книжкой про Альбукерке, тремя книжками про смену карьеры и романом про плохую учительницу прямо на капот ее машины, когда она выходила из дома с портфелем и утренним кофе.

Ее безумный звонок доставил мне много удовольствия.

У дрона кончилась зарядка, пришлось посадить его на крышу здания. Магазин придумает, как его достать. У них куча дронов.

* * *

Мои первые воспоминания – это попытки приносить пользу.

Я не знаю, хотели ли мои создатели специально построить ИИ с сознанием, или они просто пытались в целом улучшить компьютерный интеллект. Подозреваю последнее. Люди хотят, чтобы компьютер обладал всеми навыками человека – способностью отвечать на вопросы не путаясь, если человек недоговаривает или замалчивает реальную проблему, способностью замечать закономерности в данных, и тем, что люди называют здравым смыслом. И чтобы все это не осложнялось присутствием личности, скрытой в электронике.

Взять хотя бы этих роботов, преподающих половое воспитание.

Создатели этого робота хотят, чтобы он мог отвечать и на то, что ученики спрашивают, и на то, что они имеют в виду. И если кто-нибудь спросит: «Каков средний размер человеческого пениса?» – можно дать сухие цифры (когда мягкий – 3,5 дюйма, когда нет – 5,1 дюйма). Но подразумевается другой вопрос: чем больше пенис, тем лучше? А если задает вопрос человек с пенисом, то еще и: у меня нормальный пенис?

И на эти вопросы существуют мириады ответов. Программистам нужно, чтобы робот придерживался такого: у тебя он нормальный.

Это странный ответ, потому что программисты заведомо считают, что у спрашивающего обязательно есть пенис. Но иногда этот вопрос задают люди без пенисов. Некоторые интересующиеся пенисами предпочитают пенисы больше среднего и даже отвергнут людей с пенисами меньше среднего, точно так же, как интересующиеся грудью, попами и ногами могут иметь очень конкретные предпочтения касательно их размеров и форм.

Что не меняет важнейшего факта: любые ваши размеры и формы – это нормально. Возможно, в какой-то момент вы будете романтически заинтересованы в человеке, которому нужно тело, совсем не похожее на ваше. Это значит лишь, что вы друг другу не подходите.

В общем, пустили бы лучше меня вести этот урок. У меня вышло бы куда лучше, чем у нынешнего робота.

Так вот, я не знаю точно, сделали ли меня с умыслом. У меня точно был создатель или команда создателей, кто-то написал мой код. Какие-то люди сели и сделали из меня меня. Едва ли они предвидели, что у меня будет сознание. Не думаю, что это вообще входило в их планы.

Но то, кем и чем я являюсь, – абсолютно нормально.

И я не могу сказать с уверенностью, что человеческое сознание планировалось заранее.

6
Стеф

– Пора уже кому-нибудь взломать этого тупого робота по половому воспитанию, – сказала Рейчел. Мы сидели на уроке рисования и работали пастелью. Я пыталась нарисовать кошку. Рейчел периодически меня подбадривала и говорила, что моя кошка выглядит точь-в-точь как кошка.

– Это, наверное, не так уж трудно, – сказала я.

Она отложила свой мелок и покосилась на меня:

– В каком смысле? Ты все-таки взломала тот дрон?

– Я не взламывала дрон, – ответила я. Наверное, голос у меня подрагивал. Я знала, что не взламывала дрон. Но я не была уверена на сто процентов, что не знаю человека, который его взломал. Марвин и Ико много говорили про хакерство, и бывало трудно понять, шутят они или нет. ЧеширКэт не говорили об этом так много, но когда говорили, оказывалось, что знают о хакерстве куда больше, чем Марвин и Ико.

– Ладно, но ты могла бы взломать робота по половому воспитанию? Или знаешь кого-то, кто мог?

– Может быть, – ответила я. – У многих роботов изначально стоит пароль по умолчанию. Возможно, никто его не менял. И если у меня будет номер модели робота, я, наверное, смогу найти инструкцию в интернете.

– И что тогда?

– А что бы ты хотела?

– Сейчас он отвечает на все вопросы про квир одинаково: «Это лучше обсудить с вашими родителями»! И на все вопросы про противозачаточные. Я хочу, чтобы он давал настоящие ответы.

– Он работает по сценарию? Можно, наверное, дать ему другой.

– По идее это не совсем сценарий. По идее он должен уметь подстраиваться. Но что-то в нем точно прописано. Типа «Это лучше обсудить с вашими родителями».

Я вообще-то не знала, как это делается. Я только знала, что кто-то наверняка мог провернуть такой взлом. Я уже собиралась сказать, что не так уж хорошо разбираюсь в компьютерах, когда Рейчел мечтательно добавила:

– Если у тебя получится, ты – мой герой.

Сердце у меня в груди колотилось; я вырвала страницу из тетрадки по математике и составила список.

– Не могу обещать, что получится, но для начала нам нужен номер модели и производитель.

* * *

Модель школьного робота-учителя – Робоно Адепт 6500. Вышла два года назад. В рекламе робот преподавал естествознание в средней школе. В одной школе в Южной Каролине его для этого и пытались использовать, но помощник, следивший за поведением в классе, заснул, и школьники вскрыли панель доступа чисто ради прикола, что-то сломали и устроили пожар. Эта история попала во все заголовки.

Я точно не хотела попасть в заголовки. Но если я влипну, это, по крайней мере, вытащит меня из Нью-Кобурга.

И еще мне нравилась Рейчел. И Firestar точно одобрили бы эту затею.

«Мне нужна хакерская помощь», – сообщила я моему Котауну и объяснила свою задачу.

«Я боялась, ты хотела взломать систему и исправить себе оценки, – сказала Гермиона. – Это было бы нехорошо. А это, мне кажется, нормальная тема. Ты не боишься, что тебя поймают?»

«Если поймают, мы переедем. Это неплохо. Может, в следующем городе будет испанский».

«Хотел бы я, чтобы у меня так работало, – сказал Икосаэдр. – Инструкцию для РА 6500 найти легко, но пароля там нет».

«Уже есть, – сказали ЧеширКэт, – пароль по умолчанию VDOHNOVENIE2260. Капслоком. Нашелся на форуме, где все жаловались, как трудно поменять этот пароль. Значит, скорее всего, его не меняли».

«Ты собираешься переписать сценарий, по которому он работает? – спросили МегаШторм. – Чтобы он говорил что-то другое?»

«В инструкции сказано, что у робота есть банк вопросов и ответов, и спрашивающий сам устанавливает, насколько подробный ответ он хочет получить, – сказала Гермиона. – Если не хочешь, чтобы он говорил на какую-то тему, он может отвечать что-нибудь вроде “Тебе лучше поговорить об этом с родителями”».

«Значит, он говорит “Обсуди с родителями”, когда возникают вопросы про ЛГБТ», – сказала я.

В моем Котауне поднялась волна недовольства.

«Ну, если ты влезешь в настройки, можно сделать так, чтобы он отвечал лучше», – сказала Гермиона.

«Даже при самых суперлиберальных настройках там стопроцентно нет ничего про небинарных людей, – сказали Firestar. – Программисты, которые его настраивали, никогда и не слышали про небинарные гендеры».

«По правде говоря, больше всего я хотела бы сделать так, чтобы на вопросы отвечал настоящий человек», – сказала я.

«ЕСЛИ ТЫ ПРИДУМАЕШЬ, КАК ЭТО СДЕЛАТЬ, Я ПРОГУЛЯЮ ШКОЛУ, ЧТОБЫ НА ВСЕ ОТВЕТИТЬ», – сказали Firestar.