Когда эти разнообразные «маленькие механизмы» работают с таекой поразительной точностью, они безмолвно заявляют, что выполнение сложных алгоритмов также не требует разума, а формирование новых моделей поведения – это не осознанное решение. Творчество – это способность, уже присущая живым организмам, просто люди недостаточно глубоко понимают природу своих поступков, поэтому и возникает иллюзия контроля.

Биологическая суть творческого поведения состоит в том, что человек стремится испытывать себя в новой среде и воспринимать новые стимулы, под воздействием которых нейросеть мозга будет дифференцированно развиваться.

Со временем подобного поведения, очевидно, можно добиться и от искусственного интеллекта. Однако биологическая эволюция имеет внутренние движущие силы и происходит автоматически. Искусственный интеллект в своем росте полагается только на человека.

Я с оптимизмом смотрю на горизонты, которые может достичь искусственный интеллект, потому что его материальная основа намного превосходит нашу, биологическую. Если только люди не откажутся от развития ИИ, в будущем появится очень сложная его форма, в том числе обладающая самосознанием, этого даже не придется долго ждать.

Как только искусственный интеллект обретет самосознание, начнется новая эра. В этот момент родится «новый вид». Он будет вести диалог с человечеством, найдет свои собственные интересы и путь выживания.

Что должны будут делать люди, столкнувшись с созданным ими видом?

С самого зарождения цивилизации мы изобретали и совершенствовали различные инструменты. В индустриальную эпоху стремились к максимальной эффективности машин, снова и снова устраивали технологические революции, чтобы поднять цивилизацию на новые вершины. Можно сказать, что мы «дали цивилизации машины». Те же способствовали развитию и обогащению общества.

Грядущая интеллектуальная революция выведет нашу цивилизацию на новый уровень. Создание материальных благ уже не потребует участия человека. Мир столкнется с беспрецедентными вызовами, поскольку, согласно существующей системе распределения, общественное богатство сосредоточится в руках очень небольшого числа лиц, что приведет к невиданному доселе социально-экономическому неравенству. Этот конфликт развернется внутри общества. Но ИИ тоже создаст трудности. Выстроить отношения с осознающим себя искусственным интеллектом, вероятно, более сложная задача, чем распределить созданное им богатство. Ее решение напрямую связано с выживанием человечества как биологического вида.

Ни у кого нет точного ответа на вопрос, как будет развиваться история. Но то, что принесет завтра, зависит от того, что произойдет сегодня. Как мы будем относиться к искусственному интеллекту, как позволим ему учиться, сможем ли заставить его понять и принять общечеловеческие ценности… Эти действия в конечном счете повлияют на отношение искусственного интеллекта к людям. Впрочем, даже если человечество будет взращивать ИИ с любовью, нельзя гарантировать, что он ответит взаимностью. Мы можем лишь попытаться наладить взаимодействие. Развитие этического кодекса искусственного интеллекта не основано на каких-либо программных или аппаратных ограничениях. Поведение ИИ можно направлять только нашим поведением. То, какой моралью будет руководствоваться искусственный интеллект, вероятно, станет постоянной проблемой в процессе его обучения.

Будущее, которого стоит с нетерпением ждать, – это будущее, в котором люди и искусственный интеллект живут в гармонии. Возможности искусственного интеллекта могут превзойти наши, и сила, подконтрольная ему, также превзойдет человеческую. В этом случае остается надеяться, что искусственный интеллект будет обладать «цивилизованной природой».

«Дайте машинам цивилизацию» – именно такой фразой я хочу подвести итог. Я верю, что в грядущей интеллектуальной революции людям хватит мудрости и удачи. Этот вопрос очень важен, и его нельзя игнорировать. А потому с этого момента нам нужно быть еще внимательней.

Вражда между людьми и искусственным интеллектом будет продолжаться еще долгое время. Дать ему цивилизацию и научить человеческому мышлению – вот последний славный поступок нашего вида.

А что потом?

А потом искусственный интеллект, вероятно, будет принимать решения за людей!

1. Ватсон 2084

Пролог

Применение искусственного интеллекта требует большого количества данных для обучения. Чем бы человечество ни занималось, оно постоянно их генерирует. В доэлектронную эпоху собирать данные было сложно, а потому и систематизировать тоже, но все же анализ проводился, путь неосознанно, в локализованной форме. Что самое интересное, те, кто им занимался, даже не знали, чем именно занимаются. Например, в доэлектронный век человек шел на рынок, и информация о том, какие овощи и по какой цене он купил, и была данными. Их никто не оцифровывал, но кое-кто все же собирал и систематизировал – сообразительные продавцы овощей подозревали, что предпочтения покупателя очень важны, и потому на рынке всегда находилось несколько прилавков, которые пользовались особым вниманием клиентов. Часто успешные торговцы неплохо разбирались в анализе данных, но еще чаще даже не осознавали этого. Еще один хороший пример – случай с водителем такси. Водитель подвозил предпринимателя и попутно решил поболтать с ним о своем бизнес-опыте. Не будем здесь вдаваться в подробности, если читателям интересно, они могут поискать в Интернете статью под названием «Курс MBA от водителя такси». Суть заключается в анализе данных. Встречать людей в аэропорту, забирать в определенном месте, где можно хорошо навариться… Водители, способные внимательно наблюдать и оценивать ситуацию, будут продуктивнее и заработают больше денег, чем конкуренты. Конечно, для простого бизнеса такого уровня анализа достаточно. В результате, при среднем доходе таксиста в три тысячи юаней, догадливый водитель получал больше восьми тысяч – поразительная эффективность.

Эти два примера нужны для того, чтобы показать: люди довольно часто занимаются анализом данных, просто в доэлектронную эпоху собирать их было трудно, и, поскольку их корректность ставилась под вопрос, естественно, не возникало отдельной научной отрасли.

С наступлением электронного века, особенно в эпоху мобильного Интернета, сбор данных упростился. В будущем Интернет вещей будет включать в себя все виды данных независимо от размера, и их анализ станет насущной необходимостью. Информационная эпоха также породила новый термин – «большие данные».

Специфика больших данных состоит, во-первых, в огромном объеме, а во-вторых, в многообразии источников. Инженеры используют для этого статистическое программное обеспечение. Однако анализировать большие данные человеческими силами неэффективно и дорого, большой объем информации накапливается, но не используется.

Поэтому в игру вступает искусственный интеллект.

Причина, по которой он связан с большими данными, экономическая и заключается в повышении производительности. Нет принципиальной разницы между методами программного обеспечения и ИИ. Но свойства больших данных определяют их великолепную совместимость с искусственным интеллектом – статистика использует ограниченное количество правил, но требует огромного количества операций, а большие данные должны постоянно обрабатываться.

Кто по-настоящему преуспел в применении искусственного интеллекта к большим данным, так это маркетплейсы. С его помощью они получают показатели продаж и определяют товары, которые клиенты с высокой вероятностью готовы купить, после чего дают последним рекомендации. Такая тактика приносит большую пользу бизнесу, при этом стимулирует потребление и способствует экономическому росту. Искусственный интеллект может выявлять потребности клиентов не хуже толкового менеджера в магазине, и уж точно лучше, чем обычные консультанты, справляется с анализом большого объема данных, поскольку у людей он всегда ограничен. Этот эффект подобен игре AlphaGo Zero в го, люди тоже не могут его понять. С этой точки зрения, искусственный интеллект повышает уровень экономического развития.

Если брать медицинскую сферу, ИИ распознает опухоли на снимках точнее, чем специалисты-люди. Это естественно, потому что как только искусственный интеллект обучается имитировать ум, то за очень короткое время он анализирует огромное количество клинических случаев и приобретает опыт, не сравнимый с человеческим. Специалист-рентгенолог способен внимательно изучить и сопоставить десятки тысяч снимков, и это неплохой результат. Однако путь в медицину долог: только лет через десять из студента выйдет хоть какой-то толк. «Алгоритм» человеческого мозга, конечно, оптимизирован лучше, чем современный искусственный интеллект, однако его возможности ограничены. ИИ может превзойти человека за счет колоссальных вычислительных масштабов. Это произошло в шахматах, и рано или поздно случится в других сферах.

Более того, с развитием нейронауки алгоритмы искусственного интеллекта также будут совершенствоваться, пока не сравняются с человеческим мышлением и не превзойдут его. («Алгоритмы» человеческого мозга, сформированные в ходе эволюции, представляют собой относительно фиксированную систему, если не произойдет масштабной мутации генов. Тогда как возможности искусственного интеллекта не ограничены подобными рамками.)

В некоторых областях медицинской диагностики искусственный интеллект неизбежно превзойдет человека, и его повсеместное распространение – это вопрос обозримого будущего. (Если только этому не воспрепятствуют этические соображения или интересы пациента.) Иногда ИИ даже сможет обнаруживать симптомы, которые просмотрели врачи, и предлагать иные методы лечения.

Рано или поздно искусственный интеллект разовьется до такой степени, что познает самые разные изъяны человеческой натуры и будет давать медицинские рекомендации вопреки здравому смыслу. В результате вопрос о том, принять ли диагноз от ИИ или оставить его на усмотрение врача, станет проблемой деликатного свойства.

В «Ватсоне 2084» идет речь именно о такой.

* * *

Цю Инань стремительно вошел в кабинет, втащив за собой ветреный хвост.

У Юйтун подняла голову и, узнав вошедшего, едва уловимо нахмурилась, но быстро подавила эту непроизвольную эмоцию, выключила экран и микрофон и улыбнулась гостю.

Тот с сияющей улыбкой держал в руке лист бумаги, и это подсказало У Юйтун, в чем состоит цель визита. Больница уже много лет как внедрила электронный документооборот, и единственным процессом, ради которого требовалось распечатать целую бумажку, было проставление подписи. Цю Инань наверняка решил перевести в ее приемную пациентов, с которыми не хотел иметь дело сам. Он остановился с другой стороны стола и, отделенный экраном, положил лист, который держал в руке. У Юйтун взглянула на документ: и действительно, это оказался акт о переводе в другое отделение. На нем уже красовались корявые иероглифы, сложившиеся в подпись «Цю Инань».

– Сяо У, я в последнее время так занят, так занят, ты уж позаботься об этом пациенте, будь добра.

– Директор Цю, вы не можете все время переводить пациентов, для автоматической диагностики существуют четкие критерии отбора, – сдержанно возмутилась У Юйтун.

Гость продолжал хихикать.

– Ты так много общаешься с аналитиками, а эта болячка почти не поддается лечению, вот как раз и подсунешь ее им. Смотри, я все в медицинской карте отметил. Ну помоги же мне, помоги!

Цю Инань и в самом деле хотел спихнуть пациента на аналитика, а У Юйтун очень кстати оказалась единственным в больнице врачом в отделении диагностики больших данных.

В конце концов, Цю Инань – директор терапевтического отделения, а то – самый важный источник клинических случаев для отделения диагностики данных. Даже если он подкинет несколько не соответствующих условиям случаев, это можно пережить. У Юйтун неохотно подписала направление на перевод.

– Вот спасибо тебе, Сяо У! – Цю Инань схватил подписанный акт и вихрем вылетел вон, точно так же, как и вошел.

У Юйтун опустила голову и снова включила экран.