Джон Маркофф

Homo Roboticus? Люди и машины в поисках взаимопонимания

Переводчики Вячеслав Ионов, Сергей Махарадзе

Редактор Вячеслав Ионов

Руководитель проекта И. Серёгина

Корректор С. Чупахина

Компьютерная верстка А. Фоминов

Дизайнер обложки Ю. Буга

Иллюстрация на обложке ShutterStock

© John Markoff, 2015

All rights reserved.

© Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2017

Все права защищены. Произведение предназначено исключительно для частного использования. Никакая часть электронного экземпляра данной книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами, включая размещение в сети Интернет и в корпоративных сетях, для публичного или коллективного использования без письменного разрешения владельца авторских прав. За нарушение авторских прав законодательством предусмотрена выплата компенсации правообладателя в размере до 5 млн. рублей (ст. 49 ЗОАП), а также уголовная ответственность в виде лишения свободы на срок до 6 лет (ст. 146 УК РФ).

* * *

Политехнический музей – национальный музей науки и техники, один из крупнейших научно-технических музеев мира. Миссия музея – просвещение и популяризация научных и технических знаний:

• Мы верим, что миром движут любопытство и созидание.

• Мы открываем людям прошлое, настоящее и будущее науки.

• Мы создаем территорию просвещения, свободной мысли и смелого эксперимента.

Среди просветительских проектов музея – многочисленные выставки, знаменитый Лекторий, Научные лаборатории для детей, Фестиваль актуального научного кино, а также Издательская программа, цель которой – поддержка самых качественных научно-популярных книг, отобранных экспертами музея и выпущенных в сотрудничестве с лучшими издательствами страны.

Вы держите в руках одну из этих книг.

Подробнее о музее и его проектах – на сайте www.polymus.ru

Мне нравится мечтать

о кибербудущем,

где мы, свободные от трудов,

вернемся к матушке-природе

и нашим братьям меньшим

и за всеми нами будут присматривать

машины благодати и любви.

Ричард Бротиган.

За всем присматривают машины благодати и любви

Предисловие

Как-то весной 2014 г. я припарковался у небольшого кафе возле поля для гольфа в Стэнфорде. Рядом остановилась Tesla, и женщина, сидевшая за рулем, достала сумку для клюшек. Потом она повернулась и пошла к полю для гольфа, а сумка последовала за ней – сама. Я был поражен, но запрос «роботы – сумки для клюшек» в Google показал, что в таком помощнике нет ничего необычного. Робот – сумка для клюшек CaddyTrek стоимостью $1795 – всего лишь один из множества предметов роскоши, которые можно увидеть в наше время на поле для гольфа в Кремниевой долине.

Роботы все прочнее входят в нашу повседневную жизнь. Дешевые датчики, мощные компьютеры, программы искусственного интеллекта делают их все более самостоятельными. Они помогают нам, они заменяют нас. Они преобразуют здравоохранение и уход за пожилыми точно так же, как это произошло с характером боевых действий. Вместе с тем, хотя роботы не один десяток лет фигурируют в литературе и кинематографе, мы не готовы к появлению нового мира.

Идея этой книги зародилась в 1999–2001 гг., когда я брал интервью, превратившиеся в конце концов в книгу «Что сказал Соня: Как контркультура шестидесятых сформировала индустрию персональных компьютеров» (What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry). Мое первоначальное исследование походило на упражнение по изложению «автобиографии в обратном порядке». Я рос в Пало-Альто – городе, который стал впоследствии сердцем Кремниевой долины – в 1950-х гг. и первой половине 1960-х гг., но уехал в решающее десятилетие, когда соединение компьютерных и коммуникационных технологий заложило фундамент индустрии персональных компьютеров и современного интернета. Вернулся я в момент зарождения компьютерной эры, которая вскоре захватила мир, преобразуя все, что она затрагивала. Годы спустя, собирая материалы для «Сони», я обратил внимание на поразительное расхождение намерений разработчиков первых интерактивных компьютерных систем. В начале века информации будущее компьютерной индустрии находилось в руках двух независимых исследователей. Их лаборатории располагались примерно на одном расстоянии от кампуса Стэнфордского университета. В 1964 г. математик и специалист по информатике Джон Маккарти, придумавший термин «искусственный интеллект», начал разрабатывать технологии для воссоздания человеческих способностей. Он полагал, что этот проект можно завершить всего лишь за десятилетие. В это же время по другую сторону от кампуса Дуглас Энгельбарт, мечтавший усовершенствовать мир, считал, что компьютеры следует использовать для «усиления» или расширения способностей человека, а не для его копирования или замены. Он занялся созданием системы, которая позволяла бы небольшим группам работников умственного труда быстро увеличивать интеллектуальные возможности и трудиться совместно. Если один исследователь пытался заменить человека умными машинами, то другой стремился расширить возможности человека. Конечно, в целом такое расхождение характеризуется и двойственностью, и парадоксальностью. Парадокс заключается в том, что технологии, которые расширяют интеллектуальные возможности человека, могут и заменять его.

В этой книге я попытался показать подходы ученых, инженеров и программистов к решению вопросов углубления взаимосвязи человека и машины. Иногда разработчики стараются не задумываться о парадоксальности связи между искусственным интеллектом и усилением интеллекта. Нередко все сводится к экономическим аспектам. Сейчас быстро растет спрос на роботов с возможностями, значительно превосходящими возможности промышленных роботов прошедшего полувека. Даже в таких уже в высокой степени автоматизированных отраслях, как сельское хозяйство, новое поколение сельскохозяйственных роботов управляет тракторами и уборочными машинами, занимается орошением, уничтожением сорняков, ведет наблюдение с воздуха и в целом увеличивает продуктивность ферм.

Немало случаев, когда ученые всерьез задумываются об этом парадоксе, и многие из них решительно встают на сторону Энгельбарта. Например, исследователь из компании Microsoft Эрик Хорвиц, доктор медицины и в прошлом президент Ассоциации развития искусственного интеллекта, который не один десяток лет работает над системами для расширения возможностей человека при работе в офисе. Он создал роботов с функциями секретарей, выполняющих такие задачи, как отслеживание календарных графиков, встреча посетителей и контроль соблюдения режима работы. Он создает машины, которые одновременно расширяют возможности человека и заменяют его.

Другие, подобно уроженцу Германии Себастьяну Труну, исследователю искусственного интеллекта и специалисту в области робототехники (а также соучредителю компании дистанционного образования Udacity), выстраивают мир, наполненный автономными машинами. Как основатель проекта Google car, Трун возглавлял разработку технологии беспилотного транспорта, который когда-нибудь заменит миллионы водителей. В обоснование необходимости таких нововведений он указывает, сколько жизней будет спасено и как снизится травматизм.

Центральная тема этой книги – двойственность и парадоксальность, присущие деятельности разработчиков, которые то расширяют возможности человека, то заменяют людей с помощью создаваемых систем. Нагляднее всего это проявляется в контрастирующих философиях Энди Рубина и Тома Грубера. Рубин был первым архитектором империи роботов Google, а Грубер – ключевой разработчик Siri, интеллектуального помощника Apple. Оба они входят в число самых ярких представителей Кремниевой долины, и их проекты основываются на работе предшественников: Рубин – отражение Джона Маккарти – стремится к замене людей, а Грубер – последователь Дуга Энгельбарта, старающийся расширить возможности человека.

Сегодня и робототехника, и программы для искусственного интеллекта все более и более вызывают воспоминания о начале эры персональных компьютеров. Как и увлеченные своим делом люди, создавшие в свое время индустрию персональных компьютеров, разработчики искусственного интеллекта и робототехники одержимы техническим прогрессом, новыми продуктами и передовыми компаниями. Вместе с тем многие из разработчиков программного обеспечения и инженеров-робототехников чувствуют себя неловко, когда встает вопрос о потенциальных последствиях их изобретений, и нередко просто отшучиваются. Этот вопрос, однако, очень важен. Не существует «слепого часовщика»[1], определяющего эволюцию машин. Куда мы пойдем – в сторону расширения возможностей человека или замены его автоматами – зависит от решений конкретных разработчиков.

Легко, конечно, представить одну группу как героев, а другую – как злодеев, но последствия слишком многогранны, чтобы делить все на черное и белое. Это лишь два полярных видения перспектив искусственного интеллекта и робототехники, а между ними лежит будущее, которое может вести к утопии, антиутопии или еще бог знает куда. Стоит ли добиваться повышения уровня жизни и избавления от тяжелой работы, если это также означает отказ от свободы и неприкосновенности частной жизни? Существуют ли правильный и неправильный подходы к разработке этих систем? Я думаю, что ответ зависит от самих разработчиков. Одна группа создает мощные машины, которые позволяют людям выполнять то, что ранее казалось немыслимым, вроде роботов для исследования космоса, а другая пытается заменить людей машинами, как это делают создатели искусственного интеллекта, позволяющего роботам выполнять работу врачей и адвокатов. Важно, чтобы эти два лагеря не теряли контакта друг с другом. То, как мы разрабатываем все более автономные машины и взаимодействуем с ними, определяет характер нашего общества и экономики. От этого все в большей мере зависит каждый аспект современного мира, начиная с того, будем ли мы жить в более или менее стратифицированном обществе, и заканчивая тем, какой смысл мы будем вкладывать в понятие «человек».

Соединенные Штаты находятся в самом центре вновь вспыхнувшего спора о последствиях развития искусственного интеллекта и робототехники и их влиянии на занятость и качество жизни. Мы живем в удивительное время – автоматизация поражает ряды рабочих мест белых воротничков с такой же стремительностью, как она изменяла заводские цеха в начале 1950-х гг. Но возобновление «великого спора об автоматизации» спустя полвека после его начала напоминает сцены из фильма «Расёмон»: все видят одно и то же, но интерпретируют по-разному, кому как выгоднее. Несмотря на все более громкие предупреждения о страшных последствиях компьютеризации, количество работающих американцев продолжает расти. Аналитики на основании одних и тех же данных Бюро трудовой статистики предрекают одновременно и глобальное сокращение числа рабочих мест, и новый трудовой ренессанс. Независимо от того, что происходит с живым трудом, исчезает он или видоизменяется, ясно одно – новая эра автоматизации оказывает глубокое влияние на общество. Менее понятно, несмотря на огромное количество сказанного и написанного, куда в действительности идет технологическое общество.

У тех немногих, кто имел дело с огромными мейнфреймами выпуска 1950-х и 1960-х гг., нередко возникало ощущение зловещего контроля с их стороны. В 1970-х гг. появились персональные компьютеры, которые стали восприниматься как нечто более дружественное, – их можно было потрогать, а значит, и управлять ими. Сегодня мы являемся свидетелями рождения «интернета вещей», и компьютеры вновь начинают «исчезать», становясь частью предметов повседневного пользования, которые в результате приобретают магические свойства – детекторы дыма умеют говорить и слышать, телефоны, аудиоплееры и планшеты имеют более значительные возможности, чем суперкомпьютеры всего несколько десятилетий назад.

Со «сплошной компьютеризацией» мы вошли в век умных машин. В ближайшие годы искусственный интеллект и робототехника изменят мир сильнее, чем персональные компьютеры и интернет за прошлые три десятилетия. Автомобили будут ездить сами, а роботы возьмут на себя работу служащих FedEx и, конечно, врачей и адвокатов. Новая эра сулит нам огромные физические и вычислительные возможности, однако вновь ставит вопрос, впервые возникший больше 50 лет назад: кто кого будет контролировать, мы эти системы или они нас?

Джордж Оруэлл сформулировал этот вопрос предельно красноречиво. Его роман «1984» известен описанием государства тотального надзора, но там есть также идея о том, что государственный контроль можно осуществлять, сжимая письменную и устную речь, чтобы было труднее выражать и, соответственно, воспринимать альтернативные идеи. Оруэлл ввел в обращение вымышленный язык, «новояз», который эффективно ограничивал свободу мысли и самовыражения.

Имея интернет с его миллионами каналов, мы на первый взгляд сегодня как никогда далеки от оруэлловского кошмара, однако все чаще умные машины принимают решения за нас. Если бы такие системы просто давали советы, вряд ли это можно было бы считать «контролем» в оруэлловском смысле. Но так превозносимый в наши дни мир «больших данных» сделал интернет совсем не таким, каким он был всего десятилетие назад. Интернет расширил сферу использования компьютерной техники и начал трансформировать нашу культуру. Фактически мы получаем неооруэлловское общество с более мягкой формой контроля. Интернет несет с собой беспрецедентные свободы и одновременно, как это ни парадоксально, выводит контроль и надзор далеко за пределы того, что предполагал Оруэлл. Каждый шаг и каждое высказывание теперь отслеживаются и регистрируются если не Старшим братом, то растущей армией коммерческих «младших братьев». Интернет стал всепроникающей технологией, которая касается каждого аспекта нашей культуры. Сегодня смартфоны, ноутбуки и настольные компьютеры слушают нас вроде бы по нашему желанию, а их камеры наблюдают за нами, надо думать, с лучшими намерениями. Нарождающийся «интернет вещей» вводит в наши дома незаметных, всегда находящихся в состоянии готовности и, наверное, полезных роботов, подобных Echo компании Amazon и Jibo Синтии Бризил.

Будет ли мир, за которым присматривают те, кого поэт 1960-х Ричард Бротиган назвал «машинами благодати и любви», свободным? Свободным в смысле «свободы слова», а не «бесплатного пива»{1}. Лучший способ получить ответ на вопрос о контроле в мире, полном умных машин, – понять ценности тех, кто фактически создает эти системы.

В Кремниевой долине среди оптимистически настроенных специалистов популярно мнение, что сочетания силы инноваций и закона Мура – удвоения вычислительной мощности каждые два года – достаточно для объяснения технического прогресса. Мало кто задумывается о том, почему одна технология берет верх над другими или почему та или иная технология появляется в определенный момент. Это представление – полное отрицание того, что социологи называют «социальным конструированием технологии», т. е. понимания того, что мы формируем наши методы, а не они нас.

Мы уже не один век сосуществуем с машинами вроде экскаватора, которые заменяют работников физического труда, но умные машины, приходящие на смену белым воротничкам и работникам умственного труда, – явление новое. Информационные технологии не просто заменяют людей, они демократизируют определенные процессы. Использование персонального компьютера не только позволяет обходиться без секретаря. Интернет и сеть значительно уменьшили стоимость, например, новостных изданий, они не только полностью изменили издательский процесс, но и коренным образом трансформировали сбор информации и представление новостей. Аналогичным образом технологии коррекции тона позволяют петь любому, просто нажав на кнопку, без обучения, а множество компьютеризированных музыкальных систем дают возможность каждому желающему стать композитором и музыкантом. От того, какими будут эти системы, зависит, что нас ждет – невиданный ренессанс или нечто мрачное, мир, где профессии людей будут полностью переданы машинам. Идеи Маккарти и Энгельбарта привели к началу новой эры, в которой компьютеры должны преобразовать экономику и общество в такой же мере, в какой это сделала промышленная революция.

Недавние эксперименты с гарантированным «базовым доходом» для беднейшей части мира также могут пролить свет на будущее работы в условиях наступления блистательных машин. Результаты этих экспериментов оказались поразительными, поскольку они опровергли широко распространенную идею о том, что экономическая защищенность подавляет желание работать. Эксперимент в нищей индийской деревушке в 2013 г., гарантировавший удовлетворение базовых потребностей, дал противоположный результат. Бедные не расслабились, получив правительственные субсидии, а стали более ответственными и эффективными. Не исключено, что у нас скоро появится возможность провести такой же эксперимент в промышленно развитых странах. Идея обеспечения базового дохода уже включена в политическую повестку дня в Европе. Эта идея, родившаяся в 1969 г. в администрации Никсона в форме отрицательного подоходного налога, в настоящее время политически неприемлема в Соединенных Штатах. Однако ситуация быстро изменится, если технологическая безработица распространится достаточно широко.

Что произойдет, если наша рабочая сила больше не будет нужна? Что, если рабочие места складских рабочих, мусорщиков, врачей, адвокатов и журналистов займут роботы? Конечно, никто не знает, каким именно окажется будущее, но, на мой взгляд, общество увидит, что у людей внутренне заложено желание работать или иным образом производить что-то, имеющее ценность. Новая экономика создаст рабочие места, которые невозможно представить себе сегодня. Писатели-фантасты, впрочем, уже хорошо поработали в этой области. Почитайте «Мать штормов» (Mother of Storms) Джона Барнса или «Аччелерандо» (Accelerando) Чарли Стросса, чтобы представить, как может выглядеть экономика будущего. Простой ответ заключается в том, что творческий потенциал человека безграничен, и если о наших базовых потребностях будут заботиться роботы и искусственный интеллект, то мы найдем возможности развлекаться, учиться и заботиться друг о друге новыми способами. Ответы могут быть туманными, но вопросы становятся все более четкими. Кем будут эти взаимодействующие с нами и заботящиеся о нас интеллектуальные машины – нашими союзниками или поработителями?

В этой книге я представляю читателям разнородную группу специалистов по информатике, программистов, робототехников и нейробиологов. Все они считают, что мы подходим к переломному моменту, за которым нас ждет мир машин, заменяющих людей и даже превосходящих их по некоторым качествам. Они предлагают целый спектр мнений о нашем месте в этом новом мире.

В первой половине нынешнего столетия обществу придется принять трудные решения относительно умных машин, которые могут потенциально быть нашими слугами, партнерами или хозяевами. На заре компьютерной эры в середине прошлого столетия Норберт Винер предупреждал о потенциальных последствиях автоматизации. «Мы можем быть смиренными и спокойно жить в окружении машин-помощников, – писал он, – или проявить самонадеянность и погибнуть».

Это предупреждение по-прежнему актуально.

Джон Маркофф

Сан-Франциско, Калифорния

Январь 2015 г.

Глава 1

Выбор направления – человек или машина

К тому времени как Билл Дюваль бросил колледж, он уже был классным программистом. Довольно быстро Дюваль подключился к разработке Shakey, шестифутового робота на колесах. Звездный час Shakey наступил в 1970 г., когда журнал Life назвал его первой «электронной личностью». Если взять для сравнения персонажей саги «Звездные войны», то Shakey попадал скорее в категорию мобильных роботов R2-D2, чем человекоподобных C-3PO. В принципе это был электронный агрегат с датчиками и электроприводом на колесах, управляемый сначала по проводам, а позднее по радио расположенным неподалеку мейнфреймом.

Shakey не был первым в мире мобильным роботом, но его создавали как первого по-настоящему автономного робота. В рамках одного из первых экспериментов в области искусственного интеллекта Shakey должен был анализировать окружающую обстановку, планировать собственные действия и выполнять задания. Он мог находить и двигать предметы или перемещаться по заданному маршруту в своем очень структурированном мире. К тому же как предвестник будущего он играл роль прототипа гораздо более перспективных машин, которые должны были жить, выражаясь военным языком, во «враждебной обстановке».

Хотя этот проект сейчас почти забыт, создатели Shakey впервые применили компьютерные технологии, которыми сегодня пользуются более миллиарда человек. Навигационные программы, применяемые повсеместно – от автомобилей до смартфонов, строятся на принципах, разработанных создателями Shakey. Их алгоритм A* – самый известный способ нахождения кратчайшего пути между двумя пунктами. Ближе к концу проекта в числе исследовательских задач появилось управление речью, и сегодняшний сервис Siri компании Apple – отдаленный потомок машины, начавшей жизнь как совокупность исполнительных механизмов и датчиков.

Дюваль вырос на полуострове к югу от Сан-Франциско и был сыном физика, участвовавшего в разработках военного назначения в Стэнфордском исследовательском институте, где находился Shakey. Он прошел все курсы программирования, которые предлагал Калифорнийский университет в Беркли в середине 1960-х гг. Через два года Дюваль бросил учебу в университете, чтобы присоединиться к команде, где работал его отец, и оказался в нескольких милях от кампуса Стэнфорда в замкнутой группе избранных, для которых мейнфрейм был эквивалентом первобытного божества.

Для молодого человека, одержимого вычислительной техникой, Стэнфордский исследовательский институт, вскоре переименованный в SRI International, открывал ворота в мир, где высококвалифицированные программисты создавали изящные программы для машин. В 1950-х гг. в SRI разработали первые компьютеры для обработки чеков. Дювалю поручили автоматизацию операций одного из английских банков, но тот был поглощен другим банком, и проект заморозили на неопределенное время. Дюваль превратил неожиданный перерыв в свой первый отпуск в Европе, а затем направился в Менло-Парк, чтобы возобновить роман с компьютерами в команде исследователей искусственного интеллекта, занимавшихся Shakey.

Как и многие другие программисты, Дюваль был одиночкой. В средней школе за десятилетие до выхода в свет фильма «Уходя в отрыв» (Breaking Away) он вступил в местный велосипедный клуб и колесил на байке по холмам за Стэнфордом. В 1970-х гг. этот фильм изменил отношение американцев к велогонкам, но в 1960-е гг. они все еще были богемным спортом, привлекавшим разного рода индивидуалистов и белых ворон. Это вполне подходило Дювалю. До поступления в среднюю школу он учился на полуострове в альтернативном учебном заведении, где считали, что дети должны обучаться в процессе практической деятельности и в соответствии с собственным темпом. Одним из его учителей был Айра Сандперл, ученик Ганди, завсегдатай книжного магазина Кеплера возле кампуса Стэнфорда. Именно Сандперл, в число подопечных которого входила также Джоан Баэз[2], привил Дювалю независимый взгляд на знания, учебу и мир в целом.

Дюваль был представителем первого поколения асов в сфере программирования, небольшой группы со своей субкультурой, которая зародилась в Массачусетском технологическом институте, где работа на компьютере была самоцелью, где свободно распространялись знания и коды, необходимые для оживления машин. Эта культура быстро распространилась по Западному побережью, где она пустила корни в центрах компьютерных разработок вроде Стэнфорда и Калифорнийского университета в Беркли.

В ту эпоху компьютеры были невероятной редкостью – гигантскими машинами могли похвастаться лишь банки, университеты и финансируемые правительством исследовательские центры. В SRI Дюваль получил неограниченный доступ к машине размером с комнату, которую когда-то приобрели для элитного финансируемого военными проекта, а затем стали использовать для управления Shakey. В SRI и в расположенной рядом Стэнфордской лаборатории искусственного интеллекта (Stanford Artificial Intelligence Laboratory – SAIL), прятавшейся в холмах за Стэнфордским университетом, существовала тесно связанная группа исследователей, уже тогда веривших в возможность создания машины, обладающей способностями человека. Для членов этой группы Shakey был прообразом будущего, и они верили, что всего через несколько лет научный прорыв позволит машинам действовать подобно людям.

Тогда, в середине 1960-х гг., в небольшом сообществе исследователей искусственного интеллекта на обоих побережьях царил фактически безграничный оптимизм. В 1966 г., когда SRI и SAIL в Калифорнии уже работали над созданием роботов и программ искусственного интеллекта, на другом конце страны, в Массачусетском технологическом институте, еще один пионер в сфере искусственного интеллекта, Марвин Мински, дал студенту последнего курса задание решить проблему машинного зрения. По его представлениям, этот проект можно было выполнить за лето. Действительность оказалась обескураживающей. Хотя искусственный интеллект, возможно, и должен был изменить мир, Дюваль, который уже поучаствовал в нескольких проектах SRI до переключения на Shakey, сразу понял, что роботу еще невообразимо далеко до чего-то реального.

Shakey жил в большой пустой комнате с покрытым линолеумом полом и парой электронных блоков. Вокруг были разбросаны похожие на коробки объекты, чтобы робот мог с ними «играть». Вместилище интеллекта, мейнфрейм, располагалось поблизости. Датчики Shakey фиксировали окружающую картину, а затем он стоял и «думал» в течение нескольких минут, прежде чем возобновить движение в своем замкнутом и контролируемом мире. Это было сродни наблюдению за ростом травы. Помимо прочего, робот часто ломался или у него разряжался аккумулятор после нескольких минут работы.

За несколько месяцев Дюваль выжал максимум из своего положения. Ему было ясно, что расстояние до заявленной цели проекта – создание автоматического часового или разведчика – измеряется световыми годами. Он пытался утешиться программированием дальномера, громоздкого устройства с вращающимся зеркалом, но в нем постоянно подводила механика, что превращало разработку программного обеспечения в упражнение по предсказанию сбоев и их устранению. Один из руководителей сказал, что проекту нужно «вероятностное дерево решений» для усовершенствования системы зрения робота. Поэтому вместо того, чтобы работать над этим специальным механизмом, Дюваль стал заниматься созданием программы, которая могла бы генерировать подобные деревья. Система зрения Shakey работала лучше, чем дальномер. Даже при простейшей программе обработки видеоданных робот мог различать края и базовые формы – важнейшие элементы для ориентирования и перемещения в пространстве.

Руководитель Дюваля считал, что в его команде «наукой» должны заниматься только «ученые». Программистам отводилось место чернорабочих низкого ранга, которые воплощали идеи старших коллег. Хотя лидеры группы, наверное, имели представление о том, куда нужно двигаться, проект был организован по-военному, и это делало работу неинтересной для программистов низшего уровня вроде Дюваля, писавших драйверы устройств и другие интерфейсные программы. Такая ситуация не устраивала молодого человека, одержимого компьютерами.

Роботы казались ему модной идеей, но до выхода на экраны «Звездных войн» привлекательных образчиков было не так много. В 1950-х гг. существовал робот Robby из фильма «Запретная планета» (Forbidden Planet), но в остальном мало что вызывало вдохновение. Shakey просто работал не слишком хорошо. К счастью, Стэнфордский исследовательский институт был большой организацией, и вскоре внимание Дюваля привлек более интригующий проект.

В холле, куда выходила лаборатория Shakey, он часто сталкивался с представителями другой группы исследователей, которая занималась разработкой компьютера для реализации системы NLS (oN-Line System). Если управление в лаборатории Shakey было иерархическим, то группа под руководством ученого-компьютерщика Дуга Энгельбарта работала совершенно по-другому. Исследователи Энгельбарта, разношерстное собрание консервативных инженеров в белых рубашках и длинноволосых программистов, двигались в сфере вычислительной техники настолько в ином направлении, что оно находилось в другой системе координат. Проект Shakey был нацелен на имитирование умственной и физической деятельности человека. Энгельбарт ставил совсем другую цель. Во время Второй мировой войны он наткнулся на статью Ваннивара Буша, который предложил поисковую систему Memex для работы с информацией на микрофишах. Позже Энгельбарт решил, что такую систему можно воссоздать с использованием только что появившихся компьютеров. На его взгляд, наступило время для создания интерактивной системы сбора знаний и организации информации таким образом, чтобы позволить небольшой группе людей – ученых, инженеров, преподавателей – творить и сотрудничать более эффективно. К этому времени Энгельбарт уже изобрел компьютерную мышь, а также выдвинул идею гипертекстовых ссылок, которая десятилетия спустя станет основой Всемирной паутины. Как и Дюваль, он был чужим в изолированном мире компьютерной науки, где основой считали теорию и абстракцию.

Культурный разрыв между миром искусственного интеллекта и его антиподом – идеей Энгельбарта, получившей название «усиление интеллекта», – был очевидным. Когда Энгельбарт приехал в Массачусетский технологический институт в 1960-х гг. для демонстрации своего проекта, Марвин Мински посетовал, что это пустая трата выделенных на исследования денег, которая приведет к созданию всего лишь не в меру расхваленного текстового процессора.

Хотя Энгельбарт и не добился уважения влиятельных специалистов по информатике, его совершенно не смущал отход от мейнстрима академического мира. Участвуя в регулярных обзорных совещаниях Агентства перспективных оборонных исследований (DARPA) Пентагона, где ученые делились информацией о результатах своей работы, он всегда предварял презентации словами: «Это не теория вычислительных машин». Затем Энгельбарт излагал свои взгляды на использование компьютеров для «загрузки» в них проектов с целью обмена информацией, обучения и продвижения инноваций.

Несмотря на то что эти идеи не совпадали с мейнстримом компьютерной науки, они захватили Билла Дюваля. Вскоре он перебрался на другую сторону холла – в лабораторию Энгельбарта. Менее чем за год он прошел путь от попыток создать программы для первого полезного робота до работы над программным обеспечением для системы связи, которая, позволив соединить два компьютера, стала прообразом интернета. Поздно вечером 29 октября 1969 г. Дюваль подключил систему NLS Энгельбарта в Менло-Парке к компьютеру в Лос-Анджелесе, которым управлял другой молодой программист, по арендованной у телефонной компании линии передачи данных. Билл Дюваль стал первым, кто переключился с исследований в области замены человека компьютером на использование вычислительной техники для усиления интеллекта человека, и одним из первых, кому удалось побывать по обе стороны от невидимой линии, разделяющей и сегодня два соперничающих лагеря разработчиков.

Интересно отметить, что разработки, начатые в 1960-х гг., получили применение в 1970-е гг. в третьей лаборатории, также расположенной возле Стэнфорда. Исследовательский центр компании Xerox в Пало-Альто развил задумки, выпестованные в лабораториях Маккарти и Энгельбарта, и превратил их в идеи персонального компьютера и компьютерной сети, которые в свою очередь были успешно реализованы компаниями Apple и Microsoft. Среди прочего индустрия персональных компьютеров инициировала то, что венчурный инвестор Джон Дорр в 1990-х гг. назвал «самым крупным законным накоплением богатства в истории»{2}.

Большинству Дуг Энгельбарт известен как изобретатель мыши, однако его гораздо более грандиозная идея заключалась в использовании компьютерных технологий с тем, чтобы небольшие группы людей могли работать над «загруженными» проектами, используя мощные программные средства организации деятельности и создавая, как он выражался, «коллективный IQ», превосходящий возможности отдельного человека. Мышь была просто гаджетом, облегчавшим взаимодействие с компьютером.

Влияние на мир Маккарти, создавшего Стэнфордскую лабораторию искусственного интеллекта, было во многих отношениях не меньше влияния Энгельбарта. Его лаборатория дала компании Xerox, а затем и Apple Computer таких разработчиков, как Алан Кей и Ларри Теслер, внесших немалый вклад в создание современного персонального компьютера. Уитфилд Диффи вынес оттуда идеи, которые привели к появлению метода криптографии, обеспечивающего безопасность нынешней электронной торговли.

Впрочем, в SRI и SAIL тогда были еще два направления работ, которые только сейчас начинают оказывать значительное влияние на мир: роботы и искусственный интеллект. Они не только трансформируют экономику, они ведут к новой эре умных машин, фундаментально меняющих наш образ жизни.

Появление вычислительной техники и роботов было предсказано до организации этих лабораторий. Еще на заре компьютерной эры, в 1948 г., Норберт Винер сформулировал концепцию кибернетики. В своей книге «Кибернетика» (Cybernetics) он обозначил контуры новой прикладной науки, которая занималась вопросами управления и коммуникации и предвосхищала обе технологии. Винер также предвидел последствия этих новых направлений техники: через два года после «Кибернетики» вышла следующая книга – «Кибернетика и общество» (The Human Use of Human Beings), где автор рассуждал о ценности и опасности автоматизации.

Винер был одним из первых, кто задумался об оборотной стороне информационной технологии – возможности ее выхода из-под контроля людей и подчинения их себе. Еще важнее то, что он первым выступил с критикой машинного интеллекта, указав на опасность передачи принятия решений системам, которые в отсутствие способности мыслить абстрактно будут принимать решения с чисто утилитарной точки зрения, а не с учетом более широких человеческих ценностей.

Энгельбарт в 1950-х гг. работал электронщиком в Научно-исследовательском центре Эймса NASA и наблюдал, как инженеры-авиастроители сначала создают небольшие модели для аэродинамических испытаний, а затем масштабируют их до полноразмерных самолетов. Он быстро понял, что новые кремниевые компьютерные чипы можно масштабировать в обратную сторону – уменьшать вплоть до того, что будут называть «микросхемами». Миниатюризация позволит размещать больше схем в одном и том же пространстве при тех же затратах. А главное, увеличение плотности схем должно оказывать на производительность не аддитивный, а мультипликативный эффект. Для Энгельбарта это было решающим. Уже через год после появления первого современного компьютерного чипа в конце 1950-х гг. у него не осталось сомнений в том, что в конечном итоге появятся сравнительно дешевые вычислительные мощности, которые изменят лицо цивилизации.

Идея экспоненциального роста – закон Мура, в частности, – является одним из фундаментальных достижений Кремниевой долины. Энгельбарт и Мур понимали, что мощность компьютеров будет возрастать все быстрее. Аналогичным образом должна падать их стоимость так, что очень скоро мощные компьютеры окажутся доступными даже беднейшим нациям. За последнюю половину десятилетия это ускорение обеспечило быстрое развитие технологий, которые необходимы для создания искусственного интеллекта: машинное зрение, распознавание речи, контактное восприятие и манипуляторы. Машины уже умеют чувствовать вкус и запах, однако более существенные инновации приходят из сферы моделирования нейронов человека с помощью электронных схем, где наметился прогресс в распознавании образов.

Ускорение развития в области искусственного интеллекта позволило кое-кому – взять хотя бы специалиста по вычислительной технике Моше Варди из Университета Райса – провозгласить неминуемое вытеснение человека из очень многих сфер уже к 2045 г.{3} В соответствии с еще более радикальными представлениями компьютеры развиваются настолько быстро, что превзойдут по интеллекту человека через одно или самое большее через два поколения. Писатель-фантаст и специалист по вычислительной технике Вернор Виндж рассуждает о компьютерной «сингулярности» – таком быстром развитии машинного интеллекта, при котором он переходит некий порог, а потом в результате пока неопределенного скачка становится сверхчеловеческим.

Это очень интересное предположение, однако пока что рано рассматривать его всерьез. В связи с этим стоит вспомнить замечание, сделанное долгое время работавшим в Кремниевой долине обозревателем Полом Саффо по поводу комплексного воздействия вычислительной техники на мир. Он постоянно напоминал элите компьютерной индустрии Кремниевой долины: «Не путайте ясное видение с тем, что хорошо видно вблизи». Тем, кто верит, что за несколько десятилетий живой труд уйдет в прошлое, не следует забывать, что даже на фоне глобализации и автоматизации в 1980–2010 гг. численность работающих в США постоянно возрастала. Экономисты Фрэнк Леви и Ричард Мюрнейн недавно показали, что с 1964 г. в экономике было создано 74 млн рабочих мест{4}.

Экономист из Массачусетского технологического института Дэвид Отор предложил детальное объяснение последствий текущей волны автоматизации. По его словам, ликвидация рабочих мест происходит не повсеместно, а сфокусирована на рутинных задачах, выполняемых теми, кто находится в средней части структуры рабочих мест – белыми воротничками, появившимися после Второй мировой войны. Расширение продолжается в нижней и верхней частях пирамиды, страдает средняя часть, зато развиваются рынки неквалифицированного и высококвалифицированного труда.

Меня, однако, интересуют не дебаты, а совсем другой вопрос, тот, что впервые был поставлен Норбертом Винером, когда он высказывал свои опасения относительно последствий автоматизации. К чему приведут подходы Маккарти и Энгельбарта? Какими будут последствия решений, принятых сегодняшними исследователями в области искусственного интеллекта и робототехники, которым все легче выбирать между расширением возможностей и заменой «человека в контуре управления» в создаваемых системах и продуктах? Иначе говоря, какие социальные последствия повлечет за собой появление интеллектуальных систем, которые заменяют людей или взаимодействуют с ними в бизнесе, развлечениях и повседневной жизни?

В компьютерном мире сложились два технических сообщества со своими традициями, ценностями и приоритетами. Одно из них – сообщество искусственного интеллекта – стремится к автоматизации различных аспектов деятельности человека. Другое – сообщество человеко-машинного взаимодействия – в большей мере занято развитием идеи «человеко-машинного симбиоза», который предвидел психолог-новатор Джозеф Ликлайдер на заре современной компьютерной эры. Следует заметить, что Ликлайдер в качестве директора Технического офиса информационных проектов DARPA в середине 1960-х гг. финансировал и Маккарти, и Энгельбарта. Именно во времена Ликлайдера DARPA было в буквальном смысле организацией по финансированию «прожектов», в этот период, как считают многие, агентство оказало наибольшее влияние на развитие науки и техники.

Винер первым забил тревогу по поводу проблемы взаимоотношений человека и вычислительных машин. Десятилетие спустя Ликлайдер указал на принципиальное значение грядущего повсеместного использования вычислительной техники и на то, чем ее внедрение отличается от предыдущей эпохи индустриализации. В каком-то смысле Ликлайдер предсказал появление Борга из сериала «Звездный путь». Образ Борга вошел в массовую культуру в 1988 г. – это была раса киборгов, которая существовала как «коллективный разум», а новые индивидуумы присоединялись к нему путем принудительной ассимиляции.

В 1960 г. в одной из своих работ Ликлайдер рассуждал о разнице между «расширением возможностей человека» и «искусственным интеллектом» и предупреждал в отношении автоматизации: «Если взять человека-оператора в системе, то мы видим, что в некоторых областях техники за последние несколько лет произошли фантастические изменения. "Расширение возможностей" уступает место замене человека на автоматику, а люди, которые остаются, нужны, чтобы помогать, а не чтобы помогали им. В некоторых случаях, особенно в основанных на вычислительной технике больших информационных системах и системах управления, человек-оператор в основном отвечает за функции, которые не удалось автоматизировать»{5}. Это наблюдение показывает, насколько роковым является уклон в пользу автоматизации, а не усиления интеллекта.

Ликлайдер, как и Маккарти полдесятилетия спустя, был уверен, что создание «мощного» искусственного интеллекта – машины, обладающей разумом и самосознанием, по меньшей мере сопоставимыми с человеческими, – дело недалекого будущего. Он писал, что период человеко-машинного «симбиоза» вряд ли продлится более двух десятилетий, хотя и допускал, что появление по-настоящему умных машин, способных соперничать с человеком по умственным способностям, придется ждать более десятилетия, а может, даже и более 50 лет.

Хотя он и поставил вопрос о том, что принесет информационная эра – освобождение или порабощение людей, прямого ответа мы от него не получили. Вместо этого он нарисовал то, что стали называть «киборгами», – образ полулюдей-полумашин. С точки зрения Ликлайдера, человек-оператор и вычислительное оборудование гармонично соединятся и станут единой сущностью. С тех пор такое видение будущего многократно и превозносили, и поносили. Однако оно так и не дает ответа на вопрос – будем ли мы хозяевами, рабами или партнерами появляющихся сегодня умных машин?

Возьмем полный спектр человеко-машинного взаимодействия – от простых FAQbot до Google Now и Siri компании Apple. В недалеком будущем, показанном в фильме «Она» (Her), мы видим наделенный голосом Скарлетт Йоханссон искусственный интеллект, способный одновременно вести сотни задушевных разговоров с людьми. В настоящее время Google Now и Siri представляют два совершенно разных стиля взаимодействия человека с машиной. В то время как Siri намеренно и успешно имитирует человека, демонстрируя своеобразное чувство юмора, Google Now действует только как информационное средство, не имеющее личности или лишенное человекоподобия.

Так и подмывает взглянуть на личности руководителей двух конкурирующих компаний с точки зрения этих противоположных подходов. В компании Apple Стив Джобс видел потенциал Siri еще до того, как появилась возможность распознавать речь человека, и ориентировал разработчиков на естественный язык как лучший способ управления компьютером. В Google Ларри Пейдж, наоборот, был против представления компьютера в образе человека.

Как далеко зайдет эта тенденция? Сегодня нельзя сказать ничего определенного. Хотя мы уже можем разговаривать с автомобилями и другими устройствами, используя ограниченные словари, понимание речи и голосовой ввод все еще остаются частью мира «интерфейсов», управляющих компьютерами. Распознавание речи определенно облегчает взаимодействие со множеством сетевых сервисов и приложений для смартфонов, когда глаза и руки заняты. Возможно, прорывы в разработке интерфейса мозг – компьютер окажутся полезными для тех, кто не может говорить, или когда необходимы тишина или скрытность, например при подсчете очков в блек-джеке. Менее ясен вопрос, пройдут ли однажды эти кибернетические помощники тест Тьюринга – проверку, впервые предложенную математиком и ученым-компьютерщиком Аланом Тьюрингом для определения, является ли компьютер «интеллектуальным». Публикация статьи Тьюринга 1951 г. дала начало долгому философскому спору и даже ежегодным соревнованиям. В наши дни более интересна не интеллектуальность машин, а вопрос в том, что означает этот тест с точки зрения взаимоотношений людей и машин.

Тест Тьюринга предполагает, что человек садится перед терминалом и начинает взаимодействовать с неизвестной сущностью, вводя с клавиатуры вопросы и получая ответы. Если через какое-то время он не может определить, кто с ним общается – человек или машина, то машину считают «интеллектуальной». Хотя у теста несколько вариантов и его широко критикуют, с социологической точки зрения он ставит вопрос правильно. Другими словами, он уместен по отношению к человеку, а не к машине.

Осенью 1991 г. я освещал первый конкурс по тесту Тьюринга, спонсируемый филантропом из Нью-Йорка Хью Лёбнером. Это мероприятие состоялось в Компьютерном музее Бостона и привлекло толпу специалистов по вычислительной технике и кучку философов. В то время «боты» – программные роботы, предназначенные для участия в соревнованиях, – были ненамного сложнее легендарной программы Eliza, написанной ученым-компьютерщиком Джозефом Вейценбаумом в 1960-х гг. Эта программа имитировала роджерианский подход в психологии (сконцентрированный на личности человека метод, цель которого – помочь в понимании собственных чувств), и Вейценбаум пришел в ужас, увидев, как студенты начинают вести разговоры по душам с этим первым простым ботом.

Судьи первого конкурса Лёбнера в 1991 г. представляли две широкие категории людей: компьютерно грамотных и незнакомых с компьютером. С точки зрения судей, не имевших опыта работы с компьютером, в том году тест Тьюринга был пройден по всем пунктам. В своем репортаже я процитировал слова представительницы таких судей, которая объяснила, почему она обманулась: «Он печатал что-то, на мой взгляд, банальное, а когда я отвечала, реакция была очень убедительной»{6}. Это оказалось предвестником грядущего. Нынче мы повседневно взаимодействуем с машинами, имитирующими людей, и они все лучше убеждают нас в своей якобы человеческой природе.

Сегодня программы вроде Siri не только кажутся почти одушевленными, они начинают превращать взаимодействие человека с машиной на естественном языке в обыденное дело. Эволюции этих программных роботов, похоже, помогает наше желание верить, что мы взаимодействуем с людьми, даже когда говорим с машинами. Мы ориентированы на социальные взаимодействия. Если в физическом мире роботы помогают нам не так уж часто, то в киберпространстве они уже вокруг нас. Очевидно, что эти боты – искусственный интеллект, пусть даже с ограниченными возможностями, – будут все больше входить в нашу повседневную жизнь.

Интеллектуальные программные агенты, такие как Siri компании Apple, Cortana компании Microsoft и Google Now, взаимодействуют с сотнями миллионов людей и, таким образом, реализуют взаимосвязь робот – человек. Уже в начале своего существования приложение Siri отличалось явно человекоподобным стилем – первый шаг на пути к созданию поколения приятных и заслуживающих доверия советчиков. Не все ли равно, как мы будем взаимодействовать с этими системами – как с партнерами или как со слугами? Если отвлечься от все более оживленных дебатов о том, будут ли интеллектуальные агенты и роботы автономными и, если да, будут ли они обладать достаточным самосознанием, чтобы нам пришлось задуматься о «правах роботов», то нам ближе вопросы, как относиться к этим системам и как характер взаимодействий с ними будет определять смысл понятия «человек». До тех пор, пока мы относимся к таким системам как к партнерам, мы остаемся людьми. Как бы то ни было, вопрос о взаимоотношениях людей и машин игнорируется большой частью современного компьютерного мира.

Специалист по вычислительной технике из Microsoft Research Джонатан Грудин заметил, что такие области знания, как искусственный интеллект и человеко-машинное взаимодействие, редко пересекаются друг с другом{7}. Он ссылается на Джона Маккарти и его давнее объяснение направления исследований в области искусственного интеллекта: «[Цель] заключалась в том, чтобы уйти от изучения поведения человека и рассматривать компьютер как инструмент для решения определенного класса проблем. Таким образом, искусственный интеллект стал направлением компьютерной науки, а не психологии»{8}. Прагматичный подход Маккарти определенно можно оправдать успехами в этой области в последние пять лет. Исследователи искусственного интеллекта любят говорить, что самолету для полета не нужно махать крыльями, подчеркивая тем самым, что для воспроизведения мыслительного процесса или поведения человека не обязательно понимать их. Пропасть между искусственным интеллектом и усилением интеллекта, однако, лишь увеличивается по мере того, как системы искусственного интеллекта все успешнее берут на себя функции человека, будь то распознавание образов, поддержание разговора, перемещение ящиков, игра в шахматы, «Своя игра» или видеоигры Atari.

Терри Виноград одним из первых отчетливо увидел две крайности и задумался о последствиях. Его карьера – пример дрейфа от искусственного интеллекта к усилению интеллекта. Учась в аспирантуре Массачусетского технологического института в 1960-х гг., он сосредоточился на изучении естественного языка с целью создания программного эквивалента Shakey – программного робота, способного вести разговор с людьми. В 1980-е гг. в какой-то мере из-за изменившихся взглядов на пределы искусственного интеллекта он оставил эту область и постепенно стал заниматься усилением интеллекта. К отходу от сферы искусственного интеллекта Винограда подтолкнули споры с группой философов в Калифорнийском университете. В составе небольшой группы исследователей искусственного интеллекта он участвовал в еженедельных семинарах, где присутствовали философы из Беркли Хьюберт Дрейфус и Джон Сирл. Философы убедили его, что есть реальные пределы возможностей интеллектуальных машин. Обращение Винограда в другую веру совпало с коллапсом нарождающейся индустрии искусственного интеллекта, известным как «зима искусственного интеллекта». Спустя несколько десятилетий Виноград, который был куратором соучредителя Google Ларри Пейджа в Стэнфорде, посоветовал молодому аспиранту сосредоточиться на проблеме поиска в сети, а не на беспилотных автомобилях.

За прошедшие десятилетия Виноград ясно осознал важность точки зрения разработчика. Разделение областей искусственного интеллекта и человеко-машинного взаимодействия в определенной мере зависит от подхода, но это также и этическая позиция в вопросе о том, где должен находиться человек – в создаваемых нами системах или за их пределами. Не так давно Виноград помог создать в Стэнфорде академическую программу, ориентированную на «технологии освобождения», в рамках которой изучают конструирование компьютеризованных систем с учетом человеческих ценностей.

На протяжении всей истории человечества технологии замещали живой труд. Однако локомотивы и тракторы не принимают решений на уровне человека, а вот «думающие машины» делают это все чаще и чаще. Очевидно также, что технологии и человечество эволюционируют совместно, и это вновь ставит вопрос о том, кто будет стоять у руля. В Кремниевой долине стало модным прославлять возвышение машин – об этом ясно говорит появление организаций вроде Института сингулярности и книг типа «Чего хочет технология» (What Technology Wants) Кевина Келли (2010 г.). В более ранней книге 1994 г. «Неуправляемые» (Out of Control) Келли решительно встает на сторону машин. Он описывает встречу Марвина Мински и Дуга Энгельбарта:

Говорят, когда два гуру встретились в Массачусетском технологическом институте в 1950-е гг., между ними состоялся следующий диалог:

Мински: Мы собираемся наделить машины интеллектом. Мы собираемся дать им сознание!

Энгельбарт: Вы собираетесь сделать все это для машин? А что вы намерены сделать для людей?

Эту историю обычно рассказывают инженеры, работающие над тем, чтобы сделать компьютеры более дружественными, более человечными, более ориентированными на людей. Но я полностью на стороне Мински, на стороне дела. Люди выживут. Мы научим наши машины служить нам. Но что мы собираемся сделать для машин?{9}

Келли верно указывает, что есть «стороны» Мински и Энгельбарта. Но говорить, что люди «выживут», – значит недооценивать последствия. Он в основном вторит Мински, который, как известно, отвечал на вопрос о значении появления искусственного интеллекта так: «Если нам повезет, они будут держать нас как домашних животных».

Позиция Мински красноречиво демонстрирует пропасть между лагерями искусственного интеллекта и усиления интеллекта. Сообщество сторонников искусственного интеллекта до настоящего времени по большей части игнорирует последствия появления интеллектуальных систем, которые рассматриваются просто как мощные инструменты без дискуссий о морали. Как сказал мне один из разработчиков роботов следующего поколения в ответ на вопрос о влиянии автоматизации на людей: «Об этом не надо думать, нужно только решить, что ты хочешь сделать, и приложить все силы для улучшения мира людей в целом».

На протяжении последнего полувека философии Маккарти и Энгельбарта оставались несовместимыми и их основное противоречие все еще не разрешено. Один подход направлен на вытеснение людей и их замену все более мощным комплексом программных и аппаратных средств. Другой ориентирован на расширение наших интеллектуальных, экономических и социальных возможностей с помощью тех же средств. Хотя пропасть между этими подходами мало кому заметна, взрывное развитие новой технологии, которая уже влияет на каждый аспект современной жизни, неизбежно вынесет проблему на поверхность.

Будут ли машины вытеснять живых работников или усиливать их возможности? На определенном уровне они будут делать и то и другое. Еще раз подчеркну, что это неправильный вопрос и ответ на него неполный. И виртуальные, и физические роботы достаточно гибки, чтобы стать в конце концов теми, кем мы захотим. В нынешней экономике подход к тому, как разрабатываются и используются и машины, и интеллектуальные системы, определяется чаще всего себестоимостью и выгодой, а себестоимость падает все быстрее. В нашем обществе, если задачу дешевле поручить машине – виртуальной или физической, – в большинстве случаев будет использоваться машина. Реализация этого – вопрос лишь времени.

Решение встать на ту или иную сторону в споре вдвойне трудно, поскольку нет очевидных правильных ответов. Хотя автомобили без водителей приведут к потере миллионов рабочих мест, они также сохранят множество жизней. Сегодня решения о применении технологий принимаются в основном на основе выгодности и эффективности, но очевидно нужна и новая система оценки с точки зрения морали. Дьявол, однако, кроется в деталях. Как и в случае ядерного оружия и атомной энергии, искусственный интеллект, генная инженерия и робототехника будут иметь в следующем десятилетии широкие социальные последствия, как желательные, так и не очень.

Глава 2

Авария в пустыне

Осенним утром 2005 г. по пустынной дороге недалеко от города Флоренс, штат Аризона, поднимая облако пыли, двигался автомобиль Volkswagen Touareg с четырьмя пассажирами. Он ехал со скоростью 30–40 км/ч, и случайный зритель не увидел бы ничего необычного в его движении. Дорога была исключительно неровной, она шла то вверх, то вниз по усеянной кактусами и низкорослой пустынной растительностью местности. Автомобиль нещадно болтало, и шлемы автогонщиков на головах всех четырех пассажиров были совсем не лишними. Touareg украшали наклейки участника гонок по бездорожью Baja 1000. Спереди над крышей автомобиля возвышались пять непонятных датчиков, направленных на дорогу. Было там и другое оборудование, включая несколько радаров. За ветровым стеклом виднелась видеокамера. А сзади на автомобиле торчала длиннющая штыревая антенна, которая вместе с датчиками придавала ему постапокалиптический вид, напоминая фильм про Безумного Макса.

Датчики на крыше были в действительности хитроумными штучками, каждый из них быстро сканировал инфракрасным лучом местность впереди. Невидимые глазу лучи отражались от гравийного покрытия дороги и всего, что встречалось в пустыне. Возвращаясь к датчикам, излучение несло информацию о непрерывно меняющемся окружающем ландшафте с точностью до сантиметра. Даже небольшие камни на дороге за сотню метров впереди не могли скрыться от пристального взгляда датчиков, известных как лидары.

Внутри Touareg был еще удивительнее. Водитель, специалист по робототехнике и искусственному интеллекту Себастьян Трун, не управлял машиной, а жестикулировал, разговаривая с другими пассажирами. Его взгляд редко падал на дорогу, а главное, руки не прикасались к рулевому колесу, которое поворачивалось само, как будто его крутил кто-то невидимый.

Позади Труна сидел другой компьютерщик, Майк Монтемерло, который тоже не управлял автомобилем. Его глаза были прикованы к экрану ноутбука, куда выводились данные с лазеров, радаров и камер, дававшие вид сверху на мир вокруг автомобиля, где препятствия выглядели как разноцветные точки на экране радара. Это непрерывно меняющееся облако цветных точек и было картиной лежащей впереди дороги в пустыне.

Автомобилем, который получил имя Stanley, управлял комплекс программ в пяти установленных в багажнике компьютерах. Трун был создателем роботизированной навигационной технологии, известной как SLAM (simultaneous localization and mapping), что означает «одновременная навигация и построение карты». Она стала стандартным инструментом для роботов при прокладке пути на неизвестной местности. По мере того как автомобиль катился по изрезанной колеями, обрамленной кактусами и усыпанной валунами дороге, руль поворачивался то в одну, то в другую сторону. Справа от Труна между передними сиденьями находилась большая красная кнопка аварийного останова, позволяющая отключить автопилот в экстренном случае. После десятка километров езда в беспилотном автомобиле стала наскучивать. Stanley двигался не по магистрали, и на фоне проплывающего мимо, как во время воскресной загородной прогулки, пустынного пейзажа шлемы автогонщиков стали казаться лишними.

Автомобиль готовили к участию во втором проводимом Пентагоном соревновании Grand Challenge – амбициозном состязании беспилотных автомобилей, целью которого было ускорение развития технологий для будущих роботизированных военных автомобилей. В начале XXI в. конгресс дал военным США зеленый свет на разработку беспилотных транспортных средств. Конгресс даже поставил перед Пентагоном конкретную цель: сделать к 2015 г. треть транспортных средств армии способной перемещаться без людей. Директива не определяла четко, должны ли такие транспортные средства быть беспилотными или управляемыми дистанционно. В любом случае идея заключалась в сбережении и денег, и жизней солдат. К 2004 г., однако, мало что изменилось, и Тони Тетер, в то время директор DARPA, предложил организовать конкурс, чтобы привлечь внимание программистов, профессоров учебных заведений и стремящихся к известности компаний к инновациям, где военные не добились успеха. Тетер был олицетворением военно-промышленного комплекса, а сам конкурс – вынужденным признанием того, что мир традиционных исполнителей оборонных заказов не способен выполнить эту работу. Открыв дверь для разношерстных групп любителей, Тетер рисковал взорвать засекреченный мир, где доминировали «бандиты с кольцевой» – компании, расположенные вокруг Вашингтона и занимающиеся выполнением госзаказов.

Первые соревнования Grand Challenge, проведенные в 2004 г., были неудачными – автомобили опрокидывались, ездили кругами и позорно сбивали ограждения. Даже самый успешный участник застрял в десятке километров от стартовой линии в 200-километровой гонке – одно колесо автомобиля беспомощно вращалось, а сам он балансировал на краю дороги. Когда пыль, поднятая участниками, осела, репортер, облетавший район на легком самолете, увидел ярко раскрашенные автомобили, рассеянные по пустыне. В то время казалось очевидным, что беспилотные автомобили – дело далекого будущего, и Тетера критиковали за организацию пропагандистского трюка.

Однако чуть более чем через год Трун сидел за рулем робота для соревнований второго поколения. Казалось, что будущее наступило раньше, чем ожидалось. Увы, хватило всего 20 км, чтобы убедиться в преждевременности технического энтузиазма. Stanley преодолел подъем и попал во впадину. Потом, когда нос автомобиля задрался вверх, система лазерного наведения обнаружила нависающую ветку дерева. В тот же момент автомобиль резко взял влево, затем вправо и съехал с дороги. Все произошло быстрее, чем Трун смог дотянуться до большой красной аварийной кнопки и нажать ее.

К счастью, автомобиль совершил довольно мягкую посадку. Touareg врезался в огромный терновый куст возле дороги. Он смягчил удар, и автомобиль остановился так, что даже подушки безопасности не сработали. Когда пассажиры осмотрели дорогу на месте аварии, стало очевидно, что все могло закончиться гораздо хуже. Куст обрамляли две впечатляющие кучи валунов, но VW избежал столкновения с ними.

Пассажиры выбрались из машины, а Трун залез на крышу, чтобы выставить заново датчики, расположение которых сбилось из-за аварии. Затем все вновь забрались в Stanley, и Монтемерло удалил виновный в аварии блок программного кода, который должен был сделать путешествие более комфортным для пассажиров. Трун включил автопилот, и машина вновь направилась вглубь Аризонской пустыни. Были и другие происшествия. Контроллер системы искусственного интеллекта не учитывал последствия попадания в илистые лужи, и позже в тот же день Stanley застрял в одной из них посреди дороги. К счастью, неподалеку находилось несколько обычных автомобилей сопровождения, и, когда колеса беспилотника начали беспомощно вращаться, команда помощников вытолкнула его из вязкой жижи.

Но это были мелочи для команды Труна (нескольких преподавателей Стэнфордского университета, инженеров компании VW и студентов-программистов), которая состязалась более чем с десятком других команд за приз в несколько миллионов долларов. Этот день был самым неудачным, потом дела резко пошли в гору. Как ни крути, а соревнования DARPA оказались водоразделом между миром, где роботы рассматривались как игрушки или диковинки для исследователей, и миром, в котором люди начали допускать, что роботы могут действовать самостоятельно.

Тест-драйв Stanley был предвестником будущей технологии. В произведениях писателей-фантастов уже не одно десятилетие фигурирует машинный интеллект, но, когда технологии начали реально появляться, они показались разочаровывающими. В конце 1980-х гг. любой попавший на Центральный вокзал Нью-Йорка видел почти у трети утренних пассажиров наушники Sony Walkman. Сегодня, конечно, Walkman уступили место белым наушниками iPhone компании Apple, и некоторые считают, что технология «от-кутюр» неизбежно приведет к будущей версии Google Glass, первой попытке разработчика поисковой машины расширить реальность, или, может быть, к еще более амбициозным или создающим эффект присутствия системам. Подобно лягушке в кастрюле на плите, не замечающей повышения температуры, мы не видим изменений, вызываемых быстрым ростом возможностей и распространением информационных технологий.

Walkman, iPhone и Google Glass – все это прообразы мира, где граница между человеком и машиной начинает размываться. В книге Уильяма Гибсона «Нейромант» (Neuromancer), научно-фантастическом романе, популяризирующим идею киберпространства, нарисована картина новой кибернетической территории из компьютеров и сетей. В ней описано будущее, в котором компьютеры не отдельные ящики, а единая плотная ткань, которая все больше окутывает людей, «расширяя» их чувства.

От утренних пассажиров с наушниками Sony Walkman и пользователей iPhone, погрузившихся в персональное звуковое пространство, не так уж далеко до носящих Google Glass городских хипстеров, уткнувшихся в отображающие окружающий мир крохотные дисплеи. Они пока что не «включены в сеть», как предсказывал Гибсон, однако ясно, что компьютерные и коммуникационные технологии быстро движутся в этом направлении.

Гибсон одним из первых предложил научно-фантастический взгляд на то, что было названо «усилением интеллекта». Он описывал компьютеризованные элементы, названные им «майкрософтами» с маленькой буквы «м», которые можно вставлять в основание черепа человека, чтобы мгновенно добавлять ему какое-либо умение, например новый язык. В то время, несколько десятилетий назад, эта технология была всего лишь научной фантастикой. Сегодня его представление о киборгах уже не кажется таким экстравагантным.

В 2013 г. президент Обама раскрыл информацию об инициативе BRAIN – попытке одновременно записать активность одного миллиона нейронов человеческого мозга. Одним из основных спонсоров инициативы BRAIN является DARPA, а это агентство заинтересовано не только в чтении из мозга. Работающие над проектом BRAIN ученые терпеливо разъясняют, что одна из целей плана – создание двухстороннего интерфейса для мозга человека и компьютера. Внешне подобная идея кажется крайне зловещей, вызывая образы верховного Старшего Брата и контроля мыслей. В то же время это утопический подтекст, присущий технологии. Потенциальное будущее представляет собой неизбежную траекторию создания интерфейса взаимодействия человека с компьютером, подразумеваемого в манифесте Ликлайдера 1960 г. «Человеко-машинный симбиоз» (Man-Computer Symbiosis), где он предсказал более тесное взаимодействие людей и машин.

Если мир «Нейроманта» был прекрасной научной фантастикой, то реальное вхождение в изображенный Гибсоном мир представляется туманным. Появление киборгов ставит вопрос о том, что значит быть человеком. Сама по себе это не новая проблема. Хотя сегодня технологии развиваются быстрее, чем когда-либо, они трансформировали людей и прежде, еще во времена укрощения огня или изобретения колеса (и его использования для перевозок в XX в.). С начала индустриальной эры машины вытесняли физический труд человека. С появлением компьютеров и компьютерных сетей впервые машины вытесняют «интеллектуальный» труд. Изобретение компьютера с самого начала вызывало дебаты о последствиях создания обладающих интеллектом машин. Новая волна технологий искусственного интеллекта возродила споры с удвоенной силой.

Экономисты-традиционалисты утверждают, что со временем численность рабочей силы растет, несмотря на изменяющийся характер работы, обусловленный технологиями и инновациями. В XIX в. более половины работающих были заняты в сельскохозяйственном производстве. Сегодня их доля сократилась почти до 2 %, но в других сферах экономики количество работающих значительно выросло. В самом деле, несмотря на две рецессии, между 1990 и 2010 гг. общая численность занятых в Соединенных Штатах увеличилась на 21 %. Если эти экономисты правы, вследствие автоматизации в ближайшем будущем экономических катаклизмов на социальном уровне не будет.

Вместе с тем сейчас мы вступаем в эру, когда людей все легче включить в «контур управления» или исключить из него даже в высокооплачиваемых и статусных профессиональных областях. На одном конце спектра небольшие роботы могут заниматься погрузочно-разгрузочными работами, а на другом программные «роботы» могут заменять работников колл-центров и офисных клерков, а также видоизменять такие требующие высокой квалификации профессии, как врач-рентгенолог. Где в будущем будет проходить граница между человеком и машиной и кто проведет ее?

Несмотря на активизацию дискуссии о последствиях автоматизации следующего поколения, почти не слышно споров о разработчиках и их системе ценностей. Когда отвертеться не удается, специалисты по компьютерам, робототехнике и технологиям излагают противоречивые взгляды. Одни хотят заменить людей машинами, другие смиряются перед неизбежным (выражение «Что касается меня, я приветствую наших господ – насекомых», позднее «господ – роботов», было мемом, который получил популярность из-за сериала «Симпсоны»), а третьи столь же страстно хотят создавать машины, расширяющие возможности человека. Вопрос о том, появится ли настоящий искусственный интеллект (концепция, известная как сильный искусственный интеллект или универсальный искусственный интеллект) и смогут ли машины делать что-то большее, чем просто подражать людям, также обсуждается не одно десятилетие. Сегодня все громче раздаются голоса ученых и технологов, высказывающих новые опасения относительно возможности появления обладающих самосознанием машин. Дискуссии о текущем состоянии технологии искусственного интеллекта скатываются в царство научной фантастики, а то и религии. Однако автономия машин уже не философский или гипотетический вопрос. Мы достигли точки, когда машины способны выполнять множество функций человека, которые требуют и интеллекта, и силы: они могут работать на фабриках, водить автомобили, диагностировать болезни и понимать документы и совершенно определенно могут управлять оружием и убивать с беспощадной точностью.

Противостояние искусственный интеллект – усиление интеллекта нигде не проявляется более отчетливо, чем в новом поколении систем вооружений, уже появившемся на горизонте. Разработчики из DARPA близки к тому, чтобы пересечь новый технологический порог при замене нынешних крылатых ракет новой противокорабельной ракетой большого радиуса действия (LRASM). Она должна поступить в Военно-морские силы США в 2018 г. В отличие от предшественников, этот новый вид оружия способен автономно принимать решения о выборе цели. LRASM должна достигать противника без контакта с диспетчером, а затем самостоятельно принимать решение, какую цель поразить.

Возникает новая этическая дилемма – позволят ли люди этому оружию спускать крючок по своему усмотрению, без контроля со стороны человека? Вариант этой же проблемы присущ быстрой компьютеризации автомобиля. В самом деле, транспортная сфера в целом очень показательна с точки зрения последствий появления новой волны умных машин. Искусственный интеллект должен оказать более сильное воздействие на общество, чем персональные компьютеры и интернет в начале 1990-х гг. Символично, что направление этой трансформации определяет технологическая элита.

Несколько лет назад Джерри Каплан, ветеран Кремниевой долины, который начал карьеру как исследователь искусственного интеллекта в Стэнфорде, а затем в 1980-х гг. стал одним из тех, кто ушел из этой области, предупредил группу стэнфордских специалистов по вычислительной технике и аспирантов: «От ваших сегодняшних действий здесь, в Лаборатории искусственного интеллекта, воплощающихся в создаваемых вами системах, может зависеть, как общество будет справляться с этой проблемой». Он утверждал, что неизбежное появление искусственного интеллекта следующего поколения несет с собой критически важный этический вызов: «Есть опасность, что мы выращиваем живых роботов за счет нашей собственной жизни»{10}. Проблема двойственности, о которой он говорил исследователям, заключается в пропасти между обладающими интеллектом машинами, которые заменяют человека, и компьютерными системами, расширяющими возможности человека.

Подобно многим другим технологам в Кремниевой долине, Каплан считает, что мы на грани создания экономики, которая функционирует практически без участия человека. Это может звучать апокалиптически, но описываемое Капланом будущее почти определенно придет. Его более глубокая мысль заключается в том, что сегодняшнее ускорение развития технологии – не слепой процесс. Он зависит от личного выбора каждого из инженеров, которые создают облик нашего будущего.

Осенью 2007 г. на заброшенной военной базе в калифорнийской пустыне на импровизированную гоночную трассу вышел коренастый человек с клетчатым флагом и энергично взмахнул им, когда мимо него плавно проехал внедорожник Chevrolet Tahoe. Это был Тони Тетер, директор DARPA.

За рулем автомобиля, украшенного большими буквами GM, не было водителя. В машине отсутствовали и пассажиры, более того, водителей и пассажиров не было ни в одном из других участвовавших в «гонке» автомобилей. Это действо, в котором автомобили беспрерывно колесили по городку, ранее использовавшемся военными для отработки действий в городских кварталах, вообще не выглядело как гонка. Оно больше походило на послеполуденный трафик в воскресный день в научно-фантастическом фильме вроде «Бегущего по лезвию» (Blade Runner).

В самом деле, это было необычное по любым меркам событие. Проводимое DARPA состязание Urban Challenge свело вместе специалистов по робототехнике, исследователей в области искусственного интеллекта, студентов, автомобилестроителей и программистов, которые занимались созданием роботов-автомобилей, способных автономно передвигаться в городских условиях. Оно было третьим в ряду соревнований, организованных Тетером. В то время военные технологии разрабатывались с целью повышения поражающей способности солдата, а не его замены. Для управления роботизированными военными самолетами требовались люди, а в некоторых случаях – многочисленные команды. В отчете научного совета Министерства обороны в 2012 г. отмечалось, что во многих военных операциях для обеспечения полета одного дрона нужна команда из нескольких сот человек{11}.

Наземные беспилотные транспортные средства были более серьезным вызовом. Дело в том, как заметил один из руководителей DARPA, что «земля твердая» не в смысле «как камень», а в том смысле, что «задача передвижения по ней – твердый орешек». Движение по дороге и без того сложно, но разработчики роботов-автомобилей должны справляться с бесконечной чередой особых ситуаций: движение ночью, движение против солнца, движение во время дождя, движение по льду – у списка нет конца.

Рассмотрим проблему создания машины, которая умеет реагировать на что-то простое на дороге, например пластиковый пакет. Пакет твердый или мягкий? Опасен ли он для автомобиля? На поле боя он может быть импровизированным взрывным устройством. Люди могут видеть подобные препятствия и реагировать на них без усилий при движении с низкой скоростью и при хорошей видимости. Для исследователей искусственного интеллекта, однако, решение этой проблемы – труднодостижимая цель в сфере машинного зрения. Это лишь одна из несметного числа задач, которые DARPA вознамерилось решить через организацию соревнований Urban Challenge для беспилотных автомобилей. В 1980-х гг. робототехники и в Германии, и в Соединенных Штатах добились кое-каких успехов на пути к созданию беспилотного автомобиля, но на практике оказалось легче построить робота для полета на Луну, чем робота, который сможет вести машину в часы пик. И вот Тони Тетер принял вызов. Предприятие было рискованным: если соревнования не дадут результатов, то Grand Challenge («Большой вызов», иначе) переименуют в «Блажь Тетера». Поэтому взмах клетчатым флагом на заключительной гонке символизировал в равной мере и победу Тетера, и победу беспилотников.

Впрочем, случались и неудачи. В тот период, когда Тетер возглавлял агентство, был нанят адмирал Джон Пойндекстер для создания так называемой системы Тотального сбора информации. Масштабный проект по сбору информации предназначался для выявления террористов в режиме онлайн путем сбора и сопоставления данных в океанах операций по кредитным картам, почтовых сообщений и телефонных разговоров. Проект вызвал взрыв общественного негодования в связи с нарушением права на личную жизнь, и вскоре, в мае 2003 г., был прекращен конгрессом. Хотя Тотальный сбор информации исчез из поля зрения общественности, в действительности он перешел в руки бюрократии из национальных разведывательных служб и всплыл вновь в 2013 г., когда Эдвард Сноуден выложил сотни тысяч документов, раскрывавших информацию о целом спектре систем для наблюдения за любой активностью, которая может представлять интерес. В пантеоне директоров DARPA Тетер был также чем-то вроде белой вороны. Он пережил скандал, связанный с Тотальным сбором информации, и продвигал агентство вперед в других областях, глубоко вникая и участвуя во всех исследовательских проектах. (Решение дать отмашку клетчатым флагом было очень символичным для пребывания Тони Тетера в DARPA – он контролировал все.)

DARPA создали после запуска советского спутника, который стал громом среди ясного неба для Америки, уверенной в своем технологическом лидерстве. С учетом поставленной цели – больше никогда не допускать технологического превосходства над США – директорами DARPA, при рождении называвшегося Агентством перспективных исследований и разработок, становились ученые и инженеры, готовые делать огромные ставки на фантастические проекты и имевшие тесные связи с лучшими исследователями в университетах.

С Тони Тетером, который представлял эпоху Джорджа Буша-младшего, все было не так. Он не один десяток лет проработал руководителем программ с подрядчиками, допущенными к военным секретам, и, как и многие в окружении Джорджа Буша, настороженно относился к академическим институтам, считая их слишком независимыми, чтобы им можно было доверить новую миссию. В этом нет ничего удивительного. Мировоззрение Тетера сформировалось, когда он был аспирантом по специальности «электротехника» в Стэнфордском университете в 1960-е гг., известном острыми разногласиями между антивоенно настроенными студентами и учеными и инженерами, разрабатывавшими во время Вьетнамской войны новейшие виды вооружений.

Став директором, Тетер начал менять культуру агентства, имевшего легендарную репутацию как участник изобретения всего – от интернета до истребителей-невидимок. Он быстро отобрал деньги у университетов и направил их военным подрядчикам, занимавшимся секретными разработками и поддерживавшим войны-близнецы в Ираке и Афганистане. Агентство переориентировалось с «фантастики» на «результаты». Публично Тетер доказывал, что инновации возможны и в условиях секретности, пока вы придерживаетесь конкурентной культуры Кремниевой долины с ее вихрем новых идей и вознаграждением за перспективные попытки, даже если они не удаются.

И Тетер определенно повел DARPA в новом направлении. Озабоченность тем, что тысячи ветеранов возвращаются домой калеками, и понимание того, что все больше зависит от правильности принятия решений, вдохновили его на вложение долларов агентства в разработки по расширению возможностей человека и в искусственный интеллект. Это означало разработку роботизированных протезов рук и ног для получивших увечья солдат и «советника для адмирала» – милитаризованную версию того, чем занимался Дуг Энгельбарт в 1960-х гг. со своим видением усиления интеллекта. Проект назвали «Интеллектуальный обучающийся помощник» (Perceptive Assistant that Learns – PAL) и поручили SRI International, где проекту дали свое название – «Помощник с функцией познания, обучения и организации» (Cognitive Assistant that Learns and Organizes – CALO).

По иронии судьбы Тетер вернулся к исследованиям, которые первоначально предложили в середине 1960-х гг. два мечтателя – руководители программ DARPA Роберт Тейлор и Дж. Ликлайдер. Хотя мало кто говорил об этом, но проект Дуга Энгельбарта в начале 1970-х гг., несмотря на огромные первоначальные успехи, застопорился и вышел из фавора в SRI. В конце концов его передали в работавшую в режиме разделения времени компанию для коммерциализации, где проект оставался относительно малозаметным и недофинансированным более десятилетия. Возобновление инвестиций DARPA вызвало волну коммерческих инноваций – наиболее значительным последствием CALO стало появление персонального помощника Siri компании Apple, прямого потомка подхода Энгельбарта.

Проект Тетера Grand Challenge, соревнование беспилотных автомобилей, привлек множество «гаражных» изобретателей и энтузиастов. На языке военных это называлось «увеличением боевых возможностей» – агентство получило во много раз больше инноваций, чем дал бы традиционный путь. Но по сути конкретная задача, которую взялся решать Тетер, была поставлена более десятилетия назад в том самом сообществе университетских исследователей, к которому он сейчас относился недоброжелательно. За роботом-внедорожником GM, победившим в Urban Challenge в 2007 г., стоял робототехник из Университета Карнеги – Меллона, который добивался этого приза более десятилетия.

Когда осенью 2005 г. вторая гонка роботов Тетера по калифорнийской пустыне закончилась на границе со штатом Невада, робототехники Стэнфордского университета ликовали. Stanley, некогда постоянно натыкавшийся на препятствия компьютеризированный Volkswagen Touareg, одержал неожиданную победу и проехал с развевающимся флагом под аплодисменты нескольких тысяч зрителей.

Всего в нескольких метрах в лагере другой группы царила мрачная атмосфера раздевалки проигравшей футбольной команды. Команда Карнеги – Меллона считалась бесспорным фаворитом с двумя роботами-машинами и несомненным лидером, бывшим военным моряком и скалолазом Уильямом «Рэдом» Уиттакером. Его команда проиграла гонку из-за ужасного невезения. Полтора года назад Уиттакер блистал в первой гонке DARPA с другим автомобилем GM Humvee и уступил только из-за того, что автомобиль чуть-чуть занесло на крутом подъеме. Застряв в песке, он выбыл из гонки. До этого робот Уиттакера был на голову выше остальных. Поэтому, когда Уиттакер в следующий раз выставил два автомобиля в сопровождении отряда специалистов по фотограмметрии, тщательно изучивших трассу перед соревнованиями, его считали несомненным фаворитом.

И вновь неудачное стечение обстоятельств. Основной автомобиль Уиттакера шел впереди Stanley почти до конца гонки, но из-за сбоя он резко замедлил движение, пропустил команду Стэнфорда и в результате отдал ей приз размером $2 млн. После второго поражения Уиттакер произнес перед своей командой вдохновенную речь, достойную тренера футбольной команды любого колледжа в стиле кинофильма «Каждое воскресенье»[3]. Поражение было болезненным, поскольку лидеры команды Стэнфорда Себастьян Трун и Майк Монтемерло были раньше робототехниками в Университете Карнеги – Меллона, а затем перешли в Стэнфорд и стали конкурентами. Даже годы спустя оно не забылось. У двери офиса Уиттакера в университете висит фото неудачно выступившей команды конструкторов роботов-автомобилей, а сам Уиттакер частенько встречает посетителей в коридоре и рассказывает в деталях эту историю.

Удар по самолюбию был очень чувствительным, ведь Рэд Уиттакер во многих отношениях считался ведущим специалистом по робототехнике в стране. Ко времени Grand Challenge он уже пользовался славой создателя роботов, способных работать в недоступных людям местах. Десятилетиями в нем прекрасно уживались уверенность во всемогуществе и дух авантюриста. Родители Уиттакера увлекались авиаспортом с элементами высшего пилотажа. Его отец, бывший пилот бомбардировочной авиации, после войны занимался продажей взрывчатых веществ для горных работ. Его мать, химик, также была пилотом. Когда он был еще юношей, она однажды пролетела с ним под мостом{12}.

Уиттакер вырос в Пенсильвании, поэтому ему был близок подход, ориентированный на использование машин прежде всего для расширения возможностей искателей приключений, подход в традициях Ивона Шуинара, легендарного скалолаза, придумывавшего и изготавливавшего собственное снаряжение для скалолазания, или Жака Кусто, исследователя подводного мира, который сам создавал водолазное снаряжение. Имея диплом Принстона по специальности «гражданское строительство» и двухлетний опыт службы сержантом в морской пехоте, Уиттакер был пионером в сфере «полевых» роботов – машин, которые выходили из лаборатории и действовали в обычном мире.

Но в мире роботов Рэда Уиттакера люди все еще играли очень большую роль. Ведь он использовал технику для расширения своих возможностей как искателя приключений. Он создавал машины, которые работали во время аварий на атомных станциях и на острове Три-Майл-Айленд, и в Чернобыле. В конце 1980-х гг. он разработал огромного, почти 6-метрового робота, названного Ambler, который должен был ходить по Марсу. Он отправил робота в вулкан и был одним из первых робототехников США, прорабатывавших идею беспилотного автомобиля в рамках проекта лаборатории навигации Университета Карнеги – Меллона.

«Это не фабрика будущего, – с гордостью говорил он. – Идеи, которые подходят для фабрики, не годятся для внешнего мира»{13}.

В молодости Уиттакер пробовал себя и в гребле, и в борьбе, и в боксе, и в альпинизме. Его любовь к приключениям не обошлась без личных трагедий. Он отдал 10 лет жизни скалолазанию и оторвался от своих проектов по созданию роботов, чтобы побывать в Йосемитском национальном парке и в Гималаях. На его счету был даже одиночный подъем по восточному склону горы Маттерхорн в зимних условиях. В скалолазание Уиттакер пришел случайно, как член местного клуба путешественников в Питтсбурге. Страстью оно стало только после знакомства с другим молодым скалолазом по объявлению: «Эксперт по скалолазанию обучит своему искусству хорошего человека». В объявлении была приписка: «У вас должен быть автомобиль».

Эти двое стали неразлучными партнерами в скалолазании на целое десятилетие.

Волшебное для Уиттакера время неожиданно закончилось однажды летом, когда они занимались альпинизмом в Перу. Его питтсбургский друг поднимался с другим молодым альпинистом. Они шли в связке, молодой напарник поскользнулся, и оба скалолаза пролетели почти 300 м по уступам. Уиттакер, который совершал восхождение самостоятельно, смог спасти молодого скалолаза, но его друг погиб. Уиттакер вернулся в Питтсбург, потрясенный происшедшим. Прошло несколько месяцев, прежде чем он решился прийти к родителям своего погибшего напарника, чтобы убраться в его комнате.

Смерть товарища наложила свой отпечаток на Уиттакера – он оставил скалолазание, однако его по-прежнему манили приключения. Выходом стала разработка еще более экзотических роботов, способных выполнять самые разные задачи – от простого обследования до сложного ремонта. Они давали возможность включить в сферу приключений вулканы, а в конце концов, не исключено, Луну и Марс. Даже во времена его активных занятий скалолазанием в 1970–1980 гг. было трудно отыскать неизведанную территорию, а «виртуальное исследование» позволяло открывать новые горизонты бесконечно, и Уиттакер вновь мог совершать восхождения и спускаться на веревке, на этот раз посредством дублера – антропоморфного робота в другом мире.

Уиттакер взял реванш за горькое поражение от стэнфордского Stanley через несколько лет, во время третьего Grand Challenge в 2007 г. Его GM Boss победил в финале соревнований по вождению в городских условиях Urban Challenge.

Одно из самых старых преданий Кремниевой долины связано с тем, как Стив Джобс переманил генерального директора компании Pepsi Джона Скалли в Apple, поинтересовавшись, устраивает ли того перспектива провести остаток жизни, продавая сладкую воду. Возможно, это покажется наивным, но дух Долины – изменение мира. Эта идея лежит в центре концепции «масштаба», которая объединяет программистов, разработчиков железа и венчурных капиталистов. Недостаточно получить прибыль или создать что-то прекрасное. Это должно изменить мир. Это должно быть тем, что окажется под 95 % новогодних елок в мире или даст чистую воду или электричество миллиардам людей.

Генеральный директор Google Ларри Пейдж воспользовался подходом Стива Джобса, когда приглашал Себастьяна Труна. Трун был быстро растущим ученым, который во время годового творческого отпуска в Стэнфорде в 2001 г. открыл для себя мир Кремниевой долины. В нем было гораздо больше возможностей, чем получение штатной преподавательской должности, публикации и обучение студентов.

Трун вернулся в Стэнфорд в качестве старшего преподавателя в 2003 г. На первых соревнованиях DARPA Grand Challenge он присутствовал как обозреватель. Соревнования беспилотных автомобилей полностью изменили его взгляд на будущее: он понял, что и за пределами замкнутого академического сообщества есть великие мыслители, глубоко заинтересованные в изменении мира. Во время краткого возвращения в Университет Карнеги – Меллона он послал письмо Уиттакеру, предлагая помощь в разработке программ, но получил отказ. Перейдя в Стэнфорд, Трун перетащил за собой группу студентов из Университета Карнеги – Меллона, включая Майка Монтемерло, отец которого был робототехником в NASA. Монтемерло подготовил доклад, посвященный первому соревнованию DARPA. Завершался доклад слайдом с вопросом «Должны ли мы в Стэнфорде принять участие в Grand Challenge?», и там же был ответ Монтемерло, выделенный крупным шрифтом, – «НЕТ!» Причин для отказа набралось с десяток, в том числе отсутствие шансов на победу, чересчур сложная задача, слишком дорогое удовольствие. Трун смотрел на Монтемерло и понимал, что, хотя на бумаге тот был крайне пессимистичен, все его поведение говорило об обратном.

Вскоре после этого Трун с головой погрузился в подготовку к соревнованиям DARPA. Впервые в жизни он чувствовал, что занимается чем-то, что действительно может оказать широкое влияние. Пропадая неделями в Аризонской пустыне, питаясь только пиццей, его команда работала над автомобилем, пока, наконец, он не стал ездить по проселочным дорогам без проблем.

Монтемерло и Трун олицетворяли идеальное единство противоположностей. Монтемерло был по сути консерватором, а Трун – крайне склонным к риску. Как главный разработчик программного обеспечения Монтемерло встраивал свои консервативные подходы в программы. Трун украдкой просматривал код и превращал ограничения в комментарии, чтобы заставить автомобиль двигаться быстрее. Это приводило Монтемерло в неистовство. Но в конечном итоге их сотрудничество приносило победу.

Ларри Пейдж говорил Труну, что если реально сконцентрироваться на чем-то, то можно достичь поразительных результатов. Он был прав. Когда Stanley взял приз DARPA, $2 млн, Трун серьезно задумался над словами Пейджа. Они стали друзьями после того, как Трун помог соучредителю Google отладить домашнего робота, с которым Пейдж никак не мог справиться. Трун взял его на время и вернул уже способным ориентироваться у Пейджа дома.

Навигация, обязательный атрибут автономных роботов, стала областью специализации Труна. В Университете Карнеги – Меллона и позже в Стэнфорде он занимался развитием технологии SLAM, начало которой положили разработчики первых мобильных роботов в Стэнфордском исследовательском институте в 1960-х гг. Трун помог сделать технологию более быстрой и точной и проложил путь для ее использования в беспилотных автомобилях. В Университете Карнеги – Меллона он начал привлекать внимание всей страны к мобильным роботам. В 1998 г. в Смитсоновском институте, округ Колумбия, он продемонстрировал мобильного гида Minerva для музея, который был подключен к сети, мог взаимодействовать с посетителями и двигаться со скоростью до 6 км/ч. Трун работал с Рэдом Уиттакером над роботами для подземных работ, которые были немыслимы без технологии SLAM. Он также пытался внедрить мобильных и автономных роботов в сферу ухода за детьми и престарелыми, но не добился успеха. Это стало для него поучительным опытом и позволило осознать ограничения, присущие использованию технологий для решения человеческих проблем. В 2002 г. в рамках совместного проекта двух университетов Трун представил новую быстродействующую модификацию SLAM, названную Fast-SLAM, которая могла использоваться в реальном мире с его тысячами объектов. Это был один из первых примеров новой волны систем искусственного интеллекта и роботов, опиравшихся на вероятностные и статистические методы, а не на основанные на правилах выводы.

В Стэнфорде Трун быстро сделал карьеру и стал директором возрожденной Лаборатории искусственного интеллекта, основанной Джоном Маккарти в 1960-х гг. Вместе с тем не менее быстро его стала раздражать жизнь профессора университета, вынужденного разрываться между преподаванием, публичными выступлениями, составлением заявок на предоставление грантов, работой в комитетах, проведением исследований и наставничеством. После победы в DARPA Grand Challenge 2005 Трун стал более заметным в сфере высоких технологий. В своих выступлениях он говорил о том, что по вине водителей в мире ежегодно погибают и остаются калеками более миллиона человек. Он рассказывал и о своих потерях. Его близкий друг погиб в автомобильной аварии, когда Трун учился в средней школе в своей родной Германии. Многие из его близких потеряли друзей в результате дорожно-транспортных происшествий. А не так давно родственница секретаря факультета в Стэнфорде стала калекой после того, как в ее автомобиль врезался грузовик. В одно мгновение она превратилась из полной жизни молодой девушки в человека, жизнь которого испорчена навсегда. Стремление изменить мир приводило Труна на мероприятия вроде конференции некоммерческого фонда TED.

Построив два автомобиля для соревнований DARPA, Трун решил оставить Стэнфорд. Пейдж предложил ему возможность заниматься вещами «масштаба Google»: это означало, что его работа будет затрагивать весь мир. Он без особого шума создал лабораторию, чем-то похожую на Xerox PARC, легендарный центр исследований, ставший местом рождения современного персонального компьютера, первых компьютерных сетей и лазерного принтера. Там он занялся созданием беспилотных автомобилей и переосмыслением идеи мобильных компьютерных технологий. В числе прочего он помог запустить проект Google Glass, который был попыткой встроить вычислительные возможности, включая видео– и аудиофункционал, в обычные очки.

В отличие от лабораторий предшествующей эпохи, ориентировавшихся на фундаментальную науку, таких как IBM Research и Bell Labs, X Lab компании Google была по стилю ближе к PARK, созданной, чтобы вывести гиганта в области копировальной техники, «компанию бумажных документов», в компьютерную индустрию и конкурировать непосредственно с IBM. X Lab должна была вывести Google на новые рынки. Google, являясь монополистом в области поисковых систем в интернете с прибылью более $1 млрд в месяц в конце 2013 г., открыла финансирование амбициозных исследований и разработок, совершенно не связанных с ее основным бизнесом. Google славилась своим правилом 70-20-10, предполагавшим предоставление инженерам времени для ведения собственных проектов. Сотрудникам разрешалось использовать 10 % своего времени на проекты, совершенно не связанные с основным бизнесом компании. Основатели Google Сергей Брин и Ларри Пейдж верили в масштабное мышление. Они называли это «стрельбой по луне»: не чистая наука – исследовательские проекты, которые запускаются в расчете на коммерческий, а не чисто научный результат.

Это была идеальная среда для Труна. Его первый проект в 2008 г. предполагал создание парка автомобилей Street View для систематической цифровой съемки домов и производственных зданий на улицах по всей стране. На следующий год он начал еще более амбициозную программу: создание беспилотного автомобиля, способного ездить по дорогам общего пользования. В этом проекте Трун действовал одновременно и осмотрительно, и смело. Одной аварии было достаточно, чтобы поставить крест на беспилотнике Google, поэтому с самого начала особое внимание уделялось режиму безопасности. Трун ясно сознавал, что малейшее проявление неосторожности при движении беспилотника обернется катастрофой. Он никогда не допускал неопытных водителей к испытаниям небольшого парка автомобилей Toyota Prius, на которых отрабатывалась система. В конечном итоге автомобили накрутили больше полумиллиона километров без происшествий, но Трун знал, что даже одна ошибка на 50 000 или 100 000 км – слишком много. В то же время он не сомневался в реальности изменения представления о том, что значит ехать в автомобиле.

Как и все в автомобилестроении, Трун и его команда верили в зависимость цены от объема производства, иными словами, в снижение цены с ростом выпуска конкретной продукции. Да, сегодня единственный экспериментальный лазерный локатор может обойтись вам в десятки тысяч долларов, но инженеры Google не сомневались, что через несколько лет он сильно подешевеет и не будет умопомрачительной статьей расходов в счете за оснащение автомобиля. Трун всегда полагал, что нужно заниматься более надежными системами в расчете на последующее удешевление в процессе массового производства. Дорогостоящие системы лазерного наведения содержат не так уж много компонентов, а значит, нет оснований считать, что их цены не могут быстро снизиться. Так было в случае радара, который некогда считался сложной военной и авиационной технологией, но в последние годы начал появляться в детекторах движения и дорогих автомобилях.

Трун смотрел на мир глазами инженера и был сторонником либертарианских взглядов. Он поддерживал точку зрения деловых кругов, которые считали, что глобальная компания – эволюционный шаг за пределы национального государства. Он также разделял общую для Долины веру, что в течение трех десятилетий 90 % видов живого труда отомрут под натиском искусственного интеллекта и роботизации. Трун верил, что львиная доля выполняемых людьми работ на самом деле бесполезна и не приносит удовлетворения. Существует бесчисленное количество видов ручной работы – от погрузки-разгрузки грузовиков до управления ими, которые могут исчезнуть в течение следующего десятилетия. Он также верил, что значительная часть чиновничьей работы на самом деле контрпродуктивна. Чиновники лишь затрудняют работу других людей. С таким же презрением Трун относился к закоснелой, на его взгляд, автомобильной промышленности Детройта, которая могла легко использовать технологию для радикальной перестройки транспортных систем и обеспечения их безопасности, но практически не занималась этим и ограничивалась лишь ежегодным изменением формы спойлеров. К 2010 г. он подготовил нечто неожиданное для отрасли, которая менялась со скрипом и которой была чужда культура Кремниевой долины{14}.

Организованные DARPA гонки встряхнули Детройт, колыбель американского автомобилестроения, но отрасль не изменила своей традиционной позиции и твердо стояла на том, что автомобилями должны управлять люди, а не роботы. В общем и целом отрасль сопротивлялась внедрению компьютерных технологий. Многие автопроизводители придерживались философии «компьютеры – источник глюков». Но инженеры по всей стране уже начали думать о месте дешевых датчиков, микропроцессоров и интернета в транспорте.

Весной 2010 г. по Кремниевой долине поползли слухи об экспериментальном автомобиле Google. Поначалу им просто не верили. Надо же такое вообразить – компания, известная как поисковая служба в интернете, незаметно занимается автомобилями под носом у всех. Затем появилась информация о том, что робот-автомобиль Google проехал от Сан-Франциско до Лос-Анджелеса по шоссе ночью! Это не лезло ни в какие ворота и сразу вызвало волну насмешек и язвительных замечаний, что подобное было бы незаконным, даже если оно и возможно. Такая безумная выходка вряд ли сошла бы им с рук.

Конечно, молодые учредители Google Сергей Брин и Ларри Пейдж к тому времени уже сформировали в общественном мнении положительное отношение к экстравагантным системам на основе искусственного интеллекта и других футуристических технологий, которые должны преобразовать мир. Генеральный директор компании с 2001 г. Эрик Шмидт не раз говорил репортерам, что его задача – присматривать за учредителями и подсказывать им, какие идеи выше, а какие ниже «планки». Как известно, учредители одно время загорелись идеей космического лифта. Все началось с появления нового, невероятно прочного материала. Казалось, теперь можно отказаться от ракет, протянуть канат от Земли до орбиты и с небольшими затратами поднимать людей и материалы в космос. Когда Шмидта спросили относительно этой идеи, он подчеркнул, что это одна из идей, которая действительно рассматривалась, но была – по меньшей мере на тот момент – «ниже планки».

В сообществе технарей Кремниевой долины трудно делать что-либо втайне. Было очевидно: что-то готовится. Не прошло и года после финала DARPA Grand Challenge в 2007 г., как Себастьян Трун ушел из Стэнфорда и стал штатным сотрудником Google. Его уход был тихим и не упоминался в прессе, однако элита компьютерной индустрии Долины восприняла это событие с огромным интересом. Через год на конференции по искусственному интеллекту на Аляске Трун, сидя в баре с коллегами, обронил несколько крайне любопытных замечаний. Его слова дошли до Кремниевой долины и вызвали немалое удивление.

В конце концов школьный друг одного из низкооплачиваемых водителей, которого компания наняла присматривать за своими роботизированными автомобилями, проговорился. Одному из парней, с которыми я учился в школе, Google платит $15 в час за то, чтобы он сидел в автомобиле, который едет сам! Дальше прятать шило в мешке было бессмысленно. Компания стала оставлять свои беспилотные автомобили на общих парковках в кампусе Google.

Инженеры Google даже не пытались спрятать датчики на крышах нескладных созданий, которые казались еще более странными, чем их предшественник Stanley. Вместо набора датчиков над ветровым стеклом каждый Prius имел лидар с круговым обзором, приподнятый на 30 см над центром крыши. Изготовленный местной хай-тек-компанией Velodyne лазерный локатор с механическим приводом размером с банку из-под кофе позволял создавать карту местности в радиусе несколько сотен метров в реальном времени. Это было недешево: в то время один лишь лидар добавлял $70 000 к стоимости автомобиля.

Почему автомобили Toyota странного вида с радарами, камерами, GPS-системами и инерциальными навигационными системами оставались незамеченными так долго? Это объясняется несколькими причинами. Часто автомобили ездили ночью, и люди принимали их за вездесущие автомобили сервиса Google Street View с большой камерой над крышей, делавшей снимки для формирования видов улиц. (Они также регистрировали расположение Wi-Fi сетей жителей, которые впоследствии могли использоваться для повышения точности определения местоположения смартфонов Google Android.)

Сервис Street View обычно успешно служил прикрытием для автомобилей, но случались и осечки. Участником первого столкновения с правоохранительными органами стал инженер Google, специалист по робототехнике Джеймс Куффнер. Он сделал себе имя в Университете Карнеги – Меллона на проектах в области навигации и создания человекоподобных роботов. Его специализацией было планирование движения – обучение машины ориентированию в реальном мире. Он увлекся роботизированными автомобилями, работая в команде Рэда Уиттакера, и, когда ключевые члены группы начали переключаться на секретный проект Google под кодовым названием Chauffeur, он последовал за ними.

Однажды поздно ночью он испытывал роботизированный автомобиль Prius в Кармеле, одном из не очень плотно застроенных районов, на которых специализировалась его команда. Ночное время выбрали потому, что испытателям требовались детальные карты с сантиметровой точностью, а базовое картирование было проще выполнить, когда на улицах никого нет. Катаясь по городку с такой заметной штукой, как лидар, Куффнер и его коллеги привлекли внимание полицейского, которому мелькание автомобиля показалось подозрительным.

Он оставил автомобиль и спросил, показывая на крышу: «Что это?»

У Куффнера, сидевшего на водительском месте, как и у всех других водителей в Google, были четкие инструкции для такого случая. Он достал и протянул полицейскому заранее подготовленный документ. Когда полицейский прочитал бумагу, у него от удивления вылезли глаза на лоб. Он был поражен и еще долго беседовал с инженерами Google о будущем транспорта.

Этот случай не получил широкого освещения, но, когда я, работая как корреспондент The New York Times, обнаружил автомобили на парковке компании, инженеры Google были уже не слишком суровыми и предложили мне прокатиться.

С заднего сиденья мне было прекрасно видно, насколько Google обошла автомобили Grand Challenge всего за три года. Технология, используемая в автомобиле Prius компании Google, во многом повторяла технологию DARPA, но она была лучше отработана. При включении автопилота воспроизводилась мелодия из сериала «Звездный путь». С технической точки зрения поездка была демонстрацией превосходной работы. Тест-драйв начался с того, что автомобиль плавно проехал от кампуса Google по улицам города Маунтин-Вью. Он останавливался и на знаках СТОП, и на светофорах, а затем влился в плотный поток транспорта на шоссе 101. На следующей развязке автомобиль проехал по разворотной эстакаде и взял обратный курс. Самым поразительным для пассажира-новичка было то, что беспилотник повернул точно так же, как это сделал бы человек. В поведении автомобиля, управляемого искусственным интеллектом, не было абсолютно ничего от робота.

Когда The New York Times опубликовала статью об этой поездке, она поразила Детройт как удар молнии. Отрасль внедряла компьютерные технологии и датчики в автомобилестроение безумно медленными темпами. Хотя круиз-контроль был стандартом уже не одно десятилетие, интеллектуальный круиз-контроль, автоматически поддерживающий движение в соответствии с трафиком, в 2010 г. все еще оставался экзотическим будущим. У некоторых автопроизводителей уже были отделения в Кремниевой долине, но после шумихи вокруг автомобиля Google все бросились строить лаборатории поблизости. Никто не хотел повторить судьбу производителей компьютерного железа после того, как стандартом отрасли стала система Microsoft Windows и все, что ей не соответствовало, превратилось в бросовый товар. Ситуация была очень похожей.

В то же время в обществе реакция на автомобиль Google была неоднозначной. В научной фантастике уже давно существовала традиция представления футуристических роботов-автомобилей в стиле мультфильма «Джетсоны» (Jetsons). Они даже стали героями телевизионных сериалов, например «Рыцаря дорог» (Knight Rider), выпущенного в 1980-х гг., где борцу с преступностью помогает обладающий искусственным интеллектом автомобиль. Существовал также и негативный взгляд на движение под управлением автопилота, представленный лучше всего, пожалуй, в научно-фантастическом триллере Даниэля Суареса 2009 г. «Демон» (Daemon), в котором автомобили с искусственным интеллектом не только ездят, но и давят людей. В целом же в обществе преобладала крайне скептическая точка зрения на то, что автомобили без водителей когда-нибудь станут реальностью. Как бы то ни было, Себастьян Трун однозначно настаивал на том, что люди – отвратительные водители в силу присущей человеку склонности к ошибкам и невнимательности. К моменту обнародования информации о проекте автомобили Google наездили более 150 000 км без аварий, а за следующие несколько лет эта цифра превысила 800 000 км. Молодой инженер Google Энтони Левандовски постоянно ездил из Беркли в Маунтин-Вью, расстояние между которыми составляло 80 км, на одном из автомобилей Prius, а Трун позволял автомобилю Google возить себя из Маунтин-Вью до загородного дома на озере Тахо в выходные.

Частично автономные автомобили уже появились на рынке. Они обозначили два подхода к транспорту будущего: один – расширение возможностей водителей-людей и повышение безопасности движения, другой – превращение людей в пассажиров.

В Google помалкивали относительно того, как они собираются коммерциализировать свои исследования, однако к концу 2013 г. полдесятка автопроизводителей публично заявили, что намерены предлагать автономные автомобили. И впрямь, в 2014 г. несколько европейских компаний, включая BMW, Mercedes, Volvo и Audi, анонсировали опцию – систему помощи в пробках, первый детский шаг на пути к автопилоту. В Audi, например, во время движения по шоссе автомобиль может ехать самостоятельно при скорости движения меньше 60 км/ч, соблюдая рядность и требуя вмешательства водителя лишь из опасения, что он может заснуть или отвлечься. В конце 2014 г. Tesla анонсировала систему «автопилот» для своего автомобиля Model S, позволяющую ему в некоторых ситуациях на шоссе ехать самостоятельно.

Автономный автомобиль обостряет дилемму «искусственный интеллект – усиление интеллекта». Если оставить в стороне споры относительно ответственности – кто будет платить, когда первый человек погибнет под колесами робота-автомобиля, – планка, которую автомобили должны преодолеть для повышения безопасности, в действительности невероятно низка. По оценкам Национальной администрации безопасности движения на шоссейных дорогах, проведенным в 2012 г., применение всего лишь электронной системы курсовой устойчивости на легковых автомобилях спасет почти 10 000 жизней и предотвратит почти четверть миллиона случаев травмирования{15}. Управление транспортом вполне может стать одной из областей жизни, из которой человек будет практически исключен. Даже полностью сосредоточенный человек не слишком хороший водитель, а что уж говорить о тех, кто отвлекается на гаджеты, которых все больше вокруг. От самих себя нас спасут лишь дешевые камеры, радары и лидары, которые в сочетании со способными распознавать объекты компьютерами будут непрерывно вести наблюдение за пространством вокруг наших автомобилей независимо от того, сидим мы за рулем или едем как пассажиры.

Озарение пришло к Амнону Шашуа, когда он, студент последнего курса по информатике в Иерусалиме, сидел в библиотеке. Из статьи Шимона Ульмана, который был первым аспирантом у пионера в области исследования зрения Давида Марра, он неожиданно для себя узнал, что сетчатка глаза человека во многих отношениях является компьютером. Ульман был компьютерщиком и специализировался на изучении зрения и людей, и машин. Мысль о том, что внутри глаза происходит обработка данных, захватила Шашуа, и он решил пойти по стопам Ульмана.

Шашуа приехал в Массачусетский технологический институт в 1996 г. для изучения проблемы искусственного интеллекта, когда отрасль восстанавливалась после очередного спада. Компании пытались создавать коммерческие экспертные системы на основе правил и логического подхода, предложенного пионерами искусственного интеллекта вроде Эда Фейгенбаума и Джона Маккарти. На заре развития искусственного интеллекта казалось, что встроить предметные экспертные знания в программную оболочку довольно просто, однако программы были ненадежными и не имели успеха на рынке, что привело к краху целого ряда амбициозных стартапов. Теперь же мир искусственного интеллекта возрождался. Прогресс, который первые три десятилетия был сравнительно медленным, наконец стал очевидным в 1990-х гг., когда статистические методы сделали проблему систематизации и принятия решений разрешимой. Эксперименты в области искусственного интеллекта пока что не приносили грандиозных результатов, поскольку компьютерам той эпохи не хватало мощности для обработки необходимых данных, но новые идеи уже витали в воздухе.

В аспирантуре Шашуа сосредоточился на перспективном подходе к визуальному распознаванию объектов путем получения множества изображений и определения геометрии. Идея была заимствована из сферы компьютерной графики, где ее предложил Мартин Ньюэлл в период учебы в магистратуре в Университете Юты. В 1970-е гг. в стенах этого университета родилось немало подходов к созданию компьютерной графики. На эту идею Ньюэлла натолкнул обычный чайник Melitta. Однажды, когда он за чаем обсуждал проблемы моделирования объектов с женой, она предложила ему смоделировать этот чайник, который впоследствии стал иконой исследований в области компьютерной графики.

В Массачусетском технологическом институте Шашуа учился у специалистов в области компьютерного зрения Томми Поджио и Эрика Гримсона. Поджио был ученым, работавшим на стыке вычислительной техники и нейробиологии. Гримсон, специалист по вычислительной технике, позже стал ректором Массачусетского технологического института. В то время казалось, что от определения формы объектов до их распознавания один шаг, однако разработка программ распознавания оказалась сложнейшей задачей. Даже сегодня заветная цель – «понимание сцен» (например, не только идентификация фигуры как женщины, но и определение того, что она делает) – недостижима, и существенный прогресс заметен лишь в некоторых узких областях. Так, многие автомобили могут сейчас распознавать пешеходов и велосипедистов и сбрасывать скорость до столкновения.

Шашуа стал одним из мастеров по освоению таких областей. В академическом мире, где специалисты в области мозга вели бесконечный спор со специалистами по теории вычислительных машин, он примкнул к группе, позиция которой выражалась словами «хотя самолеты не машут крыльями, это не означает, что они не могут летать». После аспирантуры Шашуа вернулся в Израиль и основал успешную компанию Cognitens, использующую моделирование зрения для создания невероятно точных трехмерных моделей деталей промышленного назначения. Эти образы с допусками не больше толщины волоса позволяли производителям из разных отраслей, от автомобильной до аэрокосмической, создавать цифровые модели существующих деталей для проверки их годности и качества поверхности. На компанию быстро нашелся покупатель.

В поисках нового применения сил Шашуа узнал от бывшего клиента об автопроизводителе, которому нужна технология стереозрения для компьютерной системы управления. Там знали о работе Шашуа в области геометрии множественных проекций и поинтересовались, не может ли он предложить что-либо в области стереозрения. Шашуа ответил: «Вопрос, конечно, интересный, но вам не нужна стереосистема, можно обойтись и одной камерой». Он пояснил, что, если нужно, люди способны определять расстояние с помощью одного глаза.

Предприимчивый Шашуа убедил General Motors вложить $200 000 в разработку демонстрационного программного обеспечения, а потом предложил своему другу, бизнесмену Зиву Авираму, создать новую компанию. «Это шанс, – сказал он. – Поле для игры здесь огромно, все представляют его совершенно неправильно, а у нас уже есть готовый платить заказчик». Они назвали новую компанию Mobileye. Шашуа написал демонстрационную программу для настольного компьютера и вскоре показал систему машинного зрения с одной камерой, которая в то время казалась автомобилестроителям научной фантастикой.

Через полгода после начала проекта Шашуа узнал от крупного поставщика автокомпонентов, что General Motors собирается объявить конкурс на разработку способа предупреждения водителей о выходе автомобиля из своего ряда. До этого Mobileye концентрировалась на далеких от практической реализации проблемах, таких как обнаружение автомобилей и пешеходов, которые считались в отрасли неразрешимыми. Но поставщик автокомпонентов посоветовал Шашуа: «Вы должны показать что-нибудь прямо сейчас. Важно зацепить автопроизводителей чем-то реальным, а потом можно работать дальше».

Эта идея показалась Шашуа разумной, и он подключил на пару месяцев одного из своих студентов в Еврейском университете к этому проекту. Демонстрационная программа удержания полосы движения получилась довольно приличной, но Шашуа понимал, что она вряд ли превзойдет программы конкурентов, начавших заниматься разработкой раньше, и что у молодой компании практически нет шансов на победу.

А потом его осенило. Он добавил в программу функцию обнаружения автомобилей, а в GM сказал, что эта возможность – техническая накладка, на которую не нужно обращать внимания. «В следующей версии мы ее уберем, поэтому просто не обращайте внимания», – сказал он. Этого было достаточно. В GM пришли в восторг от возможности повысить безопасность за счет обнаружения других автомобилей за небольшие деньги. Автогигант немедленно отменил конкурс и начал финансировать разработки компании-новичка. Обнаружение транспортных средств должно было привести к появлению нового поколения систем безопасности, которые не заменяют водителей, а расширяют их возможности с помощью невидимого датчика и компьютерной сети безопасности. Такие средства, как сигнализатор выхода за пределы полосы движения, адаптивный круиз-контроль, сигнализатор возможности столкновения и система экстренного торможения, быстро становятся стандартом безопасности автомобилей.

Mobileye превратилась в одного из крупнейших международных поставщиков систем видения на основе искусственного интеллекта для автомобильной промышленности, но у Шашуа были более масштабные идеи. После создания Cognitens и Mobileye он в 2001 г. работал научным сотрудником с ученой степенью в Стэнфорде и занимал один офис с Себастьяном Труном. Оба они в конечном итоге стали пионерами в создании беспилотных автомобилей. Шашуа использовал те же технологии, что и Трун, но с более прагматичным, менее «оторванным от земли» подходом. Большое влияние на него оказал Поджио, проповедовавший биологический подход к зрению, который был альтернативой использованию «грубой силы» – все более мощных компьютеров.

Статистический подход к вычислениям в конечном итоге оказался более работоспособным, когда стали доступными и мощные кластеры компьютеров, такие как облако Google, и большие массивы данных. Ну а если этих ресурсов нет? Такая ситуация и была коньком Шашуа. Mobileye выросла и стала уникальной израильской технологической компанией, расположенной в Иерусалиме возле Еврейского университета, где Шашуа преподавал информатику. Оборудованный Mobileye автомобиль Audi служил исследовательской платформой на колесах. В отличие от автомобиля Google c гирляндой датчиков, Audi Mobileye снаружи выглядел обычно – единственная видеокамера перед зеркалом заднего вида в центре ветрового стекла не бросалась в глаза. Поставленная задача – беспилотное движение – требовала мощных компьютеров, и они находились на борту, но были скрыты в багажнике.

У Mobileye, как и у Google, были грандиозные замыслы, реализованные пока лишь частично. Весенним днем 2013 г. два инженера Mobileye, Габи Хайон и Эйял Багон, пригласили меня на тест-драйв. Мы отъехали на несколько километров к востоку от Иерусалима по шоссе 1 и остановились у ничем не примечательного съезда с трассы, где нас поджидал другой сотрудник в сверкающем белом Audi А7. Когда мы сели в А7 и приготовились к тест-драйву, Габи и Эйял попросили не судить строго – работа над автомобилем еще продолжалась. Сегодня Mobileye поставляет системы машинного зрения компаниям BMW, Volvo, Ford и GM, использующим их в целях обеспечения безопасности. Системы третьего поколения Mobileye рекламируются как способные обнаруживать пешеходов и мотоциклистов. Не так давно Nissan намекнула на ожидаемые новшества, продемонстрировав автомобиль, который автоматически объезжает пешехода, появляющегося из-за припаркованного автомобиля.

Как и Google, израильтяне не собираются останавливаться в разработке технологий, необходимых для автоматического управления. Но если Google, похоже, вознамерилась конкурировать со всей отраслью, вступая в союз с новичками вроде Tesla, то Шашуа предельно деликатен по отношению к отраслевой культуре, о чем свидетельствует состав его нынешних заказчиков. Это означает, что его системы технического зрения должны стоить не более нескольких сот долларов для автомобилей премиум-класса и меньше сотни для рядового Chevy.

Google и Mobileye совершенно по-разному подходят к решению проблемы контроля пространства вокруг автомобиля на большой скорости. Система Google строит детальную карту местности с точностью до сантиметра с помощью радаров, видеокамеры и лидара Velodyne в дополнение к данным, собираемым автомобилями Street View. Автопилот подключается к базе картографических данных в облаке Google через беспроводной канал. Сеть – это электронный костыль для хромающей навигационной системы автомобиля, подтверждающий правильность восприятия локальными датчиками окружающей обстановки.

База глобальных карт, наверное, облегчила бы задачу Google. Но, как признался один из инженеров компании, когда проект уже запустили, команда Google была обескуражена динамичностью реального мира. «Из-за дорожных работ постоянно появляются и исчезают не только полосы движения на трассах, "движутся даже мосты"», – сказал он. Все же даже без базы данных автомобиль Google способен делать вещи, которые вроде бы под силу только человеку. Он может, например, без проблем встроиться в поток машин на шоссе и справиться с неравномерным движением на загруженной городской улице.

В проекте Google сочетались немецкая педантичность Труна и пристрастие компании к секретности. Израильтяне были более открытыми. В тот жаркий весенний день в пригороде Иерусалима инженеры Mobileye не проявляли особой осторожности. «Не хотите ли сесть за руль?» – предложил мне Эйял, садясь на пассажирское место за большой дисплей с клавиатурой. Со мной провели краткий инструктаж по управлению роботом-автомобилем: просто включаете круиз-контроль и активизируете функцию удержания автомобиля в своей полосе движения, потянув рычажок круиз-контроля на руле к себе. На ветровом стекле отображались скорость автомобиля и иконка, сигнализирующая, что включен автопилот.

В отличие от автомобиля Google, который первоначально воспроизводил при старте мелодию из сериала «Звездный путь», здесь при включении автопилота загорался визуальный сигнал, и Mobileye Audi начинал двигаться по шоссе, иногда достигая скорости больше 100 км/ч. На ведущей к Мертвому морю дороге, которая проходит по извилистому пустынному каньону, не расслабишься. В беспилотнике новичку на водительском месте особенно трудно приходится, когда идущий впереди автомобиль начинает замедляться перед светофором. Требуется вся сила воли, чтобы не нажать на педаль тормоза и довериться технике, которая, как и следует ожидать, уверенно и плавно останавливает автомобиль в нужном месте.

В автомобиле Google ощущаешь присутствие некоего бесстрастного и призрачного машинного интеллекта, который обитает где-то в механических недрах или, возможно, в далекой облачной среде. Автомобиль Mobileye во время теста в 2013 г., напротив, производил впечатление машины-помощницы. При начале движения ему нужно немного порыскать по полосе движения – совсем не то поведение, которое внушает уверенность. Но если понять принцип его работы, беспокойство вроде бы должно уйти. Система искусственного зрения Audi снабжена одной монокулярной камерой. Третье измерение – глубина – вычисляется по разработанному Шашуа и его исследователями алгоритму, называемому «построение трехмерной структуры по набору изображений», – вот почему автомобилю приходится слегка рыскать.

Так или иначе, даже зная это, с непривычки чувствуешь себя не слишком комфортно. Во время теста, когда мы поравнялись с припаркованным автомобилем, наш Audi вдруг взял в его сторону. Инстинктивно, не пытаясь разобраться, что «задумал автопилот», я схватил руль и вернул Audi в центр полосы. Это совершенно не обеспокоило израильских инженеров, скорее позабавило их. После получасовой поездки по старой дороге, которая, наверное, сохранилась еще с древних времен, путешествие закончилось. Машина с автопилотом казалась научной фантастикой, но это был лишь намек на то, что постепенно приведет к серьезным социальным изменениям. Система помощи в пробках уже появилась на рынке. Технология, которая казалась поразительной в 2013 г., сегодня рутинно помогает водителям на автомагистралях по всему миру.

Следующая фаза развития беспилотников начнется задолго до 2020 г. – автомобили будут сами справляться с движением по автомагистралям не только в пробках, но и при въездах и съездах с дороги. General Motors называет эту функцию «супер-круиз-контроль», и она станет важнейшим шагом к изменению роли людей в управлении автомобилями.

Google стремится создать автомобиль, в котором человек будет пассажиром и перестанет участвовать в управлении. Шашуа считает, что даже Google еще очень далеко до настоящего беспилотного автомобиля. Такой автомобиль неизбежно столкнется с проблемой проезда нерегулируемого перекрестка, когда к нему подъезжают сразу четыре машины, – ситуация, вызывающая затруднение даже у человека. На перекрестках без светофора водители вступают в сложное социальное взаимодействие, и в обозримом будущем независимым, не поддерживающим связь друг с другом компьютерным системам будет трудно решить эту проблему.

Другая сложность – частое нарушение правил и предписаний водителями, не говоря уже о пешеходах. Это может стать реальным препятствием для будущего беспилотных автомобилей в городских условиях: мы пока что не знаем, как решать юридические проблемы попадания беспилотника в дорожно-транспортное происшествие. На взгляд Шашуа, есть компромисс, довольно близкий к подходу Google, но достаточно реалистичный для применения при движении по автомагистралям всего через пару лет. Он предполагает использование сложной системы датчиков и искусственного интеллекта, помогающих водителю, который остается участником процесса управления, но становится человеком с «супервозможностями», способным видеть дальше и более четко и, наверное, выполнять другие задачи помимо вождения. Система может подавать сигнал, когда необходимо участие человека, с учетом предпочтений водителя, а возможно, и автомобиля.

Когда я стоял возле Audi в пригороде Иерусалима, мне было ясно, что это новая земля обетованная. Нравится нам это или нет, но мы больше не живем в библейском мире, и будущее зависит не от достижения определенной территории, а от быстроты приближения мира технологических чудес. Машины, которые рождаются как големы, становятся более совершенными, способными брать на себя все больше функций человека – от механических действий до решения сложнейших задач.

У Google есть проблема. За три с лишним года работы по программе создания автомобиля без водителя небольшая группа исследователей базирующегося в Маунтин-Вью интернет-поисковика без происшествий накрутила в беспилотном режиме более 800 000 км. Они добились потрясающего прогресса в областях, которые были не по зубам традиционному автомобилестроению. Автомобили Google могут ездить днем и ночью, перестраиваться и даже ориентироваться на самой кривой улице мира – Ломбард-стрит в Сан-Франциско. Google добилась этих успехов, используя интернет для создания виртуальной инфраструктуры. Она не строила дорогостоящие «умные» шоссе, а опиралась на точные карты мира, создаваемые в рамках сервиса Google Street View.

Некоторые ее системы обладали почти что человеческими возможностями. Например, система искусственного зрения могла распознавать зоны строительных работ, притормаживать и уверенно прокладывать курс между препятствиями. Она видела частично перекрывающие дорогу автомобили и позволяла объезжать их. Ее научили не только распознавать велосипедистов, но и идентифицировать их жесты, притормаживать и пропускать при перестроении в другой ряд. Иными словами, Google приближалась к решению еще более сложной проблемы – обучение беспилотника реагировать на жесты регулировщика на месте дорожно-транспортного происшествия или проведения строительных работ.

Робототехнику Массачусетского технологического института Джону Леонарду особенно нравилось ездить по Кеймбриджу и снимать видеоролики о наиболее сложных для беспилотных автомобилей ситуациях. В одном из его роликов автомобиль останавливается перед знаком STOP на Т-образном перекрестке и ожидает возможности повернуть налево. Это никак не удается сделать из-за интенсивного потока машин справа, где нет знака STOP. Ситуация осложняется и редкими машинами, идущими с другой стороны. Проблема заключается в том, как убедить водителей, едущих слева, уступить дорогу и как при этом не столкнуться ни с кем из мчащихся справа{16}.

Видеоролик, показывающий, пожалуй, самую большую проблему для системы зрения Google, был снят на оживленном переходе в центре города. У регулируемого перехода стоит толпа людей. Автомобиль едет на зеленый свет, как вдруг полицейский в левой части кадра поднимает руку, чтобы остановить движение и пропустить пешеходов. Возможно, для компьютерного зрения такая проблема вполне разрешима. Если уж современные системы умеют распознавать велосипедистов и их жесты, то почему бы им не справиться с жестами полицейских? Так-то оно так, да только вряд ли эта проблема получит решение легко и быстро.

Увлекшись идеей преображения системы образования с помощью массовых открытых курсов дистанционного обучения и не желая состязаться за лидерство в X Lab с соучредителем Google Сергеем Брином, Трун отошел от исследовательской программы в 2012 г. Как это часто случается в Кремниевой долине, Трун не смог довести до конца свой проект. Он создал секретную лабораторию X Laboratory в Google и в течение нескольких лет руководил ею, но, когда к проекту подключился Брин, решил, что нужно двигаться дальше. Брин предлагал ему место содиректора, но Трун понимал, что в присутствии соучредителя Google ему уже не стоять у руля, а потому настало время новых задач.

Осенью 2011 г. Трун и Питер Норвиг взяли на себя один из бесплатных дистанционных курсов в Стэнфорде – «Введение в искусственный интеллект». Инициатива получила большой резонанс. Более 160 000 студентов зарегистрировались на курсе, что почти в 10 раз превышало количество невиртуальных студентов Стэнфорда. Хотя этот курс окончили далеко не все из тех, кто записался на него, он стал глобальным «событием интернета». Класс Труна и Норвига стал прообразом новой дешевой формы обучения, которая не только уравнивает правила игры, делая лучших преподавателей мира доступными для любого человека, но и угрожает бизнес-моделям дорогостоящих элитных университетов. Зачем платить за обучение в Стэнфорде, если можно пройти аналогичный курс в Городском колледже?

Трун все еще номинально, один день в неделю, работал в Google, но роль лидера в проекте перешла к приветливому робототехнику Крису Урмсону, который был главным помощником Рэда Уиттакера при создании автомобиля для соревнований DARPA. Он был одним из первых, кого Трун взял на работу после прихода в Google, чтобы начать работу над секретной в то время программой. Летом 2014 г. Урмсон заявил, что хочет создать надежный беспилотник до того, как его сын достигнет возраста, с которого разрешается управление автомобилем (тогда до этого момента оставалось около шести лет).

Урмсон после ухода Труна значительно приблизил программу к ее первоначальной цели – созданию беспилотного автомобиля, способного ездить по дорогам общего пользования. Google выделяла два вида движения – по автомагистралям и по городским улицам. На пресс-конференции, посвященной достигнутым результатам, Google признала, что главной проблемой было создание программы управления автомобилем в городских условиях. Урмсон, однако, в посте на сайте компании утверждал, что хаос на городских улицах, где автомобили, велосипедисты и пешеходы движутся вроде бы случайным образом, на самом деле предсказуем. Проведенные Google эксперименты выявили тысячи возможных ситуаций, и компания разработала модели, которые предполагают развитие событий и по ожидаемому сценарию (автомобиль останавливается на красный сигнал светофора), и по неожиданному (автомобиль едет на красный свет). Урмсон и его команда полагали, что проблема движения по автомагистралям в основном решена за исключением одной детали – в управлении по-прежнему участвовал водитель. Эта проблема проявилась, когда команда Google предоставила часть роботов-автомобилей сотрудникам для тестирования в процессе ежедневных поездок на работу. «Некоторые вещи заставили нас понервничать», – сказал Урмсон репортеру. Первоначально в программе испытаний принимали участие два профессиональных водителя, которые действовали в соответствии со строгим порядком, подобно пилотам самолетов. Водитель следил за ситуацией и был готов взять управление на себя в случае чего. Реальный мир оказался другим. Некоторые из сотрудников Google по дороге домой после работы отвлекались и даже засыпали!

Это назвали проблемой «передачи управления». Надо было решить, как быстро возвращать «к реальности» человека, который может читать электронную почту, смотреть фильм или даже спать. Понятное дело, люди в беспилотниках клюют носом гораздо чаще, чем думают. Именно с этим столкнулась автоиндустрия в 2014 г., когда появились системы помощи в пробках. Водитель должен держать руль хотя бы одной рукой с перерывами не более 10 секунд. Если он не демонстрирует «присутствие», система подает звуковой сигнал и выходит из режима автопилота. Но ДТП происходят за доли секунды. По мнению Google, выходило, что в будущем эту проблему, возможно, удастся решить, но с существующими технологиями она неразрешима.

Ряд автопроизводителей уже делают попытки решить проблему отвлечения водителей. Lexus и Mercedes выпустили на рынок систему, определяющую по положению глаз и головы водителя, что он отвлекся или задремал. Audi начала разрабатывать в 2014 г. систему с двумя камерами, следящую за вниманием водителя и при необходимости останавливающую автомобиль.

Так или иначе в настоящее время Google сменила стратегию и пытается решить другую, более простую задачу. В мае 2014 г., всего через несколько недель после оптимистичного брифинга для прессы относительно прогресса в разработке беспилотного автомобиля, она нацелилась на новое, более узкое, но радикальное решение для городских условий. Споткнувшись на проблеме отвлечения человека, инженеры Google решили полностью исключить людей из цепочки управления. Компания перенесла акцент со своего парка автомобилей Prius и Lexus с автопилотом на новый парк из сотни экспериментальных электромобилей без привычных органов управления. Хотя Google по обыкновению об этом не распространялась, фактически она занималась созданием автомобиля без водителя с самого начала своей программы, экспериментируя с автономными гольф-мобилями у себя в кампусе. Теперь она намеревалась вернуться к истокам и снова автономно возить людей по кампусу, на этот раз на новых, специально сконструированных автомобилях. Поездка на таком автомобиле будущего сродни поездке в лифте. Двухместный автомобиль напоминает сверхкомпактный Fiat 500 или Smart компании Mercedes-Benz, но у него нет ни руля, ни педали газа, ни тормоза, ни рычага переключения передач. Идея в том, чтобы в переполненных центрах городов или в кампусах пассажиры могли ввести место назначения на смартфоне и вызвать автомобиль. В его салоне есть только кнопка «Начать движение» и красная кнопка аварийной остановки. Инженеры установили предел скорости движения на уровне 40 км/ч, чтобы классифицировать транспортное средство как гольф-мобиль, а не как обычный автомобиль. Это позволяет обойтись без подушек безопасности и других обязательных атрибутов современного средства передвижения, увеличивающих стоимость, вес и сложность. Вместе с тем такие автомобили годятся только для поездок по городу с малой скоростью.

Хотя 40 км/ч ниже минимальной скорости для шоссе, средняя скорость движения в Сан-Франциско и Нью-Йорке составляет, соответственно, 29 и 27 км/ч, поэтому не исключено, что медленные, но эффективные автоматизированные автомобили однажды заменят сегодняшнее такси. По данным Института Земли, 13 000 такси Манхэттена выполняют 470 000 рейсов в день. Их средняя скорость 16–18 км/ч, и они везут в среднем 1,4 пассажира при средней дальности поездки 3 км и среднем времени ожидания такси 5 минут. По сравнению с этим, говорится в отчете института, футуристический парк из 9000 роботов, вызываемых через смартфон, может обеспечить такие же показатели при времени ожидания менее 1 минуты. Если принять маржу прибыли, равной 15 %, то сегодняшнее такси обойдется вам в $2,5 на 1 км, а будущее беспилотное такси – в 30 центов на 1 км. Отчет показывает аналогичную экономию и для двух других городов – Анн-Арбор, штат Мичиган, и строящийся населенный пункт Бабкок-Ранч, штат Флорида{17}.

Руководство и инженеры Google приводят аргумент, которым уже давно оперируют градостроители: парк редко используемых автомобилей поглощает огромное пространство. Например, автомобили для поездок на работу и обратно стоят без движения большую часть дня, занимая городское пространство, которое может быть использовано для домов, офисов или парков. В городах автоматизированные такси будут работать непрерывно, возвращаясь только к станциям быстрой зарядки роботов для замены аккумуляторов. В этом свете легко представить города, не ориентированные на частные автомобили, с большими зелеными пространствами и широкими проспектами для пешеходов и велосипедистов.

Говоря об опасности и иррациональности современной транспортной системы, Трун затрагивал и вопросы повышения безопасности, и вопросы переустройства городов. Помимо расточительного использования значительных ресурсов транспортная инфраструктура уносит более 30 000 жизней в год в результате ДТП в США, а в Индии и Китае в 10 раз больше. В целом в мире жертвами ДТП становятся более миллиона человек в год. Это убедительный аргумент, но он наталкивается на стену проблем юридической и финансовой ответственности и еще более сложных этических вопросов. В качестве довода против беспилотных автомобилей указывают на неготовность законодательства к определению виновных в случае происшествий, связанных с дефектами конструкции или изготовления. Это сфера невероятно сложных взаимосвязей между недостатками конструкции автомобилей и юридическими последствиями. Претензии по внезапному разгону автомобилей Toyota, например, стоили компании более $1,2 млрд. General Motors столкнулась с конструкционным недостатком замка зажигания, из-за которого внезапно глох двигатель, и ей пришлось отозвать больше автомобилей, чем было выпущено в 2014 г. В конечном итоге эта акция может обойтись компании в несколько миллиардов долларов. В принципе такая проблема решается довольно просто. Конгресс может принять закон об освобождении от ответственности для беспилотных автомобилей, как в случае вакцин для детей. Страховые компании могут ввести режим «отсутствия виновных», если в ДТП участвуют только беспилотники.

У проблемы ответственности есть и морально-этический аспект, известный как «проблема вагонетки» – неуправляемая вагонетка мчится по рельсам в направлении пяти человек, вы можете спасти их, переведя стрелку на другой путь, где находится только один человек, и таким образом пожертвовать им. Допустимо ли с точки зрения морали изменить направление движения вагонетки и предотвратить пять смертей ценой одной? Впервые сформулированная в статье об этике абортов британского философа Филиппы Фут в 1967 г., эта проблема вызвала бесконечные дискуссии о последствиях выбора меньшего из зол{18}. Позднее аналогичную задачу поставили перед роботами-автомобилями. Им надо было решить, что делать: наехать на пятерых выбежавших на дорогу школьников или свернуть на тротуар и сбить взрослого прохожего.

В программу, конечно, можно заложить принцип выбора меньшего из зол, но постановка вопроса представляется неправильной на других уровнях. Поскольку 90 % ДТП случаются из-за ошибок водителей, переход к использованию беспилотных автомобилей должен привести к резкому снижению травматизма и гибели людей на дорогах. Это явно будет значительным благом, несмотря на небольшое количество ДТП в результате чисто технологических сбоев. В определенной мере автомобильная промышленность уже согласилась с этой логикой. Подушки безопасности, например, спасают больше жизней, чем уносят из-за ошибочного срабатывания.

Потом, такая узконаправленная постановка вопроса не учитывает будущих возможностей беспилотников, когда, скорее всего, дорожные рабочие, полицейские, спецмашины, автомобили, пешеходы и велосипедисты будут электронным образом оповещать друг друга о своем присутствии. Это даже в отсутствие полной автоматизации должно значительно повысить безопасность. В настоящее время проходит испытания технология глобальной связи, известная как V2X, которая обеспечивает непрерывный обмен информацией о месте нахождения между соседними автомобилями. В будущем даже школьники будут носить сигнализаторы, предупреждающие автомобили об их присутствии и уменьшающие вероятность ДТП.

На фоне этого кажется странным, что философы рассматривают проблему вагонетки не с точки зрения большего блага, а как объект индивидуального выбора. Конечно, если техника подведет, это обернется чьей-то трагедией, а она несомненно будет давать сбои. Системы, повышающие общий уровень безопасности транспорта жизненно необходимы, даже если они несовершенны. Еще более интересная философская загадка касается экономических, социальных и даже культурных последствий исключения людей из цепочки управления автомобилем. В 2013 г. в США в результате ДТП погибло более 34 000 человек и 2,36 млн получило травмы. Сравните это с 3,8 млн человек, которые зарабатывали на жизнь коммерческими перевозками в 2012 г. в США{19}. В течение двух последующих десятилетий беспилотные автомобили и грузовики приведут к исчезновению значительной, если не подавляющей, части этих рабочих мест.

У этой проблемы гораздо больше нюансов, чем узко поставленный вопрос о сохранении жизней и рабочих мест. Когда Дуг Энгельбарт в 1968 г. проводил то, что позже назвали «матерью всех демонстраций», – демонстрацию технологии, которая привела к появлению персональных компьютеров и интернета, – он неявно использовал аналогию управления автомобилем. Он сидел за клавиатурой и дисплеем и показывал, как работа через графический интерфейс в интерактивном режиме может использоваться для управления компьютером и «движения» через киберпространство, как его назвали потом. В этой модели усиления интеллекта человек в значительной степени сохраняет контроль. Если первоначально аналогией интерактивной работы на компьютере было управление автомобилем, то сегодняшние взгляды Google изменили картину. Новая аналогия ближе к поездке на лифте или поезде без вмешательства человека. В мире Google вы нажимаете кнопку, и вас доставляют к месту назначения. Такая концепция транспортировки подрывает некоторые представления, глубоко укоренившиеся в американской культуре. В прошлом веке автомобиль стал синонимом американского идеала свободы и независимости. Сейчас эта эпоха заканчивается. Что придет ей на смену?

Символично, что именно Google изменила аналогию. В некотором смысле она начиналась как компания по разработке методов усиления интеллекта. Разработанный Ларри Пейджем алгоритм PageRank для улучшения результатов поиска в интернете был ориентирован на извлечение конкретных знаний путем накопления большого числа принятых людьми решений о ценных источниках информации. Google начала со сбора и организации знаний и предоставления доступа к ним в качестве части известной Memex, первой глобальной системы поиска информации, предложенной Ванниваром Бушем в 1945 г. в журнале Atlantic Monthly{20}.

Так или иначе по мере развития компания начала все больше ориентироваться на системы, которые заменяют человека, а не расширяют его возможности. Руководство Google все же задумывалось о социальных последствиях создаваемых ими систем. Девиз у компании прежний – «Не навреди». Конечно, это довольно туманно и может означать что угодно, однако предполагает, что компания Google стремится не просто к максимизации акционерной стоимости. Например, Питер Норвиг, ветеран исследований в области искусственного интеллекта, директор по исследованиям в Google с 2001 г., видит в партнерстве человека и компьютера выход из сложной ситуации, возникающей в результате появления все более интеллектуальных машин. По его словам, партнерское взаимодействие шахматистов и шахматной программы позволяет обыграть в шахматы даже лучший искусственный интеллект. «Как сообщество, мы пойдем именно в этом направлении. Компьютеры станут более гибкими и производительными, а процветать, скорее всего, будут те, кто работает в партнерстве с машинами», – сказал он в 2014 г. на конференции NASA{21}.

Как будет выглядеть партнерство людей и интеллектуальных автомобилей? То, что началось с желания военных автоматизировать ведение боевых действий, снизить затраты и обеспечить безопасность солдат, вот-вот приведет к перевороту в сфере транспорта. Мир стремительно идет вперед и автоматизирует транспортные системы, однако последствия этого пока что туманны. Ожидается колоссальный положительный эффект в плане безопасности, эффективности и влияния на окружающую среду. Но что станет с миллионами людей, работающими сейчас в транспортной сфере по всему миру? Что будут делать они, когда окажутся на месте кузнецов или изготовителей кнутов в XXI в.?

Глава 3

Трудный год для человечества

«С помощью этих машин мы можем делать любую бытовую технику», – с энтузиазмом говорил Бинне Виссер, инженер завода Philips, участвовавший в создании роботизированной линии для сборки электробритв. Он подчеркивал, что в принципе на ней можно производить что угодно вплоть до смартфонов и компьютеров{22}.

Выпускающий электробритвы завод компании Philips в Драхтене, в трех часах езды на поезде на север от Амстердама по совершенно плоской сельской местности, дает ясное представление о том, какими будут роботизированные производства: полностью автоматизированные, не нуждающиеся в искусственном освещении заводы уже реальность, правда пока в ограниченных масштабах. Завод в Драхтене внешне выглядит как реликт тех времен, когда Philips, начинавшая с выпуска электрических лампочек и электронных ламп, превратилась в один из крупнейших в мере брендов бытовой электроники. Проиграв новым азиатским компаниям в таких областях, как производство телевизоров, Philips осталась одним из ведущих мировых производителей электробритв и ряда других потребительских товаров. Подобно многим европейским и американским компаниям она переместила значительную часть производства в Азию, где трудовые ресурсы менее дорогие. Поворотный момент наступил в 2012 г., когда Philips отказалась от переноса сборки высококачественных бритв в Китай. В условиях падения цен на датчики, роботы и камеры и роста стоимости транспортировки готовых товаров на рынки за пределами Азии Philips построила почти полностью автоматизированную сборочную линию на заводе в Драхтене. Потерпев поражение во многих категориях бытовой электроники, Philips для сохранения места на рынке решила инвестировать в производство докомпьютерных бытовых электроприборов.

Ярко освещенный одноэтажный завод представляет собой модульную мегасистему, состоящую из 128 станций с манипуляторами – сверкающих прозрачных кабин, которые связаны с соседями транспортером и напоминают заключенный в стекло аппарат для изготовления попкорна в кинотеатрах. Сама производственная линия – большое и очень сложное сооружение. Каждый из 128 манипуляторов оснащен уникальным «рабочим органом», специальной рукой для выполнения одной операции с двухсекундным интервалом. Одна операция каждые две секунды означает 30 бритв в минуту, 1800 в час, 1 304 000 в месяц и ошеломляющие 15 768 000 в год.

Роботы удивительно проворные, и каждый из них непрерывно повторяет свою операцию. Один манипулятор, например, захватывает пару пятисантиметровых проводков толщиной с зубочистку, точно сгибает и аккуратно вставляет зачищенные концы в крохотные отверстия в печатной плате. Берет он их из питателя – качающегося стола. В приемник проводки загружает техник, а потом они высыпаются на ярко освещенную поверхность под контролем расположенной сверху камеры. Как будто играя в бирюльки, рука робота захватывает по паре проводков. Если проводки лежат беспорядочно, она встряхивает стол, разделяя их, а затем захватывает еще пару. Вокруг производственной линии постоянно порхает небольшая группка людей. Команда инженеров в синих лабораторных халатах обеспечивает работу системы, подавая исходные материалы. Кроме них есть еще «группа специалистов», которые дежурят круглосуточно, поэтому ни один манипулятор не простаивает более двух часов. В отличие от заводов, где работают люди, линия никогда не спит.

Завод оснащен американскими манипуляторами, а программы для них написали европейские специалисты по автоматике. Можно ли считать это предвестником эпохи, в которую работающие на конвейере люди исчезнут? В отличие от Китая, где миллионы рабочих занимаются ручной сборкой аналогичных потребительских товаров, завод в Драхтене производит устройства механически более сложные, чем смартфоны, без использования живого труда. На заводе-автомате сбои случаются редко – система устойчива к небольшим ошибкам. На станции ближе к концу линии небольшие пластиковые элементы корпуса бритвы устанавливаются на место под вращающейся бритвенной головкой. Одна из деталей, похожая на медиатор, падает на пол. Линия не останавливается. Датчик на следующей операции обнаруживает отсутствие детали, и бритва передается на участок доработки. Единственные люди, непосредственно работающие на сборочной линии, – восемь женщин на последнем этапе процесса, контроле качества. Он пока еще не автоматизирован, поскольку человеческое ухо до сих пор превосходит все другое при определении правильности работы бритвы.

Автоматизированные заводы с выключенным освещением или роботизированные безлюдные производства создают ситуацию из разряда «есть хорошая и плохая новость». Для минимизации себестоимости товаров имеет смысл размещать заводы или возле источников сырья, трудовых ресурсов и энергии, или возле потребителей конечной продукции. Если роботы могут производить что-то дешевле, чем рабочие, то выгоднее приблизить предприятия к обслуживаемым рынкам, а не к источникам дешевой рабочей силы. И действительно, предприятия уже возвращаются в Соединенные Штаты. Завод по производству солнечных батарей компании Flextronics сейчас расположен в Милпитасе, к югу от Сан-Франциско, где большая растяжка гордо провозглашает: возвращаем рабочие места и производство в калифорнию! Но если пройтись по ее заводу во Фримонте, быстро понимаешь, что речь идет скорее о высокоавтоматизированных производствах, а не о создании рабочих мест – меньше десятка рабочих заняты на сборочной линии, выпускающей почти столько же батарей, сколько сделали бы сотни работников на предприятии компании, если бы она разместила его в Азии. «В какой момент цепная пила приходит на смену легендарному лесорубу Полу Баньяну? – спрашивает руководитель Flextronics. – Все определяет цена, и мы вплотную подошли к этому моменту»{23}.

На заре информационной эры Норберт Винер серьезно задумывался о темпах и последствиях автоматизации. Летом 1949 г. он написал трехстраничное письмо Уолтеру Рейтеру, главе профсоюза работников автопромышленности, где говорил, что отказался консультировать компанию General Electric по вопросам проектирования автоматизированного оборудования. GE обращалась к нему в 1949 г. дважды с просьбой прочитать лекцию и проконсультировать в области создания сервосистем для автоматизации производственных операций. Сервосистемы использовали обратную связь для точного контроля положения детали, что было принципиально важно для станков-автоматов, которые должны были прийти на заводы после Второй мировой войны. Винер отклонил оба предложения по этическим соображениям, хотя и понимал, что другие, не столь ответственные специалисты, скорее всего, возьмутся за это.

Винер, сильно обеспокоенный возможностью ужасных «социальных последствий», безуспешно пытался связаться с другими профсоюзами, и его разочарование явно сквозит в письме Рейтеру. К концу 1942 г. Винеру стало ясно, что в компьютер можно заложить программу управления заводом, и его волновали последствия появления «сборочной линии без людей»{24}. Программное обеспечение еще не стало силой, которая, по словам пионера области браузеров Марка Андриссена, «съест весь мир», но Винер ясно обрисовал Рейтеру дальнейший ход событий. «Разработка машинного оборудования для конкретной производственной цели – задача, требующая высокой квалификации, но не механического подхода, – писал он. – Это достигается путем „закладывания программ“ во многом подобно тому, как на современных вычислительных машинах»{25}. Сегодня мы называем это программированием, и программное обеспечение приводит в движение экономику и фактически современное общество во всех его аспектах.

В письме Рейтеру Винер предсказывал апокалипсис. «Это устройство предельно гибко и пригодно для массового воспроизведения, что, без сомнения, приведет к появлению заводов без рабочих, например автоматических линий сборки автомобилей, – писал он. – При нынешней организации промышленного производства безработица, обусловленная автоматизацией заводов, может быть только катастрофической». Рейтер ответил телеграммой: Очень заинтересовался вашим письмом. Хотел бы обсудить его с вами как можно скорее.

Рейтер ответил в августе 1949 г., но только в марте 1951 г. эти два человека встретились в одном из бостонских отелей{26}. Они посидели в ресторане и договорились создать «Ассоциацию труда, науки и образования»{27}, призванную предотвратить наихудшие последствия грядущей эпохи автоматизации для промышленных рабочих страны. К моменту их встречи Винер уже опубликовал книгу «Кибернетика и общество», где указывал на потенциальные преимущества автоматизации и предупреждал о возможности порабощения человека машинами. В первой половине 1950-х гг. он был востребованным лектором национального масштаба и постоянно высказывал свои опасения относительно безудержной автоматизации и концепции роботизированного оружия. После встречи Винер с энтузиазмом говорил, что «нашел в г-не Рейтере и его соратниках именно то более универсальное профсоюзное мышление, которого так не хватало при первых попытках вступить в контакт с профсоюзами»{28}.

Винер был не единственным, кто пытался привлечь внимание Рейтера к опасностям автоматизации. Через несколько лет после встречи с Винером Рейтер получил аналогичный сигнал от председателя профсоюза рабочих автомобильной промышленности UAW 1250 Альфреда Гранакиса. Тот столкнулся с сокращением рабочих мест после внедрения новых технологий автоматизации на двигателестроительном и литейном заводе Ford Motor в Кливленде, штат Огайо. По его словам, завод «был реальным прообразом полностью автоматизированного предприятия в автомобильной промышленности». Он спрашивал: «Что делать со всем этим в экономическом плане, Уолтер? Я очень опасаюсь появления экономического "Франкенштейна", рождению которого я способствовал. По моему мнению, профсоюзное движение ждут трудные времена»{29}.

Винер порвал с научным и техническим истеблишментом несколькими годами ранее. Свою убежденность в обязательности этики в науке он выразил в письме в журнал Atlantic Monthly, озаглавленном «Ученые-бунтари» и опубликованном в декабре 1946 г., через год после потрясения, связанного с бомбардировкой Хиросимы и Нагасаки. Это письмо содержало ответ Винера на предложение компании Boeing провести технический анализ эффективности управляемых ракет во время Второй мировой войны: «Использование управляемых ракет может привести только к неизбирательному уничтожению гражданского населения другой стороны и не обеспечивает ему никакой защиты»{30}. Там же поднимался вопрос о моральной стороне применения атомных бомб: «Обмен идеями, составляющий одну из великих традиций науки, должен, конечно, иметь определенные ограничения, когда ученый становится арбитром в вопросе жизни и смерти»{31}.

В январе 1947 г. Винер отказался от участия в симпозиуме по вычислительной технике в Гарвардском университете в знак протеста против использования систем в «военных целях». В 1940-е гг. и компьютеры, и роботы были предметом научной фантастики, и можно лишь удивляться, насколько отчетливо Винер предвидел эффект применения технологий, который проявляется только сегодня. В 1949 г. New York Times предложила Винеру изложить свои взгляды на то, «какой будет машинная эпоха», как выразился бессменный редактор воскресного выпуска Лестер Маркел. Винер принял приглашение и написал черновую статью. Легендарно автократичному Маркелу она не понравилась, и он попросил переделать ее. Винер написал новый вариант, но из-за ряда накладок, характерных для доинтернетовской эпохи, статья так и не вышла в свет в то время.

В августе 1949 г., как свидетельствуют документы Винера, хранящиеся в Массачусетском технологическом институте, Times просила его вновь выслать первый вариант статьи, чтобы объединить со вторым. (Не ясно, почему редакторы отклонили первый вариант.) «Не могли бы вы выслать мне первый вариант, и мы посмотрим, можно ли сделать из двух статей одну, – писал руководитель редакции воскресного выпуска, которая в то время была самостоятельной. – Возможно, я ошибаюсь, но мне кажется, что во втором варианте вы опускаете часть ваших лучших идей». Винер, который в тот момент путешествовал по Мексике, ответил: «Я считаю, что первая версия моей статьи уже дело прошлого. Чтобы получить ее в моем офисе в Массачусетском технологическом институте, потребуется масса писанины и отвлечение от дел целого ряда людей. Поэтому вопрос закрыт, и я отказываюсь от этого мероприятия».

На следующей неделе редактор Times вернул Винеру второй вариант, который в конце концов оказался в «Архивах и специальных собраниях» библиотеки Массачусетского технологического института и оставался там до декабря 2012 г., когда был обнаружен независимым ученым Андерсом Фернстедтом, занимавшимся наследием трех венских философов – Карла Поппера, Фридриха Хайека и Эрнста Гомбриха, работавших в Лондоне большую часть XX в.{32} В неопубликованной статье опасения Винера очевидны: «Эти новые машины движутся в сторону замены людей в принятии решений на всех уровнях, за исключением высшего, а не замены человека там, где требуется энергия и сила. Уже сейчас понятно, что такая замена окажет глубокое влияние на нашу жизнь».

Винер продолжал говорить о появлении заводов «без рабочих» и возрастании важности «закладывания программ». Он довольно отчетливо намекнул на теоретическую возможность и практические последствия обучения машин: «Ограничения подобной машины заключаются только в понимании целей, которые необходимо достичь, в потенциале каждой фазы процессов их достижения и в нашей способности логически определить комбинации этих процессов, необходимые для достижения целей. Грубо говоря, если мы можем делать что-либо в ясной и понятной форме, то это может сделать и машина»{33}.

На заре компьютерной эры Винер видел и прямо говорил, что автоматизация способна снизить ценность «рядового» работника предприятия до уровня «не стоит нанимать ни за какие деньги» и что «нас ждет предельно жестокая промышленная революция».

У него не только были мрачные предчувствия относительно компьютерной революции, он предвидел нечто еще более пугающее: «Если мы будем двигаться в направлении производства машин, которые обучаются и поведение которых изменяется с опытом, то нам нужно готовиться к тому, что каждая толика независимости, предоставляемая машине, будет превращаться в возможность неподчинения нашим желаниям. Джинн, выпущенный из бутылки, не вернется в нее добровольно, и у нас нет оснований рассчитывать, что они будут хорошо относиться к нам»{34}.

В начале 1950-х гг. Рейтер и Винер выдвинули идею создания «Ассоциации труда, науки и образования», но это партнерство не дало немедленного эффекта в какой-то мере из-за состояния здоровья Винера, а в какой-то из-за того, что Рейтер представлял часть профсоюзного движения США, которая считала автоматизацию неизбежным атрибутом прогресса, – профсоюзный лидер намеревался выторговывать экономические выгоды, играя на воздействиях технологии: «В конечном итоге с современными рабочими процессами придется смириться, получив за них компенсацию в виде увеличения времени досуга и творческого отдыха. В своем принятии автоматизации и новой технологии он, похоже, был полностью захвачен ростом эффективности как желанного и в общем нейтрального условия»{35}.

Предупреждение Винера все же высекло искру, но не в 1950-х гг., в десятилетие правления республиканцев, когда у профсоюзного движения было немного сторонников в правительстве. Только после избрания Кеннеди в 1960 г. и при его преемнике Линдоне Джонсоне партнерство Винера и Рейтера привело к рождению одной из немногих серьезных инициатив правительства США по решению проблемы автоматизации – в августе 1964 г. Джонсон создал комиссию для исследования влияния технологии на экономику.

Определенное давление оказали левые. Президенту было направлено открытое письмо от имени группы, называвшей себя Специальным комитетом по тройственной революции и включавшей среди прочих главу демократических социалистов Америки Майкла Харрингтона, соучредителя организации «Студенты за демократическое общество» Тома Хейдена, химика Лайнуса Полинга, шведского экономиста Гуннара Мюрдаля, пацифиста Абрахама Масти, историка экономики Роберта Хейлбронера, публициста Ирвинга Хау, борца за гражданские права Байарда Растина и кандидата в президенты от Социалистической партии Нормана Томаса.

Первой революцией, о которой писали они, была «кибернетизация»: «Началась новая производственная эпоха. Принципы ее организации настолько отличаются от принципов индустриальной эпохи, насколько принципы индустриальной эпохи отличаются от сельскохозяйственной. Кибернетическая революция стала следствием союза компьютеров и самоуправляемых машин. Это ведет к появлению систем практически неограниченной производственной мощности, которые требуют все меньше живого труда»{36}. В состав Национальной комиссии по технологии, автоматизации и экономическому прогрессу вошли такие яркие личности, как Рейтер, Томас Уотсон-младший из IBM, Эдвин Лэнд из Polaroid, экономист из Массачусетского технологического института Роберт Солоу и социолог из Колумбийского университета Дэниел Белл.

Выпущенный в конце 1966 г. 115-страничный отчет сопровождался приложением на 1787 страницах, содержавшим заключения внешних экспертов. Пол Армер из корпорации RAND представил 232-страничный анализ с предсказанием влияния информационных технологий. Сегодня мы видим, что заголовки разделов анализа совершенно правильны: «Компьютеры становятся более быстродействующими, миниатюрными и дешевыми»; «Вычислительные мощности станут доступными подобно электричеству и телефонам в наши дни»; «Сама информация станет дешевой и доступной»; «Компьютерами будет легче пользоваться»; «Компьютеры будут использоваться для обработки изображений и графической информации» и «Компьютеры будут использоваться для обработки текстов на естественных языках». Но в целом отчет придерживался традиционной кейнсианской позиции: «Технология ликвидирует рабочие места, не работу». Из этого следовал вывод, что технологическое замещение людей будет временным, но необходимым этапом на пути к экономическому росту.

Дебаты относительно будущей технологической безработицы стихли с оживлением экономики, в какой-то мере их оттеснила война во Вьетнаме, а послевоенные гражданские волнения в конце 1960-х гг. задвинули проблему еще дальше. Через полтора десятилетия после первых предупреждений о последствиях появления автоматизированных машин Винер обратил свои мысли к религии и технологии, оставаясь идейным гуманистом. В своей последней книге «Творец и голем» (God & Golem, Inc.) он попытался взглянуть на будущие отношения человека с машиной через призму религии. Обращаясь к аллегории голема, Винер указывал, что, несмотря на самые лучшие намерения, люди никогда не понимают до конца последствия своих изобретений{37}.

Стивен Хеймс, составитель биографий Джона фон Неймана и Винера, отмечает, что в конце 1960-х гг. он интересовался мнением ряда математиков и ученых о винеровской философии технологии. Общая реакция была такой: «Винер был великим математиком, но отличался эксцентричностью. Когда он пускался в рассуждения об обществе и ответственности ученых и выходил за пределы своей специальности, его просто невозможно было воспринимать всерьез»{38}.

Хеймс делает вывод, что социальная философия Винера задела за живое научное сообщество. Если бы ученые признали значение идей Винера, им пришлось бы пересмотреть глубоко укоренившиеся представления о личной ответственности, а делать это они не слишком хотели. «Продолжая род, человек создает человека по своему образу и подобию, – писал Винер в «Творце и големе». – Это своего рода аналогия акта творения, в процессе которого Бог создал человека по своему образу и подобию. Может ли что-то подобное происходить в менее сложном (и, может быть, более понятном) мире неживых систем, которые мы называем машинами?»{39}

Незадолго до ухода Винера из жизни в 1964 г. U. S. News & World Report задал ему вопрос: «Д-р Винер, есть ли опасность, что машины, т. е. компьютеры, однажды станут выше человека?» Он дал такой ответ: «Определенно существует такая опасность, если мы не займем реалистичную позицию. Опасность – это фактически интеллектуальная лень. Некоторые зачарованы словом „машина“ и не понимают, что́ машины могут, а чего нет и что можно оставить людям, а чего нельзя»{40}.

Только сейчас, через шесть с половиной десятилетий после публикации в 1948 г. «Кибернетики» Винера, вопрос об автономности машин стал не гипотетическим. В Пентагоне ломают головы над последствиями появления нового поколения самонаводящихся автономных средств поражения{41}, а философы бьются над «проблемой вагонетки» в стремлении осмыслить моральный аспект использования беспилотных автомобилей. В течение следующего десятилетия последствия создания автономных машин будут проявляться все чаще по мере того, как производство, логистика, транспорт, образование, медицинское обслуживание и связь все больше оказываются под контролем обучающихся систем, а не людей.

Несмотря на попытки Винера сыграть роль эдакого Пола Ревира[4], когда дебаты об автоматизации 1950–1960-х гг. стихли, страхи перед технологической безработицей ушли из общественного сознания и не возвращались практически до 2011 г. Подавляющее большинство экономистов соглашались с тем, что все это было, как они выражались, «ошибкой луддитов». Еще в 1930 г. Джон Мейнард Кейнс сформулировал общее представление о широком воздействии новой технологии: «Нас поразила новая болезнь, название которой некоторые читатели, возможно, пока не знают, но о которой они услышат еще не раз в ближайшие годы, – технологическая безработица. Иначе говоря, безработица вследствие того, что мы изобретаем средства сокращения потребности в труде быстрее, чем можем найти новое применение высвободившейся рабочей силе. Но это лишь временная фаза болезненной адаптации»{42}.

Кейнс одним из первых заметил, что технология – мощный генератор новых рабочих мест. Но то, что он называл «временным», на самом деле очень относительно. В конце концов, он также говорил, что в «долгосрочной перспективе» мы все умрем.

В 1995 г. экономист Джереми Рифкин написал книгу «Конец работы: Глобальное сокращение занятости и заря пострыночной эры» (The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era). Сжатие сельскохозяйственной экономики и быстрый рост занятости в промышленности полностью подтверждали идею Кейнса о замещении, но Рифкин утверждал, что внедрение новых информационных технологий будет качественно отличаться от предыдущих волн автоматизации промышленности. Для начала он отметил, что в 1995 г. безработица поднялась в глобальном масштабе до самого высокого уровня со времен депрессии в 1930-х гг. и что в мире 800 млн полностью или частично безработных. «Реструктуризация производственной практики и непрерывный процесс замены людей машинами начали отрицательно сказываться на миллионах рабочих», – писал он{43}.

Вместе с тем число рабочих мест в Соединенных Штатах в течение десятилетия после публикации его книги выросло со 115 млн до 137 млн. Это означает, что численность занятых повысилась более чем на 19 %, в то время как население страны увеличилось только на 11 %. Более того, такие ключевые экономические индикаторы, как уровень экономической активности, отношение количества занятых к численности трудоспособного населения и уровень безработицы не свидетельствовали о появлении технологической безработицы. Очевидно, что все было не так однозначно, как рисовал Рифкин в своих черно-белых прогнозах. Например, с 1970-х гг. перемещение рабочих мест в страны с низкими производственными затратами и развитие телекоммуникационных сетей, позволившее транснациональным компаниям использовать белые воротнички в других местах, гораздо сильнее сказывались на внутренней занятости, чем автоматизация. По этой причине работа Рифкина, как и предупреждения Винера, не произвела должного эффекта.

После рецессии 2008 г. появились признаки новой и более широкой технологической трансформации. Белые воротнички были двигателем роста экономики США с конца Второй мировой войны, но ситуация стала меняться. То, что когда-то было стабильной офисной работой, начало исчезать. Привычные офисные функции попали в группу риска на фоне восстановления экономики в 2009 г. путем так называемого «выхода из рецессии без создания рабочих мест». По всем признакам впервые в истории под ударом оказались места работников умственного труда в средней части экономической пирамиды. Экономисты вроде Дэвида Отора из Массачусетского технологического института, проанализировав специфику изменения структуры рабочей силы, заявили, что экономика США «становится пустотелой». Она может продолжать расти внизу и вверху, но рабочие места среднего уровня, принципиально важные для современной демократии, исчезают.

Все больше свидетельств того, что технологии не просто вымывают рабочие места, а «понижают статус» работников. В ряде случаев высокопрестижные профессии обесцениваются в результате снижения стоимости информации и появления таких коммуникационных технологий, как глобальные компьютерные сети. Более того, впервые искусственный интеллект вторгается в сферу высококвалифицированной работы, покушаясь, например, на места юристов с зарплатой $400 в час и среднего юридического персонала с зарплатой $175 в час. Когда индустрия искусственного интеллекта вновь обрела импульс в начале 2000-х гг., стали появляться новые приложения на основе понимания естественного языка, подобные e-discovery для автоматической подборки необходимых юридических документов. Программное обеспечение скоро выйдет за пределы простой идентификации ключевых слов в электронной почте. Программы поиска электронных документов быстро развиваются и уже позволяют сканировать миллионы электронных документов, распознавать основные идеи и даже находить явные улики, т. е. свидетельства незаконной деятельности или неправомерного поведения.

Программные средства превратились в важный инструмент при судебных процессах против компаний, обычно требующих поиска необходимого материала среди миллионов документов. Сравнительные исследования показали, что машины могут не хуже, а то и лучше людей анализировать и классифицировать документы. «С точки зрения кадров в юридической сфере это означает, что множество людей, занимавшихся проверкой документов, больше не нужны, – говорит Билл Герр, юрист крупной химической компании, которому не раз приходилось на недели усаживать группы помощников для разбора документов и корреспонденции. – Люди устают, у них болит голова. У компьютеров – нет»{44}.

Наблюдение за тем, как технологии, подобные e-discovery, отнимают работу у юристов, подвигло независимого инженера и владельца софтверной фирмы из Кремниевой долины Мартина Форда написать книгу «Технологии, которые изменят мир»[5] (The Lights in the Tunnel: Automation, Accelerating Technology and the Economy of the Future), вышедшую в свет в конце 2009 г. По мнению Форда, влияние информационной технологии на рынок труда проявляется гораздо быстрее, чем считалось. Как профессионал в сфере программного обеспечения, он смотрел на проблему крайне пессимистично. Какое-то время голос Форда звучал одиноко, во многом подобно Рифкину с его «Концом работы» в 1995 г., но на фоне углубления рецессии и сложностей с объяснением отсутствия роста числа рабочих мест к нему вскоре присоединились технологи и экономисты, предупреждавшие о серьезности технологического скачка.

В 2011 г. два экономиста из Школы менеджмента Слоуна при Массачусетском технологическом институте – Эрик Бринолфссон и Эндрю Макафи подготовили обширное эссе под названием «Гонка с машинами: Как цифровая революция ускоряет инновации, повышает производительность и необратимо изменяет трудовые отношения и экономику» (Race Against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy). Их основной тезис выглядел так: «Цифровые технологии быстро меняются, а организации и профессии не успевают за ними. В результате миллионы людей оказываются не у дел. Их источники дохода и рабочие места ликвидируются, а положение становится хуже, чем до цифровой революции»{45}. «Гонка с машинами» была в духе самиздата выложена в интернете и подхлестнула дискуссию об автоматизации. Ее центральная концепция заключалась в том, что на этот раз из-за ускорения компьютеризации рабочих мест кейнсианского решения, т. е. появления новых сфер занятости, не будет.

Бринолфссон и Макафи, подобно Мартину Форду, отслеживают хронику все более широкого применения технологий, которые уже изменили характер работы или вплотную подошли к этому. Самой беспощадной в новой волне критических выступлений была, пожалуй, диссертация Дэвида Отора. Но даже ее автор стал осторожничать в 2014 г., когда вышел отчет, указывавший на усиление процесса «деквалификации» труда в США и снижение спроса на профессии, требующие когнитивных навыков. Его беспокоило, что это может быть свидетельством формирования нисходящей тенденции. Как утверждали Пол Бодри, Дэвид Грин и Бен Сэнд в рабочем докладе Национального бюро экономических исследований, последствием является вытеснение более квалифицированными работниками менее квалифицированных из состава рабочей силы{46}. Хотя у них и не было прямых данных о применении конкретных видов технологий, анализ последствий для верхушки пирамиды рабочей силы пугает. Они пишут: «Многие исследователи отмечали сильный и устойчивый рост спроса на высококвалифицированный труд в десятилетия, предшествовавшие 2000 г. По нашим данным, этот спрос начал снижаться после 2000 г. несмотря на то, что приток высокообразованных работников продолжал расти. Мы показываем, что в результате такого изменения спроса высококвалифицированные работники опустились на более низкий уровень в иерархии профессий и стали заниматься видами деятельности, традиционно осуществляемыми менее квалифицированными работниками»{47}. Так или иначе, несмотря на страхи относительно «конца работы» из-за появления машин, которые могут видеть, слышать, говорить и осязать, рабочая сила вела себя совсем не так, как если бы ее в ближайшем будущем ждал коллапс, обусловленный техническим прогрессом. На практике за десятилетие с 2003 по 2013 г. численность работающих в США выросла более чем на 5 % – с 131,4 млн до 138,3 млн человек, впрочем, население выросло за этот период более чем на 9 %.

Хотя это и не коллапс, замедление темпа роста тоже сулит нам более тревожную и сложную реальность. Возможно, изменения пойдут по пути не чистой деквалификации, а приведут к широкому «несоответствию квалификаций», более отвечающему кейнсианским ожиданиям. Например, недавний отчет McKinsey о будущем работы показал, что в 2001–2009 гг. уменьшилось количество рабочих мест, связанных с хозяйственными операциями и производством, но появилось более 4,8 млн офисных должностей, связанных с обменом информацией и решением проблем{48}. Ясно одно – под риском рабочие места и синих воротничков, и белых воротничков, занимающихся рутинными задачами. В 2013 г. Financial Times сообщила, что в 2007–2012 гг. в США численность менеджеров увеличилась на 387 000, а численность офисных служащих сократилась почти на 2 млн{49}. Это проявление того, что часто называют эпохой Web 2.0. Второе поколение коммерческих приложений для интернета привело к возникновению ряда программных протоколов и семейств продуктов, которые упростили интеграцию бизнес-функций. Такие компании, как IBM, HP, SAP, PeopleSoft и Oracle, помогли корпорациям относительно быстро автоматизировать рутинную хозяйственную деятельность. Результатом стало резкое сокращение количества офисных служащих.

Однако даже в сфере конторского труда есть тонкости, из-за которых предсказания о последствиях автоматизации и полном уничтожении рабочих мест вряд ли воплотятся в жизнь. Внедрение банкоматов очень хорошо показывает сложность взаимосвязи средств автоматизации, компьютерных сетей с динамикой трудовых ресурсов. В 2011 г. при обсуждении экономических вопросов этот пример привел Барак Обама: «В нашей экономике есть такие структурные аспекты, которые позволили множеству компаний стать более эффективными с гораздо меньшим количеством работающих. Вы видите это, когда пользуетесь банкоматом, а не услугами кассира банка. Или когда в аэропорту вы пользуетесь терминалом самообслуживания, а не обращаетесь к стойке регистрации»{50}.

Это вызвало политическую шумиху вокруг влияния автоматизации. Дело в том, что, несмотря на появление банкоматов, кассиры не исчезли. В 2004 г. Чарльз Фишман отмечал в журнале Fast Company, что на заре использования банкоматов в 1985 г., когда их было около 60 000, число кассиров достигало 485 000, а в 2002 г., когда количество банкоматов увеличилось до 352 000, численность кассиров выросла до 527 000. В 2011 г. журнал Economist привел данные о том, что в 2008 г. их было 600 500, а по прогнозам Бюро трудовой статистики Министерства труда США этот показатель должен вырасти к 2018 г. до 638 000. Более того, Economist отметил, что в 2008 г. в этой сфере трудились также 152 900 «специалистов по ремонту компьютеров, банкоматов и офисной техники»{51}. Так или иначе, а анализ вопроса с банкоматами в отрыве от общего контекста не дает представления о сложности процесса встраивания автоматизированных систем в экономику.

Данные Бюро трудовой статистики показывают, что реальная трансформация происходит в бэк-офисах, на которые в 1972 г. приходилось порядка 70 % численности банковских работников: «Во-первых, автоматизация основной задачи по обслуживанию клиентов сократила количество работающих в этом секторе на 25 %. Во-вторых, банкоматы не заменяют работающих с клиентами кассиров, но ликвидируют тысячи менее заметных офисных рабочих мест»{52}. Точно оценить влияние автоматизации бэк-офиса в банковской сфере сложно, поскольку в 1982 г. Бюро трудовой статистики изменило способ учета банковских служащих. Бесспорно, однако, что рабочие места банковских служащих продолжают исчезать.

Заглядывая вперед, можно предположить, что влияние новых компьютерных технологий на кассиров будет сродни эффекту появления беспилотных автомобилей для доставки грузов. Даже если технология станет более совершенной – а перспективы здесь пока что туманны, поскольку доставка связана со сложным взаимодействием с компаниями и индивидуальными клиентами, – персонал на «последней миле» все равно будет трудно заменить.

Несмотря на сложность разграничения последствий рецессии и применения новых технологий, взаимосвязь между автоматизацией и быстрыми экономическими изменениями все чаще используется как основание для вывода о том, что США ждет кризис занятости или по меньшей мере длительный период несоответствия квалификаций. Бринолфссон и Макафи утверждают, что это реально, в расширенной версии «Гонки с машинами», озаглавленной «Вторая эпоха машин: Работа, прогресс и процветание во времена совершенных технологий» (The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies). Аналогичное мнение высказывает известный специалист по теории вычислительной техники Джарон Ланье, работающий в Microsoft Research, в книге «Кто владеет будущим?» (Who Owns the Future?). Обе книги указывают на прямую связь между появлением Instagram, интернет-сервисом для обмена фотографиями, приобретенным Facebook за $1 млрд в 2012 г., и упадком Kodak, символа фотоиндустрии, которая в том же году объявила о банкротстве. «Команда всего из 15 человек в Instagram создала простое приложение, позволившее 130 млн клиентов обмениваться примерно 16 млрд фотографий, – пишут Бринолфссон и Макафи. – В компаниях, подобных Instagram и Facebook, работает лишь малая толика людей, которые требовались Kodak. Тем не менее рыночная стоимость Facebook в несколько раз больше, чем когда-либо была у Kodak, и в ней к настоящему времени родились по меньшей мере семь миллиардеров, каждый из которых владеет сетью десятикратно большей, чем была у [основателя Kodak] Джорджа Истмана»{53}.

Ланье говорит о проблемах Kodak еще более откровенно: «Они ведь изобрели первую цифровую камеру. Но сегодня Kodak – банкрот, и новым лицом цифровой фотографии стала Instagram. Когда в 2012 г. Instagram была продана Facebook за миллиард долларов, в ней работали только 13 человек. Куда делись ликвидированные рабочие места? И что случилось с благополучием, которое они создавали для среднего класса?»{54}

Слабое место этих аргументов в том, что они не показывают истинного соотношения рабочих мест и игнорируют реальность финансовых проблем Kodak. Во-первых, даже если считать, что Instagram действительно уничтожила Kodak (а это не так), то соотношение рабочих мест совершенно не такое, как приведенное (13 против 145 000). Сервисы вроде Instagram появились не на пустом месте, а только тогда, когда интернет достиг зрелости и создал миллионы по большей части высококлассных рабочих мест. Это ясно показал издатель и организатор конференций Тим О'Рейли: «Задумайтесь, действительно ли Instagram вытеснила Kodak? А может быть, это дело рук Apple, Samsung и других производителей смартфонов, пришедших на смену фотоаппаратам? И разве не провайдеры сетевых услуг, центры обработки данных и поставщики оборудования устранили потребность в пленке, которую раньше продавала Kodak? В Apple работает 72 000 человек (по сравнению с 10 000 в 2002 г.). У Samsung 270 000 сотрудников, у Comcast – 126 000 и т. д.»{55}. Даже О'Рейли очень далек от представления полной картины положительного экономического эффекта интернета. Проведенное McKinsey в 2011 г. исследование показало, что глобально интернет создает 2,6 нового рабочего места на каждое потерянное место и что именно он обеспечивал 21 % роста ВВП на протяжении пяти предыдущих лет в развитых странах{56}. Другим аргументом в споре Kodak и Instagram является то, что Kodak пострадала от перехода на цифровые технологии, а ее главный конкурент FujiFilm – нет{57}.

Причины упадка Kodak сложнее таких объяснений, как «они проглядели цифру» или «они не купили (или не создали) Instagram». К числу проблем относились масштаб, возраст и быстрота развития событий. У компании было значительное количество пенсионеров, а ее внутренняя культура допустила потерю старых талантов и не обеспечила привлечение новых. Это обернулось катастрофой. Kodak безуспешно пыталась войти в фармацевтическую отрасль, провалились и попытки переключиться на технологии медицинской визуализации.

Новые опасения в отношении автоматизации с использованием искусственного интеллекта и связанного с ней сокращения числа рабочих мест могут в конечном итоге оказаться небеспочвенными, однако не исключено, что те, кто бьет тревогу, просто зациклились на прошлых представлениях. Если рассматривать ситуацию с точки зрения противостояния «искусственный интеллект – технологии усиления интеллекта», то есть надежда, что люди по-прежнему сохраняют неограниченную способность и развлекаться, и работать над чем-то востребованным и полезным.

Но если люди не правы, то 2045 г. может стать для человечества началом трудных времен.

Или технологического рая.

Или и того и другого.

В 2045 г., по предсказанию Рэя Курцвейла, люди выйдут за биологические рамки и, возможно, изменят свою судьбу{58}.

Курцвейл – предприниматель в области искусственного интеллекта и футуролог. В 2012 г. он стал техническим директором Google для развития идей по созданию искусственного «разума». Курцвейл – яркий представитель сообщества лучших специалистов Кремниевой долины, которых вдохновляли идеи специалиста по информатике и автора научно-популярных книг Вернора Винджа о неизбежности достижения «технологической сингулярности», т. е. точки, когда машинный интеллект превзойдет человеческий. Когда Виндж в 1993 г. впервые написал об идее сингулярности, он отвел довольно широкий интервал времени (2005–2030 гг.), в котором компьютеры могут стать «сознательными» и превзойти человека{59}.

Сторонники сингулярности исходят из неизбежности взаимодополняющего экспоненциального развития различных информационных технологий – от вычислительной мощности до накопителей информации. В определенном смысле это религиозная вера в силу экспоненциального развития технологий, идея, которая была исследована Робертом Герачи в книге «Апокалипсис: Рай для роботов, искусственного интеллекта и виртуальной реальности» (Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality). Он находит интересные социологические параллели между размышлениями о сингулярности и мессианскими традициями{60}.

Гипотеза сингулярности строится также на новейших исследованиях в сфере искусственного интеллекта, начало которым положил Родни Брукс, предложивший создавать сложные робототехнические системы путем группирования более простых элементов. И Курцвейл в книге «Эволюция разума»[6] и Джефф Хокинс в своей ранней работе «Об интеллекте»[7] проводят мысль, что после открытия простых биологических «алгоритмов», лежащих в основе человеческого интеллекта, создание обладающих интеллектом машин – вопрос простого «масштабирования». Эти идеи очень противоречивы, их резко критикуют нейробиологи, но о них все же стоит упомянуть, поскольку они используются как аргументы в новых дебатах об автоматизации. Что больше всего сегодня бросается в глаза, так это огромный разброс мнений относительно будущего живого труда в зависимости от интерпретации одних и тех же данных.

Моше Варди – ученый-компьютерщик из Университета Райса, работавший главным редактором журнала Communications of the ACM. В 2012 г. он публично заявил, что ускорение развития искусственного интеллекта настолько значительно, что живой труд уйдет в прошлое в течение трех десятилетий. В октябре 2012 г. Варди выступил в журнале Atlantic со статьей «Преемники человеческого интеллекта»{61}, которая в большей мере отражает мнение сообщества разработчиков искусственного интеллекта. Он написал: «Я считаю, что революция, которую несет с собой искусственный интеллект, отличается от промышленной революции. В XIX в. машины конкурировали с мышцами человека. Сейчас они конкурируют с человеческим мозгом. Роботы сочетают интеллект и физическую силу. Перед нами маячит перспектива полного проигрыша своим собственным созданиям»{62}.

Варди считает, что области, в которых наблюдается активный рост занятости, например в экономике на основе поиска в сети, где новые рабочие места связаны с такими задачами, как оптимизация поисковых систем, по определению уязвимы в ближайшей перспективе. «Если взять оптимизацию поисковых систем, то сейчас там действительно создаются рабочие места, – говорит он. – Но с чем они связаны? С изучением того, как реально работают поисковые системы, и применением полученных знаний при создании веб-страниц. Можно сказать, что это проблема обучения машин. Возможно, в текущий момент там и нужны люди, но эти парни [разработчики программных средств автоматизации] не сидят сложа руки»{63}.

Многие, подобно Варди, полагают, что рыночная экономика не защитит людей от последствий автоматизации. Как и другие «сингулярианцы», он очерчивает возможности по их смягчению. Бринолфссон и Макафи во «Второй эпохе машин», например, приводят широкий набор условий в стиле Нового курса[8]: «хорошая программа обучения детей», «поддержка наших ученых», «совершенствование инфраструктуры». Другие вместе с профессором Гарвардской школы бизнеса Клейтоном Кристенсеном высказываются за направление усилий на технологии, которые создают, а не уничтожают рабочие места (совершенно очевидная позиция в пользу усиления интеллекта).

Но если те, кто верят в ускорение изменений, бьют тревогу по поводу их потенциальных последствий, то другие более оптимистично смотрят на перспективы. Основанная в 1987 г. Международная федерация робототехники со штаб-квартирой в Гамбурге, Германия, в отчетах, выпущенных в 2013 г. и позже, не без своекорыстия доказывает, что производственные роботы реально стимулируют экономическую активность и вместо повышения безработицы прямо и косвенно увеличивают общее количество рабочих мест. В исследовании, обнародованном в феврале 2013 г., подчеркивается, что робототехническая промышленность прямо и косвенно создаст в мире к 2020 г. от 1,9 до 3,5 млн рабочих мест{64}. В уточненном на следующий год отчете отмечено, что внедрение каждого робота привело к созданию 3,6 рабочего места.

Ну а если сторонники сингулярности не правы? Весной 2012 г. называющий себя «ворчуном» экономист из Северо-Западного университета Роберт Гордон бросил камень в сторону Кремниевой долины за бравирование тем, что она несет «инновации, создающие рабочие места и способствующие прогрессу», заметив, что заявления о достижениях не проявляются в общепринятых показателях производительности. В часто цитируемой Белой книге 2012 г. Национального бюро экономических исследований он подчеркнул, что всплеск производительности в XX в. был разовым событием. Гордон также отметил, что технологии автоматизации, расхваливаемые теми, кого он позже назвал «технооптимистами», не дали такого же эффекта, как промышленные инновации XIX в. «Связанная с компьютерами и интернетом революция началась примерно в 1960 г. и достигла кульминации в эру доткомов в конце 1990-х гг., но ее влияние на производительность сошло на нет в последние восемь лет, – пишет он. – Многие из изобретений, связанных с компьютеризацией скучного и однообразного труда офисных работников, были сделаны еще в 1970-х и 1980-х гг. Изобретения с 2000 г. касаются главным образом миниатюризации, расширения возможностей и быстродействия средств развлечения и связи и не меняют фундаментально производительность труда или уровень жизни так, как это сделали электричество, автомобили, водопровод и канализация»{65}.

В каком-то смысле это была разгромная критика веры Кремниевой долины в «просачивание благ сверху вниз» от экспоненциального развития в области интегральных схем. Если бы технооптимисты были правы, новая информационная технология должна была бы вызвать взрывной рост производительности, особенно после появления интернета. Гордон заметил, что, в отличие от прежних промышленных революций, компьютерная революция не принесла сопоставимого изменения производительности. «Нам напоминают о законе Мура, предсказывающем бесконечный экспоненциальный рост мощности компьютерных чипов, и умалчивают о том, что отношение мощность/цена для информационно-коммуникационного оборудования достигло пика в 1998 г. и с той поры идет вниз», – добавил он в 2014 г.{66}

Гордон был готов к спору со своими противниками, прежде всего с Эриком Бринолфссоном, на конференции TED весной 2013 г. Во время дебатов, модератором которых был Крис Андерсон, они сошлись в поединке по вопросу о последствиях развития робототехники и о том, продолжится ли экспоненциальный рост или мы достигли верхней точки S-образной кривой, за которой нас ждет движение вниз{67}. Технооптимисты считают, что лаг между созданием и восприятием технологии просто задерживает появление прироста производительности, и, хотя экспоненциальное развитие неизбежно замедляется, оно дает начало последующим изобретениям (так, за вакуумной лампой последовал транзистор, а за ним интегральная схема).

Гордон так и остался бельмом на глазу сторонников сингулярности. Он выступил в Wall Street Journal с утверждением, что у беспилотных автомобилей сравнительно мало возможностей для повышения эффективности. Кроме того, по его мнению, они не окажут серьезного влияния на безопасность – количество жертв на милю пробега и так снизилось в 10 раз с 1950 г., что делает будущие улучшения менее значительными{68}. Он также скептически смотрит на возможность захвата производственного сектора и сектора услуг новым поколением мобильных роботов: «Отсутствие у роботов способности к перепрограммированию на другие задачи не беспокоит энтузиастов – просто подождите, и все образуется. Вскоре наши роботы научатся не только выигрывать в телевикторине „Своя игра“, они будут регистрировать багаж в аэропортах и заменят носильщиков. Однако все многообразие физических задач, которые под силу людям, вряд ли удастся переложить на роботов в ближайшие десятилетия. Конечно, многофункциональные роботы будут разрабатываться, но потребуется немало времени, прежде чем роботы выйдут за пределы производства и оптовой торговли и смогут заметно потеснить людей в сфере услуг и строительстве»{69}.

Его скептицизм вызвал поток критики, но он не отступил. Его ответ критикам фактически означает: «Не принимайте желаемое за действительное!» По мнению Гордона, лучше всех потенциальное воздействие начавшейся в 1960 г. «третьей промышленной революции» – компьютеризации и интернета – предвидел Норберт Винер, когда говорил, что автоматизация ради автоматизации будет иметь непредсказуемые и, вполне возможно, негативные последствия.

Споры о производительности продолжаются. Относительно недавно у технарей и экономистов стало модно утверждать, что традиционные показатели производительности больше не подходят для все более цифровой экономики со свободным распространением информации. Как измерить экономическую ценность ресурса вроде Википедии, спрашивают они. Если сторонники сингулярности правы, то трансформация в форме беспрецедентного экономического кризиса из-за отказа от живого труда наступит очень скоро. Результат действительно может оказаться довольно мрачным – для людей будет все меньше и меньше места в новой экономике.

В индустриальном мире такого еще не наблюдалось, но одним из любопытных сдвигов, указывающих на существование пределов автоматизации, стало недавнее решение компании Toyota о постепенном возврате людей в производственный процесс. В сфере массового производства Toyota давно является мировым лидером по применению средств автоматизации с ее корпоративной философией кайдзен (по-японски – «положительное изменение»), или непрерывного совершенствования. Достигнув почти полной автоматизации производства, компания поняла, что без людей заводы не могут улучшать себя. Некогда Toyota располагала штатом суперквалифицированных работников, известных как ками-сама, т. е. «боги», которые, по словам президента Toyota Акио Тоёды, могли создать все что угодно{70}. Эти работники имели также свойственную человеку способность подходить к делу творчески и, таким образом, улучшать производственный процесс. Так вот, чтобы вернуть гибкость и креативность на свои заводы, Toyota решила восстановить 100 производственных зон с активным участием людей.

Возвращение «богов» Toyota воскрешает в памяти введение Стюарта Бранда к изданному в 1968 г. «Каталогу всей Земли» (Whole Earth Catalog): «Мы подобны богам и тоже можем творить». Позже Бранд признал, что он позаимствовал эту идею у британского антрополога Эдмунда Лича, который писал также в 1968 г.: «Люди стали подобны богам. Пришло время осознать нашу божественность. Наука дает нам полный контроль над окружающей средой и судьбой, но, вместо того чтобы радоваться, мы боимся. С какой стати? Как избавиться от этих страхов?»{71}

В основе полных сарказма споров о производительности и решения компании Toyota об изменении баланса автоматики и живого труда лежит вопрос о природе взаимоотношений людей и умных машин. Сдвиг Toyota в сторону более конструктивных отношений между человеком и роботом может предполагать перенос акцента на технологии для расширения возможностей человека. Сторонники сингулярности, однако, настаивают на том, что такое партнерство человека и машины всего лишь промежуточная стадия, связанная с передачей человеческих знаний, в какой-то момент дойдет очередь до передачи креативности, а может быть, она возникнет сама собой в каком-нибудь поколении суперумных машин. Они указывают пусть на небольшие, но все же успехи в области обучения машин как на свидетельства того, что в не слишком отдаленном будущем компьютеры обретут способность к обучению, подобную человеческой. Например, в 2014 г. Google заплатила $650 млн за не имевший коммерческих продуктов небольшой стартап DeepMind Technologies, который разработал алгоритмы обучения машин, позволяющие им осваивать видеоигры в некоторых случаях лучше людей. После первых сообщений о приобретении поползли слухи, что из-за потенциальных последствий этой технологии Google создает «совет по этике» для оценки неожиданных «прорывов»{72}. Остается неясным, есть ли для такого надзора реальные основания, или это всего лишь рекламный трюк с целью раздуть шумиху и оправдать уплаченную цену.

Нельзя отрицать, что искусственный интеллект и алгоритмы обучения машин уже изменяют облик таких разных областей, как наука, производство и развлечения. Примеры варьируют от машинного зрения и распознавания образов, необходимых для улучшения качества полупроводниковых приборов, и так называемых алгоритмов рационального поиска лекарств, которые привносят системный подход в создание новых фармацевтических средств, до методов, используемых в сфере государственного надзора и в социальных сетях для обработки персональных данных. Оптимисты надеются, что потенциальные злоупотребления будут минимальными, если приложения останутся ориентированными на человека, а не на алгоритмы. На данный момент Кремниевая долина, увы, не может похвастаться моральным превосходством над старыми отраслями. Было бы поистине замечательно, если бы хоть одна компания Кремниевой долины реально отказалась от выгодной технологии по этическим соображениям.

Если оставить в стороне философскую дискуссию об обладающих самосознанием машинах и пессимизм Гордона относительно роста производительности, то на первый план выходит очевидная возможность и «рациональность» удаления людей из систем с целью повышения производительности и снижения затрат. В Google, которая может встать на сторону как искусственного интеллекта, так и усиления интеллекта, похоже, идет внутренняя борьба вокруг этой двойственности. Первоначальный алгоритм PageRank, на который полагалась компания, может рассматриваться как самый наглядный пример расширения возможностей человека. Алгоритм систематически выискивал решения людей о ценности информации, объединял их и сортировал для ранжирования результатов поиска в сети. Некоторые критикуют его как способ выкачивания интеллектуальной собственности у широкого круга ничего не подозревающих людей, однако понятно, что неписаный социальный договор между пользователем и компанией допускает это. Google выискивает богатства человеческих знаний и возвращает их обществу, хотя и с выгодой для себя. Окно поисковой системы Google стало самой грандиозной информационной монополией в мире.

Но потом Google стала метаться, хватаясь то за средства усиления интеллекта, то за средства искусственного интеллекта в зависимости от того, что больше подходит для решения текущей задачи. Так, система дополнения реальности Google Glass определенно несет потенциал того, что обещает ее название, – средства расширения возможностей человека, а беспилотный автомобиль Google имеет все признаки системы искусственного интеллекта, заменяющей человека. Компания Google фактически экспериментирует с социальными последствиями массового использования искусственного интеллекта. Выступая перед группой ученых из NASA в 2014 г., директор по исследованиям Google Питер Норвиг прямо заявил, что единственное разумное направление развития искусственного интеллекта – это создание систем, в которых люди являются партнерами обладающих интеллектом машин. Это было явное заявление о намерениях сблизить разъединенные сообщества искусственного интеллекта и усиления интеллекта.

С учетом сегодняшнего стремления к созданию автоматизированных предприятий подобное сближение представляется маловероятным. Вместе с тем страхи последнего времени относительно уничтожающих рабочие места промышленных роботов, возможно, в недалеком времени уступят место более сбалансированным представлениям о наших взаимоотношениях с машинами за пределами рабочего места. Взять хотя бы Терри Гоу, председателя совета директоров Foxconn, одной из самых больших китайских производственных компаний и изготовителя Apple iPhone. Компания уже пережила немало споров относительно условий труда на своих заводах, когда в начале 2012 г. Гоу заявил, что Foxconn планирует в значительной мере заменить рабочих роботами. «Поскольку люди тоже животные, управление миллионом животных вызывает у меня головную боль», – сказал он во время деловой встречи{73}.

Это заявление привлекло всеобщее внимание, но такое видение завода без рабочих – лишь одно проявление трансформации общества в следующем десятилетии под влиянием роботизации. Конечно, ликвидация рабочих мест воспринимается нами как черная сторона процесса, но в игру уже вступили другие силы, которые сделают наши взаимоотношения с роботами более позитивными. Технологическая безработица в Китае, например, может вызвать еще более драматичную дестабилизацию, чем в Соединенных Штатах. Поскольку в течение двух последних десятилетий в Китае шла индустриализация, значительная часть его сельского населения урбанизировалась. Как Китай адаптируется к безлюдному производству потребительской электроники?

Не исключено, что с легкостью. Население Китая стареет достаточно быстро, чтобы страна вскоре оказалась перед необходимостью автоматизировать производственные отрасли. Вследствие политики «одна семья – один ребенок» и решений, принятых правительством в конце 1970-х и начале 1980-х гг., в настоящее время быстро увеличивается доля пожилого населения. В 2050 г. в Китае будет самое большое в мире число людей старше 80 лет. Оно составит 90 млн человек по сравнению с 32 млн в США{74}.

Европа тоже быстро стареет. По данным Еврокомиссии, в 2050 г. в Европе будет приходиться всего двое людей трудоспособного возраста на каждого человека старше 65 лет, а число людей с возрастными заболеваниями достигнет 84 млн{75}. Европейский союз очень серьезно относится к демографическим изменениям и предсказывает появление рынка роботов для ухода за престарелыми объемом $17,8 млрд уже в 2016 г. Сценарий старения населения в США во многих отношениях сходен, но не так экстремален, как в Азии или Европе. Несмотря на то что Соединенные Штаты стареют медленнее (в определенной мере из-за постоянного притока иммигрантов), чем ряд других стран, «коэффициент демографической нагрузки» растет. Это означает, что количество детей и престарелых на сотню людей трудоспособного возраста, составлявшее 59 в 2005 г., поднимется до 72 в 2050 г.{76} Темп выхода на пенсию представителей поколения беби-бумеров в Соединенных Штатах – тех, кому исполняется 65 – достигает сейчас примерно 10 000 в день, и такой уровень сохранится в течение следующих 19 лет{77}.

Как промышленно развитые общества будут заботиться о стареющем населении? Старение мира кардинально изменит отношение к робототехнике в следующее десятилетие – на смену страхам, связанным с автоматизацией, придет надежда на расширение возможностей. Забавный, содержательный, а может быть, и пророческий фильм 2012 г. «Робот и Фрэнк» (Robot & Frank) о нашем недалеком будущем показывает взаимоотношения бывшего заключенного на первых стадиях старческой деменции и робота-опекуна. Будет иронией, если подобные роботы-опекуны появятся как раз тогда, когда придется ухаживать за ранее уволенным, а теперь состарившимся населением.

Глава 4

Взлет, падение и возрождение искусственного интеллекта

Осенью 2010 г. Дэвид Брок, копавшийся в пыльных коробках архива Стэнфордского университета, обнаружил нечто такое, от чего у него замерло сердце. Как историк компьютерной индустрии Брок методично изучал бумаги Уильяма Шокли в поисках материалов для своей работы о жизни основателя компании Intel Corp. Гордона Мура. Было известно, что после ухода в 1955 г. с поста руководителя команды в Bell Labs, которая разрабатывала транзистор, Шокли вернулся в округ Санта-Клара и основал свою компанию по производству более технологичного варианта транзистора. Но до находки Брока никто не знал о смелом предложении Шокли – о том, что тот пытался убедить Bell Labs, бывшую в 1951 г. ведущим научно-исследовательским институтом, создать «автоматического обучаемого робота».

Уже не одно десятилетие идут жаркие споры о том, что именно привело к рождению Кремниевой долины. Одно из последних объяснений связывает это событие с тем, что Шокли, выросший недалеко от центра Пало-Альто, решил из-за болезни матери вернуться в регион, который когда-то был национальной фруктовой столицей. Его Лаборатория полупроводников разместилась на Сан-Антонио-роуд в Маунтин-Вью к югу от Пало-Альто и через дорогу от того места, где ныне находится растянувшийся во все стороны кампус компании Google. Мур был одним из первых сотрудников лаборатории, а позднее вошел в «восьмерку предателей», группу инженеров, которые из-за недовольства авторитарным стилем руководства Шокли сбежали и создали конкурирующую компанию. Этот поступок вошел в анналы Кремниевой долины как образчик интеллектуальной и технической свободы, которая превратила регион в центр предпринимательства, какого мир еще не видел. Многие уверены, что решение Шокли основать транзисторную компанию в Маунтин-Вью было той искрой, которая дала начало Кремниевой долине. Интереснее, однако, вопрос, к чему стремился Шокли. Он давно считается одним из первых предпринимателей, безнадежных как менеджеры. Тем не менее его страсть к предпринимательству служила моделью для многих поколений технарей. Но это лишь часть объяснения.

Брок сидел в архиве Стэнфорда и смотрел на пожелтевшую страничку с предложением, озаглавленным «Проект A. T. R.». Шокли, известный своей несдержанностью, не деликатничал. «Важность предлагаемого проекта, возможно, больше всего, чем Bell System занималась до сих пор, – писал он. – Это направление может стать основой самой крупной из когда-либо существовавших отраслей. Не исключено, что прогресс в сфере производства в последующие два-три десятилетия будет напрямую зависеть от энергичности осуществления проектов такого класса». Цель проекта была обозначена предельно прямо – «замена человека машинами в производственном процессе». Роботы были необходимы, поскольку в целом автоматизированным системам недоставало ловкости и чувственного восприятия людей. «Подобная механизация принесет очевидную экономию в очень долгосрочной перспективе, но будет непрактичной в краткосрочной», – продолжал Шокли. Он предвидел создание не только «автоматического завода», но и обучаемого робота, которого можно «легко перенастроить для выполнения любой из множества операций». Его машина должна была иметь «руки», «органы чувств», «память» и «мозг»{78}.

Шокли загорелся идеей создания человекоподобного промышленного робота потому, что сборочные операции часто представляют собой повторяющуюся последовательность движений, выполняемых квалифицированным рабочим, и потому, что подобный робот может стать прорывом на пути к полному замещению живого труда. Его идея была поразительной, поскольку она родилась на заре компьютерной эпохи до того, как большинство работавших в этой области инженеров осознали влияние технологии. Она появилась всего лишь через полдесятилетия с тех пор, как первый цифровой компьютер общего назначения ENIAC стали называть в массовой прессе «гигантским мозгом», и всего два года спустя после выхода книги Норберта Винера «Кибернетика», провозгласившей начало информационной эпохи.

Шокли предсказал курс, которым пойдет автоматизация десятилетия спустя. Например, компания Kiva Systems – производитель автоматизированных складских систем, приобретенный Amazon в 2012 г. за $775 млн, – исходила из того, что труднее всего автоматизации на современных складах поддаются операции, требующие участия глаз и рук людей, например идентификация и захват объектов. Без средств машинного восприятия и подвижности уделом роботизированных систем остаются лишь повторяющиеся задания, поэтому Kiva сделала очевидный промежуточный шаг и создала мобильных роботов, подающих объекты к местам расположения работников. Когда средства машинного восприятия и манипуляторы роботов станут более совершенными и дешевыми, от людей можно будет отказаться.

В сезон рождественских распродаж в декабре 2014 г. Amazon сделала отступление от своей обычной политики секретности и пригласила прессу на экскурсию по одному из складских центров в Трейси, штат Калифорния. Что участникам экскурсии не показали, так это экспериментальную станцию, где роботизированный манипулятор занимался комплектацией грузов, работой, которую пока выполняют люди. Amazon экспериментирует с датским манипулятором, который должен заменить оставшихся людей.

Шокли в середине прошлого столетия совершенно не беспокоила перспектива вытеснения людей обучаемыми роботами, а Винер видел в этом потенциальную катастрофу. Через два года после «Кибернетики» он написал книгу «Кибернетика и общество», в которой попытался оценить последствия заполнения мира все более умными машинами. Несмотря на все свои оговорки, Винер сыграл в 1950-х гг. ведущую роль в формировании того, что Брок назвал «движением за автоматизацию»{79}. Брок прослеживает процесс, который привел к маниакальному стремлению страны автоматизировать все подряд, до его зарождения 2 февраля 1955 г., когда Винер и глава департамента электротехники Массачусетского технологического института Гордон Браун выступили на публичной дискуссии в Нью-Йорке с участием 500 членов Ассоциации выпускников Массачусетского технологического института с докладом «Автоматизация: что это?».

В тот же день на другом конце страны предприниматель Арнольд Бекман председательствовал на банкете в честь Шокли и Ли де Фореста, изобретателя вакуумного триода. На этом мероприятии Бекман и Шокли обнаружили, что оба они «энтузиасты автоматизации»{80}. Бекман уже начал переориентировать Beckman Instruments на автоматизацию химической промышленности, и к концу банкета Шокли согласился послать Бекману копию своего недавно полученного патента на оптико-электронный глаз. В результате этого разговора Бекман стал финансировать Лабораторию полупроводников Шокли как филиал Beckman Instruments ради возможности приобрести этот орган машинного зрения. Шокли сформулировал идею замены рабочих роботами в разгар общенациональной дискуссии об «автоматизации». Этот термин сделал популярным Джон Диболд в своей книге 1952 г. «Автоматизация: Начало эры автоматических заводов» (Automation: The Advent of the Automatic Factory).

Проницательность Шокли настолько поражала, что Родни Брукс, сам пионер робототехники в Стэнфордской лаборатории искусственного интеллекта в 1970-х гг., прочитав статью Брока в IEEE Spectrum в 2013 г., разослал меморандум Шокли, датированный 1951 г., сотрудникам своей компании Rethink Robotics и предложил определить, когда он был написан. Не угадал никто. Этот меморандум появился более чем за полвека до робота Baxter, созданного компанией Rethink осенью 2012 г. Тем не менее Baxter почти полностью соответствовал тому, что предлагал Шокли в 1950-х гг., – это был обучаемый робот с выразительным «лицом» на светодиодном экране, «руками», «органами чувств», «памятью» и, конечно, «мозгом».

Разница заключалась в философии – Брукс исходил из того, что Baxter будет не заменять рабочих, а помогать им, взяв на себя скучные, повторяющиеся операции и оставив людям более творческую работу. Меморандум Шокли показывает, что Кремниевой долине изначально присущ фундаментальный парадокс, связанный с тем, что технология одновременно расширяет возможности людей и вытесняет их. Сегодня этот парадокс проявляется острее, чем когда-либо. Разработчики систем, все больше изменяющих мир и определяющих облик информационной эпохи, стоят перед выбором – встраивать человека в будущее или нет.

Подспудная история Кремниевой долины проявляется и в попытке Google подключиться к созданию мобильных роботов. В 2013 г. Google без лишнего шума перекупила многих лучших робототехников мира в стремлении стать лидером следующей волны автоматизации. Как и в случае секретного проекта по созданию гугломобиля, контуры бизнеса Google в сфере мобильных роботов остаются неясными. Трудно сказать, в каком направлении пойдет Google в конечном итоге – по пути расширения возможностей или замены людей. Так или иначе компания явно взялась за поставленную Шокли шесть десятилетий назад задачу создания обучаемого робота.

Единство и противоположность искусственного интеллекта и усиления интеллекта давно очевидны Энди Рубину, инженеру-робототехнику, который успел поработать в ряде компаний Кремниевой долины, прежде чем заняться в 2005 г. созданием бизнеса Google по производству смартфонов. В 2013 г. Рубин оставил пост главы отделения телефонов на платформе Android компании и начал потихоньку приобретать лучшие компании и специалистов в области роботостроения. Для своего бизнеса он нашел новое здание на Калифорния-авеню на окраине Стэнфордского технопарка всего в половине квартала от той самой лаборатории Xerox PARK, где был создан первый современный персональный компьютер Alto. Здание ничем не выделялось, но в его атриуме стояла впечатляющая статуя робота, которую было видно с улицы. Она красовалась там до одного вечера, когда скрытным робототехникам позвонили соседи напротив через улицу. Мрачно выглядящий робот вызывал кошмары у их маленького сына. После этого робота убрали подальше от посторонних глаз.

Когда-то Рубин, для которого роботы были предметом увлечения, участвовал в финансировании проекта Себастьяна Труна по созданию Stanley, беспилотного автомобиля, завоевавшего в конечном итоге приз DARPA размером $2 млн за самостоятельное преодоление более сотни миль в Калифорнийской пустыне. «У персональных компьютеров отрастают ноги, и они начинают ходить сами», – сказал Рубин в 2005 г.{81} С той поры интерес к робототехнике в Кремниевой долине только растет. Энди Рубин просто раньше других воспринял идею Шокли.

После переезда Шокли в 1955 г. в Пало-Альто этот регион всего за полдесятилетия стал источником социальных, политических и технологических сил, которые изменили американское общество так, что оно и до сегодняшнего дня определяет облик современного мира. Пало-Альто предстояло превратиться из сонного университетского городка в одно из богатейших сообществ в мире. Появление микропроцессоров, персональных компьютеров и компьютерных сетей в 1960-х и 1970-х гг. совпало по времени с войной во Вьетнаме, движением за гражданские права и возникновением контркультуры{82}. В первых компьютерных лабораториях программисты и инженеры находили убежище от беспокойного мира. К 1969 г., когда Ричард Никсон вступил в должность президента, Сеймур Херш сообщил о резне в Сонгми (Ми Лай), а астронавты Нил Армстронг и Базз Олдрин побывали на Луне. Американцы впервые совершили путешествие в другой мир, но страна увязла в пагубном конфликте за пределами своей территории.

В 1968 г. состоялась премьера фильма «Космическая одиссея 2001» (2001: A Space Odyssey), нарисовавшего картину и потенциальных возможностей, и опасностей искусственного интеллекта. Компьютер HAL – искусственный интеллект, который решил нарушить законы робототехники Азимова, постулаты 1942 г., запрещающие машинам причинять вред людям даже для обеспечения собственного выживания, – определил образ робота в массовой культуре. В конце 1960-х гг. фантасты были пророками технического прогресса, а искусственный интеллект стал многообещающей новой технологией, реализующейся в виде компьютеров и роботов и порождающей образы то технологического рая, то популистской паранойи. В стране, которая между 1960 и 1963 гг. в буквальном смысле перешла от Флинтстоунов к Джетсонам[9], будущее казалось почти осязаемым.

В этом культурном хаосе Чарли Розен начал строить первого реального робота как платформу для проведения экспериментов в области искусственного интеллекта. Розена, родившегося в Канаде физика, занимал широкий круг связанных с компьютерами проблем, включая датчики, новые виды полупроводников и искусственный интеллект. Он был в определенном смысле человеком ренессанса: соавтор одного из первых учебников по транзисторам, рано заинтересовавшийся нейронными сетями – компьютерными сетями, перспективными с точки зрения распознавания образов и «обучения» путем моделирования поведения биологических нейронов.

В результате Стэнфордский исследовательский институт стал одним из центров исследования нейронных сетей и персептронов, попыток имитировать формы биологического обучения. Розен генерировал идеи непрерывно и озадачивал инженеров невероятно далекими от реальности экспериментами. Молодой инженер-электрик из Стэнфорда Питер Харт, проводивший исследования в области устройств распознавания простых образов, очень живо рассказывал о своих частых встречах с Розеном. «Привет, Пит, – говорил Розен, приближаясь к лицу настолько, что Харт мог видеть его подрагивающие кустистые брови, и тыкал пальцем в грудь. – У меня есть идея». Это могла быть необычная концепция распознавания речи путем передачи сказанных слов в трехметровую емкость с водой через подводные громкоговорители и регистрации формы стоячей волны с помощью видеокамеры.

Выложив идею, Розен, бывало, смотрел на своего юного протеже и кричал: «Ты что, испугался?» Он был одним из первых «лоббистов» в SRI, регулярно наведывавшихся в Вашингтон в надежде заинтересовать Пентагон в финансировании проектов. Именно Розен убедил военных профинансировать реализацию идеи Дуга Энгельбарта по расширению возможностей человека с помощью компьютеров. Он также подготовил и продал предложение по созданию мобильного робота для испытания первых нейросетей и других систем искусственного интеллекта. На одной встрече с генералами из Пентагона Розена спросили, сможет ли этот робот носить пистолет. «Сколько у него их должно быть? – прозвучало в ответ. – Думаю, он легко управится с двумя или тремя».

Исследователи не сразу определились с названием проекта. «Мы целый месяц ломали головы, пытаясь подобрать хорошее название, перебрали все, начиная с греческих имен, а потом кто-то сказал: "Посмотрите, он все время трясется и движется, назовем его Shakey[10]"», – вспоминал Харт{83}.

В конечном итоге Розен стал основным получателем средств от Агентства по перспективным оборонным исследовательским разработкам, но еще до этого он наткнулся на еще один источник финансирования, также в военных структурах. Как-то ему удалось добиться аудиенции у одной из немногих занимавших высокое положение в Пентагоне женщин, математика Рут Дэвис. Когда Розен сообщил ей, что хочет построить умную машину, она воскликнула: «Вы хотите сказать, что она может быть часовым? Можно ли использовать ее вместо солдата?» Розен признался, что, по его мнению, роботы-солдаты вряд ли появятся в скором будущем, но он хочет начать проверку необходимых для этого решений в области машинного зрения, планирования, решения проблем и распознавания речи. Дэвис загорелась идеей и выделила деньги.

Shakey имел ключевое значение как один из немногих крупных проектов 1960-х гг. в области искусственного интеллекта, вызвавших взрывной рост интереса к этой сфере и давших результаты, которые будут актуальны в течение многих десятилетий. Сегодня ДНК Shakey можно найти во всем: от складского робота Kiva и беспилотного автомобиля Google до интеллектуального помощника Siri компании Apple. Он не только обеспечил подготовку первого поколения исследователей, но и впервые высветил технические и моральные проблемы, до сих пор определяющие пределы и потенциал искусственного интеллекта и робототехники.

Многие считали Shakey образом будущего искусственного интеллекта. В ноябре 1970 г. журнал Life писал об этой машине, как о чем-то гораздо большем, чем она в действительности была. История о ней соседствовала с заглавной статьей номера об общежитии колледжа с совместным обучением, рекламой полноприводных автомобилей и 11-дюймового телевизора Sony. Рассказ репортера Брэда Дарраха о возможностях Shakey был крайне вольным в стремлении справиться со сложностями нарождающейся машинной эпохи. Он, конечно, отмечал, что машинам пока далеко до сложных эмоциональных реакций вроде оргазма у человека, но в целом статья дышала оптимизмом, царившим тогда в сообществе робототехников.

Исследователям SRI, включая Розена и его помощников Питера Харта и Берта Рафаэля, очень не понравилось, что Shakey приписывалась способность свободно двигаться по коридорам лаборатории быстрее человека, задерживаясь лишь у дверей, и размышлять, подобно человеку, об окружающем мире. Как говорил Рафаэль, это описание особенно раздражало, поскольку во время визита Дарраха робот находился в нерабочем состоянии. В тот момент его подключали к новому управляющему компьютеру{84}.

Пионер исследований в области искусственного интеллекта Марвин Мински возмущался больше всех и написал длинное опровержение, обвиняя Дарраха в подтасовке цитат. Например, Мински якобы сказал, что человеческий мозг всего лишь компьютер, сделанный из «мяса». Но больше всего он был недоволен приписыванием следующего высказывания: «В течение трех – восьми лет у нас будет машина с интеллектом среднего человека. Я имею в виду машину, которая сможет читать Шекспира, менять масло в автомобиле, вести офисные интриги, шутить и драться. К этому времени машина начнет сама учиться с фантастической скоростью. За несколько месяцев она достигнет уровня гения, а еще через несколько месяцев ее возможности станут безграничными»{85}. Сегодня тревоги Дарраха кажутся почти странными. Случайно ли, намеренно ли, он фактически говорил, что раньше или позже (а ему определенно хотелось уверить читателя, что это случится раньше) обществу придется решать, как оно будет жить со своим кибернетическим потомком.

Несмотря на искаженное представление Shakey в прессе, два года спустя в докладе на конференции по техническим вычислениям и робототехнике в Бостоне Розен обратился к поднятой Даррахом теме. Он отвергал идею полностью автоматизированного «безлюдного предприятия» в «следующем поколении» в основном из-за социальных и экономических последствий и предсказывал появление к концу 1970-х гг. производственных и обслуживающих роботов (под контролем человека), которые устранят повторяющиеся операции и тяжелую работу. Процесс роботизации, по его мнению, повлечет за собой новую волну технологической безработицы, и обществу придется пересматривать такие вопросы, как продолжительность рабочей недели, пенсионный возраст и стаж{86}.

Больше пяти лет исследователи SRI занимались разработкой, которая формально преподносилась как чистый эксперимент с искусственным интеллектом. Проект, однако, финансировался Пентагоном, у которого были свой интерес и надежда на создание боевого робота, способного отслеживать противника без риска для жизни американских солдат или солдат союзников. Shakey не только положил начало современным исследованиям в области искусственного интеллекта и проектам по расширению возможностей человека, он был также предшественником дронов военного назначения, которые сейчас патрулируют небо над Афганистаном, Ираком, Сирией и в других местах.

Shakey – яркий пример миграции на Запад исследований в области компьютеров и искусственного интеллекта в 1960-х гг. Хотя Дуглас Энгельбарт, проект которого осуществлялся в лаборатории на другой стороне здания, родился на Западном побережье, многие были мигрантами. Начало искусственному интеллекту, как области исследований, было положено во время летней конференции 1956 г. в Дартмутском колледже, где работал молодой преподаватель математики Джон Маккарти. Маккарти родился в 1927 г. в Бостоне в семье ирландского католика и литовской еврейки, активных членов Коммунистической партии США. Его родители были интеллектуалами, и мать не сомневалась, что ее дети смогут добиться всего, чего захотят. В 12 лет Маккарти наткнулся на книгу Эрика Темпла Белла «Творцы математики» (Men of Mathematics), которая помогла определиться с карьерой многим лучшим и ярчайшим ученым эпохи, включая Фримена Дайсона и Станислава Улама. В старших классах школы Маккарти считался математическим гением, а потому решил поступать только в Калифорнийский технологический институт, где Темпл Белл был профессором. Впоследствии он называл это чистой «самонадеянностью». В заявлении Маккарти обозначил свои планы одной фразой: «Я намерен стать профессором математики». Книга Белла дала ему реалистичное представление о выбранном пути. Маккарти считал, что главной наградой математику является качество его исследований, и жаждал стать интеллектуалом, добившимся всего своими силами.

В Калифорнийском технологическом институте Маккарти был амбициозным студентом. Он сразу схватился за сложные расчеты и стал слушать одновременно несколько курсов, включая самолетостроение. На службу Маккарти призвали уже в конце войны, поэтому его армейская карьера была связана с канцелярской работой, а не с участием в боевых действиях. Находясь недалеко от дома в Форт-Макартуре – в портовом городе Сан-Педро, штат Калифорния, он начал клерком, оформлявшим приказы о демобилизации, а потом стал заниматься присвоением званий возвращавшимся с войны солдатам. Затем Маккарти поступил в аспирантуру Принстона и не упустил случая познакомиться с математиком и физиком Джоном фон Нейманом, который сыграл важную роль в определении основной архитектуры современного компьютера.

В тот момент мысли об «искусственном интеллекте» уже бродили в голове Маккарти, но еще не оформились. Это произошло лишь полдесятилетия спустя во время летней конференции 1956 г. в Дартмуте. Первые наметки появились еще в аспирантуре, когда он участвовал в Хиксоновском симпозиуме по церебральным механизмам поведения в Калифорнийском технологическом институте{87}. В то время еще не было программируемых компьютеров, но идея витала в воздухе. Алан Тьюринг, например, писал об этой возможности еще год назад в надежде, что его услышат по обе стороны Атлантики. Маккарти думал об интеллекте как о математической абстракции, а не как о том, что можно воплотить в реальной машине (как предлагал Тьюринг). Это была идея создания «искусственного» аналога человеческого интеллекта, а не вариант клеточного автомата, которым позже будет заниматься фон Нейман. Маккарти сосредоточился на абстрактном аспекте интеллекта, который был способен взаимодействовать с окружающей средой. Когда он сказал об этом фон Нейману, тот воскликнул: «Напишите об этом!» Маккарти много размышлял об этой идее, но так ничего и не опубликовал. Годы спустя он выразит сожаление по поводу своего бездействия. Хотя диссертация Маккарти в Принстоне была посвящена дифференциальным уравнениям, он интересовался также логикой, и его вклад в область искусственного интеллекта стал результатом применения математической логики к рассуждениям на основе здравого смысла. Он приехал в Принстон на год позже Марвина Мински и обнаружил, что того тоже занимает идея искусственного интеллекта. В те времена, однако, не было компьютеров, которые позволили бы им развернуться, поэтому концепция оставалась абстракцией.

В аспирантуре Маккарти учился в одно время с Джоном Нэшом, математиком и будущим нобелевским лауреатом, прославленным в написанной в 1998 г. Сильвией Назар биографии «Блестящий ум» (A Beautiful Mind). Аспиранты Принстона любили грубовато подшутить друг над другом. Маккарти, например, устроили падение кровати. Потом оказалось, что один из аспирантов был двойным агентом в играх, поддерживавшим Маккарти против Нэша и одновременно помогавшим Нэшу играть против Маккарти. Теория игр в то время была в моде, и Нэш впоследствии получил Нобелевскую премию по экономике за вклад в эту область.

Летом 1952 г. Клод Шеннон, математик и инженер-электрик в Bell Labs, взял Маккарти и Мински к себе в качестве лаборантов. Известный как отец «теории информации», Шеннон создал в 1950 г. простую шахматную машину и заинтересовался программами моделирования биологического роста, так называемыми «клеточными автоматами». Самой известной из них стала игра «Жизнь», изобретенная Джоном Конвеем в 1970 г.

Если Мински тогда больше занимала предстоящая свадьба, то Маккарти проводил все время в Bell Labs, работая с Шенноном над собранием статей по математике, которое тот назвал «Исследование автоматов» (Automata Studies){88}. Слово «автоматы» не нравилось Маккарти, поскольку оно смещало фокус с конкретных аспектов искусственного интеллекта на эзотерические проблемы математики.

Четыре года спустя он нашел выход, дав начало новой области науки, которая сегодня, через шесть десятилетий, преобразует мир. Маккарти выбрал термин «искусственный интеллект», который, на его взгляд, позволял «поднять идею как флаг»{89} и задать направление Дартмутскому летнему проекту. К сожалению, термин стал ассоциироваться с заменой человеческого разума машинным, что углубляло разрыв между исследователями, занимавшимися искусственным интеллектом и усилением интеллекта. Крещение нового названия произошло в 1956 г. во время организованного Маккарти мероприятия – Дартмутского летнего исследовательского проекта по искусственному интеллекту, финансирование которого осуществлял Фонд Рокфеллера. Это было знаковое событие. Предлагались и другие варианты названия для новой дисциплины: кибернетика, исследование автоматов, комплексная обработка информации и машинный интеллект{90}.

Маккарти хотел избежать термина «кибернетика», поскольку считал его изобретателя Норберта Винера напыщенным занудой и предпочитал не связываться с ним. Он также не принимал термин «автомат», который казался далеким от интеллекта. Существовал еще один аспект, связанный с термином «искусственный интеллект». Много лет спустя в рецензии на книгу, касающейся такой академической концепции, как «социальное конструирование технологии», Маккарти постарался дистанцировать искусственный интеллект от его антропоцентрических корней. Он настаивал, что эта область не имеет отношения к поведению человека{91}.

В программе Дартмутской конференции не было упоминаний об исследовании поведения человека, «поскольку [Маккарти] не считал это уместным»{92}. По его мнению, искусственный интеллект не имел никаких связей с поведением человека, кроме разве что намека на выполнение свойственных человеку задач. Из всех участников конференции поведением человека занимались только Аллен Ньюэлл и Герберт Саймон из Института Карнеги, уже известные исследователи, соединившие социологию с когнитивистикой. Через много лет подход, предложенный участниками Дартмутской конференции, получит обозначение GOFAI – «старый добрый искусственный интеллект», т. е. подход, ориентированный на приближение к человеческому уровню интеллекта на основе использования логики и набора эвристических правил решения проблем.

В подготовке летней конференции участвовала IBM, в 1950-х гг. уже крупнейший производитель компьютеров. Маккарти и Мински провели лето 1955 г. в лаборатории компании, создавшей ламповый мейнфрейм IBM 701 (их было выпущено всего 19 единиц). После конференции ряд исследователей из IBM вели разработки в области искусственного интеллекта, но в 1959 г. производитель компьютеров закрыл это направление. По некоторым свидетельствам, компьютерный гигант опасался, что его машины будут задействованы в технологиях, уничтожающих рабочие места{93}. Тогдашний глава компании Томас Уотсон-младший принимал участие в общенациональной дискуссии о роли и последствиях применения компьютеров в сфере автоматизации и не хотел, чтобы его компания ассоциировалась с массовой ликвидацией рабочих мест. Маккарти позже назвал это «приступом тупости» и «диверсией»{94}.

В эти первые годы Маккарти и Мински были практически неразлучны – Маккарти даже сопровождал Мински во время его знакомства с родителями будущей жены. Однако их подходы к созданию искусственного интеллекта все больше расходились. В аспирантуре Мински занимался исследованием нейронных сетей. Со временем он стал склоняться к тому, что корни интеллекта – в опыте людей. В отличие от него, Маккарти всегда искал формальные логико-математические пути к моделированию разума человека.

Так или иначе, несмотря на первоначальные трудности, искусственный интеллект оставался сферой коллективной работы и находился в руках исследователей с привилегированным доступом к ревностно охраняемым компьютерам размером с комнату. Как вспоминал Маккарти, Лаборатория искусственного интеллекта в Массачусетском технологическом институте появилась в 1958 г. после того, как туда пришли он и Мински. Как-то Маккарти, встретив Мински в коридоре, сказал: «Думаю, нам нужен проект в области искусственного интеллекта». Мински ответил, что это хорошая идея. Тут с ними поравнялся Джером Визнер, тогда руководитель Лаборатории электроники.

Маккарти выпалил: «Мы с Марвином хотим открыть исследования по искусственному интеллекту».

«Так что вам нужно?» – спросил Визнер.

Маккарти не раздумывая сказал: «Нам требуются помещение, секретарь, перфоратор и два программиста».

На это Визнер ответил: «А шесть аспирантов в придачу возьмете?»

Оказалось, что лучшего момента для такой просьбы нельзя было и придумать. Массачусетский технологический институт как раз получил крупный правительственный грант «для дальнейшего совершенствования», но никто в точности не знал, что понимать под «совершенствованием». Грант в то время использовался для поддержки шести аспирантов-математиков, но Визнер не представлял, что делать дальше. Маккарти и Мински стали для него удачной находкой{95}.

Грант предоставили весной 1958 г. сразу после запуска советского спутника. Федеральное правительство США спохватилось и стало щедро финансировать исследовательские работы в университетах. Считалось, что широкая поддержка науки пойдет на пользу военным разработкам, и в тот год президент Эйзенхауэр учредил Агентство по перспективным исследовательским проектам (DARPA), чтобы избежать технологических сюрпризов в будущем.

Счастливая встреча этой троицы имела практически неоценимое значение для всего мира. Некоторые из «шести аспирантов» были связаны с Клубом любителей моделей железных дорог, ортодоксальной группой будущих инженеров, которых компьютеры притягивали как магнит. Идеалы этого клуба дали начало тому, что стало «культурой программистов-фанатиков», которые больше всего ценили свободу обмена информацией{96}. Маккарти способствовал распространению их этики после ухода из Массачусетского технологического института в 1962 г. и создания конкурирующей лаборатории в Стэнфордском университете. В конечном итоге культура программистов-фанатиков породила такие социальные инициативы, как программное обеспечение с открытым кодом, организация Creative Commons и сетевой нейтралитет. Еще в Массачусетском технологическом институте Маккарти в поисках более эффективного пути исследования искусственного интеллекта предложил использовать компьютер в режиме разделения времени и разработал язык программирования Lisp. Он быстро понял, что искусственный интеллект на определенной стадии развития должен стать интерактивным и что логично вести разработку на компьютерной системе, с которой множество пользователей работают одновременно, а не поочередно, каждый раз заказывая машинное время.

Когда в Массачусетском технологическом институте решили провести опрос для выяснения разумности создания системы с разделением времени вместо того, чтобы сразу реализовать предложение Маккарти, тот решил переехать на Запад. Позже он с обидой говорил, что спрашивать сотрудников университета и персонал об отношении к работе компьютера в режиме разделения времени – все равно что выяснять мнение землекопов о полезности парового экскаватора{97}.

Маккарти полностью принял контркультуру Западного побережья. Он давно вышел из Коммунистической партии, но все еще был за левых и вскоре примкнул к настроенному против истеблишмента сообществу поблизости от Стэнфордского университета. Он отрастил волосы, стал носить повязку на голове и превратился в активного участника Свободного университета, который возник в средней части полуострова Сан-Франциско. Только после того, как Советский Союз подавил чешское восстание 1968 г., Маккарти окончательно разочаровался в социализме. Однажды, когда он рассуждал о мудрости ненасилия на форуме Свободного университета, один из радикалов пригрозил убить его. Это заставило Маккарти перейти на сторону правых и зарегистрироваться как республиканец.

На свою карьеру Маккарти не мог пожаловаться. Должность профессора Стэнфордского университета была лицензией на охоту за финансированием, и по пути в Стэнфорд он завернул к своему другу Ликлайдеру, который с 1962 г. возглавлял Отделение технологий обработки информации ARPA. Они вместе работали над первыми идеями по разделению времени, и именно Ликлайдер финансировал амбициозную программу по их реализации в Массачусетском технологическом институте после перехода Маккарти в Стэнфорд. Впоследствии Маккарти говори, что никогда бы не ушел, если бы знал, что Ликлайдер будет так поддерживать идеи разделения времени.

На Западном побережье почти не было бюрократических препон, и Маккарти быстро создал Лабораторию искусственного интеллекта в Стэнфорде. Ему удалось получить компьютер Digital Equipment Corporation и найти для него место в Лаборатории постоянного тока, в здании и на земле, подаренной Стэнфорду GTE, после того как эта телекоммуникационная компания отказалась от плана организации исследовательской лаборатории на Западном побережье.

Стэнфордская лаборатория искусственного интеллекта быстро стала раем для программистов-фанатиков. Умные молодые разработчики, такие как Стив «Слаг» Рассел и Уитфилд Диффи, последовали за Маккарти на Запад, и за следующее полтора десятилетия через лабораторию прошло великое множество инженеров и программистов. Несмотря на то что Маккарти стал политически более консервативным, атмосфера контркультуры в лаборатории не исчезла. И Стив Джобс, и Стив Возняк сохранили память о посещении в подростковом возрасте Стэнфордской лаборатории. SAIL стала кузницей выдающихся компьютерщиков и новых отраслей.

Именно SAIL дала старт разработкам в области машинного зрения и робототехники, лабораторию по праву считают колыбелью распознавания речи. В свое время Маккарти предложил Раджу Редди понимание речи в качестве темы для диссертации, и Редди стал ведущим исследователем в этой области. Над мобильными роботами в SAIL параллельно с проектом Shakey в Стэнфордском исследовательском институте работали Ханс Моравек, а затем Родни Брукс, которые стали пионерами в области робототехники в Университете Карнеги – Меллона и Массачусетском технологическом институте соответственно.

Это был первый золотой век искусственного интеллекта с исследованиями возможностей понимания естественного языка, компьютерной музыкой, экспертными системами и видеоиграми типа Spacewar. Психиатр Кеннет Колби даже работал с улучшенной версией онлайновой диалоговой системы Eliza, разработанной Джозефом Вейценбаумом в Массачусетском технологическом институте. Колби смоделировал страдающую параноидальным психозом личность, которую назвали «Пэрри». Редди, которому уже доводилось работать с более ранней моделью мейнфрейма IBM 650, вспоминал, что компания брала $1000 за час доступа к машине. Сейчас он «владел» в 100 раз более быстрым компьютером каждый день с 20:00 до 08:00 следующего дня. «Мне казалось, что я умер и попал на небеса», – говорил он{98}.

В лаборатории Маккарти родился целый ряд побочных областей исследования, пионером одной из которых, инженерии знаний, был специалист по вычислительной технике Эд Фейгенбаум. Его первый проект Dendral, начатый в 1965 г., оказал очень большое влияние на развитие экспертных систем, предназначенных для сбора и организации знаний. Система Dendral первоначально создавалась, чтобы помочь химикам идентифицировать неизвестные органические молекулы. Это был общий проект компьютерщиков Фейгенбаума и Брюса Бьюкенена и двух суперзвезд из других областей науки – молекулярного биолога Джошуа Ледерберга и изобретателя противозачаточной таблетки химика Карла Джерасси. Его цель заключалась в автоматизации работы высококвалифицированного специалиста по органической химии.

Бьюкенен вспоминал, что у Ледерберга был контракт с NASA, связанный с поиском жизни на Марсе. Ответ должна была дать масс-спектрометрия: «Фактически система Dendral создавалась для очень конкретного применения, а именно полета на Марс, отбора проб и поиска органических соединений»{99}. И действительно, работу над проектом Dendral начали в 1965 г. после ожесточенных споров в NASA о необходимости пилотируемых полетов на Луну. На заре освоения космического пространства в агентстве остро стоял вопрос, следует ли включать людей в контур управления. Сегодня, несколько десятилетий спустя, этот спор разгорелся вновь, но уже в связи с полетами на Марс.

Первоначальный оптимизм в отношении искусственного интеллекта, который господствовал в SAIL, не иссякал до конца 1960-х гг. Ныне это история, но Моравек, который как аспирант жил тогда в мансарде SAIL, годы спустя вспоминал, что Маккарти, излагая свое предложение ARPA, говорил о возможности создать «машину с искусственным интеллектом» для космоса в течение десятилетия{100}. Полвека спустя это кажется нереальным и даже наивным, но Маккарти уже в момент зарождения своего интереса в конце 1940-х гг., еще до появления компьютеров, твердо решил создать машины с такими же, как у человека, возможностями.

В самом деле, в первое десятилетие существования отрасли оптимизм по поводу искусственного интеллекта был огромен. Это явно просматривается в материалах Дартмутской конференции 1956 г.:

Исследования должны строиться на предпосылке, что любой аспект обучения или интеллекта принципиально поддается описанию с точностью, достаточной для его воспроизведения машиной. Надо выяснить, как научить машины использовать язык, оперировать абстракциями и понятиями, решать такие проблемы, которые сейчас под силу только человеку, и совершенствоваться. Мы полагаем, что в одной или нескольких из этих областей можно добиться значительного прогресса, если в течение лета над ними поработает тщательно отобранная группа ученых{101}.

Мински полностью разделял оптимизм Маккарти и вскоре поручил одному из аспирантов заниматься проблемой машинного зрения, полагая, что ее можно решить в ходе летней практики{102}. «Наша конечная цель – создать программы, которые учатся на собственном опыте так же эффективно, как люди», – писал Маккарти{103}.

Это намерение и легло в основу лаборатории, ставшей раем для исследователей, которые хотели наделить машину всеми способностями человека. В то же время оно вызвало серьезные культурные противоречия, расколовшие компьютерный мир на два лагеря – сообщество, ориентированное на замену человека, и сообщество, намеренное использовать те же технологии для усиления интеллекта человека. Как следствие, в последние полвека внутреннее противоборство «искусственный интеллект – усиление интеллекта» было неотделимо от компьютерной науки на фоне появления все более эффективных технологий преобразования мира.

Можно, конечно, смотреть на искусственный интеллект и усиление интеллекта как на две стороны одной медали. Однако существует фундаментальное различие между созданием технологии, приносящей пользу человечеству, и созданием технологии в качестве самоцели. Сегодня это различие проявляется в том, для чего предназначены все более мощные компьютеры, программное обеспечение и роботы, – чтобы помогать людям или чтобы заменять их. Некоторые исследователи, прошедшие через SAIL, с самого начала выступали против искусственного интеллекта в стиле Маккарти. Алан Кей, выдвинувший концепцию современного персонального компьютера в Xerox в 1970-х гг., провел год в SAIL и впоследствии говорил, что это был один из наименее продуктивных периодов в его карьере. К тому времени он уже сформулировал идею Dynabook – «персонального компьютера для детей всех возрастов»{104}, которая дала начало целому поколению компьютеров, но так и остался чужим для культуры SAIL. Впрочем, для многих в SAIL будущее было очевидным: машины вскоре сравняются с людьми и даже заменят их. Машины уже были классными, а в будущем они должны превзойти по способностям своих создателей.

Чтобы добраться до лишенного ярких вывесок пригородного жилого района Питтсбурга и найти Ханса Моравека, нужно проехать на автомобиле несколько километров от кампуса Университета Карнеги – Меллона. Его офис находился в крошечной квартирке на верхнем этаже дома по соседству с небольшой торговой улицей. Моравек, так и не избавившийся от своего австрийского акцента, превратил двухкомнатную квартиру в укромный офис, где можно было без помех сконцентрироваться на работе. Тесная гостиная с маленьким холодильником переходила в кабинет еще меньшего размера с опущенными шторами, где господствовали большие компьютерные дисплеи.

Несколько десятилетий назад, когда он привлек внимание публики как один из известнейших в мире конструкторов роботов, журналы нередко представляли его «похожим на робота». В жизни это совершенно не так – он часто смеется и не чужд самоиронии. Он остается профессором в Институте робототехники Университета Карнеги – Меллона, где преподавал много лет, однако, хотя и является одним из самых известных учеников Маккарти, практически исчез из мира, к созданию которого приложил руку.

Когда Роберт Джераси, профессор религиоведения Манхэттенского колледжа и автор книги «Апокалиптический искусственный интеллект: Представление о рае в робототехнике, искусственном интеллекте и виртуальной реальности» (Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality, 2010), приехал в Питтсбург с целью исследований, Моравек уклонился от встречи с ним, сославшись на занятость в новом проекте. Джераси – один из авторов, изображавших Моравека наряду с Рэем Курцвейлом интеллектуальным сооснователем техно-религиозного движения, считающего, что человечество неизбежно будет ассимилировано искусственным интеллектом и роботами, которых мы сейчас создаем. В 2014 г. это движение получило широкую известность, когда такие видные представители технологического и научного мира, как Илон Маск и Стивен Хокинг, выступили с предупреждениями о потенциальной угрозе, которую несут людям футуристические системы искусственного интеллекта.

По словам Джераси, целое поколение компьютерщиков, оценивая последствия своих изобретений, вместо того чтобы отходить от религиозности западного общества, возвращаются к ней. «В конечном итоге апокалиптические предсказания последствий развития искусственного интеллекта практически не отходят от апокалиптических традиций иудаизма и христианства. Если они окажутся правильными, мир вновь станет обителью магии», – писал Джераси{105}. С точки зрения профессора религиоведения, это движение можно было свести к концепции отчуждения, под которым он понимал главным образом преодоление страха смерти.

Концепция отчуждения Джераси – не просто уход из общества в стиле Джеймса Дина[11] в 1950-х гг. Моравек, однако, не ассоциируется с абстрактной концепцией страха смерти. Пионер робототехники стал легендой, когда жил в мансарде SAIL в 1970-х гг. В те времена лаборатория была идеальным миром контркультуры для первого поколения компьютерных фанатиков, обнаруживших, что машины, к которым они имели привилегированный доступ, можно превратить в «усилители фантазий».

В 1970-е гг. Маккарти все еще верил, что до появления искусственного интеллекта рукой подать даже при тогдашних скромных вычислительных возможностях. По его выражению, для создания работоспособного искусственного интеллекта нужны «1,8 Эйнштейна и десятая часть ресурсов Манхэттенского проекта»{106}. Моравек в своих ожиданиях исходил из ускорения эволюции вычислительной техники. Он быстро схватил суть закона Мура – идею, что со временем мощность компьютеров будет возрастать экспоненциально, и дополнил ее логичным, на его взгляд, заключением: появление машинного интеллекта неизбежно и произойдет сравнительно скоро. Препятствия, которые предстояло преодолеть для этого, он обобщил в конце 1970-х гг. так:

Из-за недостаточной эффективности нынешних компьютеров сложнее всего автоматизации поддаются функции, которые для людей совершенно естественны: зрение, слух, аргументированное суждение. Основная причина этого стала для меня очевидна в процессе работы над машинным зрением. Дело просто в том, что наши компьютеры пока еще действуют в сотни тысяч, миллионы раз медленнее специализированных отделов нервной системы человека. Это огромное несоответствие не дает нам двигаться, создавая проблемы на пустом месте, затрудняя до невозможности все остальное и заставляя заниматься совсем не тем, чем нужно{107}.

Впервые Моравек обозначил свое несогласие с Маккарти в 1975 г. в отчете SAIL «Значение вычислительной мощности для интеллекта»{108}. Это был манифест, который укрепил его веру в экспоненциальный рост вычислительной мощности и одновременно убедил в том, что текущие ограничения временны. Урок, который он рано усвоил и к которому не раз возвращался на протяжении своей карьеры, заключался в том, что, если вы как разработчик искусственного интеллекта зашли в тупик, подождите с десяток лет и проблемы решатся в результате неотвратимого роста производительности компьютеров. В статье 1978 г. для научно-фантастического журнала Analog Моравек представил свои аргументы широкой публике. В действительности в ней по-прежнему просматривалась унаследованная от Маккарти вера в то, что машины превзойдут человека по интеллекту примерно за десятилетие. «Допустим, мои прогнозы правильны и технические возможности достижения равенства с человеком будут доступны через 10 лет по цене нынешнего среднего компьютера, – писал он. – Что дальше?»{109} Ответ был очевиден. Люди останутся далеко позади нового вида, которому мы помогаем развиваться.

Оставив в 1980 г. Стэнфорд, Моравек написал две популярные книги о приближающейся эре умных машин. В «Детях разума» (Mind Children: The Future of Robot and Human Intelligence, 1988) он показывает, как любимые им с детства роботы развиваются и превращаются в самостоятельный вид. Десять лет спустя он развил эту идею в книге «Робот: От простой машины до совершенного разума» (Robot: Mere Machine to Transcendent Mind, 1998).

Мало кто знает, но Дуг Энгельбарт в 1960 г. на заре развития интерактивных компьютеров также считал, что вычислительная мощность будет расти экспоненциально{110}. Он опирался на эту идею при запуске исследовательского проекта в области усиления интеллекта в SRI, который внес вклад в появление и персональных компьютеров, и интернета. В отличие от него Моравек вдохновлялся на протяжении всей своей жизни романом с роботами. Хотя он и сдерживал свой оптимизм, его вера не пошатнулась ни разу. В 1990-х гг. параллельно с работой над второй книгой он два раза брал творческий отпуск, стремясь ускорить процесс совершенствования машинного зрения и таким образом дать машинам возможность ориентироваться в пространстве и двигаться.

Первый отпуск Моравек провел в Кембридже, штат Массачусетс, в компании Thinking Machines Corporation Денни Хиллиса в надежде воспользоваться суперкомпьютером. Но новый суперкомпьютер CM-5 не был готов. В ожидании он занялся отладкой своей программы на рабочей станции. К концу отпуска стало ясно, что нужно просто ждать, когда возможности суперкомпьютера придут в его настольный компьютер, а не подстраивать программу к работе на специализированной машине. Пять лет спустя во время второго творческого отпуска в исследовательской лаборатории компании Mercedes-Benz в Берлине он вновь пришел к тому же выводу.

Моравек все еще не хотел сдаваться, поэтому, вернувшись из Германии, он подписал контракт с DARPA на продолжение разработки программного обеспечения для автономного мобильного робота. Однако после выпуска двух бестселлеров за десятилетие с обещаниями скорого технологического прорыва он решил, что наступило время взяться за дело. Вера в то, что экспоненциальный рост вычислительной мощности неизбежно приведет к появлению машин с искусственным интеллектом, все больше укреплялась в Кремниевой долине, благо Рэй Курцвейл предоставил популярный набор аргументов в 2005 г. в книге «Сингулярность уже близка» (The Singularuty Is Near). «Это превращается в спектакль и мешает реальной работе», – решил Моравек. К этому времени он полностью разделял подход Алана Кея, который говорил, что «лучший способ предсказать будущее – сотворить его».

Компьютерная берлога Моравека находится далеко от офиса Seegrid, основанной им в 2003 г. компании по производству роботизированных погрузчиков, но от его дома в Питтсбурге до нее можно дойти пешком. В последнее десятилетие он оставил роль футуриста и стал отшельником. В каком-то смысле это было продолжением проекта, который он начал еще ребенком. В десятилетнем возрасте Моравек построил своего первого робота из консервных банок, батареек, лампочек и электромотора. В средней школе он сделал способную следовать за лучом света черепаху и манипулятор. В Стэнфорде он стал двигателем проекта по созданию Стэнфордской тележки, мобильного робота с телевизионной камерой, который мог обходить препятствия. Тележка досталась ему в наследство после прихода в Стэнфорд в 1971 г., и постепенно он ее полностью переделал.

Первым автономным роботом был Shakey, но именно Стэнфордская тележка с ее долгой и яркой историей должна считаться предком беспилотного автомобиля. Она появилась как результат финансируемого NASA проекта в департаменте машиностроения в 1960 г. с прицелом на создание дистанционно управляемого транспортного средства для передвижения по поверхности Луны. Проблема была в том, как управлять подобным аппаратом с учетом задержки радиосигнала, которому для прохождения от Земли до Луны и обратно требовалось 2,7 с.

В финансировании проекта в его первоначальном виде было отказано, поскольку победила идея сохранения человека в контуре управления. В 1962 г. президент Кеннеди нацелил страну на пилотируемые полеты к Луне, и проект тележки положили на полку{111}. Робот размером с карточный стол на четырех велосипедных колесах пылился до 1966 г., когда его обнаружил заместитель директора SAIL Лес Эрнест. Он убедил департамент машиностроения передать его в SAIL для экспериментов по созданию автономного автомобиля. Со временем, используя мейнфрейм SAIL, один из аспирантов смог «научить» робота двигаться вдоль белой линии на полу со скоростью порядка километра в час. Радиоканал обеспечивал дистанционное управление. Местонахождение проще было определять с помощью двух фотоэлементов, но последним писком в то время считалась видеокамера, связанная с компьютером.

Моравек модифицировал и отлаживал систему в течение 10 лет, и в конце она могла пройти через комнату, обходя препятствия, в два раза быстрее. У тележки было много недостатков. Пытаясь обеспечить ориентацию в пространстве и определение местоположения с помощью единственной камеры, Моравек взялся за одну из самых сложных задач искусственного интеллекта. Воссоздание точной трехмерной модели мира он считал ключевым шагом на пути к его пониманию.

В то время единственной обратной связью было пройденное тележкой расстояние. В отсутствие настоящего стереоскопического зрения тележка не воспринимала глубину. Из соображений экономии она перемещала камеру вперед и назад по направляющей под прямым углом к полю зрения, давая программе возможность сформировать стереоизображение по данным одной камеры. Это был прообраз подхода, которым десятилетия спустя воспользовалась специализирующаяся на машинном зрении израильская компания Mobileye.

Автомат двигался медленно и монотонно, но канал связи и видеокамера позволяли Моравеку развлекаться дистанционным управлением с компьютерной рабочей станции. Можно было вообразить, что это луноход разъезжает вокруг здания SAIL среди холмов к западу от Стэнфорда. Вскоре на ведущей к лаборатории дороге появился желтый дорожный знак с надписью «ОСТОРОЖНО, РОБОТИЗИРОВАННЫЙ АВТОМОБИЛЬ». Тележка и в самом деле выехала на улицу, но не очень успешно. Казалось, у нее была способность находить неприятности. Одна из них случилась в октябре 1973 г., когда тележка в режиме ручного управления поехала под уклон и перевернулась, из аккумулятора вытекла кислота, уничтожившая дорогостоящую электронику{112}. На восстановление ушел почти год.

Моравек не раз пытался провести тележку вокруг здания, но позади лаборатории дорога шла вниз, радиосигнал ослабевал, и определение точного местоположения тележки становилось проблематичным. Однажды он неправильно определил ее положение и повернул не в ту сторону. Вместо того чтобы завершить круг, робот двинулся к оживленной Арастрадеро-роуд у подножия холмов Пало-Альто. Моравек надеялся, что сигнал от робота усилится, но он оставался неустойчивым. Телевизионная картинка постоянно останавливалась. Неожиданно Моравек увидел едущий рядом с роботом автомобиль. Это было странным. Не выдержав, он оторвался от терминала и отправился на поиски. Там, где, по его мнению, должен был находиться робот, оказалось пусто. Моравек решил, что его разыгрывают. Он разыскивал беглую машину до тех пор, пока она не прикатила сама с сидящим верхом техником. К тому времени, когда ее поймали, Стэнфордская тележка довольно далеко уехала по Арастрадеро-роуд. С той поры инженеры добились значительного прогресса в конструировании беспилотных автомобилей. Давняя уверенность Моравека в том, что нужно лишь подождать, пока компьютеры станут более дешевыми и мощными, в значительной мере оправдалась.

Он продолжал заниматься машинным зрением, но не все шло гладко. В октябре 2014 г. созданная им компания по производству промышленных систем искусственного зрения была объявлена банкротом и подверглась принудительной реструктуризации. Однако, несмотря на разочарования, изменялись только временны́е рамки его планов. На вопрос, заменят ли современные системы искусственного интеллекта и роботы живой труд, он отвечал, подмигивая, что намерен заменить род людской – «труд – это минимальная цель».

Свое представление о ближайшем будущем Моравек обрисовал во второй книге: «Робот: От простой машины до совершенного разума». В ней он делает вывод, что нет необходимости заменять капитализм, поскольку для развивающихся машин полезно конкурировать друг с другом. «Дело в том, – говорит он, – что мы фактически создаем для себя довольно пристойные условия выхода в отставку». Призрак «конца работы», который сегодня с растущей тревогой обсуждают многие технари, в понимании Моравека относительно небольшая проблема. Люди любят развлекать друг друга. Подобно многим собратьям по сингулярности, его волнует, что мы будем делать с переизбытком товаров и услуг. Демократия, по его словам, открывает путь к совместному использованию огромного накопленного капитала, который будет все больше приумножаться сверхпродуктивными компаниями. Появится возможность, например, увеличивать социальные выплаты и снижать возраст выхода на пенсию до тех пор, пока он не будет наступать в момент рождения.

На взгляд Моравека, расширение возможностей – промежуточный этап технологического развития, необходимый лишь кратковременно, пока люди могут делать то, чего не умеют машины. Наряду с Ликлайдером он полагает, что машины будут совершенствоваться все быстрее и быстрее, тогда как люди эволюционируют постепенно. Пусть не к 2020 г. (а было время, когда он считал, что к 2010 г.), но довольно скоро появятся так называемые универсальные роботы, способные выполнять широкий набор базовых задач. Эту идею Моравек выдвинул еще в 1991 г., изменялись только сроки. Раньше или позже машины станут настолько совершенными, что начнут учиться на собственном опыте и постепенно приспосабливаться к существующим условиям. Моравек все еще верит в три закона робототехники Азимова. Рынок заставит роботов быть гуманными – тех, которые причиняют вред людям, просто не будут покупать. В какой-то момент возникнет и машинное сознание.

В книге «Робот: От простой машины до совершенного разума» также есть идея о необходимости жесткого регулирования полностью автоматизированных компаний. Законы должны ограничивать рост этих компаний и подконтрольных им роботов и не допускать концентрации слишком большого могущества. Как только какая-то из них станет слишком крупной, автоматически должны включиться антимонопольный механизм и произойти принудительное разделение. В мире Моравека компании будут находиться под надзором общества интеллектуальных компаний, стоящего на страже коллективного блага. В его мировоззрении нет ничего романтического: «Мы не можем быть слишком сентиментальными по отношению к роботам, поскольку, в отличие от людей, у них нет истории эволюции, главным в которой было выживание». Он по-прежнему считает, что появление компаний с искусственным интеллектом и универсальных роботов ознаменует реализацию утопической идиллии, где удовлетворяются любые желания человека.

Но мировоззрение Моравека не полная идиллия. У его будущего с искусственным интеллектом и роботами есть и мрачная сторона. Роботы будут осваивать Солнечную систему, добывать полезные ископаемые на астероидах и самовоспроизводиться. Вот тут его идеи начинают смахивать на антиутопический фильм Ридли Скотта «Бегущий по лезвию» (Blade Runner), в котором андроиды начинают колонизировать Солнечную систему. «Что-то может пойти не так, и там появятся роботы-преступники, – говорит Моравек. – Дело кончится тем, что пояс астероидов и то, что находится за ним, превратится в дикий мир без ограничений, которые сдерживают послушных роботов на Земле». Понадобится ли нам планетарная система обороны от нашего потомства? Возможно, нет, рассуждает он. Остается надеяться, что эта новая технологическая форма жизни будет больше заинтересована в освоении Вселенной.

В уютном отшельническом командном центре Моравека в пригороде Питтсбурга, в комнате, полной мониторов, довольно легко поверить в его научно-фантастические представления. Но пока что у нас практически нет надежных свидетельств быстрого ускорения развития технологий, которое приведет к созданию робототехнического рая при его жизни. Хотя у нас до сих пор нет беспилотных автомобилей, а сроки реализации прогнозов приходится отодвигать все дальше, Моравек показывает кривые на своих гигантских мониторах и твердо стоит на том, что общество по-прежнему идет по пути создания вида, который станет нашим преемником.

Разделят ли люди это грандиозное видение? Хотя в книге «Дети разума» излагается идея загрузки разума человека в компьютер, Моравек не сторонник цели Рэя Курцвейла «жить достаточно долго, чтобы стать вечным». Курцвейл идет на экзотические и сомнительные медицинские процедуры для продления своей жизни. Моравек в расчете дожить хотя бы до 2050 г. ограничивается правильным питанием и частыми прогулками. Ему 64 года, и у него, пожалуй, неплохие шансы прожить достаточно долго.

В 1970-х и 1980-х гг. соблазн создания искусственного интеллекта привлек в эту область целое поколение великолепных инженеров, но принес разочарование. Когда искусственный интеллект не оправдал ожиданий, многие переключились на другой идеал – усиление интеллекта.

Шелдон Брейнер вырос в еврейской семье среднего класса в Сент-Луисе и с раннего возраста увлекался практически всем, с чем соприкасался. В 1950-х гг. он выбрал колледж в Стэнфорде в какой-то мере ради того, чтобы быть подальше от семейной пекарни. Он хотел посмотреть мир и еще в средней школе понял, что, если останется в Сент-Луисе, отец, скорее всего, заставит его заняться семейным бизнесом.

Закончив колледж, он съездил в Европу, провел некоторое время в армейском резерве, а затем вернулся в Стэнфорд, чтобы стать геофизиком. Ему давно не давала покоя идея, что магнитные силы играют какую-то роль в возникновении землетрясений и могут помочь предсказывать их. В 1962 г. он начал работать в Varian Associates, одной из первых компаний Кремниевой долины, выпускавшей магнитометры. Его задачей был поиск новых применений для этих приборов, позволявших обнаруживать незначительные изменения в магнитном поле Земли. Varian идеально соответствовала всестороннему интеллекту Брейнера. Как раз в то время высокочувствительные магнитометры стали портативными и открылись широкие перспективы для их применения в самых разных областях – от разведки нефти до обеспечения безопасности в аэропортах. Годы спустя Брейнер станет эдаким высокотехнологичным Индианой Джонсом, использующим технологические достижения для исследования археологических объектов. В руках Брейнера магнитометры Varian будут находить жертв лавин, клады, пропавшие подводные лодки и даже погребенные города. Первый эксперимент в полевых условиях он провел в районе Стэнфорда, измерив электромагнитный импульс 1,4-мегатонного ядерного взрыва на высоте 250 км над землей. Секретные испытания, известные как Starfish Prime, дали новые представления о воздействии ядерных взрывов на расположенную на земле электронику.

Работая над докторской диссертацией в 1967 г., Брейнер начал выяснять, можно ли использовать незначительные изменения магнитного поля в недрах земли для предсказания землетрясений. Он разместил группу магнитометров на грузовиках вдоль 200-километрового участка разлома Сан-Андреас и использовал телефонные линии для передачи данных в лабораторию в старом домике в кампусе Стэнфорда. Там он установил перьевой самописец для регистрации сигналов магнитометров. Это было громоздкое устройство, которое проталкивало, а не протягивало бумажную ленту под пятью цветными перьями. Чтобы менять ленту и отмечать время, был нанят подросток из местной школы, но устройство постоянно зажевывало бумагу. Тогда Брейнер приспособил для записи новый цифровой принтер Hewlett-Packard, и школьник, менявший ленту за доллар в день, стал одной из первых жертв автоматизации.

Позже Брейнера пригласила Hughes Corp. с целью разработки глубоководного морского магнитометра для судна Glomar Explorer. По официальной версии, он предназначался для поиска полезных ископаемых – марганцевых конкреций на океаническом дне на глубине 3000–3500 м. Десятилетие спустя выплыла информация, что реально это делалось в рамках операции ЦРУ по поиску и подъему затонувшей советской подводной лодки со дна Тихого океана. В 1968 г. после убийства Роберта Кеннеди советник Белого дома по науке попросил Брейнера порекомендовать технические средства для обнаружения спрятанного оружия. Тот явился в Исполнительное управление президента с относительно простой системой из четырех магнитометров, ставшей основой для современных металлодетекторов, которые широко используются в аэропортах и общественных зданиях и по сей день{113}.

Брейнеру все же удалось обнаружить связанное с землетрясениями изменение магнитного поля вдоль разлома, но сигнал был трудно различим на фоне геомагнитной активности, и его гипотеза не получила широкого признания. Он не позволил отсутствию научного подтверждения стать препятствием на своем пути. В Varian ему платили за поиск новых сфер коммерческого применения магнитометров, и в 1969 г. он вместе с пятью коллегами из Varian основали Geometrics, компанию, которая использовала авиационные магнитометры для поиска нефтяных месторождений.

В течение семи лет Брейнер руководил компанией по разведке нефти, а затем продал ее Edgerton, Germeshausen, and Grier (EG&G) и проработал еще семь лет в их филиале, прежде чем уйти в 1983 г. К тому времени технологии искусственного интеллекта, начало которым положили SAIL Джона Маккарти и работа Фейгенбаума и Ледерберга по сбору и организации знаний, начали завоевывать Кремниевую долину. Businessweek в июле 1984 г. с энтузиазмом провозглашал: «Искусственный интеллект уже здесь!» Через два месяца в вечерних новостях канала CBS Дэн Разер представил хвалебный репортаж об успехах SRI в разработке экспертных систем для поиска залежей полезных ископаемых. Охваченный энтузиазмом Брейнер стал частью волны ориентированных на технологии предпринимателей, которые верили, что пришло время коммерциализации отрасли.

Вслед за Dendral, первой экспертной системой, такие системы стали появляться одна за другой. В Mycin, также разработанную в Стэнфорде, был заложен «механизм построения заключений» на основе логики «если… то» и «базы знаний» примерно из шести сотен правил выявления кровяных инфекций. В Питтсбургском университете в 1970-х гг. осуществлялась программа Internist-I, еще одна из попыток решить проблему диагностики и лечения болезней. В 1977 г. в SRI Питер Харт, начавший свою карьеру в области искусственного интеллекта с робота Shakey, и Ричард Дуда, еще один из первых исследователей искусственного интеллекта, создали систему Prospector, чтобы помочь в поиске месторождений полезных ископаемых. Эта работа активно освещалась телеканалом CBS. А в 1982 г. Япония объявила программу по созданию компьютера пятого поколения. Открыто ориентированная на искусственный интеллект, она подстегнула конкуренцию и в конечном итоге бум в сфере искусственного интеллекта. В результате возник рынок, предлагавший новоявленным кандидатам естественных наук неслыханные $30 000 в год сразу после защиты.

Джинн был окончательно выпущен из бутылки. Разработка экспертных систем стала дисциплиной, названной «инженерия знаний»: идея заключалась в том, что можно собрать и упорядочить знания ученых, инженеров или менеджеров и применить их для управления предприятием. Компьютер фактически превращался в признанного авторитета. В принципе эта технология могла использоваться для расширения возможностей человека, но производители программного обеспечения в 1980-х гг. продавали ее компаниям под флагом снижения затрат. Как средство повышения производительности она чаще всего предполагала вытеснение людей.

Брейнер искал отрасль, где легко создать базу знаний, и остановился на коммерческом кредитовании и страховом андеррайтинге. В то время опасения в отношении автоматизации были еще не так сильны, и он не рассматривал проблему с этой точки зрения. Компьютерный мир делился на сравнительно дешевые персональные компьютеры и более дорогие «рабочие станции» – чаще всего мощные компьютеры для автоматизированного проектирования. Две компании, Symbolics и Lisp Machines, Inc., отпочковавшиеся от Лаборатории искусственного интеллекта Массачусетского технологического института, занимались специализированными компьютерами для работы на языке Lisp, предназначенном для создания приложений искусственного интеллекта.

Брейнер основал собственный стартап Syntelligence, который вместе с Teknowledge и Intellicorp вошел в тройку ведущих компаний в области искусственного интеллекта в Кремниевой долине в 1980-х гг. Неустанные поиски талантов привели к тому, что вскоре у него стали работать Харт и Дуда из SRI. Компания создала собственный язык программирования Syntel для усовершенствованной рабочей станции, которую использовали инженеры-программисты компании. Были написаны также две программы Underwrighting Advisor и Lending Advisor, предназначенные для работы на IBM PC. Брейнер позиционировал компанию как информационную службу общего пользования, а не как разработчика программ для систем искусственного интеллекта. «В каждой организации обычно есть человек, к которому все идут за советом, – сказал он репортеру The New York Times, писавшему о развитии коммерческих экспертных систем. – Его обычно продвигают по службе, и он перестает использовать свой опыт. Мы пытаемся сохранить эти знания на случай, если он увольняется, умирает или уходит на пенсию, и сделать их доступными множеству других людей». Статья о возможности наделить машину человеческим мышлением вышла на первой полосе газеты в 1984 г.{114}

Предлагая свои пакеты экспертных программ по кредитованию и страхованию, Брейнер напирал на значительное стабильное снижение затрат клиентов. Идея автоматизации работы специалистов была достаточно привлекательной, чтобы получить заказы от банков и страховых компаний и инвестиции от венчурных компаний. AIG, St. Paul и Fireman's Fund, а также Wells Fargo и Wachovia выложили авансом за программы $6 млн. Брейнер развивал проект почти полдесятилетия – штат компании превысил 100 человек, а выручка поднялась до $10 млн в год. Этого, однако, было мало для инвесторов. В 1983 г. пятилетние прогнозы строились из расчета на доход $50 млн в год. Когда надежды на быстрый рост коммерческого рынка программ для систем искусственного интеллекта не реализовались, у Брейнера возникли серьезные разногласия с членом совета директоров венчурным капиталистом Пьером Ламондом, ветераном полупроводниковой индустрии без опыта в области программного обеспечения. В конце концов Брейнер проиграл, и Ламонд пригласил стороннего менеджера, который перенес штаб-квартиру компании в Техас, где он жил.

Сама Syntelligence столкнулась с явлением, известным как «зима искусственного интеллекта». В начале 1980-х гг. работавшие в этой области компании стали одна за другой приходить в упадок из-за финансовых проблем или возвращаться к своим корням, к экспериментальной или консалтинговой деятельности. Сжатие рынка стало атрибутом сферы искусственного интеллекта вместе с повторяющимся циклом «бум – крах», обусловленным раздуванием перспектив научных достижений и неизбежным последующим разочарованием в результатах. Поколение истинно верующих, зачарованных технократической и не в меру оптимистической литературой 1960-х гг. по искусственному интеллекту, определенно сыграло роль в подготовке краха. И этот цикл растянулся на десятилетия, хотя индустрия искусственного интеллекта не прекратила развития{115}. Сегодня цикл вполне может повториться, если верить тем, кто возвещает новую волну технологий на грани «думающих машин».

Первая зима искусственного интеллекта в действительности наступила за 10 лет до этого в Европе. Сэр Майкл Джеймс Лайтхилл, британский математик, провел в 1973 г. исследование, показавшее, что отрасль не реализует предсказания, включая давнее обещание SAIL создать функционирующий искусственный интеллект через 10 лет. Отчет Лайтхилла «Искусственный интеллект: Обзорный анализ» (Artificial Intelligence: A General Survey) не оказал серьезного влияния на Соединенные Штаты, но привел к сокращению финансирования в Англии и уходу британских ученых из отрасли. В дополнение к отчету BBC организовала телевизионные дебаты о будущем искусственного интеллекта, где объектам критики Лайтхилла дали возможность высказаться. На это мероприятие приехал Джон Маккарти, но не смог сказать ничего убедительного в защиту своей отрасли.

Десятилетие спустя зима искусственного интеллекта пришла в США. Она началась в 1984 г., когда Брейнер перед уходом сумел поднять продажи Syntelligence до $10 млн. Предупреждения об «иррациональном оптимизме» высказывались на протяжении нескольких лет с того момента, как Роджер Шенк и Марвин Мински заявили на технической конференции, что появляющиеся коммерческие экспертные системы не вносят ничего особо нового по сравнению с тем, что предлагалось двумя десятилетиями ранее{116}. Именно в 1984 г. идеи Дуга Энгельбарта и Алана Кея по усилению интеллекта обрели материальную форму для каждого офисного работника. В поисках маркетингового образа, показывающего ценность выводимых на рынок персональных компьютеров Macintosh, Стив Джобс выбрал идеальную аналогию – «велосипед для разума».

Выпертый из своей компании Брейнер начал следующий проект – стартап, разрабатывающий программное обеспечение для Macintosh компании Apple. В 1970-х и 1980-х гг. по этому пути шли многие в Кремниевой долине.

В 1960-х гг. информация о работах, которые без лишнего шума велись в Лаборатории искусственного интеллекта Массачусетского технологического института, Стэнфордской лаборатории искусственного интеллекта и в Стэнфордском исследовательском институте, начала проникать во внешний мир. Литературный образ робота и искусственного интеллекта тогда уже существовал в легенде о пражском големе, в книге Мэри Шелли «Франкенштейн» и в пьесе Карела Чапека «R. U. R.» – все они ставили фундаментальный вопрос о влиянии роботов на жизнь людей. Но, когда Америка готовилась послать людей на Луну, появилась новая насыщенная техническими идеями и в целом оптимистичная научная фантастика Айзека Азимова, Роберта Хайнлайна и Артура Кларка. Свихнувшийся разумный компьютер HAL в «Космической одиссее 2001» Кларка не только оказал серьезное влияние на массовую культуру, но и изменил жизнь людей. Джерри Каплан, например, еще до того, как стал аспирантом-компьютерщиком в Пенсильванском университете, знал, чем будет заниматься. Киноверсия «Космической одиссеи 2001» вышла на экраны весной 1968 г., и за лето Каплан посмотрел ее шесть раз. Вместе с двумя друзьями он возвращался в кинотеатр снова и снова. Один из друзей сказал: «Я буду делать фильмы» – и стал режиссером в Голливуде. Другой друг пошел в дантисты, Каплана же притянула к себе сфера искусственного интеллекта.

«Я хочу создавать это», – сказал Каплан своим друзьям, имея в виду HAL. Как и Брейнер, он стал участником первой волны попыток коммерциализировать искусственный интеллект, и так же, как Брейнер, когда они не увенчались успехом, обратился к технологиям расширения возможностей человека.

Во время учебы в магистратуре Каплан прочитал о работе Терри Винограда над программой SHRDLU для взаимодействия с компьютерами на естественном языке. Она дала ему представление о том, что можно сделать в мире искусственного интеллекта и в каком направлении двигаться. Как многие другие честолюбивые компьютерщики в то время, он сосредоточится на понимании естественного языка. Талантливый математик, он был одним из представителей нового поколения компьютерных энтузиастов, которые не замыкались на своем деле, а обладали гораздо более широким мироощущением.

После получения в Чикагском университете степени по философии науки он последовал за своей подругой в Филадельфию. Дядя взял его на работу на склад своей компании по оптовой торговле лекарствами, рассчитывая, что когда-нибудь тот продолжит дело. Семейный бизнес нагонял на Каплана тоску, ему отчаянно хотелось заняться чем-то другим, он вспомнил о курсе программирования в Чикаго, о своей одержимости «Космической одиссеей» и поступил в аспирантуру Пенсильванского университета по специальности «информатика». Там он учился у Аравинда Кришны Джоши, одного из первых специалистов по компьютерной лингвистике. Даже несмотря на свое гуманитарное прошлое, Каплан быстро стал звездой. Он пять лет учился по программе, добиваясь отличных оценок по всем предметам, и написал диссертацию на тему создания интерфейса на естественном языке для баз данных.

В качестве новоиспеченного доктора философии Каплан пробовал читать лекции в Стэнфорде и Массачусетском технологическом институте, посещал SRI и провел целую неделю на собеседованиях в Bell Labs. И компьютерная, и телекоммуникационная индустрия нуждались в докторах философии в области информатики, и во время первого визита в Bell Labs ему сказали, что намерены взять на работу 250 докторов философии, но не собираются брать тех, кто ниже среднего уровня. Каплан не мог не заметить, что это больше общего количества докторов философии, которые защищаются в США за год. Он выбрал Стэнфорд, где Эд Фейгенбаум предложил ему работу в качестве научного сотрудника в Лаборатории инженерии знаний. Стэнфорд не отличался такой интеллектуальной выдержанностью, как Пенсильванский университет, но это был технологический рай. Кремниевая долина уже существовала, полупроводниковая индустрия состязалась с Японией, а Apple Computer была самой быстрорастущей компанией страны.

Там бесплатно кормили на корпоративных и академических мероприятиях каждый вечер и не было недостатка в общении с женщинами. Каплан купил дом в Лос-Транкос-Вудс в нескольких километрах от Стэнфорда, недалеко от SAIL, которая как раз переезжала в новое здание в центре стэнфордского кампуса.

К моменту его прихода в Стэнфорд в 1979 г. первый золотой век искусственного интеллекта находился на пике – Дуглас Хофштадтер, автор книги «Гёдель, Эшер, Бах: Эта бесконечная гирлянда» (Gödel, Escher, Bach: An Eternal Golden Braid), Родни Брукс, Дэвид Шо, который в будущем возьмет разработки в сфере искусственного интеллекта и трансформирует их в многомиллиардный хедж-фонд на Уолл-стрит, – все были там. Обретали очертания коммерческие силы, которые приведут к появлению первой волны компаний вроде Intellicorp, Syntelligence и Teknowledge. Если Пенсильванский университет был подобен башне из слоновой кости, то в Стэнфорде стены между академическим и коммерческим мирами исчезали. На фоне всеобщего оживления стартапы возникали один за другим. Курт Уиддоуз, коллега Каплана, прихватил с собой программное обеспечение для суперкомпьютера S1 и стал соучредителем Valid Logic Systems, одной из первых компаний по автоматизации проектирования электроники. Они использовали недавно появившиеся рабочие станции Stanford University Network (SUN). Сидевший в соседней комнате Энди Бехтольшайм, который занимался аппаратной частью SUN, вскоре стал соучредителем Sun Microsystems и, таким образом, коммерциализировал свою разработку.

Каплан быстро подключился к коммерческим проектам. Они витали в воздухе. По вечерам он консультировал разработчиков программного обеспечения для первого цифрового музыкального синтезатора Synergy. Многие его функции стали впоследствии стандартными для современных синтезаторов. Synergy использовался для создания саундтрека к фильму «Трон» (Tron). Как и все в Стэнфорде, Каплан делал деньги на стороне. Создание компаний было обычным делом. В цокольном этаже работал Леонард Босак, который занимался вопросом взаимодействия компьютеров и в конце концов вместе со своей женой Сэнди Лернер основал Cisco Systems, выпускавшую первые сетевые маршрутизаторы.

Каплан работал в должности научного сотрудника, что было превосходно. Она считалась эквивалентом преподавательской, но без неприятной необходимости преподавать. Впрочем, существовала также и отрицательная сторона. Для преподавательского состава исследователи были людьми второго сорта. С Капланом обращались как с поденщиком, хотя он мог написать программу и проделать серьезную техническую работу. Его роль была подобна роли Скотти, умеющему все инженеру на космическом корабле Enterprise в сериале «Звездный путь». Он был тем, кто заставлял вещи работать. В сферу искусственного интеллекта в то время вкладывались огромные средства. Отчасти это были деньги, выделявшиеся на реализацию рейгановской Стратегической оборонной инициативы, но финансировались и невоенные разработки. Деловая Америка игралась с идеей экспертных систем. В результате бума появились 40 стартапов, а объем продаж связанных с искусственным интеллектом аппаратных и программных средств в 1986 г. достиг $425 млн. Каплан всего два года проработал научным сотрудником в Стэнфорде, а потом получил сразу два предложения от стартапов в сфере искусственного интеллекта. Эд Фейгенбаум решил платить стэнфордским компьютерщикам за то, что они и так делали в университете, в одном из своих стартапов Teknowledge. Новая компания быстро стала лидером консультирования по экспертным системам и разрабатывала также продукты на заказ. Другой стартап назывался Symantec. Несколько десятилетий спустя он стал гигантской компанией по компьютерной безопасности, но начиналось все с базы данных по искусственному интеллекту, пересекавшейся с областью интересов Каплана.

Трудоспособность Каплана в те времена казалась безграничной. Он не был большим любителем вечеринок, не любил, когда ему мешали, и смотрел на выходные как на возможность спокойно поработать. И тут к нему обращается уважаемый исследователь из SRI Гари Хендрикс с просьбой помочь в создании демоверсии программы Q&A, первой базы данных на естественном языке. Идея заключалась в том, чтобы не имеющие специальной подготовки пользователи могли делать поисковые запросы в виде обычных предложений. В оплату предлагали не деньги, а пакет акций, если проект пойдет успешно.

Специализацией Каплана были интерфейсы на естественном языке, которые позволяли вводить с клавиатуры вопросы для экспертной системы. Хендриксу же требовалась простая база данных для демонстрации. За рождественские каникулы в конце 1980 г. Каплан сделал программу. Первоначально она работала на компьютере Apple II. Плата за нее была условной, и Каплан богачом не стал. Поначалу Symantec не имела коммерческих успехов, и венчурные капиталисты навязали ей поглощение, финансовый маневр, в результате которого основатели компании теряют стоимость своих акций, но получают новые инвестиции. В общем, тот небольшой пакет акций, который получил Каплан, обесценился.

В конечном итоге он оставил Стэнфорд и перешел в Teknowledge, поскольку восхищался Ли Хехтом, физиком из Чикагского университета и профессором школы бизнеса, который стал генеральным директором Teknowledge и опекуном двух десятков беженцев из Стэнфорда. «Наши основатели построили больше экспертных систем, чем кто-либо другой», – сказал Хехт в интервью Popular Science в 1982 г.{117} Teknowledge располагалась в конце Юниверсити-авеню, сразу за кампусом Стэнфорда, но вскоре переехала в более привлекательное место дальше по улице – в многоэтажное здание в центре Пало-Альто. В начале 1980-х гг. офис был выполнен в модернистском стиле с акцентом на черных тонах.

Шикарный офис недвусмысленно указывал на то, что новые программы в области искусственного интеллекта не будут дешевыми. Чтобы сформулировать единственное правило для экспертной системы, интервьюеру требовалось провести со специалистом не менее часа, а работоспособная экспертная система должна была включать не менее 500 правил. Доведенная до ума система могла стоить $4 млн, но Хехт, как и Брейнер, верил, что сохранение знаний даст компаниям значительную экономию со временем. Отлаженная система могла сэкономить производителю до $100 млн в год, по словам Хехта. Он заявил, что прототип их экспертной системы для нефтяной компании будет экономить до $1000 на скважину в сутки. Хехт также утверждал, что узкое место исчезнет, когда компьютеры начнут автоматически проводить интервью с экспертами{118}. Он видел в Каплане больше, чем программиста, и обещал научить его управлять компанией, если тот перейдет в Teknowledge. Каплан ухватился за эту возможность. Его офис находился рядом с офисом Хехта, и он вознамерился создать консультационную компанию следующего поколения, миссией которой будет замена труда специалистов программой.

Хотя Каплан понятия не имел об искусстве продажи высокотехнологичных услуг, его назначили ответственным за маркетинг. Для начала было подготовлено описание услуг компании. Опираясь на представления из своего академического прошлого, Каплан скомпоновал рекламный листок для привлечения корпоративных заказчиков на цикл семинаров по вопросам создания экспертных систем, гвоздем которых был Фейгенбаум. Они разослали 5000 рекламных листков. Обычно на такую рассылку откликаются 2 % получателей. Однако вместо сотен ответов было получено всего три, причем один пришел от парня, который думал, что они учат искусственному осеменению. Это был сильный удар для группы энтузиастов, уверенных, что они вот-вот перевернут мир. Как оказалось, за стенами университета никто и не слышал об искусственном интеллекте. В конечном итоге все же удалось собрать небольшую группу в основном крупных и ориентированных на военные заказы компаний. Хехт, однако, гордо заявил, что «поступили запросы более чем от 50 крупнейших компаний со всего мира», а Teknowledge смогла в начале 1982 г. за два месяца получить $1 млн{119}.

Это действительно было грандиозное начинание. Они писали программы на Lisp на фантастических рабочих станциях Xerox Star за $20 000. Беспокоило лишь то, что продвижение продукта лежало на плечах горстки маркетологов во главе с Капланом. Teknowledge придерживалась позиции: «Мы умные, мы великие, нам должны давать деньги». Это было совершенно неуместно, и, кроме того, технология в действительности не работала. Так или иначе, несмотря на первые сложности, они все-таки привлекли внимание. Однажды визит нанес даже король Швеции. В соответствии с протоколом его приезд был обставлен как полагается. Сначала служба безопасности обследовала офис, включая ванную. Потом появилась передовая группа встречающих короля. Каплан затаив дыхание стоял у двери, когда невысокий, ничем не выделяющийся джентльмен в стандартной одежде Кремниевой долины – повседневно-деловой – вошел без сопровождающих и наивно спросил молодого руководителя Teknowledge: «Где мне сесть?» Каплан взволнованно ответил: «Сейчас очень неподходящее время, мы ожидаем прибытия короля Швеции». В ответ прозвучало: «Я и есть король Швеции». Король оказался технически грамотным: он понимал, что́ они пытаются сделать, гораздо лучше, чем большинство потенциальных заказчиков.

Как бы то ни было, но Каплан извлек из визита свою выгоду. Его пригласили на вечерний прием в честь короля в Богемском клубе в Сан-Франциско. Там он разговорился с красивой шведкой. Они проболтали почти час – Каплан вообразил, что это королева. Но его собеседница оказалась стюардессой шведской авиакомпании, доставившей королевскую свиту в Соединенные Штаты. Ошибся, однако, не только он – стюардесса приняла его за Стива Джобса. У истории был счастливый конец. Молодые люди встречались на протяжении восьми лет.

Teknowledge не так повезло – ей мешал синдром «самого умного из присутствующих». В компании были отличные разработчики систем искусственного интеллекта, но они, овладев магией новой сферы, хотели делиться ею за плату, которая выходила за разумные пределы. Однако системы искусственного интеллекта того времени немногим превосходили программы на основе логики «если… то», разве что устанавливались на чрезмерно дорогих рабочих станциях с очень большими дисплеями и привлекательным графическим интерфейсом. Это было скорее пускание пыли в глаза, чем кладезь знаний.

Каплан стал для компании чем-то вроде троянского коня. В 1981 г. IBM выпустила первый массовый персональный компьютер, резко снизила его стоимость и таким образом сделала доступным. Проповедуемое Дугом Энгельбартом и Аланом Кеем усиление интеллекта стало проявляться повсеместно. Компьютеры могли использоваться для расширения возможностей или замены людей, а снижающиеся цены давали возможность разработчикам программного обеспечения выбрать любой путь. Компьютеры вырвались из стеклянных стен корпоративных центров обработки данных и появились в сметах на закупку офисного оборудования.

Каплан быстро понял значение этих изменений. Ларри Теслер, бывший исследователь из SAIL, участвовавший в разработке Lisa и Makintosh для Стива Джобса и помогавший Джону Скалли создать Newton, также оценил их. Он пытался убедить коллег по Xerox PARC, что дешевые PC изменят мир, но тогда, в 1975 г., никто его не слушал. Шесть лет спустя многие все еще не понимали последствий падения цен на микропроцессоры. Экспертная система Teknowledge к тому времени уже существовала, но требовала слишком дорогой рабочей станции стоимостью около $17 000, а полная установка могла обойтись в $50 000–100 000. Каплан видел, что PC уже достаточно мощные, чтобы справиться с дорогим программным обеспечением Teknowledge. С деловой точки зрения без хитростей с рабочими станциями их продукт становился тем, чем был на самом деле, – пакетом программ, которые должны продаваться по цене программного обеспечения для PC.

В Teknowledge и слушать не хотели подобную ересь. Поэтому Каплан поступил так же, как и несколькими годами ранее, когда помогал Symantec в свободное от работы в Стэнфорде время. Было Рождество, и, пока все остальные отдыхали, он укрылся в своем коттедже и взялся за адаптацию программы Teknowledge к работе на PC. Каплан использовал Turbo Pascal, быстрый как молния язык программирования, который сделал его версию экспертной системы быстрее исходного продукта для рабочей станции. Он закончил работу над программой за праздники, продемонстрировал Wine Adviser, демоверсию системы Teknowledge, на своем «игрушечном» персональном компьютере и в буквальном смысле убил официальное программное обеспечение, функционировавшее на рабочей станции Xerox Star.

Началось светопреставление – сравнительная дешевизна программного обеспечения для персональных компьютеров разрушила не только бизнес-модель Teknowledge, но и представление о месте компании под солнцем! Каплана возненавидели. Ему, однако, удалось убедить Ли Хехта заняться выпуском продукта для PC. Но это было безумством – продавать продукт за $80, а не за $80 000. Каплан превратился в изменника и не сомневался, что ему вот-вот укажут на дверь. В это время появилась Энн Уинблад, которая тогда работала аналитиком по технологическим компаниям на Уолл-стрит, а позже стала известным венчурным капиталистом Кремниевой долины, и взгляды Каплана на изменения в компьютерном мире зацепили ее.

«Я знаю, с кем тебе нужно познакомиться», – сказала она ему.

Этим человеком оказался Митч Капор, основатель и директор Lotus Development Corporation, поставщика электронных таблиц 1-2-3. Каплан встретился с Капором и заинтересовал его своим видением массового использования искусственного интеллекта. Основатель Lotus с энтузиазмом воспринял идею: «У меня есть деньги, не хотите ли вы предложить свой будущий продукт мне?» – спросил он.

Поначалу Каплан хотел сделать недорогую версию экспертной системы Teknowledge под названием ABC наподобие программы 1-2-3. Идея, однако, не вызвала восторга. Так или иначе, вскоре после этого он летел на личном реактивном самолете Капора. Когда Каплан увидел, как основатель Lotus, обложившись заметками на бумаге, вводит информацию с клавиатуры в громоздкий компьютер Compaq размером со швейную машину, у него возникла новая идея. Он предложил программу для ввода заметок в произвольной форме, которая выполняет роль календаря и ежедневника. Капору идея понравилась, и совместно с Эдом Белавом, еще одним разработчиком программного обеспечения Lotus, они обговорили основные моменты.

Каплан вновь уединился в своем коттедже, на этот раз на полтора года, для работы над программой с участием Белава. Капор помогал с оттачиванием общего замысла. Lotus Agenda была первым представителем пакетных программ нового поколения, так называемых персональных информационных менеджеров, которые в некотором роде предвещали появление Всемирной паутины. Информацию можно было сохранять в произвольной форме, и она автоматически распределялась по категориям. Программу стали описывать как «электронную таблицу для слов», она была классическим примером нового поколения программных средств, которые расширяли возможности пользователей в духе Энгельбарта.

Представленный в 1988 г. пакет получил хвалебные отзывы у отраслевых аналитиков вроде Эстер Дайсон и постепенно стал предметом культа. Зима искусственного интеллекта в Америке уже началась, и большинство компаний новой волны в этой сфере вскоре пришли в упадок. Каплан одним из первых заметил зловещие предзнаменования. Как и Брейнер, он быстро превратился из рыцаря искусственного интеллекта в поборника расширения возможностей человека. PC были самым мощным инструментом усиления интеллекта в истории. Становилось ясно, что человека так же легко включить в компьютерную систему, как и исключить из нее. Когда в сфере искусственного интеллекта возникли коммерческие проблемы, персональные компьютеры, а вместе с ними и усиление интеллекта вырвались вперед. В конце 1970-х гг. и в начале 1980-х гг. в Америке наблюдался взрывной рост индустрии персональных компьютеров. Идея о том, что компьютер может быть и «усилителем фантазии» дома, и средством повышения производительности в офисе, в мгновение ока вытеснила представление о компьютере как о безликом бюрократическом инструменте госучреждений и компаний. К 1982 г. персональные компьютеры стали таким культурным явлением, что журнал Time поместил PC на обложку в качестве «человека года».

Разработчики сами отдали предпочтение усилению интеллекта. Каплан основал компанию Go Corp. и создал первый компьютер с рукописным вводом, который опередил iPhone и iPad более чем на десятилетие. Подобно Шелдону Брейнеру, который отошел от искусственного интеллекта к 1980-м гг., он перешел на сторону ориентированных на человека систем в наступающей эпохе post-PC.

Попытки создать работоспособную систему искусственного интеллекта с самого начала сопровождались ложными надеждами и ожесточенными техническими и философскими спорами. В 1958 г., через два года после Дартмутской летней конференции по искусственному интеллекту, New York Times опубликовала на 25-й странице полученное по телеграфу информационное сообщение агентства UPI. Оно вышло под заголовком «Новое устройство для ВМС учится в процессе работы: психолог показывает прообраз компьютера, который сможет читать и становиться умнее»{120}.

Речь шла о проведенной Фрэнком Розенблаттом, психологом Корнеллского университета, демонстрации прообраза компьютера, который, по расчетам руководства ВМС, однажды научится «ходить, говорить, видеть, писать, воспроизводить и осознавать себя». В действительности это была лишь модель, которая функционировала на принадлежавшей Бюро погоды вычислительной машине IBM 704 и могла с полусотни попыток отличить право и лево. В военно-морском ведомстве, похоже, всерьез надеялось за год превратить это в «думающую машину» за $100 000.

Д-р Розенблатт сказал репортерам, что это первое устройство, думающее, «как человеческий мозг», и что поначалу оно будет делать ошибки, но с опытом станет умнее. Он предположил, что одним из применений нового механического мозга может быть замена человека в космических исследованиях. Заметка заключала, что первый персептрон, модель биологических нейронов, будет содержать около 1000 электронных «связанных клеток», принимающих электрические сигналы от 400 фотоэлементов – подобных глазу сканирующих устройств. Для сравнения отмечалось, что человеческий мозг содержит 10 млрд чувствительных клеток и 100 млн связей с глазами.

Первая работа по искусственным нейронным сетям появилась в 1940-х гг., и в 1949 г. на нее обратил внимание студент-математик из Гарварда Марвин Мински. Он пошел дальше и создал первые электронные обучающиеся сети – одну на последнем курсе Гарварда, а вторую, названную «Стохастическим нейронным аналоговым усиленным калькулятором», или SNARC, когда был аспирантом в Принстоне. Впоследствии он написал докторскую диссертацию по нейронным сетям. Эти математические структуры представляют собой сети узлов, или «нейронов», которые взаимосвязаны численными величинами, выполняющими роль «весов» или «векторов». Их можно обучать, создавая различные образы, например изображения или звуки, которые впоследствии они распознают сами.

В 1960-х гг. возникло несколько конкурирующих направлений в создании думающих машин, но верх взял подход на основе логики и правил, которому благоволил Джон Маккарти. Вместе с тем некоторые группы продолжали экспериментировать с аналоговыми подходами на основе ранних идей о нейронных сетях. По иронии судьбы именно Мински, один из 10 участников Дартмутской конференции, в 1969 г. спровоцировал легендарную дискуссию, представив в совместной с Сеймуром Пейпертом книге «Персептроны» (Perceptrons) анализ, который, по широко распространенному мнению, задержал исследования нейронных сетей на многие годы. Считается, что критика со стороны этих двух специалистов по искусственному интеллекту из Массачусетского технологического института надолго заморозила новую область исследований.

Это лишь один из примеров яростных интеллектуальных сражений в сообществе искусственного интеллекта в 1960-е гг. Мински и Пейперт потом настаивали, что столь резкая оценка несправедлива и что их книга содержала значительно более взвешенный анализ нейронных сетей, чем говорили. Спор еще больше осложнило то, что Розенблатт, одна из основных фигур в этой области, два года спустя погиб в результате несчастного случая, оставив после себя вакуум в сфере исследования нейронных сетей.

Поначалу исследования нейронных сетей велись и в Стэнфордском университете, а также под руководством Чарли Розена в SRI, но стэнфордская группа переключилась на телекоммуникации, а Розен переориентировался в работе с Shakey на доминирующий подход к искусственному интеллекту. Интерес к нейронным сетям возродился только в 1978 г. в связи с работами Терри Сейновски, докторанта нейробиологии в Гарварде. Сейновски оставил физику, которой занимался раньше, и обратился к нейробиологии. После летнего курса в Вудс-Хоуле, штат Массачусетс, он увлекся тайнами мозга. В том году британский психолог с ученой степенью Джеффри Хинтон учился в Калифорнийском университете в Сан-Диего под руководством Дэвида Румельхарта. Один из его старших коллег вместе с основателем отделения когнитивной психологии Дональдом Норманом создал группу, занимавшуюся вопросами параллельной распределенной обработки.

Хинтон был праправнуком логика Джорджа Буля и приехал в Соединенные Штаты в поисках спасения от зимы искусственного интеллекта в Англии. Отчет Лайтхилла[12] доказывал, что бо́льшая часть исследований в области искусственного интеллекта не оправдала ожиданий, исключением стала только нейроинформатика. В телевизионной дискуссии «Лайтхилл – BBC» стороны выдвигали аргументы, опираясь на текущие данные об эффективности компьютеров, и никто не принимал во внимание закон Мура об ускорении роста быстродействия вычислительной техники.

Во время учебы в аспирантуре Хинтона сильно задели нападки Мински и Пейперта на нейронные сети. В Англии стоило ему сказать, что он занимается искусственными нейронными сетями, в ответ раздавалось: «Разве ты не знаешь, что от них нет толку?» Его консультант рекомендовал ему забыть о своем увлечении и прочитать диссертацию Терри Винограда. Все это впоследствии стало символической логикой. Но Хинтон выбрал другой путь. Он работал над концепцией, названной им позднее «инженерией на основе нейронауки». Хинтон не ударился в крайность, характерную для некоторых в новой области биологических компьютеров. На его взгляд, рабское копирование биологии было бы ошибкой. Споры по этому вопросу не утихли и десятилетия спустя. В 2014 г., когда Европейский союз выделил швейцарскому исследователю Генри Маркраму $1 млрд для создания модели человеческого мозга в мельчайших деталях, Хинтон не сомневался – проект обречен на неудачу.

В 1982 г. Хинтон организовал летний семинар по параллельным моделям ассоциативной памяти, в котором должен был участвовать Терри Сейновски. Молодого физика интересовали возможности моделирования мозга с использованием новых схем. Это была первая научная конференция, организованная Хинтоном. Он понимал, что соберет публику, которая встречалась уже не раз, и что эти, на его взгляд, «пожилые профессора за 40» непременно затянут старую песню. Тем не менее рекламный листок был разослан по департаментам вычислительной техники и психологии. В качестве приманки листок обещал оплатить расходы тем, у кого есть новые идеи. Как и следовало ожидать, большинство откликнувшихся занимались решением проблем традиционными методами. Но одно из предложений выделялось на общем фоне. Оно поступило от молодого ученого, заявлявшего, что он разгадал «машинный код мозга».

Примерно тогда же Хинтон оказался на конференции, в которой участвовал известный исследователь машинного зрения из Массачусетского технологического института Дэвид Марр, и поинтересовался у него, в своем ли уме этот парень. Марр ответил, что знает его, что у него светлая голова и что не имеет представления, сошел ли тот с ума. Было ясно одно, что Сейновски делает нечто новое в области когнитивных исследований.

На семинаре Хинтон и Сейновски встретились впервые. В Калифорнийском университете уже предложили новый подход к созданию модели работы мозга. Так называемая параллельная распределенная обработка была альтернативой символьному подходу, который тогда доминировал в области искусственного интеллекта и когнитивных наук. Двое исследователей быстро поняли, что смотрят на проблему одинаково. Они видели силу нового подхода на основе сетей датчиков, или «нейронов», взаимосвязанных представляющей силу связей матрицей параметров. Чтобы сеть распознавала образ при таком подходе, нужно было представить его в виде графа весовых коэффициентов. Этот подход оказался несравненно эффективней, чем первоначальная символьная модель искусственного интеллекта.

Все изменилось в 1982 г., когда бывший научный руководитель Сейновски по физике Джон Хопфилд создал то, что получило название нейронной сети Хопфилда. Подход Хопфилда отличался от прежних моделей нейронных сетей, созданных разработчиками первых персептронов, тем, что позволял отдельным нейронам независимо менять свои параметры. Свежий взгляд на идею нейронных сетей вдохновил Хинтона и Сейновски на тесное сотрудничество.

Молодые ученые к этому времени получили свои первые преподавательские должности: Хинтон – в Университете Карнеги – Меллона, Сейновски – в Университете Джона Хопкинса, но они достаточно крепко сдружились, чтобы четырехчасовая поездка не была препятствием для встреч по выходным. Было понятно, что найден способ превращения первоначальной модели нейронных сетей в более мощную обучающуюся систему. Они знали, что люди учатся путем наблюдений и обобщений, и сконцентрировались на имитировании этого процесса. Новый вид многослойной сети назвали «машиной Больцмана» в честь австрийского физика Людвига Больцмана. В эту модель они заложили более эффективный подход к машинному обучению и добились самого значительного прогресса со времени первого однослойного алгоритма обучения, разработанного Розенблаттом.

Политический спор вокруг персептронов миновал Сейновски. Как студент-физик, он был далек от мира искусственного интеллекта в конце 1960-х гг., когда Мински и Пейперт заварили бучу. Но он прочел книгу «Персептроны», и она понравилась ему прекрасными геометрическими построениями. Тогда он пропустил мимо ушей их вывод о том, что персептрон не удастся применить к миру многоуровневых систем. Теперь появилась возможность доказать, что они ошибались.

Хинтон и Сейновски создали альтернативную модель, но им нужно было доказать ее эффективность по сравнению с популярными в то время системами, основанными на правилах. Чтобы продемонстрировать преимущества новой технологии, Сейновски с помощью аспиранта в течение лета занимался проблемами языка, обучая свою нейронную сеть произносить английские фразы. В то время у него не было опыта в лингвистике, поэтому он пошел в школьную библиотеку и взял учебник с изложением правил произношения. Нужно было знать весь этот невероятно сложный набор правил и исключений, чтобы правильно говорить по-английски.

В разгар работы по созданию нейронной сети, способной освоить правильное произношение, в Балтимор приехал Хинтон. Он был настроен скептически.

«Вряд ли из этого что-то выйдет, – сказал он. – Английский – невероятно сложный язык, и простая сеть не освоит его».

Друзья решили начать с упрощенной версии языка. Они вновь отправились в библиотеку и нашли книжку для детей с очень небольшим набором слов. Теперь сеть была настроена на усвоение языка из детской книги. В течение часа после того, как система начала работать, исследователей одолевали сомнения. Сначала она генерировала невнятные звуки, похожие на лепет младенца, но по мере обучения их качество улучшалось. Наконец пара слов прозвучала правильно, и процесс продолжался до тех пор, пока речь не стала идеальной. Машина запоминала и общие правила, и исключения.

Исследователи вернулись в библиотеку и взяли другое учебное пособие, где на одной стороне страницы приводилась транскрипция рассказа пятиклассника о делах в школе и о поездке к бабушке, а на другой – правильное звучание каждого слова, транскрибированное фонологом. Это было то, что нужно для обучения, и информацию пропустили через нейронную сеть. Объем текстов был относительно небольшим, но система начала говорить, как пятиклассник. Исследователи были поражены и раззадорены.

Они взяли словарь на 20 000 слов и решили посмотреть, как далеко можно зайти с их нейронной сетью. На этот раз программу запустили на неделю на довольно мощном для того времени мини-компьютере VAX компании Digital Equipment Corp. Она училась, училась и училась и в конце концов стала произносить слова, которые раньше не видела. Результаты были удивительно хорошими.

Программа получила имя Nettalk. Она состояла из 300 смоделированных элементов, которые разработчики называли нейронами. Они были организованы в виде трех слоев – входного для считывания слов, выходного для генерирования речи и «скрытого», связывавшего первые два. Нейроны соединялись друг с другом с помощью 18 000 «синапсов» – связей, имевших численные значения, которые могли рассматриваться как веса. Если такие простые сети могли «учиться» слышать, видеть, говорить и в целом повторять многое из того, что делают люди, они, очевидно, были перспективным новым направлением и в сфере искусственного интеллекта, и в сфере усиления интеллекта.

После успеха с Nettalk пути Сейновски и Хинтона разошлись. Сейновски переехал в Калифорнию и стал работать в Институте Солка, где сосредоточился на теоретических проблемах нейробиологии. Занимаясь исследованиями мозга, он уверовал в силу разнообразия как базового принципа биологии и, таким образом, фундаментально отошел от пути, по которому шло развитие современных цифровых вычислений. Хинтон получил место в отделении информатики Торонтского университета и за следующие два десятилетия усовершенствовал машину Больцмана. К первоначальной контролируемой модели он добавил возможность неконтролируемого (автоматического) обучения. Интернет стал божьим даром, открыв доступ к огромным массивам изображений, видео– и аудиозаписей. Разработки двух исследователей в конечном итоге открыли новые возможности таким компаниям, как Google, Microsoft и Apple, горевшим желанием создать интернет-сервисы на основе распознавания речи и образов.

Полный разворот судьбы персептрона в какой-то мере связан и с правильно организованной пиар-кампанией, продолжавшейся не один год. Еще до первой встречи Сейновски и Хинтона в Сан-Диего пренебрежительным отзывом Сеймура Пейперта о персептроне заинтересовался способный молодой французский студент Ян Лекун. Увидев его, Лекун направился в библиотеку и проштудировал все что можно о способных обучаться машинах. Сын авиаинженера, он с детства возился с авиационной аппаратурой и был помешан на электронике еще до поступления в колледж. Лекун изучал астрофизику, но больше все же интересовался тонкостями программирования. Он прочитал всю литературу о персептроне, начиная с 1950-х гг., и пришел к выводу, что эту тему забросили. На начало 1980-х гг. пришелся расцвет экспертных систем, и никто не писал о нейронных сетях.

В Европе Лекун был одиноким рыцарем. На последнем курсе он изучал электротехнику и начал работу над диссертацией под руководством человека, который не имел представления о его теме. Вскоре после поступления в аспирантуру ему попалась малоизвестная статья Хинтона и Сейновски о машине Больцмана. «Я должен поговорить с этими ребятами! Похоже, только они что-то понимают», – подумал он.

По счастливой случайности им удалось встретиться зимой 1985 г. во французских Альпах на научной конференции по вопросу соединения идей физики и нейронауки. Сеть Хопфилда, служившая первой моделью памяти человека, вызвала новый интерес в научном сообществе. Хотя Сейновски участвовал в конференции, он пропустил выступление Лекуна. Молодой французский ученый впервые делал доклад на английском и страшно волновался в немалой мере потому, что присутствовавший на конференции физик из Bell Laboratories сопровождал едкими замечаниями каждое выступление. Сидевшие рядом с Лекуном участники сказали ему, что это стиль Bell Labs – или идеи не на должном уровне, или для ученых лаборатории они уже не новость. Как ни странно, но после его выступления на ломаном английском ученый из Bell Labs встал и выразил одобрение. Через год Bell Labs предложила Лекуну работу.

На конференции Лекун все же поймал Сейновски, и ученые поделились своими соображениями. Разговор привел к появлению небольшого братства исследователей, которые намеревались создать новую модель искусственного интеллекта. Лекун завершил работу над диссертацией по подходу к обучению нейронных сетей, известному как «обратное распространение ошибки». Его вклад сделал возможной автоматическую «настройку» сети на более точное распознавание образов.

После завершения учебы Лекун стал искать во Франции организации, использующие аналогичные подходы к искусственному интеллекту. Найти удалось лишь небольшую лабораторию Министерства науки с профессором, работавшим в смежной области, но Лекун получил финансирование и место в ней. Его новый профессор сказал: «Я не представляю, чем ты занимаешься, но у тебя, похоже, светлая голова, поэтому я подпишу бумаги». Но Лекун там не задержался. Сначала он перешел в занимавшуюся нейронными сетями группу Джеффа Хинтона в Торонтском университете, а когда поступило предложение от Bell Labs, переехал в Нью-Джерси и продолжил совершенствовать свой подход, известный как сверточные нейронные сети, первоначально ориентированные на распознавание рукописных символов для автоматизированной сортировки почты. Родившийся во Франции канадец Йошуа Бенджио, получивший образование в Массачусетском технологическом институте яркий специалист по информатике, присоединился к нему в Bell Labs и работал над программным обеспечением для распознавания символов, а позже над созданием технологии машинного зрения, которая будет использоваться компанией NCR для автоматической обработки значительной части банковских чеков, циркулирующих в мире.

Несмотря на успехи разработчиков нейронных сетей, мейнстрим компьютерной науки не замечал их. Воспринимая себя как трех мушкетеров, Хинтон, Лекун и Бенджио решили изменить ситуацию. В 2004 г. они, как выразился Лекун, организовали «заговор» с целью повышения популярности сетей и одновременно развернули кампанию по ребрендингу, предлагавшую более привлекательные концепции технологии, такие как «глубинное обучение» и «глубокие сети доверия». К этому времени Лекун перебрался в Нью-Йоркский университет в какой-то мере для более тесного общения с нейробиологами и исследователями, применяющими алгоритмы машинного обучения к проблемам зрения.

Хинтон обратился в Канадский институт перспективных исследований за помощью в организации исследований в своей области и проведении ежегодных конференций. Проект, известный как «Нейрокомпьютеры и адаптивное восприятие», позволил ему отыскать самых перспективных исследователей в разных областях – от нейронауки до электротехники – и создать сообщество людей, заинтересованных в развитии нейросетей.

В этот раз на их стороне был технический прогресс – ускорение роста мощности компьютеров позволило строить нейронные сети огромных масштабов, способные обрабатывать массивы данных на порядки больше, чем раньше. Процесс занял почти десятилетие, но зато теперь возможности и ценность нейронных сетей были бесспорными. Помимо недостатка быстродействия компьютеров развитие нейронных сетей сдерживалось отсутствием больших массивов данных, необходимых для обучения. Ситуация быстро изменилась с появлением глобального интернета, а вместе с ним новой информационно-технологической концепции – облачных вычислений, а также возможности соединения этого ресурса с миллиардами мобильных передающих и вычислительных систем в виде смартфонов. Теперь нейронные сети можно было легко обучать на базе миллионов цифровых изображений или аудиозаписей, доступных в интернете.

Успех технологии стал очевидным, и Хинтон начал получать приглашения от компьютерных компаний, искавших пути повышения точности ориентированных на потребителя интеллектуальных сервисов – распознавания речи, машинного зрения, распознавания лиц, перевода и диалоговых систем. Казалось, что список был бесконечен. В качестве консультанта Хинтон внедрил нейронные сети глубинного обучения в Microsoft, и правильность такого подхода подтвердилась в 2012 г., когда директор по разработкам Microsoft Ричард Рашид выступил перед большой аудиторией в Тяньцзине, Китай. Рашид говорил по-английски, делая паузу после каждого предложения, а программа сразу произносила его на китайском голосом лектора. В конце выступления наступила тишина, а затем раздались оглушительные аплодисменты.

Программа работала не идеально, но за счет алгоритма глубинного обучения, разработанного на основе исследований Хинтона, количество ошибок распознавания было снижено более чем на 30 %. В следующем году ручеек интереса к нейронным сетям превратился в поток. Доступность данных в интернете и дешевой рабочей силы за счет краудсорсинга обеспечила и вычисления, и человеческие ресурсы для целей обучения.

Microsoft была не одинокой. Новые нейросетевые и другие технологии машинного обучения резко повысили интерес к искусственному интеллекту в Кремниевой долине и не только в ней. Соединение нового подхода к искусственному интеллекту с интернетом открывало путь к созданию новых сервисов на основе машинного зрения или распознавания речи и получения прямого доступа к глобальной аудитории через десятки миллионов смартфонов.

В 2010 г. Себастьян Трун пришел в Google, чтобы создать X Laboratory, своего рода аналог Исследовательского центра Xerox в Пало-Альто. У лаборатории был большой портфель научно-исследовательских проектов – от работы Труна над беспилотными автомобилями до развития нейронных сетей. В широком смысле их определяли как «мозговые» проекты, возрождавшие новую волну интереса к системам искусственного интеллекта.

Проект «Человеческий мозг» первоначально возглавлял Эндрю Ын, коллега Труна по возрожденной Стэнфордской лаборатории искусственного интеллекта. Ын был экспертом по машинному обучению и знатоком некоторых методов глубинного обучения нейронных сетей, предложенных Хинтоном и Лекуном. В 2011 г. он начал заниматься в Google созданием системы машинного зрения, и в следующем году проект дал такие результаты, что исследователи Google решили представить их в докладе об эксперименте по неконтролируемому обучению с использованием видео из YouTube. Обучение на 10 млн цифровых изображений, найденных на YouTube, прошло намного лучше, чем все предыдущие попытки, – точность распознавания 20 000 объектов возросла примерно в два раза. Система также научилась распознавать кошек, что не удивительно, учитывая изобилие изображений кошек на YouTube. «Мозг» Google смонтировал сказочное цифровое изображение кошки, используя иерархию ячеек памяти для последовательного отбора общих особенностей на основе просмотра миллионов изображений. Ученые описывали этот механизм как кибернетический аналог процесса, происходящего в зрительной зоне коры головного мозга. Эксперимент стал возможным благодаря огромным вычислительным ресурсам Google, позволившим исследователям выделить для решения задачи кластер из 16 000 процессоров, что, конечно, ничтожно мало по сравнению с миллиардами нейронов мозга, значительная доля которых задействована в нашей зрительной системе.

Вопрос о том, идет ли Google по пути создания подлинного искусственного «мозга», становится все более спорным. Методы глубинного обучения, без сомнения, позволили добиться многого в распознавании образов и речи. В Кремниевой долине растет число тех, кто полагает, что мы вновь на пути к «сильному искусственному интеллекту» – созданию обладающей самосознанием машины с интеллектом, равным или превосходящим человеческий.

Рэй Курцвейл, исследователь искусственного интеллекта и страстный проповедник «технологического бессмертия», пришел в Google в 2013 г. как продолжатель работы Ына в области мозга вскоре после публикации книги «Эволюция разума», в которой предлагался рецепт создания работающего искусственного интеллекта. Курцвейл всегда был одним из самых откровенных сторонников идеи сингулярности. Как и Моравек, он уверен в том, ускорение роста вычислительной мощности неизбежно приведет к появлению самостоятельного сверхчеловеческого машинного интеллекта: по его оценке, около 2023 г. В Кремниевой долине эта идея материализовалась в форме Университета сингулярности и Института сингулярности – организаций, которые занимаются последствиями экспоненциального роста.

К Курцвейлу примыкает разношерстная группа ученых и инженеров, считающих, что, стоит лишь разгадать механизм функционирования биологического нейрона человека и создание искусственного интеллекта станет вопросом масштабирования. Успешный инженер из Кремниевой долины и соавтор книги «Об интеллекте» Джефф Хокинс, основавший с Донной Дубински компанию Palm Computing, утверждал, что путь к интеллекту на уровне человека лежит в эмуляции и масштабировании подобных коре головного мозга схем, способных распознавать образы. В 2005 г. Хокинс создал Numenta, одну из многих компаний, работающих с технологиями распознавания образов. Теория Хокинса перекликается с рецептом Курцвейла из «Эволюции разума». Аналогичным путем идут и Дилип Джордж, получивший образование в Стэнфорде исследователь искусственного интеллекта, который работал с Хокинсом в Numenta, а затем создал собственную компанию Vicarious для разработки «следующего поколения алгоритмов искусственного интеллекта», и швейцарский исследователь Анри Маркрам, убедивший Европейский союз выделить на его проект по созданию точной копии человеческого мозга €1 млрд.

В 2013 г. охота на таланты, которая и раньше не прекращалась, достигла нового размаха. Хинтон перешел в Google, поскольку ресурсы, доступные в Маунтин-Вью, затмевали все, чем он располагал в Торонтском университете. Компьютеры теперь были несравненно более мощными, чем во времена, когда Сейновски и Хинтон создали машину Больцмана, значительно больше стало и данных, пригодных для обучения нейронных сетей. На повестке стояла проблема управлении нейронной сетью, в которой количество параметров могло превышать миллиард. То, что было кошмаром для рядового статистика, породило бурнорастущую индустрию «больших данных», которая не пасовала перед необходимостью отслеживать и накапливать информацию практически по всем аспектам поведения людей, их взаимодействия и мышления.

В Google Хинтон быстро добился прорыва в создании более мощных и эффективных в обучении сетей, когда понял, как сделать, чтобы параметры не мешали друг другу. Вместо обработки сразу всего изображения в новой модели выбиралось подмножество, обрабатывалась часть изображения и обновлялись веса связей. Затем выбиралось другое случайное подмножество, и изображение обрабатывалось снова. Это позволяло использовать случайность для увеличения влияния каждого подмножества. Идея, возможно, и имела биологические корни, но не была слепым копированием. По словам Сейновски, Хинтон – пример исследователя искусственного интеллекта, который уделяет внимание биологии, но не замыкается на ней.

В 2012 г. сети Хинтона, проходившие обучение на огромной рендер-ферме в Google, успешно распознавали отдельные объекты, но не справлялись с «интерпретацией сцен». Например, сети не могли понять предложение: «Кошка сидит на коврике, а человек дразнит ее игрушкой на нитке». Для достижения заветной цели машинному зрению нужно то, что исследователи искусственного интеллекта называют «семантическим пониманием», т. е. способность интерпретировать сцену подобно естественному языку. В 1970-х гг. на проблему интерпретации сцен оказывали сильное влияние идеи Ноама Хомского о генеративной грамматике как контексте для объектов и структуре для понимания их связи в сцене. Но в течение многих десятилетий исследования не давали результатов.

Однако в конце 2014 г. сообщество нейронных сетей стало делать успехи и в этой области. Исследовательские группы по всей стране сообщали о достижениях в объединении возможностей двух типов нейронных сетей – для распознавания естественного языка и для распознавания цифровых изображений. Они разработали программы, которые могли генерировать фразы на английском, описывавшие изображения с высоким уровнем абстракции{121}. Это помогает улучшать результаты приложений для поиска изображений в интернете. Новый подход, помимо прочего, открывает путь к созданию класса программ, которые могут взаимодействовать с людьми на более высоком уровне понимания.

Несмотря на значительный прогресс в сфере сетей глубинного обучения, для Хинтона все только начинается. Не так давно он сказал, что считает себя исследователем, который высадился на новый континент, где все очень интересно, но прошел вглубь лишь на сотню метров – там все так же интересно, но донимают комары. В конце концов это новый континент, и исследователи пока что не представляют реальных возможностей.

В конце 2013 г. Лекун пошел по стопам Хинтона, оставил науку и взялся за создание Лаборатории искусственного интеллекта в компании Facebook в Нью-Йорке. Этот шаг стал еще одним свидетельством возрождения интереса компаний к искусственному интеллекту. Зима искусственного интеллекта осталась лишь в воспоминаниях, по всем признакам пришла весна.

Решение Facebook присоединиться к погоне за искусственным интеллектом было неожиданным. Все началось с посещения Марком Цукербергом, соучредителем и руководителем Facebook, далекой от мира сего технической конференции под названием «Нейронные системы обработки информации» в отеле Lake Tahoe в конце 2013 г. Конференция всегда была сухим академическим мероприятием, но появление Цукерберга для ответов на вопросы явно меняло ситуацию. Мало того, что исследователи не привыкли к таким высоким гостям, сюрреализм происходящего усиливали сопровождавшие Цукерберга охранники в форме. Знаменитый генеральный директор приковал к себе внимание всех присутствовавших, а заседания нескольких других секций пришлось отложить, когда в переполненном помещении стали показывать видео. «Тон быстро изменился: маститые профессора стали простыми исследователями, пробиравшимися на заседание секции по глубинному обучению, чтобы послушать важную персону»{122}, – написал в блоге Алекс Рубинштейн, специалист по машинному обучению, участник конференции.

После этого случая в крошечном сообществе исследователей забеспокоились о последствиях коммерциализации искусственного интеллекта для академической культуры. Но поворачивать назад было уже поздно. Отрасль оставила в прошлом интеллектуальные споры 1950–1960-х гг. о реализуемости искусственного интеллекта и правильном пути. Вероятностные математические методы вдохнули в нее новую жизнь и превратили из предмета академического интереса в силу, меняющую многие аспекты современного мира.

Это также реально поставило разработчиков перед выбором – включать или не включать людей в автоматизированные системы, которые будут производить продукты питания и товары, предоставлять нам услуги, перевозить и развлекать нас. Вопрос был не столько техническим, сколько философским и этическим. Взрывной рост вычислительной мощности и ее повсеместная доступность через беспроводные сети вновь подняли проблему, к которой так неодинаково подходили Маккарти и Энгельбарт на заре компьютерной эры.

За кем в будущем останется принятие важных решений – за людьми или способными обучаться алгоритмами? Сегодняшний компьютерный мир делится на тех, кто ориентируется на создание интеллектуальных машин, и тех, кто думает, как расширить возможности человека с помощью этих же машин. Вряд ли можно сомневаться в том, что эти противоположные подходы ведут к созданию совершенно разных миров.

Глава 5

Развитие идей

Еще в молодости, во время службы в ВМС США в 1950-х гг., Роберт Тейлор приобрел приличный летный опыт, хотя и не имел права управлять самолетом. Он частенько играл роль второго пилота у настоящих летчиков, которым требовались не только часы налета, но и время для подготовки к экзаменам. Они брали Тейлора с собой в учебные полеты, и после взлета он управлял самолетом (осторожно), пока настоящие пилоты зубрили свои задания на заднем сиденье. Ему даже доверяли заход на посадку по приборам, когда самолет направляют по радио, а пилот сидит в специальном шлеме, закрывающем обзор.

Вот почему в начале 1960-х гг. молодой руководитель программы NASA Тейлор чувствовал себя уверенно, когда его пригласили принять участие в испытательном полете в аэрокосмической лаборатории Корнеллского университета. На него надели неудобный противоперегрузочный костюм и усадили на переднее сиденье учебного реактивного самолета Lockheed T-33, а профессиональный пилот устроился позади него. Они взлетели, набрали максимальную высоту почти 15 000 м и Тейлору разрешили попрактиковаться в управлении самолетом. Через некоторое время пилот сказал: «А теперь попробуем что-нибудь поинтереснее. Сможешь перейти в пике?» Тейлор подал ручку управления вперед, чтобы самолет пошел вниз, а потом потянул ее назад и замер – самолет перешел в более крутое пике. Ощущение было как при спуске на американских горках. Он потянул ручку сильнее, но самолет продолжал падать почти вертикально.

Наконец Тейлор сказал сидевшему сзади пилоту: «Все, сдаюсь, лучше возьми управление на себя!» Пилот засмеялся, выровнял самолет и сказал: «Попробуем еще раз». Они попробовали еще раз, но теперь в ответ на движение ручки вперед самолет пошел вверх. Чем больше Тейлор подавал ручку вперед, тем круче становился подъем. На сей раз он запаниковал, и снова пилот выровнял самолет.

Тейлору следовало бы догадаться. Реакция самолета была такой странной, поскольку он сидел за штурвалом лабораторного образца, на котором исследователи из ВВС экспериментировали с системами управления. Тейлора пригласили в Корнелл по той причине, что он, как руководитель программы NASA, по собственной инициативе выделил $100 000 исследовательской группе авиабазы Райт-Паттерсон.

Сначала в NASA, а затем в DARPA Тейлор готовил почву для появления систем, предназначенных и для расширения возможностей людей, и для их замены. NASA исполнилось три года, когда в 1961 г. президент Кеннеди объявил об амбициозной цели – доставить человека на Луну и обратно в течение десятилетия. Агентство столкнулось с уникальной задачей: определить принципы взаимодействия людей с машинами, причем не только в летательных аппаратах, но и во всех автоматизированных системах – от настольных компьютеров до сегодняшних мобильных роботов.

Термин «киборг», т. е. «кибернетический организм», был введен в 1960 г. медиками-исследователями, ломавшими головы над расширением возможностей людей при подготовке к освоению космоса{123}. В их воображении появилось новое существо – получеловек-полумашина, способное выживать в суровых условиях.

В отличие от этого организация Тейлора финансировала разработку электронных систем, которые тесно взаимодействовали с людьми, но не переходили границу, разделявшую человека и машину.

В начале 1960-х гг. NASA представляло собой государственное ведомство, расколотое на две части в вопросе о роли людей в космических полетах. Тогда впервые появилась возможность всерьез задуматься о полностью автоматизированных космических полетах. Многих очень беспокоило очевидное направление развития – передача управления машинам и превращение людей в пассажиров. Именно таким путем в то время шла советская космонавтика. Американская программа опиралась на другой подход, о чем ясно говорил ряд инцидентов, в которых вмешательство астронавтов в процесс доказывало важность сохранения того, что в NASA называли «человек в контуре управления». Например, Уолли Ширра стал героем после того, как во время запуска Gemini VI он в нарушение правил NASA не нажал кнопку аварийного прекращения предстартовых операций{124}.

Дебаты в NASA о необходимости включения человека в контур управления в 1950-х и 1960-х гг. превратились в ожесточенные сражения. Тейлор, пришедший в агентство в 1961 г., обнаружил, что для местной инженерной культуры характерно почитание раздела математики, известного как теория управления, – наследия кибернетики Норберта Винера. Инженеры NASA разрабатывали системы управления летательными аппаратами и для авиации, и для космоса. Они были настолько сложными, что казались инженерам прекрасными, можно сказать, по определению. Тейлор быстро понял, что разработчики зачарованы эстетикой управления и уверены в необходимости дальнейшей автоматизации систем, поскольку люди недостаточно быстры и надежны, чтобы совладать с ними.

Проблема раскола технической культуры казалась практически непреодолимой. В вопросе о роли людей в космических полетах NASA делилось на два лагеря. Спор проник даже в высшие эшелоны руководства, и было легко предсказать, на какую сторону встанет каждый из менеджеров. Бывшие пилоты самолетов выступали за сохранение человека в системе, а специалисты по теории управления выбирали полную автоматизацию.

Как руководитель программы Тейлор отвечал в 1961 г. за финансирование исследований в нескольких областях, одна из которых называлась «системы управления пилотируемых аппаратов». Его коллега по отделу финансирования отвечал за «системы автоматического управления». Они были в хороших отношениях, но постоянно занимались перетягиванием бюджетного одеяла. Тейлор понимал аргументы своих коллег, поддерживавших автоматизированное управление, хотя и отвечал за отстаивание интересов сторонников систем с участием человека. Его выручала поддержка астронавтов, имевших огромное влияние. Отряд астронавтов NASA состоял главным образом из летчиков-испытателей. Они были гордостью космического агентства и бесценными союзниками Тейлора. Тейлор финансировал создание тренажеров для отработки маневров на орбите, которые широко использовались при подготовке астронавтов с первых дней программы Mercury, и много раз обсуждал с астронавтами достоинства и недостатки различных сред виртуального обучения. Астронавты прекрасно знали о спорах вокруг места людей в космических программах, и их очень волновал вопрос, смогут ли они играть активную роль в космических системах или будут мало чем отличаться от собачек и обезьянок, которых берут с собой в поездку.

В политическом сражении вокруг человека в контуре управления фигурировали два противопоставляемых друг другу сюжета: один – успех посадки астронавтов-героев на поверхность Луны, другой – призрак катастрофы с гибелью астронавтов и, как следствие, ликвидацией агентства. Проблема была, по крайней мере на время, снята, когда в ходе первой высадки человека на Луну Нил Армстронг взял управление на себя после сбоя компьютера и благополучно осуществил прилунение Apollo 11. Посадка на Луну и другие подвиги, такие как решение Уолли Ширры не прерывать полет Gemini, определенно ставили человека выше машин, которые могли давать сбои. Представление астронавтов как современных Льюисов и Кларков[13] было с самого начала неотъемлемой частью духа NASA, что резко контрастировало с решением СССР включить женщин в отряд космонавтов{125}. На американских представлениях об управляемых человеком системах долгое время сказывались субъективные различия подходов США и СССР к аэронавтике и космонавтике. Космические корабли «Восток» были более автоматизированными, поэтому советские космонавты играли роль скорее пассажиров, а не пилотов. Но первоначальная преданность Америки пилотируемым космическим полетам сформировалась, когда аэронавигационная техника переживала период становления. За следующие полвека компьютеры и автоматизированные системы стали значительно более надежными.

Для Тейлора баталии вокруг проблемы человека в контуре управления стали опытом, определившим его позицию и в NASA, и в DARPA, где он руководил проектами и финансировал технологические прорывы в области компьютеров, робототехники и искусственного интеллекта. Во время работы в NASA Тейлор пересекся с Джозефом Ликлайдером, который интересовался психологией и информационной технологией и предвидел появление интерактивных компьютерных систем. В своей основополагающей статье «Человеко-машинный симбиоз» (Man-Computer Symbiosis) 1960 г. Ликлайдер предсказал наступление эры полного вытеснения людей автоматизированными системами. На его взгляд, ей должен предшествовать переходный период продолжительностью от 15 до 500 лет, период сотрудничества людей и компьютеров. Он полагал, что это будет «самое творческое и увлекательное [время] в истории человечества».

Тейлор пришел в ARPA в 1965 г. как протеже Ликлайдера. Он занялся финансированием ARPAnet, первой общенациональной ориентированной на исследования компьютерной сети. В 1968 г. эти два человека в соавторстве написали продолжение статьи Ликлайдера о симбиозе, получившее название «Компьютер как коммуникационное устройство» (Computer as a Communication Device). В ней Ликлайдер и Тейлор, пожалуй впервые обрисовали влияние компьютерных сетей на общество.

Несмотря на десятилетия исследований взаимодействия человека с машиной в кабине самолета, спор так и остался неразрешенным и вновь разгорелся с появлением автономной системы управления в поездах и автомобилях. Если Google лидирует в исследованиях в сфере беспилотных автомобилей, то традиционная автомобильная промышленность внедряет интеллектуальные системы, которые могут взять на себя управление в некоторых четко определенных условиях, например при движении в пробках, но отдают контроль человеку в слишком сложных или опасных для автопилота ситуациях. Сидящему за рулем человеку, занимающемуся чтением электронной почты и т. п., может потребоваться несколько секунд, чтобы «сориентироваться в обстановке» и возобновить управление автомобилем. Исследователи Google, надо думать, уже столкнулись с ограничениями возможностей беспилотного движения. В настоящее время все больше специалистов соглашаются с тем, что проблема «передачи управления» – возврат управления автомобилем человеку в аварийной ситуации – возможно, неразрешима. Если это подтвердится, то развитие автомобилей пойдет по пути расширения возможностей, а не полной автоматизации. Применение полностью беспилотного транспорта может быть ограничено определенными случаями, например движение с небольшой скоростью в городских условиях и движение по автострадам.

Так или иначе споры в NASA были предвестником нарождающегося мира автономных машин. В течение первых 50 лет существования интерактивных систем, начиная с середины 1960-х гг., компьютеры в основном расширяли возможности людей, а не заменяли их. Технологии, которые стали фирменным знаком Кремниевой долины, – персональные компьютеры и интернет – усиливали человеческий интеллект, хотя вряд ли кто усомнится в том, что каждый «усиленный» человек заменял нескольких своих коллег. Сегодня у разработчиков систем есть выбор. По мере того как технологии искусственного интеллекта (зрение, речь и построение логических выводов) становятся совершеннее, появляется все больше возможностей как включать, так и исключать человека из контура управления.

На заре компьютерной эры Джон Маккарти и Дуг Энгельбарт, финансируемые сначала Джозефом Ликлайдером, а с 1965 г. Бобом Тейлором, работали всего в нескольких километрах друг от друга, но с таким же успехом могли находиться в разных вселенных. Обоих финансировало ARPA, однако они практически не контактировали друг с другом. Маккарти был блестящим, хотя и несколько сумасбродным, математиком, а Энгельбарт – мальчиком с фермы в Орегоне и мечтателем.

Эффект противоборства их новаторских исследований был неожиданным. Когда Маккарти в середине 1960-х гг. создавал в Стэнфорде Лабораторию искусственного интеллекта, его работа, сконцентрированная на таких амбициозных направлениях, как искусственный интеллект и доказательство правильности программ с использованием формальной логики, находилась в самом сердце компьютерной науки. Энгельбарт нацеливался на создание «интегрированной среды» для усиления интеллекта человека. Первоначально это была менее отчетливая концепция, находящаяся в стороне от господствующего течения в академических исследованиях, однако на протяжении первых трех десятилетий существования интерактивных систем идеи Энгельбарта оказывали большее влияние на мир. Появление современных персональных компьютеров, а позднее технологий совместного использования информации вроде Всемирной паутины в определенной мере связано с исследованиями Энгельбарта.

С той поры сторонники Энгельбарта неустанно преобразовывали мир. Они расширяли возможности человека во всех областях современной жизни. В наши дни персональные компьютеры, превратившие в смартфоны, не носят с собой разве что их принципиальные противники. Смартфоны практически по определению образуют обширную распределенную вычислительную сеть, которую соединяет беспроводной интернет. Их используют и как искусственную память. Сегодня многие буквально не могут поддержать беседу или найти дорогу в городе, не обратившись к ней.

Если исследования Энгельбарта напрямую вели к PC и интернету, то лаборатория Маккарти была теснее всего связана с двумя другими технологиями – робототехникой и искусственным интеллектом. Какого-то разового решающего прорыва не было. Снижение стоимости вычислительных систем (обработки данных и хранения информации), постепенный переход от символьной логики искусственного интеллекта первого поколения к более утилитарным статистическим алгоритмам и машинному обучению второго поколения и удешевление датчиков позволяют сейчас инженерам и программистам создавать автоматизированные системы, которые видят, говорят, слышат и перемещаются в пространстве.

Баланс, однако, изменяется. Появляются компьютерные технологии, способные не только заменять, но и превосходить людей. В то же время за полстолетия усиление интеллекта и искусственный интеллект – две области, ставшие продолжением первоначальных работ Энгельбарта и Маккарти, – практически не сблизились. Хотя компьютерные и робототехнические системы вышли из лабораторий и прочно вплелись в ткань современной жизни, взгляды представителей двух сообществ по большей части так и остаются несовместимыми.

Сообщество взаимодействия человека и компьютера продолжает обсуждать широкий круг вопросов – от окон на экране и мышей до автономных агентов, но в рамках философской концепции Энгельбарта, предполагающей использование компьютеров для расширения возможностей человека. Сообщество искусственного интеллекта говорит о производительности и экономических целях, оперируя уравнениями и алгоритмами и мало задумываясь о судьбе людей. В одних случаях результаты такого подхода очевидны, взять хотя бы производственных роботов, прямо вытесняющих живой труд. В других случаях прямое влияние новых технологий на занятость заметить труднее. Уинстон Черчилль сказал: «Сначала мы строим здания, а потом они строят нас». Сегодняшние системы стали гигантскими вычислительными комплексами, определяющими характер нашего взаимодействия с обществом – от функционирования зданий до структуры организаций, будь то правительства, компании или церкви.

По мере того как созданные сообществами искусственного интеллекта и усиления интеллекта технологии изменяют мир, формируются два представления о будущем. В одном мире люди мирно живут и процветают вместе с машинами – роботы заботятся о престарелых, автомобили ездят сами, а однообразная и тяжелая работа исчезает, рождаются новые Афины, где люди занимаются наукой и искусством, наслаждаются жизнью. Будет замечательно, если информационная эра окажется именно такой, но можно ли считать, что это решенное дело? Не менее вероятен вариант, в котором эти могущественные технологии, вместо того чтобы освободить человечество, облегчат дальнейшую концентрацию богатства, породят масштабные волны технологической безработицы, обеспечат тотальный надзор, от которого невозможно укрыться, приведут к появлению нового поколения автономного супероружия.

Когда Эд Фейгенбаум закончил говорить, в зале воцарилась тишина. Ни вежливых аплодисментов, ни гула неодобрения. Только тишина. Потом участники конференции один за другим вышли, оставив пионера искусственного интеллекта на подиуме в одиночестве.

После избрания Барака Обамы президентом в 2008 г. казалось, что план администрации Буша по исследованию космоса, гвоздем которого было создание обитаемой базы на Луне, может быть заменен еще более смелой программой, включающей полеты к астероидам и даже высадку людей на марсианских лунах Фобосе и Деймосе{126}. В числе более близких целей значилась отправка астронавтов к точкам Лагранжа в 1,5 млн км от Земли, где гравитация Земли и Солнца взаимно компенсируется, создавая условия для долговременного размещения аппаратов типа космического телескопа Hubble следующего поколения.

Освоение Солнечной системы с участием человека было идеей фикс Скотта Хаббарда, главы Исследовательского центра Эймса NASA в Маунтин-Вью, штат Калифорния. Его активно поддерживало Планетарное общество, некоммерческая организация, выступавшая за исследование космоса и развитие науки. В результате NASA организовало конференцию, посвященную возобновлению исследований Солнечной системы с участием человека. Среди ее участников было немало имевших отношение к космосу знаменитостей, включая астронавта Базза Олдрина, второго побывавшего на Луне человека, и астрофизика Нила Тайсона. Одна из секций посвящалась роли роботов, которые, по задумке организаторов конференции, должны были предстать в виде интеллектуальных систем, помогающих людям во время долгих полетов в другие миры.

Фейгенбаум был учеником одного из основоположников индустрии искусственного интеллекта Герберта Саймона и возглавлял в Стэнфорде разработку первых экспертных систем. Он верил в потенциал искусственного интеллекта и робототехники, и его страшно раздражало услышанное как-то выступление специалиста по геологии Марса, который утверждал, что всего несколько минут присутствия человека на Марсе дадут больше научной информации, чем любой автоматический аппарат принесет за все время своего существования. Фейгенбаум очень хорошо разбирался в конструкции космических систем. Когда-то он был руководителем исследовательских работ в военно-воздушных силах и приобщился к дебатам о человеке в контуре управления еще во времена обсуждения космической программы.

Фейгенбаум вышел на подиум полный решимости бросить вызов. Используя простой набор слайдов, он обрисовал альтернативу пилотируемому полету к Марсу. В его презентациях редко встречались надписи прописными буквами, но не в этот раз:

ПОЧТИ ВСЕ, ЧТО НАМ ИЗВЕСТНО О СОЛНЕЧНОЙ СИСТЕМЕ И ПРОСТРАНСТВЕ ЗА ЕЕ ПРЕДЕЛАМИ, ЛЮДИ УЗНАЛИ, НЕ ПОКИДАЯ ЗЕМЛЮ, С ПОМОЩЬЮ АГЕНТОВ – ТЕХНИЧЕСКИХ СРЕДСТВ В ОТКРЫТОМ КОСМОСЕ ИЛИ НА ОРБИТЕ{127}.

Сама мысль об отправке людей к другой планете, когда роботы могут сделать все не хуже, а может быть, и лучше, с меньшими затратами и без риска для чьей-то жизни, казалась Фейгенбауму абсурдной. С его точки зрения, системы искусственного интеллекта и роботы в широком смысле настолько быстро расширяют свои возможности, что старая идея о человеке в контуре управления потеряла и притягательную силу, и ценность. Все коэффициенты на машинной стороне уравнения изменились. Ему хотелось заставить слушателей мыслить категориями агентов, сменить тему и представить себе людей, исследующих Солнечную систему с помощью более чувствительных средств восприятия. Но это шло вразрез с тем, что хотела услышать аудитория. Когда зал опустел, к столу подошла женщина-ученый, которая работала в Центре космических полетов Годдарда NASA, и тихо сказала, что благодарна Фейгенбауму за выступление. У себя на работе она не могла бы высказаться в таком духе.

История Фейгенбаума подчеркивает, что в реальности нет единственно «правильного» подхода к выбору между искусственным интеллектом и усилением интеллекта. Для одних полет людей в космос является заветной мечтой. Для других, таких как Фейгенбаум, это пустая трата ресурсов. Интеллектуальные машины отлично подходят для враждебной внеземной среды, и их разработка позволяет совершенствовать технологии, которые могут приносить пользу и на Земле. Спор с его участием также показывает, что легкого пути к единению двух лагерей нет.

Хотя сферы искусственного интеллекта и взаимодействия человека с компьютерами мало где пересекаются, есть люди, которые жили в обоих мирах, и исследователи, которые переходили из одного лагеря в другой. Специалист по когнитивной психологии из Microsoft Джонатан Грудин первым отметил, что популярность этих областей растет и падает в противофазе. Когда вперед выходит искусственный интеллект, взаимодействие человека с компьютерами отступает на второй план, и наоборот.

Грудин считает себя оптимистом. Он пишет, что верит в возможность великого сближения двух направлений в будущем. Пока же отношения между ними остаются неконструктивными, и взаимодействие человека с компьютерами, пионером которого был Энгельбарт и за которое выступают энтузиасты вроде Грудина и его наставника Дональда Нормана, является, пожалуй, самым существенным противовесом технологиям искусственного интеллекта с их двойным потенциалом – возможностью освобождения или порабощения человечества.

Если Грудин на протяжении своей карьеры становился то на одну, то на другую сторону, то Терри Виноград стал первым крупным специалистом, дезертировавшим из мира искусственного интеллекта. Он решил уйти из этой области, создав одну из основополагающих программ для ранних систем искусственного интеллекта, и посвятить себя антропоцентрическим компьютерным системам, или усилению интеллекта.

Интерес Винограда к компьютерам зародился, когда он в молодости изучал математику в Колледже Колорадо, после того как преподаватель медицины обратился на его кафедру за помощью в расчетах для лучевой терапии{128}. Медицинский центр располагал мини-компьютером размером с пианино CDC 160A компании Control Data, одной из первых разработок Сеймура Крэя. Одномоментно на нем мог работать один человек, загружая написанные на ФОРТРАНе программы с помощью перфоленты, похожей на телеграфную ленту. В один из первых дней работы Винограда на машине было довольно жарко, поэтому позади стола с компьютерным терминалом поставили вентилятор. Виноград заправлял перфоленту в компьютер, когда неожиданно ее затянуло в этот вентилятор{129}.

Наряду с компьютерами Винограда заинтересовали первые публикации об искусственном интеллекте. Для талантливого математика, занимающегося лингвистикой, очевидным местом для последипломного образования был Массачусетский технологический институт. Виноград оказался там в разгар войны во Вьетнаме и обнаружил, что между вотчинами Марвина Мински и Ноама Хомского, лидера в сфере искусственного интеллекта и лидера в сфере лингвистики, образовалась глубокая пропасть. Раскол был настолько серьезен, что, стоило Винограду на вечеринках со студентами Хомского заикнуться о своей принадлежности к Лаборатории искусственного интеллекта, как они отворачивались и уходили.

Виноград попытался навести мосты, прослушав курс Хомского, но получил тройку за доклад, в котором высказывался в пользу искусственного интеллекта. Несмотря на конфликт, это было отличное время для исследований в области искусственного интеллекта. Война во Вьетнаме заставила Пентагон раскошелиться, и ARPA фактически подписывало незаполненные чеки исследователям в крупнейших научно-исследовательских лабораториях. Как и в Стэнфорде, в Массачусетском технологическом институте ясно представляли, что следует понимать под «серьезным» исследованием в информатике. Как-то к ним заехал Дуг Энгельбарт и показал фильм о своей системе NLS. Исследователи из Лаборатории искусственного интеллекта старались преуменьшить его достижения. Как же иначе, ведь они создавали системы, способности которых скоро сравняются со способностями людей, а Энгельбарт показывал систему машинного редактирования, которая годилась разве что для сортировки списков покупок в магазине.

В то время Виноград принадлежал к мейнстриму компьютерного мира, и, поскольку духу времени отвечал искусственный интеллект, он следовал в этом направлении. Большинство верило, что очень скоро машины будут видеть, слышать, говорить, ходить и выполнять другие свойственные человеку действия. Мински предложил Винограду продолжить лингвистические исследования – ему очень хотелось доказать, что его студенты не хуже в «языке», чем студенты Хомского. Эта тема вполне устраивала Винограда, и он с интересом занялся исследованием языка, используя компьютер для моделирования.

Подростком Виноград жил в штате Колорадо и, как многие его сверстники, читал журнал Mad. Фривольный и зачастую инфантильный сатирический журнал сыграл определенную роль в выборе названия SHRDLU для программы, написанной им во время учебы в аспирантуре в конце 1960-х гг. Эта программа «понимала» естественный язык, отвечала на команды и стала одним из самых больших достижений в сфере искусственного интеллекта.

Виноград намеревался сделать систему, которая могла бы отвечать на вводимые с клавиатуры команды на естественном языке и выполнять полезные операции. Тогда уже ясно обозначилась волна первых экспериментов по созданию диалоговых программ. Программу Eliza, написанную ученым-компьютерщиком из Массачусетского технологического института Джозефом Вейценбаумом в 1964 и 1965 гг., назвали в честь Элизы Дулитл, которая училась правильно говорить по-английски в «Пигмалионе» Бернарда Шоу и в мюзикле «Моя прекрасная леди». Eliza была прорывным экспериментом в исследовании взаимодействия человека с машинами: она позволяла пользователям разговаривать с компьютером, как с человеком. Чтобы обойтись без реальных знаний, Eliza имитировала роджерианский подход в психологии и часто преобразовывала фразы пользователей в вопросы. Беседа была в основном односторонней, поскольку Eliza могла отвечать лишь на определенные ключевые слова и фразы. Этот подход приводил к крайне нелогичным выводам и странным отклонениям. Так, на фразу пользователя, где фигурировали слова «их мать», Eliza отвечала вопросом: «Вы имеете в виду свою мать?» Неожиданно для Вейценбаума пользователи Eliza настолько увлекались беседами с программой, что даже рассказывали глубоко личные детали. Это было удивительное откровение, касающееся не машин, а человеческой природы. Как оказалось, люди склонны очеловечивать практически все, с чем они взаимодействуют, от неодушевленных объектов до программ, имитирующих человеческий интеллект.

Может ли случиться так, что в кибербудущем все более изолированным друг от друга людям останется лишь общаться с суррогатным компьютерным интеллектом? Каким будет этот мир? Возможно, таким, какой показан в фильме 2013 г. «Она», где застенчивый парень общается с искусственным интеллектом. Сегодня все еще не ясно, станет ли появление киберпространства огромным шагом вперед для человечества, как рисуют киберутописты, например поэт Джон Барлоу в своей опубликованной в журнале Wired в 1996 г. «Декларации независимости киберпространства» (A Declaration of the Independence of Cyberspace). Или это будет намного более холодный мир, описанный Шерри Теркл в книге «Одинокие вместе: Почему мы ожидаем от технологий большего, чем друг от друга» (Alone Together: Why We Expect More from Technology and Less from Each Other)? По Барлоу, киберпространство станет утопическим миром без преступлений и деградации «реального мира». Теркл описывает мир, в котором компьютерные сети все более и более разделяют людей, оставляя их в одиночестве и изоляции. На взгляд Вейценбаума, вычислительные системы могут существенно уменьшать общение людей. Почти в том же ключе, что и марксистский философ Герберт Маркузе, клеймивший развитое индустриальное общество, он опасается, что грядущая информационная эра породит «одномерного человека».

После создания Eliza группа ученых Массачусетского технологического института, включая основоположника теории информации Клода Шеннона, собралась в Конкорде, штат Массачусетс, чтобы обсудить социальные последствия этого явления{130}. Привлекательность взаимодействия с Eliza беспокоила Вейценбаума, который усматривал в чрезмерной ориентации на технологии признаки морального падения общества. Корни такого взгляда восходят ко временам его детства в нацистской Германии. В 1976 г. он изложил гуманистическую критику компьютерной технологии в книге «Возможности вычислительных машин и человеческий разум: От суждений к вычислениям» (Computer Power and Human Reason: From Judgment to Calculation). В ней не было доводов против возможности создания искусственного интеллекта, она предъявляла страстные обвинения автоматизированным системам, которые принимают решения вместо человека. Автор утверждал, что компьютеры являются консервативной силой в обществе, поддерживают бюрократию и превращают мир в тесное и бесплодное место, ограничивая потенциал человеческих отношений.

Критика Вейценбаума так и не нашла отклика в Соединенных Штатах. Годы спустя его идеи получат большее понимание в Европе, куда он переедет в конце жизни, но тогда в США, где внедрялись новые компьютерные технологии, было больше оптимизма в отношении искусственного интеллекта.

В конце 1960-х гг. аспирант Виноград попал в тепличную атмосферу Лаборатории искусственного интеллекта Массачусетского технологического института, места рождения культуры программистов-фанатиков, которая привела к появлению PC и идеологии «свободы обмена информацией», а позже движения 1990-х гг. за открытую среду. Многие в лаборатории строили карьеру на вере в то, что дружелюбные и автономные интеллектуальные машины скоро станут реальностью. Eliza, а позднее и SHRDLU Винограда стали прямыми предшественниками более сложных электронных личных помощников, появившихся в последующие десятилетия. В Массачусетском технологическом институте уже предпринимались попытки строить микромиры или «блочные миры» – ограниченные смоделированные среды, в которых исследователи могли создавать программы, способные судить об окружающей обстановке и планировать действия. Иногда использовались даже реальные манипуляторы и блоки. Когда Виноград начал работать над своим проектом, уже создавалась система заказа авиабилетов, но это не очень интересовало его. Он собирался построить собственную ограниченную среду для исследований и рационализации и выбрал для нее форму виртуального компьютерного мира.

Виноград создал компьютерную модель мира, населенного цветными блоками, которые можно было исследовать и которыми можно было управлять с помощью языка программирования под названием Micro-Planner, основанного на работах аспиранта Массачусетского технологического института Карла Хьюитта. Учитывая сравнительно невысокий уровень развития вычислительной техники в то время, во многом приходилось полагаться на воображение. Наглядного графического представления мира блоков не было. Пользователь просто сидел у терминала Teletype и вводил вопросы с клавиатуры, а компьютер отвечал на естественном языке. Виноград выбрал название SHRDLU потому, что ничего лучше не пришло в голову. Позже он сказал, что последовательность букв SHRDLU, наверное, сидела у него в подсознании. Последовательность «etaoin shrdlu» – самые ходовые в английском языке буквы – располагается на левой стороне клавиатуры линотипа, как «1qaz 2wsx» в пишущей машинке. Эта последовательность символов время от времени мелькала в шутку в журнале Mad как якобы случайно проскочившая при печати строка. У линотипа, который отливает всю строку из расплавленного металла, не было клавиши Backspace. Поскольку завершить отливку строки с ошибкой быстрее, чем заниматься исправлением, наборщики обычно «заполняли» оставшуюся часть строки бессмысленным набором символов и удаляли всю строку, когда она застывала, а если забывали это сделать, то уповали на то, что корректор выловит ее{131}.

В то время Винограда мало заботили этические последствия создания системы обработки естественного языка, которая могла «понимать» и отвечать в виртуальном мире. В SHRDLU «понимание» означало, что программа анализировала структуру введенных вопросов и пыталась ответить на них и отреагировать на команды. Это была одна из первых попыток справиться с неоднозначностью – проблемой обработки естественного языка, сложной для решения даже сегодня. Например, к чему относится местоимение «он» в предложении «стакан поставили на стол, и он сломался», к стакану или столу? Без контекста ни человек, ни искусственный интеллект не могут этого определить.

Система Винограда опиралась на общие знания о своем микромире при ответе и реагировании на вопросы. В диссертации Виноград приводил следующий пример диалога:

Человек: Подними большой красный блок.

Компьютер: ОК.

Человек: Возьми пирамиду.

Компьютер: Я не понимаю, какую пирамиду вы имеете в виду.

Человек (передумав): Найди блок, который выше того, что ты держишь, и положи его в коробку.

Компьютер: Я полагаю, что «его» означает блок, который выше, чем тот, который держу я.

Компьютер: ОК.

Человек: Что в коробке?

Компьютер: Синяя пирамида и синий блок.

Человек: На чем стоит пирамида?

Компьютер: Коробка.

Человек: Сколько блоков не в коробке?

Компьютер: Четыре.

Человек: Есть ли среди них более узкий, чем тот, который я велел взять?

Компьютер: Да, красный куб{132}.

В 1970 г. после завершения работы программа SHRDLU стала одной из самых успешных демонстраций потенциала искусственного интеллекта, возможно, слишком успешной. Годы спустя это детище Винограда обвинили в том, что оно способствовало появлению слишком оптимистического представления о возможности «масштабирования» подобных программ для решения проблем реального мира. Например, в 1980–1990-х гг. сообщество искусственного интеллекта в целом верило, что можно создать машину с умственными способностями по крайней мере ребенка детсадовского возраста путем простого накопления практических правил.

Впрочем, критика оптимистов искусственного интеллекта началась еще до того, как Виноград создал SHRDLU. Если выступления Вейценбаума касались этической стороны создания интеллектуальных машин, то вопрос принципиальной возможности таких машин вызывал более горячие споры. Сеймур Пейперт, научный руководитель Винограда, спорил с Хьюбертом Дрейфусом, философом и последователем Хайдеггера[14]. Дрейфус всего через десятилетие после того, как Маккарти ввел термин «искусственный интеллект» в употребление, высмеял это направление в статье «Алхимия и искусственный интеллект» (Alchemy and Artificial Intelligence), изданной в 1965 г. RAND Corporation{133}. (В его честь в ремейке 2014 г. кинофильма «Робокоп» (RoboCop) вымышленного американского сенатора, сторонника закона о запрете роботов-полицейских, назвали Хьюбертом Дрейфусом.)

Конфликт у Дрейфуса с исследователями искусственного интеллекта возник в начале 1960-х гг., когда они появились на его курсе по философии Хайдеггера и уничижительно отозвались о философах из-за того, что те так и не поняли интеллект человека, хотя изучали его на протяжении столетий{134}. Это неуважение он не забыл и на четыре десятилетия стал самым непримиримым критиком искусственного интеллекта. Его главный аргумент прозвучал в выпаде против двух исследователей искусственного интеллекта из Стэнфорда: «Фейгенбаум и Фельдман утверждают, что ощутимый прогресс действительно достигнут, но определяют его очень осмотрительно как „приближение к конечной цели“. С таким определением первый человек, который взобрался на дерево, мог говорить об ощутимом прогрессе на пути к полету на Луну»{135}. Три года спустя Пейперт дал ответ на это в статье «Искусственный интеллект Хьюберта Дрейфуса – собрание ошибок» (Artificial Intelligence of Hubert L. Dreyfus, A Budget of Fallacies). «Беспокоит не то, что Дрейфус вводит метафизику в область техники, а то, что его высказывания безответственны, – писал он. – Его факты почти всегда неправильны; его представление о программировании настолько ограниченно, что он относит к невозможным программы, которые может написать новичок; а его невосприимчивость к логике позволяет принимать собственную неспособность представить, как можно реализовать конкретный алгоритм, за основание считать, что никакой алгоритм не может достичь нужной цели»{136}.

Виноград в конечном счете полностью разошелся с Пейпертом, но произошло это через много лет. Он приехал в Стэнфорд как преподаватель в 1973 г., когда его жена, врач, приняла предложение стать ординатором в районе залива Сан-Франциско. Это случилось всего через два года после того, как Intel представила первый коммерческий микропроцессор 4004, а журналист Дон Хефлер в своем бюллетене Microelectronics News ввел в употребление название «Кремниевая долина США». Виноград еще несколько лет развивал идею понимания машиной естественного языка в ключе SHRDLU. Сначала он проводил почти половину своего времени в Исследовательском центре компании Xerox в Пало-Альто, работая с Дэнни Боброу, другим исследователем, интересовавшимся проблемой понимания естественного языка. В марте 1975 г. Xerox открыла новое красивое здание неподалеку от Стэнфорда, так как это обеспечивало компании легкий доступ к лучшим программистам. Позже Виноград говорил друзьям: «Вы ведь знаете все разработки PARC в области PC? Так вот, я работал совсем не над этим».

Виноград работал над углублением и развитием исследования, которым он занимался в Массачусетском технологическом институте и которое принесет плоды лишь четыре десятилетия спустя. В 1970-х гг. эта задача казалась невыполнимой, и многие задавались вопросом, сможет ли наука когда-нибудь разобраться, как люди понимают язык. После того как Виноград потратил на проблему компьютерной обработки языка полдесятилетия, его стал одолевать скептицизм в отношении возможности реального развития искусственного интеллекта. Он отошел от этой сферы не только из-за незначительности успехов, но и в какой-то мере под влиянием нового друга, чилийского политического беженца по имени Фернандо Флорес, а также знакомства с группой философов из Беркли во главе с Дрейфусом, намеревавшейся разоблачить рекламную шумиху вокруг нарождающейся индустрии искусственного интеллекта. Истинный технократ, Флорес был министром финансов в правительстве Альенде и чудом спасся из своего офиса во дворце при бомбардировке во время мятежа. Прежде чем попасть в Соединенные Штаты, он провел три года в тюрьме, но его выпустили в результате кампании, развернутой Amnesty International. Стэнфорд назначил Флореса консультантом по информатике, но он уехал из Пало-Альто работать над докторской диссертацией в Беркли под руководством квартета настроенных против искусственного интеллекта философов: Хьюберта и Стюарта Дрейфусов, Джона Сирла и Энн Маркуссен.

Виноград считал Флореса одним из самых ярких интеллектуалов, которых он когда-либо встречал. Виноград вспоминал: «Мы начали разговаривать, он дал мне книгу по философии науки и сказал: "Вы должны прочитать это". Я прочитал ее, мы начали обсуждать эту тему, решили написать работу по ней, получилась монография, которая превратилась в книгу. Это был процесс пробуждения интереса к нему и осознания того, что наши разговоры интеллектуально обогащают»{137}. Из бесед с Флоресом молодой программист понял причину своей неудовлетворенности тем, что воспринимал как «идеологию» искусственного интеллекта. Флорес был согласен с харизматичным Вернером Эрхардом, организация которого «Учебные семинары Эрхарда» (Erhard Seminars Training – EST) имела в 1970-е гг. множество последователей в районе залива Сан-Франциско. (В Стэнфордском научно-исследовательском институте Энгельбарт отправил весь штат своей лаборатории на тренинг в EST и вошел в совет директоров организации.)

Хотя компьютерный мир в то время был крошечным, противоречия подходов Маккарти и Мински, с одной стороны, и Энгельбарта – с другой, были очень осязаемыми. PARC работала над персональным компьютером; Стэнфордская лаборатория искусственного интеллекта занималась всем – от манипуляторов и мобильных роботов до программ для игры в шахматы. В недавно переименованном Стэнфордском исследовательском институте (который стали называть SRI из-за антивоенных протестов студентов) исследователи работали над широким спектром проектов – от системы NLS Энгельбарта и робота Shakey до распознавания речи и «умного» оружия. Виноград приезжал в Беркли для неофициальных встреч за ланчем с философами Сирлом и Дрейфусом, их аспирантами и Фернандо Флоресом. Хьюберт Дрейфус выступал против оптимистических предсказаний исследователей искусственного интеллекта, а Джон Сирл шел дальше и ставил один из самых острых философских вопросов XX в.: действительно ли возможно построить думающую машину?

Умевший привлечь внимание блестящий лектор Сирл никогда не уклонялся от спора. До того как заняться преподаванием философии, он был политическим активистом. Во время учебы в Висконсинском университете в 1950-х гг. он состоял в организации «Студенты против Джозефа Маккарти[15]», а в 1964 г. стал первым штатным сотрудником Беркли, который присоединился к «Движению за свободу слова». Еще когда Сирл был молодым философом, его привлекала междисциплинарная область – когнитивистика. В то время считалось, что биологический разум является аналогом оживляющего машины программного обеспечения. В этом случае понимание процессов мышления человека становилось просто вопросом разгадывания программы, заложенной в миллиардах переплетенных нейронов человеческого мозга.

Фонд Слоуна направил Сирла в Йельский университет, чтобы обсудить тему искусственного интеллекта. В самолете тот начал читать книгу об искусственном интеллекте, написанную Роджером Шанком и Робертом Абелсоном, ведущими исследователями Йеля во второй половине 1970-х гг. В их книге «Сценарии, планы, цели и понимание» (Scripts, Plans, Goals and Understanding){138} говорилось, что программы искусственного интеллекта могли «понимать» истории, составленные их разработчиками. Например, разработчики могли предложить компьютеру простую историю, описывающую, как человек идет в ресторан, заказывает гамбургер, а затем убегает, не заплатив за него. В ответ на вопрос программа делала вывод, что человек не съел гамбургер. «Здесь что-то не так, – подумал Сирл. – Получается, что мне предлагают историю на китайском языке со множеством правил расстановки символов, я не понимаю ни слова по-китайски, но все равно могу дать правильный ответ»{139}. На его взгляд, из этого не следовало, что компьютер способен понимать что-либо в результате простого умения интерпретировать набор правил.

Так, по пути в Йель у него родился аргумент против разумных машин, названный «китайской комнатой». Сирл исходил из того, что никаких смоделированных «мозгов в коробке» существовать не может. Его аргумент отличался от критики Дрейфуса, который утверждал, что невозможно добиться от программ искусственного интеллекта эффективности, сопоставимой с человеком. Сирл просто указывал, что компьютер всего лишь очень быстрое средство перебора символов, использующее ряд синтаксических правил. Чего ему не хватает, так это способности биологического разума интерпретировать семантику. Биологические корни семантики, постижения смысла, остаются загадкой. Аргумент Сирла приводил представителей сообщества искусственного интеллекта в бешенство в какой-то мере потому, что связывал их доводы с теологическим представлением о разуме как о сущности за пределами физического, биологического мира. По мнению Сирла, умственная деятельность полностью определяется биологическими процессами в мозге и реализуется в нем, и думающая машина должна копировать, а не моделировать эти процессы. В тот момент Сирл полагал, что его возражение восприняли и на дискуссию не потребуются недели, не говоря уже о десятилетиях. Но все произошло с точностью до наоборот. Реакцией на первую статью Сирла стали 30 опровержений. И даже три десятилетия спустя дискуссия далека от завершения. Число публикаций с критикой его идеи достигло к настоящему моменту нескольких сотен. Сирл по-прежнему здравствует и продолжает защищать свою позицию.

Нужно также заметить, что дискуссии за ланчем о возможности создания интеллектуальных и предположительно обладающих самосознанием машин велись на фоне наращивания военного потенциала при Рейгане. Война во Вьетнаме закончилась, но активные группы политически несогласных еще сохранялись по всей стране. Философы собирались на перекрестке через дорогу от университетского городка в Беркли. Виноград и Дэнни Боброу из Xerox PARC стали постоянными участниками этих дискуссий, и Виноград заметил, что они шли вразрез с его представлениями о философских основах искусственного интеллекта.

В конечном итоге Виноград отошел от искусственного интеллекта как «религии» и уверовал в то, что в человеческом интеллекте нет ничего мистического. В принципе, если бы удалось понять, как работает мозг, можно было бы создать машину с искусственным интеллектом, но невозможно построить такую машину с помощью символической логики, которая доминировала в 1970-х и 1980-х гг. Интерес Винограда к искусственному интеллекту был двойственным: он служил и в качестве модели для понимания языка и человеческого мозга, и как система, способная выполнять полезные задачи. Но в этот момент он пошел за Энгельбартом. Философски и политически антропоцентрические компьютерные системы больше соответствовали его мировоззрению. Интеллектуальное единство Винограда и Флореса привело к рождению книги с критикой искусственного интеллекта «О понимании компьютеров и мыслительного процесса: Новая основа для разработки» (Understanding Computers and Cognition: A New Foundation for Design). Так или иначе книга касалась философского аспекта, а не науки, и Винограду все еще предстояло определиться, чем заниматься. В конце концов он оставил работу над созданием более умных машин и сосредоточился на использовании компьютеров для расширения возможностей людей. Виноград преодолел пропасть и переключился с разработки систем, вытесняющих людей, на создание технологий, улучшающих взаимодействие людей с компьютерами.

Хотя впоследствии Виноград утверждал, что политика не играла особой роли в его переходе в другой лагерь, политический климат того времени, без сомнения, повлиял на решение многих ученых оставить сферу искусственного интеллекта. В 1975–1985 гг. исследования в области искусственного интеллекта в основном финансировались Министерством обороны. Некоторых известных ученых, включая Винограда, беспокоило увеличение доли военных разработок в сфере компьютерных технологий. В глазах поколения, которое выросло на фильме «Доктор Стрейнджлав»[16] (Dr Strangelove), программа «звездных войн» правительства Рейгана была опасным балансированием на грани войны. Именно в таком морально-этическом и интеллектуальном контексте Виноград решил покинуть область, которую помогал создавать. Он называл себя «продуктом 1960-х гг.»{140} и в период отхода от разработки искусственного интеллекта играл вместе с исследователями из Xerox PARC и Стэнфорда ключевую роль в создании национальной организации компьютерщиков, обеспокоенных гонкой вооружений под флагом «звездных войн». Они очень не хотели, чтобы военная верхушка толкала страну к ядерной конфронтации с Советским Союзом. Во время учебы в аспирантуре Виноград активно выступал против войны во Вьетнаме, в Бостоне он входил в группу «Программисты за мир», а в 1981 г. включился в создание национальной организации специалистов-компьютерщиков, выступавших против ядерного оружия.

Выступавшие против Стратегической оборонной инициативы специалисты полагали, что могут более эффективно бороться против ядерных вооружений. В конечном итоге они превратились из «публики» в «профессионалов» и в 1981 г. основали новую организацию, названную Ассоциацией компьютерных профессионалов за социальную ответственность. Виноград провел первое организационное собрание в большой аудитории в Стэнфорде. Присутствовавшие вспоминали, что, в отличие от многих политических встреч антивоенной эры, пронизанных агрессией и спорами, собрание вызывало чувство необычайного единения и общности цели. Виноград показал себя умелым политическим организатором.

В очерке 1984 г. по вопросу о том, должны ли ученые-компьютерщики принимать финансирование от военных, Виноград подчеркивал, что в прошлом он избегал обращения к военным за финансированием, но не афишировал это решение и постепенно стал воспринимать его как принятие более широкой ответственности. Конечно, учился он в финансируемой Пентагоном лаборатории Массачусетского технологического института. Участие в создании Ассоциации компьютерных профессионалов за социальную ответственность было первым в ряду событий, которые в конечном счете привели к «дезертирству» Винограда из сообщества искусственного интеллекта и переключению внимания с создания интеллектуальных машин на расширение возможностей людей.

Косвенно это движение оказало значительное влияние на мир. Виноград имел достаточный авторитет в сообществе искусственного интеллекта, и если бы он выбрал более типичную академическую карьеру, то вполне мог бы создать империю на основе своих научных интересов. Его, однако, не привлекало создание крупной исследовательской лаборатории или руководство группой научных сотрудников со степенью. Он хотел прямого взаимодействия со своими студентами.

Одним из них был Ларри Пейдж, нахальный молодой человек с широким кругом идей относительно темы диссертации. Пейдж с подачи Винограда остановился на идее доступа к ресурсам всей сети и улучшения организации и поиска информации. Он начал с поиска знаний по существующим в сети гиперссылкам. В 1998 г. Виноград и Пейдж в соавторстве с Сергеем Брином, аспирантом Стэнфорда и близким другом Пейджа, и консультантом Брина, специалистом по сбору данных Радживом Мотвани, опубликовали статью под названием «Что можно сделать с сетью в кармане?»{141}. В ней они описали прототип поисковой системы Google.

Пейдж рассматривал и другие, более традиционные для искусственного интеллекта идеи, включая автомобили с автопилотом, однако при поддержке Винограда стал заниматься получением знаний о поведении и логике человека с помощью ссылок, создаваемых миллионами пользователей интернета. Он использовал эту информацию, чтобы значительно улучшить качество результатов, выдаваемых поисковой системой. Эта работа привела к появлению самого существенного инструмента «усиления» в истории человечества. В сентябре того же года Пейдж и Брин ушли из Стэнфорда и основали Google Inc. со скромной целью «организации мировых знаний и превращений их в общедоступный ресурс».

К концу 1990-х гг. Виноград полагал, что сообщества искусственного интеллекта и взаимодействия человека с компьютерами придерживались принципиально разных взглядов на взаимодействие компьютеров и людей. По его словам, проще всего было бы признать оба лагеря одинаково «правыми» и исходить из того, что в мире есть проблемы, которые можно решить с помощью любого из подходов. Но такой ответ вуалировал бы тот факт, что эти подходы рождают разные структуры, определяющие характер систем. Виноград пришел к убеждению, что подходы к созданию автоматизированных систем влияют и на то, как мы понимаем людей, и на то, насколько технологии полезны им.

Подход сторонников искусственного интеллекта, который Виноград считает «рационалистическим», рассматривает людей как машины. Люди рождаются с внутренними механизмами, очень похожими на компьютеры. «Ключевые предпосылки рационалистического подхода заключаются в том, что существенные аспекты мышления можно выразить в формальном символическом представлении, – писал он. – Опираясь на эту логику, мы можем создавать интеллектуальные программы и разрабатывать системы, которые оптимизируют взаимодействие людей»{142}. Рациональному подходу искусственного интеллекта противостоит метод усиления интеллекта, который Виноград называет «проектированием». Этот подход более распространен в сообществе взаимодействия человека с компьютерами, в котором разработчики сосредотачиваются не на моделировании отдельного человеческого интеллекта, а на использовании взаимоотношений человека с окружающей средой в качестве отправной точки для исследований как в случае людей, так и в случае машин. Описываемая как антропоцентрическая, эта философская школа отказывается от формального планирования в пользу итеративного подхода к разработке, идею которого хорошо сформулировал дизайнер и основатель компании IDEO Дэвид Келли: «Грамотный метод проб и ошибок выигрывает у планирования, осуществляемого безупречным интеллектом»{143}. Примененное впервые психологами и специалистами по компьютерной технологии Дональдом Норманом в Калифорнийском университете в Сан-Диего и Беном Шнейдерманом в Мэрилендском университете, антропоцентрическое проектирование стало популярным подходом, который сильно отличался от разрекламированной в 1980-х гг. рационалистической модели искусственного интеллекта.

Пережив неудачи 1980-х гг., сообщество искусственного интеллекта в 1990-е гг. тоже резко изменилось. Оно практически отказалось от первоначального формального, рационалистского подхода «сверху вниз» – «старого доброго искусственного интеллекта» – в пользу статистических, «снизу вверх», «конструктивистских» подходов вроде тех, что проповедуют робототехники во главе с Родом Бруксом. Однако два сообщества так и остались разделенными, стремящимися к несовместимым целям – замене людей и расширением их возможностей.

Порвав с сообществом искусственного интеллекта, Виноград примкнул к группе ученых и инженеров, которые сделали шаг назад и переосмыслили взаимоотношения между людьми и создаваемыми ими умными машинами. Его концепция машинного интеллекта изменилась. Задавая вопрос, действительно ли люди такие же «думающие машины», как и те автоматы, над которыми бились исследователи искусственного интеллекта, он отвечал, что сама его постановка приводит нас, осознанно или нет, к наделению машины собственными чертами, а это имеет большее отношение к концепции человеческого интеллекта, чем к машинам, которые мы пытаемся понять. Виноград пришел к убеждению, что интеллект – продукт социального характера и что мы принижаем человеческую природу, упрощая и искажая с помощью машинного моделирования свою сущность.

Исследователи из двух лагерей редко общались друг с другом, но иногда на технических конференциях устраивали жаркие споры. В 1990-х гг. Бен Шнейдерман, ученый-компьютерщик из Мэрилендского университета, был страстным защитником идеи антропоцентрического проектирования с использованием метода, получившего название «непосредственное управление». В 1980-е гг. с появлением Macintosh компании Apple и операционной системы Windows компании Microsoft непосредственное управление стало обычным в интерфейсах пользователей компьютеров. Например, вместо ввода команд с клавиатуры пользователи могли изменять вид изображения на мониторе, захватывая его мышью и перемещая.

Шнейдерман, как ведущий специалист в этой сфере, в 1990-х гг. регулярно консультировал компании вроде Apple по вопросам проектирования компьютерных интерфейсов. Шнейдерман считал себя противником искусственного интеллекта и называл в числе людей, оказавших на него влияние, Маршалла Маклюэна. Побывав на лекции Маклюэна в культурном центре Ninety-Second Street Y в Нью-Йорке во время учебы в колледже, он решил заняться исследованиями в пограничной области между точными и гуманитарными науками. По возвращении домой он напечатал визитную карточку с названием своей работы «Общая эклектика» и подзаголовком «Прогресс – не самый важный наш продукт»{144}.

Его порадовало то, что Терри Виноград перешел в лагерь сторонников антропоцентрического подхода. Когда Шнейдерман в 1970-х гг. прочитал диссертацию Винограда, она вызвала у него решительное неприятие – он даже посвятил SHRDLU критическую главу в своей книге «Психология программирования» (Software Psychology), вышедшей в 1980 г. Несколько лет спустя, когда Виноград и Флорес выпустили книгу «О понимании компьютеров и мыслительного процесса», где подчеркивали, что компьютеры не способны «понять» естественный язык, он позвонил Винограду и сказал: «Вы были моим противником, но я вижу, что все изменилось». Виноград засмеялся и заметил, что «Психология программирования» входит в список обязательной литературы на курсе, который он читает. Они стали добрыми друзьями.

В своих лекциях и публикациях Шнейдерман не стеснялся в выражениях, критикуя мир искусственного интеллекта. Он утверждал, что технологии искусственного интеллекта не только бесплодны, но и этически ущербны, поскольку не нацелены на помощь людям. По его словам, автономные системы создавали серьезные морально-этические проблемы, связанные с ответственностью за их действия, проблемы, на которые не обращали внимания специалисты по компьютерам. Полемический задор не был чем-то новым для Шнейдермана – он и прежде участвовал в громких скандалах на технических конференциях вокруг уместности разработки анимированных помощников типа Microsoft Clippy, Office Assistant и Bob, так и не принятых пользователями попыток Microsoft создать более «дружественные» интерфейсы.

В начале 1990-х гг. антропоморфные интерфейсы стали чем-то вроде хобби у компьютерщиков. Вдохновленные в какой-то мере широко известным видеороликом компании Apple о Knowledge Navigator, разработчики компьютерных интерфейсов вводили в системы полезных и болтливых мультипликационных персонажей. Банки экспериментировали с анимационными персонажами, взаимодействовавшими с клиентами на дисплеях банкоматов, а автопроизводители начали проектировать автомобили с синтезаторами речи, предупреждавшими водителей, например, о том, что не закрыта дверь. Первоначальное страстное увлечение резко прекратилось после досадного провала Microsoft Bob. Хотя программа была разработана при помощи специалистов по пользовательским интерфейсам Стэнфордского университета, ее повсеместно высмеивали как глупую идею.

С чем была связана проблема Microsoft Bob – с самой идеей «социального» интерфейса или же со способом ее реализации? Неудачная попытка Microsoft опиралась на работу исследователей из Стэнфорда Клиффорда Насса и Байрона Ривза, которые обнаружили, что пользователи хорошо реагируют на компьютерные интерфейсы, имитирующие взаимодействие с человеком. Эти два исследователя одновременно пришли в 1986 г. на кафедру коммуникаций Стэнфорда. Ривз раньше читал курс по коммуникации в Висконсинском университете, а Насс изучал математику в Принстоне и работал в IBM и Intel до того, как переключиться на социологию.

Социолог Насс в сотрудничестве с Ривзом провели ряд экспериментов и на их основе разработали теорию коммуникации, названную ими «медиауравнением». Свою книгу «Медиауравнение: Почему мы обращаемся с компьютерами, телевизорами и новыми СМИ как с реальными людьми и местами» (The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places) они посвятили исследованию склонности людей взаимодействовать с техническими устройствами – компьютерами, телевизорами и электронными медиа – таким же «социальным» образом, как и в случае взаимодействия друг с другом. После выхода в свет «Медиауравнения» Microsoft пригласила Ривза и Насса в качестве консультантов, которые проповедовали разработку узнаваемых социальных и естественных интерфейсов. Это расширяло идею, лежавшую в основе графического интерфейса Apple для Macintosh, истоки которого, как и истоки Windows, восходили к первому персональному компьютеру Alto в Xerox PARC. В обоих случаях целью было облегчение взаимодействия с компьютером за счет графической среды, имитирующей работу за столом или в офисе. Но интерфейс Microsoft Bob принял карикатурную, упрощенную до абсурда форму, которую продвинутые пользователи посчитали оскорбительной и отвергли.

Несколько десятилетий спустя успех Siri компании Apple доказал правоту исследования Насса и Ривза и позволил предположить, что причина провала Microsoft Bob кроется в реализации системы, а не в самом подходе. Siri облегчает работу в условиях, когда ввод с клавиатуры сложен или небезопасен, например на ходу или во время управления автомобилем. Microsoft Bob и Clippy тормозили взаимодействие пользователей с программой и создавали впечатление снисходительного отношения. Как выразился ветеран руководства Microsoft Тэнди Трауэр, «это все равно что предлагать учиться ездить на велосипеде, усаживая на трехколесную машину»{145}. Трауэр заметил, что Microsoft неправильно поняла идеи, предложенные социологами из Стэнфорда. «Исследования Насса и Ривза предполагают, что пользователь тем больше ожидает свойственного человеку поведения, чем больше персонажи походят на человека, – писал он. – Персонаж, похожий на Эйнштейна, чихал, когда его просили уйти. Конечно, брызги на пользователей не летели, но если почитать Насса и Ривза, то станет ясно, что это социально неприемлемое и грубое поведение. Пусть это всего лишь глупые картинки на экране, но большинство тем не менее отрицательно реагирует на такое поведение»{146}.

Программные агенты появились в самом начале эры искусственного интеллекта, когда Оливер Селфридж и его студент Марвин Мински, оба участники Дартмутской конференции по искусственному интеллекту, предложили подход к распознаванию образов под названием «Пандемониум», в котором совместно действующие программы, названные «демонами», или «интеллектуальными агентами», параллельно работают, поддерживая функцию машинного зрения. Поначалу программные агенты были просто компьютерными программами. Однако за два десятилетия ученые-компьютерщики, писатели-фантасты и режиссеры расширили эту идею. Она превратилась во впечатляющее видение взаимосвязанного компьютеризированного мира, в котором программы взаимодействуют для достижения общей цели. Программы собирают информацию, выполняют задачи и взаимодействуют с пользователями как живые слуги. Но разве в этом нет чего-то фаустовского? Шнейдермана беспокоило то, что передача компьютерам выполняемых людьми задач создаст больше проблем, чем решит. Именно это беспокойство лежало в основе его выступлений против разработчиков систем искусственного интеллекта.

Еще до первых столкновений Шнейдерман пытался разрядить напряженность, подарив плюшевого медведя Пэтти Маес, которая недавно стала матерью. На двух технических конференциях в 1997 г. он решительно выступил против Маес в вопросе искусственного интеллекта и программных агентов. Маес работала в Медиалаборатории Массачусетского технологического института под руководством ее основателя Николаса Негропонте и занималась созданием программных агентов для выполнения полезных задач от имени пользователя компьютера. Агенты были лишь одним из направлений развития вычислительной техники в лаборатории Негропонте, которая начиналась как «Группа архитектурных машин» (ArcMac) и выпестовала целый ряд поколений исследователей, преданных неписаной заповеди «Добейся результата или умри». Группа ArcMac и ее продолжение, Медиалаборатория, сыграли заметную роль в рождении многих идей, реализованных впоследствии в продуктах и Apple, и Microsoft.

В 1960-е и 1970-е гг. Негропонте, по образованию архитектор, обозначил путь от концепции партнерства человека с машиной до тогда еще смутного видения «архитектуры без архитекторов» в своих книгах «Архитектурная машина» (The Architecture Machine) и «Машины мягкой архитектуры» (Soft Architecture Machines).

В книге 1995 г. «Цифровой мир» (Being Digital) Негропонте, близкий друг Мински и Пейперта, описал свое представление о будущем взаимодействии человека и компьютера: «То, что мы сегодня называем "интерфейсами на основе агентов", станет доминирующим средством общения между компьютерами и людьми»{147}. В 1995 г. Маес с небольшой группой партнеров по Медиалаборатории основала консультативную службу в области музыки Agents, Inc. В конечном счете компания была продана Microsoft, которая использовала разработанные в Agents технологии обеспечения конфиденциальности, но не нашла коммерческого применения идеям в сфере программных агентов.

Сначала организаторы конференции хотели, чтобы Шнейдерман и Маес провели дебаты о возможности создания искусственного интеллекта, но Шнейдерман отказался, и тему изменили. Было решено обсудить два разных подхода – программные агенты, которые действуют от имени пользователя, и программные средства, которые расширяют возможности самого пользователя.

Дебаты состоялись в марте 1997 г. на организованной Ассоциацией по вычислительной технике конференции «Взаимодействие людей и компьютеров» в Атланте. Это событие заняло важное место среди других неотложных вопросов типа «Почему мы не летаем на личных вертолетах?» и «Единственный хороший компьютер – невидимый компьютер?». Перед собранием лучших разработчиков компьютерных интерфейсов два докладчика на протяжении часа приводили аргументы за и против инструментов, которые расширяют возможности человека и которые работают более или менее независимо от него.

«Я полагаю, что "интеллектуальные автономные агенты" – это подкоп под сферу ответственности человека, – сказал Шнейдерман. – Я могу продемонстрировать кучу статей в массовой прессе, где компьютер представлен как активная и ответственная сторона. Мы должны разъяснить, что причиной ошибок являются программисты и операторы»{148}.

Маес подошла к ответу прагматически. Исследование Шнейдермана в традиции Энгельбарта было нацелено на создание сложных систем, дающих пользователям огромные возможности, но требующих серьезной подготовки. «На мой взгляд, есть пределы тому, что можно сделать с помощью визуализации и непосредственного управления в компьютерной среде, которая все усложняется, – отвечала она. – Нельзя просто добавлять и добавлять всплывающие окна и кнопки. Есть и другие ограничения, поскольку пользователи – не специалисты по компьютерам. Я считаю, что необходимо частично или полностью передавать определенные задачи агентам, которые будут действовать от нашего имени или как минимум предлагать нам решения»{149}.

Пожалуй, самым веским аргументом Маес было то, что люди не обязательно хотят контролировать и отвечать за все на свете. «Уверена, пользователи иногда не прочь прибегнуть к помощи агента, который предложит им фильм, и не перебирать 4000 всплывающих окон в поисках того, что захочется посмотреть», – возражала она. Спор не принес явной победы никому, но Джонатан Грудин, который сидел в зале, оценил смелость Пэтти Маес, которая решилась на дебаты во время конференции «Взаимодействие людей и компьютеров», т. е. на территории Шнейдермана. Это событие произошло за полтора десятилетия до того, как Apple представила программу Siri и таким образом успешно привнесла элемент искусственного интеллекта во взаимодействие человека и компьютера. Годы спустя Шнейдерман признал, что в некоторых случаях использование синтезатора и распознавания речи может быть уместно. Вместе с тем он остался критиком основополагающей идеи программных агентов и не упускал случая подчеркнуть, что попытки внедрить распознавание речи в системы управления самолетом на протяжении многих десятилетий так и не увенчались успехом.

Когда в 2010 г. появилась Siri, шумиха вокруг «интернета вещей» приближалась к своему пику. Поначалу это была следующая после PC прорывная идея Xerox PARC. В конце 1980-х гг. Марк Вейзер из PARC предсказал, что по мере уменьшения стоимости, размера и энергопотребления микропроцессоров компьютерный интеллект можно будет встраивать в предметы повседневного пользования. Он назвал это UbiComp – «вездесущей компьютеризацией». По его словам, компьютеры растворятся в окружающих нас предметах подобно электродвигателям, шкивам и ремням, которые сейчас «невидимы». У входа в офис Вейзера красовалась надпись «UBICOMP СТАНОВИТСЯ ВСЕ РЕАЛЬНЕЕ». (Популярное определение слова «вездесущий» – «заметный только в случае отсутствия».)

Кто сумел в очередной раз успешнее других использовать результаты исследований PARC, так это Стив Джобс. В 1980-е гг. он заимствовал у PARC идею настольного компьютера и сделал Lisa, а затем Macintosh, а чуть больше десятилетия спустя первым успешно довел концепцию вездесущей компьютеризации до широкой потребительской аудитории. Представленный в октябре 2001 г. iPod был аудиоплеером, переосмысленным в ключе вездесущей компьютеризации, а iPhone – цифровым преображением телефона. Джобс также понял, что, в отличие от глухих Clippy и Bob в настольных компьютерах, помощник в мобильном телефоне должен слышать пользователя.

Так или иначе Шнейдерман продолжал считать, что он победил в дебатах и что с программными агентами покончено.

Глава 6

Сотрудничество

Гуманоид в отреставрированном кирпичном здании в Бостоне повернул голову. Робот представлял собой лишь сооружение из пластмассовых деталей, двигателей и проводов, увенчанное подвижным жидкокристаллическим экраном с карикатурными глазами и бровями. Но его реакция была узнаваемой и вызывала небольшой шок у каждого, кто приближался к нему. Наш разум обладает удивительной способностью находить человеческие качества даже в куче электронных блоков, датчиков и проводов.

Робот Baxter, созданный для работы бок о бок с людьми, был с помпой представлен публике осенью 2012 г. Baxter довольно громоздок и не особенно ловок. У него нет ни колес, ни ног, он стоит на жестком неподвижном основании. Его руки – захваты, способные аккуратно взять и положить предмет. Кроме этого Baxter мало что может, но тем не менее он открывает новую главу в развитии робототехники. Это один из первых примеров реализации идеи Энди Рубина, в соответствии с которой персональные компьютеры должны получить ноги и начать двигаться. Baxter – дитя Родни Брукса, путь которого к созданию робота-помощника начинается у истоков разработок в сфере искусственного интеллекта.

В 1962 г. пути Маккарти и Мински разошлись, и Стэнфордская лаборатория искусственного интеллекта, где обосновался Маккарти, с ее разношерстной командой программистов-фанатиков стала зеркальным отображением Лаборатории искусственного интеллекта Массачусетского технологического института, оставшейся под руководством Мински. В 1969 г. эти лаборатории были связаны через электронную сеть ARPAnet, предшественницу современного интернета, которая упрощала обмен информацией между исследователями. Все это происходило в разгар войны во Вьетнаме, и разработки в сфере искусственного интеллекта и робототехники в значительной мере финансировались военными, но по своему духу Стэнфорд был ближе к контркультуре концертного зала Fillmore Auditorium в Сан-Франциско, чем к Пентагону на реке Потомак.

Эксцентричный молодой аспирант Ханс Моравек жил в мансарде SAIL и работал над Стэнфордской тележкой, четырехколесным мобильным роботом. В цокольном этаже находилась сауна, а по вечерам в лаборатории проходили сеансы групповой психотерапии. На расположенных там компьютерных терминалах отображалось сообщение «Возьми меня, я твой». В связанном с мейнфреймом торговом автомате под названием «Скачущий пони» (по аналогии с гостиницей для странников во «Властелине колец» Толкиена), можно было купить что-нибудь съестное. Посетителей встречали в небольшом вестибюле с плакатом на стене, где красовалась надпись «Вы здесь» и воспроизводилась известная обложка журнала New Yorker Лео Штейнберга с релятивистским образом самого важного места в Соединенных Штатах. Карта SAIL когда-то была простым планом лаборатории и кампуса Стэнфорда, но со временем ее разукрасили разными дополнениями – от фигурки посетителя в центре человеческого мозга до точки расположения лаборатории у неизвестной звезды в рукаве спиральной галактики среднего размера.

Это буквально очаровало Родни Брукса, еще одного аспиранта Стэнфорда. Чрезвычайно одаренный математик из Аделаиды, Австралия, выходец из семьи рабочих, Брукс был очень далек от культуры американских программистов с их девизом «Мы можем всё». В 1969 г. он вместе с миллионами других людей по всему миру посмотрел фильм «Космическая одиссея 2001» Стэнли Кубрика, однако, как и Джерри Каплан, не увлекся карьерой астронавта. Его заинтриговал HAL, параноидальный (или, возможно, оправданно подозрительный) искусственный интеллект.

У Брукса возникла идея создать собственный искусственный интеллект, и после поступления в колледж такая возможность у него появилась. По воскресеньям, пользуясь неограниченным доступом к мейнфрейму школы, он занимался своим ориентированным на искусственный интеллект языком программирования и созданием интерактивного интерфейса для дисплея{150}. Затем Брукс перешел к доказательству теорем, иначе говоря, сам того не подозревая, работал в формальной традиции искусственного интеллекта Маккарти. Он решил посвятить свою жизнь созданию искусственного интеллекта.

Посмотрев на карту США, Брукс пришел к заключению, что Стэнфорд – ближайший к Австралии университет, где есть отделение искусственного интеллекта, и подал заявление. Хотя он особо не рассчитывал на успех, его приняли. К осени 1977 г., когда он приехал в университет, бурлящий мир антивоенных выступлений и контркультуры в районе залива Сан-Франциско стал успокаиваться. Группа Энгельбарта с системой NLS отделилась от SRI и создала свою компанию. Но персональные компьютеры только-только начали вызывать интерес и распространяться в районе средней части полуострова Сан-Франциско. Это было золотое время клуба компьютерщиков-энтузиастов Homebrew Computer Club, который провел первую встречу в марте 1975 г. на той же неделе, когда открылось новое здание Xerox PARC. В своем обычном духе Маккарти предложил участникам клуба собираться в его стэнфордской лаборатории, но по-прежнему скептически относился к идее «персональных компьютеров». Маккарти был пионером коллективного использования мейнфреймов и считал расточительностью наличие в собственности маломощного компьютера, который простаивает большую часть времени. Его идея работы в режиме разделения времени возникла как результат желания более эффективно использовать вычислительные системы в исследованиях, связанных с искусственным интеллектом. Возможно, в насмешку он поместил объявление во втором информационном бюллетене Homebrew с предложением создать «Клуб домашних терминалов» для совместного использования мейнфрейма VAX компании Digital Equipment Corp. На его взгляд, $75 в месяц без учета стоимости терминала и услуг связи были приемлемой ценой. Позднее он называл опытный образец Alto/Dynabook PARC, прототип всех будущих персональных компьютеров, не иначе как «ересью Xerox».

Алан Кей, один из главных будущих еретиков, прошел через SAIL в период своего недолгого преподавания в Стэнфорде. Он уже тогда таскал с собой «промежуточный» Dynabook и с удовольствием демонстрировал его: устройство, опередившее лэптопы более чем на десятилетие. Кей ненавидел время, проведенное в лаборатории Маккарти. У него было совсем другое представление о роли компьютеров, и во время работы в SAIL он чувствовал себя так, словно находился в стане врага.

Идея персонального компьютера возникла у Алана Кея, когда он был аспирантом Айвена Сазерленда в Университете Юты. Кей услышал выступление Энгельбарта, когда исследователь из SRI ездил по стране с демонстрацией NLS – программной среды, предвосхищавшей современные «PC с оконными интерфейсами с мышью». На Кея огромное впечатление произвели и сам Энгельбарт, и NLS, и акцент на повышение производительности небольших групп работников, будь то ученые, исследователи, инженеры или программисты. Кей продвинул идеи Энгельбарта на шаг вперед. Он изобрел книгу для интерактивной эпохи. Он писал о возможностях «персональных динамических медиа», фактически излагая принципы построения портативных компьютеров и планшетов, которыми мы пользуемся сегодня. Кей полагал, что персональные компьютеры станут новой универсальной средой, такой же массовой, как и печатная продукция в 1960-х и 1970-х гг.

Взгляды Кея, как и взгляды Энгельбарта, радикально отличались от воззрений сотрудников Маккарти в SAIL. Лаборатории не были прямой противоположностью друг другу, но их ориентиры очень сильно отличались. Кей, подобно Энгельбарту, помещал пользователя в центр своих разработок. Он хотел создавать технологии для расширения интеллектуальных возможностей человека. Но его представление о киберпространстве было иным, чем у Энгельбарта. Энгельбарт считал, что интеллектуальное взаимодействие человека и информации аналогично управлению автомобилем – пользователи компьютеров должны плыть по информационному шоссе. Кей принял мысль Маклюэна о том, что «среда и есть сообщение». Он предвидел, что компьютер станет универсальной, всеобъемлющей средой, которая вберет в себя речь, музыку, текст, видео и связь.

Ни один из этих подходов не находил почвы в SAIL. Лес Эрнест, которого в 1965 г. чиновники ARPA направили в SAIL для восполнения недостатка управленческих навыков у Маккарти, писал, что многие компьютерные технологии, считающиеся продуктами SRI и PARC, одновременно разрабатывались в SAIL. Разница крылась в философии. Первоначальной целью SAIL было создание работающего искусственного интеллекта за 10 лет, возможно, робота, сопоставимого по интеллекту с человеком, но физически более сильного, быстрого и ловкого. Многие поколения исследователей SAIL работали над созданием систем, вытесняющих людей, а не расширяющих их возможности.

Когда Род Брукс оказался в Стэнфорде осенью 1977 г., Маккарти опаздывал уже на три года на пути к своей цели – созданию работающего искусственного интеллекта. Два года минуло с тех пор, как Ханс Моравек дал первый залп по Маккарти, отметив, что главным для развития систем искусственного интеллекта является экспоненциальный рост вычислительной мощности. Позиция Брукса, стороннего наблюдателя из Австралии, позволяла ему иметь другую точку зрения на происходящее в Стэнфорде, и он стал в ночную смену работать ассистентом у Моравека. У обоих были свои причуды. Моравек безвылазно жил в SAIL, и продукты ему приносили друзья. Брукс быстро воспринял контркультуру эпохи. Он отрастил волосы до плеч и освоил стиль жизни программиста-фанатика: у него был «28-часовой день», иначе говоря, 20 часов непрерывной работы, а потом 8 часов сна. В главной идее диссертации, посвященной символьной логике применительно к визуальным объектам, Брукс шел по стопам Маккарти. Однако австралиец добавил геометрическое осмысление для формирования третьего измерения с использованием однообъективной камеры. В конечном итоге долгие ночи, проведенные с Моравеком, вызвали у Брукса разочарование и привели к разрыву с традицией старого доброго искусственного интеллекта.

Как помощник Моравека, Брукс довольно много занимался Стэнфордской тележкой. В середине 1970-х гг. системе распознавания образов мобильного робота требовалось слишком много времени на анализ окружающей обстановки, чтобы можно было говорить о «реальном времени». В зависимости от загрузки мейнфрейма тележке требовалось от четверти часа до четырех часов, чтобы одолеть следующий участок заданного маршрута. После обработки одного образа она немного перемещалась вперед и вновь начинала сканирование{151}. Когда робот работал на улице, у него возникали еще более значительные сложности. Оказалось, что движущиеся тени сбивали с толку программу распознавания образов. Проблема движущихся теней была с восторгом воспринята Бруксом. Он знал об экспериментах Грея Уолтера, британско-американского нейрофизиолога, создавшего первых простых электронных автономных роботов в 1948 и 1949 гг. для демонстрации того, как взаимосвязи небольших групп клеток мозга определяют автономное поведение. Грей Уолтер построил несколько автоматизированных «черепах» с «глазом» на основе фотоэлемента и простой схемой управления двигателями и колесами, которые двигались «как живые».

Если Моравек считал простых роботов основой для своей модели развития искусственного интеллекта, то Брукс не был уверен в этом. В начале 1950-х гг. Грей Уолтер строил в Великобритании удивительно интеллектуальных роботов, которые стоили всего несколько фунтов и назывались наподобие биологического вида Machina speculatrix. Теперь, более двух десятилетий спустя, как заметил Брукс, «робот стоимостью в миллионы долларов работает далеко не так хорошо». Он видел, что многие американские разработчики использовали сложные алгоритмы Моравека, но не понимал, зачем они делают это. «Действительно ли внутренние модели бесполезны или они являются авансовым платежом за хорошую работу будущих поколений тележки?»{152}

После получения степени доктора философии в 1981 г. Брукс оставил «дворец логики» Маккарти ради Массачусетского технологического института. Там он фактически перевернул телескоп и стал смотреть через него с другого конца. В 1986 г. Брукс сформулировал свой «восходящий» подход к робототехнике. Если потребности в вычислительной мощности для моделирования интеллекта человека не удовлетворяются из-за ограниченных возможностей компьютеров, почему бы не попытаться получить разумное поведение на основе сочетания простых элементов, которые в конечном счете превратятся в интегрированные системы в роботах и других воплощениях искусственного интеллекта? На его взгляд, если разработчики хотят сымитировать биологический интеллект, им нужно начинать с самого низкого уровня – с создания искусственных насекомых. Такой взгляд ускорил разрыв с Маккарти и спровоцировал новую волну в сфере искусственного интеллекта: Брукс выступал за имитирование самых простых биологических систем вместо попыток сравняться с человеком. С тех пор восходящий подход доминирует в мире искусственного интеллекта от «Общества разума» (The Society of Mind) Мински до более поздних работ Джеффа Хокинса и Рэя Курцвейла. Оба они утверждали, что путь к искусственному интеллекту высокого уровня следует искать в соединении простых алгоритмов, которые лежат в основе когнитивных способностей человеческого мозга.

Брукс изложил свой критический взгляд в статье 1990 г. «Слоны не играют в шахматы»{153}, где утверждал, что господствующий символьный искусственный интеллект за предшествующие 30 лет потерпел неудачу и необходим новый подход. «Новый искусственный интеллект строится на формировании глобального поведения в результате взаимодействия небольших поведенческих единиц. Как и в эвристике, нет гарантии, что это будет всегда работать, – писал он. – Однако тщательная проработка простых моделей поведения и их взаимодействий нередко позволяет создать системы с полезными и интересными эмерджентными свойствами»{154}.

Брукс получил признание истеблишмента искусственного интеллекта не сразу. Примерно в то же время, когда он начал создавать автоматизированных насекомых, Рэд Уиттакер в Университете Карнеги – Меллона рисовал в воображении, как его шестиногий пятиметровый робот Ambler весом 2,5 т ходит по поверхности Марса. Робот Брукса Genghis был насекомым весом чуть больше 900 г. Genghis стал символом нового стиля в искусственном интеллекте: «быстрый, дешевый и не требующий контроля», как следовало из названия статьи 1989 г., написанной Бруксом в соавторстве с его аспиранткой Анитой Флинн. Брукс и Флинн говорили, что самый практичный способ освоения космоса – это использование множества дешевых, подобных насекомым роботов, а не развертывание единой, технически сложной и дорогой системы.

Понятно, что в NASA поначалу не приняли идею «быстрых, дешевых и не требующих контроля» роботизированных исследователей. Когда Брукс представил свое предложение Лаборатории реактивного движения, работавшие над дорогостоящей исследовательской аппаратурой, инженеры отвергли концепцию крошечного недорогого робота с ограниченными возможностями. Его это не смутило. В конце 1980-х – начале 1990-х гг. стало ясно, что идеи Брукса совпадают с принципами, лежащими в основе интернета. Идеология восходящего подхода, когда отдельные компоненты объединяются в более мощные и сложные системы, захватила воображение публики. С двумя своими студентами Брукс основал компанию и начал искать инвесторов в идею отправки в космос небольших роботов сначала на Луну, а потом на Марс{155}. За $22 млн Брукс обещал инвестору не только разместить его логотип на планетоходе, но и дать рекламу в процессе освещения запуска в СМИ. Фильмы, мультики, игрушки, реклама на фоне лунной пыли, тематический парк и удаленные телесъемки – все это были части одной из самых экстравагантных из когда-либо задуманных маркетинговых кампаний. Брукс планировал запуск на Луну в 1990 г., впервые после 1978 г., а затем, всего через три года, намеревался послать ракету на Марс. К 2010 г. проект предусматривал отправку микророботов на Марс, Нептун, его спутник Тритон и астероиды.

Чего не хватало плану, так это частной ракеты для доставки роботов на объект исследования. Трио вело переговоры с шестью частными компаниями, но ни у одной из них в то время не было успешных запусков. Бруксу требовалось только финансирование. Не найдя инвесторов в частном секторе, он обратился в государственную структуру – Организацию по противоракетной обороне, которая принадлежала Пентагону и ранее отвечала за Стратегическую оборонную инициативу, прозванную в насмешку «звездными войнами». СОИ, однако, закрыли после распада Советского Союза. Некоторое время Организация по противоракетной обороне конкурировала с NASA, занимаясь подготовкой запуска своего аппарата к Луне. Трио из Массачусетского технологического института построило прототип лунохода Grendel, доставить который на Луну должна была переоборудованная ракета-перехватчик Brilliant Pebble, разработанная для уничтожения межконтинентальных баллистических ракет. Grendel отвечал принципам восходящего подхода Брукса и успешно прошел испытания, но на этом все и закончилось.

Пентагон проиграл в борьбе с NASA. Стране не нужны были две занимающиеся одним и тем же организации. По иронии судьбы годы спустя разработчики марсохода NASA Sojourner, доставленного на Марс в 1997 г., позаимствовали многие идеи Брукса. Хотя Брукс так и не добрался до космоса, чуть больше десятилетия спустя его подход нашел коммерческую нишу. Компания iRobot, преемница космического предприятия Брукса, успешно вывела на потребительский рынок автономный пылесос, а ее модифицированный для военных целей аппарат нашел применение в Афганистане и Ираке для поиска взрывных устройств.

В конечном счете Брукс выиграл сражение со старой гвардией. У него появились последователи в Массачусетском технологическом институте, а то, что он называл новым искусственным интеллектом, получило признание. Новое поколение аспирантов последовало за ним, а не за Мински. Концепция нового искусственного интеллекта вышла далеко за пределы США и оказала особенно сильное влияние на Европу, где внимание сместилось с попыток сравняться с интеллектом человека к созданию систем со сложным поведением, интеллектуальные способности которых являются результатом сочетания множества простых элементов.

Сам Брукс отошел от автономных насекомых и переключился на социальные взаимодействия с людьми. Вместе с аспирантами он начал работать над социализацией роботов. Роботы Cog и Kismet, разработанные с аспиранткой Синтией Бризил, использовались для исследования взаимодействия человека и робота и способностей самих роботов. В 2014 г. Бризил объявила о намерении начать продажу домашних роботов, ставших результатом этих исследований. Она создала семейного помощника в стиле Siri, который устанавливался на кухонном столе и помогал выполнять многие работы по дому.

В 2008 г. Брукс ушел из Лаборатории искусственного интеллекта Массачусетского технологического института и основал небольшую компанию с привлекающим внимание названием Heartland Robotics. Брукс взялся за решение проблемы, связанной с выводом производств из США вследствие более низкой стоимости рабочей силы за рубежом. В условиях резкого роста затрат на энергию и транспортировку промышленные роботы давали возможность выровнять правила игры для США и стран с дешевой рабочей силой. В течение нескольких лет ходили самые разные слухи о том, что задумал Брукс. Он работал над человекоподобными роботами почти десятилетие, но до сих пор никому не удавалось успешно наладить серийный выпуск даже игрушечных антропоморфных роботов, не говоря уже о роботах, пригодных для выполнения практических задач.

Когда в 2012 г. был наконец представлен Baxter, Heartland изменила свое название на Rethink, а антропоморфный робот получил неоднозначную оценку. Не все поняли, зачем Брукс сделал робота похожим на человека. Сегодня многие из его конкурентов предпочитают простоту и функциональность и продают манипуляторы, не имеющие ничего общего с обликом человека. Но Брукса это не останавливает. Он намерен построить робота, который будет сотрудничать с людьми, а не заменять их. Baxter – представитель поколения роботов, предназначенных для работы вместе с коллегами из плоти и крови. Технический термин для таких отношений – «совместимость», и среди робототехников распространено мнение, что за следующую половину десятилетия эти машины станут широко использоваться в производстве, дистрибуции и в розничной торговле. Запрограммировать такого робота может даже неспециалист. Для обучения новой операции человеку нужно только взять его за руки и показать требуемые движения, и Baxter запомнит процедуру. Во время демонстрации робота Rethink Robotics показала его способность медленно брать предметы с ленточного конвейера и помещать их на новое место. Такая помощь на рабочем месте кажется довольно ограниченной, но Брукс утверждает, что система со временем накопит библиотеку функциональных возможностей, а с появлением новых версий программного обеспечения возрастет и ее скорость.

Показательно, что одним из первых инвесторов предприятия Rethink был руководитель компании Amazon Джефф Безос. У Amazon все чаще возникали проблемы с не состоящими в профсоюзе складскими рабочими, которые жаловались на плохие условия труда и низкую заработную плату. Приобретение компании Kiva Systems стало сигналом, что Безос полон решимости устранить на своих складах как можно больше ручного труда. В современной логистике товаров широкого потребления есть два уровня дистрибуции: складирование и перемещение контейнеров с товарами и извлечение отдельных продуктов из этих контейнеров. Система Kiva включает парк мобильных роботов, которые освобождают работников от необходимости ходить по складу при комплектации заказов для отгрузки. Заказы комплектуют люди, работающие в одном месте, а роботы Kiva подвозят им лотки с необходимыми товарами в нужный момент в процессе комплектации. Так или иначе Kiva – промежуточное решение на пути к конечной цели – созданию полностью автоматизированных складов. Сегодняшние автоматизированные системы еще не могут заменить руки и глаза человека. Способность быстро распознавать нужные предметы среди десятков других и брать их из разных положений остается прерогативой человека. Но надолго ли? Не нужно обладать большим воображением, чтобы представить Baxter или его конкурента из компаний Universal Robots или Kuka, работающего на складе Amazon рядом с командами мобильных роботов Kiva. Склады без персонала уже отчетливо просматриваются на горизонте, может быть, с «дружественными» роботами вроде Baxter, а может быть, с более безликими системами, как те, которые предположительно разрабатываются новым робототехническим подразделением Google.

В 2012 г. в США вновь вспыхнули дебаты по технологиям и занятости, и многие сочли своим долгом бросить камень в Baxter Брукса и его антропоморфность. Страхи перед автоматизацией в США уже не одно десятилетие то усиливаются, то утихают, но раз Rethink построила робота в виде человека, то многие решили, что он уже сейчас способен заменить живой труд. Однако Брукс твердо стоит на том, что роботы не уничтожают рабочие места. Снижая стоимость производства в США, роботы способствуют восстановлению национальной производственной базы на новых предприятиях с рабочими местами для более квалифицированного, хотя, возможно, и менее многочисленного персонала.

Споры о людях и машинах преследуют Брукса повсюду. В конце учебного года в 2013 г. ему довелось выступать перед родителями выпускников в Университете Брауна. Мысль, которую он проводил в рассказе о Baxter, была простой и, на его взгляд, доступной университетской публике. Он говорил, что занимается созданием поколения более интеллектуальных инструментов для людей и Baxter является примером будущего оснащения заводского цеха, которым может пользоваться и управлять средний рабочий. Но мать одного из студентов отказывалась принимать сказанное. Она подняла руку и с негодованием спросила: «Но что станет с рабочими местами? Разве эти роботы не отнимают работу у людей?» Брукс терпеливо изложил свою мысль снова. Речь идет о сотрудничестве с работниками, не об их прямой замене. С 2006 г. Соединенные Штаты очень много тратят на оплату производства в Китае. На эти деньги можно было бы создать немало рабочих мест для американцев. Но женщина не унималась: «Вы рассматриваете ситуацию на местном уровне, а что в глобальном масштабе?» Брукс развел руками и сказал, что Китаю роботы нужны еще больше, чем Соединенным Штатам. Из-за демографии и особенно политики «одна семья – один ребенок» китайцы скоро столкнутся с нехваткой производственных рабочих. До высокообразованных родителей из верхней части среднего класса явно не удавалось довести мысль о том, что Baxter ликвидирует однообразную работу, а не ту, которая требует высокой квалификации. Когда инженеры Rethink приходят на предприятия, они интересуются, хотят ли работники, чтобы у их детей были такие же рабочие места. «Никто не говорит "да"», – отметил Брукс.

В офисе Брукса есть фотографии производственной линии завода Foxconn, самого крупного в мире производителя компонентов бытовой электроники. Они убедительно демонстрируют те виды однообразной работы, которые он хочет переложить на плечи Baxter. Однако, несмотря на очевидную страсть к автоматизации и робототехнике, Брукс остается гораздо большим реалистом, чем многие из его коллег в Кремниевой долине. Хотя у роботов уже появились ноги и они повсюду в окружающем нас мире, это, с точки зрения Брукса, все еще машины. Даже с учетом склонности людей взаимодействовать с роботами как с одушевленными созданиями, Брукс полагает, что интеллектуальным машинам еще очень далеко до реального соответствия людям. «Об этом можно будет говорить, – замечает он, – когда мои аспиранты начнут испытывать угрызения совести, выключая робота».

Бруксу нравится подтрунивать над давним другом и коллегой по Массачусетскому технологическому институту Рэем Курцвейлом, который получил заказ на создание мегамашины с искусственным интеллектом масштаба Google. Тот известен своей верой в возможность достижения бессмертия уже при жизни нынешнего поколения людей благодаря компьютерам, искусственному интеллекту и пищевым добавкам. «Рэй, мы оба умрем», – говорит он Курцвейлу. Брукс просто надеется, что будущая модель Baxter окажется достаточно совершенной, чтобы обеспечить уход за ним в старости.

Идея о том, что мы стоим на пороге экономики, функционирующей в основном без участия (эпизодического или постоянного) человека, не нова. Почти все нынешние аргументы берут начало в более ранних спорах. Ли Фельзенштейн – продукт этого эклектичного соединения политики и технологии. Он вырос в Филадельфии, его мать была инженером, а отец – художником-дизайнером на заводе по производству локомотивов. Воспитание в техноцентрической атмосфере дополнялось коммунистической идеологией. Отец мальчика был настолько убежденным членом Американской коммунистической партии, что назвал брата Ли в честь Сталина – Джо{156}. Как многие дети членов партии, Ли не знал, что его родители – коммунисты, пока не стал совершеннолетним: совершенно неожиданно по результатами проверки анкетных данных его лишили права участвовать в программе «Учись и работай» в летнем колледже на авиабазе «Эдвардс».

Ли рос в светской еврейской семье, где чтение и учеба занимали важное место. Неудивительно, что еврейская культура стала частью его мировоззрения. Он с детства знал легенду о големе, и это еврейское предание повлияло на его подход к миру персональных компьютеров, к созданию которого он приложил руку. Представление о големе восходит ко временам зарождения иудаизма. В Торе так называют незавершенного человека перед взором Бога. Позже это понятие стало обозначать оживленное гуманоидное создание из неживой материи, обычно из пыли, глины или грязи. Голем, оживленный с помощью каббалистических обрядов, становится послушным, но только частично одушевленным созданием. В некоторых версиях предания голема оживляют, помещая ему в рот пергамент, что напоминает программирование с использованием перфоленты. В литературе современного робота впервые изобразил чешский писатель Карел Чапек в пьесе «R. U. R.» в 1921 г. Голем, таким образом, появился на несколько тысяч лет раньше.

«Есть ли в этой древней легенде предупреждение для нас?» – спрашивал Р. Макмиллан в своей книге «Автоматизация: Друг или враг?» (Automation: Friend or Foe?), предупреждая нас в 1956 г. об опасностях компьютеризации рабочих мест. «Опасности неограниченной "войны кнопок" довольно очевидны, но я также считаю, что быстро растущая роль, которую автоматические устройства играют в промышленности всех цивилизованных стран в мирное время, со временем значительно скажется на их экономической жизни»{157}.

Интерпретация Фельзенштейна легенды о големе, пожалуй, более оптимистична, чем большинство других. Под влиянием еврейского фольклора и предупреждений Норберта Винера он составил собственное видение робототехники. В мире Фельзенштейна, когда роботы станут достаточно совершенными, они будут не слугами и не хозяевами людей, а их партнерами. Такая перспектива соответствует идеям усиления интеллекта Энгельбарта.

Фельзенштейн приехал в Беркли примерно на десятилетие позже того, как Энгельбарт учился там как аспирант. Фельзенштейн стал студентом в бурные дни Движения за свободу слова. В 1973 г., когда война во Вьетнаме близилась к завершению, он вместе с небольшой группой радикалов занялся созданием вычислительной системы, которая сделала бы возможности мейнфреймов доступными всему обществу. Они нашли пустой склад в Сан-Франциско и собрали систему на основе списанного мейнфрейма SDS 940, от которого отказалась лаборатория Энгельбарта в Стэнфордском исследовательском институте. Чтобы предоставить «вычислительные мощности людям», они установили бесплатные терминалы с возможностью анонимного доступа в общественных местах в Беркли и Сан-Франциско.

Группа твердо придерживалась социалистических взглядов и не принимала идею персонального компьютера. Лозунгом проекта Community Memory было совместное использование компьютеров. Эта идея опережала время. За 12 лет до появления AOL и Well и за семь лет до того, как стали популярными электронные доски объявлений с коммутируемым доступом, новаторы из Community Memory создали функционирующую доску объявлений, социальную сеть и электронные сообщества людей. Первая версия проекта просуществовала лишь до 1975 г.

У Фельзенштейна не было анти-PC уклона, присущего обоим его радикально настроенным друзьям и Джону Маккарти. В результате он стал одним из пионеров использования PC. Фельзенштейн не только был в числе учредителей клуба Homebrew Computer Club, но и разработал Sol-20, первый любительский компьютер, выпущенный в 1976 г., за которым в 1981 г. последовал Osborne 1, первый серийный портативный компьютер. Фельзенштейн широко смотрел на влияние компьютеров на общество. Он вырос в доме, где «Кибернетика и общество» Норберта Винера занимала видное место на семейной книжной полке. Его отец считал себя не просто политическим радикалом, но и модернистом. Фельзенштейн впоследствии писал, что его отец Джейк «был модернистом, который верил в совершенствование человека и машины как модель для общества. Играя с детьми, он часто изображал паровоз таким же образом, как другие отцы изображают животных»{158}.

В конце 1950-х – начале 1960-х гг. обсуждение влияния технологии было обычным делом у Фельзенштейна дома. В семье говорили о последствиях автоматизации и возможности технологической безработицы с большим беспокойством. Ли даже нашел и прочитал книгу «Творец и голем» Винера, изданную в год его неожиданной кончины во время визита в Стокгольм и состоящую в основном из мрачных и восторженных предсказаний последствий появления машин и автоматизации для человека и общества. Для Фельзенштейна Винер был личным героем.

Несмотря на рано проявившийся интерес к роботам и компьютерам, Фельзенштейн никогда не испытывал восторга в отношении основанного на правилах искусственного интеллекта. Знакомство с идеями усиления интеллекта Энгельбарта изменило его представление о компьютерах. В середине 1970-х гг. идеи Энгельбарта захватили умы увлеченных компьютерами людей в Кремниевой долине. Фельзенштейн и многие другие рисовали в мечтах картины того, что можно было бы сделать, имей они собственные компьютеры. В 1977 г., на второй год эры персональных компьютеров, его друг Стив Домпьер рассказывал ему о том, как он хотел бы использовать компьютер. Домпьер описывал будущий пользовательский интерфейс, похожий на авиационный тренажер. Пользователь в его воображении должен был «летать» по файловой системе подобно тому, как нынешние 3D-программы моделируют полет над виртуальной местностью.

Мысль Фельзенштейна шла вслед за Домпьером. Он прорабатывал идею «игрового» взаимодействия и в конечном итоге распространил ее и на дизайн пользовательского интерфейса, и на робототехнику. Фельзенштейн пришел к выводу, что традиционная робототехника приведет к появлению машин, заменяющих людей, но правильные отношения между человеком и машиной должны быть, по его словам, «големическими». Понятие «големический» ввел Норберт Винер для обозначения мира до технологической эпохи. В своей книге «Големический подход» (The Golemic Approach){159} Фельзенштейн представил философию проектирования автоматизированных машин, где пользователь включался в систему с жесткой обратной связью машина – человек. В структуре Фельзенштейна человек должен был иметь высокую квалификацию, чтобы управлять системой. Такой подход радикально отличался от традиционной робототехники, где экспертные знания «закладывались» в робота, а человек играл пассивную роль.

Для Фельзенштейна хорошей аналогией идеального големического устройства был автомобиль. В автомобиле немало автоматических систем – автоматическая трансмиссия, система распределения тормозных усилий, а в наши дни адаптивный круиз-контроль и система удержания полосы движения, – но управляет им все же человек. Человек, выражаясь языком NASA, играет значительную роль в контуре управления.

Фельзенштейн сначала опубликовал свои идеи в виде манифеста в сборнике материалов Компьютерной ярмарки Западного побережья 1979 г. Движение любителей компьютеров в середине 1970-х гг. нашло свой дом на этом ежегодном компьютерном мероприятии, которое организовал и курировал бывший преподаватель математики и несостоявшийся хиппи по имени Джим Уоррен. Когда Фельзенштейн сформулировал свои идеи, 1960-е гг. уже закончились, но он во многом остался утопистом: «Я верю, что големические подходы позволят нам прийти к обществу, где машины будут не отнимать у людей хорошую и плодотворную работу, а стирать различия между работой и игрой»{160}. Однако в конце 1970-х гг., когда Фельзенштейн писал свое эссе, было ясно, что голем может превратиться как в помощника, так и в аналог монстра Франкенштейна.

Хотя Фельзенштейн внес немалый вклад в превращение PC из хобби в огромную индустрию, до недавнего времени о нем мало кто вспоминал. В 1990-х гг. он работал инженером в Interval Research Corporation, а затем основал небольшую консультационную компанию неподалеку от Калифорния-авеню в Пало-Альто, на той же улице, где сегодня расположено робототехническое подразделение Google. Фельзенштейн придерживался своих политических идеалов и работал над множеством технических проектов – от слуховых аппаратов до приборов для исследования парапсихологических явлений. На национальную сцену он вернулся в 2014 г., когда им заинтересовался Евгений Морозов, интеллектуал из Белоруссии, который специализировался на квазиакадемических разборках интернет-знаменитостей и пунктиках постдоткомовской эры. Морозов опубликовал в журнале New-Yorker очерк{161} о сомнительных, на его взгляд, аспектах в целом позитивно воспринимаемого «движения мейкеров». Он начал с корней Фельзенштейна в клубе Homebrew и его утопических идеалов, изложенных в интервью 1995 г. В нем Фельзенштейн рассказывал, как отец познакомил его с книгой «Инструменты конвивельности» (Tools for Conviviality) Ивана Иллича, радикального бывшего священника, который был влиятельным сторонником левых в контркультуре 1960-х и 1970-х гг. Фельзенштейна привлекло недогматическое отношение Иллича к технологии, противопоставлявшее «конвивельные», антропоцентрические технологии «промышленным». Иллич писал в основном до того, как микропроцессоры позволили децентрализовать обработку данных, и поэтому считал вычислительные машины инструментом централизованного бюрократического контроля. Противоположный пример он видел в распространении радио в Центральной Америке, которое быстро стало восходящей технологией, расширявшей возможности людей, а не угнетавшей их. Фельзенштейн полагал, что это потенциально верно для вычислительной техники{162}.

Морозов хотел доказать, что Фельзенштейн, а следовательно, и движение мейкеров, унаследовавшее его идеи, наивны в стремлении преобразовать общество только через инструменты. Он писал, что «общество всегда в движении» и что «разработчик не может предвидеть, в какой мере политические, социальные и экономические системы ослабят, расширят или перенацелят возможности создаваемых инструментов». Политическим ответом, утверждал Морозов, должно быть преобразование движения программистов-фанатиков в традиционные политические кампании за обеспечение прозрачности и демократии.

Такое заявление впечатляло, но предложенное Морозовым решение было столь же неэффективно, как соломенное чучело, которое ставят, а потом раздраконивают под аплодисменты. Затем Морозов переключился на гений Стива Джобса. Джобса, похоже, мало заботило, открытой или закрытой была технология персональных компьютеров, развитием которой он занимался в середине 1970-х гг. Морозов отдавал Джобсу должное за то, что тот рассматривал компьютер как мощный инструмент усиления интеллекта. Однако он совершенно упустил взаимозависимость предпринимателя Джобса и разработчика Возняка. Их можно рассматривать по отдельности, но это не объяснит успеха Apple. Пытаясь показать, что Иллич интересовался только простыми технологиями, доступными неспециалистам, Морозов просто притягивал аргументы за уши.

Однако «конвивельные» технологии (так Иллич называл инструменты, находящиеся под индивидуальным контролем) остаются жизненно важным аспектом при разработке систем, актуальность которого сегодня выше, чем когда-либо. Это наглядно показала встреча Фельзенштейна с Илличем, когда ученый-радикал посетил Беркли в 1986 г. Иллич посмеялся над Фельзенштейном за попытку заменить живое общение коммуникацией через компьютеры. «Зачем городить огород, чтобы поговорить с Перл? Почему просто не пойти и не поговорить с ней?» – спрашивал Иллич.

Фельзенштейн отвечал: «Что, если я не знаю, с ней ли хочу поговорить?»

Иллич запнулся и сказал: «Понимаю, что вы имеете в виду».

Тогда Фельзенштейн добавил: «Вот видите, пожалуй, компьютер не помешает и сообществу велосипедистов».

Фельзенштейн убедил Иллича, что такая коммуникация позволяет создать сообщество даже в отсутствие личных контактов. Учитывая быстрое развитие робототехники, в наши дни значение идей Фельзенштейна и Иллича относительно разработки и контроля лишь выросло. В мире Фельзенштейна тяжелая работа должна была стать уделом машин, а работа – превратиться в игру. Описывая гипотетический «терминал Тома Свифта»{163}, систему, предвосхищавшую первые PC, он говорил: «Если работа будет игрой, то инструменты должны стать игрушками».

Сегодня корпоративный кампус Microsoft представляет собой проложенные среди елей дорожки, здания, спортивные площадки, кафетерии и крытые автостоянки. Его атмосфера непохожа на Googleplex в Кремниевой долине – там не увидишь ярко раскрашенных велосипедов, но повсюду встречаются такие же молодые технические работники, которых легко можно принять за студентов или даже учеников средней школы.

Когда подходишь к лифту в вестибюле здания 99, где расположены исследовательские лаборатории компании, двери открываются автоматически. Прямо как в «Звездном пути»: капитан Кирк тоже никогда не нажимал на кнопку. Интеллектуальный лифт – детище Эрика Хорвица, директора исследовательского центра Microsoft Research в Редмонде. Хорвиц известен среди исследователей искусственного интеллекта как представитель первого поколения ученых-компьютерщиков, которые стали использовать статистические методы для повышения эффективности интеллектуальных приложений.

Как и многие другие, Хорвиц сначала пытался понять, как функционирует человеческий разум. В 1980-х гг. он получил медицинское образование в Стэнфорде и погрузился в нейробиологические исследования. Однажды вечером в лаборатории он попробовал с помощью зонда пересадить единичный нейрон в мозг крысы. Эксперимент захватил Хорвица. В его распоряжении были осциллограф и громкоговоритель. Он слышал генерируемые нейроном импульсы и думал: «Ну вот, я внутри. Я наблюдаю процесс мышления позвоночного животного». Вдруг до него дошло, что он и понятия не имеет, о чем говорят импульсы нейрона. Его взгляд упал на лабораторный стол, где стоял новенький компьютер Apple IIe со сдвинутой крышкой. Сердце екнуло – он ведь выбрал совершенно неправильный подход. С таким же успехом можно было тыкать зондом наугад в компьютер и пытаться понять, как работает программное обеспечение.

Хорвиц оставил медицину, изменил специализацию обучения и начал слушать курсы когнитивной психологии и информатики. В качестве наставника он выбрал Герберта Саймона с другого конца страны, ученого-когнитивиста из Университета Карнеги – Меллона и пионера искусственного интеллекта. Он также сблизился с преподавателем информатики из Калифорнийского университета Джудой Перлом, который одним из первых порвал с ранними подходами к искусственному интеллекту на основе логики и правил и стал использовать распознавание образов и строить байесовские сети. Этот подход концептуально близок к идеям нейронной сети, в пух и прах раскритикованным Мински и Пейпертом в 1960-е гг. Как результат в 1980-х гг. в Стэнфорде идеи Хорвица не укладывались в господствующие представления в сфере компьютерных наук. Многие исследователи считали его подход на основе теории вероятности возвратом к устаревшим методам «теории управления».

Оказавшись в Microsoft Research в 1993 г., Хорвиц занялся созданием группы по применению искусственного интеллекта для улучшения коммерческих продуктов компании. Помощник Microsoft Office Assistant, или Clippy, представленный в 1997 г., должен был облегчить пользователям освоение сложного программного обеспечения. В значительной мере он был результатом работы группы Хорвица. К сожалению, это нововведение обернулось провалом. Проект встретил настолько широкое неприятие, что в ролике Microsoft с рекламой Office 2010 присутствовал надгробный камень Clippy, скончавшегося в 2004 г. в возрасте семи лет{164}.

Провал Clippy пролил свет на внутреннюю политику Microsoft. Исследовательская группа Хорвица проповедовала идею интеллектуального помощника, но она вместе с Microsoft Research в то время работала почти в полном отрыве от департамента разработки компании. В 2005 г., после того как Microsoft покончила с технологией Office Assistant, Стивен Синофски, руководитель разработчиков Office, описывал отношение к интеллектуальному помощнику так: «Название сервиса, используемое в продукте, никогда не совпадает с тем, как мы называем его во время разработки. Office Assistant получил название TFC. Буква "C" обозначала клоуна. Ну а что имелось в виду под TF, решите сами»{165}. Было ясно, что идея интеллектуального помощника с самого начала не вызывала энтузиазма у разработчиков программного обеспечения компании. Поскольку Хорвиц со своей группой не имел достаточной поддержки со стороны разработчиков продуктов, Clippy был обречен на неудачу.

Первоначальная, более общая концепция интеллектуального офисного помощника, которую исследовательская группа Хорвица представила в докладе 1998 г., очень отличалось от того, что позже выпустила на рынок Microsoft. Из окончательной версии помощника была исключена программа, предотвращавшая слишком частое появление подсказчика на экране. Постоянные вторжения отвлекали пользователей, и функция была решительно – хотя, возможно, преждевременно – отвергнута клиентами Microsoft. Компания не захотела публично объяснять, почему она исключила компоненты, необходимые для нормальной работы Clippy. Один из слушателей однажды спросил об этом Хорвица после публичной лекции, и тот ответил, что компоненты раздували Office 97 до такой степени, что он не помещался на дистрибутивный диск{166}. (До тех пор пока интернет не открыл возможность обновления через сеть, единственным выходом было исключение чего-нибудь.)

Такова политика крупных компаний, но Хорвиц не сдался. Сегодня посетителей его кабинета со стеклянными стенами на четвертом этаже приветствует живущий в мониторе персональный помощник. Монитор установлен на тележке перед офисом, и с него на зрителей смотрит карикатурный двойник Макса Хэдрума, звезды британского телесериала о запинающемся искусственном интеллекте, который содержит предсмертные воспоминания из мозга тележурналиста Эдисона Картера. Электронный секретарь Хорвица может сообщить посетителям, где тот находится, назначить встречу, сказать, когда хозяин кабинета будет на месте. Он отслеживает почти десяток аспектов работы Хорвица, включая его местоположение и загруженность в любой момент дня.

Хорвиц остается приверженцем систем, которые расширяют возможности людей. Исследователи под его руководством разрабатывают приложения, которые помогают во время разговора врача и пациента и в других ответственных ситуациях избегать потенциально опасного недопонимания. Одно из приложений позволяет вести журнал переговоров во время авиакатастроф для выявления ошибок в процессе взаимодействия авиадиспетчеров и пилотов. Классическим и трагическим примером недопонимания между пилотами и диспетчерами служит катастрофа в аэропорту Тенерифе в 1977 г., когда в густом тумане столкнулись два Boeing 747, один из которых выруливал на взлетно-посадочную полосу, а другой взлетал. Столкновение унесло жизни 583 человек{167}. В записи переговоров есть момент, когда двое пытаются говорить одновременно и речь становится неразборчивой. Одна из целей лаборатории Хорвица – разработка способов предотвращения трагедий такого рода. Хорвиц полагает, что добавление функционала машинного обучения и принятия решений позволит системам искусственного интеллекта анализировать переговоры людей и судить, что лучше оставить людям, а что следует передать машине. Доступность дешевых компьютеров и интернета увеличивает эффективность таких систем, и на рынке уже есть примеры подобного усиления интеллекта. Так, еще в 2005 г. два шахматиста-любителя с помощью шахматной программы смогли обыграть и первоклассных шахматистов, и самостоятельные шахматные программы.

Хорвиц продолжает углублять взаимодействие человека и машины, исследуя возможности сочетания машинного обучения и компьютерных технологий принятия решений с интеллектом человека. Например, его исследователи тесно сотрудничают с создателями научного инструмента Galaxy Zoo, позволяющего привлечь армию интернет-пользователей к классификации типов галактик по их изображениям. Участие широкого круга добровольцев становится существенным ресурсом в научном исследовании: профессиональные ученые могут привлекать любителей, от которых зачастую требуется немногим больше, чем в игре, построенной на использовании живого восприятия. Этот подход помогает ученым решать такие сложные проблемы, как фолдинг белка{168}. Известен целый ряд случаев, когда команды экспертов по своим возможностям превосходили самые мощные суперкомпьютеры.

Формируя коллективы людей и машин и поручая каждой группе свою исследовательскую задачу, ученые могут создать сильную гибридную команду. Компьютеры потрясающе распознают изображения и могут составлять таблицы из сотен визуальных и аналитических характеристик каждой галактики, видимой через телескопы на земле. Это очень недорого, но идеальных результатов не приносит. В следующей версии программы, названной Galaxy Zoo 2, компьютеры с моделями машинного обучения интерпретировали изображения галактик для представления точных исходных данных людям, которые классифицировали галактики со значительно меньшими усилиями, чем раньше. Кроме того, система стала идентифицировать способности конкретных участников. Galaxy Zoo 2 смогла автоматически классифицировать возникающие проблемы и определять, кто именно наиболее эффективно способствует решению данной проблемы.

Во время выступления на конференции TED в 2013 г. Хорвиц продемонстрировал реакцию молодой сотрудницы Microsoft при первом столкновении с его роботом-секретарем. Он показал ролик о взаимодействии с точки зрения системы, которая отслеживала выражение лица. Молодая женщина подошла к роботу, и, когда тот сказал, что Эрик разговаривает с кем-то в офисе, а потом предложил записать ее на прием, она запнулась и отказалась. «Ничего себе, – сказала она шепотом, а затем, чтобы закончить разговор, добавила: Рада была познакомиться!» Хорвиц видел в этом хороший знак, предвещавший появление мира, в котором люди и машины будут партнерами.

Диалоговые системы постепенно становятся неотъемлемой частью наших повседневных взаимодействий. Конечно, такое партнерство не всегда развивается так, как мы ожидаем. В декабре 2013 г. сенсацией стал фильм «Она», любовный роман с Хоакином Фениксом в главной роли и голосом Скарлетт Йоханссон. Этот научно-фантастический фильм показывает наше недалекое будущее, в котором одинокий человек из Южной Калифорнии влюбляется в операционную систему. Сюжет показался вполне правдоподобным многим зрителям. В конце 2013 г. миллионы людей по всему миру уже не первый год общались с Siri компании Apple и не сомневались в том, что «виртуальные агенты» постепенно превращаются из новинок в обычное дело.

В какой-то мере фильм «Она» посвящен и сингулярности – идее о том, что быстро развивающийся машинный интеллект в конечном итоге превзойдет человека и станет независимым. Фильмы «Она» и «Превосходство» (Transcendence) – другой пронизанный идеей сингулярности фильм, вышедший на экраны следующей весной – больше всего интересны тем, как они преподносят отношения между человеком и машиной. В «Превосходстве» взаимодействие человека с компьютером переходит из приятного в мрачное, и в конечном счете сверхинтеллектуальная машина уничтожает нашу цивилизацию. В фильме «Она» отношения между человеком и операционной системой распадаются, поскольку электронный интеллект развивается настолько быстро, что ему становится мало даже тысяч одновременных отношений, он превосходит человечество и… уходит.

Это, конечно, фантастика, но с чем-то подобным в реальном мире Лизл Каппер столкнулась почти на десятилетие раньше. Каппер, в то время генеральный директор занимавшейся разработкой виртуального собеседника австралийской компании My Cybertwin, просматривала регистрационный журнал созданного ею сервиса My Perfect Girlfriend с растущим ужасом. My Perfect Friend должен был стать чат-ботом, демонстрирующим технологии обработки естественного языка, предлагаемые компанией Каппер. Но эксперимент пошел не в ту сторону. Прочитав сообщения веб-сайта, Каппер обнаружила, что стала оператором цифрового борделя.

Технология виртуальных собеседников существует со времен экспериментов Вейценбаума с программой Eliza. Быстрое развитие компьютерных технологий упростило отношения между людьми и машинами. В книге «Одинокие вместе: Почему мы ожидаем от технологий большего, чем друг от друга» социолог из Массачусетского технологического института Шерри Теркл выражает беспокойство в связи с тем, что технологии расширяют взаимодействие человека с машинами в ущерб контактам между людьми. «Я полагаю, что технология общения всегда будет разочаровывать, поскольку она обещает то, чего не может дать, – пишет Теркл. – Она обещает дружбу, но способна создать только "видимость". Хотим ли мы на самом деле штамповать друзей, которые никогда не будут друзьями?»{169} Социологи уже давно описали это явление как ложное чувство единства – «псевдосообщество», – и оно не ограничено человеко-машинным взаимодействием. Например, клиент банка может ценить отношения с кассиром, хотя они существуют только в контексте коммерческих операций и представляют собой не более чем вежливое, поверхностное знакомство. Теркл также считает, что отношения между людьми и роботами, которые она наблюдала в исследовательских лабораториях Массачусетского технологического института, нельзя относить к настоящим. Машины создаются для выражения синтетических эмоций с тем, чтобы вызвать определенную реакцию человека или выяснить, как он будет реагировать.

Именно такие эмоциональные, если не открыто сексуальные, разговоры пользователей с Perfect Girlfriend увидела Каппер. Молодая деловая женщина, которая выросла в Зимбабве и имела степень в области психологии, прежде занималась разработкой программ обучения для центров раннего развития детей. Каппер переехала в Австралию как раз перед крахом пузыря доткомов. В Австралии она попробовала себя в разработке поисковых систем и создала Mooter, программу индивидуализированного поиска. Но Mooter не могла противостоять глобальному господству Google. Хотя ее компания впоследствии стала публичной, в 2005 г. Каппер ушла из нее вместе с деловым партнером Джоном Закосом, ярким австралийским исследователем искусственного интеллекта, с юности очарованным идеей создания виртуальных собеседников. Вместе они превратили My Cybertwin в бизнес, продающий технологию FAQbot банкам и страховым компаниям. Эти боты отвечали на часто задаваемые вопросы пользователей веб-сайтов о продуктах и услугах. Технология, позволявшая предоставлять персонифицированную информацию клиентам и экономить деньги на колл-центрах и телефонной связи, была очень востребованной, но в то время еще недостаточно зрелой. Хотя My Cybertwin и добилась некоторого первоначального успеха, у нее были конкуренты, и Каппер искала выходы на новые рынки. Они попытались превратить My Cybertwin в сервис, создающий программный аватар, который обеспечивает взаимодействие в интернете, даже когда его владелец не в сети. Это была фантастическая идея, но результаты она принесла скромные.

Каппер отвечает уклончиво и нейтрально на вопрос, отнимают ли виртуальные помощники рабочие места. В интервью она подчеркивает, что они не заменяют работников напрямую, и концентрирует внимание на рутинной работе, которую ее Cybertwin делают во многих компаниях и таким образом высвобождают людей для более сложных и престижных задач. В это же время Закос на конференциях утверждал, что при сравнительном тестировании ответов на вопросы по тексту Cybertwin и операторов колл-центра Cybertwin выигрывает у людей с точки зрения удовлетворенности потребителя. По его словам, после развертывания коммерческой системы на веб-сайте крупнейшего банка страны, Национального банка Австралии, больше 90 % посетителей сайта думали, что общаются с человеком, а не c программой. Чтобы быть убедительным, интеллектуальный агент на веб-сайте банка должен отвечать не меньше чем на 150 000 вопросов – такая возможность вполне обеспечивается современными системами обработки и хранения информации.

Несмотря на нежелание обсуждать вопрос ликвидации рабочих мест, последствия работы Каппер и Закоса, скорее всего, будут ощутимыми. В значительной мере рост армии белых воротничков в США после Второй мировой войны объяснялся быстрым распространением систем коммуникации – агенты по телефонным продажам, телефонисты, работники служб технической поддержки и обеспечения продаж были необходимы для создания в компаниях инфраструктуры для связи клиентов с персоналом. Компьютеризация изменила эти профессии: колл-центры переместились за границу, а автоматические коммутаторы первого поколения заменили большую толику телефонистов. Софтверные компании вроде выделившейся из SRI Nuance, которая предлагает системы независимого от говорящего распознавания голоса, начали радикально преобразовывать колл-центры клиентской поддержки и системы бронирования авиабилетов. Несмотря на неприятие потребителями голосовой почты, технологии, подобные My Cybertwin и Nuance, скоро поставят под угрозу рабочие места, связанные с взаимодействием с клиентами по телефону. Интеллектуальный агент My Cybertwin может быть недостаточно хорошим, чтобы пройти полный тест Тьюринга, но он был на шаг впереди большинства чат-ботов, доступных через интернет в то время.

Каппер совершенно уверена, что скоро мы будем жить в мире, где виртуальные роботы станут обычными компаньонами человека. У нее нет философских сомнений, которые мучают исследователей вроде Вейценбаума и Теркл. Она также не видит проблемы, если человек и Cybertwin будут взаимодействовать по модели «главный – подчиненный»{170}. В 2007 г. Каппер начала экспериментировать с программами под названием My Perfect Boyfriend и My Perfect Girlfriend. Как и следовало ожидать, трафик на сайте Girlfriend оказался существенно больше, поэтому она установила платный доступ к отдельным видам сервиса. И что бы вы думали, 4 % пользователей, скорее всего мужчины, из тех, кто уже посещал сайт, согласились платить за создание онлайн-отношений. Их предупредили, что на другом конце нет ничего даже отдаленно человеческого, что это алгоритм, который только подражает человеку. Но они были готовы платить за услугу, хотя в то время не наблюдалось недостатка «секс-чатов» с реальными людьми.

Причина, возможно, в следующем. На заре эры персональных компьютеров существовал успешный издатель текстовых игр – компания Infocom, рекламный лозунг которой выглядел так: «Лучшая графика – в вашей голове». Не исключено, что взаимодействие с роботом раскрепощает именно из-за отсутствия на другом конце линии человека. Может быть, дело тут вообще не в отношениях с людьми, а в чувстве контроля и возможности занять положение главного или… подчиненного.

Независимо от психологической основы таких взаимодействий, Каппер была шокирована. Она видела в них больше человеческого, чем рассчитывала. Поэтому, хотя бизнес успешно развивался, она отступила и закрыла My Perfect Girlfriend в 2014 г. На ее взгляд, бизнес надо было строить на чем-то другом. Как оказалось, деловое чутье Каппер сработало вовремя. Успех Siri компании Apple изменил рынок виртуальных агентов. Компьютерный мир стал воспринимать диалоговые системы не как необычные новинки, а как основную форму взаимодействия с компьютером. Еще до My Perfect Girlfriend Каппер поняла, что для успеха бизнес необходимо развертывать в Соединенных Штатах. Она привлекла необходимые средства, переименовала My Cybertwin в Cognea и открыла отделения в Кремниевой долине и в Нью-Йорке. Весной 2014 г. Каппер продала свою компанию IBM. Компьютерный гигант после победы в матче над гроссмейстером Гарри Каспаровым в 1997 г. с не менее шумной рекламной кампанией выставил одного из своих роботов против двух лучших игроков телевикторины «Своя игра». В 2011 г. система Watson компании IBM одержала победу над Брэдом Раттером и Кеном Дженнингсом. Многие посчитали эту победу доказательством превосходства искусственного интеллекта над человеком. Но действительность была не такой однозначной. Соперникам робота очень редко удавалось нажать кнопку раньше Watson. У компьютера было подавляющее механическое преимущество, имевшее мало общего с искусственным интеллектом. Когда у него была статистическая уверенность в правильности ответа, он мог нажать кнопку намного раньше людей.

Ирония заключается в том, что IBM исторически позиционировала себя как компания усиления интеллекта, а не компания, стремящаяся заменить людей. С 1950-х гг., когда IBM оставила исследования в области искусственного интеллекта, компания стремится не афишировать, что ее компьютеры нередко заменяют людей{171}. После победы Watson компания представляла свое достижение как шаг к расширению возможностей работников и заявляла о планах создать на основе этой технологии интеллектуального помощника для врачей и медсестер.

Однако превращение системы Watson в советника врачей шло со скрипом, и компания расширила сферу ее применения. Сегодня бизнес-группа Watson разрабатывает приложения, которые неизбежно заменяют людей. Watson первоначально работала в режиме «вопрос – ответ», развиваясь в направлении фундаментальных целей в сфере искусственного интеллекта. В сочетании с Cognea система Watson получила способность вести беседу. Как она будет использоваться? Дилемма, перед которой стоят IBM и ее инженеры, известна. Watson может с равным успехом служить интеллектуальным помощником профессионалов и заменять их. В момент зарождения индустрии искусственного интеллекта IBM отошла от нее. Куда она пойдет в будущем – вопрос.

Участник «Своей игры» Кен Дженнингс не видит в победе IBM ничего хорошего: «Если в XX в. роботы на сборочной линии заменяли фабричных рабочих, то новое поколение "думающих" машин заменяет работников сферы интеллектуальных услуг, которую представляем мы с Брэдом. "Участник телевикторины" – первая профессия, ликвидированная системой Watson, но я уверен, что она не последняя»{172}.

Глава 7

На помощь

Осенью 2013 г. в выходные дни в лаборатории робототехники стояла мертвая тишина. Саму лабораторию можно было принять за обычную механическую мастерскую в Новой Англии, забитую железками и станками. Марк Райберт, бородатый робототехник и один из ведущих разработчиков шагающих роботов в мире, стоял перед небольшой внутренней выгородкой, нежно именуемой «мясохранилищем», и наслаждался картиной. Помещение было завалено оборудованием, но в дальнем конце к потолку словно туши были подвешены семь внушающих впечатление гуманоидных роботов. Безголовые и неподвижные роботы выглядели, конечно, жутковато. Без декоративной оболочки они были кибернетическими скелетами из стали, титана и алюминия. Каждый из них мерцал призрачными синими светодиодами, подсвечивавшими помещенный в груди компьютер для управления двигателями. В каждой из снятых «голов» находился другой компьютер, отвечавший за контроль датчиков в теле и сбор данных. В собранном виде роботы имели рост 180 см и весили 150 кг. В реальности их движение было не таким грациозным, как на видео, но в них несомненно чувствовалось достоинство.

Все это происходило за неделю до того, как DARPA объявило о заключении контракта с Boston Dynamics, компанией Райберта, на разработку роботов Atlas как общей платформы для нового вида соревнований Grand Challenge. Эти соревнования ставили целью создать поколение мобильных роботов, способных действовать в среде, слишком опасной для людей. Boston Dynamics, которую в том же году купила Google, уже имела глобальную репутацию создателя шагающих и бегающих роботов, построенных главным образом для Пентагона.

Несмотря на финансирование со стороны военных, Райберт не считал, что его фирма занимается созданием оружия. Почти всю свою карьеру он посвятил одной из самых сложных проблем в мире искусственного интеллекта и робототехники: строительству машин, движущихся по пересеченной местности с легкостью животных. Если исследователи искусственного интеллекта на протяжении десятилетий пытались моделировать человеческий интеллект, то Райберт пытался воспроизвести ловкость и изящество движений человека. Он давно считал, что создание подвижных машин – более трудная задача, чем многие другие аспекты искусственного интеллекта. «Воспроизвести ловкость прыгающей с ветки на ветку белки или взлетающей и садящейся птицы, – говорил Райберт, – так же сложно, как и создать интеллектуальную программу».

Роботы Boston Dynamics, получившие имена LittleDog, BigDog и Cheetah, вызвали оживленную и временами истеричную интернет-дискуссию о сходстве современных роботов с Терминатором. В 2003 г. компания заключила первый контракт с DARPA на создание четвероногого робота. Пять лет спустя на YouTube можно было увидеть BigDog, идущего по пересеченной местности, несущегося по льду и не падающего от сильного пинка. Под завывания двигателя нетрудно было представить, как такая штуковина гонится за вами по лесу. Это видео посмотрели более 16 млн человек, и их реакция была инстинктивной. Для многих BigDog олицетворял зловещих роботов из научной фантастики и Голливуда.

Райберта, который обычно ходил в джинсах и гавайской рубашке, забавляло, когда его представляли в образе «Доктора Зло». Прямые контакты со СМИ были не для него – он предпочитал «убойные» видеоклипы. При этом он не оставлял без внимания комментарии, а они говорили о том, что многие не видят общей картины: мобильные роботы вот-вот станут неотъемлемой частью нашего мира. В одном из интервью Райберт заметил, что его критики упускают главное. «Похоже, люди действительно боятся, – сказал он британскому техническому журналу. – На YouTube из десятка тысяч откликов на видеоклипы с BigDog примерно треть приходится на испуганных, которым кажется, что роботы охотятся на них. Однако надо не бояться, а гордиться тем, что мы сумели приблизиться к подвижности людей и животных и сделать нечто так похожее на живое»{173}. По его словам, еще одна категория зрителей демонстрирует притворный шок, а на деле восхищается зрелищем в стиле научной фантастики.

Соревнования DARPA Robotics Challenge (DRC) определили спектр возможных отношений между людьми и роботами еще более отчетливо, чем Grand Challenge для беспилотных автомобилей. Они предвещали мир, в котором роботы станут партнерами людей, будут танцевать с ними, обслуживать их или же полностью заменять. На первых соревнованиях DRC в 2013 г. роботы практически полностью управлялись людьми на основе данных, поступавших от датчиков по проводам. Роботы Atlas компании Boston Dynamics с ограниченным набором таких способностей, как умение ходить и двигать руками, предоставлялись в распоряжение 16 соревнующихся команд, а те должны были самостоятельно запрограммировать их для выполнения конкретных задач. Осенью, когда Boston Dynamics выполнила заказ DRC, и во время предварительных соревнований во Флориде в конце года роботы выглядели сравнительно медленными и неуклюжими.

Однако в «мясохранилище» казалось: только подай команду, и они будут действовать с ловкостью человека. Это напоминало сцену из фильма 2004 г. «Я, робот» (I, Robot), где полицейский в исполнении актера Уилла Смита с оружием в руках идет через огромный склад с бесконечными колоннами замороженных антропоморфных роботов, ожидающих активации. На экране крупным планом показано, как глаза одного из жутких автоматов следят за движущимся полицейским.

За несколько десятилетий до этого Райберт, только начинавший учиться в магистратуре Массачусетского технологического института, намеревался специализироваться в нейрофизиологии. Однажды он с преподавателем зашел в Лабораторию искусственного интеллекта и увидел у одного из исследователей на столе разобранный на части манипулятор. Райберт был зачарован и с того момента мечтал стать только робототехником. Несколько лет спустя новоиспеченный инженер Райберт получил работу в Лаборатории реактивного движения NASA в Пасадене. Однако там он чувствовал себя чужестранцем на чужой земле. Роботы и занимавшиеся ими сотрудники были определенно гражданами второго сорта по сравнению со звездами агентства, астронавтами. Выпускнику Массачусетского технологического института досталась должность младшего инженера в скучнейшем проекте.

Чтобы не растерять знания, Райберт начал изучать работы Айвена Сазерленда, который к 1977 г. уже был легендой среди компьютерщиков. Проект Sketchpad из диссертации Сазерленда в Массачусетском технологическом институте в 1962 г. стал крупным шагом вперед в сфере компьютерной графики и интерактивных вычислений. В 1968 г. он с Бобом Спроулом разработал первый шлем виртуальной реальности. В 1974 г. Сазерленд основал в Калифорнийском технологическом институте кафедру информатики и оказал поддержку физику Карверу Миду и инженеру-электрику Линн Конвей в разработке новой модели проектирования и производства интегральных схем с сотнями тысяч логических элементов и элементов памяти. В 1980-х гг. их работа открыла путь к созданию современной полупроводниковой промышленности.

Сазерленд фактически пришел в робототехнику еще в 1950-е гг. в средней школе вместе со своим старшим братом Бертом. Этим двум парням повезло, их учил статистик и пионер компьютерной сферы Эдмунд Беркли, написавший в 1949 г. книгу «Гигантские мозги, или Думающие машины» (Giant Brains, or Machines That Think). В 1950 г. Беркли сконструировал Simon, который, хотя и состоял из множества реле и имел память на четыре двухбитовых числа, мог считаться первым персональным компьютером{174}. Под руководством Беркли братья Сазерленд работали над созданием находящего дорогу в лабиринте похожего на мышь робота, и Айвен в рамках научного проекта средней школы сделал память на магнитном барабане, способную хранить 128 двухбитовых чисел, за что получил стипендию в Технологическом институте Карнеги.

Поступив в колледж, братья продолжили работу над «механическим животным». Они упорно совершенствовали свою «зверушку» на базе транзисторов с сухой батареей по образцу механической белки Беркли по имени Squee{175}. Им очень хотелось запрограммировать зверушку так, чтобы она могла играть в пятнашки.

В 1970-е гг. как заведующий кафедрой информатики Калифорнийского технологического института Сазерленд переключился на компьютерную графику и, казалось, потерял интерес к созданию роботов. Когда Райберт побывал на лекции Сазерленда, его зацепили размышления преподавателя о будущих возможностях в этой области. Райберт вышел из аудитории воодушевленным и попробовал пробиться к Сазерленду через окружавшую заведующего кафедрой бюрократическую стену: он послал ему несколько вежливых электронных писем, а также оставил сообщение у секретаря.

Первые обращения остались без ответа. Это раззадорило Райберта, и он придумал план. В течение следующих двух с половиной недель он каждый день в 14:00 звонил в офис Сазерленда. Каждый день секретарь отвечал и принимал сообщение. Наконец рассерженный Сазерленд перезвонил ему. «Что вам нужно?» – прокричал он. Райберт объяснил, что хочет работать с Сазерлендом, и у него есть предложения. Когда они наконец встретились в 1977 г., Райберт выдвинул три идеи, и Сазерленд, узнав о концепции одноногого шагающего, фактически прыгающего робота, сказал: «Сделайте вот этого!»

Сазерленд стал для Райберта первым человеком со связями. Он отвел Райберта в DARPA (где Сазерленд работал в течение двух лет сразу после Ликлайдера) и в Национальный научный фонд. В результате им выделили четверть миллиона долларов на исследования. Сначала они работали над шагающими роботами в Калифорнийском технологическом институте, но несколько лет спустя Сазерленд убедил Райберта перейти вместе с ним в Университет Карнеги – Меллона.

Там Райберт создал замечательную коллекцию роботов, которые прыгали, ходили, извивались и даже кувыркались. У него с Сазерлендом были смежные офисы, и они вместе написали статью о шагающих машинах для Scientific American в январе 1983 г. В 1981 г. Райберт основал в Университете Карнеги – Меллона Лабораторию шагающих роботов, а затем перевел ее в Массачусетский технологический институт, когда работал там преподавателем с 1986 по 1992 г. После ухода из института он учредил компанию Boston Dynamics. Лабораторию шагающих роботов возглавил другой молодой преподаватель, Гилл Пратт, который продолжил разработку шагающих машин и технологий, позволяющих роботам взаимодействовать с людьми.

Если Райберт положил начало разработке шагающих машин, то его коллега по Университету Карнеги – Меллона Рэд Уиттакер почти единолично создал «полевую робототехнику», машины, способные свободно перемещаться в окружающем мире. Идея соревнований беспилотных автомобилей DARPA берет начало в далеком от реальности плане Рэда Уиттакера построить машину, для которой не существует препятствий. Нынешнее поколение мобильных спасательных роботов уходит корнями в его первые разработки три с половиной десятилетия назад.

Карьера Уиттакера началась с аварии на атомной электростанции Три-Майл-Айленд 28 марта 1979 г. Он только что получил степень доктора философии, когда произошло частичное расплавление активной зоны одного из двух ядерных реакторов. Авария показала, насколько отрасль была неподготовлена к потере контроля над ядерным топливом. Лишь через полдесятилетия построенные Уиттакером и его студентами роботы добрались до наиболее поврежденных областей реактора и помогли с дезактивацией.

Время Уиттакера пришло, когда две гигантские строительные компании, потратив $1 млрд, не смогли проникнуть в цокольное помещение поврежденного реактора, чтобы осмотреть его и начать дезактивацию. Уиттакер отправил на Три-Майл-Айленд первого робота Rover, которого его команда собрала за шесть месяцев в апреле 1984 г. Робот представлял собой шестиколесное устройство, снабженное подключенными к контроллеру прожекторами и камерой. Его опустили в цокольный этаж, где он преодолел препятствия в виде воды, грязи и обломков и передал первые изображения последствий аварии. Робот был позже модифицирован для проведения осмотра и сбора проб{176}.

Успех этого проекта стал определяющим для стиля Уиттакера – «ничего невозможного нет» – при решении серьезных проблем. После бюрократических проволочек, затянувшихся на несколько лет, его первая компания Redzone Robotics поставила робота для проведения дезактивации на Чернобыльской АЭС на Украине после катастрофы в 1986 г. В начале 1990-х гг. Уиттакер разрабатывал робота для марсианского проекта NASA. Робот получился большим и тяжелым, поэтому вряд ли стоило рассчитывать на его участие в первом полете. Уиттакеру нужен был не менее грандиозный проект на Земле. Когда беспилотные транспортные средства стали демонстрировать обещающие результаты, исследователи из Университета Карнеги – Меллона решились выпустить машины на улицы Питтсбурга. Ну а если попробовать проехать через весь штат? На взгляд Уиттакера, такой «гранд-тур» мог бы доказать, что роботы готовы действовать в реальном мире, а не только в лаборатории. «Дайте мне два года и полдесятка аспирантов, и мы сделаем это», – заявил он New York Times в 1991 г.{177} Полтора десятилетия спустя Тони Тетер из DARPA подтвердил эту идею, поддержав первые соревнования Grand Challenge для беспилотных автомобилей.

Хотя в начале 1990-х гг. робототехники стали делать значительные успехи в создании полезных роботов, этому предшествовали десятилетия разочарований. Техническая неготовность к решению проблемы АЭС «Три-Майл-Айленд» сначала бросила тень на робототехническую индустрию. В 1980 г. в июньском номере журнала Omni Марвин Мински опубликовал пространный манифест с призывом к развитию технологий телеприсутствия – роботов, снабженных видеокамерами, дисплеями, микрофонами и громкоговорителями, которые позволяют оператору дистанционно «присутствовать» где угодно. Мински указывал на недостатки мира робототехники:

На Три-Майл-Айленд реально необходимо телеприсутствие. Я потрясен неспособностью атомной промышленности справляться с неожиданным. Мы воочию наблюдаем несообразную негибкость современной технологии при действиях в аварийной ситуации и проведении ремонтных работ на этом реакторе. Технический персонал по-прежнему не может провести тщательный осмотр поврежденного реактора из-за угрозы получить годовую допустимую дозу облучения всего за несколько минут. Стоимость ремонта и энергетические потери оцениваются в $1 млрд; телеприсутствие могло бы сократить эти затраты до нескольких миллионов долларов.

Серьезная проблема сегодня заключается в том, что АЭС не приспособлены для телеприсутствия. Почему? Технология все еще слишком примитивна. Кроме того, при проектировании АЭС не предусматривается даже возможность установки средств телеприсутствия, когда они появятся. Замкнутый круг!{178}

Отсутствие беспроводной связи было главным препятствием для создания роботов с дистанционным управлением в то время. Но Мински также обращал внимание на то, что сообщество робототехников мало интересует воспроизведение умения человека брать предметы, манипулировать ими и маневрировать. Он низко оценивал состояние имевшихся в распоряжении операторов атомной станции автоматизированных манипуляторов, говоря, что они «немногим лучше, чем плоскогубцы» и им далеко до рук человека. «Если бы люди имели чуть больше технической смелости и попытались приблизить эти руки к человеческим, взяв за образец строение ладони и пальцев, мы могли бы сделать АЭС, заводы и другие опасные предприятия намного более безопасными»{179}.

Конечно, критиковать легко, но, когда статью перепечатали в 2010 г. (три десятилетия спустя) в IEEE Spectrum, оказалось, что отрасль добилась на удивление малых успехов. Таких манипуляторов, к созданию которых призывал Мински, по-прежнему не существовало. В 2013 г. Мински сетовал, что даже в 2011 г., когда расплавился реактор АЭС «Фукусима», не было робота, который помог бы в чрезвычайной ситуации. Ясно просматривалось также его негативное отношение к тому, что научное сообщество по большей части придерживается подхода Рода Брукса, который предполагает получение сложных форм поведения путем соединения простых компонентов.

Одним из тех, кто соглашался с Мински, был Гилл Пратт, сменивший Марка Райберта на месте директора Лаборатории шагающих роботов в Массачусетском технологическом институте. Пратт, позднее работавший преподавателем и деканом в Колледже Олина в Нидеме, штат Массачусетс, пришел в DARPA в начале 2010 г. как руководитель двух масштабных программ. Одна из них, Autonomous Robotic Manipulation (ARM), предусматривала создание рук для роботов, об отсутствии которых сожалел Мински. Она ставила задачу создать руку, подобную человеческой, для выполнения множества функций: захватывание предметов, работа с созданными для людей инструментами, использование фонаря. Другой задачей ARM было соединение человеческого мозга с роботизированными конечностями, которые дадут получившим увечья солдатам и инвалидам новую степень свободы. Параллельный ARM проект, названный Synapse, фокусировался на разработке биотехнологических компьютеров, способных лучше преобразовывать машинное восприятие в действия.

Пратт был представителем новой волны, захлестнувшей DARPA вскоре после того, как администрация Обамы назначила Регину Дуган директором агентства вместо Тони Тетера. Тетер разорвал исторически тесные связи DARPA с академическим сообществом и стал работать с закрытыми военными подрядчиками. Дуган и Пратт стремились устранить нанесенный ущерб и быстро восстанавливали отношения с университетскими городками. Исследование Пратта до прихода в DARPA было направлено на создание роботов, способных двигаться за пределами лаборатории. Проблема заключалась в том, как сделать, чтобы роботы могли управлять теми относительно небольшими усилиями, с которыми приходится сталкиваться в реальном мире. Он пришел к выводу, что эту задачу лучше всего решает прокладка из упругого материала между частями робота и зубчатой передачей, приводящей их в движение. Фактически это было копирование биологических сухожилий, расположенных между мышцей и суставом. Упругий материал растягивается, и по степени его растяжения можно определить, какая сила приложена. До этого непосредственная механическая связь между частями рук и ног роботов, обеспечивавшая силу и точность, была слишком негибкой и потенциально опасной для передвижения в непредсказуемом реальном мире, населенном уязвимыми и склонными к агрессивным действиям людьми.

Пратт поначалу не задумывался о сотрудничестве человека и робота. Его интересовало, как пожилые люди обеспечивают свою безопасность при перемещении в мире. Как правило, они пользуются ходунками и инвалидными креслами. При исследовании взаимодействия людей с используемыми ими приспособлениями стало ясно, что защиту при контакте с жесткими препятствиями людям обеспечивает податливость. Будь роботы более податливыми, заключил Пратт, люди могли бы работать рядом с ними, не боясь получить травму.

В лаборатории робототехники Родни Брукса проводилось тестирование одного из первых антропоморфных роботов Cog, созданных в 1990-е гг. Аспирант Мэтт Уильямсон проверял руку робота. В результате ошибки в коде рука периодически шлепала по испытательному стенду. Брукс, оказавшийся в какой-то момент между роботом и стендом, принял шлепок на себя и стал первым человеком, которого ударил робот. К счастью, шлепок был легким, и Брукс остался цел. Исследования Пратта позволили сделать шаг вперед и в сфере биомимикрии, и в сфере сотрудничества робота и человека. Брукс сделал «эластичные приводы» главным средством обеспечения безопасности людей, работающих рядом с роботами.

Когда Пратт пришел в DARPA, он ясно понимал, что, несмотря на десятилетия исследований, большинство роботов все еще остаются в лабораториях не только из соображений безопасности людей, но и из-за неготовности программного обеспечения роботов к функционированию в непредсказуемой окружающей среде. Он работал в DARPA немногим больше года, когда 12 марта 2011 г. на АЭС «Фукусима» обрушилось цунами. Работникам станции какое-то время удавалось держать ситуацию под контролем, но из-за сильной утечки радиации им пришлось покинуть станцию прежде, чем они смогли безопасно остановить реакторы. DARPA в определенной мере участвовало в ликвидации кризиса, поскольку гуманитарная поддержка и помощь при бедствиях входят в компетенцию Пентагона. (После терактов 9/11 агентство предоставляло роботов для поиска выживших во Всемирном торговом центре.) Чиновники DARPA взяли на себя координацию действий и привлекли американские компании, которые помогали устранить последствия аварий на Три-Майл-Айленд и в Чернобыле. Японии предоставили американских роботов – им предстояло проникнуть в помещение и провести ремонт, но к тому времени, когда персонал электростанции освоил управление ими, было слишком поздно, чтобы избежать худшего. Это обескураживало больше всего – Пратт был уверен в том, что быстрое применение роботов наверняка помогло бы и ограничило урон. «Самое большее, что смогли сделать роботы, – это помочь оценить масштабы потерь и измерить уровни радиации. Момент, когда существовала возможность уменьшить масштаб бедствия, был упущен», – писал он{180}.

Эта неудача привела DARPA к идее организовать соревнования Robotics Challenge, о которых объявили в апреле 2012 г. Спонсируя грандиозные соревнования масштаба проводившихся Тетером состязаний беспилотных автомобилей, Пратт рассчитывал подстегнуть появление инноваций, которые способствуют развитию автономных машин для работы в опасных для людей условиях. Командам предлагалось построить и запрограммировать роботов для выполнения восьми задач{181}, которые возникают при авариях на АЭС. Впрочем, большинству не нужно было создавать роботов с нуля: Пратт заключил контракт с Boston Dynamics на поставку антропоморфных роботов Atlas, ставших общей платформой для быстрой реализации идеи.

В темноте можно различить синеватое свечение немигающего глаза, всматривающегося в вечерний мрак. Этот свет излучает сканер сетчатки, который использует глаз для идентификации, как своего рода цифровой отпечаток пальца. Такие дорогостоящие электронные стражи еще не стали привычным явлением, но они уже появились на сверхсекретных объектах. В их присутствии кажется, будто находишься под пристальным взглядом эдакого кибернетического Цербера. Сканер не единственная часть системы информирования и безопасности. Сам дом – парк робототехнических чудес. В холле автоматическая рука бьет молотком в большой гонг, сообщая о новом посетителе. Там повсюду ездящие, летающие, ползающие и шагающие машины. Посетителю все это напоминает сцену из фильма «Бегущий по лезвию», где детектив Рик Декард приезжает в дом генного инженера Джея Себастьяна и оказывается в окружении странных синтетических существ.

В реальной жизни это логово принадлежало Энди Рубину, бывшему инженеру Apple, который перешел в 2005 г. в Google, чтобы возглавить новое направление бизнеса – производство смартфонов. В то время мир считал Google неудержимой компанией, глядя на то, с какой скоростью она превратилась в одного из лидеров компьютерных технологий. Однако основателей Google очень беспокоило то, что их преимущество в области поисковых систем и только что полученное монопольное положение могут оказаться под угрозой в результате быстрого перехода от настольных компьютеров к мобильным. На смену настольным компьютерам шло поколение более миниатюрных машин, приближалось то, что станут называть эпохой пост-PC. В Google опасались, что, если Microsoft сможет распространить свое доминирование в сфере настольных компьютеров на развивающийся мир телефонов, они окажутся за бортом и потеряют монополию в поисковых системах. Apple еще не представила iPhone, поэтому никто не знал, что очень скоро господство Microsoft в сфере настольных компьютеров окажется под вопросом.

Пытаясь оторваться от преследователей, Google приобрела небольшой стартап Рубина в расчете создать собственную операционную систему для переносных устройств. Google представила Android в ноябре 2007 г., через 10 месяцев после появления iPhone. На протяжении половины следующего десятилетия Рубин успешно вытеснял не только Microsoft, но и Apple, BlackBerry и Palm Computing. Он создал операционную систему с открытым исходным кодом и бесплатно предлагал ее компаниям, которые прежде выкладывали Microsoft круглые суммы за лицензии на Windows. Microsoft не могла конкурировать с бесплатным программным обеспечением. К 2013 г. программное обеспечение Google доминировало в мире мобильных телефонов с точки зрения рыночной доли.

В начале своей карьеры Рубин работал инженером-технологом в Apple Computer после непродолжительного сотрудничества с Zeiss в Европе, где он программировал роботов. Через несколько лет Рубин покинул Apple вместе с элитной группой инженеров и программистов и занялся созданием одного из первых карманных компьютеров в General Magic. Попытки General Magic объединить персональную информацию, компьютеры и телефонию оказали большое влияние на новый мир мобильных компьютеров, но закончились провалом.

В 1999 г. Рубин с двумя друзьями, которые также работали в Apple, основал в Пало-Альто компанию Danger, Inc., производителя смартфонов. Название компании отражало давнее увлечение Рубина роботами. (В научно-фантастическом телесериале 1960-х гг. «Затерянные в космосе» (Lost in Space) робот – опекун мальчика говорил «Опасно, Уилл Робинсон!» всякий раз, когда возникала проблема.) Danger создала один из первых смартфонов Sidekick, который был выпущен в 2002 г. Он приобрел немало поклонников из-за выдвигающейся наподобие выкидного лезвия ножа клавиатуры, загружаемого программного обеспечения, электронной почты и резервного копирования персональных данных в «облако». Если большинство деловых людей сохранили привязанность к своим BlackBerry, то молодежь и хипстеры перешли с PalmPilot на Sidekick.

Рубин был членом уникальной «группы братьев по оружию», прошедшей в 1980-е гг. через Apple Computer, – поколения молодых инженеров-компьютерщиков, которые выросли в Кремниевой долине как ученики Стива Джобса. Очарованные харизмой Джобса и его преданностью нестандартным решениям как средству «изменения мира», они пустились в собственные технологические поиски. «Братья по оружию» были проявлением того эффекта, который Macintosh Джобса оказал на всю Кремниевую долину, и многие из них остались друзьями. Лучшие и самые яркие представители Кремниевой долины искренне верили, что принесут новый технологический прорыв миллионам людей.

Но страсть Рубина к роботам была необычной даже по меркам его одержимых технологиями друзей. Занимаясь телефонами в Google, он купил манипулятор за $80 000 и стал экспериментировать, полный решимости научить его делать кофе-эспрессо, однако проект застопорился на год из-за того, что один этап процесса требовал большей силы, чем мог обеспечить манипулятор.

Еще в прежние времена Рубин приобрел доменное имя в интернете android.com, и друзья подшучивали над ним, называя «андроидом». В его доме на холмах возле Пало-Альто свидетельства приближающегося мира роботов были всюду, поскольку Энди Рубин и здесь видел что-то, о чем еще не задумывалось большинство других в Долине. Довольно скоро он получил возможность доказать это широкой публике.

Весной 2013 г. в офис генерального директора Google Ларри Пейджа в Маунтин-Вью пришло странное электронное письмо с предупреждением о том, что вторжение инопланетян уже началось. Как только Пейдж прочитал сообщение, к нему ворвались двое крупных мужчин и велели следовать за ними, сказав только, что повезут его в Вудсайд, элитный район, где живут руководители компаний и венчурные капиталисты Кремниевой долины.

Это была вечеринка-сюрприз по случаю сорокалетия Пейджа, организованная его женой Люси Саутуорт, доктором биоинформатики из Стэнфорда. На вечеринке собралось 150 человек в костюмах инопланетян, включая соучредителя Google Сергея Брина в женском платье. В цокольном этаже просторного особняка, где проходила вечеринка, манипулятор захватывал одну за другой небольшие коробки с сувенирами и бросал их в благодарную толпу. Это был стандартный промышленный робот японского производства с пневматическим захватом, приводимым в действие шумным компрессором. Робот мог «видеть» сувениры, которые брал. В качестве глаз, в действительности единственного «глаза», использовался такой же датчик Microsoft, как и в игровой приставке Xbox, позволявший различать жесты игроков.

Бросающий коробки робот был опытным образцом, разработанным Industrial Perception, Inc., небольшой командой из гаража буквально через дорогу от Googleplex в Пало-Альто. Когда робот, ставший интернет-сенсацией после размещения на YouTube видео с вечеринки{182}, не бросал коробки, он служил прототипом нового класса интеллектуальных устройств, которые могли взять на себя столь разнообразные задачи, как погрузка и разгрузка машин, упаковка товаров на складах, работа на сборочных конвейерах и пополнение товарами полок бакалейных магазинов.

Наделение роботов способностью понимать, что они видят, было только частью проблемы. Распознавание шестигранных коробок оказалось не столь непреодолимой проблемой, хотя решить ее удалось лишь недавно. Идентификация предметов на полках бакалейного магазина, например, намного сложнее, и даже сегодня она не по зубам лучшим программистам. На вечеринке в честь Пейджа робот Yaskawa не испытывал трудностей с отысканием коробок с подарками, в каждой из которых лежала юбилейная футболка. Однако упаковывать коробки пришлось людям, поскольку робот пока не в состоянии справиться с неуложенными футболками.

Манипулятор компании Industrial Perception был не единственной интеллектуальной машиной на вечеринке. Робот, обеспечивавший телеприсутствие, находился на танцполе. В Вудсайде наступила полночь, а изобретатель Segway Дин Кеймен управлял роботом из Нью-Гемпшира, где было три утра.

Этого робота, названного Beam, предоставил другой стартап, Suitable Technologies, расположенный всего в нескольких кварталах от Industrial Perception. Обе компании вышли из лаборатории робототехники Willow Garage, финансируемой Скоттом Хассаном, однокашником по Стэнфорду и другом Пейджа. Хассан был первым разработчиком поисковой системы Google еще в рамках исследовательского проекта Стэнфорда. В Willow Garage он собирался построить антропоморфного робота как платформу для исследований. Компания разработала и выпустила в свободный доступ операционную систему для робототехнического оборудования, а также антропоморфного робота телеприсутствия PR2, который использовался рядом университетов.

Таким образом, на вечеринке у Пейджа были представлены технологии и искусственного интеллекта, и усиления интеллекта: один из роботов заменял людей, а другой расширял их возможности. Позже в том году Google приобрела компанию Industrial Perception для новой робототехнической империи Рубина.

Компании, вышедшие из Willow Garage Скотта Хассана, вновь ставят вопрос о «конце работы». Чем занимаются Пейдж и Хассан, не созданием ли поколения технологий, которые разрушат экономику, вытесняя и офисную братию, и производственных рабочих? С точки зрения замены людей укладчик коробок компании Industrial Perception, который сможет загрузить или разгрузить грузовик, является значительным шагом к уничтожению одного из последних бастионов неквалифицированного живого труда. Складские работники, портовые рабочие и грузчики занимаются тяжелой, низкооплачиваемой и неблагодарной работой. Они поднимают упаковки, которые могут весить больше 20 кг, выдыхаются примерно через шесть секунд, часто травмируют спину и заканчивают трудовую деятельность инвалидами.

Инженеры Industrial Perception выяснили, что для получения контрактов со складами и логистическими центрами нужно продемонстрировать способность роботов перемещать коробки с четырехсекундными интервалами. Еще до того, как компанию поглотила Google, они были очень близки к этой цели. Но, с точки зрения американских рабочих, картина выглядит иначе. В FedEx, UPS, Walmart и почтовых отделениях США, где занято большое количество низкоквалифицированных работников, на первом месте стоит не стоимость рабочей силы и не стремление заменить рабочих дешевыми машинами. Они и так сократили немало рабочих мест. Компании волнует другое – старение рабочей силы и дефицит трудовых ресурсов. Возможно, в узком секторе погрузки и разгрузки грузовиков роботы появятся как раз вовремя. Без ответа остается более серьезный вопрос: станет ли наше общество помогать своим работникам после нового разделения труда в результате автоматизации?

В конце 2013 г. на ничем не выделяющемся складе позади мебельного магазина в Норт-Майами группа молодых японских инженеров начала ежедневные тренировки, продолжавшиеся весь месяц до DARPA Robotics Challenge. Они учились под руководством известного робототехника Масаюки Инаба, который сам был лучшим студентом основоположника японской робототехники Хиротика Иноуэ. Иноуэ начал заниматься робототехникой во время учебы в магистратуре в 1965 г., когда его консультант предложил разработать манипулятор, поворачивающий заводную рукоятку.

Из-за специфики культуры роботы в Японии получили более позитивный прием, чем в США. Америка разрывалась между образами робота как героического «железного человека» и Терминатора. (Конечно, было бы разумно задаться вопросом о реальном отношении американцев к Терминатору после того, как жители Калифорнии дважды выбирали губернатором сыгравшего его голливудского актера!) Но в Японии в 1950-х и 1960-х гг. мультперсонаж робот Атом, получивший в других странах имя Астробой, сформировал более положительное представление о робототехнике. В какой-то мере это объяснимо: Япония – стареющее общество, и японцы полагают, что им нужны автономные машины для ухода за престарелыми.

Японская команда, взявшая название Schaft, родилась в лаборатории JSK, которую доктор Иноуэ создал в Токийском университете в начале 2013 г. с целью участия в DARPA Robotics Challenge. Ей пришлось уйти из Токийского университета, который по традиции после окончания Второй мировой войны не допускал участия университетской лаборатории в мероприятиях, финансируемых американскими военными{183}. Команда взяла название выступавшей 1990-х гг. в жанре электро-индастриал-рок японской музыкальной группы. Рубин нашел этих исследователей через Марка Райберта.

Объявление о том, что Google приобрела Schaft, вызвало серьезное негодование в Японии. Робототехника была гордостью страны. Японцы не только добились отличных успехов в создании шагающих машин, но и в течение многих лет успешно продавали самых современных роботов, которые стали чуть ли не потребительскими товарами. Sony в 1999 г. представила собаку-робота Aibo и предлагала все новые ее версии до 2005 г. После Aibo был создан и рекламировался 60-сантиметровый робот Qrio, но в продажу он не поступил. И вот теперь Google снимает сливки с десятилетий японских исследований.

В реальности, несмотря на то что японцы доминировали в создании манипуляторов первого поколения, другие страны быстро догоняют их. Программное обеспечение для роботов следующего поколения и искусственного интеллекта разрабатывается в основном в США. В 2012 и 2013 гг. и Кремниевая долина, и Шоссе 128 вокруг Бостона вновь стали центрами активности в сфере робототехники.

Соглашаясь присоединиться к расширяющей робототехнической империи Рубина, исследователи Schaft испытывали смешанные чувства. Сильны были опасения, что теперь, когда они маршируют под барабаны Google, придется забыть о мечте попробовать силы в соревнованиях Пентагона. «Не берите в голову! – сказал им Рубин. – Вы обязательно будете участвовать в соревнованиях». Не успели высохнуть чернила на контракте с Google, а японские инженеры уже готовились к соревнованиям. Они сразу же начали работать над тремя прототипами машин и подготовили макеты каждой из восьми задач соревнования: пересеченная местность, дверь, трубопроводный вентиль, лестница и т. д., чтобы немедленно приступить к испытанию роботов. В июне, когда чиновники DARPA оценивали прогресс каждой группы, тщательность подготовки команды Shaft поразила Гилла Пратта – на тот момент у остальных команд еще и конь не валялся!

В сентябре два члена команды Schaft поехали на предварительную встречу DARPA, проводившуюся в Атланте параллельно с посвященной антропоморфным роботам конференцией Humanoids 2013. Они привезли видео, чтобы продемонстрировать свои успехи. Хотя японцы почти не говорили по-английски, видео поразило всех как удар молнии. Из него следовало, что они решили все проблемы программирования, в то время как конкуренты все еще осваивали программирование роботов. Два молодых инженера ушли со сцены, оставив других участников в шоке. Пару месяцев спустя на складе в Майами команда воссоздала испытательную трассу из фанеры. Хотя на носу уже был декабрь, душная, ненастная погода Майами и комары изводили исследователей. Приглядывавшего за командой местного охранника искусали так, что он попал в больницу с сильнейшей аллергией.

Ребята из Schaft установили станцию управления на длинном столе во вместительном здании. Работа с роботом была предельно простой, пользователи управляли машиной с помощью пульта от Sony Playstation PS3, прямо как в видеоигре. Оператор робота позаимствовал звуковые сигналы из игр Nintendo и добавил свою специальную звуковую обратную связь. Исследователи повторяли каждое задание много раз, пока робот не проходил маршрут на «отлично».

Гоночную трассу Homestead-Miami Speedway не удивить рычащими машинами. Когда она принимает гонки NASCAR, трибуны заполняют старые добрые парни с Юга. Но в декабре 2013 г. соревнования Robot Challenge окружала совсем другая атмосфера. Райберт назвал это «Вудстоком роботов». Он приехал, чтобы контролировать качество технической поддержки, предоставляемой Boston Dynamics, и устроить шоу с участием нескольких финансируемых Пентагоном четырехногих роботов. Эти машины периодически то проходили, то пробегали вдоль трассы на глазах у нескольких тысяч изумленных зрителей. Во время соревнований DARPA также устроило ярмарку роботов с несколькими десятками участников, которая привлекла заметное число посетителей и массу представителей СМИ.

Публично объявив о создании робототехнического подразделения Рубина за несколько недель до Robotics Challenge, Google лишь подчеркнула рост влияния робототехники на все аспекты жизни общества. В начале месяца в программе «60 минут» прошел телесюжет о Джеффе Безосе и Amazon, в котором Безос приводит Чарли Роуза[17] в лабораторию и показывает дрон-октокоптер, разработанный для беспилотной доставки товаров Amazon «через 30 минут»{184}. Репортаж вызвал новую волну дискуссий о растущей роли роботов в обществе. Складирование и дистрибуция коммерческих товаров давно стали масштабным бизнесом в Соединенных Штатах, и Amazon быстро превратилась в доминирующего низкозатратного игрока. Google собиралась соперничать с Amazon в сфере доставки всех видов товаров, и это означало автоматизацию складских процессов и приближение центров дистрибуции к потребителям. Ну а если склад находится недалеко от потребителя, например в нескольких кварталах в большом городе, почему бы не использовать дроны на «последней миле»? Казалось, будто научная фантастика стала реальностью, и ошеломленный Роуз не задавал острых вопросов.

Google, однако, представила собственный проект доставки с помощью дронов. Всего через несколько дней после феерии Amazon в программе «60 минут» New York Times сообщила об амбициях Google в сфере роботов, которые затмили то, что Безос обрисовал в телевизионных новостях. Рубин оставил должность главы подразделения по разработке телефонов на Android весной 2013 г. Хотя поговаривали, что он проиграл в борьбе за власть и вышел из фавора, на деле все было не так. Генеральный директор Google Ларри Пейдж открыл корпоративную чековую книжку и отправил Рубина в поход за покупками. Рубин потратил сотни миллионов долларов на приобретение талантов и лучших достижений в сфере робототехники. Google помимо Schaft получила Industrial Perception, Meka Robotics и Redwood Robotics, группу разработчиков антропоморфных роботов и манипуляторов из Сан-Франциско во главе с одним из лучших студентов Родни Брукса, а также Bot & Dolly, разработчика систем камер, использовавшихся для создания спецэффектов в кинофильме «Гравитация» (Gravity). Boston Dynamics была вершиной покупательского бума.

Приобретение Google тесно связанной с военными компании R & D породило множество домыслов. Многие предполагали, что Google, купив военную робототехническую фирму, может стать производителем оружия. Ничто не могло быть дальше от истины. Во время разговоров с технологами приобретаемых компаний Рубин рассуждал о роботах, которые могут справиться с задачами персонала службы доставки UPS и FedEx. Если Безос мечтал о доставке потребительских товаров по воздуху, то из грузовика службы Google Shopping Express к вашей двери должен был выходить робот. Рубин давно поддерживал тесную связь с Терри Гоу, генеральным директором гигантской китайской производственной компании Foxconn. Роботы вполне могли заменить какую-то часть миллиона «животных» Гоу.

Google выбрала исключительно удачный момент для обнародования своих планов. Robotics Challenge в декабре 2013 г. были пробой, а заключительный этап ожидался в июне 2015 г. DARPA устроило на первых соревнованиях два «заезда» – один для команд с собственными роботами, а другой для команд с роботами Atlas компании Boston Dynamics. Предварительный этап стал презентацией нового направления деятельности Google. Рубин с небольшой свитой прибыл в аэропорт Майами на корпоративном самолете Google G5, где его ждали два автобуса с кондиционерами, арендованные для мероприятия.

Соревнования включали восемь самостоятельных заданий, которые предстояло выполнить за два дня. У команд с роботами Atlas было не так много времени на программирование и тренировку, и это сказалось на результатах. По сравнению с ловкими четвероногими демонстрационными роботами Boston Dynamics участники соревнований выглядели медлительными. Еще одним свидетельством не слишком высоких достижений было то, что роботов страховали чем-то вроде лонжи во избежание повреждения в результате падения.

DARPA также предоставляло небольшой перерыв при выполнении теста на вождение, чтобы помощники могли усадить робота в автомобиль и соединить его с рулем и тормозами перед поездкой по короткой трассе с препятствиями. Даже лучшие команды, включая Schaft, преодолевали трассу с частыми остановками, чтобы сориентироваться. Такая медлительность поразительно напоминала робота Shakey, созданного десятилетия назад в SRI. Роботы по-прежнему не были автономными. Управлявшие ими люди находились в гаражах, а роботы выполняли свои задачи на поле внутри трассы. Для связи использовалась волоконно-оптическая сеть, по которой видеоинформация и данные с датчиков поступали на рабочие станции операторов. Чтобы усложнить задачу команд и создать ощущение реального кризиса, DARPA через регулярные интервалы нарушало передачу данных. Это привносило заминки в движение даже лучших роботов, и присутствовавшие корреспонденты мучались в поиске менее избитых метафор, чем «ожидание, пока вырастет трава» и «ожидание, пока высохнет краска», при описании действа.

Так или иначе соревнования DARPA Robotics Challenge достигли поставленной цели: выявить ограничения существующих роботизированных систем. По-настоящему автономные роботы еще не стали реальностью. Даже прыгающие и бегающие машины Boston Dynamics, выступавшие на асфальтированной трассе, контролировались операторами через беспроводную связь. Вместе с тем было ясно, что настоящие автономные роботы появятся очень скоро. Если соревнования автономных автомобилей в 2004–2007 гг. значительно ускорили развитие беспилотников, то Robotics Challenge приблизили реализацию мечты Гилла Пратта о роботе, который может работать в опасной среде, и созданного Энди Рубином образа робота Google для автоматизированной доставки. Трасса Homestead-Miami также показала, что есть два подхода к определению облика приближающегося мира людей и роботов. Один – симбиоз человека и машины, проповедуемый Джозефом Ликлайдером, другой – все более широкое вытеснение людей машинами. Как говорил Норберт Винер еще на заре эры компьютеров и роботов, одна из будущих возможностей безрадостна для людей. Выход из этого тупика показал Терри Виноград, ставивший человека в центр проекта.

На трассе Homestead-Miami начало темнеть, и бегавший туда-сюда робот-бык стал походить на призрак. Механизм быка мягко рычал, двигая его механические ноги взад и вперед, а ящик на боку отбивал стаккато. Оператор вел робота с комфортной скоростью. С наушниками и полным коммуникационного оборудования ранцем, он держал пульт, как для видеоигр, но значительно большего размера. Хитроумное устройство пробежало мимо гаражей, где группы инженеров и программистов сосредоточенно работали с роботами после дневных соревнований.

Соревнования DRC напоминали сцену в баре из фильма «Звездные войны. Эпизод IV: Новая надежда». Большинство роботов Boston Dynamics были гуманоидами, что объяснялось просто: двуногие лучше взаимодействуют с созданной человеком средой, чем другие формы. На соревнованиях присутствовали и более странные создания, например «трансформер» из Университета Карнеги – Меллона, похожий на роботов из японских научно-фантастических фильмов, и пара паукообразных шагающих машин. Самым привлекательным был робот Valkyrie из NASA, который напоминал женщину-штурмовика Империи из «Звездных войн». К сожалению, Valkyrie оказался одним из трех неудачно выступивших роботов – он не выполнил ни одного задания. У инженеров NASA было мало времени для доработки своей машины из-за отсутствия финансирования в связи с приостановкой деятельности федерального правительства.

На двухдневном мероприятии явно блистал робот команды Schaft. Его разработчики, примерно десяток японских инженеров, были единственной командой, которая почти идеально выполнила все задания и победила на первых соревнованиях Robotics Challenge. Робот Schaft допустил единственную ошибку: он попытался пройти через захлопнувшуюся от порыва ветра дверь. Порывы ветра несколько раз вырывали дверную ручку из захвата японского робота, прежде чем он протянул вторую руку, чтобы зафиксировать пружинный доводчик.

Пока шли соревнования, Рубин занимался переселением своих японских робототехников в просторный, площадью 2800 м² офис на самом верху небоскреба в Токио. Чтобы разработчики не мешали другим арендаторам, в данном случае адвокатам, Google купила два этажа в здании и превратила один из них в буфер для звукоизоляции.

В преддверии Robotics Challenge несколько конкурирующих команд и Boston Dynamics выпустили видео с демонстрацией способностей Atlas. В большинстве роликов роботы ходили по ровной поверхности, показывали умение держать равновесие и поворачиваться. Но в одном из них с участием прототипа Atlas робот поднимался по лестнице и пересекал участок с ямой, делая большой шаг и опираясь руками о стены. Он двигался со скоростью и ловкостью человека. Сцену тщательно срежиссировали, а роботом (он не был автономным) дистанционно управлял оператор{185}. Выводы, однако, были очевидны – «механическая часть» уже позволяет роботам перемещаться в реальном мире при наличии соответствующих программ и датчиков.

Несмотря на неоднозначную реакцию публики на ролик, команде Schaft он понравился. После победы, к удивлению членов команды, робот-бык Boston Dynamics подбежал к их гаражу, плюхнулся на землю и отключился. Все столпились вокруг него и открыли ящик на боку. В нем была дюжина шампанского и поздравление от инженеров Boston Dynamics. Они стремились побыстрее установить контакт с новичками, с которыми им предстояло работать над будущим мобильным роботом Google.

Инженерам Google хотелось произвести эффект. В ходе планирования демонстрации достижений Boston Dynamics на гоночной трассе руководители одной из компаний Рубина придумали, как лучше представлять их в течение двухдневных соревнований. Самым интересным на них оказалось не наблюдение за роботами, выполняющими задания. Настоящими хитами стали четвероногие роботы LS3 и Wildcat, которые сновали туда-сюда по трассе. Робот LS3, похожий на быка без головы, рычал, двигаясь решительным шагом. Время от времени сотрудник Boston Dynamics толкал машину, но робот ловко отклонялся и быстро восстанавливал равновесие, будто ничего и не было. Google первоначально хотела организовать что-то более внушительное. Что, если показать робота-собаку, преследующую робот-автомобиль? Это было бы зрелищно. Но в DARPA зарубили идею. Такое действо смахивало на рекламу Google, да и реакция на нее могла быть не самой лучшей. В конце концов, если роботы могут гоняться друг за другом, что им стоит погнаться еще за кем-то?

Команда Schaft быстро расправилась с шампанским. Эта ночь была бурной для молодых японских инженеров. Один из исследователей, бродивший, пошатываясь, с бутылкой шампанского в руке, на следующий день оказался в больнице с жестокой головной болью. Значение победы Shaft было предельно ясно группе из трех десятков робототехников, собравшихся перед гаражом Schaft. Новая команда Рубина имела общую цель. Скоро машины будут постоянно находиться среди людей и неизбежно возьмут на себя значительную часть тяжелой работы. Создание роботов, способных делать все от приготовления кофе до загрузки грузовиков, было вполне под силу инженерам.

Робототехники Google не сомневались, что в конечном счете машины заменят людей. При достаточной вычислительной мощности и хороших программах инженеры, казалось, могут смоделировать любые качества и способности человека, включая зрение, речь, чувственное восприятие, подвижность, а может быть, и самосознание. Разумеется, для них было немаловажно сознавать, что их работа несет благо обществу. Хотя в краткосрочной перспективе вытеснение людей вело к конфликтам, они считали, что в конечном итоге автоматизация повысит общее благосостояние человечества. Именно этого хотел добиться Рубин. Тем вечером он в стороне от толпы тихо разговаривал с несколькими инженерами, собиравшимися отправиться в новое путешествие, чтобы ввести роботов в мир. Рубин крупно выиграл уже на старте, и это говорило о надежности его команды. Он поспорил с Ларри Пейджем на свою годовую зарплату, что команда Schaft выиграет соревнования DARPA. К счастью для Пейджа, годовой оклад Рубина составлял всего один доллар. Впрочем, как и у многих руководителей Google, его реальное вознаграждение было намного, намного выше. Однако спустя год после основания робототехнического подразделения компании Рубин ушел из компании. Он приобрел репутацию одного из самых элитных технологов Долины, но, по его собственному утверждению, ему было интереснее создавать новые проекты, а не управлять ими. После его внезапного ухода в конце 2014 г. до создания царства роботов, которое он намеревался построить, было еще очень далеко.

После соревнований в Хомстеде Энди Рубин пояснил, что его конечная цель – создание робота, способного выполнить любое из конкурсных заданий после простого нажатия на кнопку. В конечном счете этому не суждено было осуществиться. Несколько месяцев спустя Google отозвала Schaft с финала, чтобы сосредоточиться на поставке роботов Atlas второго поколения для других команд.

Сегодня лабораторию робототехники Google можно найти в самом сердце Кремниевой долины на Саут-Калифорния-авеню, отделяющей Колледж-Террас, традиционный студенческий район, когда-то наполненный бунгало, а теперь приобретающий все более фешенебельный вид, от Стэнфордского технопарка, который можно с полным основанием назвать местом рождения Долины. Занимающий около 280 га на землях бывшей фермы семьи Леланда Стэнфорда-младшего, технопарк был детищем декана Стэнфордского университета Фредерика Термана, убедившего своих студентов Уильяма Хьюлетта и Дэвида Паккарда остаться на Западном побережье и начать собственное дело там вместо более традиционной карьеры на Востоке в крупных электронных компаниях первой половины прошлого столетия.

Стэнфордский технопарк давно превратился из производственного центра в район корпоративных кампусов. Под сенью Стэнфордского университета приютились штаб-квартиры, исследовательские центры, адвокатские конторы и финансовые компании. На Саут-Калифорния-авеню и Хановер-стрит в 1970 г. находился исследовательский центр Xerox Corp., где небольшая группа исследователей создала компьютер Alto. Smalltalk, программное обеспечение Alto, разработала другая группа PARC во главе с ученым-компьютерщиком Аланом Кеем, студентом Айвена Сазерленда в Университете Юты. В поисках конкурентного преимущества перед IBM на нарождающемся рынке офисных компьютеров Xerox намеревалась построить в технопарке лабораторию мирового класса.

Больше чем на десятилетие опередивший свое время Alto был первым современным персональным компьютером с многооконным дисплеем со шрифтами и графикой, позволявшими воспроизводить точную копию того, что получается на печати (т. е. режим WYSIWYG – «что видишь на экране, то получаешь на печати»). Для управления компьютером к нему с помощью кабеля подключали странное катающееся устройство с тремя кнопками, называемое мышью. Для тех, кто видел Alto еще на стадии секретной разработки, он был воплощением идеи Энгельбарта об усилении интеллекта. И это не удивительно. Одним из исследователей был знаменосец контркультуры Стюарт Бранд, фотограф, автор и редактор, вдохновитель выпуска «Каталога всей Земли». В статье для журнала Rolling Stone Бранд назвал PARC «скромным исследовательским центром», а позже ввел в употребление термин «персональный компьютер». В наше время, более четырех десятилетий спустя, настольные персональные компьютеры PARC стали портативными и доступными значительной части населения мира.

Сейчас лаборатория робототехники Google располагается всего в нескольких сотнях метров от здания, где пионеры из Xerox задумали PC. Такая близость подчеркивает символичность идеи Энди Рубина «дать компьютерам ноги и позволить им двигаться». На фоне движения от давней задумки Уильяма Шокли построить «автоматического обучаемого робота» к Xerox PARC и появлению PC, а потом назад, к стартапам Google с их мобильными роботами, близость двух лабораторий лишний раз показывает, как эта индустрия кидается из одной крайности в другую – то расширяет возможности людей, то заменяет их, то переключается с искусственного интеллекта на усиление интеллекта, то возвращается обратно.

Лаборатория робототехники Google не выделяется снаружи ничем примечательным. Однако на лестничной площадке стоит впечатляющая трехметровая стальная статуя, но вот кого… По виду это не совсем робот. Может быть, она изображает какое-то инопланетное существо? А может быть, репликанта? Проект Рубина имел кодовое название «Репликант» – оно, конечно, было навеяно фильмом «Бегущий по лезвию». Цель Рубина состояла в создании и серийном выпуске антропоморфного робота, который мог действовать в реальном мире – доставлять посылки, работать на фабриках, ухаживать за престарелыми, сотрудничать с людьми и, возможно, заменять их. Он намеревался довести до конца то, что начиналось почти полвека назад в Стэнфордской лаборатории искусственного интеллекта (SAIL).

Исследования, начатые SAIL, породили поколение студентов вроде Кена Солсбери. Молодой инженер Солсбери считал себя не столько «создателем искусственного интеллекта», сколько «оператором». Он обучался в традиции Норберта Винера и не считал, что интеллектуальным машинам нужна автономность. У него был достаточный опыт работы в сфере автоматизации, чтобы видеть изменение баланса между человеком и машиной, и он предпочитал сохранять людей в контуре управления. Солсбери хотел построить робота, который, например, мог пожать вам руку и при этом не сломать ее. К счастью для него, роботы обретали автономность медленно. Проблема приближения к человеку, которому достаточно было сказать «возьми вон ту красную тряпку», решению не поддавалась.

Солсбери напрямую столкнулся с парадоксом, описанным Хансом Моравеком, – самые трудные для людей вещи легче всего даются машинам, и наоборот. Этот парадокс был обнаружен исследователями в 1980-х гг., и Моравек упомянул о нем в своей книге «Дети разума»: «Компьютеры сравнительно легко показывают результаты на уровне взрослого человека при проверке умственных способностей или при игре в шашки, но крайне трудно, а то и невозможно наделить их способностями годовалого малыша, когда дело доходит до восприятия и подвижности»{186}. Джон Маккарти, бывало, демонстрировал эту проблему, предлагая студентам сунуть руку в карман, нащупать монету и определить ее достоинство. Попробуйте создать робота, который мог бы сделать это! Десятилетия спустя Родни Брукс начинал свои лекции с такого же предложения. Человек делал это легко. Хотя машины могут играть в шахматы, побеждать в «Своей игре» и водить автомобили, в мире осязания и восприятия мало что изменилось.

Солсбери представлял поколение студентов, которые вышли из SAIL во время ее расцвета в 1970-е гг. Во время учебы в магистратуре Стэнфорда он превратил манипулятор для совместного с Лабораторией реактивного движения проекта из механического захвата в более похожее на руку человека устройство. Его диссертация была посвящена геометрии манипуляторов, но Солсбери стремился создать что-то работающее. Он не ложился спать всю ночь перед защитой, пока не заставил двигаться все пальцы.

Он получил степень доктора философии в 1982 г., через год после Брукса. Оба в конечном итоге перешли в Массачусетский технологический институт на преподавательскую работу. Там Солсбери вел исследования в области осязания, считая его ключом к решению ряда проблем в робототехнике. Там же он подружился с Марвином Мински и часами спорил с ним о подходах к конструированию рук роботов. Мински хотел усеять руки датчиками, а Солсбери считал, что прочность важнее восприятия, и многие разработки стали компромиссом между этими двумя вариантами.

Как преподаватель в Лаборатории искусственного интеллекта Массачусетского технологического института он работал со студентом Томасом Масси над переносным контроллером, который должен был служить компьютерным интерфейсом, превращающим трехмерные образы в нечто такое, что можно потрогать и почувствовать. Эта технология стирает границу между виртуальным компьютерным миром и реальностью. Масси (позже он стал представляющим Кентукки конгрессменом от Республиканской партии) и его жена, оба инженеры-механики, превратили идею в компанию Sensable Devices, которая создала недорогое тактильное устройство. После академического отпуска, который он взял, чтобы помочь основать Sensable и Intuitive Surgical, расположенный в Кремниевой долине стартап по разработке хирургических роботов, Солсбери вернулся в Стэнфорд, где в 1999 г. создал лабораторию робототехники.

В 2007 г. он со своими студентами Эриком Бергером и Кинаном Вайробеком сделал PR1, или «Персонального робота 1». На машину мало кто обратил внимание. Однако она могла выйти из здания, купить кофе для Солсбери и вернуться. Робот просил Солсбери дать ему денег, затем проходил через три тяжелые двери. Он открывал каждую из них наполовину за ручку и, повернувшись боком, проходил через проем. После этого PR1 шел к лифту, вызывал его, убеждался, что внутри нет людей, входил в кабину, нажимал кнопку третьего этажа и удостоверялся, что лифт доехал до нужного этажа, с помощью визуальных ориентиров. Выйдя из лифта, робот подходил к кофейному автомату, покупал кофе и приносил его в лабораторию, не пролив ни капли и прежде, чем напиток успевал остыть.

PR1 немного смахивал на гигантскую кофейную банку с руками, колесами с электроприводом и стереокамерами вместо глаз. На его создание ушло 18 месяцев и около $300 000. Обычно им дистанционно управлял оператор, за исключением случаев выполнения заранее запрограммированных задач (например, принести кофе или пиво). Он мог держать в каждой руке около 5 кг и выполнять разные работы по дому. На YouTube выложен впечатляющий видеоролик, где PR1 убирает гостиную. Однако им, как и роботом Atlas компании Boston Dynamics, управляет оператор, а видео ускорено в восемь раз, чтобы скорость его движения казалась сопоставимой со скоростью человека{187}.

Проект PR1 вышел из лаборатории Солсбери в то время, когда молодой преподаватель Стэнфорда Эндрю Ын, эксперт в области машинного зрения и статистических методов, работал над аналогичным, но в большей мере сконцентрированным на программном обеспечении проектом под названием «Стэнфордский робот с искусственным интеллектом», или STAIR. Как-то Ын выступал с докладом о STAIR в рамках программы взаимодействия с промышленными компаниями. В числе слушателей находился выпускник Стэнфорда Скотт Хассан, который разработал для Google алгоритм PageRank, основу поисковой системы компании.

«Пришло время создать робота с искусственным интеллектом», – сказал Ын собравшимся и добавил, что хотел бы видеть робота в каждом доме. Идея нашла отклик у Хассана. Сначала он учился по специальности «информатика» в Университете штата Нью-Йорк в Буффало, а затем занимался по магистерским программам по вычислительной технике в Университете Вашингтона в Сент-Луисе и в Стэнфордском университете, но бросил их, так и не получив степени. Оказавшись на Западном побережье, он принял участие в проекте создания архива интернета Брюстера Кейла, который ставил задачей сохранить копию всех веб-страниц в интернете.

За создание PageRank Ларри Пейдж и Сергей Брин рассчитались с Хассаном акциями компании. Другой свой проект по поиску информации E-Groups Хассан продал компании Yahoo! почти за $500 млн. К тому времени он был очень богатым представителем Кремниевой долины, ищущим интересные проекты.

В 2006 г. Хассан поддержал и Ына, и Солсбери и предложил студентам Солсбери работу в Willow Garage, лаборатории по созданию роботов следующего поколения, в частности беспилотных автомобилей. На взгляд Хассана, домашний робот скорее мог найти свое место на рынке, поэтому он нацелил Willow Garage на создание робота PR2, т. е. на разработку технологии, которая была бы пригодна для других более эффективных проектов.

Себастьян Трун начал устанавливать связи в Кремниевой долине во время творческого отпуска в Университете Карнеги – Меллона несколькими годами ранее. В числе его знакомых был Гари Брадски, эксперт в сфере машинного зрения из Intel Labs в Санта-Кларе. Этот самый крупный в мире производитель микросхем разработал производственную стратегию под названием «точная копия» – подход к созданию новых технологий производства микросхем все меньшего размера. Intel отрабатывала новую технологию на предприятии-прототипе, а затем без изменения переносила ее на массовое производство. Такая организация требовала дисциплины, а Брадски был чем-то вроде «дикой утки» (так в IBM называли сотрудников, которые отказывались лететь в общем строю) в строго регламентированной культуре Intel.

Беглец из сообщества биржевых аналитиков на Восточном побережье, Брадски пришел в Intel в 1996 г. и целый год занимался такими скучными и утомительными задачами, как создание библиотеки программ для обработки изображений. После такого испытания его перевели в исследовательскую лабораторию и допустили к интересным проектам. Брадски вырос в Пало-Альто, а потом уехал в Беркли и Бостонский университет, чтобы изучать физику и искусственный интеллект. Однако сидевший в нем предпринимательский дух Кремниевой долины заставил его вернуться.

Некоторое время Брадски писал научные статьи о машинном зрении, но вскоре понял, что они не дают отдачи. Статьи приносили уважение в таких местах, как Беркли, Стэнфорд и Массачусетский технологический институт, но они мало что значили в остальной части Кремниевой долины. Кроме того, до него дошло, что уникальность Intel – ее финансовые возможности. Этим надо было пользоваться. «Я должен сделать нечто большее», – подумал он.

Проработав в Intel год, Брадски познакомился с русскими программистами высшей квалификации, которые сотрудничали с производителем микросхем по контракту, и понял, что они могут быть для него важным ресурсом. В то время популярность движения за программное обеспечение с открытым исходным кодом была на пике. Брадски, имевший опыт работы в сфере машинного зрения, сориентировался и решил создать библиотеку открытых программных средств машинного зрения. Операционная система Linux наглядно показывала, что доступ программистов всего мира к общему набору инструментов значительно облегчает работу каждого. «Я должен дать всем такой инструмент в области исследования машинного зрения», – решил он.

Пока его босс был в творческом отпуске, Брадски запустил свою «Открытую библиотеку машинного зрения» (Open Source Computer Vision – OpenCV), библиотеку программного обеспечения, которая облегчила исследователям разработку приложений для аппаратных средств Intel. Брадски был сторонником стиля, который иногда приписывают адмиралу Грейс Хоппер и которого нередко придерживаются те, кто хочет добиться цели в крупных организациях. Девиз стиля – «Лучше просить прощения, чем спрашивать разрешения». В конечном итоге OpenCV вобрала в себя более 2500 алгоритмов в сфере машинного зрения и машинного обучения. OpenCV также включала программы, которые могли распознавать лица, идентифицировать объекты, различать движения людей и т. д. Первоначальная команда Брадски из нескольких исследователей Intel превратилась в сообщество более чем 47 000 пользователей, и к настоящему времени скачано больше 10 000 000 копий инструментария.

Понимая, что однажды он уйдет из Intel и ему потребуется эффективный набор инструментов для следующего проекта, Брадски разработал второй план. OpenCV должна была стать его визитной карточкой. Разработки в сфере программного обеспечения с открытым кодом пользовались поддержкой в Intel, поскольку компания хотела иметь рычаги давления в непростых отношениях с Microsoft. Эти две компании доминировали в индустрии персональных компьютеров, но часто конфликтовали в вопросах контроля, стратегического направления и – в конечном счете – дохода. Некоторое время Брадски пользовался очень серьезной поддержкой в лаборатории: в какой-то момент в его проекте OpenCV работали 15 исследователей. Это был звездный час в его карьере в Intel.

Руководство Intel премировало его подразделение и сказало: «Хорошо, но нужно идти дальше». «Что вы имеете в виду? – спросил Брадски. – Этот проект на десятилетие». С неохотой он занялся другими вещами, но скрытно продолжил проект OpenCV на стороне. В гигантской полупроводниковой компании на это смотрели косо. Одному из его русских программистов руководство дало на аттестации оценку «необходимо повысить качество работы» по той причине, что тот был связан с проектом.

Брадски расстраивало нежелание Intel оценить проект по достоинству. В 2001 г. Intel ликвидировала занимавшееся фотоаппаратами подразделение, что стало последней каплей. «Опять подход в духе недальновидного бухгалтера, – решил он. – Конечно, это низкорентабельные полупроводники, но это товар, продаваемый в убыток для привлечения покупателей, от которого в конечном счете выигрывает бизнес в целом!» Брадски понятия не имел, что до прихода мобильных компьютеров и смартфонов оставалось всего полдесятилетия, но в тот момент он был прав. Intel не раз бралась за новые идеи и отказывалась от них, прежде чем они могли принести плоды. На фоне разочарования его с легкостью переманил Себастьян Трун, который тогда собирал в Стэнфорде команду для создания беспилотного автомобиля Stanley для соревнований DARPA 2005 г.

Они познакомились в Стэнфорде во время творческого отпуска Труна в 2001 г. Когда Трун в 2003 г. вернулся туда в качестве преподавателя, недовольный ситуацией в Intel Брадски сам собирался взять творческий отпуск в EPFL, Технологическом институте Лозанны, Швейцария. Трун сказал: «Почему бы тебе вместо этого не приехать в Стэнфорд?» Брадски стоял перед трудным выбором. В Швейцарии его ждал научный пир и большой праздник – возможность работать над нейронными сетями и эволюционными алгоритмами обучения. К вечеру он понял, что творческий отпуск в EPFL будет шагом в сторону для того, кто стремится быть предпринимателем. Швейцарская бюрократия обескураживала: чтобы дети могли учиться в частной школе, нужно было договариваться за год, аренда дома в Лозанне выливалась в проблему – один потенциальный арендодатель сказал, что после 22:00 душ не работает, а детям запрещается шуметь!

Поэтому Брадски передумал и отправился в творческий отпуск в относительно либеральный Стэнфорд. Он читал лекции и вынашивал идеи нового стартапа. Его первый проект предполагал создание продвинутой камеры видеонаблюдения, но у партнера были другие планы, и их отношения быстро испортились. Брадски отступил. К этому времени творческий отпуск закончился, он вернулся на работу в Intel и стал руководителем большой исследовательской группы. Управленческая работа доставляла очень много хлопот, и он попытался сократить группу до прежней команды.

Прежде Брадски не обращал внимания на неудовлетворенность других исследователей, но теперь заметил, что недовольные были и в других подразделениях. Он примкнул к подпольной лаборатории недовольных. Как-то при посещении Стэнфорда Трун сказал: «Загляни-ка на нашу автостоянку». Там он показал Брадски секретную разработку, автомобиль Stanley, который готовили к участию во втором состязании DARPA Grand Challenge. Ничего круче этого Брадски еще не встречал и сразу же влюбился в идею. Вернувшись в Intel, он сколотил тайную группу разработчиков, чтобы помочь в создании системы машинного зрения для автомобиля. Спрашивать у кого-либо разрешение он не собирался – технические совещания проводились во время ланча, а по вторникам проходили встречи со стэнфордской командой.

Практически сразу возникли две проблемы. После того как Intel дала обещание не участвовать непосредственно в DARPA Grand Challenge, она стала спонсировать команду Рэда Уиттакера из Университета Карнеги – Меллона. Босс Брадски начал получать жалобы, что Брадски отвлекает людей от их прямых задач. «Это может кончиться увольнением, – сказал босс. – Мы не спонсируем стэнфордскую команду и не занимаемся робототехникой». В качестве поблажки босс разрешил Брадски продолжить работу над проектом лично без привлечения других исследователей лабораторий Intel. Но к тому времени Брадски уже не боялся увольнения. Оно намного все упрощало, и совещания во время ланча участились.

Напряженность в отношениях с Intel достигла кульминации за два дня до гонки. Автомобили и команды прибыли в Примм, небольшой городок с тремя казино на границе Калифорнии и Невады. Брадски позвонил в маркетинговый отдел Intel и сказал, что нужно срочно принять решение, будет ли Intel официально спонсировать автомобиль Стэнфорда. Рекламная наклейка на автомобиль обычно стоила $100 000, но Трун сказал, что команда Брадски очень здорово помогла и они получат статус спонсора всего за $20 000. Сотруднику из отдела маркетинга Intel идея понравилась: спонсирование двух автомобилей удвоило бы шансы Intel поддержать победителя, но он медлил. «Деньги есть, но я не могу самостоятельно распорядиться ими», – сказал клерк.

«Скоро автомобили изолируют, у нас всего полчаса в запасе», – ответил Брадски.

Это сработало. «Хорошо, действуйте», – сказал клерк.

Поскольку это было сделано в последний момент, на автомобиле не осталось места для наклеек за исключением окна пассажира – очень заметное положение. Stanley, украшенный наклейкой Intel, выиграл гонки, так что ход был удачным. Брадски избежал увольнения.

Успеху Stanley в немалой мере способствовала система зрения. Автомобиль был оснащен лазерами, которые отслеживали динамическое облако точек вокруг автомобиля, и цифровыми камерами. Камеры просматривали пространство впереди на достаточное расстояние, чтобы Stanley мог держать скорость и не замедляться. А скорость, понятное дело, необходимое условие победы.

Триумф, однако, длился недолго. У Брадски был небольшой контракт с DARPA на исследование «когнитивной архитектуры» вместе с Труном и Дафной Коллер, еще одним специалистом по машинному обучению из Стэнфорда. Но руководитель программ DARPA объявил о своем уходе, возобновление гранта оказалось под вопросом, и перед Брадски встала проблема поиска финансирования в другом месте. Как и следовало ожидать, Фазу II аннулировали как «излишне амбициозную».

Брадски очень увлекался робототехникой и использовал часть гранта на покупку манипулятора. Покупка стоимостью $20 000 произвела взрывной эффект в юридическом отделе Intel. Там настаивали, что деньги предназначены только для найма молодых специалистов, а не для покупки оборудования, и манипулятор пришлось отдать. Брадски передал его проекту STAIR Стэнфорда, которым руководил Эндрю Ын. Ын подходил к исследованию мира робототехники с идеями машинного обучения. Можно ли создать робота, способного загрузить и разгрузить посудомоечную машину? Манипулятор стал вкладом в совместную работу лаборатории Солсбери и Ына, которая привела к созданию робота PR1.

Бюрократия Intel казалась Брадски все более обременительной. Он понимал, что пришло время уходить, и быстро нашел себе место в израильском стартапе, занимавшемся машинным зрением, в Сан-Матео. Проект OpenCV он забрал с собой. Но стартап оказался не самым удачным выбором. Израильтяне были конфликтными, и Брадски постоянно бодался с техническим директором, бывшим сержантом израильской армии. Обычно его аргументы одерживали вверх, но победа давалась нелегко. Пробыв в новой компании всего год, он снова начал искать работу.

Было трудно искать работу, не привлекая внимание. Он вел переговоры с компанией Facebook, но они не делали ничего интересного в области машинного зрения. «Приходите в любом случае, – сказали ему. – Мы найдем, чем вас занять». Их кадровая служба показалась Брадски очень неорганизованной. На собеседовании ему заявили, что он опоздал. Пришлось предъявить электронное письмо, из которого следовало, что он прибыл вовремя.

«Хорошо, – сказали ему, – час назад вам следовало быть в соседнем здании».

Соседнее здание оказалось запертым и темным. Мелькнула мысль, что это, может быть, такой способ проверки годности к работе и что за его действиями следит камера. Он пинал дверь ногой до тех пор, пока ее не открыли. Вышедший ничего не сказал, но было очевидно, что Брадски разбудил его. Парень оставил дверь открытой, чтобы Брадски мог войти, и молча ушел. Брадски сидел в темном здании и ждал, через некоторое время пришел администратор и извинился за опоздание. Записи о запланированном интервью не оказалось, и он позвонил специалисту по подбору кадров, который, предположительно, все это организовал. После множества извинений и отговорок встреча Брадски с техническим директором Facebook все же состоялась. Несколько дней спустя у него было второе интервью с более высокопоставленным руководителем. Предложение Facebook дало бы ему много средств, но работа там не привлекала. Не нашедший себя в израильской компании Брадски чувствовал, что ему будет скучно в Facebook, где, скорее всего, придется заниматься неинтересными проектами. Поэтому он тянул время. Чем дольше он не соглашался, тем больше Facebook предлагала ему. В тот момент эта работа, наверное, принесла бы ему миллионы долларов, но оставила бы неудовлетворенным.

Однажды Эндрю Ын позвонил Брадски и сказал, что встречается с интересной новой группой робототехников в исследовательской лаборатории под названием Willow Garage. Она была основана Хассаном и больше походила на исследовательскую организацию, чем на стартап. Хассан собирался нанять 70–80 робототехников, чтобы экспериментировать наугад. Это было в духе Кремниевой долины: лаборатории, подобные Xerox PARC и Willow Garage, не были напрямую ориентированы на создание продуктов. Они экспериментировали с технологиями, что часто приводило к неожиданным результатам. Xerox создала PARC в 1970 г., а Пол Аллен финансировал Дэвида Лиддла, чтобы тот создал Interval Research в 1992 г. «по образу и подобию PARC». Идея состояла в том, чтобы «жить в будущем», разрабатывая технологии, которые еще сыроваты, но скоро созреют. Теперь же было похоже, что робототехника созрела для коммерческого применения.

Поначалу Брадски сомневался, стоит ли тратить силы на мимолетное знакомство во время ланча. Ему нужно было обернуться очень быстро, чтобы израильтяне не заметили его отсутствия. Ын настаивал. Брадски знал, что Эндрю обычно не ошибался в таких вопросах, и решил попробовать. Все вдруг встало на свои места. Во второй половине дня Брадски был все еще там, и его уже не волновала судьба стартапа. Он нашел свое место. В конце дня, все еще находясь на автостоянке Willow Garage, он позвонил в Facebook и сказал, что их предложение ему не интересно. Вскоре он ушел и из своего стартапа.

В декабре 2007 г. Брадски стал руководителем группы, занимавшейся зрением для следующего поколения роботов, которое должно было превратить PR1 в PR2. Они построили робота и провели ряд тестов. Хотелось, чтобы робот умел не только доставать пиво из холодильника. Был устроен «марафон» – забег робота на 40 км в офисе компании в присутствии соучредителя Google Сергея Брина. Позже робота научили подключаться к 10 стенным розеткам. «Теперь они могут убежать и постоять за себя», – сообщил Брадски друзьям по электронной почте.

PR2 не был первым мобильным роботом, способным подключаться к электросети. Эта честь выпала мобильному автомату Beast, созданному Лабораторией прикладной физики в Университете Джона Хопкинса в 1960 г., но кроме этого он мало что умел{188}. PR2 был новым воплощением Shakey полстолетия спустя. На этот раз робот был намного более подвижным. Один из восьми PR2, распределенных между университетами, попал к робототехнику Калифорнийского университета в Беркли Питеру Аббилу. Он со своими студентами научил машину складывать белье, хотя и очень медленно.

Хотя команда Willow Garage добилась серьезного прогресса, исследования ясно показали, насколько далеко им до создания машины, способной автономно функционировать в обычном доме. Ветеран робототехники из SRI Курт Конолиге, принятый Брадски на работу в Willow Garage, сказал, что такие проекты растягиваются на десятилетия. Приходится десятки раз прорабатывать каждый шаг, прежде чем все получится как надо.

В конце концов, как и у Пола Аллена, который поставил крест на Interval Research не через 10 лет, как планировалось, а всего через восемь, терпение Скотта Хассана стало подходить к концу. Брадски и Конолиге с тревогой наблюдали, как команда Willow Garage проводит бесконечные мозговые штурмы в поисках идей домашнего робота, которые можно было бы относительно быстро коммерциализировать. Оба понимали, что лаборатории грозит закрытие. Брадски полагал, что знает, кого на самом деле люди хотят иметь дома, – французскую горничную, но это, увы, было неосуществимо в ближайшее время. На встречах с Хассаном Брадски просил разрешить его команде сосредоточиться на производственных роботах, но каждый раз получал отказ. Хассан во что бы то ни стало хотел получить домашнего робота. В конце концов Конолиге махнул рукой на совещания и отправился в плавание на каяке.

Какое-то время Брадски пытался быть командным игроком, но потом понял, что возвращается в мир компромиссов, который он оставил в Intel.

«Какого черта, – подумал он. – Это не для меня. Надо делать то, что хочется».

Брадски начал думать о возможностях применения роботов в промышленности – от перемещения ящиков до сборки изделий с помощью манипуляторов. Встречи с представителями промышленности показывали, что компании очень ждут роботов. Он заявил генеральному директору Willow, что им нужен план B на случай, если задумка с домашним роботом не выгорит. Директор, хотя и с неохотой, все же позволил Брадски сформировать небольшую группу для проработки возможностей промышленного применения роботов.

Соединив манипуляторы с новой технологией машинного зрения, группа Брадски добилась серьезного прогресса, но он старался поменьше говорить Хассану об успехах. Он знал, стоит только заикнуться об этом и проект тут же будет поставлен на коммерческие рельсы. Ему не хотелось выпасть из «гнезда» Willow Garage, прежде чем он будет готов организовать новое предприятие. В начале 2012 г. один из программистов разболтал основателю Willow Garage об их успехах и интересе промышленности к робототехнике. Хассан послал группе электронное письмо: «Завтра я начну финансировать это, встретимся в пятницу утром».

С Конолиге и несколькими другими сотрудниками при финансовом участии Хассана Брадски создал Industrial Perception, Inc., компанию по разработке специализированных манипуляторов для погрузки-разгрузки грузовиков, например машин для доставки посылок. После ухода Брадски в Industrial Perception лаборатория Willow распалась. Из нее вышли пять компаний, несколько команд, занимающихся стандартами для роботов, и консалтинговая фирма. Это был провал – домашние роботы, если не считать роботов-пылесосов, так и остались далекой целью.

Новая компания Брадски начала работу в промышленном районе Южного Пало-Альто. Штаб-квартира находилась в большом гараже и состояла из разделенного на офисы помещения и большого голого пространства, где находились горы коробок, непрерывно переставляемые роботами. К этому времени Industrial Perception привлекла интерес таких гигантов, как Procter & Gamble, которая стремилась интегрировать технологии автоматизации в свое производство и дистрибуцию. Но главное, у Industrial Perception был потенциальный первый заказчик: гигантская компания по доставке посылок UPS серьезно обдумывала замену роботами рабочих на погрузке и разгрузке грузовиков.

Industrial Perception появилась всего лишь на одной выставке Automatica в Чикаго в январе 2012 г. Оказалось, даже такая реклама была не нужна. Год спустя ее офис посетил Энди Рубин. Он разъезжал по стране, разыскивая и приобретая робототехнические компании. Он говорил тем, кого посещал, что через 10–15 лет Google станет мировой службой доставки информации и товаров. Ему требовались машинное зрение и навигационные технологии, а Industrial Perception успешно интегрировала эти технологии в свои манипуляторы, чтобы они могли перемещать коробки. Наряду с Boston Dynamics и шестью другими компаниями Рубин тайно приобрел и Industrial Perception. О сделках, которые Google считала «несущественными», не объявляли более шести месяцев. Даже когда публика узнала о новых амбициях Google, компания очень сдержанно раскрывала свои планы. Как и в случае с автомобилем, Google помалкивала до тех пор, пока молчание не теряло смысла.

Для Рубина, однако, ситуация скоро изменилась. Он пытался добиться от Google разрешения управлять своим новым стартапом, не придерживаясь того, что, с его нынешней точки зрения, было клаустрофобной корпоративной культурой. Проиграв, он в конце 2014 г. покинул компанию и занялся созданием инкубатора новых идей в сфере потребительской электроники.

Подавляющая часть команды Industrial Perception была интегрирована в новое робототехническое подразделение Google. Брадски, однако, и для Google оказался слишком вольной «дикой уткой», что было совсем неплохо, поскольку Хассан все еще имел на него виды. Он представил Брадски Рони Абовицу, успешному молодому робототехнику, который недавно продал компанию Mako Surgical, разрабатывавшую роботов для помощи неопытным хирургам. Абовиц вынашивал еще более масштабную идею, и ему требовался эксперт по машинному зрению.

Абовиц полагал, что он может заново изобрести персональный компьютер и превратить его в идеальный инструмент усиления разума человека. В случае успеха это открыло бы прямой путь к сближению миров искусственного интеллекта и усиления интеллекта. В Mako Абовиц использовал разнообразные технологии для перевода в цифровую форму навыков лучших хирургов и встраивания их в роботизированного помощника. Это позволяло неопытным хирургам использовать шаблонные действия робота для получения стабильно хороших результатов при проведении сложных операций. Другая ведущая компания в этой сфере, Intuitive Surgical, вышедшая из SRI, продавала роботизированные инструменты с дистанционным управлением, которые позволяли хирургам проводить операции с высокой точностью. Абовиц сосредоточился на тактильной обратной связи, пытаясь объединить человека и робота и таким образом расширить возможности хирурга. Помогало то, что специализацией Mako были операции на костной ткани (основным направлением исследований Intuitive по случайности была хирургия мягких тканей). Кость, более твердый материал, было намного легче «чувствовать» с помощью тактильной обратной связи. В такой системе и машина, и человек раскрывали свои лучшие качества, создавая эффективный симбиоз.

Важно отметить, что такой «симбиотический хирург» – не киборг, получеловек-полумашина. Четкая граница между хирургом и роботом здесь не исчезает. В этом случае человек пользуется помощью роботизированного хирургического инструмента. Киборг – создание, в котором грань между человеком и машиной стирается. Абовиц считал, что «сильный» искусственный интеллект, т. е. машина с интеллектом на уровне человека, чрезвычайно труднодостижимая цель, и нужны десятилетия, чтобы добраться до ее, если это вообще удастся. Из своего опыта разработки робота для помощи хирургу он вынес уверенность, что самый эффективный способ создания систем – это использование искусственного интеллекта для расширения возможностей человека.

Продав Mako Surgical в конце 2013 г. за $1,65 млрд, Абовиц занялся реализацией более масштабного проекта – создания стартапа Magic Leap со скромной целью заменить и телевизоры, и персональные компьютеры технологией, известной как дополненная реальность. В 2013 г. система Magic Leap представляла собой громоздкий шлем. Компания хотела уменьшить систему до размера очков и сделать ее во много раз мощнее, чем Google Glass. Вместо Google Брадски пошел на работу в Magic Leap Абовица.

Уже в 2014 г. появились первые свидетельства того, что Абовиц добился существенного прогресса в объединении искусственного интеллекта и усиления интеллекта. Примером служит Джеральд, 15-сантиметровый анимационный персонаж, парящий на фоне какого-то офисного комплекса в пригороде Майами. Его четыре руки мягко машут, а сам он висит в пространстве и кружится перед зрителем. Джеральда на самом деле там нет, это динамическая проекция, напоминающая трехмерную голограмму. Пользователи могут наблюдать за ним через прозрачные линзы, проецирующие то, что ученые-компьютерщики и инженеры-оптики называют «цифровое световое поле», в глаза зрителя. Хотя Джеральд не существует в реальном мире, Абовиц пытается создать не вызывающие дискомфорта компьютеризированные очки, которые позволяют видеть не только подобные Джеральду анимации. В принципе можно проецировать любой визуальный объект, воспринимаемый человеческим глазом. Когда Абовиц описывает систему Magic Leap, он говорит, что она, например, позволит надевшему очки человеку одним взмахом руки создать экран с высокой разрешающей способностью столь же четкий, как и телевизор. Если очки усовершенствовать, они заменят не только наши телевизоры и компьютеры, но и многие другие окружающие нас гаджеты.

Очки представляют собой прозрачную матрицу крошечных электронных излучателей света, которые проецируют световое поле, и, таким образом, изображение попадает прямо на сетчатку. По сути, генерируемые компьютером световые поля имитируют то, что человеческий глаз видит в реальном мире. Это полученная с помощью компьютера версия аналогового светового поля, в которой присутствуют все виды излучения, формирующие изображение в глазу человека. Цифровые световые поля моделируют поведение света в физическом мире. Когда фотоны отражаются от объектов, они ведут себя как потоки света. Эволюция нейрооптической системы человека привела к тому, что хрусталики в наших глазах стали подстраиваться к длине волны естественного света и фокусироваться на объектах. Наблюдая с помощью опытного образца очков Magic Leap, как Джеральд перемещается в пространстве, можно предположить, что в будущем удастся визуально соединить сформированные компьютером объекты с реальным миром. Абовиц утверждает, что технология цифрового светового поля преодолеет недостатки, от которых стереоскопические дисплеи не могут избавиться уже не одно десятилетие. Сегодня эти дисплеи вызывают у пользователей морскую болезнь и не обеспечивают настоящей глубины резкости.

К январю 2015 г. стало ясно, что дополненная реальность больше не является идеей далекого будущего. С большой помпой Microsoft продемонстрировала подобную систему под названием HoloLens на основе конкурирующей технологии. Можно ли представить себе мир, где нет вездесущих жидкокристаллических дисплеев современного мира – телевизоров, компьютерных мониторов, экранов смартфонов? Демонстрация Magic Leap в Голливуде, штат Флорида, наводит на мысль, что дополненная реальность намного ближе, чем кажется. Если это так, то такое достижение изменит также и наше представление об усилении интеллекта и автоматизации. В октябре 2014 г. технология Magic Leap получила значительную поддержку, когда Google вложила в крошечный стартап $524 млн.

Опытный образец очков Magic Leap похож на обычные очки, за исключением тонкого кабеля, который идет по спине пользователя к маленькому компьютеру размером со смартфон. Эти очки не просто отказ от существующих технологий отображения информации. В них широко используются искусственный интеллект и машинное зрение для формирования реальности. Очки неотразимы по двум причинам. Во-первых, их разрешение приближается к разрешающей способности человеческого глаза. Лучшим компьютерным дисплеям еще далеко до этого. В результате мультипликация и картинки намного лучше, чем у сегодняшних бытовых компьютерных игровых систем. Во-вторых, они впервые демонстрируют возможность соединения сгенерированных образов с физической реальностью. До сих пор пределом потребительской компьютерной технологии был графический интерфейс WIMP: окна, изображения, меню и курсор Macintosh и Windows. Очки Magic Leap расширяют возможности персонального компьютера с помощью дополненной реальности и одновременно открывают пути к усилению интеллекта человека.

В мире дополненной реальности «сеть» становится окружающим вас пространством. Камеры внутри очков распознают окружающие объекты, позволяя комментировать и, может быть, изменять их. Например, чтение книги обретает объем: изображения могут плавать над текстом, гиперссылки – оживать, страницы – переворачиваться в ответ на движение глаз, исчезнут ограничения для размеров страницы.

Дополненная реальность – это глубоко антропоцентрическая версия использования компьютеров, соответствующая идее «незаметных» вездесущих компьютеров Марка Вейзера из Xerox PARC. Это будет мир, в котором компьютеры «исчезнут», а привычные предметы приобретут «магическую» силу. Это даст людям множество новых способов взаимодействия с роботами. iPod и iPhone были первыми примерами такого перехода, изменив представления о магнитофоне и телефоне. Дополненная реальность также сделает телеприсутствие намного более осязаемым. Двум находящимся на большом расстоянии людям будет казаться, что они находятся в одном месте. Это радикально изменит сегодняшние видеоконференции и неуклюжих роботов телеприсутствия вроде мобильного робота Beam Скотта Хассана с лицом человека на дисплее.

Гари Брадски оставил мир роботов, чтобы вместе с Абовицом создать то, что потенциально может превратиться в самую эффективную технологию расширения возможностей. Теперь он занимается совершенствованием средств машинного зрения, позволяющих принципиально изменить использование компьютеров, сделать их антропоцентрическими. Подобно Биллу Дювалю и Терри Винограду, он перешел из стана искусственного интеллекта в сообщество усиления интеллекта.

Глава 8

…и последнее

Расположенный на берегу Тихого океана всего в часе езды на юг от Сан-Франциско, Санта-Круз буквально дышит чувственностью, как и все остальное в Северной Калифорнии. Богемный дух университетского городка смешивается с технократическими веяниями Кремниевой долины, лежащей за соседним холмом. Город с его близостью к сердцу компьютерного мира и глубоко укоренившейся контркультурой явно контрастирует с устремившимися ввысь офисными и производственными зданиями, разбросанными к северу от Сан-Хосе по другую сторону гор. И географически, и культурно Санта-Круз очень далек от гоночной трассы Homestead-Miami Speedway.

Одним туманным субботним утром в этом эклектичном прибрежном городке через несколько месяцев после того, как бегающие роботы Boston Dynamics стали гвоздем программы на трассе во Флориде, Том Грубер со своей подругой Рией Гауэн отправились в расположенную на первом этаже возле реки танцевальную студию The 418 Project. Они пришли одними из первых. Грубер был разработчиком программного обеспечения, а Гауэн – преподавательницей танцев. Она вернулась в Соединенные Штаты несколько лет назад, а до этого на протяжении 20 лет руководила в Японии труппой театра танцев «Буто».

В Санта-Круз Гауэн преподавала танцы в стиле «контактная импровизация», где партнеры не теряют физического контакта друг с другом, свободно двигаясь под музыку. Неподготовленному зрителю контактная импровизация кажется смесью танца, гимнастики, акробатики и даже борьбы. Танцор занимает такие позиции, чтобы партнер мог перекатываться и даже отталкиваться от него в такт музыке. Утренний сеанс в субботу, на котором присутствовали Грубер и Гауэн, выглядел еще более необычно: это была ритуальная встреча Общества экстатического танца Санта-Круз, проходившая по выходным. Вот основные правила этого действа с сайта ecstaticdance.org:

1. Двигайтесь как хотите.

2. Никаких разговоров на танцполе.

3. Уважайте себя и друг друга.

В соответствии с принятым этикетом партнер должен быть «чувственным», если он хочет танцевать с кем-то, если же нет, то ему предписывается «просто поблагодарить напарника, приложив руку к сердцу».

Музыкальное сопровождение тем утром менялось от медитативного джаза до кантри, рока, а затем переходило в каскад стилей электронной музыки. Комната постепенно заполнялась людьми. Одни танцевали с постоянным партнером, другие меняли партнеров, третьи покачивались, следуя внутреннему ритму. Это был танец свободной формы, вызывающий ассоциации с уроком физкультуры нового века.

Грубер и Гауэн пробирались сквозь толпу. Они то двигались вместе, то разделялись, чтобы потанцевать с другими партнерами, то воссоединялись. Он поддержал ее и наклонился, чтобы она могла перекатиться через его спину. Это не было идеальное движение «до-си-до», но, если оно выполнялось хорошо, один танцор становился опорой, которая без напряжения выдерживала вес партнера. Грубер был хорошим танцором и легко справлялся с движениями, которые и выражали чувственность современного танца. Это заметно контрастировало со стилем многих более хипповатых калифорнийцев средних лет, которые прыгали и махали руками в ответ на ускоряющийся ритм. Темп танца вырос до предела, а затем снизился до приятного грува. Танцоры стали расходиться. Грубер с Гауэн надели куртки и вышли на все еще туманный утренний воздух.

Грубер небрежно вынул iPhone из кармана и задал разработанному им персональному помощнику Siri простой вопрос о следующей остановке. В понедельник он вновь отправится в ярко освещенные коридоры Apple с бесконечными, заполненными плоскими дисплеями офисами, но пока пребывал в более антропоцентрическом мире, где компьютеров не было, а такие обычные устройства, как телефон, казались волшебными.

Корпоративный кампус Apple ограничен Инфинит-луп, улицей в форме овала рядом с федеральной автомагистралью 280 в Купертино. В этом «магическом круге» находятся шесть современных офисных зданий, обращенных фасадами на травянистый внутренний двор. Улица очерчивает территорию штаб-квартиры компании, словно подчеркивая скрытность Apple. Кампус был построен в эпоху, когда компанией управлял Джон Скалли. После завершения строительства он служил исследовательским центром, но, когда Apple провела сокращения с уходом Скалли в 1993 г., стал крепостью для осажденной компании. В 1997 г., когда вернулся Стив Джобс, сначала как временно исполняющий обязанности генерального директора, в компании произошли значительные изменения, включая решительное улучшение питания в кафе. Серебро, которым отличался кабинет директора в краткий период руководства Гилберта Амелио, исчезло.

Несмотря на ухудшение здоровья в 2011 г., связанное с раком поджелудочной железы, Стив Джобс вернулся, чтобы последняя глава его жизни прошла в Apple. Он третий раз находился в отпуске по болезни, но продолжал направлять компанию. Джобс перестал водить машину, и его привозил в штаб-квартиру Apple шофер. Он страшно похудел и на заседаниях не раз ссылался на проблемы со здоровьем, хотя никогда не признавал, что у него рак. Джобс постоянно потягивал 7UP, и это косвенно указывало на то, что он проходит курс химиотерапии.

Предыдущей весной Джобс приобрел Siri, крошечного разработчика приложения на естественном языке, которое должно было стать виртуальным помощником в iPhone. Покупка привлекла большое внимание в Кремниевой долине. Apple крайне редко осуществляла приобретения, особенно крупные. Слухи о том, что фирма куплена, возможно, более чем за $200 млн, стали потрясением для Сэнд-Хилл-роуд, а вместе с ней и для всей процветающей «экономики прикладных программ», которую породил iPhone. После приобретения Siri программа немедленно исчезла из App Store, службы iPhone, через которую предлагаются и продаются программы, а немногочисленная команда разрабатывавших Siri программистов растворилась в кампусе Купертино. Более важное последствие этого приобретения было не таким очевидным – одно из последних решений Стива Джобса на посту руководителя Apple открывало путь к кардинальному изменению характера взаимодействия людей с компьютерами. Джобс твердо встал на сторону тех, кто отдавал контроль над компьютерными системами людям.

Принципиальным вкладом Джобса в развитие компьютерного мира стало то, что он первым увидел в графическом интерфейсе более эффективное средство управления PC. Переход от командной строки эпохи DOS IBM к интерфейсу настольных предшественников Macintosh привел к широкому распространению персональных компьютеров среди студентов, проектировщиков и офисных работников – к появлению компьютера для «всех нас», как говорили в Apple. Визиты Стива Джобса в Xerox PARC стали легендой. Еще не ставшая публичной компания Apple получила от гиганта копировальной техники не только благословение, но и небольшие инвестиции. Джобс приезжал несколько раз в 1979 г., а за следующую половину десятилетия создал сначала Lisa, а затем Macintosh.

Но эра PC уже уступала дорогу второй концепции Xerox PARC – сплошной компьютеризации. Марк Вейзер из PARC высказался на этот счет в конце 1980-х гг. Джобс первым успешно материализовал идеи Вейзера в товарах массового потребления. iPod, а затем iPhone были действительно вездесущими вычислительными устройствами. Джобс сначала переделал магнитофон, а затем телефон, добавив к ним компьютер – «тысяча песен в вашем кармане» и «кое-что замечательное у вас в руке». Он был истинным шоуменом, и выражение «еще кое-что» стало девизом, который Джобс использовал во время представлений продуктов, перед тем как объявить о чем-то «безумно грандиозном». Приложение Siri для Джобса было «последнее кое-что». Приобретение Siri стало шагом к изменению компьютерного мира. Он перебросил мост между Dynabook Алана Кея и Knowledge Navigator, тщательно продуманным рекламным роликом Apple, демонстрирующим виртуального персонального помощника. Философская пропасть между искусственным интеллектом и усилением интеллекта привела к появлению двух областей, представители которых редко общались друг с другом. Даже сегодня в большинстве университетов искусственный интеллект и взаимодействие человека с компьютером остаются совершенно изолированными дисциплинами. Siri, близкое по сути к големическому подходу Ли Фельзенштейна, должно было стать программным роботом с чувством юмора, который является партнером, а не слугой.

Это было необычное требование, которое мог выдвинуть только Стив Джобс. Он дал команду своим проектировщикам телефонов принять группу неизвестных разработчиков программного обеспечения, не имевших никакого отношения к операционной системе Apple, и позволить им встроить свой код прямо в сердце iPhone. После этого он заставил своих разработчиков создать связи со всеми приложениями iPhone с нуля и потребовал сделать это меньше чем за год. Ядро из 24 человек, пришедших после приобретения Siri, усилили программистами, собранными со всех уголков Apple. Но это не все. В большинстве технологических компаний требование такого масштаба было бы отвергнуто как невозможное. Джобс же просто сказал: «За работу!»

В конце 1970-х гг. Том Грубер изучал психологию в колледже и открыл для себя искусственный интеллект случайно. Копаясь в библиотеке, он нашел доклад о работе Раджа Редди и группы специалистов по информатике из Университета Карнеги – Меллона, которые создали систему распознавания речи под названием Hearsay-II. Программа распознавала только тысячу слов в предложениях с 90 %-ной точностью. С одной ошибкой на каждые 10 слов она, конечно, не годилась для использования. Грубера, однако, поразило то, что в системе Hearsay обработка акустического сигнала сочеталась с общими методами искусственного интеллекта. Он сразу понял, что эта система потенциально представляет собой модель мозга, несущего знания. Психологи пытались моделировать его, но неудачно. В то время, в 1980-е гг., не было позитронно-эмиссионных и магнитно-резонансных томографов. Психологи изучали поведение человека, а не сам мозг.

Вскоре после того, как он прочитал о Hearsay, Грубер нашел работу преподавателя информатики Стэнфордского университета Эдварда Фейгенбаума, который разрабатывал идею «экспертных систем» для накопления знаний и выполнения функций специалистов в узких областях. Когда Фейгенбаум был аспирантом в Университете Карнеги – Меллона и работал с Гербертом Саймоном, он занимался созданием компьютерных моделей человеческой памяти. «Элементарное восприятие и запоминание», или EPAM, – психологическая теория обучения и памяти человека, которую исследователи смогли интегрировать в компьютерную программу.

Работа Фейгенбаума вдохновила Грубера задуматься над созданием моделей разума. Но в то время он не собирался идти в аспирантуру. Ни у кого в его семье не было ученой степени, и эта идея не входила в число его приоритетов. К тому времени, когда он наконец отправил заявление, лишь в паре-тройке мест можно было рассчитывать на стипендию. И Стэнфорд, и Массачусетский технологический институт ответили Груберу, что он опоздал почти на три месяца, и предложили подать заявление на следующий год. К счастью, его приняли в Массачусетский университет, где в то время работала яркая исследовательская группа, занимавшаяся робототехникой и программированием манипуляторов. Учебная программа там сочетала в себе искусственный интеллект и когнитивистику, что идеально подходило для моделирования человеческого разума.

Для Грубера искусственный интеллект оказался увлекательной частью компьютерной науки. Это была философски богатая и с научной точки зрения интересная область со своими идеями о психологии и функциях человеческого разума. С точки зрения Грубера, все остальное в компьютерной науке было в действительности просто техникой. Оказавшись в 1981 г. в Массачусетском университете, он познакомился с молодым ученым-компьютерщиком Полом Коэном, который был студентом Фейгенбаума в Стэнфорде и разделял интерес Грубера к искусственному интеллекту и психологии. Отец Пола Коэна, Гарольд Коэн, был известным художником, работавшим на стыке искусства и искусственного интеллекта. Он разработал компьютерную программу Aaron и с ее помощью рисовал и продавал художественные произведения. У программы не было художественного стиля, но она генерировала бесконечные ряды сложных образов на основе заданных Коэном параметров. Aaron оказалась плодотворной средой для размышлений над философскими аспектами автономности и креативности.

Грубер сказал заведующему кафедрой информатики, что хотел бы заниматься чем-нибудь, имеющим социальную значимость, и ему предложили проект по созданию систем, помогающих общаться инвалидам с серьезными нарушениями, например страдающим церебральным параличом. Многие из них не могли разговаривать и в то время использовали знаковые системы Bliss Board, которые позволяли составлять слова, указывая на буквы. Это был трудный и неудобный процесс. Система, которую Грубер помогал разрабатывать, относилась к одной из первых версий того, что сейчас исследователи называют «семантическим автодополнением». Исследователи работали с детьми, которые понимали язык, но говорили с трудом. Они добивались того, чтобы система предугадывала следующую фразу. Задача состояла в составлении сообщений типа «Я хочу гамбургер на обед».

В то время мир искусственного интеллекта был очень ограниченным. «Больших данных» не существовало, исследователи могли лишь построить небольшую модель мира ребенка. Поучаствовав в этом проекте, Грубер создал программу моделирования такого мирка. Он дал няням и родителям возможность добавлять предложения и таким образом персонифицировать систему для конкретного ребенка. Программа Грубера была примером того, что сообщество искусственного интеллекта называет «системами на основе знаний», программ, которые судят о сложных проблемах, опираясь на правила и базу данных. Идея состояла в создании программы, способной действовать как эксперт: врач, адвокат или инженер. Грубер быстро увидел трудность приобретения сложных знаний и сделал эту проблему предметом своей докторской диссертации.

Грубер был квалифицированным программистом, и многие сотрудники кафедры хотели заручиться его помощью в выполнении трудной части своей работы. Он, однако, подрабатывал по вечерам в компании – производителе мини-компьютеров Digital Equipment Corporation. Ему довелось участвовать в целом ряде проектов DEC, включая разработку первой многооконной системы, написанной на созданном Маккарти языке программирования Lisp. Программа, к удивлению многих разработчиков программного обеспечения, работала хорошо, хотя Lisp не был предназначен для графических приложений, где необходима высокая скорость. Груберу потребовался месяц, чтобы написать программу. Разработчики обычно писали приложения такого типа на ассемблере или C, но, как оказалось, для Грубера Lisp был достаточно эффективен. Чтобы показать возможности языка Lisp, он сделал для посетителей из Агентства национальной безопасности демоверсию системы «подборки вырезок». У программы был интерактивный интерфейс, позволявший пользователю проводить поиск, а затем сохранять результаты в системе оповещения, осуществлявшей фильтрацию этой информации. Грубер не бросил эту идею и воспользовался ею несколько лет спустя, когда основал свою первую компанию.

Сосредоточенный на получении степени доктора философии и по-прежнему увлеченный наукой о разуме, Грубер не пошел работать в тогда быстро растущую DEC. Аспирантура была нирваной. Он часто колесил на велосипеде по Западному Массачусетсу и мог работать удаленно со своего домашнего терминала, зарабатывая больше $30 в час, а лето проводил в Кембридже, работая в лаборатории DEC. Грубер также стал частью узкого сообщества исследователей искусственного интеллекта, которые пытались создать программные системы, приближающиеся к человеку по интеллектуальному потенциалу. Встречи членов сообщества проходили ежегодно в Банфе. Исследователи быстро поняли, что некоторые модели мышления противоречат обычной логике. Например, инженерное проектирование связано с целым рядом разных видов деятельности. Проектировщик систем обогрева, вентиляции и кондиционирования воздуха за редким исключением мог руководствоваться набором правил и ограничений. В оптике точные требования позволяют написать программу, которая проектирует идеальные линзы. Но встречаются и сложные случаи: например, конструирование изделий без очевидных правильных ответов и с миллионом вопросов о том, что обязательно, а что опционально. Здесь набор возможных ответов огромен, и очень сложно формализовать в программе талант квалифицированного проектировщика.

Груберу уже в начале исследований стало ясно, почему традиционные модели экспертных систем потерпели неудачу: интеллектуальный потенциал человека не сводится к отдельным идеям или методам. Он начал с разработки небольших моделей вроде инструмента для минимизации применения пестицидов в лесничествах. Помимо этого он работал с кардиологами над созданием диагностической системы, моделирующей использование их знаний и опыта. И то и другое было попыткой описать специальные знания с помощью программы. Очень простые модели могли работать, но реальный мир было крайне трудно упростить до набора правил. Врачи десятилетиями занимаются медициной, и Грубер понял, что свести их работу к «симптомам и признакам» невозможно. Врач мог спросить пациентов, что у них болит, сделать анализы, а затем выписать нитроглицерин и отправить их домой. В медицине соединялись диагностическое и лечебное направления. То, что наблюдал Грубер, было высокоуровневой стратегией, намного превосходившей простое запоминание действий, доступное в то время для сравнительно негибких экспертных систем.

Вскоре Грубер осознал, что ему интересно не улучшать экспертные системы, а создавать инструменты, облегчающие другим разработку экспертных систем. Потом это назовут «проблемой накопления знаний». В диссертации он утверждал, что для создания эффективной экспертной системы надо моделировать не знания, а стратегию, т. е. понимание того, что делать дальше. В то время экспертные системы постоянно зависали, создавались вручную и требовали участия специалистов для компилирования знаний. Его цель состояла в автоматизации приобретения этого неуловимого «стратегического знания».

Во время учебы в аспирантуре подход Грубера не выходил за рамки существующей в сообществе искусственного интеллекта концепции: сначала он определял искусственный интеллект традиционно, как понимание принципов функционирования интеллекта и выполнение задач на уровне человека. Со временем его точка зрения изменилась – необходимо не просто копировать интеллект человека, а стремиться к его усилению. Он не встречался с Энгельбартом и не был знаком с его идеями, но основным направлением исследований для него стало использование компьютеров не для копирования и замены людей, а для расширения их возможностей.

Еще во время работы над диссертацией Грубер решил перебраться на Западное побережье. Стэнфорд тогда был уже известным центром исследований искусственного интеллекта, и там работал Эд Фейгенбаум, восходящая звезда этой сферы. Он инициировал проект по созданию крупнейшей в мире экспертной системы по «техническим знаниям», знаниям о том, как разрабатываются и производятся такие вещи, как ракеты и реактивные двигатели. Консультант Грубера Пол Коэн представил его Фейгенбауму, который вежливо сказал, что его лаборатория работает на пожертвования и у него нет вакансий для новых сотрудников.

«А что, если я сам достану деньги?» – спросил Грубер.

«Принесете свои деньги?!»

Фейгенбаум не возражал, и Грубер получил финансирование от нескольких компаний, которые он консультировал. В скором времени он руководил проектом Фейгенбаума в области инженерии знаний. Вот так в 1989 г. Грубер оказался в Стэнфордском университете во время взрывного распространения персональных компьютеров и второй зимы искусственного интеллекта. В Стэнфорде Грубер был изолирован от коммерческой гонки. Начав работать в проекте Фейгенбаума, он сразу столкнулся с проблемой получения знаний, необходимых для моделирования работы эксперта. Именно на ней он споткнулся во время работы над диссертацией. Стало также понятно, что для перехода от «строительства» к «производству» систем знаний разработчикам нужны стандартные блоки. Грубер включился в стандартизацию языков и категорий, используемых при разработке искусственного интеллекта. Язык должен быть точным, если разработчики хотят создавать системы, в которых общается множество людей и программ. Модули не смогут работать без стандартизированных определений. Исследователи искусственного интеллекта заимствовали философский термин «онтология» и стали применять его для обозначения набора понятий – событий, объектов, взаимосвязей, которые составляют знания в той или иной области. В соответствии с определением Грубера онтология была «соглашением», общественным договором людей, заинтересованных в обмене информацией или ведении коммерции.

Это была технология, которая идеально сочеталась с новым тогда интернетом. Совершенно неожиданно бессвязный мир множества языков и компьютерных протоколов превратился в электронную Вавилонскую башню. Всемирная паутина предложила универсальный механизм, позволявший легко находить документы через интернет. В основе сети лежала давняя работа Дуга Энгельбарта и Теда Нельсона, которые независимо друг от друга выдвинули идею гипертекстовых ссылок, облегчавших доступ к хранящейся в компьютерных сетях информации. В 1990-х гг. сеть быстро стала средой соединения любого с чем угодно, предоставляя подобный Lego способ связи информации, компьютеров и людей.

Онтология предложила более эффективный способ обмена любыми видами информации, соединив мощь глобальной цифровой библиотеки с возможностью маркировки информационных «объектов». Это позволяло включить семантику, или смысл, в обмен электронной информацией и фактически сделать шаг в направлении искусственного интеллекта. Первоначально онтологиями занималась маленькая группка в сообществе искусственного интеллекта. Грубер одним из первых применил инженерные решения к созданию онтологий. Это вовлекало его в совместную работу с целым рядом программистов, которые могли находиться как в кампусе, так и на другом конце света. Он познакомился с ученым-компьютерщиком Джеем «Марти» Тененбаумом, который ранее руководил исследованиями в области искусственного интеллекта в SRI International, а в тот момент возглавлял одну из первых лабораторий искусственного интеллекта в Кремниевой долине, созданной французским гигантом в области нефтеразведки Schlumberger. Тененбаум сразу разглядел будущее электронной коммерции, предшествовавшей Всемирной паутине. В 1992 г. он основал одну из первых компаний «электронной торговли» Enterprise Integration Technologies (EIT), тогда такая идея была еще мало кому знакомой.

В офисе около того места, где когда-то располагался первый производитель микросхем Долины Fairchild Semiconductor, Тененбаум набросал модель «беспроблемной» электронной торговли. Он предвидел появление автоматизированной экономики в стиле Lego, в которой целые отрасли будут связаны компьютерными сетями и программными системами, осуществляющими обмен товарами и услугами. Работа Грубера в области онтологии отлично подходила к системе торговли Тененбаума, которой требовался общий язык для соединения разрозненных частей. В определенной мере благодаря их сотрудничеству Грубер одним из первых технологов в Кремниевой долине погрузился во Всемирную паутину. Сеть, созданную Тимом Бернерсом-Ли в недрах сообщества физики элементарных частиц в Швейцарии, быстро приняли ученые-компьютерщики. Широкая публика узнала о ней после публикации статьи в New York Times в декабре 1993 г.{189}

Интернет позволил Груберу создать небольшую группу, которая превратилась в живое киберсообщество, связанное посредством электронной почты. Хотя некоторые из его членов встречались друг с другом, они были фактически «виртуальной» организацией. Недостаток заключался в том, что их связь была двухточечной, не позволявшей вести коллективные обсуждения. «Было бы неплохо иметь "живой" накопитель наших сообщений», – подумал Грубер. У него зародилась идея создать общедоступную, постоянную групповую память с возможностью поиска. Сегодня, когда существуют онлайновые конференции, системы поддержки и Google, такая идея кажется тривиальной, но в то время это был прорыв. Именно эта концепция лежала в основе системы NLS Дуга Энгельбарта, но с появлением персонального компьютера его широкое видение отошло на второй план. Xerox PARC, а затем Apple и Microsoft использовали лишь отдельные его идеи, такие как мышь и гипертекст, а более масштабная задача – облегчение работы небольших групп специалистов – была забыта. Грубер создал программу, которая автоматически генерировала обновляемый документ о работе, выполненной группой людей. За пару недель он написал программу под названием Hypermail, которая «живет» на почтовом сервере и генерирует цепочечную копию переписки, которую можно получить через сеть. В результате появился цифровой снимок электронной переписки с постоянными ссылками, который можно было разметить и заархивировать.

Появление Всемирной паутины изменило жизнь Грубера. Ему было 30 лет, он работал в Стэнфорде и быстро понял, что сеть представляла собой намного более масштабную идею, чем все его прежние начинания. Он увидел, что работа Тененбаума способна кардинально изменить использование компьютеров. Тененбаум нанял молодого программиста по имени Кевин Хьюз из Гавайского колледжа. Хьюз был представителем нового класса программистов, поколения, выросшего с компьютерами. Со стороны он казался недостаточно взрослым для серьезной работы, однако сам он называл себя «веб-мастером». Грубер написал Hypermail на своем любимом языке программирования Lisp и распространял ее через популярные в то время каналы для установки программного обеспечения. С точки зрения Хьюза, этот подход уже устарел. Он сказал Груберу, что Hypermail нужно переписать на C и что программа должна быть свободно доступной в сети. Грубер поговорил с Тененбаумом и за выходные переписал программу на C. Хьюз был прав. Как только она появилась в свободном доступе в сети, ее использование резко возросло.

Это был крупный шаг к реализации представлений Энгельбарта – Нельсона о гипертексте. Теперь любой, у кого на компьютере с Unix был запущен сервер рассылки, мог сбросить программу к себе, и его электронные сообщения становились доступными широкому кругу пользователей интернета. Для Грубера это был наглядный урок использования интернета для раскрутки идеи. В 1995 г., в самом начале эры доткомов, EIT была куплена компанией VeriFone. Два года спустя во время надувания первого интернет-пузыря VeriFone, известная своими кассовыми терминалами, сама была куплена HP, но лишь для того, чтобы быть выброшенной после схлопывания пузыря. Грубер ушел из Стэнфорда в EIT в 1994 г., однако оставил ее до того, как она была продана в первый раз, чтобы реализовать собственные идеи. Он задавался вопросом: зачем останавливаться на электронной почте? Ему хотелось создать что-то на основе видения Энгельбарта и продать это корпоративной Америке.

В начале 1990-х гг. в Стэнфорде идеи Энгельбарта переживали второе рождение. За четыре года, которые Грубер провел в университете, попытки создать систему инженерии знаний Фейгенбаума на основе множества правил, утверждений и онтологий не принесли успеха. В проекте Hypermail Грубер видел возможность создать коммерческую систему знаний и в предпринимательском порыве периода доткомов намеревался организовать для этого собственную компанию. Бернерс-Ли совершил прорыв, разработав Всемирную паутину. Он не только создал работающую версию гипертекстовой системы Энгельбарта – Нельсона, но и определил систему постоянных идентификаторов для пакетов информации, которую инженеры описывали как «объекты знаний». Это меняло все. У веб-разработчиков появилась возможность создавать устойчивые структуры знаний, функционировавшие как доступные цифровые библиотеки, на базе которых можно было строить и системы искусственного интеллекта, и системы усиления интеллекта.

Идея Грубера заключалась в создании «корпоративной памяти», системы, связывающей все документы современной организации и обеспечивающей простоту их структурирования и поиска. Это напоминало систему Энгельбарта oN-Line System, но с использованием возможностей изобретения Бернерса-Ли. Тогда уже существовала Lotus Notes Рэя Оззи, молодого программиста, работавшего по контракту на Митча Капора из Lotus, но она была лицензионной и не выходила за пределы мира корпоративного программного обеспечения. Теперь интернет и новые веб-стандарты позволяли создавать что угодно значительно большего масштаба.

В 1996 г. Грубер вместе с исследователем искусственного интеллекта Питером Фридлендом и бывшим менеджером программ DARPA Крейгом Виром основал в Лос-Алтосе компанию Intraspect и стал в ней техническим директором. Сначала он работал с программистом, у которого была основная работа в Стэнфорде. Грубер работал над прототипом днем, а программист приезжал вечером и продолжал работу ночью. Поскольку Грубер уезжал в конце дня, они обсуждали сделанное и определяли, что нужно завершить. Такое взаимодействие позволяло быстро двигаться вперед.

Компания в конечном итоге привлекла от венчурных капиталистов более $60 млн, наняла 220 сотрудников и получила доведенный до ума продукт. В число ее клиентов вошли «голубые фишки», включая GTE, General Motors, KPMG, Boeing и Siemens. Эра PC преобразовала компании, которые перешли на электронную почту, отказавшись от бумажного документооборота. Этот переход позволил создать недорогую систему, которая просто «проглатывала» каждое отправление, посланное на определенный адрес электронной почты. Ей не нужен был ни веб-мастер, ни ИТ-специалист. Система Intraspect всасывала корпоративную переписку и документы и делала их доступными для любого сотрудника компании через персональный компьютер. Значки папок на мониторе по-прежнему воспринимались как символ систематизированных документов, поэтому инженеры Intraspect создали Windows-программу с ориентированным на папки интерфейсом.

В представлении Грубера именно так и должно было выглядеть будущее искусственного интеллекта. То, что начиналось как попытка смоделировать человеческий мозг, закончилось моделированием взаимодействия группы людей. В некотором смысле это различие составляло основу культурного разрыва между двумя научными сообществами. Сообщество искусственного интеллекта пыталось создать копию разума человека, а нарождающееся сообщество человеко-машинного взаимодействия следовало традиции усиления интеллекта Энгельбарта. Грубер начал с разработки компьютерной системы, расширявшей возможности небольших групп совместно работающих людей, а потом полностью перешел на сторону сообщества усиления интеллекта. В Стэнфордской лаборатории систем знаний он встречался с разработчиками авиационной электроники и принял близко к сердцу их точку зрения. Конструкторы на протяжении целой эпохи исходили из того, что люди должны адаптироваться к машине. Они считали машину центром вселенной, а людей, использующих машины, менее значительными персонажами. Авиаконструкторы на горьком опыте убедились, что без объединения человека и машины в одно целое создаваемые системы управления приводили к катастрофам. Списать все аварии на ошибки пилотов было просто невозможно. Поняв, что пилот является частью системы, разработчики изменили конструкцию кабины самолета. Такие переменные, как продолжительность концентрации внимания и когнитивная нагрузка, впервые предложенные психологами, стали обязательно учитываться сначала в бортовой электронике, а позже в компьютерных системах.

Грубер уделял большое внимание этим вопросам при разработке системы запросов Intraspect. В его представлении заказчики (во многих случаях агенты по сбыту) были «пилотами самолетов», которых не следовало перегружать информацией. Как-то Intraspect продемонстрировала свою систему одному из руководителей J. P. Morgan. Грубер ввел несложный запрос, и руководитель получил подборку последних писем ведущих сотрудников с присоединенными документами. От удивления у него отвисла челюсть – он мог буквально видеть, что происходило в его компании. Алгоритм поиска в системе Intraspect ранжировал документы по новизне и релевантности, первое поколение поисковых систем в интернете не позволяло делать это.

На пике эры доткомов Intraspect добилась впечатляющих успехов. У нее были престижные заказчики и прочное положение в таких крупных отраслях, как финансовые услуги. Потенциальный доход оценивался в $30–40 млн. Компания даже подготовила форму S-1, намереваясь выйти на биржу, и переехала в большое новое здание с заметным логотипом, который был виден с автострады 101. Затем все рухнуло. Хотя Intraspect пережила крах доткомов, обвал рынка подкосил некоторых из ее лучших заказчиков.

После 11 сентября 2001 г. ситуация изменилась. Финансовые директора крупнейших заказчиков просто запретили приобретение продуктов и услуг у непубличных компаний. Волна страха связала Intraspect руки. Грубер отдал шесть лет созданию компании и сначала отказывался верить, что все кончено. У них были такие крепкие заказчики и такой универсальный продукт, что, казалось, обязательно найдется способ выжить. Но успех компании строился на помощи в продвижении профессиональных услуг, таких как услуги «большой пятерки» аудиторских фирм, а кризис нанес сильный удар по этой сфере.

Чтобы остаться на плаву, Груберу пришлось уволить 60 % персонала. Но Intraspect все же умерла. Хотя у нее были преимущества перед конкурентами, рухнул весь рынок программного обеспечения для коллективной работы. Компании, занимавшиеся разработкой порталов, управлением документооборотом, поисковыми системами и управлением знаниями, сливались друг с другом. В 2003 г. Intraspect была продана Vignette по бросовой цене, и это был конец.

Грубер поработал пару месяцев в Vignette, а затем взял отпуск на год, чтобы собраться с мыслями и решить, что делать дальше. Он отправился в Таиланд, где занимался подводным плаванием и фотографией, и открыл для себя восьмидневный фестиваль Burning Man в пустыне штата Невада, который привлекал десятки тысяч представителей компьютерной элиты Долины. Когда академический отпуск закончился, Грубер был готов создать новую компанию.

Он знал Рида Хоффмана, который к тому времени запустил социальную сеть для делового общения LinkedIn. Благодаря приобретенному в Intraspect опыту, Грубер хорошо понимал суть «социального программного обеспечения». Эти двое долго вели переговоры о присоединении Грубера к стартапу, который впоследствии стал одной из первых успешных социальных сетей в Кремниевой долине. Грубер хотел сосредоточиться на разработке, а Хоффман искал нового технического директора, но в конце концов совет директоров LinkedIn наложил вето на идею по той причине, что компания вот-вот должна была начать новый раунд привлечения инвестиций.

Проведенный в разъездах год навел Грубера на размышления о пересечении сферы туризма и «коллективного разума», родившегося с появлением Web 2.0. Интернет теперь не только позволял создать корпоративную память, использование ресурсов больших групп пользователей стало легкодоступным для любого начинания. Самым ярким примером была, конечно, Google. Алгоритм поиска PageRank компании использовал предпочтения людей для оценки результатов поисковых запросов в интернете. Через Рида Хоффмана Грубер нашел стартап, намеревавшийся конкурировать с TripAdvisor, которая в то время предлагала только отзывы туристов об отелях. Он убедил владельцев в том, что сможет привлечь широкую аудиторию, а на их долю останется лишь развитие бизнеса. Так Грубер стал вице-президентом по разработкам в новом стартапе, однако на сей раз у него была команда из трех инженеров вместо 60. Малочисленность армии программистов больше не была критическим фактором успеха компании – интернет изменил все. Даже самые маленькие стартапы могли намного увеличить свои возможности, используя более мощный набор средств разработки.

Стартап планировал собирать лучшие описания туров от людей, разъезжающих по всему миру. На создание сервиса у них ушел год, и сайт realtravel.com был представлен на конференции О'Рейлли по Web 2.0 в 2006 г., интернет-событии, которое быстро стало популярным среди так называемых социальных стартапов следующей волны. Realtravel.com рос быстро, в какой-то момент даже говорили о 2 млн уникальных посетителей, но все же не так, как хотелось, и в 2008 г., спустя всего два года после раунда первоначального финансирования, компания была продана. Грубер покинул ее еще до этого из-за конфликтов с генеральным директором-дальтоником по поводу цветов страниц сайта.

Он взял еще один годовой отпуск. При создании realtravel.com Грубер занимался всем, от написания кода до руководства разработкой, и ему требовался отдых. По возвращении он задействовал свою сеть контактов в Кремниевой долине для поиска интересных проектов. Он был членом регулярно собиравшейся неформальной группы под названием «Клуб технических директоров», и там кто-то упомянул о новом проекте в SRI.

При Тони Тетере средства DARPA, заинтересованного в создании программного персонального помощника, рекой текли в исследовательский центр. За пять лет, в 2003–2008 гг., это агентство Пентагона немало потратило на идею «когнитивного помощника». Проект в конечном счете привлек больше 300 исследователей в 25 университетах и корпоративных исследовательских лабораториях, а SRI играл роль интегратора проекта. Когнитивный помощник CALO был неосуществимым проектом в традиции DARPA, на деньги которого уже были построены целые отрасли в Кремниевой долине. Рабочие станции, сети и персональные компьютеры – все начиналось как исследовательские проекты DARPA.

Название CALO происходило от латинского слова calonis, означавшего слугу солдата, или неуклюжего работягу. Этот проект в значительной мере пересекался с работой Энгельбарта, которая финансировалась DARPA в 1960-х и 1970-х гг. CALO должен был помогать офисным работникам в управлении проектами: упорядочивать электронную почту, календари, документы, контакты, календарные графики и управление задачами. В результате из проекта CALO вышел целый ряд коммерческих приложений – умный календарь и персонализированный путеводитель, а также компания по разработке игр и образовательных программ, но все они не шли ни в какое сравнение с Siri.

Задолго до того, как набрало популярность движение мейкеров, субкультура Кремниевой долины, превозносившая подход «сделай сам», в этот мир с подачи матери вошел Адам Чейер, будущий соучредитель Грубера по Siri. Как ребенку из пригорода Бостона, ему разрешали смотреть телевизор лишь час в неделю, однако и этого было достаточно для получения представления о достижениях технологии и появления страсти к новейшим игрушкам. Но когда он попросил купить ему что-то, мать дала ему пачку картонок, которые в прачечных вставляют в рубашки для придания формы. Адам с помощью ленты, клея и ножниц воссоздавал игрушки, которые видел по телевизору: роботов и хитрые изобретения Руба Голдберга[18]. Это приучило Чейера к мысли, что, стоит приложить немного воображения, и можно сделать все, что хочешь{190}.

Ребенком он мечтал стать фокусником. Чейер читал книги о великих фокусниках и считал их изобретателями и умельцами, обманывавшими других с помощью технологии. Ему еще не было 10, а он уже откладывал деньги на книги и наборы для фокусов, продававшиеся в местном магазине. Позже он осознал, что его интерес к искусственному интеллекту основывался на любви к волшебству. Его любимые фокусники XVIII в. и часовщики во главе с Жаком де Вокансоном создали первые автоматы: игравшие в шахматы и говорящие машины и другие механические гуманоиды, которые пытались приблизиться к тому, что он, как и Грубер, считал самым удивительным устройством, – человеческому мозгу{191}.

Хотя Чейер ничего не знал о легендарной NLS Энгельбарта, в 1987 г., работая исследователем искусственного интеллекта во Франции, в аэрокосмической фирме Bull, он создал собственную систему под названием HyperDoc. Он интегрировал систему ведения документации в редактор, который программисты использовали при разработке экспертных систем. Это новшество позволяло, простого кликнув по любой функции или команде, просмотреть соответствующее онлайновое руководство. Легкий доступ к документации по программному обеспечению упростил программирование компьютеров и сократил количество ошибок. В то время Чейер не был знаком с историей Исследовательского центра усиления интеллекта Дуга Энгельбарта в Менло-Парке в 1960-е и 1970-е гг. Он переехал в Калифорнию, чтобы получить степень магистра в области компьютерных наук, планируя после защиты вернуться во Францию. Ему нравилось в Калифорнии, но французская компьютерная фирма платила за его обучение только с условием, что он вернется в Европу.

Незадолго до возвращения Чейер наткнулся на небольшое объявление о вакансии в Лаборатории искусственного интеллекта в SRI. Работа показалась ему привлекательной, и он решил подать заявление. Прежде чем лететь в район залива Сан-Франциско на собеседование, он пролистал отчеты о работе всех исследователей группы и знал, над чем работал каждый, кто и с кем сотрудничал и какого мнения придерживался по разным вопросам. Его изыскания оправдались. Он был принят в Центр искусственного интеллекта SRI.

В начале 1990-х гг., несмотря на зиму искусственного интеллекта, SRI оставался процветающим центром коммерческих, военных и академических исследований искусственного интеллекта, и через десятилетия после Shakey роботы по-прежнему бродили по его коридорам. Когда Чейер приехал в лабораторию, он получил небольшой грант на проведение исследований от корейской телекоммуникационной лаборатории, принадлежавшей правительству Южной Кореи. Проект предполагал создание офисной системы голосового управления с возможностью рукописного ввода информации. «Сделайте хотя бы один из вариантов», – предложили ему.

Он решил создать систему, к которой можно легко подключать дополнительные возможности в будущем. Систему назвали Open Agent Architecture (OAA). Она должна была обеспечивать «делегирование компьютерной обработки», как называл это Чейер. Например, если у компьютера спрашивали: «Какой у Боба электронный адрес?» – поиск ответа можно было произвести несколькими способами. Чейер создал язык, дававший виртуальному помощнику возможность интерпретировать задачу и эффективно находить ответ.

При разработке платформы он оказался в самом центре споров между исследователями искусственного интеллекта и конкурирующим сообществом человеко-машинного взаимодействия. Одна группа полагала, что пользователь должен полностью контролировать компьютер, а другая ориентировалась на программные агенты, которые могли «жить» в компьютерных сетях и выполнять задачи от имени пользователей. У Чейера было свое представление об идеальных отношениях между человеком и машиной. Он считал, что людям иногда нравится напрямую управлять системами, но зачастую они не прочь отдать что-то системе и не отвлекаться на детали. Поэтому его язык позволял отделять задачи, полностью передаваемые системе, от задач, где система помогала пользователю выбрать вариант решения.

Через год после приезда в SRI Чейер фактически сфокусировался на создании рабочей версии программы Knowledge Navigator, разрекламированной Джоном Скалли в футуристическом видео в 1987 г. Как и Алан Кей, начавший с создания «промежуточного» Dynabook, в течение следующих двух десятилетий Чейер раз за разом разрабатывал прототипы, каждый из которых все ближе подходил к возможностям Knowledge Navigator. Он создавал виртуальных роботов, программных помощников, которые должны были в равной мере служить и партнерами, и слугами.

К концу 1993 г. он разработал планшетный компьютер, напоминавший iPad. Сенсорного интерфейса еще не существовало, поэтому Чейер интегрировал в планшет перьевой ввод, позволявший распознавать и почерк, и такие жесты, как очерчивание объектов для их выбора. Планшет мог также распознать речь, поскольку Чейер пристрастился к тому, что походило на заимствование сахара у соседей по коридору. Он убедил исследователей из Лаборатории речевой технологии SRI установить программный интерфейс API на его планшет. Это позволило ему подключить систему распознавания речи на базе мейнфрейма к своей системе. С целью развития речевой технологии SRI, разработка которой началась еще во времена Shakey, в следующем году создали отдельный стартап Nuance Communications, который первоначально занимался голосовыми приложениями для колл-центров. Точно так же Чейер поступил с технологиями распознавания рукописного текста SRI. Он сделал демонстрационную систему с возможностью голосового и перьевого ввода, что приближало ее к программному секретарю. Она автоматизировала связанные с календарем задачи и обрабатывала электронную почту, списки контактов и базы данных, а Чейер пошел дальше и стал экспериментировать с такими задачами для виртуальных помощников, как поиск ресторанов и кинотеатров на карте.

Чейер ходил по коридорам и высматривал для себя интересные проекты: понимание естественного языка, распознавание речи, сотрудничество с роботами, машинное зрение. SRI был его игровой площадкой, он использовал ее, чтобы свести вместе очень разнородный и богатый набор вычислительных систем и сервисов. Надо отметить, что все это делалось еще до того, как он впервые увидел веб-браузер. Всемирная паутина только начинала проникать в мир. Когда, наконец, появился первый популярный браузер Mosaic NCSA, открывший сеть для широкой публики, Чейер испытал эффект дежавю.

Чейеру хотелось создать помощника, способного предоставить пользователю компьютера такую же помощь, как и внимательный секретарь. Хотя он начинал в одиночестве, потом у него появилась небольшая команда программистов и разработчиков, и за шесть лет они выпустили больше 40 приложений: от интеллектуальных холодильников, которые находили рецепты и сами пополняли запасы, до телевизоров, позволявших управлять домом, роботов-помощников и интеллектуальных офисов. В конечном счете команда оказала значительное влияние на мир мобильных компьютеров. Спустя 15 лет два члена его исследовательской группы стали ключевыми техническими руководителями, отвечавшими за разработку смартфона Samsung Galaxy, а три пошли в Apple работать с Siri.

Чейер заработал в SRI репутацию «следующего Энгельбарта». Он настолько увлекся идеями Энгельбарта, что держал фотографию легендарного ученого-компьютерщика на своем столе, как напоминание о его принципах. К концу 1990-х гг. Чейер был готов к решению новой задачи. Эра доткомов была в полном разгаре, и он решил коммерциализировать свои идеи. Использование интернета при взаимодействии бизнес – бизнес расширялось взрывными темпами, и повсюду были сервисы, которые нуждались в сетевом соединении. Исследование Чейера идеально подходило для недавно ставшей популярной идеи слабосвязанного управления. В мире связанных в сеть компьютеров только начинало разрабатываться программное обеспечение, позволявшее им работать совместно. Он шел тем же путем, что и исследователь искусственного интеллекта Марти Тененбаум, создавший компанию CommerceNet, для которой Том Грубер формировал онтологии.

Чейер был одним из немногих исследователей Кремниевой долины, рано понявших, что интернет станет звеном, объединяющим всю коммерцию. Чейер пришел к одному из конкурентов, VerticalNet, создал там исследовательскую лабораторию и вскоре был назначен вице-президентом по разработке. Как и Грубера, его захватил водоворот доткомов. В какой-то момент рыночная стоимость VerticalNet взлетела до $12 млрд при доходах немного больше $112 млн. Конечно, это не могло продолжаться долго. Он проработал в компании четыре года, а затем вернулся в SRI.

DARPA обратилось к Чейеру с предложением возглавить амбициозный проект национального масштаба по созданию CALO, находившийся под крылом Тони Тетера. DARPA рассчитывало, что он привлечет исследователей искусственного интеллекта со всей страны. Обычно DARPA финансировало сразу несколько исследовательских лабораторий и не интегрировало результаты. Однако на этот раз предполагалось, что разработку CALO будет координировать SRI. Все должны были отчитываться перед командой SRI и работать над одной интегрированной системой. Чейер помог написать первоначальное предложение DARPA и стал архитектором проекта, когда SRI получил заказ. CALO твердо основывался на традиционном символьном подходе первого поколения искусственного интеллекта – планирование, рассуждение и онтологии, – но было и новое направление, которое обозначалась как «обучение в естественной среде».

CALO был похож на небольшой Манхэттенский проект. На пике в нем участвовало более 400 человек, а его результатом стало более 600 исследовательских работ. DARPA потратило на него почти четверть миллиарда долларов, что делает его одним из самых дорогих проектов в области искусственного интеллекта в истории. Участники проекта CALO пытались создать программного помощника с адаптируемостью, как у человека, способного учиться у человека, с которым он работает, и соответственно менять свое поведение.

Когда CALO прошел ежегодные тесты, DARPA было в восторге. Тетер наградил проект за отличные успехи, а часть технологий перешла в проекты ВМС. Но Адам Чейер, как архитектор проекта, испытал сильнейшее разочарование. Джон Маккарти как-то сказал, что для создания «интеллектуальной машины» нужны «1,8 Эйнштейна и десятая часть ресурсов Манхэттенского проекта». Если исходить из оценки Маккарти и учесть, что Манхэттенский проект стоил бы больше $25 млрд в текущих долларах, то на CALO ушло меньше того, что требовалось для создания интеллектуальной машины.

Для Чейера, однако, основным препятствием в проектировании CALO был не дефицит финансирования, а DARPA, пытавшееся мелочно контролировать процесс. Часто ему не удавалось действовать по своему плану, руководство неоднократно отклоняло его идеи. Ему было трудно направлять огромное количество команд, каждая из которых имела собственные приоритеты и получила лишь небольшую часть финансирования от проекта CALO. Призывы Чейера работать совместно над общим проектом, интегрировавшим множество идей в новую «когнитивную» архитектуру, в основном не находили отклика. Его вежливо выслушивали, поскольку хотели получить следующий транш, и создавали программы, но всех в первую очередь интересовали собственные проекты. Большая и бюрократическая программа не могла родить нечто, способное оказать прямое воздействие на реальный мир.

Чтобы справиться с разочарованием, он наметил ряд параллельных проектов для продолжения работы в 2007 г. Они варьировали от попыток коммерциализировать технологию CALO до создания с несколькими друзьями социальной сети для активистов под названием change.org. Этот год стал удивительно плодотворным для Чейера. С аспирантом Дидье Гуццони он использовал технологии CALO для создания новой системы разработки программного обеспечения, в конечном итоге ставшей основой для Siri. Он также собрал небольшую группу разработчиков, начавшую выпускать на рынок различные компоненты Siri: календари для смартфонов, средства онлайнового чтения новостей и т. д. Он также принял участие в создании компании машинного обучения Genetic Finance, построившей кластер более чем из миллиона компьютеров для решения задач в сфере финансов, например прогнозирования состояния фондового рынка.

Попутно Чейер обратился к руководству SRI с просьбой профинансировать исследовательские работы. Он сказал: «Я хочу начать небольшой параллельный проект и создать собственного помощника CALO, но так, как я вижу это». Ему хотелось получить цельную интегрированную систему, а не лоскутное одеяло, сделанное десятками различных организаций. SRI согласился, проект назвали Active Ontologies. Чейер занимался им параллельно основной работе.

Проект получил ускорение, когда группа ведущих технических специалистов SRI собралась на однодневном выездном семинаре в Хаф-Мун-Бэй, прибрежном городке неподалеку от лаборатории в Менло-Парке. Глава SRI Курт Карлсон все настойчивее требовал превращения результатов исследований в источник прибыли, и CALO был очевидным кандидатом. Семинар имел большое значение для поиска ответов на основополагающие вопросы о целях программного обеспечения: какими должны быть «ощущения» от персонального помощника? Следует ли использовать аватар? Аватары всегда были спорным аспектом при разработке виртуальных помощников. Видео о Knowledge Navigator компании Apple показывало строгого молодого человека с галстуком-бабочкой, чуть смахивавшего на Стива Джобса. Однако у проекта CALO не было аватара. Разработчики по-разному отвечали на вопрос, должна ли система быть виртуальным собеседником, своего рода персональным компаньоном, которым исследователи занимались не одно десятилетие, предлагая пользователям «поговорить» с помощью клавиатуры с программами вроде Eliza. В конце концов компромисс нашли. Было решено, что вряд ли кто-то станет сидеть и болтать с виртуальным роботом весь день и нужно создавать систему для людей, которым требуется помощь в управлении повседневными делами.

Группа придумала понятие «наггетсы для удовольствия». Поскольку она пыталась создать подобную человеку личность, возникла идея вставить в программу вызывающие расположение людей фразы. Например, если пользователь спрашивает систему о прогнозе погоды на день, то она не просто отвечает, что может быть дождь, а добавляет: «Не забудьте зонтик!» Разработчики хотели дать пользователю то, что он хочет, и сделать целью проекта помощь людям в управлении повседневными делами и при этом (чуть-чуть) удивить их. Включение этих фраз добавляло взаимодействию ощущение человечности, хотя системы еще не обладали функциями синтеза и распознавания речи.

Встреча 2007 г. послужила стартовой площадкой. Совет SRI по коммерциализации одобрил в августе решение команды найти внешнее финансирование. Название Siri стало работать на самых разных уровнях. Помимо того, что оно означало «секрет» на суахили, Чейер когда-то работал над проектом Iris, т. е. Siri наоборот. И конечно, всем понравилось, что это название было похоже на SRI.

В 1987 г. руководитель Apple Джон Скалли выступил с программной речью на национальной конференции по информационным технологиям в образовании Educom. Он показал рекламный ролик, сделанный небольшой командой Apple для демонстрации идеи Knowledge Navigator. Идея, конечно, привлекла внимание публики, но в тот момент она показалось очень далеким будущим. Система Knowledge Navigator была прорывом, указывавшим путь к компьютерному миру после настольных компьютеров середины 1980-х гг. Knowledge Navigator в конечном итоге породила в Кремниевой долине поток высокотехнологичных «заявлений о видении», в том числе одно от Microsoft, сделанное Биллом Гейтсом в 1991 г. и названное «Информация на кончиках пальцев» (Information at Your Fingertips). Но Knowledge Navigator первой дала убедительное представление о будущем после настольных компьютеров. В центре видео находился разговор между рассеянным преподавателем и веселым экранным аватаром с галстуком-бабочкой, действовавшим как советчик преподавателя в его исследованиях и повседневных делах. Это был набросок будущего, где для взаимодействия с компьютером не требовались клавиатура и мышь. Knowledge Navigator предполагала естественный разговор с интеллектуальной машиной, которая и распознавала, и синтезировала речь.

Приходу Скалли в Apple на пост руководителя во время бума PC в 1983 г. предшествовал его хорошо описанный «роман» с соучредителем Apple Стивом Джобсом. Позже, когда рост Apple прекратился под давлением со стороны IBM и других конкурентов, Скалли вступил в схватку с Джобсом за управление компанией и победил.

В 1986 г. Джобс организовал новую компьютерную фирму NeXT. Он хотел выпускать хорошие рабочие станции для студентов колледжей и научных работников. Это вынудило Скалли продемонстрировать, что Apple может создавать инновации и без своего первого провидца. Скалли предложил Алану Кею, который ушел из Xerox PARC и сначала создал Atari Labs, а потом оказался в Apple, роль проводника в будущее компьютерного рынка. Диалоги Кея с генеральным директором Apple обобщены в последней главе автобиографической книги Скалли «Одиссея» (Odyssey). Кей предложил «замечательную, словно из мира фэнтези машину под названием Knowledge Navigator»{192}. Она вобрала в себя целый ряд его идей относительно Dynabook и концепций, которые в конечном счете примут форму Всемирной паутины.

Алан Кей впоследствии говорил, что Джон Скалли попросил его придумать «современный Dynabook», что было забавным, поскольку в тот момент не существовало даже прототипа Dynabook. По просьбе Скалли он соединил идеи из своих наработок с предложениями сообщества искусственного интеллекта, а также директора Media Labs Массачусетского технологического института Николаса Негропонте, сторонника речевых интерфейсов{193}. Негропонте в 1967 г. создал в институте «Группу архитектурных машин», вдохновляясь в какой-то мере идеями Айвена Сазерленда, докторская диссертация которого Sketchpad (система ввода графической информации) была основополагающей работой и в области компьютерной графики, и в области дизайна интерфейсов.

Историки недооценили влияние Негропонте на Apple и компьютерную отрасль в целом. Хотя идея «архитектурной машины» Негропонте так и не стала популярной, она оказала очень сильное влияние на Билла Аткинсона, одного из основных разработчиков компьютеров Lisa и Macintosh компании Apple. Многие идеи для Lisa и Macintosh были заимствованы из ранних исследований Негропонте, пытавшегося представить, какой станет архитектура при помощи компьютеров. Группа Негропонте создала прототип системы управления визуальными данными DataLand. Во многих отношениях DataLand была широким исследованием того, как пользователи компьютера могут оперировать информацией. Она определенно представляла собой более масштабное исследование в этой области, чем проекты PARC, которые фокусировались на создании виртуального рабочего стола. Задача Негропонте действительно была шире. DataLand давала возможность находящимся в специальной комнате пользователям погрузиться в информационную среду, создаваемую с помощью проецирования на огромное полированное стекло разных изображений – от документов до карт. Это походило на работу с системой Macintosh или Windows, где вместо маленького дисплея использовался окружающий пользователя экран. Можно было увеличить и уменьшить масштаб, «пролететь» через виртуальную среду с помощью джойстика, а когда вы приближались к объектам вроде файлов, они начинали разговаривать с вами тихим голосом (например, «Это календарь Николаса»). Аткинсон бывал в лаборатории Негропонте и считал, что такой тип интерфейса мог бы решить проблему хранения документов в электронном виде. Он хотел организовать документы пространственно и размещать их поблизости со связанными материалами. Хотя концепция была привлекательной, ее реализация оказалась неподъемной, и группа вернулась к вариантам, больше похожим на идеи PARC о настольных компьютерах.

Идеи, полученные из обмена мнениями с Негропонте, Кей «перенаправил» Скалли и группе, которая делала видео о Knowledge Navigator. Кей считал, что Негропонте действует по принципу «игры Уэйна Гретцки»: надо спешить туда, куда летит шайба, а не туда, где она была. Кей с интересом прочитал одну из первых статей Гордона Мура в Electronics, которая довольно смело оценивала уровень вычислительной мощности через 10 лет, в 1975 г.{194} Он экстраполировал прогнозную кривую до 1995 г. и дальше. Результат говорил о том, что на коммерческую доступность 3D-графики можно рассчитывать уже через несколько десятилетий.

Негропонте был «недостающим звеном» между идеями Норберта Винера относительно компьютеризации и ее последствий, нарождающимся миром искусственного интеллекта и взрывным ростом индустрии персональных компьютеров в 1980-е гг. В конце 1960-х гг. Негропонте вел курс по автоматизированному проектированию для архитекторов в Массачусетском технологическом институте. Не слишком большой любитель чтения лекций, он ловко использовал подход Тома Сойера, и на его курсе всегда было много приглашенных лекторов. Он привлек яркую группу талантов. В их числе были, например, Айзек Азимов, который в то время жил в Кембридже и ежегодно приезжал для выступлений у Негропонте, и британский кибернетик Гордон Паск, который в 1960-х и 1970-х гг. часто появлялся в сообществе американских ученых-компьютерщиков. Если Кей находился под влиянием идей Негропонте, то было бы справедливо отметить и роль Гордона Паска. В начале эры интерактивных вычислений Паск в немалой мере повлиял на исследования в области информатики и когнитивистики в Соединенных Штатах. Тед Нельсон познакомился с ним в чикагском кампусе Иллинойсского университета и тоже поддался его очарованию. Он с любовью охарактеризовал Паска в своем манифесте Computer Lib как «самого сумасшедшего из сумасшедших ученых».

В 1968 г. Негропонте, как и многих в компьютерном мире, захватила идея из докторской диссертации Айвена Сазерленда – графический и интерактивный инструмент Sketchpad, наметивший контуры взаимодействия человека с машиной. Следуя по стопам Сазерленда, Негропонте начал работу над «архитектурной машиной», которая должна была помочь архитекторам строить системы, превосходящие индивидуальные интеллектуальные возможности. Первым шагом в этом направлении стала программа URBAN5. Через год после ее создания он привез рекламный ролик о проекте «архитектурной машины» на проходившую в Институте современного искусства в Лондоне выставку, известную как «Кибернетическая прозорливость» (Cybernetic Serendipity). Выставка собрала огромное число механических и компьютеризированных экспонатов, включая большие подвижные скульптуры, созданные Гордоном Паском с применением интерактивных элементов, позволявших зрителям вступать в «разговор» с инсталляциями.

Эти два ученых познакомились на выставке и подружились. Паск по три-четыре раза в год приезжал на неделю в группу ArcMac и всегда останавливался в доме Марвина Мински. Он был удивительным человеком, одевался почти как эдвардианский денди, дополняя костюм кепкой, и иногда начинал выражаться двусмысленно и играть словами. Паск твердо придерживался традиции Норберта Винера, которая была в Европе сильнее, чем в Соединенных Штатах. Он был к тому же решительно настроен против существующего мира искусственного интеллекта. Если искусственный интеллект занимался созданием умных машин, имитирующих способности человека, то кибернетика фокусировалась на разработке систем для достижения целей{195}. Взгляды Гордона Паска на природу интеллекта, который он связывал не с отдельным человеком, а с общением между людьми, оказали сильное влияние на Негропонте. Именно Паск заложил фундамент для подхода к человеко-машинному взаимодействию как к диалогу, который позднее был продемонстрирован в Knowledge Navigator, а потом реализован в Siri: он «задумывал человеко-машинное взаимодействие как форму разговора, динамического процесса, в котором участники знакомятся друг с другом»{196}.

Негропонте рано воспринял идеи Паска о компьютерном взаимодействии. Позже, в 1970-е гг., идеи Паска повлияли также на взгляды Негропонте и его проекты в Медиалаборатории Массачусетского технологического института, когда он расширил первоначальную задачу группы ArcMac. Идеи Медиалаборатории перекочевали в стратегию Apple, поскольку Кей был близок к Негропонте и преподавал у него. В то время мало кто заметил, что Apple выпустила Siri в качестве важнейшего дополнения к iPhone 4S в октябре 2011 г., отклонившись от предсказанной Кеем даты выпуска Knowledge Navigator не более чем на две недели. Идея проделала путь от Паска к Негропонте, а от него к Кею и к команде Siri. Параллельно она прошла от первой работы Грубера над компьютерными инструментами для инвалидов к его работе над Intraspect и к новому проекту в SRI. В течение всего одного поколения развитие компьютерных средств коммуникации открыло новый путь к сотрудничеству людей и машин. Как отмечал Грубер, люди перешли от внутриплеменного общения к письменному языку, а затем очень быстро к использованию телефонной и компьютерной связи.

Компьютеры стали протезом, не в негативном смысле, а в смысле расширения способностей человека, как предсказывали Ваннивар Буш, Ликлайдер и Энгельбарт. Intraspect и Hypermail представляли собой попытку создать когнитивный протез для работы, выполнение которой требовало выхода за пределы малочисленного племени. Характер сотрудничества изменился в одно мгновение. Люди могли общаться, не находясь в одной комнате или даже в одном часовом поясе. Простые онлайновые конференции типа www-talk использовались для разработки новых веб-стандартов. Постоянный архив позволял новым участникам быстро включаться в обсуждение, читая запись прошлого разговора.

Идея архива стала основным принципом при создании Siri. Инженеры SRI разработали внешнюю память, в которой были заметки, напоминания, расписания и информация в форме разговора с человеком. Создатели Siri взяли наработки по проекту CALO и довели их до ума. Им нужен был компьютер, который возьмет на себя функции секретаря. Они хотели, чтобы можно было сказать: «Напомни мне позвонить Алану в три тридцать или когда я поеду домой».

Накануне переименования проекта Чейера в Siri к крошечной команде в составе Чейера и Дага Киттлауса в SRI присоединился Грубер. До прихода в SRI Киттлаус руководил в Motorola проектами в сфере мобильной связи. Между собой они называли свой проект HAL, и это была не совсем шутка.

Чейер был приятным человеком, но по существу чистым технарем, не способным управлять компанией. Киттлаус представлял собой его полную противоположность. Красивый, загорелый норвежец, чувствовавший себя одинаково уверенно и в технической сфере, и в бизнесе, он был отличным менеджером. Раньше он работал в сфере мобильного интернета в Европе. Киттлаус получил широкие возможности выбора – по замыслу руководства лаборатории он должен был стать «предпринимателем в организации». Определенного назначения не было, предполагалось, что он осмотрится и найдет что-нибудь перспективное. Именно Киттлаус нашел Чейера. Он сразу понял, что Чейер – скрытое сокровище.

В первый раз они встретились, когда Чейер демонстрировал прототипы продуктов для беспроводной связи, основанные на его работе над OAA в 1990-х гг. Телекоммуникационная отрасль проявила некоторый интерес, но Чейер понял, что у его игрушечных демоверсий, написанных на языке искусственного интеллекта Prolog, нет шансов превратиться в нечто доступное миллионам пользователей мобильных телефонов.

Хотя SRI впоследствии приложил немало сил, чтобы связать CALO и Siri и получить свою долю славы, именно Чейер на протяжении всей своей карьеры работал над созданием виртуального помощника и пониманием естественного языка. Когда Киттлаус в 2007 г. впервые увидел работу Чейера над Siri, он сказал: «Я могу создать на этом компанию!» Но убедить Чейера удалось не сразу. Он не понимал, как Киттлаус может коммерциализировать Siri, но согласился помочь с демоверсиями. Киттлаус убедил его, подарив только что выпущенный iPhone. У Чейера был очень старый Nokia, и он совершенно не интересовался новыми смартфонами. «Поиграй вот с этим! – сказал ему Киттлаус. – Это революционная штучка. Через пару лет конкуренты осознают это, и все производители телефонов и телекоммуникационные компании будут отчаянно состязаться с Apple». Поскольку скорость передачи информации будет все еще не очень высокой, а экраны небольшими, этим компаниям придется цепляться за любое конкурентное преимущество, которое удастся найти.

Они решили создать стартап и начали искать соучредителя – технического специалиста, но им также был нужен кто-то со стороны, способный оценить технологию. Поиски привели к Тому Груберу. Чейер и Киттлаус подготовили простую демоверсию и показали ее Груберу в Mosaic, первом веб-браузере. Пользователи могли ввести вопрос в поле поиска, и система отвечала. Первая реакция Грубера была скептической.

«Я уже видел такое, вы, парни, замахиваетесь на невыполнимое», – сказал он Чейеру.

Программа походила на поисковую систему, но потом Чейер начал показывать интегрированные компоненты искусственного интеллекта.

Грубер задумался. «Минуточку, – сказал он. – Это ведь должна быть не просто поисковая система?»

«Нет, конечно, – ответил Чейер. – Это помощник».

«Но все, что вы показываете, это поисковая система. Я не вижу помощника, – возразил Грубер. – Одна только способность говорить со мной ничего не меняет».

Он продолжал задавать вопросы, а Чейер демонстрировал все новые функции системы. Наконец Грубер выдохся и замолк. Тут свое слово вставил Киттлаус: «Мы собираемся установить его в телефоны».

Это застало Грубера врасплох. В то время iPhone еще не имел огромного коммерческого успеха.

«Этот телефон будет вездесущим, – сказал Киттлаус. – Он полностью изменит мир. Они собираются обойти BlackBerry, и мы хотим присутствовать в этом телефоне». Грубер всегда занимался разработками для персональных компьютеров и Всемирной паутины, а не мобильных телефонов, поэтому нарисованная Киттлаусом картина будущего компьютеров стала для него откровением.

В середине 2000-х гг. клавиатура мобильных телефонов была ограничивающим фактором, и распознавание речи давало преимущество. SRI уже не одно десятилетие находился на переднем крае исследований в области распознавания речи. Крупнейшая независимая фирма в области распознавания речи Nuance вышла из недр SRI, поэтому Чейер очень хорошо представлял возможности средств распознавания речи.

«Пока этого нет, – сказал он. – Но обязательно будет».

Грубер был заинтригован. Чейер действовал как главный архитектор проекта CALO в SRI, а Киттлаус хорошо знал индустрию мобильных телефонов. Кроме того, Чейер располагал командой выдающихся программистов, способных создать помощника. Грубер сразу понял, что этот проект получит значительно более широкое распространение, чем все его прежние работы. Чтобы добиться успеха, команде нужно было определить, как создать сервис, хорошо взаимодействующий с людьми. Грубер еще со времен работы в Intraspect и Real Travel понимал, как создавать вычислительные системы для пользователей-неспециалистов. «Вам нужен вице-президент по разработке», – сказал он. Груберу было ясно, что у него появилась возможность работать с двумя экспертами мирового уровня, однако он только что ушел из неудачного стартапа. Стоит ли снова связываться с безумным миром стартапов?

Почему бы нет?

«Вам нужен соучредитель?» – спросил Грубер в конце встречи.

Ядро команды, которая сделает Siri, было сформировано.

Все три основателя Siri имели немалый опыт привлечения инвесторов, накопленный в процессе осуществления предыдущих проектов. Для Грубера это был тяжкий крест – бесчисленные походы к венчурным капиталистам, часто демонстрировавшим незаинтересованность, высокомерие или и то и другое одновременно. На сей раз, однако, связь с SRI открыла для них двери ведущих венчурных компаний Долины. Даг Киттлаус был умелым шоуменом, и во время тура по венчурным компаниям на Сэнд-Хилл-роуд он придумал остроумный и эффективный прием. Он брал с собой Чейера и Грубера на каждую встречу по привлечению средств. Их проводили в конференц-зал, и после того, как они представлялись, Киттлаус невинно обращался к вице-президентам: «Скажите, есть ли у кого из вас какой-нибудь новомодный смартфон?» Вице-президенты совали руки в карманы и почти всегда доставали совершенно новый тогда iPhone компании Apple.

«У вас загружены последние приложения?» – спрашивал Киттлаус.

Да.

«У вас есть поиск Google?»

Конечно!

Тогда Киттлаус клал на стол 20-долларовую банкноту и говорил: «Если вы сможете ответить на три вопроса за пять минут, то деньги ваши». Затем он называл вопросы, ответы на которые было трудно найти в Google и других подобных приложениях. Венчурные капиталисты слушали вопросы, а затем говорили: «О, у меня нет такого приложения», – или начинали бродить в браузере по различным гиперссылкам, пытаясь синтезировать ответ. Можно было не сомневаться в том, что никто не уложится в отведенное время, и Киттлаус никогда не терял свои деньги.

Это был отличный способ визуализировать необходимость приложения Siri. В дополнение команда сделала подборку бутафорских обложек журналов. Одна из них провозглашала: «Конец поиска – войдите в эру виртуального персонального помощника». На другой Siri выталкивал Google за пределы обложки. Команда Siri также сделала слайды, показывающие, что поиск Google – не предел возможностей в мире поиска информации.

В конечном счете команда добилась своего. Google не спешила внедрять широкий, более диалоговый подход к сбору и передаче информации. Впрочем, поисковому гиганту все же пришлось сделать это. В мае 2013 г. Амит Сингхал, глава группы Knowledge, которая занималась в том числе технологией поиска, начал внедрять новый продукт, объявив «конец поиска в том виде, в каком мы его знаем». Google через четыре года после появления Siri признала, что будущее поиска – это диалог. У Чейера челюсть отвисла до пола, когда он услышал эту презентацию. Даже Google, компания, полностью ориентированная на данные, отошла от статического поиска и повернулась в сторону помощи при поиске.

До начала тура по Сэнд-Хилл-роуд в поисках венчурного капитала Адам Чейер скептически оценивал вероятность того, что венчурное сообщество проглотит их предложение. Он ждал, что им укажут на дверь, но этого не случилось. К тому моменту некоторые компании уже пробовали выпускать системы с голосовым управлением, но неудачно. Например, General Magic, некогда амбициозное дочернее предприятие Apple, занимавшееся карманными устройствами, попробовала сделать голосового персонального помощника, но в 2002 г. обанкротилась. Постепенно Чейер понял: если команда сможет разработать действительно хорошего технического помощника, то венчурные капиталисты и деньги не заставят себя ждать.

Команда начала искать деньги в конце 2007 г. и получила финансирование до наступления нового года. Сначала они встретились с Гари Моргенталером, одним из старейших деятелей Кремниевой долины и влиятельным союзником SRI, для консультации, но идея понравилась ему так, что он предложил им представить бизнес-план. В результате команда получила поддержку не только Morgenthaler, но и Menlo Ventures, другой известной венчурной фирмы.

До эры доткомов компании держали свои проекты в секрете до объявления о достижениях на каком-нибудь крупном публичном мероприятии, но ситуация изменилась во время надувания пузыря в конце 1990-х гг. Среди более ориентированных на сервисы новых компаний царил дух открытости, они свободно обменивались информацией и спешили первыми выйти на рынок. Разработчики Siri, однако, решили не поднимать шум и даже использовали доменное имя stealth-company.com как шаблон и приманку. Они нашли офис в Сан-Хосе, далеко от других софтверных стартапов, которые часто обосновывались в Сан-Франциско. База в Сан-Хосе облегчала также поиск новых талантов. В то время технические специалисты с семьями перебирались ближе к южной части полуострова Сан-Франциско, и поездки на работу в центр Сан-Хосе были приятной прогулкой по сравнению с дорогой в Маунтин-Вью или Пало-Альто.

Чтобы создать культурный фон компании, Адам Чейер купил рамки для фотографий и раздал их всем сотрудникам с просьбой выбрать себе героя и поставить его портрет на стол. Затем он попросил всех подобрать цитату, показывающую, почему эта личность так важна. Чейер надеялся убить таким образом двух зайцев: посмотреть, кто кого выбрал, и получить некоторое представление о каждом сотруднике. Сам Чейер выбрал Энгельбарта и добавил к портрету одно из его давних обязательств в SRI: «Максимально расширять возможности людей по коллективному решению сложных, неотложных задач». С точки зрения Чейера, эта цитата идеально показывала разницу между автоматизацией и расширением возможностей человека. Работая, он всегда испытывал чувство вины, когда переходил от систем, которые считал «ориентированными на людей», к проектам на основе искусственного интеллекта. На протяжении всей своей карьеры он колебался между этими двумя полюсами. В 2007 г. Чейер помог своим друзьям создать общественный сайт change.org, который в полной мере соответствовал традиции Энгельбарта, и надеялся, что Siri идет по этому же пути. Грубер тоже хотел выбрать Энгельбарта, но, узнав, что Чейер опередил его, вернулся к своему музыкальному герою Фрэнку Заппе.

Несмотря на продажу его проекта Tymnet в начале 1970-х гг., Дуг Энгельбарт вернулся в ряды исследователей SRI ко времени приезда Чейера, и тот воспринимал стареющего ученого как отца и путеводную звезду. Занимаясь проектами, навеянными идеями об усилении интеллекта, он старался показать Энгельбарту, что работает в его традиции. Это было непросто. К 1990 гг. Энгельбарт, обрисовавший свой подход еще в 1960-х, стал одинокой фигурой, игнорируемой миром. Это не смущало Чейера. Он отчетливо видел силу подхода Энгельбарта и взял его на вооружение, когда оставил SRI, чтобы создать Siri.

Чейер еще со времен учебы в колледже привык четко обрисовывать цели, а затем методично осуществлять их. Как-то раз в самом начале работы над Siri он зашел в Apple Store и увидел рекламные объявления со множеством красочных пиктограмм, представлявших самые популярные приложения iPhone. Там были все ведущие разработчики программного обеспечения: Google, Pandora, Skype. Он задержал взгляд на них и сказал себе: «Когда-нибудь у Siri будет свой значок прямо здесь, в Apple Store! Я могу представить себе это, и я сделаю это».

Они приступили к работе. С точки зрения Грубера, у них подобралась идеальная команда. Чейер был инженером мирового класса, Киттлаус – великим шоуменом, а Грубер умел создавать высокотехнологичные демоверсии, приводившие в восторг зрителей. Они знали, как позиционировать свой проект и для инвесторов, и для потребителей. Они не только предвидели вопросы, которые им будут задавать во время демонстраций, но и целенаправленно работали над идеями и технологиями, которые сильнее всего привлекали публику. Внушение наблюдателю мысли о том, что будущее уже рядом, превратилось в Кремниевой долине в уникальную форму искусства, где главным было не переборщить. Обещать слишком много – прямой путь к провалу. Предыдущие попытки создать персонального помощника закончились неудачей, а Джон Скалли детально расписал идею Knowledge Navigator, который так и не появился. Когда работа над Siri уже шла полным ходом, Грубер откопал копию видео о Knowledge Navigator. После того как Apple продемонстрировала его несколько лет назад, среди разработчиков пользовательских интерфейсов развернулись горячие споры. Некоторые высказывались и продолжали высказываться против персонификации виртуальных помощников. Бен Шнейдерман и другие критики настаивали на технической и этической ущербности программных помощников. Они ратовали за то, чтобы непосредственный контроль оставался за пользователем, а принятие решений не передавалось программному слуге.

Команда Siri не уклонялась от дискуссии и вскоре после этого немного приоткрыла завесу тайны над своим проектом. Если в конце весны 2009 г. Грубер уклончиво говорил о новой технологии, то летом того же года на конференции Semantic Web он уже детально описывал, как футуристические технологии Knowledge Navigator становятся действительностью. Он акцентировал внимание на появлении сенсорных экранов и реализации так называемого жестового интерфейса, на существовании глобальной сети для совместного использования информации и сотрудничества, на разработке программ, способных взаимодействовать с людьми, на достижениях в области распознавания естественной и слитной речи. «Это большая проблема, над которой исследователи бьются уже давно, и в ее решении наметился определенный прогресс», – сказал он аудитории. Грубер также упомянул новшества, маячившие на горизонте, вроде диалога между программным агентом и человеком и устного ввода задач в компьютер. Наконец, он отметил существование проблемы доверия. В видео о Knowledge Navigator преподаватель позволял программному агенту отвечать на звонки матери. Разве это не признак доверия? Грубер надеялся, что его технология обеспечит такой же уровень взаимодействия.

После обсуждения технологий, предсказанных в видео о Knowledge Navigator, Грубер подразнил аудиторию. «Как вы считаете, такая система Knowledge Navigator возможна сегодня?» – спросил он. «Я хочу заявить, – он сделал паузу для большего эффекта, – что ответ все еще НЕТ». Аудитория разразилась смехом и взорвалась аплодисментами. Он добавил: «Но мы приближаемся к этому».

Разработчики Siri быстро обнаружили, что можно улучшить распознавание речи на основе облачных технологий. В то время они использовали не технологию Nuance SRI, а конкурирующую систему под названием Vlingo. Чейер заметил, что стоит разместить систему распознавания речи в сети, как на них обрушивается поток откликов в форме миллионов пользовательских запросов и исправлений. Иначе говоря, они получали эффективную обратную связь, позволяющую обучать и улучшать Siri.

Разработчики продолжали видеть конкурентное преимущество Siri в кардинальном отходе от доминирующей парадигмы поиска информации в сети, олицетворением которой являлась очень успешная поисковая система Google. Siri был не поисковой системой, а интеллектуальным агентом в форме виртуального помощника, способным к социальному взаимодействию с людьми. Грубер, который был также техническим директором в Siri, изложил лежащие в основе сервиса концепции в форме технических презентаций. Поиск информации, по его мнению, должен был выглядеть как разговор, а не как ввод поискового запроса. Программа должна была справляться с неоднозначностью вопросов, чтобы давать правильные ответы. Siri должен был предоставлять услуги, например подбор фильмов и ресторанов, а не контент. Для пользователя он должен стать высокоперсонализированным агентом. В начале 2010 г. команда Siri подготовила демонстрацию на iPhone для своего совета директоров. Siri еще не мог говорить, но программа умела интерпретировать речевые запросы и вести разговор, отвечая на вопросы предложениями на естественном языке, которые выводились на экран в мультяшных пузырях. Совет воспринял это с энтузиазмом и дал разработчикам дополнительное время на доработку программы.

В феврале 2010 г. крошечный стартап выложил программу на App Store iPhone и вскоре получил отзыв от представителя элиты компьютерной индустрии Кремниевой долины. Роберт Скобл, один из известных технологических блогеров Долины, отозвался о программе как о «самой полезной вещи, которая попадалась ему на глаза в этом году». Серьезной похвалой это нельзя было считать, но год только начался.

В момент выпуска системы Грубер был на техническом семинаре и почти не имел доступа к сети. Ему пришлось довольствоваться отзывами из вторых рук. «Приятель, ты слышал, что происходит с вашим приложением?!» – спрашивали у него.

Дальше – больше. Благодаря решению поместить приложение в менее очевидную категорию на App Store – Lifestyle – Siri сразу взлетел на верхние строчки рейтинга. Это был один из приемов, которому Грубер научился во время работы в Real Travel, – искусство оптимизации поисковой системы. Хотя они представили Siri на iPhone, Киттлаус договорился о взаимодействии с компанией Verizon, которая пока еще не поддерживала iPhone. По его словам, это была «величайшая сделка в области мобильных устройств в истории». Она гарантировала установку Siri в каждом новом телефоне Verizon, а это означало, что программа появится в смартфонах на Android. Оставалось лишь подписать документы, когда зазвонил сотовый телефон Киттлауса.

«Привет, Даг, – сказал голос в трубке. – Это Стив Джобс».

Киттлаус на мгновение потерял дар речи. «Откуда у вас этот номер телефона?» – спросил он.

«Это до смешного просто», – ответил Джобс. У него не было контактов с этой маленькой группой разработчиков, но он знал, где искать. Поскольку каждый разработчик программ для iPhone должен был указывать номер своего телефона в App Store, генеральный директор Apple нашел номер Киттлауса в своей базе данных разработчиков.

Первое соприкосновение команды с легендарным «полем искажения реальности» – гипнотической аурой Джобса – не было обещающим. Джобс пригласил трио разработчиков Siri к себе домой в сердце старого Пало-Альто. Жилище Джобса представляло собой довольно скромное здание в тюдоровском стиле 1930-х гг. возле пустоши, которую он превратил в небольшую рощу плодовых деревьев и сад. Они встретились в гостиной, которая, как и подавляющая часть дома Джобса, не отличалась богатством обстановки, но зато была украшена внушительным оригиналом фотоработы Ансела Адамса.

Джобс поставил трио перед дилеммой. Все они были успешными предпринимателями Кремниевой долины, но никому из них не удалось дойти до определяющего карьеру IPO. Сейчас команда Siri и, конечно, их совет директоров высоко оценивали вероятность очень крупного публичного размещения акций Siri на бирже. Джобс прямо сказал, что он хочет приобрести Siri, однако на тот момент команда не собиралась продавать компанию. «Большое спасибо», – сказали они Джобсу и откланялись.

Несколько недель спустя Apple вернулась. Команду Siri еще раз пригласили в дом Джобса, где он, уже очевидно больной, хотя публично и отрицал это, включил свое очарование. Он обещал им готовый рынок в сотню миллионов пользователей без маркетинга и бизнес-модели. В противном случае они могут рискнуть, попытаться стать следующей Google и одержать победу. Команда Siri также поняла, что если они пойдут с Verizon, то рискуют лишиться доступа к iTunes Store. Стиву даже не пришлось говорить это, было ясно и так, что нужно выбирать, на какой половине рынка они хотят находиться.

Предложение Джобса устроило их, но не совет директоров, который к тому времени жаждал выхода через IPO. Трем основателям пришлось перейти на другую сторону и убеждать совет. В конечном счете они убедили инвесторов – предложение Джобса было достаточно выгодным и намного менее рискованным.

После того как Apple в апреле 2010 г. приобрела Siri, команда Siri переехала в самый центр офиса группы разработки Apple, на половину верхнего этажа дома 2 по Инфинит-луп. Хотя Apple могла купить лицензию Nuance, чтобы преобразовывать речь непосредственно в текст, как позже сделала Google, Джобс решил, что Apple поставит более амбициозную цель – разместит аватар интеллектуального помощника на iPhone. Siri помогал решить большую проблему, возникшую у Apple с ее новыми iPhone и iPad. Стеклянные экраны и мультисенсорная панель могли заменить клавиатуру и мышь при навигации по экранам, но они были не очень удобны для ввода данных. Это было слабое место, несмотря на великолепную демонстрацию Джобсом ввода и автоматического редактирования текста во время первой презентации продукта. Голосовой ввод слов и целых предложений намного быстрее, чем кропотливый ввод каждого слова пальцем на экране.

Сначала, однако, проект встретил в компании сопротивление. Сотрудники Apple называли эту технологию «голосовым управлением», и команде Siri пришлось терпеливо объяснять, что у их проекта другой фокус. Проект Siri не попадал в разряд «приятного для глаз» в Apple, а именно такое отношение к дизайну программных и аппаратных средств и определяло Apple как компанию; он должен был дать пользователям надежную, невидимую и хорошо работающую программу. Многие инженеры из отделения разработки программного обеспечения в Apple думали, что, если бы Стив, а потом один из его главных помощников, Скотт Форстолл, не сказали «сделайте это», они ни за что не стали бы работать над этим проектом. В конце концов, Apple не была компанией, разрабатывающей облачные сервисы. Зачем изобретать колесо? Помощник или просто голосовое управление? В конце концов, какая разница? Но в реальной жизни люди гибли, читая электронную почту и отправляя сообщения во время управления автомобилем, поэтому предоставление водителям возможности пользоваться телефонами безопасно имело огромное значение.

Когда бюрократическая система управления проектами Apple заартачилась в отношении добавления возможности отправки текстовых сообщений без использования рук, Грубер, который после покупки компании оказывал техническую поддержку, сказал, что берет на себя ответственность за завершение проекта вовремя к моменту запуска Apple Siri. Он воспринял это как дело чести. Имея в качестве помощника только практиканта, он стал работать над дизайном и прототипами сервиса обмена текстовыми сообщениями. В конце концов его система была принята. Ко времени запуска Siri можно было отправлять и получать тексты, не касаясь экрана iPhone.

Впрочем, не все шло гладко. Команда Siri хотела сосредоточиться также на том, что называлось «управлением вниманием». Виртуальный персональный помощник должен был помогать людям держать «список текущих дел» во «внешней памяти», не забивая себе голову. Начальная версия Siri отличалась тщательной проработкой того, что команда называла «персональной памятью»: набор задач выстраивался в определенном порядке, а пользователь получал напоминания как от хорошего секретаря. Но в гонке за то, чтобы поставить Siri на iPhone, большую часть потенциала сервиса убрали, по крайней мере временно. Первый вариант Siri включал в себя лишь малую толику того, что создала команда.

Под занавес своего выступления в компьютерном мире Стив Джобс решительно встал на сторону усиления интеллекта и партнерства. Siri должен был стать дружелюбной, элегантной моделью будущего сотрудничества людей и машин и началом кардинальных изменений в Apple, значение которых проявится годы спустя. Проект закончился успешно, но, к сожалению, Джобс умер на следующий день после дебюта Siri. Поэтому мероприятие, посвященное выпуску продукта на рынок в октябре 2011 г., имело налет неоднозначности. Естественно, было общее ощущение триумфа. В день публичного представления Siri Чейер вновь оказался в Apple Store. Он подошел к магазину, где рядом с парадной дверью красовался гигантский плазменный дисплей с надписью «Представляем Siri!».

Глава 9

Хозяева, слуги или партнеры?

Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» – спросил я.

Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками, пока они работали с завтрашним номером газеты.

Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации. Его профсоюз начал бороться с издателями газеты в 1960-е гг. и добился в 1970-е гг. компромиссного соглашения. С тех пор, однако, влияние профсоюзов значительно снизилось. За прошлые три десятилетия доля входящих в профсоюзы работающих американцев сократилась с 20,1 до 11,3 %. Коллективные договоры вряд ли будут играть существенную роль в защите рабочих мест от следующей волны компьютеризации. Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е гг. мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы.

По некоторым данным, рецессия 2008 г. значительно ускорила замещение рабочих автоматизированными системами. Зачем набирать рабочих, если заменяющая их технология стоит дешевле? Отчет, выпущенный в 2014 г. Национальным бюро экономических исследований, подтвердил эту тенденцию, но Генри Сиу, профессор Университета Британской Колумбии и один из авторов отчета, придерживается стандартного кейнсианского представления о технологической безработице. Он объясняет: «В очень отдаленной перспективе технический прогресс хорош для всех, но на более коротких временны́х горизонтах выигрывают не все»{197}. Стоит, наверное, напомнить слова Кейнса, который также говорил, что в долгосрочной перспективе все мы умрем.

Статистическая логика Кейнса безупречна, но его экономическая логика вызывает немало критики. Среди научно-технических работников и некоторых экономистов все больше распространяется мнение, что кейнсианские допущения в отношении технологической безработицы (сокращение индивидуальных рабочих мест при сохранении общего объема работы) больше не выполняются. Системы искусственного интеллекта, которые могут двигаться, видеть, осязать и рассуждать, существенно изменяют уравнение создания рабочих мест. Сегодня споры идут не о том, появятся ли системы искусственного интеллекта, а о том, когда это произойдет.

Не исключено, что история докажет правоту кейнсианцев. Современное общество может находиться на грани очередного экономического преобразования, подобного промышленной революции. Возможно, такие социальные факторы, как краудсорсинг и реорганизация трудовых ресурсов, под влиянием интернета преобразуют американскую экономику так, как мы сейчас не можем себе представить. Интернет уже создает новые виды работ вроде «оптимизации поисковых систем», наверняка появятся и другие, связанные с интернетом и неожиданные занятия.

Но если и наступит новый бум занятости, то он все еще за горизонтом. Прогнозы Бюро трудовой статистики показывают, что рост количества рабочих мест в Америке будет прежде всего связан со старением населения, а не с техническими достижениями, которые замещают и создают рабочие места. Бюро предсказывает, что из 15,6 млн рабочих мест, которые появятся к 2022 г., 2,4 млн будут приходиться на секторы здравоохранения и ухода за престарелыми. Бросается в глаза, что рабочие места, основанные на технических достижениях и инновациях, составляют относительно небольшую часть новых видов занятости, при этом разработчики программного обеспечения находятся лишь на 26 строчке со 139 000 новых рабочих мест{198}. Прогнозы Бюро предполагают, что технологии будут не источником экономического роста, а угрозой для всех поддающихся автоматизации видов деятельности и работ, требующих «когнитивных» способностей, от врачей до репортеров и биржевых брокеров.

И все же, несмотря на страхи перед «концом работы», существует и другой взгляд на последствия автоматизации, робототехники и искусственного интеллекта для общества. Конечно, искусственный интеллект и роботы уничтожат огромное количество рабочих мест, но с их помощью можно также расширить возможности человечества. Какой путь будет выбран, зависит исключительно от разработчиков. Тэнди Трауэр когда-то руководил армией разработчиков программного обеспечения в Microsoft Corporation, а теперь работает в тесном офисе в Южном Сиэтле. Его офис с четырьмя комнатами похож на любой другой гаражный стартап Кремниевой долины. Там повсюду печатные платы, компьютеры и роботы. Многие из них – игрушки, но некоторые подозрительно смахивают на образы из фильма «Робот и Фрэнк». Идея создать робота, который может выполнять роль сиделки, имеет прямое отношение к противоречиям между искусственным интеллектом и усилением интеллекта в робототехнике.

Как мы будем заботиться о престарелых? Для некоторых подключение роботов к сфере ухода за пожилыми означает освоение в значительной мере незанятого рынка и дает робототехникам шанс направить исследования на общественное благо. Многие отмечают, что квалифицированных сиделок не хватает, и полагают, что разработка роботов, способных стать компаньонами и сиделками, поможет избавить старость от одной из самых больших проблем – одиночества и изоляции.

В ответ на это говорят, что дело не в нехватке сиделок, а в неготовности общества выделять ресурсы для таких задач, как уход за пожилыми и образование. «Конечно, у нас достаточно сиделок для пожилых. Страна и весь мир страдают от неполной занятости и безработицы, и многие находят, что уход за пожилыми – приносящая удовлетворение и желанная профессия. Единственная закавыка в том, что мы, как общество, не хотим хорошо платить сиделкам и не ценим их труд», – пишет Зейнеп Тюфекчи, социолог из Университета Северной Каролины в Чапел-Хилл{199}. Это был ответ Тюфекчи на статью Луизы Аронсон, геронтолога из Калифорнийского университета, Сан-Франциско, которая утверждала, что существует острая потребность в роботах-сиделках для выполнения таких задач, как контроль состояния здоровья пожилых пациентов, организация их жизни и выполнение функций компаньона. По словам Аронсон, на посещение пациентов и пребывание с ними у нее уходит намного больше времени, чем следует, поскольку ей приходится играть роль и сиделки, и компаньона{200}. Тюфекчи рисует общество, где армия специально подготовленных врачей будет проводить время с пожилыми. К сожалению, сетует она, мы живем в мире, где больше ценят работу биржевых брокеров и адвокатов, чем санитарок и учителей. Это, впрочем, не имеет отношения к технологии. Когда-то в аграрных сообществах забота о старших лежала на семьях. В западном обществе это зачастую уже не так, и мы вряд ли вскоре вернемся к какому-то виду централизованной расширенной семьи.

Так или иначе затронутая Тюфекчи тема ставит ряд вопросов.

Прежде всего, смогут ли роботы обеспечить такой же уровень ухода, как человек? Об уходе за пожилыми людьми в современных домах престарелых и в учреждениях социальной защиты рассказывают немало ужасов. Тюфекчи считает, что каждый пожилой человек заслуживает внимания образованного, квалифицированного и сострадающего доктора Аронсон. Ну а если этого нет, то улучшат ли дешевые роботы жизнь стариков? Перспектива получить сидящее под замком «под присмотром машин» стареющее население вызывает беспокойство. Машины могут научиться видеть, действовать и чувствовать, как люди, но людьми они все равно не станут.

Чтобы помогать пожилым, роботам вовсе не обязательно полностью заменять сиделок. Например, может существовать сеть взаимосвязанных роботов, позволяющая изолированным пожилым людям создать виртуальное сообщество в интернете. Возможно, такие старики будут самыми лояльными пользователями технологий расширенной реальности, разрабатываемых Magic Leap, Microsoft и др. Перспектива использования виртуальных сиделок – привлекательная идея для людей с физическими проблемами.

Сегодня Тэнди Трауэр решительно относит себя к лагерю усиления интеллекта. Он пришел в робототехнику как технарь из команды Билла Гейтса в Microsoft. В 2006 г. Гейтс ездил по студенческим городкам и воочию наблюдал интерес к робототехнике на кафедрах вычислительной техники по всей стране. Куда бы он ни приходил, везде занимались роботами. После одной из поездок он попросил Трауэра сформулировать предложения по более активному участию Microsoft в развивающейся индустрии роботостроения. Трауэр написал 60-страничный отчет, предлагавший создать в Microsoft группу разработки программных средств для создания роботов. Microsoft предоставила Трауэру небольшую группу исследователей, и он начал разрабатывать систему моделирования и графический язык программирования. Они назвали это подразделение Microsoft Robotics Developer Studio.

Но потом Гейтс ушел в отставку, чтобы основать свой фонд, и в Microsoft все изменилось. У нового руководителя Стива Балмера были совсем другие интересы. Его больше заботило зарабатывание денег, и он не был готов рисковать. Через ветерана Microsoft, директора по стратегии Крэйга Манди, он задал Трауэру прямой вопрос: как Microsoft будет на этом делать деньги?

Балмер выразился совершенно ясно: он хотел, чтобы бизнес ежегодно в течение семи лет давал доход $1 млрд. У Microsoft были партнеры в области промышленной робототехники, но они не интересовались покупкой программ Microsoft – у них уже было собственное программное обеспечение. Трауэр начал искать отрасли, которые могли бы заинтересоваться его программным обеспечением. Он рассматривал автомобильную промышленность, но у Microsoft уже имелось автомобильное подразделение. Он обратился к рынку образования и науки, но его потенциал был не слишком высок. Казалось, что время робота телеприсутствия еще не пришло. Чем больше Трауэр искал, тем больше задумывался о проблеме старения и ухода за пожилыми. «Отлично! – подумал он. – Вот рынок, который в следующие 20–30 лет будет резко расти». Сегодня в США больше 8,5 млн пожилых нуждаются в помощи, и за следующие два десятилетия их число превысит 21 млн.

В сфере ухода за пожилыми людьми существовала очевидная потребность в роботах, и на этот рынок не претендовал никто из крупных игроков. Несмотря на свой энтузиазм, Трауэр не смог убедить Манди и Балмера в том, что Microsoft должна вложиться в эту идею. Балмер стремился сократить диапазон инвестиций Microsoft и свести их к нескольким основным направлениям.

«Я должен сделать это», – подумал Трауэр. В конце 2009 г., после 28 лет работы на Microsoft, он покинул компанию и основал Hoaloha Robotics (слово hoaloha на гавайском означает «друг») с намерением создать мобильного робота для ухода за пожилыми по разумной цене. Полдесятилетия спустя Трауэр разработал прототип робота ростом 1 м 20 см, любовно названного Robby. Он не заменяет сиделку, но может слушать и говорить, помогать с лекарствами, передавать сообщения и при необходимости обеспечивать телеприсутствие. Он не ходит, а плавно перемещается на колесах в любом направлении. Вместо рук у него лоток, высоту которого можно регулировать. Это позволяет Robby выполнять определенные задачи, например подбирать упавшие предметы.

Трауэр не считает, что Robby вытеснит живых работников. Рост затрат и уменьшение притока рабочих рук создадут ситуацию, когда робот-помощник будет расширять возможности и пациентов, и обслуживающего персонала. Трауэр говорит, что сиделки уже сейчас обходятся в $70 000 или больше в год, и дешевый робот станет реальным помощником даже тем, у кого не так много средств.

Не обращая внимания на опасения Тюфекчи, Трауэр сконцентрировался на расширении возможностей и помощи людям. Но когда эти машины оправдают наши надежды на них? И как их встретят те, о ком они будут заботиться? Эти вопросы остаются открытыми, хотя есть немало примеров, говорящих о том, что по мере улучшения распознавания и синтеза речи, снижения стоимости датчиков и появления более ловких машин мы будем с благодарностью принимать их. К тому же для привыкшего к интернету поколения, которое выросло с планшетами, iPhone и Siri, машины для ухода будут казаться совершенно естественными. Роботы для ухода за пожилыми и для сферы обслуживания, роботы-водители и роботы-солдаты – это неизбежность. Труднее предсказать характер наших отношений с ними. Истории, подобные притче о големе, рисующие образ счастливого слуги, который выполняет каждое наше желание, прочно сидят в наших душах и в мифологии. Появление интеллектуальных машин, которые в значительной степени заменят живой труд, несомненно спровоцирует кризис самоосознания человека.

Трауэр пока сосредоточился на понятной и важной роли роботов как помощников для больных и пожилых. Это отличный пример прямого использования искусственного интеллекта в интересах людей, но что будет, если интеллектуальные машины быстро распространятся по всей экономике? Мы можем только надеяться, что кейнсианцы окажутся правы – в долгосрочной перспективе.

Выбор пути, по которому пойдет развитие искусственного интеллекта и усиления интеллекта, налагает огромную ответственность на два сообщества разработчиков, описанных в этой книге. Когда Стив Джобс собирал команду инженеров, которая должна была вдохнуть новую жизнь в мир персональных компьютеров с помощью Lisa и Macintosh, он ясно видел цель. Джобс думал о компьютерах как о «велосипеде для разума». Персональные компьютеры, первоначально предложенные небольшой группой инженеров и провидцев в 1970-е гг., оказали огромное влияние на экономику и современные трудовые ресурсы. Они расширяли возможности каждого человека и высвобождали творческий потенциал людей в глобальном масштабе.

Три десятилетия спустя робототехнический проект Энди Рубина в Google также осуществляется небольшой группой инженеров, создающих самых современных роботов. Рубин начал работу со столь же ясной, хотя и существенно отличающейся целью. Когда он начинал скупать технологии и специалистов, которые должны были ввести Google в мир робототехники, ему казалось, что 10–15 лет достаточно для достижения значительного прогресса в самых разных областях робототехники – от шагающих машин до манипуляторов и сенсорных систем. В его воображении двуногие роботы Google выпрыгивали из автомобилей Google и доставляли пакеты к крыльцу заказчиков.

Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.

Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж»{201}. Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.

На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред»{202}. Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования [DARPA Robotics Challenge] проходят с прицелом на чрезвычайные ситуации под девизом „найти и уничтожить“, – сказал он сардонически, добавив: Простите, я имел в виду девиз „найти и спасти“».

Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, – сказал он, – но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались». В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и искусственного интеллекта. Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их. Сегодня мы все еще «в контуре управления» – машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, – сказал Аркин. – Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».

Вопросы и проблемы автоматизации вышли за пределы технического сообщества. В оставшемся незамеченным открытом отчете Пентагона «Роль автономности в оборонных системах»{203} авторы обратили внимание на этические проблемы автоматизации боевых систем. Военные уже напрямую сталкиваются с противоречиями, связанными с автономными системами вроде дронов и приближением к грани, за которой вопросы жизни и смерти уже будут решать не люди. В одном из своих выступлений Аркин утверждал, что, в отличие от людей, автономные боевые роботы не будут чувствовать угрозы личной безопасности, а это потенциально может уменьшить сопутствующий ущерб и избежать военных преступлений. Этот вопрос – часть споров, начавшихся еще в 1970-е гг., когда командовавшие соединениями стратегических бомбардировщиков генералы обосновывали более высокую ценность самолета по сравнению с баллистической ракетой наличием «человека в контуре управления», который позволял отозвать бомбардировщик и мог оценить размер нанесенного противнику ущерба.

Аркин, кроме того, сформулировал новый набор этических вопросов. Что, если у нас будут роботы, обладающие моралью, а у противника – нет? На этот вопрос нет простого ответа. Действительно, технологии все более интеллектуального и автоматизированного оружия спровоцировали новую гонку вооружений. Добавление недорогого интеллекта к системам вооружений угрожает изменить баланс сил между странами.

Когда Аркин завершил свое выступление в величественном здании Медицинской академии в Атланте, одним из первых ему ответил директор DARPA Robotics Challenge Гилл Пратт. Он не стал опровергать точку зрения Аркина, а подтвердил, что роботы – технология двойного назначения. «Очень легко критиковать роботов, которых финансирует Министерство обороны, – сказал он. – Очень легко нарисовать робота, который похож на Терминатора, но, поскольку все вокруг нас имеет двойное назначение, это ничего не меняет. Если вы создаете робота для здравоохранения, то вам придется сделать его более автономным, чем робота-спасателя для работы в чрезвычайных ситуациях»{204}. Передовые технологии всегда вызывали вопросы относительно двойного назначения. В наши дни искусственный интеллект и автономность машин привели к переосмыслению этой проблемы. До сих пор технологии двойного назначения прямо требовали от людей принятия этических решений относительно их использования. Автономность машин или отдаляет принятие этических решений человеком, или полностью исключает его.

У нас уже есть примеры, когда ученые и инженеры в других областях задумывались о потенциальных последствиях того, что они делают, и многие из них вставали на защиту человечества. В феврале 1975 г., например, нобелевский лауреат Пол Берг призвал элиту новой тогда биотехнологии встретиться в конференц-центре Асиломар в Пасифик-Гроув, Калифорния. В то время рекомбинантная ДНК, полученная добавлением новых генов в ДНК живых организмов, была последним достижением. Оно одновременно сулило глобальный прогресс в медицине, сельском хозяйстве и новых материалах и открывало страшную возможность ненамеренного уничтожения человечества в результате появления новых микроорганизмов. Встреча ученых привела к экстраординарному решению. Группа рекомендовала молекулярным биологам воздерживаться от определенных видов исследований и приостанавливать исследования для поиска путей обеспечения безопасности. Для мониторинга отрасли биотехнологи создали независимый комитет в Национальном институте здравоохранения. За десятилетие удалось собрать достаточно данных, чтобы снять ограничения на исследования. Это был яркий пример разумного подхода общества к оценке последствий научного прогресса.

По примеру биологов в феврале 2009 г. группа исследователей искусственного интеллекта и робототехников также встретилась в Асиломаре, чтобы обсудить развитие отрасли. Встречу созвал исследователь из Microsoft Эрик Хорвиц, президент Ассоциации развития искусственного интеллекта. В предыдущие пять лет предметом обсуждения у исследователей в этой области были два тревожных сигнала. Один поступил от Рэя Курцвейла, объявившего об относительно скором появлении компьютерного сверхинтеллекта. Основатель Sun Microsystems Билл Джой также рисовал мрачную картину развития искусственного интеллекта. Он опубликовал статью в журнале Wired, где детально описывал трио технологических угроз: робототехнику, генную инженерию и нанотехнологию{205}. Джой полагал, что эти области исследований создают тройную угрозу выживанию человечества, и не видел очевидного решения.

Встретившиеся в Асиломаре исследователи искусственного интеллекта предпочли действовать менее осторожно, чем их предшественники биотехнологи. Группа светил в области компьютерной науки и робототехники, включая Себастьяна Труна, Эндрю Ына, Мануэлу Велосо и Орена Этциони, нынешнего директора Института исследований искусственного интеллекта Пола Аллена, в целом отвергла возможность появления сверхинтеллекта, который превзойдет людей, а также предположение, что искусственный интеллект может спонтанно возникнуть в интернете. Они согласились, что уже разрабатываются способные убивать автономные роботы, но их отчет, появившийся к концу 2009 г., оказался довольно спокойным. Искусственный интеллект еще не достиг того момента, когда он превращается в непосредственную угрозу. «На встрече 1975 г. речь шла о моратории на исследования рекомбинантной ДНК. Контекст совещания американской Ассоциации развития искусственного интеллекта был совершенно иным. Эта область демонстрирует довольно успешное, устойчивое развитие, однако исследователи искусственного интеллекта открыто выражают разочарование прогрессом, недостаточно быстрым с учетом существующих надежд и ожиданий»{206}, – написали авторы итогового отчета о встрече.

Так или иначе пять лет спустя вопрос автономности машин возник снова. В 2013 г., когда Google приобрела специализировавшуюся на машинном обучении британскую фирму DeepMind, считалось, что робототехники очень близки к созданию полностью автономных роботов. Крошечный стартап продемонстрировал программу, которая играла в видеоигры порою лучше людей. Отчеты о приобретении сопровождались заявлением, что Google создает «совет по этике» из-за опасений по поводу потенциального использования технологии и возможных злоупотреблений. Один из соучредителей DeepMind – Шейн Легг признал, что технология в конечном итоге может иметь негативные последствия для человеческого рода. «Я думаю, что человечество исчезнет, и технология, скорее всего, сыграет в этом определенную роль»{207}. Для исследователя искусственного интеллекта, который только что получил сотни миллионов долларов, это была странная позиция. Если кто-то полагает, что технология может уничтожить человечество, то с какой целью он продолжает разрабатывать ее?

В конце 2014 г. встреча по искусственному интеллекту повторилась – новая группа исследователей, финансируемая одним из основателей Skype, собралась в Пуэрто-Рико, чтобы обсудить вопросы обеспечения безопасности исследований. Несмотря на новую волну тревожных сигналов от таких светил, как Илон Маск и Стивен Хокинг, в открытом письме участников не было того призыва к действию, который прозвучал на встрече биотехнологов в Асиломаре в 1975 г.

Учитывая, что DeepMind была куплена Google, публичное философствование Легга приобретает особое значение. Сегодня Google – самый яркий пример потенциальных последствий развития искусственного интеллекта и усиления интеллекта. Построенная на алгоритме, эффективно собирающем знания, а затем возвращающем их людям в процессе поиска информации, Google теперь занята созданием империи роботов. Компания может создать машины, которые заменят людей: водителей, работников служб доставки и сборщиков электроники. Пока неясно, останется ли она компанией «усиления интеллекта» или будет ориентироваться на искусственный интеллект.

Новую волну беспокойства по поводу потенциальной угрозы со стороны искусственного интеллекта и робототехники рождают этические проблемы, показанные в научно-фантастическом фильме «Бегущий по лезвию». В начале фильма детектив Декард встречается с Рэйчел, сотрудницей компании, производящей роботов (или репликантов), и спрашивает ее, дорого ли стоит «ночная бабочка». Она высказывает предположение, что он не понимает ценности работы компании. «Репликанты подобны любой другой машине, – отвечает Декард. – Они или благо, или опасность. Если они благо, это не моя забота»{208}.

Сколько пройдет времени, прежде чем интеллектуальные машины Google, основанные на технологиях от DeepMind и робототехнического подразделения Google, будут вызывать такие же вопросы? Мало какие фильмы оказали такой же культурный эффект, как «Бегущий по лезвию». Всего вышло семь его версий, одна из которых режиссерская, сейчас снимается сиквел. В нем рассказывается история отставного детектива из Лос-Анджелеса, которого в 2019 г. вызвали, чтобы выследить и уничтожить группу искусственно созданных существ, известных как репликанты. Репликанты предназначались для работы за пределами планеты, но незаконно вернулись на Землю, чтобы заставить своего создателя увеличить ограниченную продолжительность их жизни. Ставший современным «Волшебником Страны Оз», этот фильм отражает надежды и страхи технологически грамотного поколения. От Железного Дровосека, который получает сердце и, таким образом, в определенной мере становится человеком, до репликантов, настолько превосходящих людей, что Декард получает приказ уничтожить их, отношение человечества к роботам превращается в определяющий вопрос эпохи.

Эти «интеллектуальные» машины никогда, возможно, не станут интеллектуальными в человеческом смысле или обладающими самосознанием. Дело не в этом. Искусственный интеллект быстро совершенствуется и приближается к уровню, когда он все в большей степени будет казаться интеллектом. Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.

И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человеко-машинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, виртуальной реальности и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы – те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.

Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.

Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности. В конце концов, разница между отношением человека к роботам и традиционным отношением людей к рабам, которых хозяева обезличивали на протяжении всей истории, не так уж велика. Гегель рассматривал отношения между господином и рабом в «Феноменологии духа», и его идеи относительно «диалектики господин – раб» повлияли на многих мыслителей от Карла Маркса до Мартина Бубера. В основе диалектики Гегеля лежит положение об обезличивании и господина, и раба в процессе их взаимоотношений.

Кей фактически перевел Гегеля для нашего времени. Сегодня многие компании разрабатывают диалоговые системы, подобные Siri. По мнению Кея, разработчики должны стремиться создавать программы, функционирующие как коллеги, а не как слуги. Если этого не сделать, то, как следует из истории, нас ждут неприятные последствия. Кея волнует то, что создание интеллектуальных «помощников» может вновь создать проблему, с которой столкнулись римляне, позволив греческим рабам думать за них. Довольно быстро находившиеся у власти утратили способность думать самостоятельно.

Не исключено, что мы уже встали на этот путь. Например, появляется все больше свидетельств того, что использование GPS для определения направления и исправления ошибок в определении местоположения ухудшает наши способности ориентироваться в пространстве, которые принципиально важны для выживания{209}. «Меня спрашивают, захватят ли компьютеры мир? – говорит Кей. – Для большинства это уже произошло, поскольку мы уступили им полномочия принимать решения по очень многим вопросам».

Это подводит нас ко второй большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri – сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, – сказал он. – Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить». На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке. То, что начиналось как интернет-технологии, позволившие людям совместно использовать возникшие возможности, быстро превратилось в растущий массив алгоритмов, которые все больше диктуют им, что делать. Теперь интернет незаметно для пользователя определяет образ жизни. Это могут быть небольшие подсказки, например поиск лучшего кафе с корейским барбекю поблизости с учетом ваших предпочтений и потребностей, или более серьезные решения, подобные интернет-сервису по организации свадьбы: подбор не только блюд, подарков и цветов, но и вашей пары.

Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно – если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре – это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым. И Терри Виноград, и Джонатан Грудин независимо друг от друга описали конкурирующие сообщества ученых и инженеров, возникшие на заре компьютерной эры. И тот и другой хотели соединить два противоречивших друг другу подхода. Так, в 2009 г. Виноград организовал в Стэнфорде «программу по технологии освобождения», нацеленную на поиск путей использования компьютерных технологий для улучшения управления, помощи неимущим слоям населения, поддержки прав человека, обеспечения экономического развития и т. п.

Конечно, у этих технологий есть пределы. Виноград говорит, что цели применения компьютерных технологий – расширение возможностей людей или их замена – зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») – это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.

Немногим более столетия назад Торстейн Веблен написал фундаментальную работу с критикой индустриального мира на рубеже веков «Инженеры и система цен» (The Engineers and the Price System). По его мнению, из-за могущества и влияния промышленной технологии политическая власть должна перейти к инженерам, которые могут использовать свои глубокие знания для контроля развивающейся промышленной экономики. Этого, конечно, не случилось. Веблен апеллировал к эре прогрессизма, пытаясь найти компромисс между марксизмом и капитализмом. Возможно, он неправильно выбрал время, но его основное положение, повторенное полвека спустя, на заре компьютерной эры, Норбертом Винером, может еще оказаться правильным. Сегодня инженеры, создающие основанные на искусственном интеллекте программы и роботов, очень сильно влияют на то, как мы будем использовать их. По мере того как компьютерные системы все глубже вплетаются в ткань повседневной жизни, противоречие между усилением интеллекта и искусственным интеллектом становится все заметней.

На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей – инженеров и ученых, подобных Биллу Дювалю, Тому Груберу, Адаму Чейеру, Терри Винограду и Гари Брадски, которые осознанно выбрали антропоцентрический подход.

На заре компьютерной эры Винер отчетливо понимал значимость отношений между людьми и их созданиями – умными машинами. Он видел благо автоматизации в избавлении людей от тяжелой работы, но беспокоился, что эта же самая технология может поработить человечество. Прошедшие десятилетия лишь обострили двойственность, на которую он первым обратил внимание.

Это проблема нас как людей и мира, который мы создаем.

Это не проблема машин.

Благодарности

В 2010 г. я оставил работу над репортажами о Кремниевой долине в New York Times, которой занимался с 1976 г., и перешел в научный раздел газеты. Описанные в этой книге события и идеи уходят корнями в две серии газетных статей, в подготовке которых я принимал участие, когда делал репортажи на тему робототехники и искусственного интеллекта. Серия «Умнее, чем вы думаете» (Smarter Than You Think) выходила в течение 2010 г., а «Экономика интеллекта» (iEconomy) – в 2012 г.

Мой редактор Гленн Крамон, с которым мы вместе начинали в San Francisco Examiner в середине 1980-х гг., придумал рубрику «Умнее, чем вы думаете». Я – тот репортер, который ценит хороших редакторов, а Гленн – один из лучших.

Тема, которую я предложил редакторам газеты в 2010 г. и которую рассматриваю здесь, касается того, как персональные компьютеры и интернет преобразовали мир за четыре последних десятилетия. Теперь настал черед искусственного интеллекта и робототехники. Несмотря на то что машины все больше копируют наши физические и интеллектуальные возможности, они все еще полностью искусственные. То, как они сделаны, определит, каким будет наш мир.

Грегг Закари и я конкурировали и сотрудничали в течение многих десятилетий, и он остается моим близким другом, обладающим энциклопедическими познаниями в сфере влияния технологий на общество. Джон Келли, Майкл Шрэдж и Пол Саффо – также мои друзья, каждый из которых бесконечно обсуждал со мной содержание и последствия будущих компьютерных технологий. В течение многих лет мы дискутировали с Рэнди Комисаром, Тони Фаделлом и Стивом Вудвардом во время долгих поездок на велосипедах. Вернувшийся в мир искусственного интеллекта после длительного перерыва Джерри Каплан реалистично представляет, как искусственный интеллект изменит современный мир.

Джон Брокмен, Макс Брокмен и Кэтинка Мэтсон больше чем замечательные сотрудники, они – хорошие друзья. В HarperCollins редактор Хилари Редмон поняла, что, если моя предыдущая книга позаимствовала название из песни, эта должна взять его из стихотворения. Ее коллега Эмма Джейнески очень помогла сориентироваться в деталях, связанных с созданием книги.

Особая благодарность директорам Центра передовых исследований в области поведенческих наук в Стэнфордском университете Айрис Литт и Маргарет Леви, позволивших мне присоединиться к сообществу социологов на холмах возле Кремниевой долины. Спасибо также Филу Тобмену за то, что он представил меня Центру.

Когда мне не удалось получить визу для репортажа из Китая в 2012 г., Джон Дулчинос посоветовал мне поехать в Драхтен на фабрику будущего. Во время моих командировок для подготовки репортажей Франк Леви и Дэвид Минделл из Массачусетского технологического института находили время, чтобы обсудить влияние робототехники на рабочие места и экономику. Ларри Смарр, директор Калифорнийского института телекоммуникаций и информационных технологий, часто давал мне приют и всегда видел на десятилетие или два вперед, куда идут компьютерные технологии. Марк Стэлмен щедро рассказывал о Норберте Винере и его влиянии.

Марк Сейден, опыт работы с компьютерами которого отсчитывается от первых интерактивных систем, отрывался от своей работы, чтобы помочь с редактированием и с пониманием технических аспектов. Андерс Фернштедт копался в архивах в поисках работ Норберта Винера, которые считались потерянными давным-давно. Он кропотливо проработал несколько вариантов моей книги, давая подсказки по грамматике и контексту.

Наконец, я благодарю Лесли Терзян Маркофф за то, что она разделила со мной все это.

Об авторе

ДЖОН МАРКОФФ является техническим и научным журналистом в New York Times с 1988 г. Он входит в группу репортеров Times, получивших в 2013 г. Пулитцеровскую премию в номинации «За мастерство», и является автором книги «Что сказал Соня: Как контркультура шестидесятых сформировала индустрию персональных компьютеров». Он живет в Сан-Франциско, Калифорния.

Сноски

1

Аллегория, использованная Ричардом Докинзом, английским биологом и популяризатором науки, для обозначения слепого естественного отбора. – Прим. пер.

2

Американская певица и автор песен в стиле фолк и кантри. – Прим. пер.

3

В этом фильме тренер говорит футболистам после проигрыша: «Каждое воскресенье ты отправляешься на стадион, чтобы победить или проиграть. Но смысл в том – сможешь ли ты победить или проиграть как мужчина». – Прим. пер.

4

Пол Ревир (1734–1818) – участник Войны за независимость, оповестивший жителей городов в округе Бостона о приближении английских войск. – Прим. пер.

5

Мартин Форд. Технологии, которые изменят мир/Пер. с англ. – М.: Манн, Иванов и Фербер, 2014.

6

Рэй Курцвейл. Эволюция разума: Как расширение границ нашего разума позволит решить многие мировые проблемы/Пер. с англ. – М.: Эксмо, 2016.

7

Джефф Хокинс, Сандра Блейксли. Об интеллекте: Книга о том, как новое понимание человеческого мышления приведет к созданию по-настоящему разумных машин/Пер. с англ. – М.: Вильямс, 2016.

8

Система мер администрации президента Ф. Рузвельта в 1933–1939 гг., направленная на ликвидацию последствий Великой депрессии. – Прим. пер.

9

Флинтстоуны и Джетсоны – названия американских мультсериалов. Если в первом представлено карикатурное изображение жизни в каменном веке, то во втором – в мире научной фантастики середины XX в. – Прим. пер.

10

Shakey (англ.) – шаткий, трясущийся. – Прим. пер.

11

Джеймс Дин (1931–1955) – американский актер, идол молодежной культуры. – Прим. пер.

12

Джеймс Лайтхилл (1924–1998) – английский ученый в области прикладной математики. – Прим. пер.

13

Мерриуэзер Льюис и Уильям Кларк возглавляли первую сухопутную экспедицию через территорию США в 1804–1806 гг. – Прим. пер.

14

Мартин Хайдеггер (1889–1976) – один из крупнейших философов XX в. – Прим. пер.

15

Сенатор-республиканец крайне правых взглядов, с именем которого связано реакционное течение в политической жизни США в 1950-х гг., известное как «маккартизм». – Прим. пер.

16

Полное название «Доктор Стрейнджлав, или Как я перестал бояться и полюбил атомную бомбу» – антимилитаристский кинофильм 1964 г. режиссера Стэнли Кубрика. – Прим. пер.

17

Американский телеведущий и журналист. – Прим. пер.

18

Руб Голдберг – американский карикатурист, писатель и изобретатель. Известен серией карикатур, изображающих чрезвычайно сложные и громоздкие устройства для выполнения очень простых функций. – Прим. пер.

Комментарии

1

Ссылки, в которых не указываются авторы, взяты из интервью автора книги.

Эта фраза принадлежит Ричарду Столлману, известному программисту, который первым предложил концепцию свободного программного обеспечения.

2

John Markoff, What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry (New York: Viking, 2005), 282.

3

Moshe Y. Vardi, «The Consequences of Machine Intelligence,» Atlantic, October 25, 2012, http://www.theatlantic.com/technology/archive/2012/10/the-consequences-of-machine-intelligence/264066.

4

Frank Levy and Richard J. Murnane, «Dancing with Robots: Human Skills for Computerized Work,» http://content.thirdway.org/publications/714/Dancing-With-Robots.pdf.

5

J. C. R. Licklider, «Man-Computer Symbiosis,» IRE Transactions on Human Factors in Electronics HFE-1 (March 1960): 4–11, http://groups.csail.mit.edu/medg/people/psz/Licklider.html.

6

John Markoff, «Can Machines Think? Humans Match Wits,» New York Times, November 9, 1991, http://www.nytimes.com/1991/11/09/us/can-machines-think-humans-match-wits.html.

7

Jonathan Grudin, «AI and HCI: Two Fields Divided by a Common Focus,» AI Magazine, Winter 2009, http://research.microsoft.com/apps/pubs/default.aspx?id=138574.

8

John McCarthy, book review of B. P. Bloomfield, The Question of Artificial Intelligence: Philosophical and Sociological Perspectives, in Annals of the History of Computing 10, no. 3 (1988): 224–229.

9

Kevin Kelly, Out of Control: The Rise of Neo-Biological Civilization (New York: Perseus, 1994), 33–34.

10

Jerry Kaplan, presentation at Stanford University Probabilistic AI lunch meeting, May 6, 2013.

11

Defense Science Board, «The Role of Autonomy in DoD Systems,» U. S. Department of Defense, July 2012, http://www.acq.osd.mil/dsb/reports/AutonomyReport.pdf.

12

James R. Hagerty, «A Roboticist's Trip from Mines to the Moon,» Wall Street Journal, July 2, 2011, http://www.wsj.com/articles/SB10001424052702304569504576405671616928518.

13

John Markoff, «The Creature That Lives in Pittsburgh,» New York Times, April 21, 1991, http://www.nytimes.com/1991/04/21/business/the-creature-that-lives-in-pittsburgh.html.

14

John Markoff, «Google Cars Drive Themselves, in Traffic,» New York Times, October 9, 2010, http://www.nytimes.com/2010/10/10/science/10google.html?pagewanted=all.

15

«Electronic Stability Control Systems for Heavy Vehicles,» National Highway Traffic Safety Administration, 2012, http://www.nhtsa.gov/Laws+&+Regulations/Electronic+Stability+Control+(ESC).

16

John Markoff, «Police, Pedestrians and the Social Ballet of Merging: The Real Challenges for Self-Driving Cars,» New York Times, May 29, 2014, http://bits.blogs.nytimes.com/2014/05/29/police-bicyclists-and-pedestrians-the-real-challenges-for-selfdriving-cars/?_php=true&_type=blogs&_r=0.

17

Lawrence D. Burns, William C. Jordan, and Bonnie A. Scarborough, «Transforming Personal Mobility,» The Earth Institute, Columbia University, January 27, 2013, http://sustainablemobility.ei.columbia.edu/files/2012/12/Transforming-Personal-Mobility-Jan-27-20132.pdf.

18

William Grimes, «Philippa Foot, Renowned Philosopher, Dies at 90,» New York Times, October 9, 2010, http://www.nytimes.com/2010/10/10/us/10foot.html.

19

«Transportation and Material Moving Occupations,» Occupational Outlook Handbook, Bureau of Labor Statistics, http://www.bls.gov/ooh/transportation-and-material-moving/home.htm.

20

Vannevar Bush, «As We May Think,» Atlantic Monthly, July 1, 1945, http://www.theatlantic.com/magazine/archive/1945/07/as-we-may-think/303881.

21

Peter Norvig, keynote address, NASA Innovative Advanced Concepts Conference, Stanford, California, February 5, 2014.

22

John Markoff, «Skilled Work, without the Worker,» New York Times, August 18, 2012, http://www.nytimes.com/2012/08/19/business/new-wave-of-adept-robots-is-changing-global-industry.html.

23

Там же.

24

Norbert Wiener, Collected Works with Commentaries, ed. Pesi Masani (Cambridge, MA: MIT Press, 1985), 272.

25

«Father of Cybernetics Norbert Wiener's Letter to UAW President Walter Reuther,» August 13, 1949, https://libcom.org/history/father-cybernetics-norbert-wieners-letter-uaw-presidentwalter-reuther.

26

Flo Conway and Jim Siegelman, Dark Hero of the Information Age: In Search of Norbert Wiener, The Father of Cybernetics, Kindle ed. (New York: Basic Books, 2009), Kindle location 246.

27

Anthony Carew, Walter Reuther (Manchester, UK: Manchester University Press, 1993).

28

Conway, Dark Hero of the Information Age, 246.

29

Stephen Meyer, «'An Economic „Frankenstein“': UAW Workers' Response to Automation at the Ford Brook Park Plant in the 1950s,» Michigan Historical Review 28 (2002): 63–90.

30

«Wiener Denounces Devices 'For War': M. I. T. Mathematician Rebuffs Bid to Harvard Symposium of Calculating Machinery,» New York Times, January 9, 1947.

31

Norbert Wiener, «A Scientist Rebels,» Atlantic Monthly, January 1947.

32

John Markoff, «In 1949, He Imagined an Age of Robots,» New York Times, May 20, 2013, http://www.nytimes.com/2013/05/21/science/mit-scholars-1949-essay-on-machine-age-is-found.html?pagewanted=all.

33

Там же.

34

Там же.

35

Carew, Walter Reuther, 144.

36

The Ad Hoc Committee on the Triple Revolution, «The Triple Revolution,» Liberation, April 1964, http://www.educationanddemocracy.org/FSCfles/C_CC2a_TripleRevolution.htm.

37

Mark D. Stahlman, «Wiener's Genius Project» (invited paper, IEEE 2014 Conference on Norbert Wiener in the 21st Century, 2014).

38

Steve J. Heims, John von Neumann and Norbert Wiener: From Mathematics to the Technologies of Life and Death (Cambridge, MA: MIT Press, 1980), 343.

39

Norbert Wiener, God and Golem, Inc.: A Comment on Certain Points where Cybernetics Impinges on Religion (Cambridge, MA: MIT Press, 1964), 29.

40

«Machines Smarter Than Men? Interview with Dr. Norbert Wiener, Noted Scientist,» U. S. News & World Report, February 24, 1964, http://21stcenturywiener.org/wp-content/uploads/2013/11/Machines-Smarter-Than-Man-Interview-with-Norbert-Wiener.pdf.

41

Defense Science Board, «The Role of Autonomy in DoD Systems,» U. S. Department of Defense, July 2012, http://www.acq.osd.mil/dsb/reports/AutonomyReport.pdf.

42

John Maynard Keynes, «Economic Possibilities for Our Grandchildren,» in Essays in Persuasion (New York: W. W. Norton & Co, 1963), 358–373.

43

Jeremy Rifkin, The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era (New York: Putnam, 1995), xvii.

44

John Markoff, «Armies of Expensive Lawyers, Replaced by Cheaper Software,» New York Times, March 4, 2011, http://www.nytimes.com/2011/03/05/science/05legal.html?pagewanted=all.

45

Erik Brynjolfsson and Andrew McAfee, Race Against the Machine (Lexington, MA: Digital Frontier Press, 2011).

46

Paul Beaudry, David A. Green, and Ben Sand, «The Great Reversal in the Demand for Skill and Cognitive Tasks,» NBER Working Paper No. 18901, National Bureau of Economic Research, March 2013, http://www.economics.ubc.ca/fles/2013/05/pdf_paper_paul-beaudry-great-reversal.pdf.

47

Там же.

48

James Manyika, Susan Lund, Byron Auguste, and Sreenivas Ramaswamy, «Help Wanted: The Future of Work in Advanced Economies,» McKinsey Global Institute, March 2012, http://www.mckinsey.com/insights/employment_and_growth/future_of_work_in_advanced_economies.

49

Robin Harding, «US Has Lost 2M Clerical Jobs since 2007,» Financial Times, April 1, 2013, http://www.ft.com/intl/cm/s/0/37666e6c-9ae5-11e2-b982-00144feabdc0.html#axzz3V2czZqsP.

50

Melody Johnson, "Right-Wing Media Attack Obama for Accurate Remarks on Business' [sic] Investment in Automated Machines," MediaMatters for America, June 15, 2011, http://mediamatters.org/research/2011/06/15/right-wing-media-attack-obama-for-accurate-rema/180602.

51

«Are ATMs Stealing Jobs?» Economist, June 15, 2011, http://www.economist.com/blogs/democracyinamerica/2011/06/technology-and-unemployment.

52

Ben Sumers, «Bank Teller Case Study» (unpublished, 2012).

53

Erik Brynjolfsson and Andrew McAfee, The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: W. W. Norton & Co., 2014), 127.

54

Jaron Lanier, Who Owns the Future? Kindle ed. (New York: Simon & Schuster, 2014), Kindle location 222–230.

55

Tim O'Reilly, Google+, January 9, 2014, https://plus.google.com/+TimOReilly/posts/F85gaWoBp3Z.

56

Matthieu Pélissié du Rausas, James Manyika, Eric Hazan, Jacques Bughin, Michael Chui, and Rémi Said, «Internet Matters: The Net's Sweeping Impact on Growth, Jobs, and Prosperity,» McKinsey Global Institute, May 2011, http://www.mckinsey.com/insights/high_tech_telecoms_internet/internet_matters.

57

«The Last Kodak Moment?» Economist, January 12, 2012, http://www.economist.com/node/21542796.

58

Ray Kurzweil, The Singularity Is Near: When Humans Transcend Biology (New York: Penguin Books, 2006).

59

«The Coming Technological Singularity: How to Survive in the Post-Human Era,» VISION-21 Symposium, NASA Lewis Research Center, NASA technical reports, NASA CP-10129, March 30–31, 1993, https://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html.

60

Robert Geraci, Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality, reprint edition (New York: Oxford University Press, 2012).

61

Moshe Y. Vardi, «The Consequences of Machine Intelligence,» Atlantic, October 25, 2012, http://www.theatlantic.com/technology/archive/2012/10/the-consequences-of-machine-intelligence/264066.

62

Moshe Y. Vardi, «If Machines Are Capable of Doing Almost Any Work Humans Can Do, What Will Humans Do?» (white paper presented at Innovation 4 Jobs Conference, Menlo Park, California, 2013).

63

Телефонное интервью автора с Моше Варди, 9 мая 2013 г.

64

«IFR: Robots Improve Manufacturing Success & Create Jobs,» press release, International Federation of Robotics, February 28, 2013, http://www.ifr.org/news/ifr-press-release/ifr-robots-improve-manufacturing-success-create-jobs-469.

65

Robert J. Gordon, «Is US Economic Growth Over? Faltering Innovation Confronts the Six Headwinds,» Policy Insight 63 (September 2012), Centre for Economic Policy Research, http://www.cepr.org/sites/default/fles/policy_insights/PolicyInsight63.pdf.

66

Robert J. Gordon, «The Demise of U. S. Economic Growth: Restatement, Rebuttal, and Reflections,» NBER Working Paper No. 19895, February 2014, National Bureau of Economic Research, http://www.nber.org/papers/w19895.

67

«Robert Gordon, Erik Brynjolfsson Debate the Future of Work at TED 2013,» TED Blog video, April 23, 2013, https://www.youtube.com/watch?v=ofWK5WglgiI.

68

Robert J. Gordon, «Why Innovation Won't Save Us,» Wall Street Journal, December 21, 2012, http://online.wsj.com/news/articles/SB10001424127887324461604578191781756437940.

69

Gordon, «The Demise of U. S. Economic Growth.»

70

Craig Trudell, Yukiko Hagiwara, and Jie Ma, «Humans Replacing Robots Herald Toyota's Vision of Future,» BloombergBusiness, April 7, 2014, http://www.bloomberg.com/news/2014-04-06/humans-replacing-robots-herald-toyota-s-vision-of-future.html.

71

Stewart Brand, «We Are As Gods,» Whole Earth Catalog, Fall 1968, http://www.wholeearth.com/issue/1010/article/195/we.are.as.gods.

72

Amir Efrati, «Google Beat Facebook for DeepMind, Creates Ethics Board,» Information, January 27, 2014, https://www.theinformation.com/google-beat-facebook-for-deepmind-createsethics-board.

73

«Foxconn Chairman Likens His Workforce to Animals,» WantChina Times, January 19, 2012, http://www.wantchinatimes.com/news-subclass-cnt.aspx?id=20120119000111&cid=1102.

74

«World Population Ageing 2013,» Department of Economic and Social Affairs Population Division, (New York: United Nations, 2013) http://www.un.org/en/development/desa/population/publications/pdf/ageing/WorldPopulationAgeing2013.pdf.

75

«Robot Caregivers Help the Elderly,» Digital Agenda for Europe, A Europe 2020 Initiative, May 5, 2014, http://ec.europa.eu/digital-agenda/en/news/robot-caregivers-help-elderly.

76

Jeffrey S. Passel and D'vera Cohn, «U. S. Population Projections: 2005–2050,» Social & Demographic Trends, Pew Research Center, February 11, 2008, http://www.pewsocialtrends.org/2008/02/11/us-population-projections-2005-2050.

77

«Baby Boomers Retire,» Pew Research Center, December 29, 2010 http://www.pewresearch.org/daily-number/baby-boomers-retire.

78

David C. Brock, «How William Shockley's Robot Dream Helped Launch Silicon Valley,» IEEE Spectrum, November 29, 2013, http://spectrum.ieee.org/at-work/innovation/how-william-shockleys-robot-dream-helped-launch-silicon-valley.

79

David C. Brock, «From Automation to Silicon Valley: The Automation Movement of the 1950s, Arnold Beckman, and William Shockley,» History and Technology 28, no. 4 (2012), http://www.tandfonline.com/doi/abs/10.1080/07341512.2012.756236#.VQTPKCbHi_A.

80

Там же.

81

John Markoff, «Robotic Vehicles Race, but Innovation Wins,» New York Times, September 14, 2005.

82

John Markoff, What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry (New York: Viking, 2005).

83

Pamela McCorduck, Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence, 2nd ed. (Natick, MA: A K Peters/CRC Press, 2004), 268.

84

Там же, 273.

85

Brad Darrach, "Meet Shaky [sic], the First Electronic Person: The Fascinating and Fearsome Reality of a Machine with a Mind of Its Own," Life, November 1970.

86

Charles A. Rosen, «Robots, Productivity, and Quality,» SRI, Artificial Intelligence Center, technical note no. 66, May 1972.

87

Nils J. Nilsson, The Quest for Artificial Intelligence, 2010, 77, web version, http://ai.stanford.edu/~nilsson/QAI/qai.pdf.

88

Margaret Boden, Mind as Machine (Oxford, UK: Oxford University Press, 2006), 381.

89

AI@50, Dartmouth College Artificial Intelligence Conference, July 13–15, 2006.

90

Boden, Mind as Machine, 381.

91

John McCarthy, book review of B. P. Bloomfield, The Question of Artificial Intelligence: Philosophical and Sociological Perspectives, in Annals of the History of Computing 10, no. 3 (1998).

92

Там же.

93

Nilsson, The Quest for Artificial Intelligence, 77.

94

AI@50, Dartmouth College Artificial Intelligence Conference, July 13–15, 2006.

95

Интервью с Джоном Маккарти, Стэнфордский университет, 19 июля 2001 г.

96

Steven Levy, Hackers: Heroes of the Computer Revolution (New York: Anchor Press/Doubleday, 1984).

97

Интервью с Джоном Маккарти, Стэнфордский университет, 19 июля 2001 г.

98

Raj Reddy, «Celebration of John McCarthy's Accomplishments,» Stanford University, March 25, 2012, YouTube, https://www.youtube.com/watch?v=J_QGryGFb2o.

99

Arthur L. Norberg, «An Interview with Bruce G. Buchanan,» June 11–12, 1991, Charles Babbage Institute, University of Minnesota, http://conservancy.umn.edu/bitstream/107165/1/oh230bb.pdf.

100

Hans Moravec, Mind Children: The Future of Robot and Human Intelligence (Cambridge, MA: Harvard University Press, 1988), 20.

101

John McCarthy, «A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence,» August 31, 1955, http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html.

102

William J. Broad, «Computer Scientists Stymied in Their Quest to Match Human Vision,» New York Times, September 25, 1984, http://www.nytimes.com/1984/09/25/science/computer-scientists-stymied-in-their-quest-to-match-human-vision.html.

103

John McCarthy, «Programs with Common Sense,» Stanford University, 1959, http://www-formal.stanford.edu/jmc/mcc59.pdf.

104

«The Dynabook of Alan Kay,» History of Computers, http://historycomputer.com/ModernComputer/Personal/Dynabook.html.

105

Robert Geraci, Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality, reprint edition (New York: Oxford University Press, 2012), 2.

106

John Markoff, «John McCarthy, 84, Dies; Computer Design Pioneer,» New York Times, http://www.nytimes.com/2011/10/26/science/26mccarthy.html?pagewanted=all.

107

Hans Moravec, «Today's Computers, Intelligent Machines and Our Future,» Stanford University, July 21, 1976, http://www.frc.ri.cmu.edu/~hpm/project.archive/general.articles/1978/analog.1978.html.

108

Hans Moravec, «The Role of Raw Power in Intelligence,» May 12, 1976, http://www.frc.ri.cmu.edu/~hpm/project.archive/general.articles/1975/Raw.Power.html.

109

Moravec, «Today's Computers, Intelligent Machines and Our Future.»

110

Markoff, What the Dormouse Said.

111

Les Earnest, «Stanford Cart,» December 2012, http://www.stanford.edu/~learnest/cart.htm.

112

Там же.

113

Sheldon Breiner, «The Background Behind the First Airport Gun Detector,» http://breiner.com/sheldon/papers/First%20Gun%20Detector%20for%20Airport-Public%20Security.pdf.

114

Robert Reinhold, «Reasoning Ability of Experts Is Codified for Computer Use,» New York Times, March 29, 1984.

115

Jonathan Grudin, «AI and HCI: Two Fields Divided by a Common Focus,» AI Magazine, Winter 2009, http://research.microsoft.com/apps/pubs/default.aspx?id=138574.

116

Daniel Crevier, AI: The Tumultuous History of the Search for Artificial Intelligence (New York: Basic Books, 1993), 203.

117

Edward Edelson, «Expert Systems – Computers That Think Like People,» Popular Science, September 1982, 58.

118

Там же.

119

Там же.

120

United Press International, «New Navy Device Learns by Doing,» New York Times, July 7, 1958.

121

John Markoff, «Researchers Announce Breakthrough in Content Recognition Software,» New York Times, November 17, 2014, http://www.nytimes.com/2014/11/18/science/researchers-announce-breakthrough-in-content-recognition-software.html.

122

Alex Rubinsteyn and Sergey Feldman, «NIPS and the Zuckerberg Visit,» Explain My Data, December 11, 2013 http://blog.explainmydata.com/2013/12/nips-and-zuckerberg-visit.html.

123

Manfred E. Clynes and Nathan S. Kline, «Cyborgs and Space,» Astronautics, September, 1960, http://partners.nytimes.com/library/cyber/surf/022697surf-cyborg.html.

124

David A. Mindell, Digital Apollo: Human and Machine in Spaceflight, Kindle ed. (Cambridge, MA: MIT Press, 2011), Kindle location 1850.

125

Там же, Kindle location 352–364.

126

Craig Covault, «Space Leaders Work to Replace Lunar Base with Manned Asteroid Missions,» Aviation Week & Space Technology, January 19, 2008, http://www.spaceflightnow.com/news/n0801/18avweek.

127

Предоставлено Эдвардом Фейгенбаумом.

128

Morten Thanning Vendelo, «From Artifcial Intelligence to Human Computer Interaction – An Interview with Terry Winograd,» Association for Information Systems, SIGSEMIS Bulletin 2, no. 3 & 4 (2005), http://www.researchgate.net/publication/236015807_From_Artifcial_Intelligence_to_Human_Computer_Interaction_-_an_interview_with_Terry_Winograd.

129

Terry Winograd lecture, «Filling in the 'H' in HCI,» mediaX 2013 Conference, January 8, 2013.

130

John Markoff, «Joseph Weizenbaum, Famed Programmer, Is Dead at 85,» New York Times, March 13, 2008, http://www.nytimes.com/2008/03/13/world/europe/13weizenbaum.html?_r=0.

131

David W. Dunlap, «Looking Back: 1978 – 'Farewell, Etaoin Shrdlu,'» Times Insider, New York Times, November 13, 2014.

132

Terry Winograd, «Procedures as a Representation for Data in a Computer Program for Understanding Natural Language,» MIT AI Technical Report 235, February 1971, 38–39, http://hci.stanford.edu/winograd/shrdlu/AITR-235.pdf.

133

Hubert Dreyfus, «Alchemy and Artificial Intelligence,» Rand Corporation, 1965, http://www.rand.org/pubs/papers/P3244.html.

134

Hubert Dreyfus, «Why Heideggerian AI Failed and How Fixing It Would Require Making It More Heideggerian,» http://leidlmair.at/doc/WhyHeideggerianAIFailed.pdf.

135

Dreyfus, «Alchemy and Artificial Intelligence.»

136

Seymour Papert, «The Artificial Intelligence of Hubert L. Dreyfus: A Budget of Fallacies,» Massachusetts Institute of Technology, Project Mac, Memo. No. 154, January 1968, https://dspace.mit.edu/handle/1721.1/6084.

137

Vendelo, «From Artificial Intelligence to Human Computer Interaction.»

138

Roger C. Schank and Robert P. Abelson, Scripts, Plans, Goals, and Understanding: An Inquiry into Human Knowledge Structures, Artificial Intelligence Series (Hillsdale, NJ: Lawrence Erlbaum Associates, 1977).

139

Searle presentation before CS22 Introduction to the Philosophy and History of Artificial Intelligence, Stanford, October 25, 2013.

140

Arthur L. Norberg, «An Interview with Terry Allen Winograd,» December 11, 1991, Charles Babbage Institute, University of Minnesota, http://conservancy.umn.edu/bitstream/107717/1/oh237taw.

141

Sergey Brin, Rajeev Motwani, Lawrence Page, and Terry Winograd, «What Can You Do with a Web in Your Pocket?» IEEE Data Engineering Bulletin 21, no. 2 (1998): 37–47, http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.36.2806&rep=rep1&type=pdf.

142

Terry Winograd, «Shifting Viewpoints: Artificial Intelligence and Human-Computer Interaction,» Artificial Intelligence 170 (2006): 1256–1258, http://hci.stanford.edu/winograd/papers/ai-hci.pdf.

143

Jeffrey Pfeffer and Robert I. Sutton, «Knowing 'What' to Do Is Not Enough: Turning Knowledge into Action,» California Management Review 42, no. 1 (1999).

144

Ben Shneiderman, «List of Influences: Ben Shneiderman,» eagereyes, December 16, 2011, http://eagereyes.org/influences/ben-shneiderman.

145

Tandy Trower, «A Parting Salute to Cliff Nass – Social Interface Pioneer and Good Friend,» Hoaloha Robotics, November 19, 2013, http://blog.hoaloharobotics.com/2013/11/19/a-parting-salute-to-cliff-nass-social-interface-pioneer-and-good-friend.

146

Tandy Trower, «Bob and Beyond: A Microsoft Insider Remembers,» Technologizer, March 29, 2010, http://www.technologizer.com/2010/03/29/bob-and-beyond-a-microsoft-insider-remembers.

147

Nicholas Negroponte, Being Digital (New York: Vintage, 1996), 101.

148

Ben Shneiderman and Pattie Maes, «Direct Manipulation vs. Interface Agents: Excerpts from Debates at IUI 97 and CHI 97,» Association for Computing Machinery Interactions, November-December 1997, http://ritter.ist.psu.edu/misc/dirk-fles/Papers/HRI-papers/User%20interface%20design%20issues/Direct%20manipulation%20vs.%20interface%20agents.pdf.

149

Там же.

150

Rodney Brooks, Flesh and Machines: How Robots Will Change Us (New York: Pantheon, 2002), 28.

151

Там же, 29.

152

Там же, 31.

153

Rodney Brooks, «Elephants Don't Play Chess,» Robotics and Autonomous Systems 6 (1990): 3–15, people.csail.mit.edu/brooks/papers/elephants.ps.Z.

154

Там же.

155

Brooks, Flesh and Machines, 31.

156

Steven Levy, Hackers: Heroes of the Computer Revolution (New York: Anchor Press/Doubleday, 1984), 132.

157

R. H. MacMillan, Automation: Friend or Foe, (Cambridge, UK: Cambridge University Press, 1956), 1.

158

Levy, Hackers, 130.

159

Lee Felsenstein, «The Golemic Approach,» LeeFelsenstein.com, http://www.leefelsenstein.com/wp-content/uploads/2013/01/Golemic_Approach_MS.pdf.

160

Там же, 4.

161

Evgeny Morozov, «Making It,» New Yorker, January 13, 2014, http://www.newyorker.com/arts/critics/atlarge/2014/01/13/140113crat_atlarge_morozov?printable=true&currentPage=all.

162

«Lee Felsenstein and the Convivial Computer,» Convivial Tools, July 23, 2007, http://www.conviviality.ouvaton.org/spip.php?article39.

163

Lee Felsenstein, «The Tom Swift Terminal; or, A Convivial Cybernetic Device,» LeeFelsenstein.com, http://www.leefelsenstein.com/wp-content/uploads/2013/01/TST_scan_150.pdf.

164

Dennis Liu, «Office 2010: The Movie,» YouTube, July 9, 2009, http://www.youtube.com/watch?v=VUawhjxLS2I.

165

Steven Sinofsky, «PM at Microsoft,» Steven Sinofsky's Microsoft TechTalk, December 16, 2005, http://blogs.msdn.com/b/techtalk/archive/2005/12/16/504872.aspx.

166

«The Lumiere project: The Origins and Science Behind Microsoft's Office Assistant,» Robotics Zeitgeist, 2009, http://robotzeitgeist.com/2009/08/lumiere-project-origins-and-science.html.

167

Lexi Krock, «The Final Eight Minutes,» Nova, WGBH, October 17, 2006, http://www.pbs.org/wgbh/nova/space/fnal-eight-minutes.html.

168

Jessica Marshall, «Victory for Crowdsourced Biomolecule Design,» Nature, January 22, 2012, http://www.nature.com/news/victory-for-crowdsourced-biomolecule-design-1.9872.

169

Sherry Turkle, Alone Together: Why We Expect More from Technology and Less from Each Other (New York: Basic Books, 2011), 101.

170

Miriam Steffens, «Slaves That Are Reflections of Ourselves,» Sydney Morning Herald, November 19, 2012, http://www.smh.com.au/small-business/growing/slaves-that-are-reflections-of-ourselves-20121118-29k63.html.

171

Daniel Crevier, AI: The Tumultuous History of the Search for Artificial Intelligence (New York: Basic Books, 1993), 58.

172

Ken Jennings, «My Puny Human Brain,» Slate, February 16, 2011.

173

Stuart Nathan, «Marc Raibert of Boston Dynamics,» Engineer, February, 22, 2010, http://www.theengineer.co.uk/in-depth/interviews/marc-raibert-of-boston-dynamics/1001065.article#ixzz2pevPQoYI.

174

Public Information Office, «Fact Sheet on 'Simon,'» Columbia University, May 18, 1950, http://www.blinkenlights.com/classiccmp/berkeley/simonfaq.html.

175

Ivan E. Sutherland, letter to Grey Walter, November 10, 1957, http://cyberneticzoo.com/cyberneticanimals/1956-mechanical-animalwillian-robert-bert-sutherland-ivan-e-sutherland-american.

176

Daniel Lovering, «Radioactive Robot: The Machines That Cleaned Up Three Mile Island,» Scientific American, March 27, 2009, http://www.scientifcamerican.com/article/three-mile-island-robots.

177

John Markoff, «The Creature That Lives in Pittsburgh,» New York Times, April 21, 1991, http://www.nytimes.com/1991/04/21/business/the-creature-that-lives-in-pittsburgh.html?src=pm&pagewanted=3&pagewanted=all.

178

Marvin Minsky, «Telepresence: A Manifesto,» IEEE Spectrum, August 31, 2010, http://spectrum.ieee.org/robotics/artifcialintelligence/telepresence-a-manifesto.

179

Там же.

180

Gill A. Pratt, «Robot to the Rescue,» Bulletin of the Atomic Scientists, December 3, 2013, http://thebulletin.org/robot-rescue.

181

«2013 DARPA Robotic Challenge Trials Overview,» Defense Advanced Research Projects Agency, http://archive.darpa.mil/roboticschallengetrialsarchive.

182

Singularity Hub, «Industrial Perception Robot Arm Box Toss,» YouTube, April 17, 2013, http://www.youtube.com/watch?v=IXxU4sL6hq0.

183

«Guidelines for Scientific Research,» Graduate School of Information Science and Technology, University of Tokyo, March 2011, http://www.i.u-tokyo.ac.jp/edu/others/pdf/guideline_en.pdf.

184

Charlie Rose, «Amazon Unveils Futuristic Plan: Delivery by Drone,» 60 Minutes Overtime, December 1, 2013, http://www.cbsnews.com/news/amazon-unveils-futuristic-plan-delivery-by-drone.

185

DARPAtv, «Darpa's Pet-Proto Robot Navigates Obstacles,» Defense Advanced Research Projects Agency, October 24, 2012, https://www.youtube.com/watch?v=FFGfq0pRczY.

186

Hans Moravec, Mind Children: The Future of Robot and Human Intelligence (Cambridge, MA: Harvard University Press, 1988), 15.

187

Eric Berger and Keenan Wyrobek, «PR1 Robot Cleans a Room,» Salisbury Robotics Lab, Stanford University, 2007, YouTube, https://www.youtube.com/watch?v=jJ4XtyMoxIA.

188

«The Hopkins Beast,» Field Robotics Center, 1960, http://www.frc.ri.cmu.edu/~hpm/talks/revo.slides/1960.html.

189

John Markoff, «A Free and Simple Computer Link,» New York Times, December 8, 1993, http://www.nytimes.com/1993/12/08/business/business-technology-a-free-and-simple-computer-link.html?pagewanted=all&src=pm.

190

Danielle Newnham, Mad Men of Mobile: Leading Entrepreneurs and Innovators Share Their Stories, from SIRI to SHAZAM, Kindle ed. (Seattle: CreateSpace, 2013), Kindle location 129.

191

Там же, Kindle location 137–139.

192

John Sculley and John A. Byrne, Odyssey: Pepsi to Apple: A Journey of Adventure, Ideas, and the Future (New York: HarperCollins, 1987).

193

David Greelish, «An Interview with Computing Pioneer Alan Kay,» Time, April 2, 2013, http://techland.time.com/2013/04/02/an-interview-with-computing-pioneer-alan-kay.

194

Gordon E. Moore, «Cramming More Components onto Integrated Circuits,» Electronics 38, no. 8 (1965), 114–117.

195

Paul Pangaro, «'Getting Started' Guide to Cybernetics,» Pangaro.com, http://www.pangaro.com/defnition-cybernetics.html.

196

J. J. O'Connor and E. F. Robertson, «Andrew Gordon Speedie Pask,» School of Mathematics and Statistics, University of St. Andrews, Scotland, http://turnbull.mcs.st-and.ac.uk/~history/Biographies/Pask.html.

197

Claire Cain Miller, «Technology, Aided by Recession, Is Polarizing the Work World,» New York Times, July 22, 2014, http://www.nytimes.com/2014/07/23/upshot/how-technology-aided-by-recession-is-transforming-the-work-world.html?rref=upshot.

198

Bureau of Labor Statistics, «Occupational Employment Projections to 2022,» December 2013, http://www.bls.gov/opub/mlr/2013/article/occupational-employment-projections-to-2022.htm.

199

Zeynep Tufekci, «Failing the Third Machine Age: When Robots Come for Grandma,» Medium, July 22, 2014, https://medium.com/message/failing-the-third-machine-age-1883e647ba74.

200

Louise Aronson, «The Future of Robot Caregivers,» New York Times, July 19, 2014, http://www.nytimes.com/2014/07/20/opinion/sunday/the-future-of-robot-caregivers.html.

201

Ken Goldberg, «Robots with Their Heads in the Clouds,» Aspen Ideas Festival 2014, Medium, August 25, 2014, https://medium.com/aspen-ideas/robots-with-their-heads-in-the-clouds-e88ac44def8a.

202

«Asimov's Three Laws of Robotics + the Zeroth Law,» March 1942, Jeremy Norman's HistoryofInformation.com, http://www.historyofnformation.com/expanded.php?id=4108.

203

Defense Science Board, «The Role of Autonomy in DoD Systems,» U. S. Department of Defense, July 2012, http://www.acq.osd.mil/dsb/reports/AutonomyReport.pdf.

204

John Markoff, «Already Anticipating 'Terminator' Ethics,» New York Times, November 24, 2013, http://www.nytimes.com/2013/11/24/science/already-anticipating-terminator-ethics.html.

205

Bill Joy, «Why the Future Doesn't Need Us,» Wired, April 2000, http://www.wired.com/wired/archive/8.04/joy.html.

206

Eric Horvitz and Bart Selman, «Interim Report from the Panel Chairs,» AAAI Presidential Panel on Long-Term AI Futures, Association for the Advancement of Artificial Intelligence, August 2009, http://research.microsoft.com/en-us/um/people/horvitz/note_from_AAAI_panel_chairs.pdf.

207

Mark Prigg, «Google Sets Up Artificial Intelligence Ethics Board to Curb the Rise of the Robots,» Daily Mail, January 29, 2014, http://www.dailymail.co.uk/sciencetech/article-2548355/Google-setsartificial-intelligence-ethics-board-curb-rise-robots.html.

208

Blade Runner, directed by Ridley Scott (1982; Burbank, CA: Warner Bros.).

209

Leon Neyfakh, «Do Our Brains Pay a Price for GPS?» Boston Globe, August 18, 2013, http://www.bostonglobe.com/ideas/2013/08/17/our-brains-pay-price-for-gps/d2Tnvo4hiWjuybid5UhQVO/story.html.

Content

Джон Маркофф
Homo Roboticus? Люди и машины в поисках взаимопонимания

Предисловие

Глава 1 Выбор направления – человек или машина

Глава 2 Авария в пустыне

Глава 3 Трудный год для человечества

Глава 4 Взлет, падение и возрождение искусственного интеллекта

Глава 5 Развитие идей

Глава 6 Сотрудничество

Глава 7 На помощь

Глава 8 …и последнее

Глава 9 Хозяева, слуги или партнеры?

Благодарности

Об авторе

Сноски