Казалось бы, сегодня никто не смеет сомневаться в будущих успехах роботизации. Но в одиночку против общественного мнения вышел Дэвид Минделл – профессор аэронавтики и астронавтики, а также профессор истории развития техники и промышленности Массачуссетского технологического института, основатель корпорации Humatics, имеющий за плечами 35-летний опыт исследования подводного мира при помощи робототехники. Его книга с характерным названием «Восстание машин отменяется!» доказывает, что роботы не могут обойтись без людей. Перевод этой книги недавно вышел в издательстве «Альпина нон-фикшн». С разрешения издательства «Инвест-Форсайт» публикует отрывок из нее.
Перспективы появления не нуждающихся в водителе машин (пожалуй, такие машины действительно заслуживали бы названия «автомобили», если бы термин не был занят еще столетие назад) вызывают в обществе живой интерес и споры вокруг вопроса об автономности. Очень часто в связи с этим вопросом упоминается компания Google, что происходит благодаря проводимой ею тщательно дозированной информационной кампании (хотя большая часть работ этой компании носит закрытый характер, поэтому приходится полагаться на публичные заявления). Безусловно, производители автомобилей уже многие десятилетия добавляют те или иные элементы автоматизации в свою продукцию: от автоматических трансмиссий до круизконтроля и антиблокировочных тормозных систем. Моя семейная «Вольво» снабжена программой, которая сама жмет на тормоз, если обнаруживает, что машина вот-вот собирается врезаться во что-нибудь (и когда я за рулем, мне приходится доверять этой программе). В общем, автопроизводители не уклоняются от пути постепенного внедрения изменений, продавая элементы автоматики под обозначением «средства безопасности», а вовсе не как средства автономии.
Компания Mercedes-Benz представила концепт-кар с интерьером, задуманным как «мобильное жизненное пространство», в котором люди могут расслабляться и читать, окруженные заботой автономных устройств автомобиля. Однако, в отличие от концепции Google, в компании Mercedes говорят о так называемом «симбиозе реального и виртуального миров», где «пассажиры могут интуитивно взаимодействовать с автомобилем». Google, напротив, пропагандирует идею полной автономности транспортного средства.
Как формулирует эту идею один из инженеров компании, сравнивая их подход с подходами других автомобильных компаний: «Они хотят делать машины, которые помогают водителям быть лучше. Мы же хотим делать машины, которые сами по себе лучше водителей».
Uber, рыночный гигант в сфере пассажирских перевозок на легковых такси, нанял большую группу робототехников, которые раньше работали на Университет Карнеги-Меллон, что, очевидно, связано с идеей автоматизации принадлежащих им машин. Google тестировал самоходные автомобили на калифорнийских дорогах общего пользования начиная с 2009 года и заявляет, что их машины прошли в общей сложности тысячи километров без дорожных происшествий. Они ездят вдоль трасс, нанесенных с большой точностью на карты Google, после того как по ним проехали управляемые людьми машины Google, занимающиеся съемкой местности; эти карты служат своеобразными «виртуальными рельсами» для самоходных машин (и они в самом деле пока не могут ездить по дорогам, для которых не существует карт с высокой детализацией).
На испытательных рейсах в машинах для безопасности находились водители и специалисты по программному обеспечению, которые могли включать или отключать автономный режим.
«Замысел был в том, что человек выводит автомобиль на трассу, включает систему, затем она ведет машину все основное время путешествия – скучная часть, а под конец люди вновь берут управление на себя», – вспоминает инженер Google Натаниель Фэйрфилд.
После того, как журналист The New York Times Джон Маркофф совершил поездку в одной из таких машин, он пришел к выводу, что «компьютеризованные системы, способные заменить водителей-людей, практически готовы к эксплуатации и могут значительно уменьшить риск человеческой ошибки».
Это мнение потенциально согласуется с поставленной Google задачей – в два раза сократить количество смертельных случаев из-за аварий на скоростных автотрассах США. Демагогия компании вокруг этого проекта пропитана отличающим Кремниевую долину оптимизмом, типичным для разговоров о перспективах компьютерных систем. Ведущий инженер проекта – специалист по роботам Себастиан Тран – предрекает в будущем наступление утопической эпохи автономных систем «без автомобильных аварий и пробок». Ряд критиков указывает на ограниченность подхода Google к решению этой проблемы. Большая часть испытательной работы была проведена в Северной Калифорнии или других штатах запада США. Успешные испытательные поездки «гугломобилей» в Неваде проходили в установленных компанией условиях: только в хорошую погоду и только по простым трассам (кроме того, Google не пожелала раскрывать информацию о том, как часто водителям приходилось прерывать автономный режим). У алгоритмов этих машин были проблемы с обработкой информации о местах дорожных работ, и посаженному для безопасности водителю на таких участках приходилось управлять автомобилем самому.
Журналист-популяризатор техники Марк Харрис не так давно поведал, что для того, чтобы стать дежурным водителем-испытателем «гугломобиля», необходимы долгие недели тренировок. Это означает, что моменты передачи управления от компьютера человеку остаются сложными и опасными. В отличие от передвижения по пустым и широким коммерческим трассам Запада, где специалисты Google проводили свои испытания, езда по городу подразумевает значительную долю взаимодействия с другими участниками движения, поскольку ехать приходится в довольно замысловатой, хаотичной и динамично меняющейся обстановке. Google признает, что эта задача в десять, а может, и в сто раз более трудная, чем вести машину по скоростному шоссе. И вновь обеспечение автономности машины в условиях социума оказывается гораздо сложнее абстрактной технической проблемы.
Джон Леонард из Массачусетского технологического института, который помогал разрабатывать некоторые из базовых алгоритмов самоуправляемых машин для определения местоположения и прокладки пути, говорит о том, как много в вождении зависит от межчеловеческого взаимодействия. Мой покойный друг Сет Теллер, который в том же институте занимался проблемами робототехники, отмечал, что езда по городу состоит из сотен «непродолжительных социальных договоренностей между людьми», которые возникают, когда мы наблюдаем дорожную обстановку, устанавливаем взаимный визуальный контакт с другим участником движения, пропускаем кого-нибудь вперед или взмахиваем рукой в знак благодарности тому, кто дал дорогу нам.
Компьютеры постепенно учатся распознавать и отмечать различные объекты физического мира. Но, как могут подтвердить пилоты «Предейтора», их возможности по распознаванию людей и их намерений остаются очень примитивными. Шутя лишь отчасти, Леонард утверждает, что вождение в Бостоне может приравниваться к операции в экстремальной среде. Он поставил видеокамеру на приборную доску своего автомобиля и коллекционирует записи моментов вождения, с которыми трудно справиться алгоритмически: въезд на загруженную дорогу в час пик; следование по полосе движения, когда разметку не видно под пылью или снегом; поворот налево через несколько полос. Снежной бостонской зимой 2015 года трехмерный ландшафт городских улиц мог радикально измениться за ночь, когда трехметровые кучи снега сужали проезжую часть и заставляли менять режим вождения.
Что из усвоенной нами информации о работе аппаратов в экстремальных условиях поможет нам пролить свет на возможное будущее самоуправляемых автомобилей? Мы знаем, что для автономных машин будут характерны все те же проблемы, которые известны нам по примерам использования автоматизации в уже описанных нами средах, – отказы систем, различия в опыте пользователей-операторов, сложности при фокусировке внимания, ухудшение навыков ручного управления, а также растущая склонность чрезмерно полагаться на автоматику по мере все более широкого распространения таких систем. Самой главной проблемой для самоуправляемой машины станут моменты передачи управления между автоматикой и водителем – то, что мы можем назвать «проблемой рейса 447 Air France». Каждая критически важная система должна располагать способами справляться с аномалиями, возникающими при отказе отдельного датчика или модульного устройства или в ситуации, когда в окружающем мире что-то идет не так, как ожидается. Чем сложнее система, тем больше потенциальных аномалий она в себе таит. И хотя отдельные аномалии такого рода могут возникать редко, в США люди ежедневно совершают более миллиарда поездок на автомобиле, что в десять тысяч раз превышает количество ежедневных авиарейсов.
Допустим, «гугломобиль» сможет распознать ситуацию, с которой он не в состоянии справиться сам, и предупредит водителя, что тому необходимо взять управление на себя. Возможно, для этого на приборной панели будет зажигаться световой сигнал «Проверь автономность», аналогичный имеющемуся сейчас в машинах малопонятному оповещению «Проверь двигатель», хотя в целях эффективности ему следует быть намного информативнее. Что будет, если эта лампочка загорится, когда машина движется на большой скорости и передача управления должна произойти без промедлений? Если человек, освобожденный от обязанности вести машину, уснет или погрузится в чтение книги, сможет ли он вновь включиться в контур управления достаточно быстро, чтобы успеть отвести машину от лобового удара, выбоины на дороге или столкновения с препятствием? Точно так же, как в истории рейса 447, водителям придется сталкиваться с этим испытанием в наиболее сложных дорожных ситуациях. И вдобавок, по сравнению с операторами рассмотренных нами систем, работающими в экстремальных условиях, водители в большинстве своем не так хорошо подготовлены и могут иметь крайне разные навыки, физические возможности, социальное происхождение, экономический статус и образование.
Вероятно, в ответ на подобную критику Google изменил подход и ищет способы полностью избавиться от этих доставляющих неприятности субъектов – водителей. По словам инженера Натаниеля Фэйрфилда, Google выяснил, что «люди ленивы» и «перескакивают от обоснованного недоверия к чрезмерному упованию» на системы, которыми пользуются. Проведя эксперименты, компания пришла к выводу, что людям-водителям нельзя доверять настолько, чтобы позволить взаимодействовать с их программами, и приняла модель нулевого участия человека в процессе вождения.
Инженеры Google говорят о «ленивых водителях» и о том, что 93% автомобильных аварий происходят по причине ошибок человека (конечно же, специалисты по «человеческому фактору» давно поняли, что люди ошибаются чаще всего из-за плохой конструкции управляемой системы или непродуманных норм управления). Новая версия автомобиля Google была представлена в 2014 году и производит впечатление дружественной и безопасной для людей машины. С целью снижения уровня риска ездит она медленно, в ней отсутствуют руль и приборная панель, так что такой машиной человеку вообще нельзя управлять.
По словам руководителя проекта Криса Армсона, компания «движется к цели создания транспортных средств, которые полностью возьмут на себя тяготы водительского дела».
Эти полностью автономные машины будут «функционировать безопасно и независимо от человека, чье вмешательство в их работу не потребуется». Весь «пользовательский интерфейс» новой машины составляют две кнопки – для запуска и остановки двигателя, а также дисплей, на котором отображается маршрут (непонятно только, как же водитель должен говорить машине, куда ехать). Водителя превратят в пассажира, чьей обязанностью будет «откинуться в кресле, расслабиться и наслаждаться поездкой».
«Машине нет нужды прибегать к помощи водителя-человека – в ней достаточно дублирующих систем, – утверждает Фэйрфилд. – Она оснащена двумя рулевыми моторами, и у нас есть множество различных способов прекратить движение».
Появившиеся на сервисе YouTube рекламные видеоролики под легкую музыку демонстрируют, как пассажиры пожилого возраста, инвалиды, слепые наслаждаются приятными поездками на автомобилях Google по озаренным сияющим солнцем пустым и широким калифорнийским шоссе.
Безусловно, предоставить инвалидам или старикам возможность свободно перемещаться – похвальная цель. Но выбранный Google способ достичь ее представляет собой возврат в прошлое и попытку ухватиться за упущенную возможность. Как это ни забавно, именно такая высокотехнологичная компания, как Google, в своей риторике шагает назад в XX век, архаически выставляя водителя пассивным наблюдателем. Их «новый» подход становится жертвой всех трех порожденных XX веком мифов о роботах и автоматизации:
- автомобильная техника должна логически развиваться до полной, утопической автономности (миф о линейном прогрессе);
- автономные системы управления освободят водителя от обязанности водить (миф замещения);
- автономные машины могут действовать полностью самостоятельно (миф о полной автономности).
Наши исследования работы систем в экстремальных средах научили нас тому, что такая утопическая автономность рушится при столкновении с реальными условиями среды, в которых людям приходится рисковать жизнью. И в действительности утопия автоматизации от Google оказывается намного более хрупким и менее функциональным решением, чем богатая автоматизация, нацеленная на помощь водителю-человеку. Действительно, присутствие живого водителя в автоматизированном автомобиле вызывает проблемы с путаницей режимов, концентрацией внимания и интерфейсами взаимодействия, но все эти проблемы решаемы – особенно с учетом опыта, полученного нами на уроках экстремальных сред. Однако вместо этого инженеры из Google гонятся за призраком наивной автоматизации, пытаясь поставить задачу таким образом, чтобы ее могли решать программы от Google.
Подобный способ формулировки проблем особенно приятен инженерам по причине его замкнутой на себя природы: пусть вождение сводится лишь к навигации и предотвращению столкновений. Данная форма автоматизации может быть приемлема для узкого, локального использования (меня не удивит появление таких машин без водителей в нишевых применениях, например, для развозки пассажиров в пределах парковок или кампусов колледжей, примерно как это делают монорельсы в аэропортах). Но вождение автомобиля во всей его полноте – социальная активность, которая испытывает влияние всего разнообразия географических, экономических, культурных и других факторов. Google ничего не говорит о том, как их программный код должен учитывать это чудесное многообразие. И, более того, просто потому, что в машинах будут ездить люди, встают непростые вопросы о допустимом риске, надежности и степени вины той или иной стороны в происшествии, на которые необходимо отвечать.
Комментарии (0)