Многие дискуссии и этические размышления о автомобилях с самостоятельным вождением были сосредоточены на трагических дилеммах, таких как гипотетические предположения, в которых автомобиль должен решить, столкнуться ли с группой школьников или спрыгнуть со скалы, убивая своих обитателей. Но такие ситуации - крайние случаи.
Как показывает недавняя авария, когда в городе Темпе, штат Аризона, в результате вождения автомобиля за рулем был убит пешеход, повседневные ситуации на каждом пешеходном переходе, повороте и перекрестке создают гораздо более серьезные и широкие этические проблемы.
Этика крайностей
Как философ, работающий с инженерами в Стэнфордском Центре Автомобильных Исследований, я был сначала удивлен, что мы провели наши лабораторные встречи, обсуждая то, что я думал, было легким вопросом: как автомобиль с вождением должен приближаться к пешеходному переходу?
Мое предположение состояло в том, что мы будем думать о том, как автомобиль должен выбирать между жизнью своих пассажиров и жизнью пешеходов. Я знал, как думать о таких дилеммах, потому что эти сценарии столкновений напоминают известный философский умозаключение, называемое «проблема с тележкой». Представьте себе, что бегущая тележка швыряет по рельсам и обязательно ударит по группе из пяти человек или одному человеку - не могли бы вы? убить одного, чтобы спасти пять?
Однако многие философы в настоящее время сомневаются в том, что исследование таких вопросов является плодотворным направлением исследований. Барбара Фрид, коллега из Стэнфорда, например, утверждала, что трагические дилеммы заставляют людей верить, что этические затруднения возникают в основном в экстремальных и тяжелых обстоятельствах.
На самом деле этические затруднения вездесущи. Повседневные повседневные ситуации на удивление беспорядочные и сложные, часто неуловимыми. Например: должен ли ваш город тратить деньги на программу профилактики диабета или на большее количество социальных работников? Должен ли ваш местный Департамент общественного здравоохранения нанять другого инспектора по стандартам гигиены в ресторане или продолжить программу, которая предоставляет бесплатные иглы и инъекционные принадлежности?
На эти вопросы чрезвычайно сложно ответить из-за неопределенности в отношении последствий - таких как, на кого это повлияет и в какой степени. Решения, предложенные философами для экстремальных и отчаянных ситуаций, здесь мало помогают.
Проблема схожа с самостоятельным вождением автомобилей. Продумывание экстремальных ситуаций и аварийных сценариев не может помочь ответить на вопросы, возникающие в мирских ситуациях.
Задача на пешеходных переходах
Кто-то может спросить, что может быть такого сложного в обычных дорожных ситуациях, как, например, выход на пешеходный переход, проезд через перекресток или поворот налево. Даже если видимость на пешеходном переходе ограничена, и иногда трудно определить, действительно ли пешеход хочет перейти улицу, водители справляются с этим каждый день.
Но для автомобилей с самостоятельным вождением такие обыденные ситуации представляют собой проблему в двух отношениях.
Легко для людей часто значит тяжело для компьютеров. (XKCD, CC BY-SA) Во-первых, существует тот факт, что то, что легко для человека, часто трудно для машин. Будь то распознавание лиц или езда на велосипеде, мы хороши в восприятии и механических задачах, потому что эволюция создала эти навыки для нас. Это, однако, делает эти навыки трудными для обучения или разработки. Это известно как «парадокс Моравека».
Во-вторых, в будущем, когда все автомобили являются автомобилями с самостоятельным вождением, небольшие изменения в поведении за рулем будут иметь большое значение в совокупности. Другими словами, решения, принятые инженерами сегодня, будут определять не то, как ведет один автомобиль, а то, как все автомобили ведут. Алгоритмы становятся политикой.
Инженеры учат компьютеры распознавать лица и предметы, используя методы машинного обучения. Они также могут использовать машинное обучение, чтобы помочь автомобилям с автоматическим управлением имитировать движение людей. Но это не решение: оно не решает проблему, заключающуюся в том, что инженеры принимают широкомасштабные решения в отношении безопасности и мобильности.
Кроме того, автомобили с автоматическим управлением не должны ездить как люди. Люди на самом деле не очень хорошие водители. И они управляют этически тревожными способами, решая, следует ли уступать на пешеходных переходах, основываясь на возрасте, расе и доходе пешеходов. Например, исследователи в Портленде обнаружили, что черные пешеходы проезжают вдвое больше автомобилей, и им пришлось ждать на треть дольше, чем белые пешеходы, прежде чем они смогут перейти.
Автомобили с самостоятельным вождением должны ездить более безопасно и более справедливо, чем люди.
Мирская этика
Этические проблемы усугубляются, когда вы сталкиваетесь с конфликтами интересов, возникающими в обыденных ситуациях, таких как пешеходные переходы, повороты и перекрестки.
Например, дизайн автомобилей с самостоятельным вождением должен сочетать безопасность других людей - пешеходов или велосипедистов - с интересами пассажиров автомобилей. Как только автомобиль едет быстрее, чем ходьба, он не может предотвратить столкновение с ребенком, который может в последний момент выбежать на дорогу. Но ходьба, конечно, слишком медленная. Каждый должен добраться до места. Итак, как инженеры должны найти баланс между безопасностью и мобильностью? И какая скорость достаточно безопасна?
Есть и другие этические вопросы, которые также возникают. Инженеры должны найти компромисс между мобильностью и воздействием на окружающую среду. Когда они применяются на всех автомобилях в стране, небольшие изменения в ускорении, поворотах и торможении, управляемых компьютером, могут оказать огромное влияние на использование энергии и выбросы загрязняющих веществ. Как инженеры должны компенсировать эффективность путешествий с воздействием на окружающую среду?
Каким должно быть будущее трафика?
Обыкновенные ситуации создают новые инженерные и этические проблемы, но они также заставляют людей подвергать сомнению основные предположения о системе дорожного движения.
Для себя я начал сомневаться, нужны ли нам вообще места, называемые «пешеходными переходами»? В конце концов, автомобили с автономным управлением потенциально могут безопасно пересечь дорогу где угодно.
И не только пешеходные переходы становятся ненужными. Светофоры на перекрестках также могут быть в прошлом. Людям нужен светофор, чтобы каждый мог пересечь перекресток без сбоев и хаоса. Но самостоятельные автомобили могли плавно координироваться между собой.
Главный вопрос здесь заключается в следующем: учитывая, что автомобили с самостоятельным вождением лучше, чем водители-люди, почему автомобили должны подчиняться правилам, разработанным для человеческих ошибок и человеческих ошибок? И для продолжения этого мысленного эксперимента рассмотрим также более общий вопрос: если бы мы, как общество, могли бы с нуля спроектировать нашу транспортную систему, как бы мы хотели, чтобы она выглядела?
Поскольку эти трудные вопросы касаются каждого человека в городе или обществе, они требуют, чтобы город или общество согласовали ответы. Это означает балансирование конкурирующих интересов таким образом, чтобы это работало для всех - независимо от того, думают ли люди только о пешеходных переходах или о системе дорожного движения в целом.
С помощью самоуправляемых автомобилей общества могут перепроектировать свои транспортные системы. От пешеходного перехода до общего дизайна трафика - это обыденные ситуации, которые вызывают действительно сложные вопросы. Экстремальные ситуации отвлекают.
Проблема с тележкой не отвечает на эти сложные вопросы.
Эта статья была первоначально опубликована на разговор.
Йоханнес Химмельрайх, междисциплинарный научный сотрудник по этике, Стэнфордский университет, Центр семейной этики МакКоя
