«Вы находитесь в пустыне, прогуливаясь по песку, когда неожиданно вы смотрите вниз и видите черепаху… Вы наклоняетесь вниз и переворачиваете черепаху на спину. Черепаха лежит на спине, ее живот запекается под жарким солнцем, бьется ногами, пытаясь перевернуться, но не может. Не без вашей помощи. Но ты не помогаешь.
Связанный контент
- Вольтер: просветитель философ и лотерейный мошенник
Возможно, ничто не является более символичным из антиутопического фильма Ридли Скотта «Бегущий по лезвию» 1982 года, чем тест Войта-Кампфа, проводимый титульными правоохранителями фильма, включая Харрисона Форда в роли Рика Декарда. Серии вопросов в вымышленном тесте, такие как приведенный выше, предназначены для отделения людей от репликантов, вызывая физиологический ответ, указывающий на эмпатию. Эту эмоцию чувствуют только настоящие люди, а не репликанты. В обязанности Deckard входит работа с репликантами, которые начинают не подчиняться приказам. Он и другие используют этот тест, чтобы решить, следует ли «удалиться» - убить - репликантов.
Эти мятежные андроиды не только представляют угрозу для людей, но и в этом мире не имеют никаких законных прав на защиту. Как они могли, когда они не считаются людьми?
Это настолько увлекательное затруднение, что история будет продолжена в долгожданном продолжении «Бегущий по лезвию клинка»: 2049. Частично причиной постоянной популярности оригинального фильма является личная борьба Деккарда, которая аналогично разворачивается в таких фильмах, как Она, и показывает, как «Westworld». «Кто или что считается человеком, особенно в мире передовых технологий?
И чтобы понять это, мы должны обратиться к некоторым очень старым философам.
***
Для древних греков машины, созданные богами или исключительно талантливыми людьми, часто обманывали людей, заставляя их верить в то, что андроиды были подлинными, пишет Адриен Майор в Aeon. Король Наби из Спарты владел роботизированной версией своей жены, ее грудь тайно украшена гвоздями. Он использовал машину, чтобы обнять граждан, которые не слушались его, их плоть пронзила скрытое оружие. А в Китае автомат 10-го века до нашей эры, созданный изобретателем Яном Ши, выглядел настолько человечным, поющим и подмигивающим дамам, что король пришел в ярость. Затем он узнал правду и поразился машине, у которой даже были механические органы. Как пишет ученый Найджел Уил, «во все периоды« человеческие вещи »представлялись как сущности, которые проверяют или определяют современное чувство человеческой ценности».
Все это говорит о том, что озабоченность по поводу того, как отличить людей из плоти и крови от машин, которые просто выглядят как люди (и решить, представляют ли эти машины угрозу для нас, Homo sapiens), не ограничивается современностью. Мы всегда задавались вопросом, действительно ли все люди являются такими, какими они кажутся, именно поэтому философы Просвещения тратили так много времени на изучение вопроса о том, что делает человека человеком.
Рене Декарт, французский философ 17-го века, который много путешествовал по Европе, глубоко задумался над вопросом, что сделало нас людьми. Не случайно, что его самая известная цитата повторяется одним из репликантов в «Бегущем по лезвию клинка»: «Я думаю, поэтому я и есть». И если всего этого недостаточно для доказательства его связи с фильмом, рассмотрите имена: Декарт и Декард.
Как указывает философ Эндрю Норрис, Декарт подозревал, что когда-нибудь может возникнуть необходимость проверить, является ли что-то человеком или машиной. «Если бы существовали машины с изображениями наших тел, способные имитировать наши действия настолько, насколько это возможно с моральной точки зрения, все равно оставалось бы два наиболее достоверных теста, позволяющих узнать, что они на самом деле не люди», - писал Декарт. Поэтому он создал свои собственные тесты, которые опирались на лингвистические способности и гибкость поведения.
Репликанты говорят и ведут себя так же, как люди, что означает, что они пройдут испытания Декарта. Но есть и другая причина, по которой Deckard пытается опровергнуть свою человечность: у репликантов также есть имплантированные воспоминания. Для английского философа Джона Локка то, что дает человеку ощущение себя, - это непрерывность его воспоминаний. Человеческое тело меняется со временем, но воспоминания остаются, предлагая основу для стабильной идентичности. «Насколько это сознание может быть распространено назад на любое прошлое действие или мысль, настолько далеко, что достигает личности этого человека», - написал Локк.
Так что для Рэйчел из «Бегущего по лезвию», самого продвинутого из всех репликантов, не имеет значения, что ей может быть всего несколько лет; ее воспоминания уходят гораздо дальше, создавая у нее впечатление, что они прожили намного дольше. Вот что делает Рэйчел такой трагической фигурой - «ее» воспоминания не принадлежат ей. Они приходят от племянницы ее изобретателя.
«Это душераздирающая вещь, но вы можете представить, что [воспоминания] по-прежнему для нее особенные, даже после того, как она узнает, что они на самом деле не ее», - говорит Сьюзен Шнайдер, профессор философии в Университете Коннектикута и член Института этики и технологии. группа в Йельском университете. «Это все равно, что узнать, что вы загруженная копия, а не человек, выполняющий загрузку. Но у вас все еще есть особые отношения с ними. Как родитель.
Но не только воспоминания или рациональность делают человека в «Бегущем по лезвию». Самое главное, согласно тесту Войта-Кампфа, это эмпатия. Поскольку мы не можем читать мысли или видеть какие-либо физические доказательства их, мыслители, такие как немецкий философ Теодор Липпс, утверждают, что мы можем воспринимать то, что другие чувствуют и действуют так же, как мы, посредством силы эмпатии.
Харрисон Форд в роли Рика Декарда проводит тест Войта-Кампфа в оригинальном «Бегущем по лезвию». (Warner Bros.) «Бегущий по лезвию клинка должен, по иронии судьбы, проверить эмпатию других - не здесь, в смысле Липпса, а в их чувствительности к ныне погибшему естественному миру, населенному нечеловеческими животными», - пишет Норрис в своей статье о философия фильма. Отсюда и знаменитый вопрос о черепахах, застрявших в пустыне.
«Сами эмоции никогда не станут идеальным испытанием для человечества: в конце концов, социопаты тоже люди», - сказала Дебора Найт, профессор философии в Университете Королевы, по электронной почте. «Но эмоции - это больше, чем не когнитивные реакции. Они помогают нам судить о том, что нам следует делать и кем мы должны стремиться ».
Это особенно очевидно в случае реплицированного Роя Бэтти, которого играет Рутгер Хауэр. Рой чувствует человеческие эмоции и имеет устремления, но не получает человеческой жизни, сказал Найт. Рой знает, что, как и другие репликанты, он был построен, чтобы умереть всего через четыре года, что, понятно, бесит его.
Таким образом, репликанты, возможно, чувствуют эмоции, и у них есть воспоминания. Это делает их людьми? Для Шнайдера окончательный ответ не обязательно имеет значение. Репликанты имеют с людьми достаточно качеств, которые заслуживают защиты. «Это очень веское основание для того, чтобы относиться к [нечеловеку] с теми же законными правами, которые мы даем человеку. Мы бы не назвали [Рейчел] человеком, но, возможно, человеком », - говорит она.
Для Эрика Швицгебеля, профессора философии в Калифорнийском университете в Риверсайде, заключение еще более драматично. «Если мы когда-нибудь создадим роботов с человеческими когнитивными и эмоциональными способностями, мы должны уделять им больше морального внимания, чем мы обычно должны другим людям», - пишет он в Aeon. «Мы будем их создателями и дизайнерами. Таким образом, мы несем прямую ответственность как за их существование, так и за их счастливое или несчастное состояние ».
***
Blade Runner - это всего лишь фильм, и людям до сих пор не удалось создать репликанты. Но мы добились большого прогресса в области искусственного интеллекта, от обучения самостоятельному вождению автомобилей до адаптации к человеческим ошибкам, до нейронных сетей, которые спорят друг с другом, чтобы стать умнее. Вот почему для Шнайдера вопросы, поставленные в фильме о природе человечества и о том, как мы можем относиться к андроидам, имеют важные последствия в реальном мире.
«Одна из вещей, которыми я занимался, это думать о том, будет ли когда-нибудь ощущаться, что я ИИ. Будет ли когда-нибудь Рэйчел? »- говорит Шнайдер, которая использует« Бегущий по лезвию лезвия »в своем классе по философии в научной фантастике. В этом году Шнайдер опубликовал статью об испытании, которое она разработала вместе с астрофизиком Эдвином Тернером, чтобы выяснить, действительно ли механическое существо может быть в сознании. Как и тест Войта-Кампфа, он основан на ряде вопросов, но вместо того, чтобы требовать присутствия эмпатии - чувств, направленных на другого, - он смотрит на чувства о том, чтобы быть самим собой. Испытание, названное Тестом сознания AI, находится в процессе патентования в Принстоне.
Этот тест отличается от более известного теста Тьюринга, разработанного математиком Аланом Тьюрингом в 1951 году. В этом раннем тесте судья вступал в цифровую беседу с участником (например, то, что вы испытывали сегодня в чатах), задавая вопросы, чтобы различить их. был ли респондент человеком или машиной. Но, как указывает Шнайдер в своей статье, ученые могут разрабатывать программы, которые проходят тест Тьюринга, но не являются сознательными существами. Тест Тьюринга заинтересован в оценке правдоподобия между реакцией машины и реакцией человека, а не пониманием того, является ли машина разумной или нет. Как и тест Voight-Kampff, тест AI на сознание Шнайдера предназначен для того, чтобы попытаться понять, что происходит внутри машины.
По ее словам, такая работа срочна, потому что человечество не готово с этической точки зрения справиться с последствиями создания разумной жизни. Что еще сложнее будет судить о наших творениях, так это зависимость человека от антропоморфизма, указывающая на то, что следует считать существом, достойным морального рассмотрения. «Некоторые [роботы] выглядят как люди, или они милые и пушистые, поэтому мы думаем о наших кошках и собаках», - говорит Шнайдер. «Это заставляет нас верить, что они чувствуют. Мы очень доверчивы. Может оказаться, что только биологические системы могут быть сознательными, или что самые умные ИИ - это сознательные, те вещи, которые не выглядят людьми ».
Для ученых важно общаться с философами - что многие уже делают, говорит Шнайдер - но также и для общественности, чтобы обдумать последствия этого типа технологий. И, добавляет она, не все философы согласны с природой сознания, поэтому нет простых ответов.
Возможно, такие голливудские фильмы, как «Бегущий по лезвию лезвия: 2049», приблизят нас на один шаг к участию в этих разговорах. Но если этого не произойдет, нам придется самостоятельно взяться за этическое болото. Рано, а не позже, или мы столкнемся с проблемой, подобной репликантам, и не будем знать, как на это реагировать.
