«За тобой следят» . Это предупреждение открывает каждый эпизод популярного сериала CBS «Персона интереса», созданного сценаристом The Dark Knight Джонатаном Ноланом. Однако после недавних разоблачений о наблюдении АНБ эти слова ближе к реальности, чем к научной фантастике.
«Машина» в центре «Персона интереса» - это всевидящий искусственный интеллект, который отслеживает движения и связь каждого человека в Америке - не с помощью теоретических приспособлений, а с помощью сетей сотовой связи, спутников GPS и камер наблюдения, которые мы взаимодействовать с каждым днем. Два главных героя шоу, бывший агент ЦРУ Джон Риз (Джим Кавизел) и компьютерный гений Гарольд Финч (Майкл Эмерсон), используют эту власть навсегда, преследуя номера социального страхования, которые система определяет, чтобы предотвратить насильственные преступления, но они постоянно изо всех сил, чтобы держать машину в чужих руках.
«Человек интереса» опередил правительственный надзор с момента его дебюта в 2011 году, но шоураннеры Нолан и Грег Плагеман ( NYPD Blue, Cold Case ) следили за этой темой в течение многих лет. Оба автора появятся на симпозиуме Центра Лемельсона «Изобретая общество наблюдения» в эту пятницу, 25 октября, в 8 часов вечера. Мы встретились с парой, чтобы поговорить о балансе между конфиденциальностью и безопасностью, «черным ящиком» Gmail и паноптикум сотового телефона Нолана « Темный рыцарь» .
Я хочу начать со слона в комнате: шпионские откровения АНБ. Теперь, когда у нас есть убедительное доказательство того, что правительство наблюдает за нами, вы, ребята, скажете: «Я вам так сказал» в отношении слежки за «Лицом, представляющим интерес». Как вы отреагировали, услышав о правительственном слежении за ПРИЗМОЙ? программа, утечка бывшего сотрудника АНБ Эдварда Сноудена?
Джонатан Нолан: Со смесью ликования и ужаса. «Мы были правы, о, дорогой, мы были правы» . Шейн Харрис, который присоединяется к нам в дискуссии в пятницу, - это тот, к которому мы снова и снова обращались за исследованиями, и PRISM был действительно верхушкой айсберга. Не для того, чтобы казаться снобом, но для людей, которые внимательно читали газеты, они вовсе не были откровениями. Уильям Бинни, еще один разоблачитель АНБ, который не находится в бегах, публично заявлял об этом в течение многих лет, что указывает на еще один интересный аспект - тот факт, что широкой публике может быть все равно, если существует массовое наблюдение. По мере развития сюжета от Гленна Гринвальда, « Гардиан» и « Вашингтон пост» медленно поступала информация о документах, которые они получили от Сноудена, чтобы попытаться сохранить историю на переднем крае. Очевидно, что история получила тягу. Но до какой степени публика будет мириться с этим - вопрос, который мы пытаемся решить сейчас на шоу.
Вы были удивлены реакцией общественности или ее отсутствием?
Грег Плагеман: Да, я действительно думаю, что способность к безобразию была смягчена удобством. Людям нравятся их телефоны, им нравится их Wi-Fi, им нравится быть подключенными, и все, что подключено, теперь выталкивается в облако. Мы используем это все время, каждый день, и мы не можем представить свою жизнь сейчас без этого. То, что говорил президент, как мы должны соблюдать баланс между конфиденциальностью и безопасностью - проблема в том, что они этого не делают. Они никогда не делают. И они бы не потрудились даже на словах, если бы Сноуден не дал свисток. Так что я думаю, что сейчас люди отшатываются от «хорошо, ну и что?». Когда вы говорите им, что последствия будут в меньшей безопасности, или вы потеряете некоторое удобство в своей жизни, именно тогда люди, как правило, успокаиваются. Я думаю, что это страшная зона, куда мы приезжаем как артисты и говорим, давайте представим вам гипотетически, драматически, почему вы должны заботиться. Это весело нашего шоу.
Как вы лично оцениваете эту дискуссию? Как вы думаете, сколько свободы мы можем или должны пожертвовать ради безопасности?
Нолан: Есть причина, почему люди отправляют письма с восковыми печатями. Это чувство неприкосновенности частной жизни, конфликт между государством и потребностями граждан существует очень долго. Мы весьма недоверчивы, по крайней мере, в комнате писателей, к любому, кто приходит с чрезмерно упрощенным ответом на этот вопрос. Это все ужасно, или, во имя безопасности, вы можете иметь доступ ко всем моим вещам, это ответ, который приемлем, если это возможно, только в ближайшей краткосрочной перспективе, когда мы не воюем, и нет широкого распространения подозрение американской общественности.
Мы говорили об этом с самого начала, начиная с пилота: конфиденциальность отличается от того, что у вас есть в сумке. Когда правительство берет вашу личную жизнь, вы не обязательно знаете, что она была взята у вас. Это смешная, невидимая вещь. Вот почему этот аргумент, который был выдвинут Сноуденом на всеобщее обозрение, очень полезен для страны. Если кто-то лишит вас права на самовыражение, права на собрание или каких-либо прав в Билле о правах, вы узнаете об этом. Но когда кто-то забирает вашу личную жизнь, вы можете и не догадываться, пока не станет слишком поздно что-либо с этим делать.
Как вы разработали Машину в «Персоне интереса»? Почему вы сделали так, как оно работает?
Нолан: Мы просто используем наше воображение. Мы провели исследование. Аспекты шоу: на первый взгляд, когда пилот впервые появился, людей отмахивают от сумасшествия - например, почему они не узнают, является ли человек жертвой или преступником, почему они больше не получают информация, чем номер социального страхования? Это отличная отправная точка для хорошей пьесы, безусловно. Мы не стесняемся этого. Но на самом деле, большая часть механизма была основана на адмирале Пойндекстере и Total Information Awareness, который был прадедушкой PRISM.
Poindexter - действительно интересная фигура Прометея, которая выяснила многое из того, о чем сейчас только начинает узнавать широкая публика. Инструменты уже были здесь, чтобы отодвинуть все слои каждого человека в Соединенных Штатах. Теперь становится все более очевидным, что невозможно быть уверенным, что вы скрыли свои голосовые или электронные сообщения от правительства. Это почти невозможно. Если вы хотите общаться в частном порядке, это личный разговор, и ваш мобильный телефон буквально оставлен в другом месте или сломан, как мы делаем в нашем шоу все время, или рукописные сообщения. Мы действительно вступили в этот момент.
Итак, вопрос был в том, как вы поступаете так добросовестно? Если бы мы построили это, как вы гарантируете, что это не может быть использовано в коррупционных целях? Как вы можете быть уверены, что он не используется для устранения политических конкурентов или для классификации американцев в соответствии с их политическими характеристиками или их склонностями, и тому подобное? Казалось, что самым простым ответом на этот вопрос было сделать эту штуку черным ящиком, который поглощает всю эту информацию и выдает правильные ответы, что интересно, именно так работает Gmail. Вот почему мы все готовы использовать Gmail, потому что нам обещают, что человек никогда не будет читать наши электронные письма. Машина будет читать их; он будет кормить нас рекламой, не нарушая нашу конфиденциальность. И это компромисс, который мы были готовы сделать.
(Джон П. Фило / CBS © 2011 CBS Broadcasting Inc.) В шоу прямо говорится, что Машина была разработана в ответ на 11 сентября, что 11 сентября открыла новую эру слежки. Сейчас, похоже, мы вступаем в новую эру после Сноудена, в которой мы, широкая публика, осознаем, что за нами следят. Как шоу отреагирует на эту новую реальность - нашу реальность, вне мира шоу?
Plageman: С точки зрения того, вступаем ли мы в другую эру или нет, трудно сказать, когда вы понимаете, что нападение на частную жизнь является одновременно публичным и частным. Это Google, это Facebook, это то, что вы добровольно сдали. Иона, и я, и писатели говорили о том, что вы лично сделали с этим? Вы изменили свои привычки серфинга? Вы обращались к более анонимному провайдеру электронной почты? Кто-нибудь из нас делал что-нибудь из этого? Это немного пугает, и мы все реагируем и говорим: подождите минутку, нужно ли мне больше заботиться о конфиденциальности с точки зрения того, как я работаю с технологиями? И правда в том, что это огромная боль в заднице. Я пробовал пару этих программ для веб-серфинга, но это замедляет работу. В конце концов, если вы хотите быть человеком, который связан, если вы хотите оставаться на связи со своими коллегами и своей семьей, вы понимаете, что вам нужно отказаться от определенной степени конфиденциальности.
Я также считаю, что, имея сына, который сейчас становится подростком, существует огромный разрыв между поколениями в том, как мы относимся к конфиденциальности. Я думаю, что старшие поколения видят это как то, на что мы имеем право, и я думаю, в определенной степени, молодые поколения, которые выросли с Facebook, считают это чем-то уже мертвым или задаются вопросом, действительно ли это имеет значение, потому что они не не понимаю последствий смерти частной жизни.
Нолан: С точки зрения повествования нашего шоу, мы уже начали изучать идею о том, что будет отрицательная реакция. Возможно, это было бы желательным, потому что мы так долго рассматривали эту проблему, слегка ошеломляющий ответ на откровения Сноудена. Мы, конечно же, не ищем людей, чтобы принять революцию на улицах. Но вы чувствуете, что было бы утешением, если бы в Конгрессе велись агрессивные дебаты - и наоборот. За этим президентом стояли обе политические партии, которые не инициировали эту политику, но получили выгоду от расширенной власти исполнительной власти, которая была создана для поколений президентов из послевоенной среды, от Гувера и ФБР. По этим вопросам споров не много, и это очень, очень страшно. Мы очень близки к моменту выхода джина из бутылки.
Один из вопросов, который Шейн наиболее подробно рассматривает в своей книге, - это хранение. Это звучит как банальность, как наименее сексуальный аспект, но хранение во многих отношениях может быть самой глубокой частью этого. Как долго правительство может удерживать эту информацию? Может быть, мы доверяем этой информации президенту Обаме и всем людям, которые в настоящее время находятся у власти. Кто знает, что мы будем думать о президенте трех президентов отныне? И если у него все еще есть доступ к моим электронным письмам с 2013 года, в другой политической обстановке, в которой вдруг полиция, которая стала мейнстримом, теперь становится полицией, или людей сортируют в лагеря или окружают? Это звучит как паранойя, носящая шляпу из фольги, но на самом деле, если мы реалистично смотрим на историю, плохие вещи случаются довольно регулярно. Идея о том, что ваши слова, ваши ассоциации, ваша жизнь к этому моменту могут быть где-то кешированы и извлечены - это очень похоже на нарушение системы с точки зрения свидетельства против вас, потому что в этом случае процесс автоматический.
Эти вопросы, которыми мы очарованы, являются частью нашего шоу. Мы представили наше шоу как научную фантастику в начале - но, оказывается, возможно, не так выдумано, как люди надеялись. Другой научно-фантастический компонент, который мы исследуем во второй половине этого сезона, - это искусственный интеллект всего этого. Мы заняли позицию, согласно которой в этом стремительном стремлении предотвратить ужасные события после 11 сентября единственно верным решением было бы развитие искусственного интеллекта. Но если вы хотите определить мотивы человека, вам понадобится машина, по крайней мере такая же умная, как человек. Это действительно то место, в котором шоу, насколько нам известно, остается научной фантастикой - до этого еще далеко. Для второй половины сезона мы изучаем последствия взаимодействия людей с данными, поскольку данные становятся более интерактивными.
Джонатан, ты ранее исследовал идею слежки в Темном рыцаре. Как вы разработали систему, которую Бэтмен использует для прослушивания сотовых телефонов в Готэме?
Нолан: Дело в том, что мобильный телефон невероятно прост, и это настоящий троянский конь. Потребители думают об этом как о чем-то, что они используют - своих маленьких слугах. Им нужна информация, они ее извлекают и спрашивают. Они не думают, что он делает что-то кроме этого; это просто работает от их имени. И правда в том, что с точки зрения правительства или с точки зрения частных корпораций, это фантастическое устройство, чтобы оставаться незаметным для потребителя. Он записывает их скорость, их положение, их отношение, даже если вы не добавляете Twitter в список. Это невероятно мощно.
В «Темном рыцаре» вычеркнуты сюжеты из существующих комиксов о Бэтмене. Там, где он всегда играет, есть смещающаяся сторона того, насколько далеко это слишком далеко. В комиксах, по крайней мере, у него есть непредвиденные обстоятельства и план для всех. Он знает, как уничтожить своих друзей и союзников, если они превратятся во врагов, и он всегда на шаг впереди. В нескольких различных сюжетных линиях в комиксах о Бэтмене они играют с идеей, которую он начнет строить. В комиксах речь шла главным образом о слежке за его друзьями и союзниками, а также за остальной частью Лиги справедливости. Но для нас было интереснее взять существующую технологию и найти способ кого-то вроде Брюса Уэйна, который этот блестящий ум применил к сервисному поясу. Вокруг него все эти гаджеты и утилиты - зачем это там останавливаться? Почему он не использовал свое богатство, свое влияние и свой блеск, чтобы превратить потребительский продукт во что-то, что могло бы дать ему информацию?
В предыдущих воплощениях фильма о Бэтмене это обычно делали плохие парни - устанавливали какое-то устройство, которое сидит на вашем телевизоре, загипнотизирует вас и делает вас помощником Риддлера или кого-то еще. В этом мы вроде как продолжили идею, потому что Бэтмен, что самое интересное, сам немного злодейский или, по крайней мере, главный герой, который одевается как злодей. Поэтому он создает этот всевидящий глаз, паноптикум, который меня интересовал с детства, когда я рос в Англии, где у них были камеры видеонаблюдения повсюду в 1970-х и 1980-х годах.
будет использовать их как ядерный вариант с точки зрения попыток выследить команду Джокера, что определенно говорит о двойственности персонажа. Он делает морально сомнительные вещи для хорошего конца - надеюсь. В «Темном рыцаре», столь эпичном и столь долгом, как нам понадобилось, чтобы разобраться в этом, на самом деле нужно было только поцарапать поверхность этой проблемы, сделку дьявола: что, если кто-то построит это для действительно хорошей, действительно единственной цели? Какой уровень ответственности они чувствуют по отношению к этому, к тому, что они создали?
Это то, на что вы действительно надеетесь, что правительство суетится вокруг. Я надеюсь, что правительство тратит столько времени на беспокойство по этому поводу, как Брюс Уэйн и Люциус Фокс в «Темном рыцаре», но я не уверен на 100%, что это так. Конечно, если вы посмотрите на историю политики и то, как правительство взаимодействует с системой сдержек и противовесов, вам нужен кризис, вам нужен скандал, вам нужно что-то, чтобы вызвать самоконтроль.
Грег Плагеман, Джонатан Нолан и Джим Кавизел на съемочной площадке «Персона интереса» (фото любезно предоставлено CBS) Plageman: Вы говорите, что суд ФИСА - шутка, Иона?
Нолан: Если это шутка, то это шутка для всех нас. Но опять же, мы не хотим звучать без сочувствия. «Персона интереса» принимает как должное существование этого устройства и, потенциально, спорную идею о том, что в правильных руках такое устройство может быть хорошей вещью. Но я не думаю, что Грег и я или кто-либо из наших авторов когда-либо смотрят на эту проблему и сводят ее к черно-белому.
Мы иногда читали, что шоу является своего рода извинением за PRISM и за состоянием наблюдения, как я читал несколько лет назад, когда некоторые комментаторы смотрели на Темного рыцаря и воображали, что это была своего рода извинение для Джорджа Буша, Все эти идеи смешны. Мы рассматриваем это шоу как отличный механизм для постановки вопросов, а не для предоставления ответов. Вот где мы надеемся, что это не дидактично, и Темный Рыцарь определенно не был задуман как дидактический. Я думаю, что когда мы подошли к «Человеку интереса», мы оказались впереди кривой, то, что мы предполагали, все еще оставалось вопросом для всех остальных. Как вы сказали, мы начали шоу в эпоху после Сноудена. Предпосылкой шоу является то, что состояние наблюдения - это само собой разумеющееся, и мы не меняем это, и вы не запихиваете джина обратно в бутылку. Так что же нам делать со всей другой информацией? Это, я думаю, все больше станет настоящим затруднением в ближайшие 10–15 лет.
Джонатан Нолан, Грег Плагеман и Шейн Харрис выступят на панельной дискуссии в пятницу, 25 октября, в рамках симпозиума Центра Лемельсона «Изобретая общество надзора». Это мероприятие является бесплатным и открытым для общественности. Количество мест ограничено; первым пришел, первым сел.
