В прошлом году Facebook создал двух чат-ботов и попросил их начать разговаривать друг с другом, отрабатывая навыки ведения переговоров. Оказывается, что боты были довольно хороши в переговорах, но они делали это, используя свой собственный выдуманный язык, который был непостижим для людей.
Связанный контент
- Этот художник живет в тайном мире секретов и наблюдений
Вот куда движется мир. Компьютеры создают контент друг для друга, а не для нас. Снимки делаются компьютерами, которые другие компьютеры могут просматривать и интерпретировать. Все происходит тихо, часто без нашего ведома или согласия.
Поэтому изучение того, как видеть, как компьютер, - что делает эти коммуникации между машинами видимыми - может быть самым важным навыком 21-го века.
25 октября 2018 года квартет Кронос - Дэвид Харрингтон, Джон Шерба, Хэнк Датт и Санни Янг - выступил с концертом в Смитсоновском музее американского искусства. За ними наблюдали 400 человек и дюжина алгоритмов искусственного интеллекта, последнее любезно предоставлено Тревором Пагленом, художником, представляющим выставку «Незаметные места», которая в настоящее время находится в музее.
Пока музыканты играли, экран над ними показывал нам, людям, что видели компьютеры.
Когда Кронос пробирался через печальную пьесу, исходившую из Османской империи, на экране алгоритмы накладных расходов выявляли лица музыкантов, обрисовывая губы, глаза и нос каждого человека (и иногда видели «призрачные» лица там, где их не было - часто в Кронос, основатель волос Харрингтона). По мере того как алгоритмы становились все более продвинутыми, видеопоток исчезал, пока не оставались только неоновые линии на черном фоне. Наконец, контуры лица исчезли до тех пор, пока не осталось всего абстрактного расположения линий - по-видимому, всего компьютера, необходимого для понимания «лица», но совершенно непонятного для человека.
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос (Брюс Гатри) 
«Прицел», Тревор Паглен, квартет Кронос Дебют спектакля под названием «Машина зрения» на Восточном побережье, как и другие работы Пэглена, заставил зрителей и слушателей научиться видеть, как это делают компьютеры, и пересмотреть человеческое отношение к технологиям - телефоны в наших карманах и глаза в небо и все что между
Наступил 2018 год, и идея о том, что за нами следят мобильные телефоны, больше не похожа на теорию заговора, выдвинутую блоггером в подвале из фольги. Google был пойман ранее в этом году, отслеживая местоположения пользователей телефонов Android, даже если пользователи отключили эту функцию. Многие люди убеждены, что наши телефоны слушают нас, чтобы лучше показывать рекламу - Facebook и другие компании отрицают эти обвинения, хотя для них технически и юридически это возможно. Технические журналисты Алекс Голдман и PJ Vogt исследовали и обнаружили одно и то же: нет никаких причин, по которым наши телефоны не будут слушать, но, с другой стороны, рекламодатели могут собрать достаточно информации о нас с помощью других методов, которые им просто не нужны.,
Именно в этом контексте "Sight Machine" была выполнена. Около дюжины камер, наблюдающих за квартетом Кронос, отправляли живое видео с представления на стойку компьютеров, которая использует готовые алгоритмы искусственного интеллекта для создания жутких визуальных эффектов. Алгоритмы - это те же алгоритмы, которые используются в наших телефонах, чтобы помочь нам сделать себя лучше: те, что используются в автомобилях с самостоятельным управлением, чтобы избежать препятствий, и те, которые используются правоохранительными органами и руководством по вооружению. Так что, хотя результаты на экране были иногда прекрасными или даже забавными, был ужас потока.
«Что меня поразило в этой конкретной работе, так это то, что он показывает нам нечто, что есть - и это верно для всей его работы - он показывает нам что-то тревожное и делает это с помощью трюков», - говорит Джон Джейкоб, куратор музея. для фотографа, который организовал «Сайты невидимые».
«Это преднамеренный трюк, - говорит он, - и он работает».
Позднее сложные алгоритмы распознавания лиц выносили суждения о членах Kronos и отображали их результаты на экране. «Это Джон [Шерба]. Джону 24-40 лет», - сказал компьютер. «Санни [Ян] на 94, 4% женщина. Санни на 80% зла и 10% нейтральна».
«Я надеюсь, что производительность покажет, - говорит Паглен, - что некоторые способы восприятия компьютеров не являются нейтральными. Это очень предвзято… со всеми видами политических и культурных предположений, которые не нейтральный. Если система гендерной классификации гласит, что Санни Ян - 94, 4 процента женщин, то это означает, что кто-то на 100 процентов женщин. «И кто решил, что на 100 процентов женщина? Барби на 100 процентов женщина? И почему пол - это двоичный код?» Паглен спрашивает. «Видеть, что это происходит в тот момент, когда федеральное правительство пытается буквально стереть странных людей, это смешно, с одной стороны, но для меня это тоже ужасно».
Более поздний алгоритм обошелся без процентов и переместился, чтобы просто идентифицировать объекты в сцене. "Микрофон. Скрипка. Персона. Медуза. Парик." (Последние два явно ошибочны; алгоритм, кажется, запутал Хэнка Датта для медузы и настоящие волосы Харрингтона для парика.) Тогда классификации стали более сложными. «Санни держит ножницы», - сказала машина, когда ее струны виолончели вспыхнули. «Джон держит нож». Что произойдет, если классификатор предоставит эту - неправильную - информацию правоохранительным органам, мы никогда не узнаем.
Большинство конечных пользователей платформ ИИ, которые не являются художниками, могут утверждать, что у этих систем могут быть свои предубеждения, но они всегда получают окончательное подтверждение от человека. Сделанный на Amazon алгоритм Rekognition, который компания продает правоохранительным органам и, возможно, ICE, классно назвал 28 членов Конгресса людьми, обвиненными в совершении преступления, сравнивая их лица с фотографиями в общедоступной базе данных. В то время Amazon утверждал, что ACLU, который использовал систему для сопоставления, неправильно использовал Rekognition. Компания заявила, что стандартная настройка системы на совпадения, называемая «порогом доверия», составляет всего 80 процентов. (Другими словами, алгоритм был только на 80 процентов уверен, что член палаты представителей Джон Льюис был преступником.) Представитель Amazon заявил, что рекомендует полицейским департаментам использовать доверительный порог в 95 процентов, и что «Amazon Rekognition почти исключительно используется, чтобы помочь сузить поле деятельности и позволить людям оперативно анализировать и рассматривать варианты, используя свое суждение ». Компьютеры могут общаться друг с другом, но на данный момент они все еще просят людей сделать последний звонок.
Музыка, выбранная Пагленом при участии Кроноса, также может рассказать о технологиях. Пэглен говорит, что одна из пьес Раймонда Скотта «Powerhouse» «вероятно, наиболее известна тем, что используется в мультфильмах на заводских сценах». «Если вы когда-либо видите фабричный вид перепроизводства и сумасшествия, то часто это говорит о музыке. Для меня это своего рода мышление об этой почти мультяшной индустриализации и ее расположение в технологическом контексте». Еще одна пьеса Стива Райха «Разные поезда» закрыла сет. Кронос выполняет только первое движение, о детстве Рейха в 1930-х и 40-х годах; Паглен говорит, что он думает о пьесе как о «чувстве изобилия и прогресса, которые облегчают поезда». *
Он был дополнен изображениями из общедоступной базы данных под названием ImageNet, которые используются для обучения компьютеров тому, что есть. (Также называемый «тренировочными данными», так что да, это немного каламбур.) На экране мелькали изображения невероятно быстро, показывая примеры фруктов, цветов, птиц, шляп, стоящих людей, идущих людей, прыгающих людей. и такие люди, как Арнольд Шварценеггер. Если вы хотите научить компьютер распознавать человека, например Шварценеггера, или дом, или понятию «ужин», вы должны показать компьютеру тысячи картинок.
Были также короткие видеоролики о том, как люди целуются, обнимаются, смеются и улыбаются. Возможно, ИИ, обученный на этих фотографиях, был бы доброжелательным, дружелюбным.
Но «разные поезда» - это не только оптимизм; более поздние движения, которые Кронос не играл в четверг, но которые «подразумеваются» первыми, касаются того, как обещание путешествия на поезде было присвоено, чтобы стать инструментом Холокоста. Поезда, которые казались технологическим прогрессом, стали транспортными средствами, в которых десятки тысяч евреев были перемещены в лагеря смерти. То, что казалось доброжелательной технологией, превратилось в зло.
«Это как, « Что может пойти не так? » Паглен говорит. «Мы собираем всю информацию обо всех людях в мире».
И на самом деле, когда «Разные поезда» закончились, фокус сместился. На экране больше не показывались изображения Кроноса или тренировочные данные из ImageNet; вместо этого он показывал видео в прямом эфире аудитории, поскольку алгоритмы распознавания лиц выбирали особенности каждого человека. Действительно, даже когда мы думаем, что за нами не наблюдают, мы есть.
В видеопотоке с аудиторией алгоритмы распознавания лиц выявляли особенности каждого человека. (Брюс Гатри) Чтобы сообщить об этой истории, я вышел из дома и пошел к станции метро, где я отсканировал электронную карту, связанную с моим именем, чтобы пройти через турникет, и снова, когда я покинул метро в центре города. В центре города я передал полдюжины камер видеонаблюдения, прежде чем войти в музей, где заметил еще как минимум две (представитель Смитсоновского института говорит, что Смитсоновский институт не использует технологию распознавания лиц; столичное управление полиции округа Колумбия говорит то же самое о своих камерах).
Я записывал интервью с помощью своего телефона и загружал аудио в службу транскрипции, которая использует AI для выяснения того, что я и мои субъекты говорим, и может или не может ориентировать рекламу на меня на основе содержания интервью. Я отправлял электронные письма, используя Gmail, который по-прежнему «читает» все, что я отправляю (хотя уже не для того, чтобы показывать мне рекламу).
Во время процесса составления отчетов, когда я гулял по городу, я столкнулся - я не придумываю это - автомобиль Google Street View. Дважды. Это не паранойя, если они действительно следят за тобой, верно?
Так что же осталось в этом мире, где компьютеры видят и, возможно, выносят суждения о нас? «Машина зрения» побуждает нас учиться мыслить как компьютер, но также напоминает нам, что есть некоторые части нас, которые на данный момент все еще полностью человеческие.
Музыка, говорит Паглен, «это то, что на самом деле не поддается количественной оценке ... когда вы смотрите на систему компьютерного зрения, по сути опрашивающую исполнителей, для меня это действительно указывает на огромную пропасть в восприятии между тем, как мы воспринимаем культуру, эмоции и смысл». и все способы, которыми они невидимы для автономных систем ".
Или, как говорит Харрингтон, вы можете делать музыку на деревянной скрипке или на 3D-принтере. Вы можете использовать лук из углеродного волокна или из дерева пернамбуку. Но, по его словам, лук все еще нужно натягивать через струны. Музыка «становится более драгоценной, потому что она ручной работы».
И на данный момент, это все еще то, что только мы можем сделать. Машины могут больше не нуждаться в нас. Но когда дело доходит до торжественного звука лука на струне скрипки и эмоциональных струн, на которых звучат звуки, нам не нужны машины.
«Тревор Паглен: незаметные места», куратор Джон Джейкоб, продолжает в Смитсоновском музее американского искусства в Вашингтоне, округ Колумбия, до 6 января 2019 года. Планируется, что поездка в Музей современного искусства Сан-Диего состоится 21 февраля - 2 июня, 2019.
* Примечание редактора, 2 ноября 2018 года: эта история была отредактирована, чтобы прояснить предполагаемое значение и историю происхождения композиции Стива Райха «Разные поезда».
