В не столь отдаленном будущем Йоханнесбург, гнилой от преступности, станет первым городом, где будет развернут флот автономных роботов-полицейских дроидов. Сначала машины кажутся эффективным решением. Преступление резко падает, и проект приветствуется как успех, пока что-то не пойдет не так. Рэп-рейв-гангстеры в поисках быстрой выплаты жалованья поврежденному дроиду, запланированному на снос. С помощью инженера по принуждению, они перепрограммируют дроида по имени Чаппи как автономного агента, эффективно создавая особенность, точку, в которой искусственный интеллект становится умнее человеческого интеллекта.
Как и большинство хорошей научной фантастики, новый фильм режиссера Нила Бломкампа « Чаппи» выступает в качестве комментария к человеческой природе и актуальным проблемам, включая бедность, преступность, дискриминацию, издевательства и жестокость полиции. Но это также поднимает более серьезные вопросы о том, что многие думают - к лучшему или к худшему - будет неизбежное появление разумного искусственного интеллекта.
«В прошлом, во всех сферах, все, что люди задумывали, независимо от этики и морали, испытывалось и, если возможно, выполнялось», - говорит Вольфганг Финк, физик из Университета Аризоны и Калифорнийского технологического института., «Автономные системы появятся, если кто-то поймет, как их создавать - это само собой разумеющееся».
Действительно, многие ученые, включая Финка, сейчас лихорадочно проводят эту линию исследований, и прогресс уже достигнут. Помимо самого Чеппи, большая часть робототехники, изображенной в фильме, фактически уже доступна или очень близка к тому, чтобы быть доступной. Роботы с дистанционным управлением, подобные фильму «Лоси» - огромная машина смерти, напоминающая робокопскую ED-209, управляемую ненормальным полицейским Хью Джекмана, - существуют сегодня.
Точно так же роботы, такие как полицейские дроиды Чеппи - те, которые запрограммированы как системы на основе правил и являются искусственно интеллектуальными, но им не хватает самосознания или автономности - почти готовы, хотя их время автономной работы и ловкость еще не соответствуют показанным моделям, патрулирующим улицы Йоханнесбурга. Однако, если и когда такие машины будут развернуты, это не будет радикальной вещью для нас. «Мы очень хорошо привыкли и привыкли к изменениям в окружающей среде, в том числе к технологическим», - говорит Али Матту, клинический психолог из Медицинского центра Колумбийского университета и создатель научно-фантастического блога «Мозг знает лучше». «Поскольку роботы становятся частью нашей повседневной жизни, я думаю, что в некотором смысле это может показаться незаметным».
Полицейский дроид, однако, не является самостоятельным разумным существом. По-настоящему самоуправляющееся, самоосознающее существо, подобное Чеппи, было бы отходом от всего, что когда-либо видели раньше. «За время, прошедшее после неандертальцев, у нас никогда не было возможности работать совместно с целым новым разумным видом», - говорит Матту. «Если мы сможем преодолеть барьеры для разделения эмпатии с искусственной формой жизни, это может привести к удивительному веку для человечества».
«Оборудование - это не препятствие, мешающее появлению такого существа, - это просто инженерная задача», - говорит Финк. Вместо этого создание программного обеспечения - призрака в машине - является реальной проблемой. Исследователи используют два разных подхода к этой проблеме. Некоторые пытаются создать готовое к загрузке живое существо с нуля, в то время как другие думают, что написание базовой программы, снабженной инструментами, необходимыми для обучения, адаптации и изменения себя с помощью опыта - как видно из Чеппи - это путь, Как объясняет Финк: «Это тот случай, когда пирог уже выпекают и помещают пирог в систему, или дают системе ингредиенты для пирога и оставляют его для выпечки».
Когда прорыв произойдет, скорее всего, это произойдет не постепенно, а внезапно, как изображено в Chappie . Финк предсказывает, что вместо того, чтобы отдать должное университету, правительству или корпорации, разрушение, которое приведет к единственности, будет доставлено небольшой группой исследователей или даже одним человеком, которого, вероятно, поддержит богатый частный спонсор, вдохновленный свободой экспериментировать и вырваться из консервативных основных исследований. На самом деле, это почти сценарий в Chappie : Chappie создается не крупной корпорацией, а инженером-самоучкой, которого играет Dev Patel, который использует все ресурсы, предоставленные его удобной дневной работой, для поддержки своей совершенно другой работы по автономному искусственному интеллекту ночью.
Однако, когда появится действительно самоуправляемый искусственный интеллект, невозможно будет предвидеть, насколько сложной станет система или в каком направлении она будет развиваться. В отличие от таких органических систем, как мы, это не будет сдерживаться медленным развитием биологической эволюции. Его развитие будет взрывным. Нет никаких гарантий, что такая система примет или сохранит набор моральных или этических ценностей или что эти ценности распространятся на людей. В случае с Чаппи, который развивается во многом подобно человеческому ребенку, обучаясь и взрослея с течением времени, раннее обещание не причинять вреда людям имеет большое значение для контроля действий робота. Но когда ему угрожает уничтожение, Чаппи, как и многие люди, в значительной степени откладывает свою мораль и действует из чистого интереса, защищая себя, даже если это означает причинение вреда другим.
И в то время как Чаппи выглядит как относительный и похожий на человека, реальный разумный робот, вполне возможно, не будет придерживаться человеческих рассуждений, уменьшая нашу способность предвидеть его действия или понимать его мотивы. «Как только вы достигнете этого уровня, вы по существу потеряли контроль над системой», - говорит Финк. «Это одновременно и захватывающе, и страшно, потому что это не будет похоже на человека».
Кроме того, независимо от того, будет ли программное обеспечение изначально обитать в оболочке похожего на Чаппи гуманоидного робота, космического корабля или даже имплантата в вашем теле, как только оно выйдет за пределы этой физической формы - как изображено (хотя и весьма неприятно) в « Превосходстве», - это будет быть почти невозможно сдержать это.
В то время как научно-фантастические книги и фильмы десятилетиями размышляли над вопросом об искусственном интеллекте, Финк отмечает, что необходимый прорыв «может произойти буквально в любое время». Не всем это нравится. В январе прошлого года соучредитель PayPal и генеральный директор Tesla Motors Элон Маск пожертвовал 10 миллионов долларов, чтобы помешать повелителям роботов когда-нибудь захватить планету и уничтожить нас. Он предупреждает, что, пытаясь создать автономный искусственный интеллект, мы «вызываем демона».
Маск не одинок в своем недоумении по поводу этого направления исследований. В недавней ветке Reddit «Спроси меня что-нибудь» соучредитель Microsoft и филантроп Билл Гейтс написал, что он «находится в лагере, который обеспокоен сверхразумом» и «не понимает, почему некоторые люди не обеспокоены» искусственными искусственными существа, которые превосходят наши собственные познавательные способности и обретают самостоятельность. Физик Стивен Хокингс также разделяет эту озабоченность и формулирует ее еще более прямо: «Развитие полного искусственного интеллекта может означать конец человеческой расы», - сказал он BBC.
Даже фильмы комиксов о блокбастерах идут по этому изношенному пути, обычно предназначенному для жанра научной фантастики. Как указывалось в последнем трейлере «Мстители Marvel: Age of Ultron», герои фильма сражаются с роботом, который был изначально создан как спаситель планеты от войны, но вместо этого решает уничтожить человечество.
Однако, с другой стороны, люди могут быть агрессорами, угрожающими существованию автономных существ, которые мы сами создаем, как это показано в « Чаппи» . Матту говорит, что мы, люди, идем по мирному пути, во многом зависит от двух вещей: можем ли мы общаться с роботами и сопереживать им. Последнее, объясняет он, зависит от, казалось бы, поверхностных факторов, таких как то, как выглядят роботы: у них есть глаза? Они похожи, но не слишком похожи на нас? - и кажутся ли они вообще симпатичными. Делиться теми же целями, что и мы, также поможет их делу. Эти факторы влияют на нашу врожденную неврологическую тенденцию классифицировать других как часть нашей доверенной группы или как часть потенциально угрожающей группы. Роботисты принимают во внимание такие психологические факторы при разработке своих новейших машин.
Матту, однако, отмечает, что даже если роботы удовлетворяют всем этим требованиям, все еще нет гарантии, что все пойдет хорошо. «Людям довольно трудно видеть друг друга как людей, не говоря уже об искусственном интеллекте или инопланетной жизни», - говорит Матту. «У нас также есть история первых контактов, которые идут очень плохо».
Таким образом, может случиться так, что мы уничтожим наше творение еще до того, как узнаем его, или что произойдет обратное - что наше программное обеспечение делает нас рабами, как мы видим в Матрице, или решает, в стиле Скайнета, что человечество просто не не достоин существования. С другой стороны, люди и автономные роботы могут обнимать друг друга, соглашаясь работать вместе над интересными занятиями, такими как исследование космоса. Однако единственный способ выяснить, кончаются ли вещи пламенем и слезами, прогрессом и дружбой, - это сначала создать этих существ. Но если прошлое является каким-либо показателем, это будет только вопросом времени. «Мы всегда движимы любопытством, желанием исследовать и открывать неожиданное», - говорит Финк. «А научная этика, как правило, отстает от нашего прогресса».
«Иногда мы получаем атомную энергию, а иногда - атомное оружие», - добавляет Матту. «Мы не знаем, в каком направлении это пойдет, но мы не можем остановить науку».
