Вы могли бы быть прощены за то, что думали, что ИИ скоро заменит врачей-людей на основе заголовков, таких как «Доктор ИИ увидит вас сейчас», «Ваш будущий доктор не может быть человеком» и «Этот ИИ просто победит врачей-людей на клиническом экзамене». «Но эксперты говорят, что реальность - это скорее сотрудничество, чем изгнание: пациенты могут вскоре найти свою жизнь частично в руках служб ИИ, работающих вместе с врачами-людьми.
В медицинском сообществе нет недостатка оптимизма в отношении ИИ. Но многие также предупреждают, что шумиха вокруг ИИ еще не реализована в реальных клинических условиях. Существуют также разные взгляды на то, как услуги ИИ могут оказать наибольшее влияние. И до сих пор неясно, улучшит ли ИИ жизнь пациентов или просто прибыль для компаний Силиконовой долины, организаций здравоохранения и страховщиков.
«Я думаю, что все наши пациенты на самом деле хотят, чтобы технологии искусственного интеллекта влияли на слабые места в системе здравоохранения, но мы должны делать это не из-за ажиотажа в Силиконовой долине», - говорит Исаак Кохане, исследователь биомедицинской информатики в Гарвардская медицинская школа.
Если ИИ будет работать так, как было обещано, он может демократизировать здравоохранение, расширив доступ к недостаточно обслуживаемым общинам и сократив расходы - благо в Соединенных Штатах, которое плохо оценивается по многим показателям здравоохранения, несмотря на среднегодовые затраты на здравоохранение в 10 739 долларов США на человека. Системы искусственного интеллекта могут освободить перегруженных работой врачей и снизить риск медицинских ошибок, которые могут убивать десятки тысяч, если не сотни тысяч, пациентов США каждый год. И во многих странах с нехваткой национальных врачей, таких как Китай, где в переполненных амбулаторных отделениях городских больниц может принимать участие до 10 000 человек в день, такие технологии не нуждаются в идеальной точности, чтобы оказаться полезными.
Но критики отмечают, что все эти обещания могут исчезнуть, если стремление к внедрению ИИ нарушит права пациентов на неприкосновенность частной жизни, упустит из виду предвзятость и ограничения или не сможет развернуть службы таким образом, чтобы улучшить результаты в отношении здоровья большинства людей.
«Точно так же, как технологии могут закрыть диспропорции, они могут усугубить диспропорции», - говорит Джаянт Комарнени, основатель и председатель проекта Human Diagnosis Project (Human Dx), общественно-полезной корпорации, занимающейся краудсорсингом медицинской экспертизы. «И ничто не обладает такой способностью усугублять различия, как ИИ»
***
Сегодня наиболее популярными методами искусственного интеллекта являются машинное обучение и его младший кузен, глубокое обучение. В отличие от компьютерных программ, которые строго следуют правилам, написанным людьми, как машинное обучение, так и алгоритмы глубокого обучения могут смотреть на набор данных, учиться на нем и делать новые прогнозы. В частности, глубокое изучение может сделать впечатляющие прогнозы, обнаружив шаблоны данных, которые люди могут пропустить.
Но чтобы максимально использовать эти прогнозы в области здравоохранения, ИИ не может пойти на это один. Скорее, люди все еще должны помогать принимать решения, которые могут иметь серьезные медицинские и финансовые последствия. Поскольку системам искусственного интеллекта не хватает общего интеллекта людей, они могут делать ошибочные прогнозы, которые могут оказаться вредными, если врачи и больницы беспрекословно им следуют.
Классический пример - Рич Каруана, старший научный сотрудник Microsoft Research, как он объяснил в прошлом году в журнале «Engineering and Technology». В 1990-х Каруана работал над проектом, в котором пытался использовать более раннюю форму машинного обучения, чтобы предсказать, был ли пациент с пневмонией низким или высоким риском. Но проблемы возникли, когда модель машинного обучения попыталась предсказать случай для страдающих астмой людей, которые подвержены высокому риску, потому что их существующие проблемы с дыханием делают их уязвимыми для пневмонии. Модель относилась к этим пациентам как к группе низкого риска, требующей небольшого вмешательства, а не госпитализации - то, чего человеческий эксперт никогда бы не сделал.
Если вы будете слепо следовать этой модели, говорит Кеннет Юнг, научный сотрудник Стэнфордского центра исследований в области биомедицинской информатики, «тогда вы в беде. Потому что модель говорит: «О, этот ребенок с астмой пришел, у него воспаление легких, но нам не нужно беспокоиться о них, и мы отправляем их домой с некоторыми антибиотиками».
Прогнозы с углубленным изучением также могут быть неудачными, если они впервые сталкиваются с необычными точками данных, такими как уникальные медицинские случаи, или когда они изучают специфические закономерности в конкретных наборах данных, которые плохо обобщаются для новых медицинских случаев.
Прогнозы ИИ лучше всего подходят для больших массивов данных, например, в Китае, который имеет преимущество в обучении систем ИИ благодаря доступу к многочисленным группам населения и данным пациентов. В феврале журнал Nature Medicine опубликовал исследование, проведенное учеными из Сан-Диего и Гуанчжоу, Китай, которое показало перспективность диагностики многих распространенных детских заболеваний на основе электронных медицинских записей более 567 000 детей.
Но даже большие наборы данных могут создавать проблемы, особенно когда исследователи пытаются применить свой алгоритм к новой популяции. В исследовании « Медицина природы» все полмиллиона пациентов поступили из одного медицинского центра в Гуанчжоу, что означает, что нет никакой гарантии, что диагностические уроки, извлеченные из обучения по этому набору данных, будут применяться к педиатрическим случаям в других местах. Каждый медицинский центр может привлекать свой собственный уникальный набор пациентов - например, больница, известная своим сердечно-сосудистым центром, может привлекать более критические состояния сердца. А результаты, полученные в больнице Гуанчжоу, которая в основном привлекает пациентов из числа этнических китайцев, могут не переводиться в больницу в Шанхае с большим количеством не родившихся в Китае пациентов, родившихся за границей.
В этом TEDx Talk 2017 года Синдзини Кунду из больницы имени Джона Хопкинса объясняет, как инструменты искусственного интеллекта могут извлечь больше из медицинских изображений, чем могут сделать только врачи, включая прогнозирование заболеваний до появления у пациентов симптомов.
Эта экстраполяция окажется трудной и в других ситуациях. Например, говорит Марзи Гассеми, специалист по информатике и биомедицинскому делу в Университете Торонто, говорит, что у вас есть 40 000 пациентов в отделении интенсивной терапии в медицинском центре диаконессы Beth Israel - это всего лишь одна больница в одном городе. «И поэтому у меня есть все эти документы, которые сделали прогнозы с этими данными. Это работает с другой больницей в Бостоне? Может быть. Работает ли это для больницы в другом штате? Будет ли это работать в другой стране? Мы не знаем.
***
Хотя модели искусственного интеллекта могут работать не во всех случаях, Гассеми считает, что эту технологию все еще стоит изучить. «Я очень за то, чтобы переносить эти модели со скамейки на кровать, - говорит она, - но с действительно агрессивными мерами предосторожности».
По словам И. Гленна Коэна, профессора права в Гарвардском университете и лидера проекта по точной медицине, искусственному интеллекту и праву, эти шаги должны существовать на протяжении всего процесса разработки и внедрения ИИ. Это может включать проверку точности и прозрачности прогнозов AI. А во время сбора данных исследователям также необходимо защищать конфиденциальность пациентов и запрашивать согласие на использование данных пациентов для обучения ИИ
Проблема согласия вновь возникает, когда модель ИИ готова к экспериментальному клиническому тестированию с реальными пациентами. «Нужно ли говорить пациентам, что вы используете алгоритм для них, и имеет ли значение, является ли ИИ полностью направляющим или частично направляющим лечением?» - спрашивает Коэн. «На самом деле очень мало об этом думают».
Ghassemi также выступает за частый аудит алгоритмов ИИ для обеспечения справедливости и точности в разных группах людей на основе этнической принадлежности, пола, возраста и медицинского страхования. Это важно, учитывая, как приложения ИИ в других областях уже показали, что они могут легко уклоняться.
После всех этих шагов люди и компании, предоставляющие услуги AI, должны будут разобраться с юридической ответственностью в случае неизбежных ошибок. И в отличие от большинства медицинских устройств, которые обычно требуют только одного одобрения со стороны регулирующих органов, службы ИИ могут требовать дополнительной проверки всякий раз, когда они изучают новые данные.
Некоторые регулирующие органы переосмысливают методы оценки искусственного интеллекта в сфере здравоохранения. В апреле Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) выпустило документ для обсуждения, чтобы получить общественную обратную связь о том, как обновить соответствующий нормативный обзор. «То, что мы постоянно пытаемся сделать здесь, - это вернуться к нашей цели - предоставить людям доступ к технологиям, но мы также понимаем, что наши нынешние методы работают не совсем хорошо», - говорит Бакул Патель, директор по цифровому здравоохранению в FDA. «Вот почему нам нужно взглянуть на целостный подход всего жизненного цикла продукта».
В дополнение к проблемам, связанным с доступом, конфиденциальностью и правилами, также неясно, кто получит наибольшую выгоду от медицинских услуг AI. Уже существуют диспропорции в сфере здравоохранения: согласно данным Всемирного банка и Всемирной организации здравоохранения, половина населения земного шара не имеет доступа к основным медицинским услугам, и почти 100 миллионов человек попадают в крайнюю нищету из-за расходов на здравоохранение. В зависимости от того, как оно развернуто, ИИ может либо улучшить эти неравенства, либо усугубить их.
«Большая часть обсуждений AI была о том, как демократизировать здравоохранение, и я хочу видеть, как это происходит», - говорит Эффи Вайена, биоэтик из Федерального технологического института в Швейцарии.
«Если вы в конечном итоге получите более качественное обслуживание для тех, кто в любом случае мог бы позволить себе хорошее медицинское обслуживание, - добавляет она, - я не уверена, что это то преобразование, которое мы ищем».
То, как все это разыгрывается, зависит от различных подходов к реализации ИИ. Ранняя разработка была сфокусирована на очень узких диагностических приложениях, таких как тщательное изучение изображений на предмет намеков на рак кожи или грибка ногтей, или чтение рентгенограммы грудной клетки. Но более поздние усилия пытались диагностировать множественные состояния здоровья одновременно.
В августе 2018 года, глазная больница Moorfields в Великобритании и DeepMind. лондонская лаборатория искусственного интеллекта, принадлежащая родительской компании Google Alphabet, показала, что они успешно обучили систему искусственного интеллекта идентифицировать более 50 заболеваний глаз при сканировании, что соответствовало результатам работы ведущих экспертов. Столь же широкие амбиции привели к проведению исследований в Сан-Диего и Гуанчжоу, в которых ИИ обучался диагностировать распространенные заболевания среди детей. Последний не был так хорош в диагностике детских заболеваний по сравнению со старшими врачами, но он показал лучшие результаты, чем некоторые младшие врачи.
Такие системы искусственного интеллекта, возможно, не должны превосходить лучших человеческих экспертов, чтобы помочь демократизировать здравоохранение, а просто расширить доступ к современным медицинским стандартам. Тем не менее, до сих пор многие предложенные приложения ИИ ориентированы на улучшение существующего стандарта медицинской помощи, а не на распространение доступной медицинской помощи по всему миру, говорит Коэн: «Демократизация того, что у нас уже есть, будет гораздо более выгодным, чем улучшение того, что мы имеем в много областей. »
Консалтинговая фирма Accenture прогнозирует, что лучшие приложения ИИ могут сэкономить экономике США 150 млрд долларов в год к 2026 году. Но неясно, выиграют ли пациенты и системы здравоохранения, дополненные долларами налогоплательщиков, или если больше денег просто пойдут в технологические компании, поставщики медицинских услуг и страховщики.
«Вопрос о том, кто будет управлять этим, а кто будет платить за это, является важным вопросом», - говорит Кохане. «Что-то немного галлюцинаторное во всех этих бизнес-планах заключается в том, что они думают, что знают, как это сработает».
Кохане предупреждает, что даже если службы ИИ дают рекомендации по снижению затрат, врачи-специалисты и организации здравоохранения могут не решиться воспользоваться рекомендациями ИИ, если в результате они зарабатывают меньше денег. Это говорит о более серьезной системной проблеме американских страховщиков здоровья, использующих модель оплаты за услуги, которая часто вознаграждает врачей и больницы за добавление тестов и медицинских процедур, даже когда они не нужны.
***
Есть еще одна возможность ИИ, которая может улучшить качество медицинской помощи, оставляя большинство медицинских диагнозов в руках врачей. В своей книге « Глубокая медицина», изданной в 2019 году, Эрик Тополь, директор и основатель Исследовательского трансляционного института Скриппса, рассказывает о создании по сути медицинского Siri с наддувом - помощника по искусственному интеллекту, который делает записи о взаимодействиях между врачами и их пациентами, вводит эти записи в электронное здравоохранение. записи и напоминают врачам, чтобы спросить о соответствующих частях истории пациента.
«Я стремлюсь к тому, чтобы мы разжимали работу врачей и избавлялись от их роли клерка данных, помогали пациентам брать на себя больше ответственности и собирали данные, чтобы анализ не занимал много времени», - говорит Тополь.
Этот «никогда не забываемый медицинский помощник или писец», говорит Кохан, потребует ИИ, который может автоматически отслеживать и транскрибировать несколько голосов между врачами и пациентами. Он поддерживает идею Тополя, но добавляет, что большинство разрабатываемых приложений ИИ, похоже, не ориентированы на таких помощников. Тем не менее, некоторые компании, такие как Saykara и DeepScribe, разработали сервисы в этом направлении, и даже Google объединился со Стэнфордским университетом, чтобы протестировать аналогичную технологию «цифрового писца».
Ассистент ИИ может звучать менее захватывающе, чем врач ИИ, но это может позволить врачам проводить больше времени со своими пациентами и улучшить общее качество обслуживания. В частности, семейные врачи часто проводят более половины своего рабочего дня, внося данные в электронные медицинские карты, что является основным фактором физического и эмоционального выгорания, что имеет тяжелые последствия, включая смерть пациентов.
По иронии судьбы электронные медицинские записи должны были улучшить медицинское обслуживание и сократить расходы, сделав информацию о пациентах более доступной. Теперь Тополь и многие другие эксперты указывали на электронные медицинские записи как на предупреждение о нынешней шумихе вокруг ИИ в медицине и здравоохранении.
Внедрение электронных медицинских карт уже создало лоскутную систему, распространенную среди сотен частных поставщиков, которая в основном успешно изолирует данные пациентов и делает их недоступными как для врачей, так и для пациентов. Если история поможет вам, многие технологические компании и организации здравоохранения почувствуют тягу к тому, чтобы следовать сходным путям, накапливая медицинские данные для своих собственных систем искусственного интеллекта.
Одним из способов решения этой проблемы может быть использование системы коллективного интеллекта, которая объединяет и оценивает медицинскую экспертизу из разных источников, говорит Комарнени, который пробует этот подход с Human Dx. Human Dx, поддержанная крупными медицинскими организациями, такими как Американская медицинская ассоциация, создала онлайн-платформу для краудсорсинговых консультаций от тысяч врачей по конкретным медицинским случаям. Комарнени надеется, что такая платформа теоретически может также когда-нибудь включать диагностические советы от множества различных служб ИИ.
«Точно так же, как несколько специалистов-людей могли бы взглянуть на ваше дело в будущем, нет никаких причин, по которым несколько ИИ не смогли бы этого сделать», - говорит Комарнени.
Пока врачи ждут своих помощников по искусственному интеллекту, краудсорсинговые проекты, такие как Human Dx, «определенно могут привести к улучшению диагностики или даже к улучшению рекомендаций по терапии», - говорит Тополь, соавтор исследования 2018 года на аналогичной платформе под названием Medscape Consult. В документе делается вывод о том, что коллективный разум человека может стать «конкурентной или дополнительной стратегией» для ИИ в медицине.
Но если службы искусственного интеллекта пройдут все испытания и проверки в реальном мире, они могут стать значительными партнерами для людей в изменении современной медицинской помощи.
«Есть вещи, которые машины никогда не будут делать хорошо, а затем другие, где они будут превосходить то, что может сделать любой человек», - говорит Тополь. «Таким образом, когда вы соединяете их вместе, это очень мощный пакет».
***
Джереми Сюй - независимый журналист из Нью-Йорка. Он часто пишет о науке и технике для Backchannel, IEEE Spectrum, Popular Science и Scientific American, а также среди других публикаций.
Эта статья была первоначально опубликована в Undark. Прочитайте оригинальную статью.
