[Джеймс Н. Вайнштейн и Оган Гурел] Медицинский вопрос, на который ИИ никогда не сможет ответить

Прошлой весной одному из нас позвонил давний друг. История была знакомой: два врача, МРТ, онлайн-инструмент на базе искусственного интеллекта, стопка статей — и один тревожный вопрос. «Все дают мне разные ответы. ИИ говорит, что мне, возможно, понадобится операция. Что мне делать?»

Мы считаем, что для любого человека, оказавшегося в этой слишком уж распространенной затруднительной ситуации, есть один ключевой ответ: «Что для вас важнее всего?»

Наступила долгая пауза.

Эта пауза — один из важнейших моментов в современном здравоохранении, и именно на этот вопрос искусственный интеллект ответить не может.

За время нашей работы в качестве врачей и исследователей мы ясно и неоднократно убеждались, что при многих распространённых заболеваниях медицинские данные не указывают на единственный «правильный» ответ. С биологической точки зрения варианты часто близки. Успех лечения зависит от того, насколько выбор соответствует потребностям человека, который его делает.

Некоторые пациенты с болями в спине хотят как можно быстрее вернуться к физически тяжелой работе, даже если для этого потребуется операция. Другие же стремятся избежать операции практически любой ценой, даже если восстановление займет больше времени. Результаты обследования могут выглядеть одинаково. Но жизни людей, стоящих за этими результатами, — нет.

Это понимание приобретает решающее значение по мере того, как искусственный интеллект все глубже проникает в повседневные решения в сфере здравоохранения.

В ходе наших исследований в области ИИ и принятия клинических решений мы изучали, что происходит, когда системы обучаются оптимизировать медицинские результаты, но не учитывают человеческие ценности. Проще говоря, современный ИИ очень хорошо умеет подсказывать, что обычно помогает людям, похожим на вас, с аналогичными демографическими характеристиками и историей болезни. Он гораздо хуже понимает, что именно вы пытаетесь защитить, чего избежать или что считаете приоритетным.

Это важно, потому что некоторые из самых распространенных и дорогостоящих медицинских решений не носят чисто биологический характер. Должен ли человек с раком простаты низкого риска выбрать хирургическое вмешательство, лучевую терапию или тщательное наблюдение? Должен ли человек с фибрилляцией предсердий пройти процедуру или контролировать состояние с помощью лекарств? Должен ли пациент с хронической болью в коленях или спине ложиться на операцию сейчас или попробовать несколько месяцев физиотерапии, чтобы понять, можно ли избежать операции?

В таких ситуациях медицинские различия между вариантами часто незначительны или неопределенны. Решающим фактором является то, насколько лечение соответствует целям пациента: его готовности к риску, желанию пройти период восстановления, способности соблюдать режим длительной терапии или просто тому, какой жизнью он хочет жить.

Системы ИИ могут рассчитывать вероятности. Но они не могут определить, что эти вероятности значат для конкретного человека.

В некоторых отношениях ИИ может знать о медицине больше, чем любой отдельный врач. Он способен за секунды обобщить миллионы научных статей, клинических исследований и медицинских карт пациентов. Однако он удивительно мало знает о человеке, сидящем напротив него. ИИ не знает целей пациента, его страхов, обязательств, готовности к риску или личного представления о благоприятном исходе. А поскольку он мало знает как о пациенте, так и о враче, он еще меньше знает о разговоре между ними — том месте, где факты, ценности и доверие сливаются воедино, чтобы принять правильное решение для конкретного человека.

Второй случай с пациентом наглядно продемонстрировал эту проблему. К нам направили пенсионерку-учительницу после того, как система проверки симптомов на основе ИИ выявила нарушение сердечного ритма и «рекомендовала» инвазивную процедуру. Пациентка пришла на прием напуганной, убеждённой в том, что существует только один правильный путь. Когда мы поговорили, стало ясно, что для неё важнее всего — избежать длительного восстановления и остаться достаточно здоровой, чтобы ездить навестить внуков.

Медикаментозное лечение и мониторинг — менее драматичные, но хорошо подкрепленные доказательствами — лучше соответствовали этим целям. ИИ не ошибся. Просто он не знал, что действительно важно.

Этот «слепой пятно» не является тривиальным. Примерно четверть расходов на здравоохранение в США приходится на решения, в которых предпочтения пациентов существенно влияют на результаты. Когда эти предпочтения игнорируются — людьми или алгоритмами — медицинская помощь становится неадекватной. Это может привести к ненужным процедурам, плохой приверженности лечению, сожалению и росту затрат без улучшения здоровья.

Так что же должны делать потребители, когда приложение, портал или «умный» инструмент рекомендует тот или иной курс действий?

Начните с трёх вопросов.

Во-первых: «Лучше для кого?»

Если инструмент говорит, что один вариант лучший, спросите, означает ли это «лучший в среднем» — или «лучший для человека с вашими приоритетами».

Во-вторых: «Чего эта система не знает обо мне?»

ИИ может видеть лабораторные показатели и результаты визуализации. Он не может видеть вашу работу, ваши семейные обязанности, ваши страхи или то, к чему вы стремитесь вернуться.

В-третьих: «Что произойдет, если я подожду или выберу другой вариант?»

Многие важные медицинские решения не носят экстренного характера. Когда варианты близки по эффективности, уделение времени на размышление часто является частью качественного ухода.

Искусственный интеллект становится мощным партнером в медицине. Он может помочь объяснить варианты, выявить доказательства и уменьшить путаницу. Но он должен служить основой для решений, принимаемых людьми, а не заменять их.

ИИ, возможно, знает о медицине больше, чем любой врач.

Но он знает гораздо меньше о каждом конкретном пациенте.

И меньше всего он знает о диалоге между ними.

Самая важная переменная в вашем медицинском обслуживании не заложена ни в одном алгоритме. Это вы.

---

Джеймс Н. Вайнштейн и Оган Гурел

Джеймс Н. Вайнштейн — хирург и клинический профессор Школы менеджмента Келлогг Северо-Западного университета. Оган Гурел — врач и доцент Техасского университета в Арлингтоне, где он занимается исследованиями в области искусственного интеллекта, причинно-следственных выводов и принятия решений пациентами. Они написали эту статью для газеты «Los Angeles Times». Мнения, выраженные в ней, принадлежат авторам. — Ред.

(Tribune Content Agency)

khnews@heraldcorp.com

#южнаякорея #корея #политика #экономика #промышленность #технология #искусственныйинтеллект #машинноеобучение #медицина #лечение #бизнес #финансы #общество #культура #искусство #азия