Системы ИИ прошли путь от недоверия и опасений со стороны медицинского сообщества до внедрения в клиническую практику. Последнее касается, прежде всего, столицы: с 2020 года все отделения лучевой диагностики Москвы применяют ИИ-сервисы в рамках эксперимента Департамента здравоохранения. А в 2021 году Росздравнадзор зарегистрировал первую в РФ систему искусственного интеллекта для анализа маммографии и флюорографии («Цельс») в качестве медицинского изделия.
Но что по этому поводу думают сами врачи? О первом «знакомстве» с искусственным интеллектом и о том, как изменилось его восприятие с тех пор, о преимуществах для врача и возможных рисках от применения ИИ — рассказал Бронов Олег Юрьевич, врач-рентгенолог высшей категории, кандидат медицинских наук, научный руководитель компании, разрабатывающей ИИ-систему для рентгенологии.
— Олег Юрьевич, когда вы впервые соприкоснулись с искусственным интеллектом для рентгенологии и какие у вас были впечатления?
— 6–7 лет назад я был на ежегодной конференции в США — RSNA (Radiological Society of North America), это одна из крупнейших и известнейших в мире конференций по радиологии. Особенность RSNA заключается в большом количестве выставочного материала, в том числе и от производителей рентгенологической техники. И где-то с 2016 года там стали активно появляться разработчики программного обеспечения, в том числе связанного с технологиями ИИ. Тот же известный IBM Watson там тоже был представлен — по рентгенологической тематике.
Впечатления были смешанные. Как и, возможно, у многих врачей, были мысли о том, что в ближайшем будущем рентгенологов заменит искусственный интеллект. Потому что рентгенолог — это на 100% цифровая профессия: любой снимок, с которым мы работаем, будь то КТ, МРТ, УЗИ — это всё цифровые данные. Отсюда и возникает вопрос: а зачем тогда человек, если все эти данные может теперь обрабатывать система?
Потом я вернулся в Россию, здесь на тот момент тоже уже начиналось движение к разработке искусственного интеллекта в медицине. Я познакомился с представителями нескольких компаний-разработчиков (часть из них сейчас продолжает работу, а часть уже не работает), стал больше узнавать об этом.
Важно сказать, что за последние шесть лет понимание сценариев применения искусственного интеллекта в медицине поменялось, и опасения врачей по большей части ушли. Риторика в профессиональном сообществе по этому поводу изменилась: не «искусственный интеллект заменит врача», а «врач с искусственным интеллектом заменит врача без искусственного интеллекта».
— А как изменилось понимание сценариев применения ИИ?
— Раньше это представляли так, что искусственный интеллект делает за тебя практически всю работу. В этом «идеальном» мире ты по нажатию кнопки получаешь всё: описание исследования, заключение, все метрики, которые только возможны. И при таком сценарии действительно непонятно, зачем вообще нужен человек, врач-рентгенолог.
Но от таких глобальных идей отрасль приходит к более узким, специализированным задачам. Здесь искусственный интеллект не сделает за вас вашу работу — не напишет заключение за рентгенолога, не поставит диагноз за врача. Такие сервисы неспроста называют системами поддержки принятия врачебных решений. Именно врачебных! Только врач принимает конечное решение и только врач несёт за него ответственность.
Искусственный интеллект помогает ему в определённых, прежде всего, рутинных задачах, на которые врач-рентгенолог тратит уйму времени. А помимо рутинных, помогает и в некоторых сложных: когда нужны какие-то расчёты, измерения — что тоже занимает много времени.
Я допускаю (и почти уверен), что в будущем задачи медицинского искусственного интеллекта будут масштабироваться обратно. Когда мы научимся с помощью него хорошо решать узкие задачи (и, что не менее важно, встраивать это в общий процесс), можно будет совмещать такие наработки и переходить к более глобальным задачам.
— Все говорят о плюсах применения искусственного интеллекта в рентгенологии. А есть ли минусы или потенциальные опасности?
Во-первых, возможно излишнее доверие к искусственному интеллекту. Рентгенологу нельзя на 100% на него полагаться. Даже если у системы высокие метрики (чувствительность, специфичность и т.д.), врач должен перепроверить — потому что отвечать за результат будет он, а не искусственный интеллект.
Это опасение идёт из других сфер применения ИИ — например, беспилотного управления автомобилем. Робомобили Uber перестали ездить в крупных городах США после ДТП, повлекшего смерть велосипедистки. Она пыталась пересечь дорогу в неположенном месте, и человек, который сидел на месте водителя и должен был перехватить управление, не успел отреагировать. Опыт других производителей таких автомобилей — Google и Waymo — тоже показывает, что люди слишком доверяют технологиям, не следят за дорогой, иногда даже засыпают во время движения.
В случае с рентгенологом это не значит, что ему всё нужно измерять и пересчитывать заново. Нужно хотя бы посмотреть, какие области система выделила на снимке, какие объекты нашла — и если ты согласен с предварительным заключением, значит, всё в порядке. Перепроверка всё равно будет занимать меньше времени, чем если бы ты делал всё это вручную — поэтому ты уже выиграл во времени.
Во-вторых, важно обеспечить информационную безопасность. Здесь, в свою очередь, можно выделить два аспекта. Первый — безопасность персональных медицинских данных. Хочется иметь уверенность в том, что исследования, которые загружаются в облачное хранилище для последующей обработки, действительно обезличены и что после обработки они никуда не уходят. К тому же, медицинский искусственный интеллект — не обязательно рентгенологический: некоторые решения используют текстовые данные, включая историю болезни, результаты анализов и так далее. И эти данные о пациенте важно обезопасить.
Второй аспект касается безопасности применения самого программного обеспечения — в том смысле, что необходимо исключить возможность внесения в него каких-либо изменений третьими лицами.
2–3 года назад в Израиле была довольно показательная история: исследователи кибербезопасности разработали вредоносное ПО, чтобы продемонстрировать уязвимости в оборудовании для обработки медицинских изображений. Вирус «пририсовывал» рак почки на данных компьютерной томографии с «нормой» и удалял признаки патологии с исследований, на которых они изначально были. Когда рентгенологам предложили проанализировать эти исследования, они сделали неверное заключение в 99% случаев с «пририсованными» патологиями и в 95% случаев с удалёнными. Это ещё раз показывает важность обеспечения информационной безопасности в отношении медицинского ПО.
— В первую очередь, с улучшением самих сервисов. Когда в 2020 году многие разработчики начали участвовать в московском эксперименте, были нюансы с удобством использования. Рентгенолог ведь хочет, чтобы всё было быстро, чтобы исследование отправлялось на проверку искусственным интеллектом в один клик.
Если вы придёте со своим ПО к группе рентгенологов, первый вопрос, который они вам зададут — это «сколько на это потребуется времени?» Потому что когда тебе нужно исследования выгрузить из PACS-системы, заархивировать, анонимизировать, открыть ИИ-сервис в браузере, перетащить исследования в облако… Это отнимает и время, и желание использовать сервис.
Другое дело — когда сервис встроен в тот же самый интерфейс, в котором ты работаешь, и там есть кнопка «отправить ИИ». Так сейчас реализовано в Москве, и я уверен, что удобство использования — один из ключевых пунктов, которые формируют лояльность врачей к искусственному интеллекту.
К тому же, ИИ-сервисы в целом стали лучше работать: лучше анализировать, лучше считать. Когда врач что-то предполагает, а ИИ ему это подтверждает — это, безусловно, вызывает больше доверия к сервису, даёт врачу ощущение, что он не один, что есть дополнительная опора.
Особенно это важно для рентгенологов с опытом (от 3–5 лет), потому что они более скептически настроены, их доверие действительно надо заслужить. А человек без опыта настроен менее скептически, он нуждается в советах — поэтому на искусственный интеллект он будет больше опираться, чем опытный специалист.
А ещё на отношение врачей к искусственному интеллекту, по моим наблюдениям, влияет их осведомлённость. Это нормально для людей — опасаться того, о чём они мало знают. И наоборот: чем больше такие системы применяются в клинической практике, тем они становятся привычнее для врачей и тем меньше вызывают опасения.
— Когда, на ваш взгляд, применение ИИ в клинической практике станет повсеместным?
— Если говорить про Россию, где значительная часть медицины представлена государственными медучреждениями, то здесь масштабы внедрения искусственного интеллекта в работу врачей во многом зависит от инициативы властей. Сейчас, как мы видим, масштабно технология применяется только в Москве.
А чтобы распространить эту практику на всю страну, нужны соответствующие инициативы. Один из вариантов (который, как я знаю, уже обсуждается) — это включение услуг обработки медицинских снимков искусственным интеллектом в тариф обязательного медицинского страхования. Кроме того, для повсеместного применения ИИ в государственной медицине необходимо создать общую централизованную инфраструктуру (как это, опять же, сделали в Москве).
В конечном счёте, использование искусственного интеллекта врачом станет обычным делом. Такой привычный симбиоз приведёт к меньшей нагрузке на врача, исследования будут просматриваться более детально, а процент ошибок уменьшится. Появится время на самообразование, на банальный отдых. С точки зрения государства основными плюсами мне видятся снижение затрат как на саму диагностику, так и на лечение — заболевания будут диагностировать на ранних этапах, что в итоге приведёт к снижению смертности и увеличению продолжительности жизни. Ну а пациенты получат более качественный, во всех смыслах, медицинский сервис. Снизится время ожидания результата исследования, а удовлетворённость пациентов повысится — и конечно же, медицина для пациентов станет по-настоящему высокотехнологичной.
Материал подготовлен компанией Цельс
