ИИ: идеальный шторм

Искусственный интеллект в медицине сегодня меняет привычные представления о том, как работает врач, и что получает пациент. Ректор Высшей школы организации и управления здравоохранением, д.м.н. Гузель Улумбекова считает, что пришло время создать ИИ-модель и для страховых медицинских организаций.

ССТ: Какой опыт использования ИИ получен в систе- ме здравоохранения? Гузель Улумбекова: Искусственный интеллект обрушился на нас, как идеальный шторм, и чтобы управлять этим штормом, надо в нем разбираться и врачам, и преподавателям, и организаторам здра- воохранения. За последние два года во многих странах, в том числе и в России, соот- ветствующими ведомствами зареги- стрирован целый ряд медицинских изделий с искусственным интеллек- том. Примерно 80 % из них касают- ся распознавания рентгенограмм, за ними идут патологоанатомические стекла, расшифровка ЭКГ, прогности­ческие сервисы и др. Все это — модели машинного обучения (ML), предна­значенные для решения узкого круга задач, например сравнения нормы с патологией с выдачей соответству­ющего заключения. Их еще называют «слабыми» или пре-генеративными моделями. Они учатся на опреде­ленном объеме данных, касающихся отдельных патологий.

ССТ: По сути, они дают подсказки в помощь врачу?

Г. У.: Да, это именно подсказки. Они помогают увидеть отклонение, кото­рое, может быть, не всегда заметит уставший врач. Порой патологии можно обнаружить только на очень начальной стадии, незаметной че­ловеческому глазу. Например, такие изменения на ЭКГ, которые являются предвестниками аритмии.

Примерно 80 % из них касаются распознавания рентгенограмм, за ними идут патологоанатоми­ческие стекла, расшиф­ровка ЭКГ, прогностиче­ские сервисы и др. Все это — модели машинного обучения (ML), предна­значенные для решения узкого круга задач.

Второй блок моделей — это большие языковые или генеративные модели (LLM). Они обучены для решения более широкого круга задач и могут в ответ на запрос выдавать текст, аудио или видео. Если они могут делать все это одновременно, то их называют мультимодальными. Напри­мер, они дают врачу информацию, как сегодня, в соответствии с современны­ми представлениями и клиническими рекомендациями, как при данном диагнозе надо лечить пациента, или как могут взаимодействовать между собой лекарства.

В этом году в медицине появились агентные модели (Agentic AI) — это сочетание разных программных реше­ний и больших языковых моделей.

ССТ: Какова их роль?

Г. У.: Если, например, большие генеративные модели отвечают на вопросы, которые у нас возникают, то агентные системы самостоятельно планируют и выполняют многоша­говые задачи без участия человека на каждом этапе. Мы сейчас работаем над тем, чтобы интегрировать таких агентов в электронную медицинскую карту.

Предположим, стра­ховщику ведь невоз­можно упомнить все последние клинические рекомендации, предпи­санные диагностические исследования и др. Для поиска нужной информации надо зайти на какой-то сайт, открыть 200-странич­ный документ, найти искомое место и только потом получить ответ. Но если все это находится внутри системы, ей можно задать вопрос и мгновенно получить ответ.

ССТ: Получается, ИИ экономит время врача или страховщика, соответствен­но, в конечном итоге экономит деньги?

Г. У.: Конечно, это будет экономить время, ведь если у медицинских страховщиков будут работать гото­вые агентные системы, любой во­прос можно будет решить в течение 15–20 секунд.

Всем пациентам очень важно понимать: большие языковые модели могут давать неправильные ответы

Мы сейчас делали интеграцию с компанией «Первый БИТ», ко­торая разрабатывает медицинские информационные системы. Как это работает: когда врач заполняет электронную медицинскую кар­ту, на этапе постановки диагноза он может задать вопрос или получить всплывающую подсказ­ку. Такая поддержка принятия клинических решений сэкономит время врача, и качество медицинской помощи точно поднимет.

Еще один аспект. Часто на приеме врач ведет беседу, одновременно заполняя поля электрон­ной медицинской карты. При использовании ИИ ему можно все свое вни­мание уделить пациенту — заполнение медицинской карты происходит авто­матически. Это так называемые писцы или скрайбы, основанные на ИИ.

Медицина зачастую свя­зана с ситуацией неопре­деленности — пациенты индивидуальны, течение болезней может быть вариабельным. Иногда для общих пояснений использовать чат GPT бывает полезно, а вот ставить себе диагноз с помощью LLM нельзя.

ССТ: Могут ли генеративными моделя­ми пользоваться сами пациенты?

Г. У.: За рубежом это очень активная практика. Каждый третий американец пользуется чатом GPT или другой подобной моделью для консуль­таций по медицинским вопросам. Однако всем пациентам очень важ­но понимать: большие языковые модели могут давать неправильные ответы.

Медицина зачастую связана с ситу­ацией неопределенности — пациенты индивидуальны, течение болезней может быть вариабельным. Иногда для общих пояснений использовать чат GPT бывает полезно, а вот ставить себе диагноз с помощью LLM нельзя. Ответственность за диагноз все-таки несет врач.

От качества данных зависит качество работы модели. Они должны быть полными, точными и стандартизованными, что не всегда осуществимо

ССТ: Насколько доступны ИИ-модели для организаций здравоохранения в России?

Г. У.: Всего на май месяц в нашей стране Росздравнадзором зарегистри­ровано и допущено на рынок 47 меди­цинских изделий с ИИ.

Можно отметить платформу «МосМедИИ», которая агрегирует разные решения и позволяет прово­дить дистанционный анализ лучевых изображений с помощью искусствен­ного интеллекта любой медицинской организации, в том числе из регионов. На данном этапе это позволяет повы­сить качество оказания медицинской помощи и производительность труда, пусть пока еще только для вра­чей-рентгенологов.

Отметим, что все модели, которые связаны с интерпретацией медицин­ских данных, попадают под класс медицинских изделий и, соответ­ственно, требуют государственной регистрации с оценкой их безопасно­сти. Генеративные модели ИИ пока не регистрируются ни в одной стране, то есть, население и медицинские ра­ботники используют их на свой страх и риск.

ССТ: Какие риски несет ИИ для систе­мы здравоохранения?

Г. У.: Рисков на самом деле очень много. Если мы возьмем слабые мо­дели ИИ, которые предназначены для решения узких задач, то они со вре­менем могут деградировать, снижать свою эффективность. Поэтому очень важно осуществлять жесткий мони­торинг за такими моделями, осо­бенно, когда врач полагается на их решение.

Еще важный момент: модель, обученная на данных сложных пациентов, скажем, в каком-нибудь национальном медицинском центре, не может быть применима в районной больнице, потому что там иной поток пациентов. Это все надо учитывать в работе ИИ-моделей.

Генеративные модели, несмотря на постоянное совершенствование, примерно в 30 % случаев могут оши­баться, а в 10 % — даже очень грубо. Зато в 30 % других случаев они дают прекрасные ответы. Именно поэтому сегодня главная фигура, которая при­нимает решение, особенно в сложных ситуациях — это врач. Он несет ответ­ственность за диагноз и результаты лечения, может сопоставить индиви­дуальные данные пациента с подсказ­ками ИИ.

ССТ: Как обеспечивается качество данных, на которых работают LLM?

Г. У.: Это больной вопрос в медицине: от качества данных зависит качество работы модели. Они должны быть полными, точными и стандартизо­ванными, что не всегда осуществимо. Для моделей машинного обучения такие данные отбирают и проверяют эксперты. Для общедоступных боль­ших языковых моделей — это весь Интернет, соответственно, и качество информации.

К счастью, разработчики в США и в России сделали генеративные модели, работающие на доверенных данных. Это значит, что создает­ся специальное пространство, где размещаются только качественные, проверенные специалистами данные, такие как клинические рекомендации Минздрава, клинические рекоменда­ции международных обществ, лучшие мировые и российские руководства и др. Соответственно в ответе моде­ли врач получает ссылку на перво­источник.

ССТ: Как контролируется работа ИИ в медицине?

Г. У.: Во всех странах любая техноло­гия, которая появляется в медицине, будь то медицинское изделие или лекарство, должна пройти оценку на безопасность и эффективность. Как я уже отметила, модели машин­ного обучения, если они связаны с постановкой диагноза и лечением, попадают под класс медицинских изделий и, соответственно, долж­ны удовлетворять определенному набору требований, которые прове­ряют соответствующие контрольные ведомства (в РФ — это Росздрав­надзор). Контрольные процедуры зависят от степени риска модели. В ЕС практически все модели ИИ попадают под высокий класс риска, в США — более либеральное законодательство, в РФ — «золотая середина».

А вот большие языковые модели невозможно регулировать. Пока таких методов просто не существует. Есть разные предложения и подходы. Например, одни специалисты предла­гают их лицензировать и аккредито­вать как врачей. Другие считают, что это — как книжка, из которой можно получить очень быстрый и качествен­ный ответ, сканируя огромные базы медицинских знаний. Полученный из нее ответ, чтобы он был применим к конкретному пациенту, естественно, должен пройти через голову врачей, соответственно не надо их регистри­ровать.

Большие языковые модели невозможно регулировать. Пока таких методов просто не существует. Есть разные предложения и подхо­ды. Например, одни специалисты предлагают их лицензировать и ак­кредитовать как врачей. Другие считают, что это — как книжка, из которой можно получить очень быстрый и качественный ответ.

ССТ: Как такие системы могут ис­пользовать страховые медицинские организации?

Г. У.: Мы с коллегами уже обсуждали, как можно облегчить работу СМО с точки зрения производительности труда экспертов, которые проверя­ют электронные медицинские карты в части контроля качества оказанной медицинской помощи. Там же есть два уровня контроля (медико-экономическая экспертиза и экспертиза качества медицинской помощи), требующих высокой квалифика­ции эксперта, который как минимум должен опираться на качествен­ные источники инфор­мации.

Пока такой идеальной системы для страхов­щиков не существует, но мы уже ее продума­ли, обсуждая с пред­ставителями СМО и нашими ИТ-специа­листами. У нас есть выверенные дан­ные и технологии, которые позволят автоматически проверить, что элек­тронная медицинская карта пациента соответствует утвержденной клини­ческой рекомендации. То есть, ИИ возьмет на себя функцию сравнения: назначенное в ЭМК диагностическое исследование или лечение включено в клиническую рекомендацию, или нет, и др. Это позволит существенно поднять качество и производитель­ность труда страхового эксперта в медицине.