Великобритания вводит постоянный контроль медицинского ИИ после выхода на рынок

Великобритания меняет правила для медицинского ИИ: одобрения устройства больше недостаточно

Обычное медицинское изделие проверяют до рынка. С ИИ этого может оказаться мало

Классическая логика регулирования медицинских изделий строилась вокруг сравнительно стабильного продукта. Производитель разрабатывает устройство, собирает доказательства его безопасности и эффективности, проходит предусмотренную процедуру оценки, после чего продукт выходит на рынок. Надзор продолжается и после этого, но исторически он во многом был ориентирован на выявление инцидентов, нежелательных событий и других сигналов о проблемах.

С программным обеспечением и особенно искусственным интеллектом эта модель становится менее надежной.

ИИ-система может зависеть не только от собственного алгоритма, но и от того, какие данные поступают на вход, в какой больнице она используется, на каком оборудовании получены изображения, с какой популяцией пациентов работает и как ее выводы интерпретируют специалисты.

Кроме того, программный продукт можно обновлять значительно чаще, чем традиционное медицинское оборудование.

Именно поэтому Национальная комиссия по регулированию ИИ в здравоохранении Великобритании пришла к принципиальному выводу: регулирование должно стать ориентированным на весь жизненный цикл продукта, а не концентрироваться преимущественно на единственной проверке перед его выходом на рынок.

По данным Reuters, британское правительство решило принять все 44 рекомендации комиссии. Полный план реализации предполагается опубликовать к весне 2027 года, а проект плана — до конца 2026 года.

Алгоритм может остаться прежним, а его точность — измениться

Одна из причин, по которой медицинский ИИ требует особого подхода, называется дрейфом производительности.

Представим систему, которая анализирует изображения кожи и помогает выявлять подозрительные образования. Во время разработки ее проверили на определенных камерах, в определенных клиниках и на определенной выборке пациентов.

После внедрения условия начинают меняться. Появляется новое оборудование. Изменяется качество изображений. Алгоритм используется в другой популяции. Меняется распространенность заболеваний или организация диагностического маршрута.

Сам алгоритм при этом может формально оставаться тем же, однако распределение входных данных уже отличается от того, на котором оценивали его первоначальные характеристики. В результате чувствительность, специфичность или другие показатели могут измениться.

Еще сложнее ситуация с системами, которые регулярно обновляются или способны адаптироваться.

Генеральный директор британского Агентства по регулированию лекарственных средств и медицинских изделий (MHRA) Лоуренс Таллон в разговоре с Reuters указал на переход к значительно более сложной эпохе медицинского ИИ, включая недетерминированные алгоритмы — системы, поведение которых не всегда сводится к неизменному результату для заранее определенного набора условий.

Великобритания хочет видеть работу ИИ после его внедрения

В июне 2025 года в Великобритании уже вступили в силу усиленные требования к послерыночному надзору за медицинскими изделиями. Производители должны собирать и анализировать информацию о безопасности и работе устройств в реальной практике, выявлять новые риски и тенденции и принимать корректирующие меры.

Но Национальная комиссия считает, что для медицинского ИИ этого недостаточно.

Показателен результат проведенного ею сбора мнений: 65% респондентов не согласились или категорически не согласились с тем, что существующий подход к послерыночному надзору за медицинскими изделиями, включая устройства с ИИ, является достаточным.

Комиссия предлагает перейти к более гибкой системе. В зависимости от риска конкретного продукта она может включать:

• план послерыночного наблюдения, оцениваемый еще при выдаче разрешения;
• сбор данных реальной клинической практики;
• дополнительные исследования после внедрения;
• регулярную отчетность о характеристиках алгоритма;
• заранее определенные пороги ухудшения его работы;
• механизмы быстрого сообщения регулятору о деградации характеристик еще до появления серьезного инцидента;
• отслеживание конкретной версии программного продукта;
• более удобную передачу информации от врачей и пациентов.

Это существенное изменение философии надзора. Регулятор пытается обнаруживать проблему не только после причинения вреда, но и по изменению поведения системы, которое может предшествовать такому вреду.

Постоянный контроль может одновременно ускорить доступ к технологиям

На первый взгляд усиление наблюдения означает только дополнительную регуляторную нагрузку. Но британская модель содержит противоположную идею: более надежный контроль после выхода на рынок потенциально позволяет уменьшить часть неопределенности, которую сегодня приходится устранять до допуска продукта.

Для некоторых сложных ИИ-систем невозможно заранее воспроизвести все клинические ситуации, все группы пациентов и все условия использования.

Комиссия поэтому предлагает рассмотреть поэтапные разрешения. Перспективная технология при достаточных первоначальных доказательствах и контролируемом риске могла бы получить ограниченный доступ к клинической практике, продолжая собирать данные реального применения. Затем накопленные результаты использовались бы для перехода к полноценному разрешению.

Это не снижение требований к доказательствам. Скорее речь идет о переносе части их получения из искусственно ограниченного дорыночного периода в контролируемую реальную практику.

Такая модель потенциально решает одну из главных проблем регулирования цифровой медицины: если потребовать исчерпывающих доказательств до выхода продукта, технология может измениться быстрее, чем завершится ее оценка. Если же разрешать продукт слишком рано, неопределенность перекладывается на пациентов и врачей.

Жизненный цикл становится способом распределить эту неопределенность во времени.

AI Airlock превращает регулирование в экспериментальную систему

Для разработки новых правил MHRA использует программу AI Airlock — регуляторную «песочницу», в которой разработчики, регулятор и представители здравоохранения разбирают реальные ИИ-продукты и проверяют, где существующие правила перестают работать.

Вторая фаза программы включала семь технологий: от систем подготовки клинических записей до инструментов диагностики рака, заболеваний глаз и поддержки лечения ожирения.

Один из примеров хорошо показывает проблему. Eye2Gene анализирует изображения сетчатки и помогает диагностировать наследственные заболевания глаз. После внедрения характеристики подобной системы потенциально могут зависеть от модели сканера, качества изображения, особенностей популяции и даже появления новых знаний о генетических заболеваниях.

Другой участник программы, DeepX AI, предназначен для анализа дерматоскопических изображений и поддержки раннего выявления рака кожи.

Для таких систем регулятору необходимо решить две задачи, которые частично противоречат друг другу: разрешить совершенствование алгоритма без прохождения полной процедуры оценки после каждого изменения и одновременно гарантировать, что обновления не ухудшают его безопасность.

Один из предлагаемых инструментов — заранее согласованный план изменений. Производитель заранее описывает, какие изменения алгоритма допустимы, каким образом они будут проверяться и при каких условиях не потребуется заново проходить весь регуляторный путь.

MHRA также намерено открыть прием заявок на третью фазу AI Airlock, сосредоточенную на послерыночном надзоре и наблюдении за продуктом в течение его жизненного цикла.

Медицинскому ИИ понадобится собственная «история болезни»

Еще одна важная рекомендация касается прослеживаемости.

Если алгоритм участвовал в диагностике или выборе лечения, через несколько лет может потребоваться установить, какой именно продукт использовался, какая версия программы была установлена и какое влияние ее вывод оказал на клиническое решение.

Комиссия предлагает рассмотреть использование уникальных идентификаторов медицинских изделий с фиксацией версии программного обеспечения в медицинской документации пациента.

Для обычного прибора версия иногда имеет второстепенное значение. Для ИИ разница между двумя обновлениями может быть принципиальной.

Такая инфраструктура позволит связывать результаты лечения с конкретными версиями алгоритмов, проводить аудит и быстрее обнаруживать систематические ошибки. Она становится цифровым аналогом возможности установить серию лекарственного препарата при расследовании проблемы безопасности.

Великобритания движется в том же направлении, что США и Евросоюз

Британская реформа не является изолированным экспериментом. Регуляторы крупнейших рынков постепенно приходят к одной и той же идее: медицинский ИИ необходимо контролировать на протяжении всего жизненного цикла.

FDA в США развивает именно такую модель. Американский регулятор рассматривает проектирование, разработку, внедрение, мониторинг, обслуживание и изменение ИИ-медизделия как части единого процесса. Отдельное направление касается заранее определенных планов изменения алгоритмов после выхода продукта на рынок.

FDA также изучает методы обнаружения изменений входных данных и характеристик алгоритмов в реальной практике. Причина та же: популяции пациентов, оборудование, протоколы и клиническая среда меняются, поэтому результат первоначальной проверки не обязательно сохраняется неизменным.

В Евросоюзе для высокорисковых ИИ-систем AI Act предусматривает систему послерыночного мониторинга, которая должна активно собирать и анализировать данные о работе и соответствии системы требованиям в течение ее жизненного цикла. Для медицинских изделий эти требования должны взаимодействовать с уже существующим отраслевым регулированием, а не просто дублировать его.

Таким образом, формируется глобальная регуляторная тенденция: разрешение на рынок перестает восприниматься как конечная точка оценки медицинского алгоритма.

Для пациентов важнее не то, что ИИ «одобрен», а то, остается ли он надежным

Практическое значение реформы выходит далеко за пределы работы регуляторов.

Для пациента она означает возможность постепенно перейти от абстрактного утверждения «эта система разрешена к применению» к более содержательному: ее реальные характеристики продолжают отслеживаться после внедрения, а ухудшение работы должно быть обнаружено и расследовано.

Для врача появляется другая проблема. Клинический специалист остается важнейшим барьером против ошибочного решения ИИ, но комиссия прямо признает, что нельзя перекладывать на врача обязанность самостоятельно обнаруживать дрейф алгоритма. У специалиста часто нет ни необходимых данных, ни возможности сравнить тысячи результатов системы во времени.

Поэтому мониторинг должен быть встроен в инфраструктуру самого продукта и системы здравоохранения.

Для производителей это означает дополнительные требования к сбору данных, журналированию работы системы, контролю версий и отчетности. Одновременно появляется потенциальное преимущество: если регулятор заранее определяет допустимые изменения и правила наблюдения, разработчик получает более предсказуемый путь для совершенствования продукта.

Для систем здравоохранения возникает еще один уровень ответственности. Купить сертифицированный ИИ-продукт недостаточно. Необходимо понимать, насколько организация готова его внедрить, кто контролирует результаты, куда поступают сигналы об ошибках и что происходит, если характеристики системы начинают ухудшаться.

Главная проблема реформы — объем данных и распределение ответственности

Постоянный мониторинг звучит убедительно как принцип, но его реализация значительно сложнее.

Регулятору придется определить, какие показатели действительно нужно отслеживать, как часто это делать и какое изменение считать значимым. Слишком слабый контроль способен пропустить проблему. Слишком чувствительная система будет производить огромное количество ложных сигналов и создавать нагрузку для разработчиков, больниц и самого MHRA.

Не менее сложен вопрос ответственности. Ошибка может возникнуть из-за самого алгоритма, неудачного обновления, новых данных, особенностей конкретной больницы, неправильной интеграции или решения врача, который использовал рекомендацию системы.

Комиссия поэтому рассматривает медицинский ИИ не как изолированный программный продукт, а как часть клинической системы.

И пока многие детали остаются открытыми. Принятие 44 рекомендаций определяет направление реформы, но не устанавливает окончательные технические правила для каждого типа ИИ. Правительство намерено подготовить детальный план реализации, а MHRA предстоит превратить общие принципы в конкретные требования.