Когда врач использует ИИ, ответственность всё равно остаётся у человека

Шесть правил BMJ показывают, как меняется медицина, когда алгоритм становится участником клинического решения

Искусственный интеллект уже помогает врачам читать снимки, анализировать данные и принимать решения. Но если алгоритм ошибётся и пациенту будет причинён вред, ответ «так решил ИИ» не снимает ответственности с врача. Именно поэтому медицинскому сообществу приходится формулировать новые правила работы с технологией, которая всё глубже входит в клиническую практику.

ИИ постепенно перестаёт быть экспериментальной технологией, которую врач может просто игнорировать. Он входит в диагностику, обработку медицинских изображений, клинические информационные системы и другие рабочие процессы.

И вместе с этим возникает вопрос, которого практически не существовало ещё несколько лет назад: кто отвечает, если машина помогла принять неправильное медицинское решение?

17 сентября 2026 года BMJ опубликовал статью медицинского этика и юриста Дэниела Сокола «Six rules for doctors using AI». Это не клиническое исследование и не формальное руководство регулятора, а экспертная статья в разделе Opinion; BMJ указывает, что она не проходила внешнее рецензирование. Но её ценность в другом: она показывает, как уже сейчас начинает формироваться практическая логика ответственности врача в эпоху ИИ.

И эта логика заметно отличается от идеи «компьютер решил за меня».

Алгоритм нельзя использовать как чёрный ящик

Первое правило кажется очевидным: врач должен использовать подходящий инструмент и понимать, для чего он предназначен.

Но здесь есть важная деталь.

Понимать ИИ не означает знать его программный код или устройство нейронной сети. Врач должен понимать клиническое назначение системы, её ограничения, смысл выдаваемого результата и то, когда требуется человеческая проверка.

Система, предназначенная для выявления диабетической ретинопатии, например, не становится автоматически системой для диагностики любых заболеваний сетчатки.

Это примерно та же логика, которая действует для любого медицинского инструмента: способность прибора что-то измерить ещё не означает, что его можно применять для любого похожего вопроса.

Перед использованием системы Сокол рекомендует убедиться, что она одобрена медицинской организацией, пройти необходимое обучение и знать хотя бы в общих чертах, что именно делает алгоритм.

Врач должен уметь объяснить пациенту не устройство модели, а гораздо более практичную вещь: зачем здесь применяется ИИ и что означает полученный результат.

Удалить имя пациента иногда недостаточно

Второе правило касается информации.

Если врач использует публичную или неавторизованную систему ИИ, туда нельзя вводить сведения, позволяющие идентифицировать пациента.

Причём простого удаления имени, номера медицинской карты или другого очевидного идентификатора может оказаться недостаточно.

Представьте пациента с очень редким заболеванием, необычным возрастом, конкретной профессией и характерной историей болезни. Даже без имени сочетание этих признаков иногда позволяет понять, о каком человеке идёт речь.

Чем необычнее медицинская ситуация, тем выше такой риск.

Поэтому конфиденциальную информацию, подчёркивает Сокол, следует вводить только в системы, которые прошли предусмотренные организацией проверки информационной безопасности и защиты данных.

Это важный поворот в разговоре о медицинском ИИ: проблема приватности начинается не с того, «знает ли ChatGPT имя пациента», а с того, можно ли восстановить личность человека из совокупности переданных данных.

Самая опасная ошибка может произойти ещё до работы ИИ

Третье правило касается входных данных.

Даже хороший алгоритм может дать неправильный результат, если получил неправильную информацию. Особенно легко этого не заметить, когда данные переносятся автоматически из других систем.

Поэтому проверять нужно не только ответ ИИ.

Нужно проверять то, что ему дали.

Результат алгоритма необходимо сопоставлять с анамнезом, осмотром и другими клиническими данными. Не пропустил ли ИИ что-то существенное? Не выглядит ли его ответ более точным, чем позволяют реальные данные?

Сокол предлагает простое правило: чем выше цена решения, тем тщательнее должна быть человеческая проверка.

Если результат ИИ противоречит клиническому суждению врача, следует снова проверить исходные данные, воспользоваться другим методом или попросить мнение коллеги.

Но особенно важна следующая мысль: независимо от того, согласился врач с алгоритмом или отверг его рекомендацию, у него должна быть объяснимая причина.

«Так сказал ИИ» такой причиной не является.

И вот здесь меняется привычное представление об ответственности

Можно представить, что внедрение ИИ постепенно переносит ответственность с врача на машину.

На практике пока происходит почти противоположное.

В английском праве, отмечает Сокол, саму систему искусственного интеллекта нельзя привлечь к ответственности так, как человека или организацию. В зависимости от причины произошедшего юридическая ответственность может оказаться у врача, медицинской организации, разработчика или производителя.

И это уже не полностью теоретическая проблема.

По данным, приведённым в статье BMJ, NHS Resolution уже получил первые дела о клинической халатности, где использование ИИ при оказании помощи рассматривается как возможный фактор. Генеральный медицинский совет Великобритании — GMC — также получал обращения, связанные с неправильным использованием врачами систем ИИ.

Получается парадокс.

Чем больше решений помогает принимать машина, тем важнее становится способность человека объяснить, почему конкретное решение было принято.

Пациенту не нужно рассказывать о каждом алгоритме — но иногда это принципиально

Четвёртое правило касается информирования пациента.

Нет требования сообщать человеку буквально о каждом использовании искусственного интеллекта. Современная медицина содержит слишком много программных систем, чтобы подобный подход был практичным.

Но ситуация меняется, если ИИ способен существенно повлиять на диагноз, прогноз или выбор лечения.

GMC указывает, что при использовании инновационных технологий необходимо обсуждать с пациентами доступные варианты, неопределённости и ограничения, чтобы человек мог участвовать в информированном принятии решения.

Пациент может попросить врача отказаться от ИИ.

Тогда врачу следует понять причины просьбы и рассмотреть разумную альтернативу без использования алгоритма. Но такая альтернатива возможна не всегда: в будущем некоторые системы ИИ могут стать настолько встроенными в стандартную медицинскую помощь, что отказ от них сам по себе окажется спорным решением.

И Сокол обращает внимание на ещё один интересный сценарий.

Сегодня врача могут критиковать за неуместное использование ИИ. Но по мере накопления доказательств однажды может возникнуть обратная ситуация — врача будут критиковать уже за то, что он не воспользовался системой, польза которой стала хорошо доказанной.

Причём этот момент наступит в разных медицинских специальностях в разное время.

Медицинская карта должна помнить не только решение врача, но и роль ИИ

Пятое правило — документировать использование технологии, если она существенно повлияла на клиническое решение.

Особенно важно это сделать, если врач решил поступить не так, как рекомендовал алгоритм.

Логика очень практична.

Нужно представить, что через несколько месяцев или лет другой специалист открывает историю болезни и спрашивает: почему врач принял именно такое решение, если система рекомендовала другое?

Хорошая запись должна позволить ответить на этот вопрос.

Это означает, что медицинская документация постепенно начинает фиксировать новую категорию участников клинического процесса: не только пациента, врача, лабораторию и результаты обследований, но и алгоритмическую систему, которая могла повлиять на решение.

Ошибка ИИ может оказаться проблемой не одного пациента

Шестое правило касается ситуации, когда что-то уже пошло не так.

Если ИИ участвовал в неблагоприятном инциденте или выдал потенциально опасный результат, первоочередная задача остаётся прежней — безопасность пациента.

Но затем необходимо сообщить об инциденте по установленной процедуре и, если возможно, указать название и версию использованной системы.

Важно также сохранить результаты работы программы и журналы событий.

Причина выходит далеко за пределы одного клинического случая.

Неожиданный ответ алгоритма может быть не случайной ошибкой, а признаком более широкой проблемы системы. Тогда информация об одном пациенте способна привести к аудиту, ограничению использования технологии или другим мерам, защищающим множество следующих пациентов.

Именно поэтому GMC отдельно указывает на обязанность сообщать об инцидентах с медицинскими устройствами, включая программное обеспечение, диагностические и цифровые инструменты.

Главный вопрос уже не «использовать ли врачам ИИ»

Статья BMJ предлагает избегать двух крайностей: принимать каждую новую систему ИИ без критики и принципиально отказываться от искусственного интеллекта.

Это важное различие.

По мере распространения технологии вопрос постепенно меняется. Вместо «можно ли врачу пользоваться ИИ?» всё чаще приходится спрашивать: какой именно системой, для какой задачи, на основании каких данных, с какой проверкой и кто способен объяснить принятое решение?

Именно здесь проходит граница между автоматизацией и передачей ответственности.

ИИ может анализировать информацию, замечать закономерности и выдавать рекомендации. Но клиническое решение существует не в вакууме: оно касается конкретного человека, его рисков, предпочтений и обстоятельств.

Поэтому пока медицина становится технологичнее, требования к человеческому суждению не исчезают.

В определённом смысле они становятся выше.