ИИ-писари в медицине: как скрытые ошибки попадают в истории болезни

Медицинский ИИ научился экономить минуты, но его ошибки могут незаметно становиться частью истории болезни

ИИ-писарь превращается из диктофона в автора медицинской карты

Одно из наиболее быстро распространяющихся применений искусственного интеллекта в медицине связано не с постановкой диагноза или выбором терапии, а с документацией. Так называемые ИИ-писари, или системы фоновой голосовой документации, слушают разговор врача и пациента, преобразуют речь в текст, выделяют клинически значимую информацию и формируют резюме консультации, письма и записи для электронной медицинской карты.

Экономическая логика понятна. Врач тратит значительную часть рабочего времени не непосредственно на пациента, а на документацию. Если эту работу частично передать машине, можно вернуть время клиническому общению и уменьшить административную нагрузку.

Именно такой сценарий активно рассматривает NHS England. В январе 2026 года организация объявила национальный реестр поставщиков технологий фоновой голосовой документации и сообщила, что такие системы потенциально позволяют экономить около двух-трёх минут на консультации. NHS связывает их внедрение с возможностью увеличить время непосредственного общения врача с пациентом и пропускную способность медицинских служб.

Но между хорошо распознанной речью и достоверной медицинской картой существует принципиальная разница.

Современный ИИ-писарь не обязательно дословно перепечатывает разговор. Система может преобразовывать его в структурированный клинический текст: выбирать существенное, сокращать, объединять сведения и формулировать выводы. Поэтому ошибка может возникнуть не только тогда, когда программа неправильно «услышала» слово. Она может появиться на этапе интерпретации и составления итогового документа.

Одного потерянного слова оказалось достаточно, чтобы изменить диагноз

Healthwatch England — организация, представляющая интересы пациентов в системе здравоохранения Англии, — начала изучать отношение людей к ИИ-писарям после сообщений пациентов об ошибках в медицинских записях.

Один из наиболее показательных эпизодов связан с результатом обследования на демиелинизацию — повреждение миелиновой оболочки нервных волокон, которое встречается, в частности, при рассеянном склерозе. В сформированной системой записи появился вывод о наличии демиелинизации, хотя исходный результат указывал на её отсутствие. Смысл медицинской информации оказался фактически перевёрнут.

Ошибку обнаружила сама пациентка, работавшая в системе здравоохранения.

В других сообщениях фигурировали неправильно указанные лекарства и пропущенные рекомендации. Лондонский врач общей практики Шиер Зисер Давуд ранее описывала случай, когда ИИ-писарь включил в запись рекомендацию продолжать приём Prozac — торговой марки флуоксетина, — хотя препарат во время консультации не обсуждался и врач его не назначала.

Healthwatch также получил сообщения о путанице между лекарствами с похожими названиями и об исчезновении из итоговых документов указаний о дальнейшем лечении, включая необходимость получить повторный рецепт.

Каждая такая ошибка сама по себе может выглядеть небольшой. Но медицинская карта — не стенограмма, которую читают один раз и забывают. Она становится информационной основой следующих консультаций, назначений, направлений и решений других специалистов.

Поэтому неверное предложение потенциально получает значительно более долгую жизнь, чем первоначальная ошибка программы.

Главная опасность — не абсурдная ошибка, а правдоподобная

У подобных систем есть особенность, существенно отличающая их от традиционных программ: ошибочный результат может выглядеть совершенно нормально.

Если компьютер выдаёт бессмысленный набор символов, человек сразу понимает, что произошёл сбой. Гораздо сложнее заметить фразу «продолжить приём препарата» или профессионально сформулированный диагноз, если предложение грамматически безупречно и соответствует стилю медицинского документа.

Большая языковая модель оптимизирована для создания связного текста, но связность не гарантирует фактической точности. Система может добавить отсутствующую информацию — такое поведение обычно называют галлюцинацией модели, — перепутать похожие понятия или удалить деталь, которая радикально меняет смысл.

Исследования подтверждают, что эта проблема не ограничивается отдельными историями пациентов. В работе 2026 года в npj Digital Medicine исследователи проверяли ИИ-систему на 100 смоделированных историях лекарственной терапии, содержащих 2160 отдельных элементов информации. Общая точность достигла 98%, что выглядит очень высоким показателем.

Однако оставшиеся 2% означали 46 ошибок. Причём 36 из них представляли собой не просто пропуски, а внесение неправильной информации: ошибочные названия лекарств, дозировки, лекарственные формы, показания и даже сведения об аллергии. Например, одна комбинация препаратов была записана как другая, а дозировка 145 мг превращалась в 160 мг.

Именно здесь процент точности может вводить в заблуждение. Для обычной административной системы 98% выглядят превосходно. В медицинской документации значение ошибки зависит не только от её частоты, но и от того, какое поле оказалось неправильным.

Ошибки медицинской транскрипции существовали задолго до генеративного ИИ

Было бы неверно сравнивать искусственный интеллект с идеальным врачом, который никогда не ошибается.

Ошибки медицинской документации существовали задолго до появления больших языковых моделей. Исследование, опубликованное в JAMA Network Open в 2018 году, проанализировало 217 медицинских документов, созданных с помощью технологии распознавания речи. В первоначально сформированном системой тексте исследователи обнаружили в среднем 7,4 ошибки на 100 слов.

После проверки медицинским транскрипционистом показатель снижался до 0,4 ошибки на 100 слов, а в подписанной врачом версии — до 0,3.

Этот результат важен для сегодняшней дискуссии по двум причинам.

Во-первых, автоматическая документация не обязательно должна быть безошибочной, чтобы приносить пользу: человеческий контроль способен существенно повышать её надёжность.

Во-вторых, именно здесь возникает главный вопрос современной автоматизации. Если безопасность обеспечивается тем, что человек должен внимательно проверить созданный машиной документ, необходимо учитывать стоимость этой проверки — не только финансовую, но и когнитивную.

Экономия времени может исчезнуть на этапе проверки

Аргумент «последнее слово остаётся за врачом» выглядит убедительно только до тех пор, пока проверка считается практически бесплатной.

Она не бесплатна.

Чтобы обнаружить неправильно указанное лекарство, отрицание, превратившееся в утверждение, или пропущенную рекомендацию, врач должен не просто просмотреть красиво оформленный текст. Ему необходимо сопоставить его с собственным воспоминанием о консультации, результатами обследований и другими данными пациента.

Возникает своеобразный парадокс автоматизации. Чем убедительнее машина пишет, тем легче человеку довериться результату. Но чем серьёзнее возможные последствия ошибки, тем внимательнее этот результат необходимо проверять.

NHS England прямо предусматривает клиническое управление рисками при внедрении цифровых систем. Стандарт DCB0129 устанавливает требования к управлению клиническими рисками для производителей медицинских информационных систем, а DCB0160 — для организаций здравоохранения, которые их внедряют и используют. В 2026 году NHS England начала национальный пересмотр этих стандартов, отдельно указав, что искусственный интеллект, машинное обучение и технологии фоновой голосовой документации создают новые профили риска, для которых существующие механизмы требуют адаптации.

Поэтому британская ситуация точнее описывается не как отсутствие любых правил, а как несоответствие быстро меняющейся технологии сложившейся системе контроля.

Дополнительная сложность связана с регуляторной классификацией. Не каждый ИИ-писарь автоматически считается медицинским изделием. Это зависит от заявленного назначения программного обеспечения и от того, выполняет ли оно медицинскую функцию. На практике граница между «просто документацией» и системой, способной повлиять на клиническое решение, становится всё менее очевидной, когда созданный ею текст непосредственно попадает в медицинскую карту.

Великобритания показывает глобальную проблему медицинской автоматизации

Английский опыт важен далеко за пределами NHS. ИИ-писари внедряются в разных системах здравоохранения именно потому, что решают реальную проблему: врачи перегружены документацией.

Отказываться от технологии только потому, что она допускает ошибки, было бы столь же необоснованно, как считать её безопасной только потому, что она экономит несколько минут.

Главная задача — правильно выбрать единицу измерения эффективности.

Если оценивать ИИ-писаря только количеством сэкономленного времени, система может выглядеть чрезвычайно привлекательной. Если учитывать время проверки, исправления записей, последующие клинические последствия ошибок и дополнительную нагрузку на пациентов, результат может оказаться другим.

При этом пока нет достаточных оснований утверждать, что ИИ-писари в целом создают больше ошибок, чем врачи. Healthwatch England прямо указывает: неизвестно, становится ли медицинская документация с их использованием менее или более точной по сравнению с обычными врачебными записями.

Это принципиальное ограничение имеющихся данных. Отдельные серьёзные ошибки показывают существование риска, но сами по себе не позволяют определить его частоту во всей системе здравоохранения.

Безопасность ИИ придётся измерять не только точностью алгоритма

Для пациентов практическое следствие уже существует: автоматически созданная медицинская запись не должна восприниматься как безошибочная только потому, что выглядит профессионально. Возможность увидеть собственные медицинские документы и добиться исправления фактической ошибки становится дополнительным элементом безопасности.

Healthwatch обнаружил заметный запрос именно на такой контроль. В национально репрезентативном опросе YouGov среди 4039 взрослых 69% респондентов сообщили, что чувствовали бы себя комфортнее при использовании ИИ-писарей, если бы медицинский специалист гарантированно проверял точность созданного ими текста.

Для врачей проблема сложнее. Хорошая система действительно может избавить от значительной части ручной документации. Плохая организация процесса способна лишь заменить написание медицинской записи её непрерывной корректурой.

Для медицинских организаций поэтому недостаточно измерить, сколько минут экономит технология. Необходимо отслеживать частоту и тип ошибок, время, требуемое на проверку, исправления после подписания документа, клинически значимые неточности и ситуации, когда ошибку обнаруживает пациент, а не медицинский работник.

Наконец, потребуется определить приемлемый уровень риска. Формула «человек всегда проверяет результат» может быть частью системы безопасности, но не должна становиться способом переложить ответственность за недостатки технологии на перегруженного врача.