Отчет реестра VA выявил 367 систем ИИ, работающих в здравоохранении, обработке льгот и предоставлении услуг

Департамент по делам ветеранов США (VA) обнародовал данные о 367 сценариях использования искусственного интеллекта, действующих в агентстве, в том числе 215 систем, отнесенных к категориям «высокого воздействия» и поддерживающих здравоохранение, обработку льгот, управление записями, коммуникации и внутренние операции.

Недавно опубликованный реестр ИИ VA за 2025 год каталогизирует случаи использования ИИ по всему департаменту — от клинических инструментов, применяемых при уходе за пациентами, до систем, помогающих обрабатывать льготы, автоматизировать управление записями и поддерживать службу поддержки пользователей.

Примеры систем ИИ

Среди идентифицированных систем — Ambient AI Scribe, инструмент для клинической документации, используемый во время медицинских приемов. По данным VA, технология прослушивает беседы между врачом и пациентом и генерирует клинические заметки, снижая административную нагрузку и позволяя медицинским работникам больше времени уделять ветеранам.

В раскрытии VA также отмечено широкое использование коммерческих продуктов на базе ИИ более чем 50 000 сотрудников по всему департаменту, включая Microsoft Copilot Chat, Microsoft Teams Premium, Grammarly, GitHub Copilot и другие платформы для вспомогательных задач, таких как транскрипция встреч, составление документов, суммирование отчетов, поиск информации и разработка программного обеспечения.

Наибольшее число сценариев использования относится к области здравоохранения и медицины, за ними следуют системы, поддерживающие администрирование льгот, информационные технологии, предоставление услуг, финансовый менеджмент и административные операции.

Функции и влияние систем

Приложения, перечисленные в реестре, помогают клиницистам с анализом изображений и диагностическими рабочими процессами, определяют риски заболеваний, суммируют записи, анализируют обратную связь, обрабатывают формы и предоставляют информацию через чат-боты. VA также классифицирует чат-бот на VA.gov как случай использования с высоким уровнем воздействия. VA утверждает, что этот чат-бот помогает ветеранам находить информацию, выполнять задачи и получать доступ к службам поддержки через самообслуживание.

Еще один случай высокого воздействия — TERA Memorandum Automation, который помогает обработчикам претензий заполнять меморандумы о токсичном воздействии, предварительно заполняя ответы на основе информации, уже содержащейся в записях ветеранов. VA сообщает, что система достигла точности 98,12% и использовалась для обработки более 181 000 форм, с экономией примерно 54 581 рабочих часов с момента развертывания.

«VA использует искусственный интеллект, чтобы улучшить доступ ветеранов к медицинской помощи, льготам и услугам, а также помочь сотрудникам работать более эффективно и результативно», — заявил пресс-секретарь VA Куин Слейвен в заявлении для Military Times. По его словам, реестр отражает «устойчивый рост, усиленное управление и расширяющееся реальное воздействие, особенно в здравоохранении, обработке льгот и повышении операционной эффективности».

Для систем с текущим развертыванием и высоким уровнем воздействия реестр отслеживает, провели ли агентства предварительное тестирование перед развертыванием, оценки воздействия, независимые проверки, процессы мониторинга, обучение операторов, механизмы отказоустойчивости и процедуры апелляции. Отдельные записи также выявляют потенциальные риски, связанные с конкретными приложениями. Для нескольких систем здравоохранения в описаниях отмечается, что неточные результаты могут привести к последующим клиническим или операционным последствиям, если они не будут обнаружены и исправлены, при этом указывается, что поставщики проходят обучение и находятся под надзором в целях снижения этих рисков.

Оценка рисков и надзор

VA заявляет, что всех систем с высоким уровнем воздействия требуют прохождения оценки воздействия ИИ и плана снижения рисков перед внедрением. «Развернутые случаи использования ИИ с высоким уровнем воздействия постоянно контролируются», — сказал Слейвен. «И любой случай использования, который не удается привести в соответствие с требованиями, выводится из эксплуатации».

Некоторые системы ИИ, ранее о которых сообщал VA, сейчас классифицированы как выведенные из эксплуатации. Среди них — приложения для здравоохранения, обучения и операций. Реестр не указывает причины деактивации отдельных систем.

Уровень детализации, предоставленный в реестре, варьируется от одной системы к другой. Некоторые записи содержат измеримые результаты работы, результаты тестирования или операционные метрики. Другие содержат лишь базовые описания предполагаемых функций и требований к управлению.

Рекомендации GAO

Счетная палата США (GAO), разработавшая Рамочную модель подотчетности за ИИ для федеральных агентств, отмечает, что действенный надзор требует документации, которую можно проверить независимо. «Рамочная модель GAO подчеркивает важность документации и бумажного следа, за которым независимая третья сторона может проследить», — заявили представители GAO изданию Military Times. «Поскольку входные данные и операции ИИ не всегда видимы, основной принцип надзора — „Покажи мне, не просто говори“».

GAO заявила, что организации должны уметь продемонстрировать, кто отвечает за системы ИИ, как эти системы работают, опираются ли они на качественные и надежные данные и как выявляются и устраняются их ограничения. Агентство также подчеркнуло важность мониторинга метрик, таких как точность и частота ошибок, и установления порогов, которые помогают определить, когда требуется корректирующее действие или вывод системы из эксплуатации.

Крис Мацинкович, заместитель директора Национальной службы ветеранов организации Veterans of Foreign Wars, сказал, что обеспокоенность организации сосредоточена не столько на том, следует ли VA использовать ИИ, сколько на том, как эти системы управляются после развертывания. «ИИ должен быть инструментом, а не сотрудником», — сказал Мацинкович изданию Military Times.

Он отметил, что человеческая проверка остается необходимой, особенно когда системы участвуют в процессах, затрагивающих ветеранов. «Нам нужно убедиться, что после этого за всем следят человеческие глаза», — сказал он. Мацинкович также подчеркнул важность продолжительной оценки после развертывания. «Нам нужны гарантии от VA, что они будут возвращаться после развертывания этих агентов ИИ, чтобы убедиться, что они по-прежнему точны через месяц, шесть месяцев, год», — добавил он.

Представители GAO посоветовали организациям устанавливать метрики, которые помогут определить, когда требуются корректирующие действия и когда систему ИИ следует вывести из эксплуатации, поскольку она больше не выполняет возложенные на нее задачи. По мере того как VA расширяет использование ИИ в здравоохранении, обработке льгот и других операциях, представители GAO отметили, что действенный надзор зависит от способности агентств демонстрировать с помощью документации и измеримых показателей эффективности, что системы продолжают работать как задумано.