ВОЗ представила принципы регулирования ИИ в здравоохранении

Всемирная организация здравоохранения (ВОЗ) выпустила новую публикацию, в которой излагаются основные принципы регулирования технологий искусственного интеллекта (ИИ) в здравоохранении. В опубликованном документе подчеркивается важность экспертизы безопасности и эффективности систем на основе ИИ, своевременного обеспечения доступности соответствующих систем для нуждающихся в них людей и содействия диалогу между заинтересованными сторонами, включая разработчиков, органы регулирования, производителей, представителей сферы здравоохранения и пациентов.

Благодаря накоплению больших массивов медицинских данных и быстрому развитию аналитических методов на основе машинного обучения, логических и статистических моделей средства ИИ могут коренным образом изменить ситуацию в секторе здравоохранения. ВОЗ признает, что ИИ может способствовать улучшению показателей здоровья населения, повышая качество клинических испытаний; позволяя более точно выбирать методы диагностики и лечения заболеваний, тактику самопомощи и индивидуальной помощи; и дополняя знания, умения и навыки профессиональных медицинских работников. В частности, технологии ИИ могут быть полезны в условиях нехватки медицинских специалистов, помогая интерпретировать результаты иридодиагностики и рентгенологических исследований и выполнять многие другие задачи.

Вместе с тем процесс освоения технологий искусственного интеллекта, в том числе больших языковых моделей, происходит стремительно, иногда без досконального понимания механизмов их работы, что может приносить как пользу, так и вред конечным пользователям, включая медицинских специалистов и пациентов. При работе с медицинскими данными системы ИИ могут задействовать чувствительную личную информацию, конфиденциальность и целостность которой должна быть защищена при помощи надежных правовых и нормативных механизмов. В публикации ВОЗ наметила шесть направлений регулирования создания и функционирования таких механизмов:

1. Важное значение для укрепления доверия к новым технологиям имеют открытость данных и ведение документации, в том числе документальная регистрация всего жизненного цикла решений и отслеживание процессов их разработки.  

2. Необходимо комплексно решать вопросы, касающиеся целевого назначения технологий, непрерывного обучения, вмешательства человека, моделей обучения и угроз кибербезопасности, на основе как можно более простых моделей.

3. Обеспечению безопасности и упрощению регулирования способствуют внешняя валидация данных и четкое определение целевого назначения технологий ИИ.

4. Чтобы избежать распространения систематических погрешностей и ошибок, необходим порядок контроля качества данных, в том числе предусматривающий тщательную проверку систем перед их выпуском.

5. Для конфиденциальности и защиты данных нужно решать проблемы, связанные с применением наиболее важных комплексных режимов регулирования: четко определять пределы действия их юрисдикции и устанавливаемые ими требования к получению согласий на обработку данных.

6. Укрепление сотрудничества между регулирующими органами, пациентами, медицинскими специалистами, представителями промышленности и партнерами из числа госструктур помогает обеспечить соответствие продуктов и услуг нормативным требованиям на протяжении их жизненного цикла.

В докладе также отмечается, что функционирование систем ИИ зависит не только от реализованного в них кода, но и от данных, которые используются в ходе обучения таких систем и накапливаются, например, в процессе работы медучреждений и взаимодействия с пользователями. Чем качественнее регулирование, тем меньше риск того, что системы ИИ будут увеличивать отклонения, присутствующие в тренировочных данных.