Как Регламент ЕС об искусственном интеллекте влияет на медицинские изделия

Регламент ЕС об искусственном интеллекте (AI Act) вводит унифицированную правовую базу для разработки, внедрения и использования ИИ в различных секторах, включая здравоохранение и медицинские изделия. Ниже приведены ключевые аспекты, в связи с которыми этот регламент влияет на отрасль медицинских изделий:

1. Классификация высокорисковых систем ИИ

В соответствии с Регламентом об ИИ Медицинские изделия с использованием ИИ классифицируются как высокорисковые системы из-за их потенциального воздействия на здоровье, безопасность и основные права человека. Попадание в класс высокорисковых систем влечет за собой строгие требования, включая:

• Необходимость проведения оценки рисков, связанных с продуктом.
• Необходимость обеспечения принципов прозрачности и подотчетности, изложенных в Регламенте.
• Соответствие стандарту ISO 14971 по управлению рисками для медицинских изделий.

2. Двойное соответствие

Медицинские изделия на основе ИИ должны одновременно соответствовать Регламенту по медицинским изделиям (MDR) или Регламенту по медицинским изделиям для in vitro диагностике (IVDR) и в то же время Регламенту об искусственном интеллекте. Это включает:

• Обеспечение управления данными и их отслеживаемости.
• Соблюдение требований постмаркетингового надзора для систем ИИ, интегрированных в изделия.

3. Требования к прозрачности и понятности

Регламент об искусстенном интеллекте требует:

• Технической документации для алгоритмов ИИ, обеспечивающих прозрачность принятия решений.
• Понятность результатов работы ИИ для пользователей, таких как медицинские специалисты, для обеспечения безопасного и осознанного использования.

4. Этические принципы при использовании ИИ

Для соответствия принципам Регламента об ИИ:

• Разработчики должны обеспечивать равноправие пользователей и защиту их конфиденциальности и безопасности при проектировании систем ИИ.
• Системы должны поддерживать возможность контроля со стороны человека, позволяя медицинским специалистам отменять решения ИИ при необходимости.

5. Поддержка инноваций

Регламент предполагает:

• Стимулирование использования виртуальных тестовых площадок для тестирования систем ИИ в контролируемых условиях.
• Меры, поддерживающие стартапы и малые и средние предприятия при разработке ИИ для медицинских приложений.

6. Роль нотифицированных организаций

Нотифицированные организации играют ключевую роль в оценке ИИ для медицинских изделий. Их обязанности включают:

• Оценку классификации рисков систем ИИ.
• Аудит соответствия как требованиям MDR/IVDR, так и Регламенту по ИИ.

7. Устранение рисков, связанных с ошибочными тенденциями

Системы ИИ в медицинских изделиях должны:

• Избегать ошибочных тенденций, которые могут привести к неправильному диагнозу или неравному доступу к медицинской помощи.
• Гарантировать, что обучающие датасеты являются репрезентативными и не содержат ошибочные тенденции.

8. Наказание за несоблюдение Регламента

Несоответствие Регламенту об искусственном интеллекте может привести к:

• Значительным штрафам (до 6% от общего годового оборота).
• Ограничениям доступа на рынок для несоответствующих медицинских продуктов.

Заключение

Регламент ЕС об искусственном интеллекте (AI Act) создает законодательную базу для обеспечения того, чтобы медицинские изделия, основанные на ИИ, были безопасными, надежными и соответствовали европейским ценностям. Хотя он вводит дополнительные требования к соблюдению нормативов, он также поддерживает инновации, способствуя конкурентоспособной среде для ИИ в здравоохранении. Производителям необходимо оперативно внедрить эти требования в свои стратегии разработки продуктов и нормативного соответствия.