Международная рабочая группа, в которую входил биоэтик из Медицинского центра Рочестерского университета, выпустила предупреждение о потенциальных рисках использования искусственного интеллекта (ИИ) в медицинской практике. Несмотря на растущее применение технологий ИИ для улучшения диагностики, лечения заболеваний и оптимизации процессов скрининга, эксперты подчеркивают необходимость тщательного контроля за разработкой, тестированием и внедрением таких систем.
Рабочая группа проанализировала текущие тенденции применения систем искусственного интеллекта в медицине, включая диагностические алгоритмы, системы поддержки принятия клинических решений и инструменты оптимизации скрининга пациентов. Особое внимание было уделено этическим аспектам внедрения ИИ в клиническую практику и потенциальным последствиям для равенства в доступе к медицинской помощи.
Эксперты предупреждают, что медицинские устройства на базе ИИ могут потенциально нанести вред пациентам и усугубить неравенство в сфере здравоохранения, если не будут должным образом спроектированы, протестированы и использованы. Это особенно актуально в контексте стремительного роста популярности таких систем как ChatGPT и аналогичных инструментов в клинической практике.
- Риск усиления существующих диспропорций в здравоохранении
- Возможное смещение алгоритмов из-за нерепрезентативных обучающих данных
- Недостаточная прозрачность процесса принятия решений системами ИИ
- Размытие ответственности при принятии клинических решений
Рабочая группа призывает к созданию структурированного подхода к интеграции ИИ в медицину, который сохраняет человека (медицинского специалиста) в контуре принятия решений. Необходимы четкие этические рамки и регуляторные механизмы, обеспечивающие безопасность пациентов и справедливый доступ к преимуществам, которые предлагают новые технологии. Авторы подчеркивают, что технологии ИИ должны дополнять работу медицинских специалистов, а не заменять человеческое суждение в критических аспектах оказания медицинской помощи.