ФГБНУ «Национальный НИИ общественного здоровья имени Н.А. Семашко»
Резолюция круглого стола по вопросам этики в сфере разработок, исследований иприменения систем искусственного интеллекта в здравоохранении.
17.09.2024
17 сентября 2024 г. в ФГБНУ «Национальный НИИ общественного здоровья имени Н.А. Семашко» состоялся Круглый стол по вопросам этики в сфере разработок, исследований и применения систем искусственного интеллекта в здравоохранении.
Организаторы:
• ФГБНУ «Национальный НИИ общественного здоровья имени Н.А. Семашко»,
• Межвузовский комитет по этике,
• Национальная комиссия по этике в сфере ИИ при Альянсе в сфере ИИ.
В заседании участвовали ведущие специалисты в области разработки и внедрения системискусственного интеллекта (систем ИИ) в здравоохранении и медицине, а также известныеэксперты в области биоэтики и этической экспертизы научных исследований.
Выступали:
с приветственным словом Александр Зудин, д.м.н., директор ФГБНУ«Национальный НИИ общественного здоровья имени Н.А. Семашко»;
с докладами:
• Регулирование применения систем искусственного интеллекта в здравоохранении(допуск в обращение и контроль применения), Борис Зингерман;
• Этические принципы применения ИИ (Кодекс этики в сфере искусственногоинтеллекта Альянса в сфере ИИ), Андрей Воробьев;
• Этические вопросы дистанционного взаимодействия врачей и пациентов наплатформах, использующих СИИ, Павел Воробьев;
• Применение СИИ в клинических исследованиях, Алексей Маликов, СергейТырановец;
• Взгляд пациентских организаций на применение и исследования СИИ в медицине издравоохранении, Юрий Жулев;
• Подходы к этической оценке рисков воздействий СИИ в сфере общественного здоровья и здравоохранения, Елена Вольская;
• Оценка рисков использования ИИ при оказании психотерапевтической и медико-психологической помощи, Наталия Семенова.
В заключении состоялись обмен мнениями и обсуждение (модератор - Ирина Рогова). Были подняты вопросы оценки рисков применения систем ИИ в здравоохранении, предложены подходы к оценке шкалы этических рисков при разработке и исследовании систем ИИ. Особое внимание уделили системам поддержки принятия решений пациентом, вопросы ответственного самолечения с использованием «виртуальных ассистентов», взаимодействия пациентов и врачей в условиях широкого внедрения систем ИИ, влияние этих систем на работу врачей. В сообщениях были показаны реалии восприятия пациентами новаторских инструментов в здравоохранении и отношения к ним. Затронуты были темы особенностей использования ИИ для пациентов и потребителей уязвимых групп, а также вопрос важности объективного информирования потребителей/пациентов о применяемых системах ИИ.
По результатам обсуждения участники Круглого стола пришли к следующему заключению:
Основная сфера применения этических принципов в медицине и здравоохранении заключается в усилиях по защите прав, здоровья и благополучия участников научных исследований с участием людей в качестве субъектов. В области разработки и исследований новых лекарственных средств и медицинских изделий сложился институт специализированных органов – независимых этических комитетов, представляющих интересы общества, которые оценивают пользу и риски участия людей в таких исследованиях.
Внедрение в медицинскую практику и в здравоохранение технологий, использующих системы искусственного интеллекта (ИИ), создало новые вызовы, связанные с возможным негативным воздействием систем ИИ на пациентов и на общество в целом. Медицинские системы ИИ могут регистрироваться Росздравнадзором РФ в качестве медицинских изделий, а могут использоваться как информационно-справочные системы, которые не подлежат регистрации. Важнейшим критерием одобрения клинических исследований систем ИИ – медицинских изделий, их допуска в обращение, а такжеширокого использования в медицинской практике и в здравоохранении является наличие и степень потенциального риска применения систем ИИ. Однако применяемая градация рисков не в полной мере соответствует многообразию и целевому назначению медицинских систем ИИ.
Осознавая важность развития ИИ для совершенствования системы здравоохранении, для развития медицины и для улучшения общественного здоровья, несмотря на различия в позициях и подходах, участники договорились о следующих позициях:
1. Применяемая сегодня классификация рисков не учитывает актуальных условий и особенностей разрабатываемых систем ИИ для медицины и здравоохранения. Участники приняли решение сформировать группу экспертов, которые разработают проект классификации рисков внедрения систем ИИ в здравоохранении и медицине для последующего обсуждения и доработки.
2. При проведении научных исследований системы ИИ выступают в качестве объектов исследования (как собственно мед.изделие, с помощью которого проводится диагностика либо терапия), или в качестве вспомогательной технологии (например, системы поддержки врачебных решений), или в качестве основной исследовательской технологии (системы, позволяющие получить определенные показатели при оценке других медицинских технологий); в каждом случае необходимо учитывать специфические влияния для безопасности участников исследования. Эксперты в области этической экспертизы и рабочая группа по здравоохранению в Национальной комиссии по этике в сфере ИИ договорились приступить к разработке данного вопроса и представить предложения на семинаре для членов ЛЭК, который состоится в ноябре 2024 г. в Национальном НИИ общественного здоровья им. Н.А.Семашко.
3. Эффективное информирование потребителей/пациентов о системах ИИ, внедряемых в практику здравоохранения, в том числе в качестве поддержки ответственного самолечения населения, является актуальным, важным и влияет на восприятие технологии пациентами/потребителями. В целях выработки предложений по вопросу информирования решено провести специальное обсуждение.
