Всемирная организация здравоохранения (ВОЗ) выпустила новое руководство по этике и управлению большими мультимодальными моделями (БММ) – разновидностью быстро развивающейся технологии генеративного искусственного интеллекта (ИИ), нашедшей широкое применение в медицине.
В руководстве изложены более 40 рекомендаций для рассмотрения правительствами, технологическими компаниями и поставщиками медицинских услуг с целью обеспечения надлежащего использования БММ для укрепления и защиты здоровья населения.
БММ могут принимать один или несколько типов входных данных, таких как текст, видео и изображения, и генерировать выходные данные разного типа. Они уникальны тем, что имитируют общение с живым человеком и способны выполнять задачи, для которых не были запрограммированы изначально. БММ вошли в повседневную человеческую жизнь быстрее, чем любое другое потребительское приложение в истории.
«Технологии генеративного ИИ обладают большим потенциалом для улучшения услуг здравоохранения, но это произойдет только в том случае, если те, кто разрабатывает, регулирует и использует эти технологии, полностью учитывают связанные с ними риски, – сказал доктор Джереми Фаррар, главный научный сотрудник ВОЗ. – Нам необходима прозрачная информация и ясная политика для управления проектированием, разработкой и использованием БММ для достижения лучших результатов в здравоохранении».
Потенциальные преимущества и риски
Новое руководство ВОЗ описывает пять основных областей применения БMM в здравоохранении:
Диагностика и клинический уход – например, ответы на письменные запросы пациентов;
Изучение симптомов и моделей лечения;
Канцелярские и административные задачи – например, документирование визитов пациентов и заполнение электронных медицинских карт;
Медицинское образование, включая организацию виртуальных встреч с пациентами;
Научные исследования и разработка лекарств, в том числе путем поиска новых химических соединений.
В современной практике уже подтвержден и задокументирован риск выработки искусственным интеллектом ложных, неточных или неполных медицинских показаний. Кроме того, БММ могут получить для обработки данные низкого качества или предвзятые характеристики, базирующиеся на принадлежности пациента к определенной расе, этнической группе, полу или возрасту.
Читайте также:
Эксперты ООН: искусственный интеллект нужно регулировать, не препятствуя инновациям
Основные рекомендации
Новое руководство Всемирной организации здравоохранения содержит рекомендации для правительств, которые, как отмечают в ВОЗ, несут основную ответственность за установление стандартов для разработки и внедрения БММ, а также их интеграции и использования.
В частности, ВОЗ советует правительствам предоставлять некоммерческую или государственную инфраструктуру, включая вычислительные мощности и базы данных, для разработчиков ИИ при условии соблюдения ими этических принципов; использовать законы, политику и нормативные акты для обеспечения того, чтобы БММ, используемые в здравоохранении и медицине, соответствовали этическим обязательствам и стандартам в области прав человека. Кроме того, правительствам рекомендовано создать регулирующий орган для оценки и утверждения БММ, предназначенных для использования в здравоохранении или медицине.
https://news.un.org/ru/story/2024/01/1448712
