Блог

Aug 04, 2023

Отсутствие доверия замедляет революцию искусственного интеллекта в медицинских учреждениях: отчет GE Healthcare

Присоединяйтесь к топ-менеджерам в Сан-Франциско 11–12 июля и узнайте, как ведут себя лидеры.

Присоединяйтесь к топ-менеджерам в Сан-Франциско 11–12 июля и узнайте, как лидеры интегрируют и оптимизируют инвестиции в искусственный интеллект для достижения успеха. Узнать больше

В то время, когда ИИ в моде, новое исследование GE Healthcare выявило значительный уровень недоверия и скептицизма в отношении его использования в медицинских учреждениях.

Исследование Reimagining Better Health, в котором приняли участие 5500 пациентов, защитников интересов пациентов и 2000 врачей, показало, что большинство врачей считают, что ИИ может изменить здравоохранение. В то же время многие считают, что технология еще не готова и по-прежнему страдает от таких препятствий, как предвзятость.

Результаты получены по мере того, как ряд гигантов здравоохранения продолжают изучать и экспериментировать с моделями искусственного интеллекта, включая генеративные технологии, такие как ChatGPT и диалоговый искусственный интеллект, для улучшения качества обслуживания пациентов и результатов, автоматизации задач и повышения производительности.

Сегодня, когда кто-то говорит об искусственном интеллекте, он упоминает, как эта технология революционизирует уход за пациентами, будь то открытие новых лекарств или предсказание наилучшего плана лечения для человека. В опросе GE Healthcare врачи отметили аналогичные преимущества: 61% заявили, что технология может помочь в принятии решений, 54% заявили, что она позволяет быстрее принимать медицинские меры, а 55% предположили, что она может помочь повысить эффективность работы.

Трансформация 2023

Присоединяйтесь к нам в Сан-Франциско 11–12 июля, где топ-менеджеры расскажут, как они интегрировали и оптимизировали инвестиции в искусственный интеллект для достижения успеха и избежания распространенных ошибок.

Возможности безграничны, но многие по-прежнему обеспокоены рисками, связанными с внедрением ИИ в эту область. В частности, 55% респондентов опроса заявили, что технология искусственного интеллекта еще не готова для медицинского использования, а 58% отметили, что не доверяют данным искусственного интеллекта. Среди врачей с опытом работы более 16 лет уровень скептицизма был еще выше: 67% не доверяли ИИ.

Клиницисты указали, что основная причина этого недоверия заключается в том, что алгоритмы могут давать несправедливые или дискриминационные результаты из-за различных факторов, таких как неполные данные обучения, ошибочные алгоритмы или неадекватные процессы оценки. Около 44% респондентов заявили, что технология подвержена встроенным предубеждениям.

Во-вторых, осведомленность врачей о применяемых технологиях зачастую не на должном уровне. Исследование показало, что только 55% опрошенных врачей считают, что они получили адекватную подготовку по использованию медицинских технологий.

Как отмечает технический директор GE Healthcare Таха Касс-Хаут, продуманный подход, основанный на данных, при котором прилагаются усилия для обеспечения качества и прозрачности данных, является ключом к укреплению доверия среди врачей, которые стоят на пороге технологии искусственного интеллекта.

«Мы уделяем особое внимание тому, откуда берутся наборы данных, и характеристикам выборки населения», — рассказал Касс-Хаут VentureBeat. «Мы также оцениваем алгоритмы, которые классифицируют и организуют данные, и учитываем саму формулировку ИИ и отзывы врачей при обновлении этих алгоритмов».

Чтобы сдвинуть дело с мертвой точки, сказал технический директор, компаниям следует проводить программы обучения/обучения, в которых врачи будут получать инструкции по всем аспектам искусственного интеллекта, начиная с того, как он работает, и заканчивая тем, как он может улучшить их работу.

«Как отрасль, нам необходимо добиться понимания клиницистами того, где и как его использовать и когда ему можно полностью доверять, а не полагаться на другие инструменты и человеческий опыт», — сказал Касс-Хаут. «Я называю это «взломом черного ящика ИИ», чтобы помочь врачам понять, что находится в модели ИИ».

Сюда входят данные, которые он содержит — возраст, пол, результаты лабораторных исследований, удаленный мониторинг, история болезни, генетический вариант или биомаркер, прогрессирование поражения на последующих изображениях — чтобы врачи могли лучше понять, что влияет на результаты ИИ.

«Прозрачность того, что влияет на модель и как ее можно корректировать с помощью последовательной обратной связи с течением времени, имеет решающее значение для укрепления доверия к технологии искусственного интеллекта среди врачей», — отметил он.

Поскольку системы здравоохранения во всем мире сталкиваются с огромным давлением, врачи выгорают и подумывают о выходе из отрасли. Фактически, по данным Всемирной организации здравоохранения, к 2030 году может возникнуть нехватка 10 миллионов медицинских работников, когда 1,4 миллиарда человек будут в возрасте 60 лет и более.