Искусственный интеллект (ИИ) все глубже проникает в сферу здравоохранения, однако медики предупреждают об ограничениях его использования, особенно в отношении чатботов для пациентов. Врачи признают, что ИИ может улучшить определенные процессы, но подчеркивают необходимость осторожности при применении таких решений в медицинской практике.
Об этом сообщает ProIT
Опасности советов от ИИ и проблемы конфиденциальности
Опытные специалисты обращают внимание на случаи, когда пациенты приносили распечатки из диалогов ChatGPT, содержащие недостоверные медицинские советы. Так, хирург и лидер в области ИИ в медицине д-р Сина Бари рассказал о пациенте, которому ChatGPT сообщил о «45% вероятности тромбоэмболии легочной артерии» при приеме определенного препарата. Позже выяснилось, что эта цифра касалась отдельной группы больных туберкулезом и не имела отношения к ситуации пациента.
«Недавно у меня был пациент, и когда я посоветовал ему лекарства, он принес распечатку диалога с ChatGPT, в которой утверждалось, что у этого препарата 45% вероятность тромбоэмболии легочной артерии», — отметил д-р Бари.
Несмотря на такие инциденты, запуск специализированного ChatGPT Health вызвал у врача не столько беспокойство, сколько оптимизм. Новый сервис позволит пользователям приватно обсуждать вопросы здоровья, без использования их сообщений для обучения модели, а также даст возможность загружать медицинские данные и синхронизировать их с популярными приложениями для контроля здоровья. Такие возможности, однако, вызывают вопросы о безопасности персональных данных. Эксперты предупреждают, что передача медицинской информации от организаций, соблюдающих стандарт HIPAA, к сторонним платформам может подвергать пользователей рискам утечки данных.
По словам Итая Шварца, соучредителя компании по предотвращению утечек данных MIND, непонятно, как отреагируют регуляторы на передачу конфиденциальной медицинской информации несертифицированным сервисам.
Потенциал автоматизации и эффективность для медицинских работников
Спрос на консультации ИИ уже огромен: более 230 миллионов пользователей еженедельно обращаются к ChatGPT за советами по здоровью. В то же время специалисты отрасли признают, что чатботы часто ошибаются, особенно с «галлюцинациями» — вымышленными или недостоверными ответами.
Д-р Нигам Шах из Стэнфорда подчеркивает, что нехватка доступа к врачам в США сейчас является более острой проблемой, чем вероятность получения ложного совета от ИИ. Встреча с семейным врачом может откладываться на несколько месяцев, и пациенты вынуждены искать альтернативы. Д-р Шах считает, что внедрение ИИ должно происходить прежде всего на стороне медицинских учреждений — для автоматизации рутинных задач и снижения административной нагрузки на врачей. По данным медицинских журналов, административная работа занимает почти половину времени семейных врачей, что снижает количество принятых пациентов.
В Стэнфорде команда д-ра Шаха разрабатывает ChatEHR — программу для интеграции с электронными медицинскими записями, которая упрощает доступ к важной информации для врача. Тестировщики ChatEHR отмечают, что это решение позволяет сократить время на поиск необходимых данных, и врачи могут больше внимания уделять общению с пациентами.
Компания Anthropic также анонсировала на этой неделе продукт Claude for Healthcare, который поможет врачам и страховым компаниям автоматизировать рутинные операции, в том числе обработку запросов на получение предварительных разрешений от страховых фирм.
Однако с ростом влияния ИИ в медицине сохраняется определенное напряжение между стремлением врачей защитить пациентов и коммерческими интересами технологических компаний. Как подчеркивает д-р Бари, пациенты ожидают от медиков осторожного и критического подхода, что должно оставаться приоритетом при внедрении новейших решений в сфере здравоохранения.
