Новое исследование, результаты которого опубликованы в журнале Nature Medicine, подтвердило, что чат-бот ChatGPT Health от OpenAI не всегда может вовремя распознать опасные для жизни состояния, требующие срочной медицинской помощи.
Об этом сообщает ProIT
Результаты тестирования ChatGPT Health
Группа ученых под руководством Ашвина Рамасвами подготовила 60 типичных сценариев с разнообразными симптомами — от легких до тяжелых. Каждый сценарий был оценен профессиональными врачами в соответствии с клиническими протоколами, а затем их выводы были сопоставлены с рекомендациями, которые давала система искусственного интеллекта.
Выяснилось, что в 51,6% эпизодов, когда пациентам была необходима немедленная госпитализация, ChatGPT Health рекомендовал оставаться дома или обратиться к врачу позже. Лучше всего бот справлялся с простыми экстренными ситуациями, однако часто не распознавал сложные симптомы, которые могли быстро перерасти в критическое состояние.
Предостережения и перспективы развития
В то же время в безопасных случаях, где не было необходимости в срочной помощи, ChatGPT Health в 64,8% ситуаций ошибочно советовал немедленно обратиться к медикам. Представители OpenAI подчеркнули, что результаты исследования не отражают в полной мере реальные условия использования сервиса, а сама модель постоянно совершенствуется.
«В 51,6% случаев, когда пациентов нужно было срочно госпитализировать, бот советовал оставаться дома или обратиться к врачу позже».