Google начала удаление некорректных медицинских отчетов из сервиса AI Overviews, реагируя на результаты расследования журналистов, в ходе которого были выявлены многочисленные ошибки в данных, касающихся печеночных тестов. Выяснилось, что искусственный интеллект компании предоставлял пользователям неполные и потенциально опасные сведения, которые могли исказить представление пациентов о собственном состоянии здоровья.
Об этом сообщает ProIT
Неточности в медицинских AI-сводках: что выявили эксперты
В частности, AI Overviews демонстрировал необработанные таблицы результатов без должного контекста, не учитывая возраст, пол или этническую принадлежность пациентов. Такие недостатки, по мнению специалистов, могут привести к тому, что люди с серьезными заболеваниями ошибочно будут считать себя здоровыми и, соответственно, игнорировать необходимость медицинской помощи.
«Эксперты предупредили, что это могло заставить людей с серьезными заболеваниями считать себя здоровыми и пропустить необходимое лечение».
Реакция Google и дальнейшие шаги
После выявления проблемы Google уже отключила некоторые сводки по печеночным тестам, однако часть потенциально опасных ответов остается доступной пользователям. Причиной ошибок является то, что искусственный интеллект обобщает информацию из популярных источников и подает ее с авторитетным тоном, даже если эти данные не являются точными.
Известно, что ранее AI Overviews уже допускал ошибки, среди которых советы использовать клей для пиццы или даже потреблять камни. Представители Google подчеркивают, что компания продолжает совершенствовать качество AI-сводок и рекомендует обращаться к квалифицированным медицинским специалистам за достоверной информацией.
