Корпорація Google ухвалила рішення видалити частину своїх штучно-інтелектуальних резюме щодо здоров’я після того, як виявилося, що вони містять хибну та оманливу інформацію, яка могла становити загрозу для користувачів. Причиною стала низка випадків, коли такі підсумки вводили людей в оману щодо результатів медичних тестів, зокрема функціональних аналізів печінки.
Про це розповідає ProIT
Хибні дані у відповідях Google AI Overviews
AI Overviews — це функція Google, яка за допомогою генеративного штучного інтелекту формує короткі підсумки по суті запиту користувача. Однак під час розслідування з’ясувалося, що деякі з таких резюме містили неправильні відомості про межі нормальних показників печінкових тестів, не враховуючи важливі фактори — країну, стать, вік та етнічну приналежність пацієнта. Внаслідок цього люди з тяжкими захворюваннями печінки могли отримати хибне уявлення про стан свого здоров’я і не звертатися до лікаря для подальшого обстеження.
“Аналіз функцій печінки або LFT — це сукупність різних аналізів крові. Тлумачення результатів і подальші дії набагато складніші, ніж просто порівняння набору чисел. Але AI Overviews подають список тестів жирним шрифтом, що може призвести до того, що читачі не помітять, що ці значення можуть не відповідати їхньому конкретному тесту. Крім того, AI Overviews не попереджають, що навіть при нормальних результатах людина може мати серйозне захворювання печінки та потребувати подальшої медичної допомоги. Така хибна впевненість може бути дуже шкідливою”, — наголосила Ванесса Хебдіч, директорка з комунікацій і політики Британського фонду печінки.
Google вже видалив AI Overviews для запитів «what is the normal range for liver blood tests» та «what is the normal range for liver function tests». Проте експерти застерігають, що зміна формулювання запитання може знову викликати появу ризикованих AI-резюме.
Реакція експертів та подальші дії Google
У компанії підкреслили, що не коментують окремі випадки видалення інформації з пошуку, але підтвердили: у разі виявлення недостатнього контексту в AI Overviews проводяться загальні поліпшення, а також вживаються заходи відповідно до політики Google.
Ванесса Хебдіч зазначила, що хоча видалення небезпечних підсумків — це позитивний крок, проблема неточних AI-резюме у сфері охорони здоров’я залишається невирішеною. Сью Фаррінгтон, голова форуму Patient Information Forum, додала, що це лише перший крок до відновлення довіри до результатів пошуку Google з медичних питань, адже прикладів помилкової інформації ще занадто багато.
Експерти наголошують, що мільйони людей по всьому світу і так стикаються зі складнощами у доступі до достовірної медичної інформації, тому пошукові системи повинні спрямовувати користувачів до перевірених джерел та рекомендацій від авторитетних організацій.
Розслідування також виявило, що AI Overviews продовжують з’являтися за іншими запитами, зокрема стосовно онкологічних захворювань та психічного здоров’я, і деякі з цих відповідей експерти назвали «повністю неправильними» та «дійсно небезпечними». Google відповів, що залишає такі підсумки лише у випадках, коли вони базуються на даних авторитетних джерел і містять попередження про необхідність звернення до фахівця.
Внутрішня команда клініцистів компанії також проаналізувала надані приклади й дійшла висновку, що в багатьох випадках інформація була коректною та підтверджувалася якісними вебресурсами. Водночас незалежні аналітики підкреслюють, що Google ще має вдосконалити свої інструменти, щоб уникнути поширення шкідливої дезінформації у сфері охорони здоров’я.