Google розпочала видалення некоректних медичних звітів із сервісу AI Overviews, реагуючи на результати розслідування журналістів, у ході якого було виявлено численні помилки у даних, що стосуються печінкових тестів. Виявилося, що штучний інтелект компанії надавав користувачам неповні й потенційно небезпечні відомості, що могли спотворити уявлення пацієнтів про власний стан здоров’я.
Про це розповідає ProIT
Неточності у медичних AI-зведеннях: що виявили експерти
Зокрема, AI Overviews демонстрував необроблені таблиці результатів без належного контексту, не враховуючи вік, стать чи етнічну приналежність пацієнтів. Такі недоліки, на думку фахівців, можуть призвести до того, що люди з серйозними захворюваннями помилково вважатимуть себе здоровими, і, відповідно, ігноруватимуть необхідність медичної допомоги.
“Експерти попередили, що це могло змусити людей з серйозними захворюваннями вважати себе здоровими та пропустити необхідне лікування”.
Реакція Google та подальші кроки
Після виявлення проблеми Google вже вимкнула деякі зведення щодо печінкових тестів, однак частина потенційно небезпечних відповідей залишаються доступними користувачам. Причиною помилок є те, що штучний інтелект узагальнює інформацію з популярних джерел і подає її з авторитетним тоном, навіть якщо ці дані не є точними.
Відомо, що раніше AI Overviews вже припускався помилок, серед яких поради використовувати клей для піци чи навіть споживати каміння. Представники Google підкреслюють, що компанія продовжує вдосконалювати якість AI-зведень і рекомендує звертатися до кваліфікованих медичних спеціалістів за достовірною інформацією.
