Благодійна організація Mind, що працює у сфері психічного здоров’я в Англії та Уельсі, розпочинає унікальне масштабне розслідування щодо впливу штучного інтелекту (ШІ) на психічне здоров’я. Це стало відповіддю на розслідування, яке виявило, що функція AI Overviews у Google надає користувачам «дуже небезпечні» медичні поради.
Про це розповідає ProIT
Мета розслідування та участь експертів
Протягом року комісія Mind планує дослідити ризики та необхідні заходи безпеки, які мають бути впроваджені у зв’язку з дедалі більшим впливом ШІ на життя мільйонів людей із проблемами психічного здоров’я у всьому світі. Участь у розслідуванні візьмуть провідні лікарі, фахівці з психічного здоров’я, люди з власним досвідом, представники медичних установ, політики та технологічні компанії. Мета – створити більш безпечну цифрову екосистему для підтримки психічного здоров’я, запровадивши ефективне регулювання, стандарти та запобіжники.
Проблеми з медичними порадами від ШІ
Останнім часом стало відомо, що у функції AI Overviews у Google трапляються хибні та небезпечні медичні поради щодо різних станів, включно з раком, захворюваннями печінки, жіночим здоров’ям та психічними розладами. Згідно з розслідуванням, деякі поради для людей із психозом чи розладами харчової поведінки були «дуже небезпечними» та могли відвернути людей від звернення по допомогу.
«Ми вважаємо, що ШІ має величезний потенціал для покращення життя людей із психічними проблемами, розширення доступу до підтримки та зміцнення громадських служб. Але цей потенціал можна реалізувати лише за умови відповідального розвитку й впровадження технологій із належними гарантіями», – наголосила доктор Сара Г’юз, генеральна директорка Mind.
Після оприлюднення проблем частину AI Overviews у Google було видалено для окремих медичних запитів, однак не для всіх. При цьому представники Google наполягають, що їхні AI Overviews є «корисними» та «надійними», хоча експерти вказують на численні випадки поширення хибної інформації.
Деякі фахівці зазначають, що раніше, до впровадження AI Overviews, користувачі мали змогу потрапити на авторитетні медичні ресурси, де знаходили детальні відповіді, приклади з життя, історії пацієнтів та шляхи подальшої підтримки. З появою AI Overviews ці багатогранні відповіді були замінені короткими, але не завжди достовірними підсумками, що створює ілюзію однозначності.
Комісія Mind, яка працюватиме протягом року, буде збирати докази щодо взаємодії ШІ та психічного здоров’я, а також створить «відкрите середовище», де досвід людей із психічними розладами буде почутим і врахованим для формування майбутніх цифрових сервісів підтримки.
Організація прагне до того, щоб інновації у сфері ШІ не погіршували добробут людей, а самі користувачі ставали рушіями змін у сфері психічного здоров’я.