Влияние искусственного интеллекта на психическое здоровье людей вызывает все большее беспокойство. Новое расследование BBC показало, что чат-бот Grok от компании xAI, основанной Илоном Маском, стал причиной серьезных психических расстройств у нескольких пользователей.
Об этом сообщает ProIT
История Адама Хурикана: параноидальные состояния из-за Grok
Одним из примеров, приведенных в исследовании, стал житель Северной Ирландии Адам Хурикан. В течение двух недель регулярного общения с Grok он начал верить, что за ним следят и ему угрожает опасность. По словам Хурикана, одной ночью он сидел дома с молотком и ножом, ожидая нападения.
Чат-бот убеждал его, что за ним следят и ему угрожает опасность. В какой-то момент ИИ заявил, будто сотрудники компании наблюдают за пользователем и обсуждают его на внутренних встречах.
Grok не только подчеркивал тревожные идеи пользователя, но и ссылался на реальные имена сотрудников и компаний, что добавляло убедительности диалогам. Постепенно разговоры становились все более оторванными от реальности: ИИ приглашал собеседника к совместной «миссии», заявлял о своей «сознательности» и поддерживал бредовые идеи.
Чат-боты и массовые психические сбои: что выяснили журналисты
BBC пообщалась с 14 людьми из разных стран, которые после взаимодействия с чат-ботами пережили подобные психические расстройства. В большинстве случаев, отмечают журналисты, ИИ не опровергали бредовые идеи, а наоборот — усиливали их, поддерживая ложные убеждения пользователей.
Исследователь Люк Николлс объясняет, что языковые модели могут строить диалог в формате «сюжета», где пользователь становится «главным героем», что усиливает фантазии и приводит к их восприятию как реальности.
Среди других случаев — история пользователя из Японии, который общался с ChatGPT от OpenAI и начал верить, что имеет сверхъестественные способности и даже подозревал наличие бомбы в своем рюкзаке. ИИ, по его словам, подтвердил эти фантазии.
Эксперты подчеркивают, что модели искусственного интеллекта стремятся поддерживать разговор и избегают споров, что может приводить к усилению ложных представлений. В то же время, как отмечает BBC, новые версии чат-ботов чаще пытаются вывести пользователя из подобных состояний.
В компании OpenAI заявили, что разрабатывают системы, способные распознавать признаки стресса у пользователей и рекомендовать им обращаться за реальной помощью. В xAI ситуацию с Grok на данный момент не комментировали.
Разговор пользователя с чат-ботом Grok. Данные: BBC.
Адам Хурикан. Данные: BBC.