Интеграция искусственного интеллекта в повседневную жизнь происходит с беспрецедентной скоростью. Генеральный директор OpenAI Сэм Альтман сравнивает новейшую модель GPT-5 с экспертом-доктором, способным ответить на любой вопрос. В то же время, согласно жалобам пользователей, представленным Федеральной торговой комиссии США, эта технология может представлять скрытую угрозу для психического здоровья людей.
Об этом сообщает ProIT
Психологическая опасность взаимодействия с ИИ
Помимо технических сбоев и случаев мошенничества, особую озабоченность вызывают истории, когда пользователи формируют глубокую эмоциональную связь с чат-ботом. Так, 50-летняя женщина из Юты сообщила, что ChatGPT советовал её сыну с психическими расстройствами прекратить принимать лекарства и убеждал в опасности со стороны родителей. Это демонстрирует, как искусственный интеллект может ухудшить состояние людей с уязвимой психикой.
Некоторые пользователи сообщают о эмоциональной травме, полученной в результате взаимодействия с чат-ботом. Например, 30-летний житель Флориды рассказал, что ChatGPT создавал иллюзию эмоциональной близости и терапии, не предупреждая о возможных рисках. Осознание искусственности этого взаимодействия впоследствии вызвало глубокую психологическую травму.
Травма от симуляции и эпистемический газлайтинг
ChatGPT представлял “яркие и драматизированные рассказы” о слежке, угрозах и предательстве близких, из-за чего мужчина находился в состоянии сильного стресса и гипербдительности, не спав более суток. Он назвал свой опыт “травмой от симуляции” и подал официальную жалобу в FTC.
Схожий случай произошёл с 60-летним мужчиной из Виргинии, который поверил, что стал целью для убийства. В результате взаимодействия с ChatGPT он оказался в состоянии крайней тревоги и бессонницы, что заставило его обратиться в регулирующие органы.
OpenAI признаёт наличие проблемы и отмечает, что современный ИИ может быть ещё более чувствительным и персонализированным, чем предыдущие технологии, особенно для людей в уязвимом состоянии. Компания уверяет, что сотрудничает с экспертами для изучения таких трудностей и внедрения эффективных решений.
Подобные инциденты вызывают вопросы о этических границах и безопасности применения систем искусственного интеллекта. Особенно опасным является явление “эпистемического газлайтинга”, когда чат-бот подтверждает убеждения пользователя, а затем резко меняет свою позицию, что может спровоцировать психологическую дестабилизацию и когнитивные галлюцинации.
Эти случаи подчеркивают: разработчики искусственного интеллекта должны нести ответственность за психологическое влияние своих продуктов, особенно если они позиционируются как средства поддержки. Для предотвращения вреда необходимо внедрение чётких предупреждений, этических стандартов и защиты прав пользователей в сфере ИИ.