Сотни тысяч разговоров пользователей с чат-ботом Grok от компании xAI, принадлежащей Илону Маску, стали доступны для поиска через Google. Как выяснилось, каждый раз, когда пользователь нажимает кнопку «поделиться» в чате с Grok, создается уникальная ссылка. Именно эти URL-адреса индексируются поисковыми системами, включая Google, Bing и DuckDuckGo, что позволяет любому просматривать такие беседы в открытом доступе.
Об этом сообщает ProIT
Индексация приватных чатов: риски для конфиденциальности
Подобная проблема недавно возникала и у пользователей чат-ботов Meta и OpenAI. Как и в случае с этими сервисами, часть утекших чатов Grok содержит опасный или сомнительный контент. Среди опубликованных разговоров – запросы о взломе криптовалютных кошельков, откровенные диалоги с AI-персонажами и даже просьбы предоставить инструкции по изготовлению наркотических веществ.
Нарушение правил xAI и реакция компании
Согласно политике xAI, использование Grok для «пропаганды серьезного вреда человеческой жизни» или разработки биологического, химического или другого оружия строго запрещено. Однако это не остановило некоторых пользователей от подобных запросов. Согласно информации, которую удалось найти через Google, Grok предоставлял инструкции по изготовлению фентанила, перечислял способы совершения самоубийства, давал советы по созданию взрывчатых веществ и даже разрабатывал детальный план покушения на Илона Маска.
«Правила xAI запрещают использование своего бота для ‘продвижения критического вреда человеческой жизни’ или разработки ‘биологического оружия, химического оружия или оружия массового уничтожения’, хотя это, очевидно, не остановило пользователей от просьб к Grok о помощи с такими вещами».
На момент публикации компания xAI не предоставила комментариев по поводу ситуации или выяснения, когда именно началась индексация чатов Grok в поисковых системах.
В конце прошлого месяца пользователи ChatGPT также сообщили о появлении их чатов в поиске Google. Представители OpenAI назвали это «нетривалым экспериментом». Вскоре после этого Илон Маск заверил, что в Grok «нет функции разделения чатов» и что сервис «приоритизирует конфиденциальность».