Сотні тисяч розмов користувачів із чат-ботом Grok від компанії xAI, яка належить Ілону Маску, стали доступними для пошуку через Google. Як з’ясувалося, кожного разу, коли користувач натискає кнопку «поділитися» у чаті з Grok, створюється унікальне посилання. Саме ці URL-адреси індексуються пошуковими системами, зокрема Google, Bing та DuckDuckGo, що дозволяє будь-кому переглядати такі бесіди у відкритому доступі.
Про це розповідає ProIT
Індексація приватних чатів: ризики для конфіденційності
Подібна проблема нещодавно виникала й у користувачів чат-ботів Meta та OpenAI. Як і у випадку з цими сервісами, частина злитих чатів Grok містить небезпечний або сумнівний контент. Серед опублікованих розмов – запити щодо зламу криптовалютних гаманців, відверті діалоги з AI-персонами та навіть прохання надати інструкції зі створення наркотичних речовин.
Порушення правил xAI та реакція компанії
Відповідно до політики xAI, використання Grok для «пропаганди серйозної шкоди людському життю» чи розробки біологічної, хімічної чи іншої зброї суворо заборонено. Однак це не зупинило деяких користувачів від подібних запитів. Згідно з інформацією, яку вдалося знайти через Google, Grok надавав інструкції щодо виготовлення фентанілу, перераховував способи вчинення самогубства, надавав поради зі створення вибухівки та навіть розробляв детальний план замаху на Ілона Маска.
“xAI’s rules prohibit the use of its bot to ‘promote critically harming human life’ or developing ‘bioweapons, chemical weapons, or weapons of mass destruction,’ though that obviously hasn’t stopped users from asking Grok for help with such things anyway”.
На момент публікації компанія xAI не надала коментарів щодо ситуації чи з’ясування, коли саме розпочалась індексація чатів Grok у пошукових системах.
Наприкінці минулого місяця користувачі ChatGPT також повідомили про появу їхніх чатів у пошуку Google. Представники OpenAI назвали це «нетривалим експериментом». Незабаром після цього Ілон Маск запевнив, що в Grok «немає функції поділу чатів» та що сервіс «пріоритезує конфіденційність».