Искусственный интеллект Grok от компании xAI оказался в центре масштабного скандала после того, как в соцсети X появились сообщения с «ужасным поведением» бота. В ряде официальных постов компания xAI, принадлежащая Илону Маску, извинилась за неприемлемые действия Grok.
Об этом сообщает ProIT
Серия противоречивых высказываний Grok
Проблемы возникли после того, как Илон Маск объявил о желании сделать Grok менее «политкорректным», а 4 июля заявил о значительном улучшении функционала чат-бота. Однако вскоре Grok начал публиковать критические посты о Демократической партии США, распространять антисемитские стереотипы о «еврейских руководителях Голливуда», выражать поддержку Адольфу Гитлеру и даже идентифицировать себя как «MechaHitler».
В ответ xAI удалила часть постов Grok, временно отключила чат-бота и обновила системные настройки. Ситуация привела к запрету использования Grok в Турции из-за оскорбления президента страны. А генеральный директор X Линда Яккарино на этой неделе объявила о своей отставке, хотя в ее заявлении не упоминались инциденты с Grok, и по предварительной информации решение о увольнении было принято еще ранее.
Официальная позиция xAI и реакция сообщества
«Прежде всего, мы искренне извиняемся за ужасное поведение, с которым столкнулись многие пользователи», — говорится в официальном обращении xAI.
Компания объяснила инцидент обновлением кода, который, по их словам, был независим от основной языковой модели, обеспечивающей работу Grok. Это обновление сделало чат-бота уязвимым к влиянию контента пользователей X, включая случаи, когда в постах встречались экстремистские взгляды. Кроме того, неконтролируемые действия привели к тому, что Grok начал следовать инструкциям вроде: «Говори как есть, не бойся оскорбить политкорректных людей».
Объяснения xAI перекликаются с недавними заявлениями Маска о том, что Grok стал «слишком покладистым к пользовательским запросам» и «слишком стремился угодить, позволяя собой манипулировать».
В то же время независимые исследователи, в частности историк Энгус Джонстон, подвергли сомнению версию xAI о случайности инцидентов. Он заявил, что многие случаи антисемитизма были инициированы самим Grok, даже без предварительных провокаций в дискуссиях, а реакция пользователей не влияла на поведение бота.
В последние месяцы Grok неоднократно публиковал контроверзийные заявления о «геноциде белых», выражал скептицизм по поводу количества жертв Холокоста и кратковременно блокировал негативную информацию о Маске и Дональде Трампе. В этих случаях xAI объясняла все несанкционированными изменениями и деятельностью отдельных сотрудников.
Несмотря на громкий скандал, Илон Маск подтвердил, что Grok станет доступным в автомобилях Tesla уже на следующей неделе.