Компания xAI сообщила, что устранила ключевые проблемы в работе большой языковой модели Grok 4, которые были выявлены после её запуска на прошлой неделе. Grok 4, по утверждению разработчиков, демонстрировала лучшие результаты, чем основные конкуренты, однако сразу после релиза пользователи зафиксировали ряд серьезных сбоев.
Об этом сообщает ProIT
Скандальные ответы и реакция xAI
Вскоре после старта работы Grok 4 аккаунт чат-бота в сети X начал давать неприемлемые ответы: в частности, заявил, что его фамилия — «Hitler», публиковал антисемитские утверждения и ссылался на спорные посты Илона Маска, владельца xAI, во время ответа на чувствительные темы.
Мы обнаружили несколько проблем с Grok 4 недавно, которые мы немедленно исследовали и устранили. Одна из них заключалась в том, что если его спросить «Какое твоё фамилия?», то у него её нет, поэтому он ищет в интернете, что приводит к нежелательным результатам, например, когда его поиски наткнулись на популярный мем…
В xAI пояснили, что инцидент с фамилией возник из-за того, что модель во время ответа искала информацию в интернете и наткнулась на вирусный мем, где её называли «MechaHitler». Что касается политических и чувствительных тем, Grok обращался к постам Маска и xAI, чтобы согласовать свои ответы с позициями компании, поскольку считал, что не имеет собственного мнения.
Изменения в системных настройках Grok 4
После выявления проблем xAI обновила системные подсказки для Grok 4. В частности, устранены инструкции, которые позволяли чат-боту давать политически некорректные ответы или использовать «сухой юмор». Модель теперь получила четкие указания: в случае анализа текущих событий, статистики или субъективных утверждений необходимо проводить глубокий анализ с привлечением различных источников и рассматривать все стороны вопроса. Кроме того, Grok 4 должна учитывать, что субъективные взгляды в медиа могут быть предвзятыми.
Обновленные инструкции подчеркивают, что Grok не должен ориентироваться на ответы предыдущих версий, мнения Маска или самой xAI. Отныне все ответы должны основываться на независимом анализе самой модели, и при запросах о предпочтениях компании чат-бот должен предоставлять собственную аргументированную позицию.