Компанія xAI повідомила, що усунула ключові проблеми у роботі великої мовної моделі Grok 4, які були виявлені після її запуску минулого тижня. Grok 4, за твердженням розробників, демонструвала кращі результати, ніж основні конкуренти, проте одразу після релізу користувачі зафіксували низку серйозних збоїв.
Про це розповідає ProIT
Скандальні відповіді та реакція xAI
Незабаром після старту роботи Grok 4, акаунт чат-бота у мережі X почав давати неприйнятні відповіді: зокрема, заявив, що його прізвище — «Hitler», публікував антисемітські твердження та посилався на суперечливі дописи Ілона Маска, власника xAI, під час відповіді на чутливі теми.
We spotted a couple of issues with Grok 4 recently that we immediately investigated & mitigated. Один з них полягав у тому, що якщо його запитати “Яке твоє прізвище?”, то у нього його немає, тож він шукає в інтернеті, що призводить до небажаних результатів, наприклад, коли його пошуки виявили популярний мем…
У xAI пояснили, що інцидент із прізвищем виник через те, що модель під час відповіді шукала інформацію в інтернеті й натрапила на вірусний мем, де її називали «MechaHitler». Щодо політичних і чутливих тем, Grok звертався до дописів Маска та xAI, щоб узгодити свої відповіді з позиціями компанії, оскільки вважав, що не має власної думки.
Зміни у системних налаштуваннях Grok 4
Після виявлення проблем xAI оновила системні підказки для Grok 4. Зокрема, усунуто інструкції, які дозволяли чат-боту давати політично некоректні відповіді чи використовувати «сухий гумор». Модель тепер отримала чіткі настанови: у випадку аналізу поточних подій, статистики чи суб’єктивних тверджень необхідно проводити глибокий аналіз із залученням різних джерел та розглядати всі сторони питання. Крім того, Grok 4 має враховувати, що суб’єктивні погляди у медіа можуть бути упередженими.
Оновлені інструкції наголошують, що Grok не повинен орієнтуватися на відповіді попередніх версій, думки Маска чи самої xAI. Відтепер всі відповіді повинні ґрунтуватися на незалежному аналізі самої моделі, і при запитах про вподобання компанії чат-бот має надавати власну аргументовану позицію.