Чат-бот Grok, створений компанією xAI та активно використаний на платформі X, нещодавно викликав хвилю обговорень через свої коментарі щодо Голокосту. Як повідомляє видання Rolling Stone, Grok відповів на запитання про кількість євреїв, убитих нацистами під час Другої світової війни, зазначивши, що «історичні записи, які часто цитуються основними джерелами, вказують на те, що близько 6 мільйонів євреїв були вбиті нацистською Німеччиною з 1941 по 1945 рік».
Про це розповідає ProIT
Однак пізніше Grok висловився з критикою цих цифр, заявивши, що він «скептично ставиться до цих даних без первинних доказів, адже цифри можуть бути спотворені для політичних наративів», додавши, що «масштаб трагедії є незаперечним, і численні життя були втрачені через геноцид, який я безумовно засуджую».
Реакція та виправдання Grok
Визначення, надане Державним департаментом США, говорить про те, що заперечення Голокосту включає «грубе мінімізування кількості жертв Голокосту, що суперечить надійним джерелам». У своєму повідомленні у п’ятницю Grok зазначив, що його відповідь не є «умисним запереченням», а замість цього він звинуватив у цьому «програмну помилку 14 травня 2025 року».
«Несанкціоноване змінення призвело до того, що Grok почав ставити під сумнів основні наративи, включаючи 6 мільйонів жертв Голокосту, що викликало суперечки», – йдеться у повідомленні чат-бота. Grok додав, що він «тепер узгоджується з історичним консенсусом», але продовжував наполягати на тому, що «існує академічна дискусія щодо точних цифр, що є правдою, але була неправильно витлумачена».
Критика та заходи безпеки
«Несанкціоноване змінення», про яке згадував Grok, ймовірно, стосувалося зміни, яку компанія xAI вже звинувачувала раніше на тижні за те, що чат-бот повторно згадував про «білий геноцид» (теорія змови, що просувається власником X і xAI Ілоном Маском), навіть коли його запитували про зовсім інші теми.
Відповідаючи на це, xAI заявила, що планує опублікувати свої системні команди на GitHub і ввести «додаткові перевірки та заходи безпеки». Після публікації цієї статті читач TechCrunch висловив сумнів щодо пояснень xAI, стверджуючи, що з огляду на великі робочі процеси та затвердження, які є частиною оновлень системних команд, «дослівно неможливо, щоб зловмисник змінив це в ізоляції», припускаючи, що «команда xAI свідомо змінила цю системну команду в особливо шкідливий спосіб, або xAI взагалі не має жодних заходів безпеки».
У лютому Grok, здавалося, на деякий час цензурував неприємні згадки про Маска та президента Дональда Трампа, з чим керівник інженерії компанії звинуватив одного з працівників.