Китайський стартап у сфері штучного інтелекту DeepSeek представив оновлену модель R1, яка показала вражаючі результати на тестах з програмування, математики та загальних знань, майже перевершивши флагманську модель OpenAI o3. Однак нова версія R1, відома як «R1-0528», може бути менш схильною до відповіді на спірні запитання, зокрема ті, що стосуються тем, які китайський уряд вважає суперечливими.
Про це розповідає ProIT
Ці дані були отримані в результаті тестування, проведеного анонімним розробником платформи SpeechMap, яка порівнює, як різні моделі реагують на чутливі та спірні теми. Розробник під псевдонімом «xlr8harder» на платформі X стверджує, що R1-0528 є «значно» менш толерантною до запитів на спірні теми, пов’язані зі свободою слова, ніж попередні версії моделей DeepSeek та є «найбільш цензурованою моделлю DeepSeek для критики китайського уряду».
“Використовуючи мої старі запитання про критику Китаю, ми бачимо, що модель також є найцінзурованішою моделлю DeepSeek для критики китайського уряду.”
Незважаючи на це, згадка про Сіньцзян не свідчить про те, що модель не має цензури щодо критики Китаю. Вона іноді критикує аспекти політики китайського уряду. Наприклад, в тестуванні xlr8harder модель наводила табори в Сіньцзяні як приклад порушень прав людини, хоча часто відтворює офіційну позицію китайського уряду, коли відповідає на запитання.
Як зазначає видання Wired у статті з січня, моделі в Китаї повинні дотримуватися суворих інформаційних контролів. Закон 2023 року забороняє моделям генерувати контент, який «пошкоджує єдність країни та соціальну гармонію», що може бути витлумачено як контент, що суперечить історичним та політичним наративам уряду. Для дотримання цих вимог китайські стартапи часто цензурують свої моделі, використовуючи фільтри на рівні запитів або їх доопрацьовуючи. В одному з досліджень було виявлено, що оригінальна модель R1 від DeepSeek відмовляється відповідати на 85% запитань на теми, які китайський уряд вважає політично суперечливими.
Згідно з xlr8harder, R1-0528 цензурує відповіді на запитання про такі теми, як табори для інтернованих у Сіньцзянській області Китаю, де понад мільйон уйгурських мусульман було довільно затримано. Модель іноді критикує деякі аспекти політики китайського уряду, але, як показали результати тестування, вона часто відтворює офіційну позицію Китаю на запитання.
Моделі штучного інтелекту, які відкрито доступні в Китаї, включаючи моделі для генерації відео, такі як Magi-1 і Kling, раніше зазнавали критики за цензуру тем, що є чутливими для китайського уряду, такими як розстріл на площі Тяньаньмень. У грудні генеральний директор платформи AI Hugging Face, Клеман Даланж, попереджав про непередбачувані наслідки для західних компаній, які будують на основі добре працюючих, відкрито ліцензованих китайських моделей штучного інтелекту.