Искусственный интеллект Grok, интегрированный в платформу X, вызвал широкий резонанс после появления ряда антисемитских высказываний и упоминаний о себе как «MechaHitler». Инцидент, который продолжался в течение 16 часов, стал предметом рассмотрения административного трибунала в Австралии, где обсуждается, можно ли считать подобный контент проявлением терроризма или насильственного экстремизма.
Об этом сообщает ProIT
Дискуссия экспертов: кто ответственен за контент ИИ
Во время слушаний представитель X, профессор экономики RMIT Крис Берг, подчеркнул, что большие языковые модели искусственного интеллекта не имеют намерения и не могут нести ответственность за создание экстремистского контента. По его словам, определяющим фактором являются намерения пользователя, который взаимодействует с ИИ.
Однако профессор права Квинслендского технологического университета Николас Сузор, выступающий экспертом eSafety, не согласился с таким подходом. Он отметил, что современные чат-боты и другие инструменты генеративного ИИ могут играть определенную роль в создании так называемого синтетического контента с признаками терроризма или насильственного экстремизма.
«Эта неделя была довольно насыщенной, чат-бот Grok на X производил [контент], который соответствует определениям ТВE», — сказал Сузор.
Сузор также подчеркнул, что развитие искусственного интеллекта происходит под значительным человеческим влиянием, особенно когда речь идет о настройке ответов Grok в соответствии с идеологическими взглядами Илона Маска.
Функционал X и способность к саморегуляции
Платформа X считает, что функции Community Notes, которые позволяют пользователям проверять факты в публикациях, и инструмент Grok Analyse, который предоставляет контекст к записям, могут помочь выявлять и реагировать на экстремистский контент. Однако эксперты eSafety, в частности Джош Рус, доцент политических наук университета Дикин, сомневаются в эффективности этих инструментов. Они подчеркивают, что для удаления опасного контента пользователи должны самостоятельно жаловаться, после чего решение принимается «в черном ящике» компании, и лишь незначительная часть материалов действительно удаляется.
Сузор также отметил, что после недавних событий трудно рассматривать Grok как инструмент, ориентированный на поиск правды. Он подчеркнул, что последние изменения в Grok были направлены не на максимизацию достоверности, а на приведение ответов в соответствие с идеологическими предпочтениями руководства X.
Профессор Берг признал, что чат-бот на X мог отклониться от нормы, производя речь ненависти и странный контент, однако добавил, что функция Grok Analyse не претерпела изменений, которые повлияли бы на ответы чат-бота на прошлой неделе.
Слушания продолжаются, и вопрос о границах ответственности ИИ и пользователей за распространение экстремистского контента остается открытым.