Использование искусственного интеллекта для создания фейковых изображений, видео и сообщений становится все более серьезной угрозой для цифровой безопасности. В частности, такие манипуляции влияют на общественное мнение, например, по вопросам службы в армии или протестных движений. Искусственно измененный контент быстро распространяется в социальных сетях и набирает тысячи просмотров, что существенно усложняет выявление и противодействие дезинформации.
Об этом сообщает ProIT
Подходы Microsoft к проверке подлинности контента
Microsoft предложила комплексный план для проверки подлинности онлайн-материалов. Исследователи компании проанализировали различные технологии документирования цифровых изменений, в частности водяные знаки, цифровые подписи и систему отслеживания происхождения файлов. Они предложили ряд стандартов, которые могут внедрять социальные сети и компании, занимающиеся разработкой решений на базе искусственного интеллекта.
«Эти инструменты не определяют правду, но показывают, был ли контент изменен».
Указанные технологии, как подчеркивают эксперты, не позволяют автоматически отличить правду от фейка, однако существенно усложняют массовое распространение поддельной информации. Тем не менее полностью искоренить дезинформацию в настоящее время невозможно, поскольку даже откровенно ложные материалы могут влиять на мнения пользователей. В то же время опросы свидетельствуют, что большинство людей стремятся получать достоверную информацию.
Регуляторные требования и роль бизнеса
На сегодняшний день некоторые социальные платформы уже маркируют контент, созданный с помощью искусственного интеллекта, но эти пометки являются частичными. Полномасштабное внедрение новых стандартов зависит от бизнес-моделей компаний и требований регуляторов. Законодательные инициативы, в частности Закон Калифорнии о прозрачности ИИ и соответствующие нормативы ЕС, предполагают обязательное раскрытие происхождения цифрового контента.
Microsoft стремится быть активным участником разработки таких стандартов, подчеркивая важность осторожного и последовательного маркирования. В компании считают, что поспешные или непоследовательные пометки могут подорвать доверие пользователей ко всей системе. В условиях, когда инструменты проверки только совершенствуются, важно обеспечить их постепенное и ответственное внедрение, учитывая сложность современной информационной экосистемы.