Википедия приостановила эксперимент по внедрению искусственного интеллекта для автоматического создания кратких резюме статей после волны критики со стороны своей редакторской сообщества.
Об этом сообщает ProIT
Споры вокруг внедрения ИИ в Википедии
Несмотря на частые «войны правок» по резонансным темам, Википедия остается одним из самых авторитетных источников информации для миллионов пользователей. С началом эпохи генеративного искусственного интеллекта её роль только усилилась, ведь платформа почти не пострадала от массового распространения дезинформации и некачественного контента, созданного ИИ.
«Это нанесет немедленный и необратимый ущерб нашим читателям и нашей репутации как вполне надежного и серьезного источника. Википедия в определенном смысле стала синонимом трезвой скуки, что прекрасно. Давайте не будем оскорблять интеллект наших читателей и присоединяться к массовой публикации ярких искусственно созданных резюме. Именно такими они и являются, хотя здесь вместо этого используется выражение «сгенерированные машиной»», — пишет один из редакторов.
Проект «Простые резюме статей» был предложен после обсуждения на конференции Wikimania 2024 года. Его целью было сделать Википедию более доступной и улучшить восприятие информации с помощью ИИ, в частности, упростить терминологию в сложных статьях. Некоторые участники считали, что это позволит читателям быстрее ориентироваться в содержании, особенно в англоязычных статьях с большим количеством сложных терминов.
Решительная позиция редакторского сообщества
Объявление о запуске эксперимента с использованием сгенерированных резюме появилось 2 июня. Сразу после этого десятки редакторов выразили резко негативную позицию. Многие указывали, что это может подорвать доверие к Википедии, а также разрушить многолетние стандарты редакционной политики.
Часть редакторов подчеркнула, что предоставление права создавать краткие описания одному редактору без должного контроля со стороны остальной части сообщества может привести к появлению предвзятого или даже недостоверного контента.
После такой реакции уже на следующий день фонд Wikimedia сообщил о прекращении эксперимента. В то же время организация не отказывается от идеи использования ИИ для создания резюме в будущем.
Представители фонда отметили, что целью двухнедельного эксперимента было улучшить доступность сложных статей для читателей с разным уровнем подготовки. Для этого использовалась модель Aya от Cohere с открытым кодом. Команда намеревалась оценить заинтересованность пользователей в такой функции и проработать возможные варианты модерации, чтобы сохранить ключевую роль человеческого фактора при формировании контента.
В настоящее время инициатива по применению ИИ в Википедии находится в состоянии паузы. Вопрос остается открытым: способен ли искусственный интеллект обеспечить точность и объективность при создании кратких описаний, или существует риск появления фактических ошибок?
