Компания Microsoft представила компактную языковую модель искусственного интеллекта Mu, которая работает непосредственно на устройствах пользователей в среде Windows 11. Mu разработана для того, чтобы упростить поиск и применение системных настроек, используя современные вычислительные возможности ноутбуков и ПК с встроенными NPU (нейронными процессорными блоками).
Об этом сообщает ProIT
Преимущества Mu: локальная скорость и новый пользовательский опыт
Mu является малой языковой моделью, оптимизированной для локального выполнения и взаимодействующей с уже знакомой пользователям моделью Phi Silica, которая интегрирована в компьютеры с Copilot+. Обе эти модели должны работать совместно, создавая в будущем так называемый «агентский» опыт в системных настройках. Это позволит пользователям просто вводить текстовые запросы, такие как: «Сделай экран тусклее» или «Как включить ночной режим?», а ИИ самостоятельно выполнит действие или предоставит подробную инструкцию.
Mu основана на трансформной архитектуре кодера-декодера и содержит 330 миллионов параметров, что обеспечивает ей высокую эффективность и компактность. Она обучалась на графических процессорах NVIDIA A100 через платформу Azure Machine Learning, используя передовые методики оптимизации, разработанные для моделей Phi. Благодаря этим технологиям, Mu демонстрирует производительность, близкую к Phi-3.5-mini, но при этом занимает в десять раз меньше места на устройстве.
Интеграция Mu и сотрудничество с производителями процессоров
Microsoft активно сотрудничает с такими компаниями, как Intel, AMD и Qualcomm, чтобы обеспечить широкую совместимость Mu с современными процессорами, оснащенными NPU. Это позволяет пользователям Windows 11 получать быстрые ответы от ИИ без задержек, связанных с подключением к облачным сервисам. Модель Mu способна генерировать ответы со скоростью более 100 токенов в секунду, что создает плавный и удобный пользовательский опыт при работе с настройками системы.
Mu станет центральным элементом нового расширенного интерфейса «Параметров» в Windows 11. Это позволит сделать систему настроек более интуитивной даже для тех пользователей, которые не имеют технического опыта. Microsoft признает, что создать искусственный интеллект, способный ориентироваться в большом количестве параметров Windows и объяснять их простыми словами, было непростой задачей.
Microsoft говорит, что это был серьезный вызов — создать ИИ, способный ориентироваться в сотнях параметров Windows и еще и объяснить их человеку без опыта.
Новый подход ориентирован на то, чтобы пользователям не приходилось искать нужные функции в многочисленных подменю — вместо этого они получат быстрый доступ к настройкам благодаря интегрированному ИИ-помощнику. В будущих обновлениях ожидается появление раздела Advanced с дополнительными функциями для разработчиков и опытных пользователей.