Huawei представила открытую языковую модель openPangu 2.0 Pro

openPangu 2.0 Pro представляет собой крупную языковую модель с открытыми весами, построенную на архитектуре Mixture-of-Experts. Она включает около 505 млрд параметров, при этом для обработки каждого токена активируются 18 млрд параметров. Также модель поддерживает контекстное окно объемом 512K.

Huawei позиционирует openPangu 2.0 Pro как открытую платформу искусственного интеллекта, которая должна стать практическим ориентиром для отрасли при использовании процессоров Ascend для обучения моделей и выполнения инференса.

По заявлению компании, новая модель также призвана способствовать созданию мощной интеллектуальной базы для эпохи AI-агентов, ускоряя коммерческое внедрение искусственного интеллекта и развитие экосистемы отрасли.

Huawei опубликовала сведения о ключевых компонентах и внутренних параметрах openPangu 2.0 Pro на открытых платформах с исходным кодом. Пользователи могут перейти на соответствующую платформу, загрузить большую языковую модель и использовать ее в своих проектах.

В компании также обратились к мировому сообществу разработчиков и исследователей.

«Мы искренне приглашаем разработчиков, корпоративных партнеров и исследователей со всего мира скачать и использовать наши разработки либо воспользоваться платформой Huawei Cloud MaaS Model-as-a-Service для онлайн-знакомства с моделью. Мы приветствуем отзывы пользователей, которые помогут и дальше развивать экосистему открытого исходного кода», — заявили в Huawei.