Глава Microsoft Сатья Наделла призвал сохранить контроль человека над сверхинтеллектом

На фоне обсуждений замедления темпов разработки передовых моделей глава Microsoft предлагает обратить внимание и на другую задачу — ускорить распространение ИИ и сделать его преимущества доступными для разных стран, сообществ и компаний.

По мнению Наделлы, для этого необходима экосистема, в которой смогут развиваться как закрытые, так и модели с открытым исходным кодом.

Microsoft готовит кодекс поведения для моделей MAI

Наделла сообщил, что Microsoft планирует представить кодекс поведения, который будет определять принципы работы собственных моделей MAI. Публикация документа ожидается на следующий день после его заявления.

После выхода кодекс планируется вынести на общественное обсуждение. Таким образом, Microsoft не должна единолично определять направление развития своих моделей.

Наделла заявил, что выступает за широкий доступ и возможность выбора на всех уровнях ИИ-стека, а также за то, чтобы предприятия сохраняли контроль над своими моделями и процессами обучения.

Компании должны контролировать собственные знания

Для организаций, начинающих использовать искусственный интеллект, Наделла считает критически важным полный контроль над уникальными и неявными знаниями.

По его мнению, каждая компания должна иметь возможность самостоятельно создавать собственный непрерывный «цикл обучения», не привязываясь к одному поставщику моделей.

Организации также должны иметь возможность переносить собственные знания непосредственно в модели и веса, которыми они управляют.

Такой подход, по мнению главы Microsoft, позволит компаниям сохранять контроль над тем, как их знания используются и развиваются в рамках ИИ-систем.

Наделла поддержал осторожный подход к развитию ИИ

В целом Наделла заявил, что Microsoft поддерживает исследования, внимание к вопросам безопасности и осознанное замедление темпов разработки, необходимое для правильного согласования целей ИИ.

Глава компании также положительно отнёсся к идее использования встроенных оценщиков, которые могли бы помогать контролировать соответствие ИИ-систем установленным требованиям.

При этом, по мнению Наделлы и Microsoft, процесс согласования и регулирования развития ИИ нельзя оставлять в руках нескольких компаний или организаций.

В нём должно участвовать широкое представительство различных экосистем, стран и профессиональных областей, включая академическое сообщество.