Microsoft делает ставку на железо и локальные модели
7 октября на презентации Windows и Surface Microsoft показала «гибридный интеллект»: Windows сама решает, где выполнить ИИ-задачу, на компьютере или в облаке.
Простую чистку кода роутер отдал локальной модели Microsoft, ноутбуку отключили Wi-Fi и задача продолжила выполняться. Задачу сложнее спланировала облачная модель, а читали и разбирались локальные субагенты. За сессию около 1,6 млн токенов осталось на устройстве, в облако ушло около 10 тысяч.
Для развития этого подхода Microsoft делает модели типа MAI Code 1.1 Flash: 137 млрд параметров, 6,8 млрд активных. В партнёрстве с Nvidia продвигает железо — RTX Spark от Nvidia: до 128 ГБ общей памяти, локально идут модели больше 120 млрд параметров. Surface Laptop Ultra на нём стоит от $2599.
Это стратегия компании, которая пока не стала большой лабой. Microsoft опирается на то, что у неё есть, — Windows, железо вместе с Nvidia и корпоративные клиенты, которые хотят предсказуемости трат и конфиденциальности.
mindstudio.ai/blog/microsoft-windows-local-ai-hybrid-intelligence