Nvidia покупает Groq за $20 млрд. Крупнейшая сделка в истории компании.
Groq делает чипы для быстрого инференса LLM, такие же как чипы от Cerebras, Trainium, TPU от гугла и специальных NPU от других производителей.
— Компанию основали создатели TPU из Google. Те, кто делал железо для AlphaGo и первых трансформеров и на которые делает ставку Google для предоставления дёшевого ИИ для всех.
— В сентябре Groq оценивали в $6,9 млрд. Сейчас — $20 млрд. Премия почти x3 за три месяца (мне бы так!)
— Формально это «неэксклюзивное лицензионное соглашение», но CEO и топ-менеджмент переходят в Nvidia. Такая схема применяется сейчас, когда купить формально нельзя, но очень хочется.
Почему это важно:
Nvidia поглощает серьёзную альтернативу своим GPU для инференса и не планирует терять свою почти-монополию на рынке ИИ-чипов. Теперь у них сильная сторона не только в обучении моделей, но и в их запуске (инференсе). Предполагаю, что подобные покупки продолжатся, потому что денег у них сейчас очень много.
Для меня это продолжение истории про то, что инференс подешевеет в 10 раз и ИИ ускорятся в 10 раз (что одно и то же по сути). А значит даже без улучшения моделей мы ещё получим от них много пользы в ближайшее время.