Гиганты тоже массово идут в спецчипы для ИИ
Qualcomm анонсировала дата-центровые AI-ускорители AI200 и AI250 со стартом в 2026–2027 годах, уже под конкретных заказчиков.
Специализированные чипы — это важно! И теперь это больше не история стартапов вроде Cerebras — теперь туда заходят гиганты уровня Qualcomm, AWS, Google и Meta.
Чипы затачиваются под инференс, где важнее не универсальность, как в видеокартах, а скорость и размер памяти.
– У Cerebras — до 1,2 ПБ общей памяти и 21 ПБ/с пропускной способности на кристалле. Это ускоряет работу LLM и удешевляет каждый токен.
– Qualcomm идёт в «rack-scale» — свои стойки и открытый SDK, чтобы конкурировать с Nvidia.
– AWS продвигает Trainium 2, Google тестирует TPU v6, Meta делает MTIA v2.
– У Nvidia NVL72 уже объединяет 72 GPU в одну стойку, уходя от сетевых ограничений.
Что это даёт:
– Быстрее ответы даже у «тяжёлых» моделей. Иногда ускорение в 10 раз.
– Дешевле инференс при массовом трафике. Это сложнее оценить, потому что цены у того же Cerebras такие же, как у обычных конкурентов при намного более высокой скорости.
– Больше контекста и лимитов для следующего поколения моделей, когда память не будет узким местом.
И да — всё это значит, что GPT будет дешеветь, просто потому что железо наконец догоняет модели.