Новые чипы для ИИ. Trainium
Кроме Cerebras, про который я писал подробно, чипы для ИИ делает Amazon в партнерстве с Antrophic. На фото снимки их дата-центра на базе собственых чипов Trainium 2, который скоро планируется к запуску.
Что нам ждать от этого в работе Claude:
1. Тяжелая модешь Opus начнет отвечать быстро, как Sonnet
2. Быстрая модель начнёт работать мгновенно
3. Могут увеличить размер контекстного окна, расширить лимиты на размышления, снизить цены
Дата-центр гигаваттный, у нас таких нет, а в США они запускаются уже пачками. Так быстро как сейчас их не строили никогда. В этом вопросе мы очень сильно отстаем. Условно на порядок-два от Китая и США.
Google и OpenAI тоже делают свои чипы, но про их чипы у меня пока мало информации.