Маржа Anthropic на обслуживании клиентов
Данные о выручке и марже Anthropic и разница между стоимостью обслуживания клиентов и полными расходами на вычисления.
Публикации
Материалов по теме: 41
Anthropic заменила git своей системой: 30 000 мержей в день
Рост до 30 тысяч изменений в день сделал Git узким местом инфраструктуры Anthropic, и компания разработала серверную систему Scion.
Microsoft делает ставку на локальные модели и железо
Microsoft связывает Windows, локальные модели и железо Nvidia в стратегии для корпоративных клиентов, которым важны контроль расходов и конфиденциальность.
Darkbloom и BOINC: два подхода к распределённым вычислениям
Чем отличается непрозрачная аренда Mac для ИИ-инференса от открытых волонтёрских вычислений BOINC.
ИИ и разрыв в вычислительных ресурсах
Размышление о том, как вычислительные ресурсы могут дать ИИ преимущество в решении сложных задач и усилить технологическое неравенство.
Внедрение ИИ съедает интерфейсный слой
При внедрении ИИ компаниям важнее надёжная инфраструктура и данные, чем привычные интерфейсы.
Кэширование промптов для ИИ-агентов
Повторный выбор навыков в диалоге с ИИ-агентом снижает попадание в кэш промптов и незаметно увеличивает расходы.
Дефицит дата-центров и ИИ-инфраструктуры
Блокировки дата-центров в США — повод заранее планировать мощности для ИИ-продуктов.
Квантизация и качество LLM в пиковые часы
Разбираем, как низкая точность вычислений удешевляет инференс и почему ощущение вечерней деградации моделей пока остаётся гипотезой.
DeepSeek и Gemini: цена собственных чипов
Проблемы DeepSeek с обучением модели на Huawei Ascend показывают риск незрелой инфраструктуры; у Google TPU может быть похожая цена.
Минимум для ИИ-инфраструктуры — восемь A100
Для серьёзной ИИ-инфраструктуры минимальным эффективным уровнем становятся серверы с восемью A100 и NVLink.
Техногиганты нарастили инвестиции в дата-центры
План инвестиций большой четвёрки техногигантов в дата-центры вырос на 160 миллиардов долларов всего за полгода.
Почему Apple может выиграть от ИИ-бума
Рост стоимости памяти и спрос на локальные модели могут усилить позиции Apple в цепочке ИИ-вычислений.
Модель повторяют за недели, трансформаторы ждут четыре года
Открытые модели Китая показывают: дефицитом в ИИ становятся не алгоритмы, а энергия, трансформаторы, турбины, память и чипы.
Ультраскорость для больших моделей на Cerebras
Почему возможность запускать большой вариант будущей GPT-модели на чипах Cerebras может стать важным сдвигом.
QWEN на китайских серверах и цензура
Практическое наблюдение: QWEN с серверов Alibaba может часто отказывать из-за цензуры, хотя остаётся сильной open-source моделью для локального размещения.
Cursor Composer можно запускать в 6 раз дешевле
Как Fast и Standard режимы Cursor Composer 2.5 меняют экономику фоновых задач и почему скорость не всегда важнее цены.
OpenAI и Cerebras как ставка на собственный compute
Почему контракт OpenAI с Cerebras выглядит как стратегическая страховка от дефицита вычислений.
AI-гантель: гигантские и маленькие модели
Почему в экономике ИИ одновременно выигрывают гиперскейл-модели и сверхкомпактные модели, а середина пустеет.
$650 млрд на ИИ-дата-центры
Как расходы крупнейших техкомпаний на AI-инфраструктуру показывают масштаб гонки за вычислительными мощностями.
Дата-центры на орбите
SpaceX запросил разрешение на миллион спутников-датацентров, но орбитальным вычислениям мешает физика охлаждения.
Nvidia покупает Groq за $20 млрд
Сделка Nvidia с Groq усиливает её позиции на рынке быстрого инференса LLM и подчёркивает важность специализированных ИИ-чипов.
Инфраструктура для мультиагентных систем
YC видит потенциал в инфраструктуре, которая оркестрирует сотни ИИ-агентов, даёт трассировку и управляет доступом к данным.
Железо становится лучше, а софт делает его ещё лучше
Оптимизации компиляторов, MoE и обслуживающего софта могут дать ИИ-инфраструктуре больший прирост, чем смена поколения чипов.
Рабочие для AI-экономики
YC предлагает стартапам переобучать рабочие профессии для строительства ИИ-инфраструктуры через короткие практические программы.
Гиганты массово идут в спецчипы для ИИ
Qualcomm, AWS, Google и Meta развивают специализированное железо для инференса, ускоряя и удешевляя работу больших моделей.
Собираем домашний LLM‑сервер
Почему для домашнего LLM-сервера мини‑ПК с внешней GPU практичнее Nvidia DGX Spark.
OpenAI остаётся гигантской R&D-лабораторией
Большая часть расходов OpenAI направлена на обучение новых моделей, а не на обслуживание ChatGPT и API.
Гигаватты для ИИ: не из розетки
ИИ-дата-центры всё чаще строят с собственной генерацией, потому что присоединение к сетям и новые ЛЭП требуют лет.
Новая валюта ИИ — гигаватты, а не гигафлопсы
Развитие ИИ упирается в доступ к электроэнергии: мощности дата-центров становятся важнее абстрактных FLOPS.
Поиск и все материалы раздела — в общей ленте.
КОНТАКТЫ
Обсудим ИИ-трансформацию вашей компании.
Напишите через форму на сайте или напрямую в Telegram. Быстро поймём, где ИИ может дать эффект, какой формат подойдёт руководителю или команде и с чего начать.
Менторская консультация
60 000 ₽
- Диагностика процессов и задач под ИИ
- Выбор первых внедрений с понятным эффектом
- Подбор инструментов: Искра, модели, сервисы и автоматизации
- План действий на 30 / 60 / 90 дней