Gpu
152-ФЗ
Air-Gapped
Architecture
AWQ
Benchmark
DevOps
Evals
FinOps
GGUF
Gpu
HoReCa
Iiko
Kv-Cache
LangGraph
Legal Tech
Llm-Inference
LLM-Инференс
Load-Balancing
Model-Selection
Mtp
Nginx
On-Prem
Python
Qwen
RAG
Rtx-3090
Self-Hosted
SRE
T-Pro
Tensor-Parallelism
Tokenomics
Tuning
Vllm
Автоматизация Бизнес-Процессов
Аудит ИИ-Инфраструктуры
База Знаний
Безопасность Данных
Бенчмарки
Внедрение ИИ В Бизнес
ИИ
ИИ Для 1С
Инференс
Качество
Квантизация
Корпоративный ИИ
Корпоративный ИИ On-Premise
Облако
Обучение
Окупаемость ИИ
Своё Железо vs Облако
Тономика
1 млрд токенов/сутки: финальная архитектура, тономика и что мы бы сделали по-другому
Хук: ~$4,500/год против API
1 млрд токенов в сутки. В пике. В среднем — 600–750M/сутки, ≈220–275B в год. Если бы этот объём шёл через API, он стоил бы $35–125K в год в зависимости от blended-тарифа. На нашем железе — ~$4,500/год. Вот как мы дошли до этой цифры — и как ловили себя на нечестных расчётах по пути.
1 млрд токенов/сутки: финальная архитектура, тономика и что мы бы сделали по-другому
Хук: ~$4,500/год против API
1 млрд токенов в сутки. В пике. В среднем — 600–750M/сутки, ≈220–275B в год. Если бы этот объём шёл через API, он стоил бы $35–125K в год в зависимости от blended-тарифа. На нашем железе — ~$4,500/год. Вот как мы дошли до этой цифры — и как ловили себя на нечестных расчётах по пути.
Почему мы собрали LLM-сервер, который жжёт миллиард токенов в сутки
Хук: момент, когда API стал болью
В марте 2026 мы посмотрели на счёт за Claude API — $4,200 за месяц — и поняли: наш код-агент сжигает больше токенов, чем мы зарабатываем.