Architecture

152-ФЗ Air-Gapped Architecture AWQ Benchmark DevOps Evals FinOps GGUF Gpu HoReCa Iiko Kv-Cache LangGraph Legal Tech Llm-Inference LLM-Инференс Load-Balancing Model-Selection Mtp Nginx On-Prem Python Qwen RAG Rtx-3090 Self-Hosted SRE T-Pro Tensor-Parallelism Tokenomics Tuning Vllm Автоматизация Бизнес-Процессов Аудит ИИ-Инфраструктуры База Знаний Безопасность Данных Бенчмарки Внедрение ИИ В Бизнес ИИ ИИ Для 1С Инференс Качество Квантизация Корпоративный ИИ Корпоративный ИИ On-Premise Облако Обучение Окупаемость ИИ Своё Железо vs Облако Тономика

1 млрд токенов/сутки: финальная архитектура, тономика и что мы бы сделали по-другому

Хук: ~$4,500/год против API

1 млрд токенов в сутки. В пике. В среднем — 600–750M/сутки, ≈220–275B в год. Если бы этот объём шёл через API, он стоил бы $35–125K в год в зависимости от blended-тарифа. На нашем железе — ~$4,500/год. Вот как мы дошли до этой цифры — и как ловили себя на нечестных расчётах по пути.

1 млрд токенов/сутки: финальная архитектура, тономика и что мы бы сделали по-другому

Хук: ~$4,500/год против API

1 млрд токенов в сутки. В пике. В среднем — 600–750M/сутки, ≈220–275B в год. Если бы этот объём шёл через API, он стоил бы $35–125K в год в зависимости от blended-тарифа. На нашем железе — ~$4,500/год. Вот как мы дошли до этой цифры — и как ловили себя на нечестных расчётах по пути.

Мы написали балансировщик для 4 реплик vLLM: почему NGINX не работает для LLM

Хук: NGINX не понимает LLM

NGINX round-robin для LLM — это как раздавать билеты в кино: кто пришёл, тот сел. Но LLM-запросы — не билеты.

Расскажите о задаче

Ответим с планом и оценкой в течение 24 часов.