1 млрд токенов/сутки: финальная архитектура, тономика и что мы бы сделали по-другому

Wed, 02 Sep 2026 00:00:00 +0000

Хук: ~$4,500/год против API

1 млрд токенов в сутки. В пике. В среднем — 600–750M/сутки, ≈220–275B в год. Если бы этот объём шёл через API, он стоил бы $35–125K в год в зависимости от blended-тарифа. На нашем железе — ~$4,500/год. Вот как мы дошли до этой цифры — и как ловили себя на нечестных расчётах по пути.

Почему мы собрали LLM-сервер, который жжёт миллиард токенов в сутки

Fri, 14 Aug 2026 00:00:00 +0000

Хук: момент, когда API стал болью

В марте 2026 мы посмотрели на счёт за Claude API — $4,200 за месяц — и поняли: наш код-агент сжигает больше токенов, чем мы зарабатываем.

Gpu on CodeOnTime

1 млрд токенов/сутки: финальная архитектура, тономика и что мы бы сделали по-другому

Хук: ~$4,500/год против API

Почему мы собрали LLM-сервер, который жжёт миллиард токенов в сутки

Хук: момент, когда API стал болью