Блог on CodeOnTime

Ваши данные в чужих нейросетях: что это значит для 152-ФЗ и что с этим делать

Mon, 17 Aug 2026 00:00:00 +0000

Проблема

Вы подключаете «умный» инструмент — и вдруг выясняется, что ваши документы, переписки и данные клиентов уходят в чужую систему за границей. Для компании с персональными данными, банком или госсектором это не «ну, ладно» — это риск по 152-ФЗ, потеря контроля и, в худшем случае, штраф и репутация.

Где ИИ реально окупается в компании: 5 сценариев с расчётом

Mon, 17 Aug 2026 00:00:00 +0000

Проблема

«Всё про ИИ говорят, а я не понимаю, где у меня это окупится». Это не лень и не недоверие — это отсутствие расчёта. Большинство решений о внедрении ИИ принимаются на эмоциях: посмотрели демо, впечатлились, купили. А потом выясняется, что эффект — нулевой, потому что автоматизировали процесс, который и так был дешёвым.

Купили сервер с видеокартами — и что теперь? Чек-лист, прежде чем платить за ещё железо

Mon, 17 Aug 2026 00:00:00 +0000

Проблема

Типовая ситуация: компания купила сервер с видеокартами (или подписку на облако), потому что «всё про ИИ говорят». Прошло несколько месяцев, а железо стоит — никто не разворачивает, не настраивает и не доводит до состояния, при котором это окупается. И следующим шагом хочется купить ещё.

RAG: как мерить качество, чтобы «стало лучше» было числом

Sun, 16 Aug 2026 00:00:00 +0000

Проблема

«Мы добавили RAG и стало лучше» — как это проверить? Без измерений это мнение. А без числа нельзя ни дожать качество, ни показать окупаемость, ни сравнить два подхода. RAG-качество можно и нужно мерить.

Как развернуть T-Pro/Qwen в закрытом контуре: чек-лист

Sat, 15 Aug 2026 00:00:00 +0000

Проблема

Развернуть LLM в закрытом контуре — это не «поставить Docker». Нет внешнего интернета, нет доступа к Hugging Face, требования 152-ФЗ и НУЦ. Если просто скопировать инструкции из интернета, упрётесь в стену на первом же pip install. Ниже — чек-лист, который закрывает типичные провалы.

Облако vs on-prem: когда своё железо оправдано — расчёт

Fri, 14 Aug 2026 00:00:00 +0000

Проблема

«Купим GPU» или «взять в облаке» — вопрос, который решают на интуиции. Между тем это чистый FinOps-расчёт: при какой нагрузке и какой цене токена своё железо начинает дешевле облака. Без расчёта легко переплатить в обе стороны.

AWQ vs GGUF vs INT4: что выбрать под ваше железо (на примерах Qwen)

Wed, 12 Aug 2026 00:00:00 +0000

Проблема

«Нам нужна Qwen, но не влезает в VRAM». Ответ почти всегда — квантизация. Но форматов несколько: AWQ, GGUF, INT4, и каждый по-разному влияет на VRAM, качество и скорость. Выбор «на слух» приводит к тому, что модель либо не влезает, либо деградирует, либо медленнее, чем могла бы.

vLLM: как читать метрики и не обмануть себя бенчмарком

Mon, 10 Aug 2026 00:00:00 +0000

Проблема

«Мы прогнали бенчмарк и vLLM показывает 400 tok/s» — звучит убедительно, но за этим числом легко спрятать проблему. Бенчмарк LLM-инференса — это не одно число. Если читать только «средний throughput», можно принять решение о закупке железа или выборе модели, которое потом не окупится.