DeepInfer от DeepSeek: $38 в час с видеокарты

DeepSeek выложила на GitHub DeepInfer — движок, на котором работает её API. В документации к нему компания пишет, что один кластер обслуживает 155 триллионов токенов в сутки, а выручка составляет 38 долларов на видеокарту в час. Посчитана она по ценам непикового времени, когда миллион выходных токенов V4.1 Flash стоит 0,6 доллара.

Цифра 38 долларов быстро разошлась по новостям, обычно без условий. Разберём, что за система открыта, откуда взялась цифра, чего в ней нет и что она говорит о цене токена для того, кто покупает доступ к модели.

Что DeepSeek выложила

DeepInfer — фреймворк инференса, на котором работает крупный продакшен DeepSeek. Первый коммит в публичном репозитории датирован 20 октября 2026 года, лицензия — Apache 2.0. К 28 октября у репозитория больше 23 тысяч звёзд.

Открытая версия ограничена.

Вместе с DeepInfer компания открыла deepseek-recipe — компонент, который переводит запросы Chat Completions, Responses и Messages в последовательность токенов и обратно так же, как официальный API. Это нужно тем, кто разворачивает модели DeepSeek у себя и хочет такого же поведения API, как у вендора.

Если термин «инференс» новый, начните с материала что такое инференс простыми словами.

Откуда цифра 38 долларов в час

Цифра — из документа с вопросами и ответами в папке doc репозитория. Дословно: один кластер сейчас обслуживает 155 триллионов токенов в сутки при общей выручке 38 долларов на видеокарту в час, по ценам непикового времени.

Три уточнения, которые теряются в пересказах.

Это выручка, а не прибыль. Сколько DeepSeek платит за час работы видеокарты, в материалах нет. Оценки маржи, которые гуляют по новостям, — расчёты сторонних авторов на своих допущениях о цене аренды.

Посчитано по нижнему прайсу. У DeepSeek непиковая цена вдвое ниже пиковой. Если выручка в 38 долларов посчитана так, как будто весь трафик оплачен по непиковым ценам, реальная выручка может быть выше. Как именно DeepSeek пересчитывала смешанный трафик, в документе не сказано.

Это один кластер, а не вся компания. Сколько в нём видеокарт и какая доля трафика у него — тоже не раскрыто.

Что эта цифра значит в токенах

Для порядка величин — наша арифметика, а не данные DeepSeek. 38 долларов в час по непиковым ценам V4.1 Flash — это примерно 63 миллиона выходных токенов, или 253 миллиона входных без попадания в кэш, или 12,7 миллиарда токенов из кэша.

В реальности трафик смешанный, и большая часть входа у такого сервиса — попадания в кэш, которые стоят в 50 раз дешевле промаха. Поэтому сам по себе пересчёт мало что говорит о производительности, но показывает главное: при ценах в десятки центов за миллион видеокарта должна обрабатывать десятки миллионов токенов в час, чтобы окупаться.

В таблице замеров из того же документа одна видеокарта в конфигурации из 64 штук выдаёт около 14,5 тысячи токенов в секунду при 60 параллельных запросах. Это около 52 миллионов токенов в час — тот самый порядок.

Как DeepSeek этого добивается

Документ подробный, выделим то, что объясняет экономику.

Разделение стадий. Обработка входа (prefill) и генерация (decode) идут на разных машинах. Вход — на обычных серверах по 8 видеокарт, генерация — на узлах по 64–128 видеокарт. Минимальная эффективная единица — 64 видеокарты на вход плюс 64 на генерацию.

Кэш на дисках, а не в памяти. KV-кэш хранится на отдельном кластере 3FS объёмом около 100 ПиБ SSD. Срок жизни — 3 суток для агентского трафика и 7 суток для чат-бота. У чат-ботов длинный хвост повторных попаданий, и сокращение до 3 суток стоило бы им 0,5–1% попаданий.

Спекулятивное декодирование. Черновая модель предлагает 5 токенов, а отдельный блок оценивает, какие из них скорее примут, и проверяет только их. Это даёт 4–7% пропускной способности в рабочей точке.

Балансировка. По словам DeepSeek, система достигает примерно 80% от идеально сбалансированного офлайн-замера.

Похожую стратегию — собственная инфраструктура под свои модели — выбрала и Z.ai: об этом материал про инференс GLM у Z.ai.

Можно ли запустить DeepInfer у себя

Можно, если у вас кластер, а не сервер. Требования из README: Linux, GCC 13, Python 3.12, CUDA 13 для NVIDIA или CANN 9.2 для Ascend. Веса DeepSeek-V4.1-Flash-1017 при первом запуске скачиваются с Hugging Face.

Но открытый релиз — это офлайн-инференс. Чтобы получить сервис, как у DeepSeek, нужно самому дописать хранилище KV-кэша, разнос стадий по машинам и балансировку между репликами. Компоненты кэша и балансировки, по словам DeepSeek, слишком тесно связаны с её внутренней инфраструктурой, и их устройство описано в статье DeepSeek на Zhihu и в том же документе с вопросами и ответами.

Замеры в README сделаны на 4 видеокартах SM100 для обработки входа и на 64 — для генерации. Это ориентир масштаба, на котором движок раскрывается.

Что релиз меняет для рынка

Открытые веса без движка дают модель, но не экономику вендора: оптимизации, на которых держится цена токена, до сих пор оставались внутри компании.

DeepInfer сокращает этот разрыв. По словам DeepSeek, внутренние версии ядер почти не отличаются от открытых, а разница сквозной производительности — не больше 5%. Если это подтвердится на практике, облака и хостеры смогут предлагать V4.1 Flash по ценам ближе к вендорским.

Второе следствие — железо. Поддержка Huawei Ascend 950 наравне с NVIDIA означает, что движок рассчитан и на рынок, где доступ к видеокартам NVIDIA ограничен.

Почему кэш у DeepSeek такой дешёвый

Из документа становится понятно, откуда соотношение цен на странице тарифов. Попадание в кэш у V4.1 Flash стоит 0,003 доллара за миллион в непиковые часы, промах — 0,15. Разница в 50 раз.

Объяснение — в архитектуре. Вычисленный кэш лежит на дисках днями, и при попадании видеокарта не пересчитывает префикс, а подгружает его. Чтение с SSD обходится несравнимо дешевле, чем повторный прогон модели. Поэтому для агентов, которые многократно отправляют одну и ту же длинную историю, тариф DeepSeek с кэшем очень выгоден.

Обратная сторона — тарифы по часам. Пик у DeepSeek в будни с 01:00 до 04:00 и с 06:00 до 10:00 по UTC, и в эти часы всё вдвое дороже. Как это устроено, мы разбирали в материале DeepSeek ввёл тариф по часам.

Что цифра говорит о цене инференса

Главный вывод: открытая модель на хорошо загруженном кластере может стоить центы за миллион токенов и при этом приносить выручку, сопоставимую с арендой видеокарты. Себестоимость DeepSeek не раскрывает, поэтому сказать «это прибыльно» мы не можем. Но направление понятно: цена токена определяется не только моделью, а загрузкой железа, долей попаданий в кэш и тем, насколько ровно распределены запросы.

Для покупателя отсюда два следствия.

Цена у вендора — нижняя граница, а не константа. Её можно опускать, пока растёт эффективность движка. Ставку, которую вы видите сегодня, через квартал вполне могут пересмотреть.

Свой кластер окупается только при большом потоке. 128 видеокарт как минимальная эффективная единица — это не инструмент для стартапа. При неровной нагрузке простой съедает экономию. Сравнить варианты помогает материал локальная нейросеть или API.

Сколько модели DeepSeek стоят в KeyDealer по сравнению с прайсом DeepSeek

Если вам нужна модель DeepSeek в продукте, а не свой кластер, KeyDealer даёт её по одному ключу с оплатой российской картой в рублях и одной ставкой на все сутки: deepseek-v4-flash по 9 ₽ и deepseek-v4-pro по 5 ₽ за миллион токенов входа и выхода, без пиковых часов.

Прайс DeepSeek пересчитан по курсу ЦБ на 28 октября 2026 года, 80,5307 ₽ за доллар. У DeepSeek Flash сейчас обслуживается моделью V4.1-Flash-1017; о том, что старое имя deepseek-v4-flash у вендора ведёт на новую модель, мы писали в материале DeepSeek отключила V4 Flash.

На позициях маршрута 2 к каждому запросу добавляется служебный контекст около 5000 токенов, он оплачивается как вход; подробно — в материале про служебный контекст маршрута.

Обычный запрос на 20 тысяч токенов входа без попадания в кэш и 2 тысячи выхода. Flash у DeepSeek — около 0,34 ₽ в непик и 0,68 ₽ в пик, у нас на deepseek-v4-flash около 0,20 ₽, на маршруте 2 около 0,22 ₽. V4 Pro у DeepSeek — около 1,38 ₽ в непик и 2,76 ₽ в пик, у нас около 0,11 ₽ и 0,30 ₽ на маршруте 2.

Агентский запрос с кэшем: те же 20 тысяч входа, из них 18 тысяч попадают в кэш. Flash у DeepSeek в непик — около 0,13 ₽. На deepseek-v4-flash у нас по-прежнему около 0,20 ₽, а на маршруте 2 — 0,22 ₽, то есть на обеих позициях дороже вендора. Попадание в кэш у нас стоит как обычный вход, и на нагрузке почти из одних попаданий прайс DeepSeek может оказаться выгоднее. Как работает кэш промптов и почему он есть не везде — в материале кэш промптов.

Чего мы не утверждаем

Мы не утверждаем, что DeepSeek зарабатывает на инференсе. В материалах названа выручка, себестоимость не названа. Маржу из этих данных честно посчитать нельзя.

Мы не запускали DeepInfer сами. Описание возможностей и замеры взяты из репозитория и документации DeepSeek. Как движок поведёт себя на другом железе и другом трафике, мы не проверяли.

Мы не гарантируем актуальность цен DeepSeek. Вендор прямо оставляет за собой право менять прайс, а часы пика уже менялись. Перед расчётом бюджета сверяйтесь со страницей тарифов.

Что держать в голове

Первое. 38 долларов в час — это выручка одного кластера по нижнему прайсу, а не прибыль и не средняя по отрасли. Пересказ без условий превращает аккуратную цифру в лозунг.

Второе. Дешёвый токен у DeepSeek держится на инженерии: разделение стадий, кэш на дисках днями, плотная загрузка железа. Повторить это без потока в десятки миллионов токенов в час на видеокарту не получится.

Третье. Для покупателя считать нужно не ставку, а свой профиль: долю попаданий в кэш, часы нагрузки и служебный контекст маршрута. Что мы за проект — на странице о проекте, ключ заводится на keydealer.ru/login.