DeepSeek inference ASIC и стек Alibaba T-Head Zhenwu — bandwidth и throughput 2026

DeepSeek строит свой inference ASIC? Reuters июль 2026, Alibaba T-Head и глобальная гонка throughput

7 июля 2026, Reuters (CNA, Business Times, Japan Times) сообщает: DeepSeek на ранней стадии проектирует custom inference accelerator, чтобы снизить зависимость от Nvidia и Huawei Ascend. Проект ~1 года, переговоры с design house / foundry / memory vendors, тихий найм silicon engineers — без публичного roadmap. Это не press release, а сигнал: после OpenAI Jalapeño (TSMC 3nm, ~50% inference cost↓ в lab) китайский efficiency-leader идёт в тот же vertical stack. Параллельно Alibaba T-Head отгрузил 560 000+ Zhenwu, M890 даёт 800 GB/s ICN и 144 GB HBM3. Ниже — evidence chain, bandwidth-матрицы, пять драйверов silicon, inference vs training, риски SMIC/HBM и практика: как держать Metal throughput baseline на удалённом Mac, пока ASIC не в production.

TL;DR

  • Reuters 07.07: inference-only, early stage, ~1 year, anonymous sources — DeepSeek молчит.
  • ~70% AI compute 2026 — serving; MoE decode memory-bound.
  • Funding ~$7.4B (valuation $52–59B) — runway, не guarantee tape-out.
  • T-Head: 810E → M890 (3×), V900/J900 roadmap, CUDA-compat, IPO track.
  • Действие: bandwidth matrix → gateway → Metal/ds4 soak → SFTPMAC 24/7 node.

1. Три bottleneck для inference-инженера в июле 2026

  1. Memory bandwidth, не peak FLOPS. MoE decode активирует 2–8 experts на token; sustained tokens/s упирается в HBM GB/s и KV-cache layout. GPU с высоким TFLOPS но 700 GB/s проигрывает ASIC с co-designed data path — логика Jalapeño и заявленного DeepSeek ASIC.
  2. Domestic premium 30–40%. Alibaba Cloud, Tencent, ByteDance платят надбавку за Ascend/Zhenwu vs гипотетический unrestricted Nvidia — маржа API DeepSeek сжимается без own silicon.
  3. Rumor-to-silicon lag 24+ months. Jalapeño: 9 месяцев tape-out с Broadcom + TSMC N3. DeepSeek target — SMIC-class node + uncertain HBM — structural throughput gap vs US hyperscalers до смены export policy.

2. Evidence chain Reuters: факты vs неизвестные

Три источника, близких к проекту (Reuters 07.07.2026):

  • Scope: inference only — post-training serving, не pretrain clusters.
  • Age: ~12 месяцев R&D; early — outreach к foundry/memory.
  • Hiring: chip design engineers без массовых public job posts.
  • Current stack: Nvidia history (H800 pre-ban) + Huawei Ascend; V4 Ascend build апрель 2026 вызвал rush заказов у ByteDance/Tencent/Alibaba.
  • Official: zero — DeepSeek не комментирует.

Unknowns: process node, HBM supplier, tape-out date, compatibility layer (CUDA-like vs custom runtime). Media speculate SMIC 7nm — unconfirmed.

3. Liang Wenfeng: 4× compute и embargo — контекст, не spec sheet

Основатель Liang Wenfeng (梁文锋) не связал цитаты с chip rumor. Релевантные фрагменты интервью 2024 (ChinaTalk, Sipoch):

«Сначала gap в training efficiency — ~2× compute vs лучшие зарубежные
структуры. Плюс ~2× в data efficiency. Итого 4× compute для паритета.
Наша задача — сужать gap.»

«Краткосрочного fundraising нет. Проблема не деньги — embargo на high-end chips.»

Май 2026: при релизе модели упоминался data format под «скоро выходящие domestic chips» — software/hardware co-design hint. Связь с Reuters — аналитическая, не официальная.

Round ~$7.4B (Reuters: valuation $52–59B) меняет cash constraint, не foundry access.

4. Alibaba T-Head: silicon stack, bandwidth и CUDA-compat

T-Head (平头哥): основан 2018 (Damo + C-Sky). Стратегия 2026 — «Cloud + AI + Chip» (Joe Tsai, Eddie Wu shareholder letter; CEO Wu Yongming 吴泳铭 на Cloud Summit).

Chip Memory Inter-chip BW Precision / notes
Hanguang 800 on-die N/A 825 TOPS INT8, 78 563 IPS ResNet-50 (2019)
Zhenwu 810E 96 GB HBM2e 700 GB/s PPU arch; ~H20 class (claim); Jan 2026 launch
Zhenwu M890 144 GB HBM3 800 GB/s 3× vs 810E; FP32–FP4; 64-chip ICN Switch 1.0 full BW
Zhenwu V900 216 GB (plan) 1200 GB/s (plan) Q3 2027; UiT architecture for agentic workloads
Zhenwu J900 TBD TBD Q3 2028 roadmap

Shipped: 560 000+ units, 400+ enterprise customers. Revenue: billions RMB. CUDA compatibility заявлена для migration с Nvidia. Capital: registered capital ¥1B (June 2026). IPO spinoff (Jan 2026, Bloomberg). Fab: TSMC historical + SMIC для domestic lines — export-control shaped.

5. Пять драйверов custom ASIC (economics first)

  1. Unit economics: inference Opex > training Capex в 2026; ASIC снижает $/1M output tokens.
  2. Supply chain: Entity List, HBM export controls — own design = второй source.
  3. Co-design: MoE routing + kernel fusion под конкретный memory hierarchy.
  4. Bargaining: даже при покупке Nvidia наличие ASIC давит на pricing.
  5. Perf/W: datacenter power caps; Jalapeño narrative — «substantially better» perf/watt.

6. Inference vs training: разная физика нагрузки

Параметр Training Inference (DeepSeek ASIC target)
Compute pattern Dense matmul, all-reduce Sparse MoE, autoregressive decode
Bottleneck Cluster scale, interconnect HBM bandwidth, KV cache size, batching
Доля compute 2026 ~30% ~70%
Typical silicon Nvidia H100/B200, Ascend 910 ASIC: Jalapeño, TPU, Zhenwu, (DeepSeek WIP)
Cost sensitivity One-time cluster build Per-token marginal — прямо в API price

7. Матрица прогресса — июль 2026

Player Silicon Node / BW Status
DeepSeek Inference ASIC (unnamed) SMIC? / HBM TBD Reuters rumor, year 1
Alibaba T-Head Zhenwu M890 144GB, 800 GB/s 560K shipped, production
Huawei Ascend 910B/C Domestic stack ~50% CN accelerator share (est.)
OpenAI Jalapeño TSMC 3nm Tape-out; Azure EOY 2026
Google TPU v6/v7 In-house Gemini serving live
Amazon Trainium2 / Inferentia In-house AWS internal
Microsoft Maia 100 In-house Azure pilots
Meta MTIA v2 In-house Gradual deploy
Anthropic Samsung 2nm pact ~$19B capacity Long-horizon inference
Zhipu Partner cloud silicon N/A GLM API; no own fab

8. Глобальная волна: не только КНР

Паттерн идентичен: model maker → custom silicon → capture serving margin. US: Jalapeño, TPU, Inferentia, Maia, MTIA. CN: Zhenwu, Ascend, Kunlun, DeepSeek WIP. Для RU/EU инженера вывод: multi-vendor routing сейчас, не после появления silicon.

9. Metal и throughput: локальный baseline до datacenter ASIC

Пока DeepSeek ASIC в R&D, измеримый leverage — Apple Silicon UMA + Metal:

  • Нет PCIe host↔GPU: unified memory снижает copy overhead KV-cache — релевантно для сравнения memory-bound decode с cloud API latency.
  • ds4 + q2-imatrix: DwarfStar 4 на Mac Studio 128GB даёт OpenAI-compatible endpoint; sustained tokens/s при ctx 100k+ — baseline против V4-Flash API ($0.09/M input).
  • Soak tests 24/7: Agent loops ломаются на laptop sleep; нужен launchd + стабильный uplink — см. ds4 rent vs buy matrix.
  • Не замена Zhenwu: Metal local — eval/CI/gateway tier, не petabyte training; цель — predictable p95 и egress control, не datacenter TFLOPS.
# Пример smoke-test throughput (ds4-server)
./ds4-server --ctx 100000 --kv-disk-dir /data/kv --model deepseek-v4-flash-q2
# Зафиксировать: tokens/s (sustained 10 min), TTFT p95, power draw

10. Риски и unknowns

  • Time: competitive ASIC 3–5 years; DeepSeek year 1.
  • SMIC vs TSMC: N3 vs 7nm-class — throughput ceiling structural.
  • HBM: Reuters: talks with memory vendors; no signed supply.
  • Entity List: US approval reported held (2026) — API/cloud risk orthogonal to silicon success.
  • MoE fit: custom silicon wins only if routing/kernel stack co-evolves — DeepSeek strength, unproven in RTL.

11. HowTo: пять шагов для production stack

  1. Workload taxonomy — agent / batch / interactive; % inference, batch size, context length.
  2. Bandwidth matrix — M890 800 GB/s vs API RTT vs Metal UMA local; найти реальный bottleneck.
  3. Multi-vendor gateway — DeepSeek + fallbacks; quota hedging до Jalapeño GA.
  4. Metal soak baseline — ds4/MLX eval на dedicated Mac; SFTP sync datasets и scripts.
  5. Quarterly gate — V900 Q3 2027, DeepSeek tape-out news, API price changes.

12. Цифры для цитирования

  • Inference share: ~70% AI compute 2026 (industry est.).
  • DeepSeek API: V4-Flash $0.09/M in; V4-Pro $0.435/M in (post −75% May 2026).
  • Zhenwu M890: 144GB HBM3, 800 GB/s, 3× 810E (May 2026 Summit).
  • T-Head: 560K units, 400+ clients, ¥1B capital.
  • Jalapeño: TSMC 3nm, 9mo tape-out, ~50% inference cost↓ (Hock Tan, lab).
  • CN accelerator market: ~$50B; Huawei ~50%, T-Head ~5% (media est.).
  • DeepSeek round: ~$7.4B at $52–59B valuation (Reuters 2026).

13. FAQ

Официальный анонс? Нет.

Inference only? Да, по Reuters.

T-Head partnership? Не подтверждено.

4× compute? Liang 2024 interview — efficiency gap, не chip spec.

ETA silicon? 2027–2028+ speculative.

Metal vs ASIC? Local eval/gateway; ASIC — datacenter scale.

14. Источники

Независимый tech brief. Не investment advice. Не подтверждение продукта DeepSeek. Обновлено: 2026-07-09.

15. Мост SFTPMAC: 24/7 Metal node пока ASIC в fab

Reuters rumor + T-Head 560K shipment = один вывод: до 2027–2028 production ASIC вы контролируете API routing и локальный throughput baseline. Laptop с sleep убивает Agent soak; покупка Mac Studio 128GB после +33.3% Apple (июнь 2026) бьёт по TCO коротких проектов.

SFTPMAC удалённый Mac — Apple Silicon UMA, Metal, launchd 7×24, SSH/SFTP для eval-артефактов: ds4 endpoint, OpenClaw multi-model gateway, regression против DeepSeek API. Datacenter ASIC обещает $/token↓ в 2028; dedicated Mac node даёт измеримый p95 и egress control сегодня — без ожидания tape-out Hangzhou.