NPU-Beschleuniger

Atlas 300i Duo 96GB — Einzelkarte

Dual-Ascend-310B-NPU · 96 GB LPDDR4X ECC · 280 TOPS INT8 · 150 W TDP. Betreiben Sie DeepSeek V4-Flash, Qwen 72B und Llama 3 70B vollständig lokal und privat, ohne Ratengrenzen oder Abonnements.

€1,600

We are unable to ship to your location.

Bestellung und Bezahlung erfolgen derzeit auf Englisch.

Technische Daten

Gesamtspeicher 96GB LPDDR4X ECC (2× 48GB)
Architektur Dual Ascend 310B NPU
Rechenleistung 280 TOPS INT8 · 140 TFLOPS FP16
Schnittstelle PCIe Gen4 x16
Leistungsaufnahme 150W TDP
Virtualisierung Bis zu 7 virtuelle NPUs pro Prozessor
Unterstützte Modelle 70B–100B+ Parameter bei angemessener Quantisierung
Zustand Neu und unbenutzt

Der Huawei Atlas 300I Duo 96GB ist ein KI-Inferenzbeschleuniger mit zwei Chips, 96 GB LPDDR4X-VRAM (2x48 GB) und 408 GB/s Speicherbandbreite, der in erster Linie für große Sprachmodelle (LLMs) und Videoanalyse entwickelt wurde. Er bietet deutlich geringere Kosten pro GB als Konkurrenzprodukte wie die NVIDIA RTX 6000 Pro.

Wichtigste technische Daten

Architektur: ausgestattet mit 2 Ascend-310B-Prozessoren (je 16 Da-Vinci-KI-Kerne), mit bis zu 280 TOPS (INT8) und ~140 TFLOPS (FP16).
Effizienz: arbeitet mit einer geringen TDP von 150 W und passiver Kühlung, geeignet für energiebegrenzte Edge- oder Rechenzentrumsbereitstellungen.
Kompatibilität: Die Karte nutzt eine PCIe-Gen4.0-x16-Schnittstelle und unterstützt Virtualisierung, wobei jeder Prozessor in bis zu 7 virtuelle NPUs aufgeteilt werden kann.

Software-Ökosystem

Die Atlas 300i Duo läuft auf Huaweis CANN/Ascend-Stack — inzwischen eine wirklich ausgereifte Plattform, gestützt durch ernsthafte Zusagen von Alibaba und ByteDance zur kommenden Atlas 350. Zwei starke, aktiv gepflegte Wege halten die Sache heute in Bewegung:

  • CANN-Backend (llama.cpp) — weithin validiert für LLM-Inferenz im GGUF-Format

  • PyTorch über torch-npu — ein vollständiger Python-ML-Stack für Training und Feintuning

CANN OFFICIAL SITE

ASCEND PYTORCH SITE

Atlas 300i Duo 96GB — Einzelkarte — Produktdemonstration

Kompatible Plattformen

  • ✓ Taishan 200 2280 V2 (ARM) — empfohlen
  • ✓ Atlas 800 3000 — unterstützt
  • ✓ Huawei RH2288H V5 (x86) — erfordert Treiber-Neukompilierung