Jak se suverenita dat a výpočetní výkon stávají strategickými faktory pro podniky zavádějící AI, roste poptávka po privátní on-premises AI infrastruktuře. V reakci na tento trend společnost QNAP Systems, Inc., přední inovátor v oblasti výpočetní techniky, sítí a úložných řešení, představila QAI-h1290FX, Edge AI úložný server nové generace navržený pro podporu privátního nasazení rozsáhlých jazykových modelů (LLM), vyhledávačů Retrieval-Augmented Generation (RAG) a generativních AI aplikací.
Postavený na serverovém procesoru AMD EPYC, s podporou akcelerace NVIDIA RTX GPU a dvanácti sloty pro U.2 NVMe/SATA SSD, QAI-h1290FX poskytuje vysoce výkonnou on-prem AI infrastrukturu pro organizace, které požadují nízkou latenci při inferenci, plnou ochranu dat a kontrolu nad provozem – bez závislosti na cloudu.
Poháněný operačním systémem QuTS hero na bázi ZFS od QNAP, QAI-h1290FX nabízí integritu dat na podnikové úrovni, téměř neomezený počet snímků a inline deduplikaci. Podporuje nativní přístup ke GPU v kontejnerech prostřednictvím Container Station a GPU passthrough pro virtuální stroje pomocí Virtualizační Stanice. IT týmy, vývojáři a výzkumné skupiny mohou efektivně provozovat inferenční modely, generativní AI aplikace a RAG pipeline (datové toky) s plnou kontrolou nad výkonem a alokací zdrojů. QAI-h1290FX obsahuje pečlivě vybranou sadu předinstalovaných AI nástrojů, jako jsou AnythingLLM, OpenWebUI a Ollama, což umožňuje rychlé nasazení privátních LLM workflow. Další AI aplikace jako Stable Diffusion, ComfyUI, n8n a vLLM jsou postupně integrovány pro rozšíření funkcí. To uživatelům umožňuje rychle budovat on-prem AI platformy a automatizovat pracovní postupy v bezpečném, škálovatelném a plně kontrolovaném prostředí.
„QAI-h1290FX splňuje rostoucí poptávku po lokální AI infrastruktuře,“ uvedl Oliver Lam, produktový manažer společnosti QNAP. „Chtěli jsme odstranit překážky při sestavování GPU pracovních stanic, instalaci nástrojů a konfiguraci složitých prostředí. S QAI-h1290FX mohou uživatelé nasadit a spouštět své AI modely ihned po vybalení – s plnou kontrolou nad svými daty a bez závislosti na cloudu.“
Klíčové vlastnosti QAI-h1290FX
- All-flash úložiště: Dvanáct slotů pro U.2 NVMe/SATA SSD umožňuje ultrarychlé I/O pro vysokofrekvenční spouštění AI modelů a streamování dat.
- 16jádrový procesor AMD EPYC 7302P: Poskytuje 32 vláken serverového výpočetního výkonu – ideální pro AI inference, virtualizaci a náročné paralelní úlohy.
- Architektura připravená pro GPU: Podporuje volitelnou grafickou kartu pro pracovní stanice GPU NVIDIA RTX PRO 6000 Blackwell Max-Q s až 96GB paměti GPU a podporou CUDA TensorRT a akcelerace Transformer Engine – výrazně zvyšuje výkon pro lokální inference LLM, generování obrázků a pracovní zátěže hlubokého učení.
- Kontejnerové AI prostředí a správa GPU zdrojů: Podporuje Docker a LXD s intuitivním přidělováním GPU. Uživatelé mohou rychle spouštět AI nástroje přes integrované centrum AI aplikací a přidělovat GPU prostředky bez konfigurace přes příkazový řádek.
- Plně lokální nasazení bez závislosti na cloudu: Provozujte AI chatovací asistenty, vyhledávače dokumentů nebo znalostní báze plně lokálně. Uchovávejte citlivá data interně a zároveň urychlete AI pracovní postupy.
- Vysokorychlostní síť a škálovatelná architektura: Obsahuje dva porty 25GbE a dva porty 2,5GbE. Sloty PCIe podporují volitelné rozšíření na 100GbE. Kompatibilní s QNAP rozšiřujícími JBOD jednotkami pro rozsáhlé ukládání AI dat.
Přehled případů využití
- Interní AI asistenti / lokální chatovací aplikace: Nasazujte konverzační AI rozhraní pro vyhledávání znalostí, školení zaměstnanců a dotazy na firemní pravidla – vše plně pod vaší kontrolou.
- Podnikové vyhledávání RAG: Využijte soukromé RAG pipeline pro rychlé a kontextové vyhledávání ve smlouvách, reportech a interních dokumentech.
- Generování obrázků pro kreativní týmy: Spouštějte Stable Diffusion nebo ComfyUI pro designové pracovní postupy s podporou AI a generování vizuálního obsahu.
- IT automatizace řízená AI: Použijte n8n k automatizaci inferenčních úloh, generování obsahu nebo upozornění – AI snadno integrujte do firemních procesů.
S QAI-h1290FX nabízí QNAP praktickou a výkonnou cestu pro nasazení generativní AI v rámci podniku. Ať už v právním, HR, kreativním nebo IT provozu, pomáhá týmům pracovat rychleji, dodržovat předpisy a mít plnou kontrolu nad AI strategií – přímo na okraji sítě.