Nvidia, dev yapay zeka modellerini bulutsuz çalıştıran PC’yi satışa sunuyor

Nvidia, PC üreticilerinin DGX Station üniteleri için sipariş almaya başladığını açıkladı. Şirketin web sitesinde, altı şirketten (Asus, Dell, HP, Gigabyte, MSI ve sunucu sağlayıcısı Supermicro) altı yeni modelin kataloğu yer alıyor. Tüm üniteler kendi isimleriyle geliyor ve masaüstü kule kasalarında paketlenmiş durumda. Ancak fiyatlandırma belirsiz. Satıcılar, ilgilenen müşterilerden iletişim bilgilerini içeren bir form doldurmalarını istiyor. Şirketler daha sonra daha fazla ayrıntı ile geri dönüş yapacak. Nvidia, alıcıların DGX Station ünitelerinin birkaç hafta içinde gönderilmeye başlanacağını söyledi.
Nvidia DGX Station: Trilyonlarca parametreli yapay zeka modellerini bulut teknolojisi olmadan çalıştıran süper bilgisayar
Bir yıl önce tanıtılan DGX Station, temelde yapay zeka modellerini yerel olarak çalıştırabilen 4.000 dolarlık mini PC DGX Spark’ın daha güçlendirilmiş sürümü. Taşınabilir DGX Spark, daha küçük GB10 Grace Blackwell çipi ve 128 GB RAM’e sahip olup, 200 milyar parametreye kadar yapay zeka modellerini çalıştırabiliyor. Buna karşılık, DGX Station daha büyük Nvidia GB300 çipi ve işlem ve grafik bölümleri arasında paylaşılan şaşırtıcı 748 GB belleğe sahip. Nvidia, işlem gücünün 1 trilyona kadar parametreye sahip daha büyük ve daha gelişmiş yapay zeka modellerini çalıştırmak için yeterli olduğunu söylüyor.
Ancak DGX Spark gibi, daha büyük olan DGX Station’ın da pahalı olması neredeyse kesin ve kurumsal kullanıcılara yönelik olarak pazarlanıyor. DGX Station’ın geçen yıl piyasaya sürülmesi bekleniyordu ancak bu bahara ertelendi. Nvidia, GB300 çipini ve anakartını bir masaüstü kasaya yerleştirmenin zorlu bir işlem olduğunu da belirtiyor.
Şirket, ürünü üçüncü taraf sunucu sağlayıcısına ödeme yapmak yerine, masaüstlerinde büyük dil modelleri (LLM’ler) çalıştırmak isteyen yapay zeka araştırmacılarına ve yazılım geliştiricilerine pazarlıyor. Nvidia, DGX Station’ın birden fazla yapay zeka ile ilgili görevi eş zamanlı olarak çalıştırmak da dahil olmak üzere, hızlı performans sağlarken modelin özel olarak çalışmasını sağlayabileceğini söylüyor. Şirket ayrıca, aynı makinenin yerel ağ üzerinden ekipler için isteğe bağlı bilgi işlem düğümü olarak da paylaşılabileceğini ekledi.
DGX Station teknik özellikleri
- NVIDIA GPU: 1x NVIDIA Blackwell Ultra
- NVIDIA CPU: 1x Grace 72-Core Neoverse V2
- GPU Memory: 252 GB HBM3e | 7.1 TB/s
- CPU Memory: 496 GB LPDDR5X | 396 GB/s
- NVLink-C2C: 900 GB/s
- Networking | Peak Bandwidth: NVIDIA ConnectX-8 SuperNIC | Up to 800 Gb/s | Ethernet
- Desteklenen işletim sistemleri: Ubuntu, NVIDIA AI Developer Tools
- MIG: 7
- FP4 Tensor Core: 20 | 153 PFLOPS
- FP8 / FP6 Tensor Core: 10 PFLOPS
- Int8 Tensor Core: 330 TOPS
- FP16/BF16 Tensor Core: 5 PFLOPS
- TF32 Tensor Core: 2.5 PFLOPS
- FP32: 80 TFLOPS
- FP64 / FP64 Tensor Core: 1.3 TFLOPS
- Sistem gücü: 1.600 W
- Decoders: 7 NVDEC, 7 nvJPEG
- Desteklenen RTX PRO GPU: NVIDIA RTX PRO 6000 Workstation Edition, RTX PRO 6000 Blackwell Max-Q Workstation Edition, RTX PRO 4000 Blackwell SFF Edition, RTX PRO 2000 Blackwell
- Depolama: 4x M.2 Gen 5 Slots
- Ethernet portları: 2x QSFP112 (400 Gbs port başı), 1x RJ45 10 GbE, 1x RJ45 1 GbE (BMC for system management)
- PCIe yuvaları: 1x PCIe Gen 5 x16, 2x PCIe Gen 5 x16 (x8 electrical)
- Diğer portlar Önde (2x USB Type C (USB3.1), 2x USB Type A (USB3.1), Ses), Arkada (4x USB Type A, USB Micro-B (BMC) mDP5 (BMC), Ses)








