Object storage cho AI: bài học từ hạ tầng lưu trữ của Meta thời Muse
Object storage cho AI qua siêu cụm Prometheus của Meta, nơi huấn luyện Muse: BLOB đa tầng, cache, checkpoint và bài học cho doanh nghiệp Việt Nam.
Read More
Hạ tầng AI
Làm mát lỏng DLC cho máy chủ GPU Supermicro: khi nào cần
Khi nào máy chủ GPU Supermicro cần làm mát lỏng DLC: công suất GPU, giới hạn làm mát bằng khí, CDU, nước ấm 45°C và cây quyết định cho phòng máy AI.
Read More
Chia sẻ máy chủ GPU Supermicro cho nhiều phòng ban với Rafay
Cách chia sẻ máy chủ GPU Supermicro cho nhiều phòng ban với Rafay GPU PaaS: quota theo phòng ban, MIG hay time-slicing, tự phục vụ và chargeback.
Read More
Phân tầng lưu trữ KV cache cho suy luận AI: từ HBM đến S3
Lưu trữ KV cache cho suy luận AI: các tầng G1–G4 từ GPU, RAM, NVMe tới storage dùng chung, cách tính dung lượng và chọn tầng theo khối lượng công việc.
Read More
Mạng cho cụm máy chủ GPU: chọn InfiniBand hay Ethernet
Mạng cho cụm máy chủ GPU: bốn lớp mạng, khi nào cần mạng compute riêng, so sánh InfiniBand và Spectrum-X Ethernet, cấu hình theo quy mô.
Read More- 1
- 2
Value-Added-Distributor