Phân tầng lưu trữ KV cache cho suy luận AI: từ HBM đến S3
Lưu trữ KV cache cho suy luận AI: các tầng G1–G4 từ GPU, RAM, NVMe tới storage dùng chung, cách tính dung lượng và chọn tầng theo khối lượng công việc.
Read More
Nvidia
Mạng cho cụm máy chủ GPU: chọn InfiniBand hay Ethernet
Mạng cho cụm máy chủ GPU: bốn lớp mạng, khi nào cần mạng compute riêng, so sánh InfiniBand và Spectrum-X Ethernet, cấu hình theo quy mô.
Read More
Chọn máy chủ GPU Supermicro cho suy luận GenAI: sizing VRAM
Hướng dẫn chọn máy chủ GPU Supermicro cho hạ tầng inference GenAI: tính VRAM, KV cache, so sánh GPU, cấu hình PCIe 4–8 GPU và HGX. Hỗ trợ sizing từ CSC.
Read More
RDMA S3: Tăng tốc AI, giảm chi phí lưu trữ
Các workload AI hiện nay ngày càng “khát dữ liệu”, đòi hỏi hệ thống lưu trữ vừa phải mở rộng lớn vừa chi phí hợp lý. Dự báo đến năm 2028, doanh nghiệp có thể tạo ra gần 400 zettabyte dữ liệu mỗi năm, trong đó khoảng 90% là dữ liệu phi cấu trúc như âm thanh, video, […]
Read More
KV Data trong GenAI là gì? Phân biệt với Data truyền thống
Tại Sao Chiến Lược Lưu Trữ Của Bạn Cần Thay Đổi? Trong kỷ nguyên GenAI bùng nổ, các doanh nghiệp thường chỉ tập trung vào sức mạnh tính toán của GPU (như Nvidia B200/H100/A100) mà quên mất một yếu tố then chốt quyết định hiệu suất: Chiến lược dữ liệu. Tại CSC Distribution, khi triển […]
Read More
Value-Added-Distributor