Mạng cho cụm máy chủ GPU: chọn InfiniBand hay Ethernet
Mạng cho cụm máy chủ GPU: bốn lớp mạng, khi nào cần mạng compute riêng, so sánh InfiniBand và Spectrum-X Ethernet, cấu hình theo quy mô.
Read More
Giải pháp
Chọn máy chủ GPU Supermicro cho suy luận GenAI: sizing VRAM
Hướng dẫn chọn máy chủ GPU Supermicro cho hạ tầng inference GenAI: tính VRAM, KV cache, so sánh GPU, cấu hình PCIe 4–8 GPU và HGX. Hỗ trợ sizing từ CSC.
Read More
Cloudian HyperStore với NVIDIA GPUDirect: 15 câu hỏi thường gặp
Cloudian HyperStore với NVIDIA GPUDirect giúp cấp dữ liệu cho GPU. Giải đáp 15 câu hỏi về hiệu năng, chi phí, bảo mật và lưu trữ cho AI.
Read More
Data Repatriation: Đưa Dữ Liệu Doanh Nghiệp Trở Về Hạ Tầng Nội Bộ
Data Repatriation: Đưa Dữ Liệu Doanh Nghiệp Trở Về Hạ Tầng Nội Bộ Giảm chi phí cloud, tăng hiệu năng AI và giành lại quyền kiểm soát dữ liệu với chiến lược Data Repatriation. Trong giai đoạn đầu chuyển đổi số, nhiều doanh nghiệp chọn public cloud vì triển khai nhanh và chi phí ban […]
Read More
Ghép nhiều máy chủ GPU: Giải pháp chạy được mô hình có kích thước lớn hơn vRAM của GPU
Phần 1 (Lựa chọn nền tảng chạy mô hình LLM phù hợp trong môi trường on-prem: vLLM hay SGlang) chắc các bạn đọc cũng có thấy chúng tôi sử dụng một số công cụ thể ghép nhiều GPU (hoặc node có GPU) lại với nhau để xử lý các bài toán: RAG, Agentic, Coding trong […]
Read More
Value-Added-Distributor