proxmox
تشغيل كرتين MI50 16GB مع vLLM: المشكلة والحل
تشغيل كرتين MI50 16GB مع vLLM: من مشكلة RCCL إلى مذربورد X99-F8D Plus، وتشغيل Qwen3.8 27B بسرعة 21 توكن بالثانية بدون MTP، و74-81 توكن بالثانية مع DFlash2.
Sami
Sami
مدة القراءة: 4 دقائق
تشغيل كرتين MI50 16GB مع vLLM: من مشكلة RCCL إلى مذربورد X99-F8D Plus، وتشغيل Qwen3.8 27B بسرعة 21 توكن بالثانية بدون MTP، و74-81 توكن بالثانية مع DFlash2.
Sami