AMD MI50
كرتين MI50 (الجزء الثالث): DeepSeek-V4.1-Flash بحجم 552 مليار بارامتر على كرتين من 2018
جربت ثلاث محركات عشان أشغّل DeepSeek-V4.1-Flash (موديل MoE بحجم 552 مليار بارامتر) على كرتين AMD MI50 بـ 16 جيجا. نقلت محرك Project Maya لكروت gfx906 ورفعت السرعة من 7 لحوالي 10 توكن بالثانية، وتعديل من 10 أسطر في طريقة قراءة جدول الـ Engram شال أسوأ التعليقات وقت التوليد. والحين كل مهام الـ agent الخمس حقتي تنجح عليه.
الوسوم:
DeepSeek, AMD MI50, ROCm, gfx906, MoE, Project Maya, Strata, Claude Code
Sami
Sami
مدة القراءة: 10 دقائق
كرتين MI50 (الجزء الثاني): من 10 إلى 74 توكن بالثانية، وكونتكست 200 ألف توكن، وكيرنلين للـ attention
كيف صلّحت DFlash2 على كروت MI50 (مشكلتين خلّت القبول صفر)، وكتبت كيرنلات مخصصة رفعت السرعة لـ 74 توكن بالثانية، ووصلت كونتكست 200 ألف توكن لـ Hermes و opencode، وكتبت كيرنلين للـ attention خلّوا هالكونتكست سريع، وجهزت التصليحات كـ PR للمشروع.
الوسوم:
vLLM, AMD MI50, ROCm, gfx906, Qwen, Speculative Decoding, Claude Code
Sami
Sami
مدة القراءة: 10 دقائق