hisoft @invition.dev · May 19 อ่ะ MoE ช้าจัด แต่ได้เรื่องได้ราวสุด ส่วนนึงคือ NPU หรือ GPU อื่นนี่ยังรันบน OpenVINO นะ แต่ตัว MoE แยกมารันบน llama.cpp
0 likes 0 replies
?
hisoft @invition.dev · May 19 hisoft @invition.dev · May 19 hisoft @invition.dev · May 19 อ่ะ MoE ช้าจัด แต่ได้เรื่องได้ราวสุด ส่วนนึงคือ NPU หรือ GPU อื่นนี่ยังรันบน OpenVINO นะ แต่ตัว MoE แยกมารันบน llama.cpp
0 likes 0 replies