Wassup ชาว AI และสาย Edge Computing! 💻 ยุคนี้การเอา AI ไปรันบนอุปกรณ์ขนาดเล็ก (Edge Device) ไม่ใช่เรื่องยากอีกต่อไป แต่คำถามที่น่าสนใจกว่าคือ "เราจะรีดประสิทธิภาพของชิป NPU (Neural Processing Unit) ให้ประมวลผลวิดีโอต่อเนื่องได้ลื่นไหลที่สุดได้ยังไง?"

วันนี้แอดมินพามาส่องโปรเจกต์ของแฮกเกอร์สาย AI ที่จับเอาบอร์ด reComputer RK3576 จาก Seeed Studio ซึ่งมีทีเด็ดคือ "NPU แบบ Dual-core" มารันโมเดลยอดฮิตอย่าง YOLOv8 งานนี้เขาจัดเต็มด้วยการทดสอบโมเดลถึง 3 ขนาด (n, s, m) เพื่อหาจุดที่สมดุลที่สุดระหว่าง "ความแม่นยำ" และ "ความเร็ว (FPS)" มาดูกันว่าบอร์ดนี้จะตึงแค่ไหน!

3 ท่าไม้ตายในการรีดพลัง NPU 🚀

ในการทดสอบนี้ เขาใช้ไฟล์วิดีโอจราจรความละเอียด 4K (3840x2160) ที่เฟรมเรต 29.97 FPS และลองรัน AI ด้วย 3 วิธีการ (Configurations) ดังนี้:

• Single core: รันโมเดลแบบเพียวๆ บน Core 0 แค่คอร์เดียว
• Dual-core parallel: รันโมเดลอิสระ 2 ตัวพร้อมกัน บน Core 0 และ Core 1 แล้วแบ่งเฟรมวิดีโอให้ช่วยกันประมวลผล
• Dual-core shared weights + SRAM: รันบน 2 คอร์เหมือนเดิม แต่ตั้งค่าให้มัน "แชร์น้ำหนักโมเดล (Weights)" และเปิดใช้ SRAM เพื่อประหยัดพื้นที่หน่วยความจำแรม (RAM)

ผลการทดสอบ: โมเดลไหนรอด โมเดลไหนร่วง? 📊

1. YOLOv8n (น้องเล็กสุดแรง):
โมเดลนี้กินทรัพยากรน้อยสุด รันคอร์เดียวก็เร็วกว่าวิดีโอต้นฉบับแล้ว (ทะลุ 50+ FPS) แต่พอเปิดโหมด Dual-core เฟรมเรตพุ่งไปถึง 106 FPS! (เร็วกว่าเดิม 2 เท่า) การแชร์ Weights ในโมเดลนี้ไม่ค่อยเห็นผลต่างเรื่องความเร็วเท่าไหร่

2. YOLOv8s (ตัวกลางสายสมดุล):
ถ้ารันคอร์เดียวจะแอบมีหน่วงนิดๆ (ต่ำกว่า 29 FPS) แต่พอเปิด Dual-core ปุ๊บ ได้เฟรมเรตนิ่งๆ ที่ประมาณ 58 FPS และถ้าใช้โหมด Shared weights จะช่วยประหยัด RAM ไปได้ตั้ง 5 MB! ถือว่าเป็นตัวเลือกที่บาลานซ์ที่สุดสำหรับการใช้งานจริง

3. YOLOv8m (พี่ใหญ่กินสเปก):
โมเดลนี้ใหญ่และแม่นยำขึ้น พอเปิด Dual-core ช่วยดันเฟรมเรตจาก 12.3 FPS ขึ้นมาเป็น 26.7 FPS (เกือบถึง 30 FPS แบบ Real-time แล้ว!) ที่น่าสนใจคือ โหมด Shared weights ช่วยประหยัด RAM ไปได้ถึง 26 MB เลยทีเดียว

กราฟผลการทดสอบ: YOLOv8n ⚡

---

กราฟผลการทดสอบ: YOLOv8s ⚖️

---

กราฟผลการทดสอบ: YOLOv8m 🏢

การใช้ Shared Weights ในรุ่น M ช่วยประหยัด RAM ไปได้ถึง 26 MB!