สวัสดีชาว Maker สาย AI ทุกคนครับ! ในยุคที่ AI กำลังครองเมือง หลายคนอาจจะคิดว่าการรันโมเดล AI เจ๋งๆ ต้องพึ่งพาคอมพิวเตอร์สเปกแรงๆ หรือต้องต่อคลาวด์ตลอดเวลาเท่านั้น แต่คุณ Naz Louis ได้พิสูจน์ให้เห็นแล้วว่ามันไม่จำเป็นเสมอไป!

เขาได้สร้าง "Pocket" ผู้ช่วยอัจฉริยะ (AI Assistant) ฉบับพกพา ที่สามารถรันโมเดล AI ได้ครบจบในตัวมันเองแบบ 100% โดยใช้ขุมพลังจากบอร์ดขวัญใจมหาชนอย่าง Raspberry Pi 5 และที่สำคัญคือโปรเจกต์นี้เป็น Open Source ทั้งหมดด้วย!

เทคนิคซอฟต์แวร์: รัน AI บนบอร์ดเล็กยังไงให้ไหว? (Software & Models)

อย่างที่รู้กันว่าบอร์ด Raspberry Pi 5 มีทรัพยากรจำกัด การจะยัดโมเดล AI ขนาดใหญ่ลงไปตรงๆ คงไม่รอด สิ่งที่ Naz Louis ทำคือการแบ่งการทำงานออกเป็นระบบย่อยๆ (Routing setup) โดยใช้โมเดลขนาดเล็กที่กินสเปกน้อยมาทำงานร่วมกันอย่างเป็นระบบ:

• LLM (Large Language Model): ใช้โมเดล Qwen สำหรับการประมวลผลภาษาและการโต้ตอบ
• Speech-to-Text: ใช้ Faster Whisper เพื่อแปลงเสียงพูดของเราให้เป็นตัวหนังสือ
• Text-to-Speech: ใช้ Piper แปลงข้อความกลับมาเป็นเสียงพูดตอบโต้
• Custom Functions: เขาได้นำโมเดล Gemma มาปรับจูน (Fine-tuned) ด้วยชุดข้อมูลส่วนตัว เพื่อให้สามารถเรียกใช้งานคำสั่งเฉพาะทางได้อย่างแม่นยำ

สเปกฮาร์ดแวร์จัดเต็ม (Hardware Setup)

ด้านฮาร์ดแวร์ก็จัดว่าสุดจัดในรุ่นครับ โปรเจกต์นี้ถูกออกแบบมาให้พกพาง่ายและใช้งานได้จริงแบบออฟไลน์:

• พลังงานพกพา: ใช้แบตเตอรี่ 18650 จำนวน 2 ก้อน ประกอบเข้ากับ 18650 Battery Shield สำหรับ Raspberry Pi
• การมองเห็น (Vision): ติดตั้งกล้อง 12MP Arducam สำหรับรับภาพสด (Live visuals)
• ขุมพลัง AI (Edge AI): ใช้ชิป Hailo AI accelerator ที่ประมวลผลได้ถึง 26 TOPS (Terra Operations Per Second) มารับจบเรื่อง Object Detection ตรวจจับวัตถุจากภาพแบบเรียลไทม์
• การโต้ตอบ: มีจอทัชสกรีนขนาด 4.3 นิ้ว พร้อมลำโพงและไมโครโฟนครบเซ็ต

วิดีโอสาธิตการทำงาน (View in Action)

อยากรู้ว่า Pocket ใช้งานจริงแล้วโต้ตอบได้สมูทแค่ไหน? ลองเปิดดูวิดีโอสาธิตโปรเจกต์จากช่องของ Naz Louis ด้านล่างนี้ได้เลยครับ [cite: 2]