สวัสดีเพื่อนๆ สาย Maker และคนทำโปรเจกต์ AI ทุกคนครับ! 🚀 ปกติเวลาเราพูดถึงการนำไมโครคอนโทรลเลอร์อย่าง ESP32 มาทำโปรเจกต์ AI ภาษา (LLM) เรามักจะเห็นมันถูกใช้เป็นเพียงแค่ "Gateway ตัวเล็กๆ" คอยต่อ Wi-Fi ส่งเสียงหรือข้อความไปประมวลผลบนเซิร์ฟเวอร์คลาวด์ภายนอก เช่น โปรเจกต์โมดูลเสียงอย่าง HiWonderLLM, เฟรมเวิร์ก ESP-Claw Framework หรือชุดพัฒนา ESP32 Agent Dev Kit ใช่ไหมครับ?

แต่วันนี้เรื่องราวสุดว้าวของนักพัฒนาคุณ **Slava S. (slvDev)** จะทำให้คุณต้องทึ่ง! เพราะเขาได้สร้างโปรเจกต์โอเพนซอร์สชื่อ **"esp32-ai"** ที่จับโมเดลภาษา Local LLM ขนาดใหญ่ถึง **28.9 ล้าน Parameter (28.9M)** มาบีบอัดลงไปรันอยู่บนชิปตัวละไม่กี่ร้อยบาทอย่าง **ESP32-S3 แบบบอร์ดเดี่ยวๆ** แถมปั่นข้อความออกหน้าจอได้ลื่นถึง **9 tokens/s** โดยไม่ต้องต่ออินเทอร์เน็ตเลยแม้แต่กิ๊กเดียวครับ!

ความท้าทาย: ยัดไฟล์โมเดล 14.9MB ลงชิปตัวจิ๋วได้อย่างไร? 🧠💡

ก่อนหน้านี้เคยมีโปรเจกต์ ESP32-LLM โดย Dave Bennett ที่ลองทำ Local AI บนบอร์ด ESP32 มาก่อนแล้ว แต่ตอนนั้นรันได้เพียงโมเดลขนาดเล็กจิ๋วแค่ 260K Parameter เท่านั้น ต่างจากโปรเจกต์ของคุณ Slava ที่ขยับขยายก้าวกระโดดขึ้นมาถึง 28.9M Parameter!

เทคนิคสำคัญที่คุณ Slava นำมาใช้คือการ **ไม่พยายามยัดไฟล์โมเดลลงในแรมความเร็วสูง (SRAM 512KB)** เพราะพื้นที่ไม่พอ แต่เขาใช้วิธีดึงไอเดียเทคนิค Per-Layer Embeddings (แบบเดียวกับที่ใช้ใน Google Gemma 3n และ Gemma 4) มาจัดการแบ่งสรรหน่วยความจำบน ESP32-S3 ดังนี้ครับ:

• SRAM 512KB (Fast & Tiny): ทำหน้าที่เป็นสมองกลส่วนคิด (Thinking Core) ประมวลผลตรรกะในทุกๆ Token
• PSRAM 8MB (Medium Speed): ทำหน้าที่เก็บ Output Head และเป็นแรมทำงานชั่วคราวขณะเจนข้อความ
• Flash Storage 16MB (Huge & Slow): ใช้เก็บไฟล์โมเดล Quantized (4-bit) ขนาด 14.9MB ซึ่งมีตาราง Embedding กว่า 25 ล้านแถว โดยในแต่ละ Token จะอ่านข้อมูลจาก Flash เพียง ~6 แถว (ประมาณ 450 Bytes) ดึงเข้ามาประมวลผลบน SRAM เท่าที่จำเป็นเท่านั้น!

รูปภาพแผนผัง Memory Layout และคลิปวิดีโอสาธิตการทำงาน 📸🎬

การทำงานจริงของบอร์ด ESP32-S3 ขณะประมวลผล Local LLM และส่งข้อความนิทานออกจอ I2C

---

ตัวอย่างการตั้งค่า PSRAM และ Flash ใน Arduino IDE สำหรับ ESP32-S3 (Code Snippet) 💻

ตัวอย่างการเขียนโค้ดตั้งค่าและตรวจสอบขนาด PSRAM / Flash บน ESP32-S3 เพื่อเตรียมพร้อมสำหรับการรันโมเดลภาษา Local LLM:

// ตัวอย่างสคริปต์ตรวจสอบการเปิดใช้งาน PSRAM บน ESP32-S3
#include <Arduino.h>

void setup() {
  Serial.begin(115200);
  delay(1000);

  Serial.println("--- ESP32-S3 Local LLM Hardware Check ---");

  // ตรวจสอบขนาด Free Heap (SRAM)
  Serial.print("Free SRAM Heap: ");
  Serial.print(ESP.getFreeHeap() / 1024);
  Serial.println(" KB");

  // ตรวจสอบขนาด PSRAM (ต้องตั้งค่า Tools -> PSRAM -> OPI PSRAM ใน Arduino IDE)
  if (psramFound()) {
    Serial.print("PSRAM Detected Size: ");
    Serial.print(ESP.getPsramSize() / (1024 * 1024));
    Serial.println(" MB");
    Serial.print("Free PSRAM: ");
    Serial.print(ESP.getFreePsram() / (1024 * 1024));
    Serial.println(" MB");
  } else {
    Serial.println("ERROR: PSRAM Not Found! 8MB PSRAM is required for LLM inference.");
  }
}

void loop() {
  // รันระบบย่อยถัดไป
}

Copy Code