ตัวนี้ดูจะเหมาะกับ DGX spark มากสุดตอนนี้ แถมยังเก่งเกินเพื่อน เก่งเกิน 500b model ด้วย
──────────
Poolside เปิดตัว Laguna S 2.1 โมเดล Open Weight สำหรับงานเขียนโค้ดแบบ Agent ที่ขนาดเล็กพอจะรันบน NVIDIA DGX Spark เครื่องเดียวได้
Laguna S 2.1 เป็นโมเดล Mixture-of-Experts ขนาดรวม 118B parameters แต่เปิดใช้งานประมาณ 8B parameters ต่อ token รองรับ Context Window สูงสุด 1,048,576 tokens และเลือกได้ทั้งโหมด Thinking กับ No-thinking
โมเดลถูกออกแบบมาสำหรับ Agentic Coding และงานระยะยาวที่ต้องเรียกใช้เครื่องมือหลายขั้นตอน โดยรองรับการคิดแทรกระหว่าง Tool Calls และมี DFlash Draft Model สำหรับช่วยลดความหน่วงด้วย Speculative Decoding
118B parameters แบบ MoE ใช้งานจริงราว 8B ต่อ token
48 layers
256 routed experts เลือกใช้ 10 experts ต่อ token พร้อม shared expert อีก 1 ตัว
Context Window สูงสุด 1M tokens
รองรับ vLLM, SGLang, Transformers, TRT-LLM และ llama.cpp
มีรุ่น Quantized ทั้ง FP8, NVFP4, INT4 และ GGUF
เปิดภายใต้ไลเซนส์ OpenMDW-1.1 ใช้และแก้ไขได้ทั้งงานเชิงพาณิชย์และไม่เชิงพาณิชย์
ผลทดสอบที่ Poolside รายงานใน Model Card ได้แก่ Terminal-Bench 2.1 ที่ 70.2%, SWE-bench Multilingual 78.5%, SWE-Bench Pro 59.4% และ Toolathlon Verified 49.7% ตัวเลขเหล่านี้เป็นผลจากผู้พัฒนาและแหล่ง Benchmark ที่ระบุใน Model Card จึงควรดูเงื่อนไขการทดสอบประกอบก่อนเปรียบเทียบข้ามโมเดล
จุดที่น่าสนใจที่สุดคือ Poolside ระบุว่ารุ่น Quantized สามารถรันบน NVIDIA DGX Spark เครื่องเดียวได้ แต่ไฟล์ BF16 เต็มต้องใช้พื้นที่เฉพาะน้ำหนักโมเดลราว 236GB และต้องใช้หลาย GPU ดังนั้นคำว่า “รันเครื่องเดียว” ไม่ได้หมายถึงโมเดลเต็มแบบ BF16
ดาวน์โหลดน้ำหนักโมเดลและรุ่น Quantized ได้แล้วบน Hugging Face
Credit: @poolsideai
#AI #OpenSourceAI #AgenticCoding #LocalLLM #DGXSpark