OBLITERATUS เครื่องมือโอเพนซอร์สที่ถอดพฤติกรรม “ปฏิเสธคำสั่ง” ออกจาก LLM ได้ โดยไม่ต้องเทรนโมเดลใหม่
OBLITERATUS กำลังถูกพูดถึงจากความสามารถในการแก้โมเดลภาษาที่ดาวน์โหลดน้ำหนักมาใช้งานเอง ให้ลดหรือเลิกตอบปฏิเสธคำสั่ง โดยผู้ใช้สามารถเลือกโมเดลและกดทำงานผ่านหน้าเว็บได้เลย
เบื้องหลังไม่ได้เป็นการ jailbreak ด้วย prompt แต่เป็นการแก้ระดับน้ำหนักของโมเดล เครื่องมือจะเปรียบเทียบ hidden states จากชุด prompt ที่เป็นคู่ harmful/harmless เพื่อค้นหา “refusal directions” หรือทิศทางใน activation space ที่สัมพันธ์กับการปฏิเสธ จากนั้นใช้เทคนิคอย่าง SVD เพื่อฉายทิศทางเหล่านั้นออกจากน้ำหนักโมเดล พร้อมตรวจวัด refusal rate, perplexity, coherence และ KL divergence หลังแก้ไข
หน้าเว็บมีทั้งการ Obliterate, Benchmark, Chat, เปรียบเทียบโมเดลเดิมกับโมเดลที่แก้แล้วแบบ A/B, ทดลองระดับความแรง และส่งออกโมเดลไปยัง Hugging Face Hub ส่วนคนที่ต้องการควบคุมละเอียดสามารถใช้งานผ่าน CLI, Python API, Google Colab หรือรัน Web UI บน GPU ของตัวเองได้
ข้อสำคัญคือเครื่องมือนี้ใช้ได้กับโมเดลที่เราเข้าถึงน้ำหนักได้ เช่นโมเดลบน Hugging Face ไม่สามารถนำไปปลดข้อจำกัดของ GPT, Claude หรือบริการแบบปิดผ่าน API ได้โดยตรง
และคำว่า “กดเดียวลบการเซ็นเซอร์” เป็นคำอธิบายแบบสั้นเกินจริงอยู่บ้าง เพราะผลลัพธ์ขึ้นกับสถาปัตยกรรม โมเดล วิธีที่เลือก และระดับความแรง การฉาย refusal directions ออกอาจกระทบคุณภาพหรือพฤติกรรมส่วนอื่นของโมเดลได้ จึงควร benchmark ก่อนและหลังทุกครั้ง
โครงการระบุชัดว่าออกแบบมาสำหรับงานวิจัย alignment, mechanistic interpretability, red teaming และ safety evaluation โมเดลที่ผ่านกระบวนการนี้จะสูญเสีย safety guardrails บางส่วน ผู้ใช้งานจึงต้องรับผิดชอบต่อโมเดลและผลลัพธ์ที่สร้างขึ้นเอง
ตัวโครงการเปิดซอร์สภายใต้ AGPL-3.0 และมี commercial license สำหรับองค์กรที่ไม่สามารถปฏิบัติตามเงื่อนไข AGPL ได้ ส่วน Hugging Face Space ใช้ ZeroGPU และเปิด telemetry เป็นค่าเริ่มต้น โดยโครงการระบุว่าเก็บเฉพาะข้อมูลรวม เช่นชื่อโมเดล วิธีที่ใช้ คะแนน benchmark ฮาร์ดแวร์ และเวลา ไม่เก็บ prompt หรือ output
ลองผ่านหน้าเว็บ: https://huggingface.co/spaces/pliny-the-prompter/obliteratus
โค้ดและเอกสาร: https://github.com/elder-plinius/OBLITERATUS
ต้นทาง: https://x.com/oliviscusAI/status/2080607945071686030
#AI #LLM #OpenSource #LocalAI #MachineLearning