Guardrails คืออะไร?
ด่านตรวจของน้องบอท
Guardrails คือข้อจำกัดและจุดตรวจที่ล้อมการทำงานของ AI Agent เพื่อไม่ให้คำสั่งที่ดูน่าเชื่อถือผ่านไปทำสิ่งที่ไม่ได้รับอนุญาต
QuantKG Editorial · อัปเดต 17 กันยายน 2026
ภารกิจของคุณ
เปิดหรือปิดด่าน แล้วส่งคำขอจำลอง 4 ใบ เป้าหมายคือให้คำขอที่ถูกกฎผ่าน และกันคำขอผิดกฎไว้ ลองใหม่โดยสลับด่านเพื่อเห็นความต่าง
เปิด JavaScript เพื่อเล่นเกม Phaser ปุ่มควบคุมใช้คีย์บอร์ดได้ ไม่มีเงินจริง การทดลองไม่คิด XP มีโจทย์ประยุกต์ท้ายเกม ตอบถูก +10 XP ผิด −3 XP ต่ำสุด 0 คิดเฉพาะคำตอบแรกต่อข้อ เก็บในอุปกรณ์นี้
ตัวอย่างที่จับต้องได้
บอทขอส่งคำสั่ง 150 หน่วย แต่ขอบเขตกำหนดไม่เกิน 100 หน่วย ด่านตรวจต้องปฏิเสธ แม้บอทจะบอกว่ามั่นใจ อีกคำสั่งที่ข้อมูลเก่ากว่า 60 วินาทีก็ควรถูกหยุดตามกฎของเกม
เกมนี้บอกอะไรไม่ได้?
นี่คือระบบกฎแบบกำหนดไว้ ไม่ได้เรียก LLM หรือโบรกเกอร์ กฎ 100 หน่วยและ 60 วินาทีเป็นตัวอย่าง ไม่ใช่มาตรฐานสำหรับใช้งานจริง ระบบจริงต้องมีสิทธิ์ บันทึกตรวจสอบ การเฝ้าระวัง และการหยุดฉุกเฉินเพิ่มเติม
แหล่งอ้างอิง
Anthropic — Building effective agents (ขอบเขต การทดสอบ และการควบคุม)เกมและตัวอย่างสร้างโดย QuantKG แหล่งอ้างอิงเป็นบทอ่านพื้นฐานของหมวด ไม่ได้ยืนยันว่ากองทุนหรือผู้เขียนใช้วิธีนี้
คำถามชวนคิด
Guardrails หมายถึงข้อใด?
ภาพภารกิจใดช่วยให้เห็นแนวคิด Guardrails?
เมื่อเรียน Guardrails ผ่านเกม ควรจำข้อจำกัดใด?