AI Safety, Guardrails และข้อจำกัดของ Agent รุ่นใหม่
Guardrail ไม่ใช่กำแพงที่รับประกันว่า Agent จะไม่ทำผิด เป็นเพียงชั้นควบคุมหนึ่งของระบบ ความปลอดภัยที่ดีต้องมีทั้ง permission, validation, isolation, approval, monitoring และวิธีหยุดหรือกู้คืนเมื่อระบบทำงานผิด
Failure mode ของ Agent
- เข้าใจเป้าหมายผิดแต่ทำงานต่ออย่างมั่นใจ
- เรียก tool ถูก syntax แต่ผิดบริบท
- รับข้อมูลที่ปนคำสั่งไม่พึงประสงค์
- ส่งข้อมูลลับไปยังปลายทางผิด
- ทำงานซ้ำหรือวน loop จนใช้ทรัพยากรเกิน
- รายงานว่าสำเร็จทั้งที่ผลลัพธ์ไม่ครบ
Defense in depth
| ชั้น | การควบคุม |
|---|---|
| Identity | รู้ว่าใครและ Agent ใดกำลังทำงาน |
| Permission | ให้สิทธิ์ต่ำสุดตามงาน |
| Input validation | ตรวจข้อมูลและคำสั่งก่อนเข้า workflow |
| Tool policy | กำหนด tool ที่เรียกได้และ parameter ที่รับ |
| Approval | หยุดก่อน action ที่กระทบภายนอก |
| Monitoring | เก็บ log, alert และ cost limit |
| Recovery | rollback, revoke และ incident response |
ออกแบบ approval ให้คนตรวจได้จริง
อย่าให้ approval เป็นปุ่มที่กดยืนยันโดยไม่เห็นข้อมูล ต้องแสดงสิ่งที่จะส่ง ผลกระทบ ผู้รับ และ source ที่ใช้ตัดสินใจ งานที่มีเงิน ข้อมูลส่วนตัว หรือ public reputation ควรมี human review ที่แยกจากผู้สร้าง draft
ทดสอบก่อนใช้งาน
- ทดสอบคำสั่งคลุมเครือ
- ทดสอบข้อมูลที่ขัดกัน
- ทดสอบ tool timeout และ API error
- ทดสอบ prompt injection จากเอกสารภายนอก
- ตรวจว่า kill switch หยุดได้จริง
ข้อจำกัด
ความปลอดภัยไม่ใช่ feature ที่ติดตั้งครั้งเดียว ต้องทบทวนเมื่อเพิ่ม model, tool, data source หรือสิทธิ์ใหม่ และไม่ควรใช้ผลทดสอบชุดเดียวเป็นหลักฐานว่าระบบปลอดภัยตลอดไป
แหล่งที่มาและขอบเขตของบทความ
บทความนี้เรียบเรียงจาก Public source ที่ผ่านการตรวจสถานะการเผยแพร่แล้ว โดยใช้หัวข้อ คำอธิบาย และ chapter metadata ที่เปิดเผยต่อสาธารณะ รวมถึง transcript เมื่อมีให้ตรวจได้ เนื้อหานี้ไม่ใช่การเผยแพร่ transcript เต็ม และไม่ควรใช้แทนเอกสารทางการหรือข้อมูลล่าสุดของผู้ให้บริการ
- Fable 5 กับข้อจำกัดความปลอดภัย เมื่อ Guardrails ยังมีช่องโหว่ — 41 นาที 52 วินาที
เรียนต่ออย่างเป็นระบบ
ถ้าต้องการเปลี่ยนแนวคิดให้กลายเป็น workflow ที่ทำซ้ำได้ เรียนต่อใน คอร์ส ChatGPT Mastery สำหรับการออกแบบคำสั่ง บริบท และการทำงานกับ AI ให้เป็นระบบ
คำถามที่พบบ่อย
+Guardrails รับประกันได้ไหมว่า AI Agent จะไม่ทำผิด
ไม่ได้ Guardrail ไม่ใช่กำแพงที่รับประกันว่า Agent จะไม่ทำผิด แต่เป็นเพียงชั้นควบคุมหนึ่งของระบบเท่านั้น ความปลอดภัยที่ดีต้องมีทั้ง permission, validation, isolation, approval, monitoring และวิธีหยุดหรือกู้คืนเมื่อระบบทำงานผิด
+AI Agent มีความผิดพลาด (failure mode) แบบไหนบ้าง
บทความยกตัวอย่างไว้หลายแบบ เช่น เข้าใจเป้าหมายผิดแต่ทำงานต่ออย่างมั่นใจ เรียก tool ถูก syntax แต่ผิดบริบท รับข้อมูลที่ปนคำสั่งไม่พึงประสงค์ ส่งข้อมูลลับไปยังปลายทางผิด ทำงานวน loop จนใช้ทรัพยากรเกิน และรายงานว่าสำเร็จทั้งที่ผลลัพธ์ยังไม่ครบ
+Defense in depth สำหรับ AI Agent ประกอบด้วยชั้นอะไรบ้าง
บทความแบ่งเป็น 7 ชั้น ได้แก่ Identity (รู้ว่าใครและ Agent ใดกำลังทำงาน), Permission (ให้สิทธิ์ต่ำสุดตามงาน), Input validation (ตรวจข้อมูลและคำสั่งก่อนเข้า workflow), Tool policy (กำหนด tool และ parameter ที่รับได้), Approval (หยุดก่อน action ที่กระทบภายนอก), Monitoring (เก็บ log, alert และ cost limit) และ Recovery (rollback, revoke และ incident response)
+ควรออกแบบ approval ของ AI Agent อย่างไรให้คนตรวจได้จริง
อย่าให้ approval เป็นปุ่มที่กดยืนยันโดยไม่เห็นข้อมูล ต้องแสดงสิ่งที่จะส่ง ผลกระทบ ผู้รับ และ source ที่ใช้ตัดสินใจ งานที่เกี่ยวกับเงิน ข้อมูลส่วนตัว หรือ public reputation ควรมี human review ที่แยกจากผู้สร้าง draft
+ควรทดสอบ AI Agent อะไรบ้างก่อนใช้งานจริง
บทความแนะนำให้ทดสอบคำสั่งที่คลุมเครือ ข้อมูลที่ขัดกัน tool timeout และ API error รวมถึงทดสอบ prompt injection จากเอกสารภายนอก และตรวจว่า kill switch หยุดระบบได้จริง ทั้งนี้ความปลอดภัยไม่ใช่สิ่งที่ติดตั้งครั้งเดียว ต้องทบทวนเมื่อเพิ่ม model, tool, data source หรือสิทธิ์ใหม่
เครื่องมือฟรี · ดาวน์โหลดได้
ลองร่าง AI Policy ภาษาไทยสำหรับทีมของคุณ
ตอบไม่กี่ข้อ แล้วได้ร่างนโยบายการใช้ AI ภาษาไทย ครอบคลุมเครื่องมือที่อนุญาต การจำแนกข้อมูล และจุดที่คนต้องตรวจ
อ่านต่อในหมวดนี้
ใช้ ChatGPT กับงานจริงให้ครบทุกขั้น
ChatGPT Mastery
สั่งงาน ChatGPT อย่างเป็นระบบ สร้างคอนเทนต์ ภาพ และวิดีโอให้ธุรกิจได้จริง
คอร์ส ChatGPT Mastery →โจทย์คนละแบบ? ดู AI Co-Worker for SME
อยากคุยเรื่องคอร์สหรือการใช้ AI กับงานของคุณ?
ติดต่อทีมงานชีวิตติด AI ได้ทาง LINE หรือ Facebook เรายินดีช่วยแนะนำคลาสที่เหมาะกับคุณ