Human Approval, สิทธิ์การเข้าถึง และ AI Agent ที่ปลอดภัยขึ้น
Agent ที่มีประโยชน์ต้องเข้าถึงเครื่องมือและข้อมูล แต่การเข้าถึงไม่ควรหมายถึงการควบคุมไม่จำกัด ความปลอดภัยต้องออกแบบไว้ใน Workflow ตั้งแต่ต้น
01
ให้สิทธิ์เท่าที่จำเป็น
แต่ละความสามารถควรใช้สิทธิ์ที่แคบที่สุดเท่าที่งานต้องการ การอ่านข้อมูล การร่างการเปลี่ยนแปลง และการเผยแพร่จริงเป็นคนละการกระทำและไม่ควรมีอำนาจเท่ากันโดยอัตโนมัติ
02
วางจุดอนุมัติรอบผลกระทบ
การเปลี่ยนราคา การจ่ายเงิน คำมั่นต่อลูกค้า การลบข้อมูล และการตัดสินใจด้านความปลอดภัยควรหยุดให้ผู้มีอำนาจอนุมัติ หน้าจออนุมัติควรแสดงหลักฐานและการกระทำที่เสนอ
03
เก็บ Audit Trail และมีทางสำรอง
บันทึกข้อมูลเข้า บริบทการตัดสินใจ การใช้เครื่องมือ ผู้อนุมัติ และผลลัพธ์ เมื่อข้อมูลไม่ครบ ความมั่นใจต่ำ หรือเครื่องมือล้มเหลว Agent ควรหยุด อธิบายปัญหา และส่งต่อให้คน
- สิทธิ์เครื่องมือแบบจำกัด
- จุดอนุมัติ
- บริบทการตัดสินใจที่ตรวจสอบได้
- ประวัติการกระทำ
- การกู้คืนเมื่อผิดพลาด
ข้อสรุป
ระบบควรได้รับอิสระเป็นรายกิจกรรม และต้องมีคนควบคุมตรงที่ความผิดพลาดสร้างต้นทุน ความเสี่ยง หรือทำลายความไว้วางใจ