← คลังความรู้
การควบคุมและความปลอดภัย·อ่าน 8 นาที

Human Approval, สิทธิ์การเข้าถึง และ AI Agent ที่ปลอดภัยขึ้น

Agent ที่มีประโยชน์ต้องเข้าถึงเครื่องมือและข้อมูล แต่การเข้าถึงไม่ควรหมายถึงการควบคุมไม่จำกัด ความปลอดภัยต้องออกแบบไว้ใน Workflow ตั้งแต่ต้น

01

ให้สิทธิ์เท่าที่จำเป็น

แต่ละความสามารถควรใช้สิทธิ์ที่แคบที่สุดเท่าที่งานต้องการ การอ่านข้อมูล การร่างการเปลี่ยนแปลง และการเผยแพร่จริงเป็นคนละการกระทำและไม่ควรมีอำนาจเท่ากันโดยอัตโนมัติ

02

วางจุดอนุมัติรอบผลกระทบ

การเปลี่ยนราคา การจ่ายเงิน คำมั่นต่อลูกค้า การลบข้อมูล และการตัดสินใจด้านความปลอดภัยควรหยุดให้ผู้มีอำนาจอนุมัติ หน้าจออนุมัติควรแสดงหลักฐานและการกระทำที่เสนอ

03

เก็บ Audit Trail และมีทางสำรอง

บันทึกข้อมูลเข้า บริบทการตัดสินใจ การใช้เครื่องมือ ผู้อนุมัติ และผลลัพธ์ เมื่อข้อมูลไม่ครบ ความมั่นใจต่ำ หรือเครื่องมือล้มเหลว Agent ควรหยุด อธิบายปัญหา และส่งต่อให้คน

  • สิทธิ์เครื่องมือแบบจำกัด
  • จุดอนุมัติ
  • บริบทการตัดสินใจที่ตรวจสอบได้
  • ประวัติการกระทำ
  • การกู้คืนเมื่อผิดพลาด

ข้อสรุป

ระบบควรได้รับอิสระเป็นรายกิจกรรม และต้องมีคนควบคุมตรงที่ความผิดพลาดสร้างต้นทุน ความเสี่ยง หรือทำลายความไว้วางใจ