Responsible AI Toolbox คืออะไร
ปัญญาประดิษฐ์ (Artificial Intelligence : AI) ในทุก ๆ วันนี้มีการพัฒนาอย่างรวดเร็ว และไร้ขีดกำจัด สามารถสร้างผลประโยชน์ในเชิงธุรกิจได้อย่างมหาศาล ด้วยศักยภาพนี้ ทำให้ AI สามารถนำมาซึ่งความเสี่ยงจากการใช้งานที่สูงขึ้น ดังนั้น ควรจะเตรียมรับมือกับความเสี่ยง ๆ ที่อาจจะเกิดขึ้น เมื่อนำ AI มาใช้งาน
Responsible AI ถูกพัฒนามาเป็นแนวทางในการประเมิน พัฒนา และปรับใช้ AI ให้ปลอดภัย เชื่อถือได้ และมีจริยธรรม
Responsible AI toolbox คือเครื่องมือ และฟังก์ชัน เพื่อช่วยในการดำเนินงาน AI ที่มีความรับผิดชอบในทางปฏิบัติ ด้วยความสามารถของเครื่องมือทำให้สามารถที่จะประเมินโมเดล และทำการตัดสินใจกับผู้ใช้ได้รวดเร็ว และง่ายขึ้น
Responsible AI Dashboard
Responsible AI dashboard จะช่วยให้ผู้ใช้สามารถเห็นการดำเนินงานขั้นตอนต่าง ๆ ของการดีบักโมเดล (การระบุ การวินิจฉัย และการคลี่คลายปัญหา) และการตัดสินใจได้อย่างง่ายดาย โดยข้อดีของ Dashboard มีดังนี้
- ออกแบบ workflow ที่เชื่อมต่อข้อมูลเชิงลึกจากการดีบักโมเดล และเครื่องมือการตัดสินใจที่หลากหลายเพื่อสร้างการประเมินความรับผิดชอบแบบองค์รวม
- ปรับแต่งแดชบอร์ดตามความต้องการ และความชอบด้านเครื่องมือเฉพาะ
การดีบักโมเดล Responsible AI Dashboard
การประเมิน และดีบักโมเดลการเรียนรู้ของเครื่องเป็นสิ่งสำคัญสำหรับ Responsible AI ประกอบด้วยขั้นตอน 3 ขั้นตอน:
- ระบุ เพื่อทำความเข้าใจ และรับรู้ข้อผิดพลาดของโมเดล
- วินิจฉัย เพื่อสำรวจสาเหตุของข้อผิดพลาด
- บรรเทา เพื่อใช้ข้อมูลเชิงลึกในการระบุตัวตน และการวินิจฉัยจากขั้นตอนก่อนหน้าเพื่อดำเนินการตามขั้นตอน ลดผลกระทบที่ตรงเป้าหมาย และตอบคำถามต่างๆ
การตัดสินใจ Responsible AI Dashboard
การตัดสินใจเป็นสิ่งสำคัญของการเรียนรู้ของเครื่อง แดชบอร์ด Responsible AI ช่วยให้สามารถตัดสินใจทางธุรกิจที่ขับเคลื่อนด้วยโมเดล และที่ขับเคลื่อนด้วยข้อมูล
- ข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูล เพื่อทำความเข้าใจผลกระทบที่แตกต่างกันในผลลัพธ์ โดยใช้ข้อมูลในอดีตเท่านั้น
- ข้อมูลเชิงลึกที่ขับเคลื่อนด้วยแบบจำลอง เพื่อตอบคำถามของผู้ใช้ปลายทาง
องค์ประกอบของ Responsible AI Dashboard
- Model Statistics เป็นจุดเริ่มต้นที่มีประโยชน์ในการตรวจสอบประสิทธิภาพ การวิเคราะห์ตามเมตริกต่างๆ จะสามารถช่วยระบุลักษณะข้อผิดพลาดให้เจาะจงมากขึ้นได้
- Data Explorer ช่วยในการแสดงภาพชุดข้อมูลตามผลลัพธ์ที่คาดการณ์ และตามจริง กลุ่มข้อผิดพลาด และคุณลักษณะเฉพาะ
- Interpretability เมื่อใช้โมเดล ML ในลักษณะที่ส่งผลต่อชีวิตของผู้คนจะต้องตระหนักต่อพฤติกรรมของโมเดล ความสามารถในการตีความก่อให้เกิดขั้นตอน “การวินิจฉัย” ทำให้เข้าใจการคาดคะเนของโมเดลได้ง่ายขึ้น โดยให้มุมมองที่หลากหลายเกี่ยวกับพฤติกรรมของโมเดล
- Error Analysis ช่วยให้ผู้ใช้งานมีความเข้าใจอย่างลึกซึ้งยิ่งขึ้นเกี่ยวกับการกระจายข้อผิดพลาดของโมเดล และช่วยในการระบุกลุ่มข้อมูลที่ผิดพลาดได้อย่างรวดเร็ว
- การวิเคราะห์ Counterfactuals และ What-If จะช่วยในการตอบคำถาม ถ้าอินพุตการดำเนินการมีการเปลี่ยนแปลง ตัวแบบจะทำนายอะไร
- Causal Inference
อ้างอิง https://responsibleaitoolbox.ai/introducing-responsible-ai-dashboard/#dashboard-components
