Responsible AI Toolbox คืออะไร

ปัญญาประดิษฐ์ (Artificial Intelligence : AI) ในทุก ๆ วันนี้มีการพัฒนาอย่างรวดเร็ว และไร้ขีดกำจัด สามารถสร้างผลประโยชน์ในเชิงธุรกิจได้อย่างมหาศาล ด้วยศักยภาพนี้ ทำให้ AI สามารถนำมาซึ่งความเสี่ยงจากการใช้งานที่สูงขึ้น ดังนั้น ควรจะเตรียมรับมือกับความเสี่ยง ๆ ที่อาจจะเกิดขึ้น เมื่อนำ AI มาใช้งาน

Responsible AI ถูกพัฒนามาเป็นแนวทางในการประเมิน พัฒนา และปรับใช้ AI ให้ปลอดภัย เชื่อถือได้ และมีจริยธรรม

Responsible AI toolbox คือเครื่องมือ และฟังก์ชัน เพื่อช่วยในการดำเนินงาน AI ที่มีความรับผิดชอบในทางปฏิบัติ ด้วยความสามารถของเครื่องมือทำให้สามารถที่จะประเมินโมเดล และทำการตัดสินใจกับผู้ใช้ได้รวดเร็ว และง่ายขึ้น

Responsible AI Dashboard

Responsible AI dashboard จะช่วยให้ผู้ใช้สามารถเห็นการดำเนินงานขั้นตอนต่าง ๆ ของการดีบักโมเดล (การระบุ การวินิจฉัย และการคลี่คลายปัญหา) และการตัดสินใจได้อย่างง่ายดาย โดยข้อดีของ Dashboard มีดังนี้

• ออกแบบ workflow ที่เชื่อมต่อข้อมูลเชิงลึกจากการดีบักโมเดล และเครื่องมือการตัดสินใจที่หลากหลายเพื่อสร้างการประเมินความรับผิดชอบแบบองค์รวม
• ปรับแต่งแดชบอร์ดตามความต้องการ และความชอบด้านเครื่องมือเฉพาะ

การดีบักโมเดล Responsible AI Dashboard

การประเมิน และดีบักโมเดลการเรียนรู้ของเครื่องเป็นสิ่งสำคัญสำหรับ Responsible AI ประกอบด้วยขั้นตอน 3 ขั้นตอน:

1. ระบุ เพื่อทำความเข้าใจ และรับรู้ข้อผิดพลาดของโมเดล
2. วินิจฉัย เพื่อสำรวจสาเหตุของข้อผิดพลาด
3. บรรเทา เพื่อใช้ข้อมูลเชิงลึกในการระบุตัวตน และการวินิจฉัยจากขั้นตอนก่อนหน้าเพื่อดำเนินการตามขั้นตอน ลดผลกระทบที่ตรงเป้าหมาย และตอบคำถามต่างๆ

การตัดสินใจ Responsible AI Dashboard

การตัดสินใจเป็นสิ่งสำคัญของการเรียนรู้ของเครื่อง แดชบอร์ด Responsible AI ช่วยให้สามารถตัดสินใจทางธุรกิจที่ขับเคลื่อนด้วยโมเดล และที่ขับเคลื่อนด้วยข้อมูล

• ข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูล เพื่อทำความเข้าใจผลกระทบที่แตกต่างกันในผลลัพธ์ โดยใช้ข้อมูลในอดีตเท่านั้น
• ข้อมูลเชิงลึกที่ขับเคลื่อนด้วยแบบจำลอง เพื่อตอบคำถามของผู้ใช้ปลายทาง

องค์ประกอบของ Responsible AI Dashboard

1. Model Statistics เป็นจุดเริ่มต้นที่มีประโยชน์ในการตรวจสอบประสิทธิภาพ การวิเคราะห์ตามเมตริกต่างๆ จะสามารถช่วยระบุลักษณะข้อผิดพลาดให้เจาะจงมากขึ้นได้
2. Data Explorer ช่วยในการแสดงภาพชุดข้อมูลตามผลลัพธ์ที่คาดการณ์ และตามจริง กลุ่มข้อผิดพลาด และคุณลักษณะเฉพาะ
3. Interpretability เมื่อใช้โมเดล ML ในลักษณะที่ส่งผลต่อชีวิตของผู้คนจะต้องตระหนักต่อพฤติกรรมของโมเดล ความสามารถในการตีความก่อให้เกิดขั้นตอน “การวินิจฉัย” ทำให้เข้าใจการคาดคะเนของโมเดลได้ง่ายขึ้น โดยให้มุมมองที่หลากหลายเกี่ยวกับพฤติกรรมของโมเดล
4. Error Analysis ช่วยให้ผู้ใช้งานมีความเข้าใจอย่างลึกซึ้งยิ่งขึ้นเกี่ยวกับการกระจายข้อผิดพลาดของโมเดล และช่วยในการระบุกลุ่มข้อมูลที่ผิดพลาดได้อย่างรวดเร็ว
5. การวิเคราะห์ Counterfactuals และ What-If จะช่วยในการตอบคำถาม ถ้าอินพุตการดำเนินการมีการเปลี่ยนแปลง ตัวแบบจะทำนายอะไร
6. Causal Inference

อ้างอิง https://responsibleaitoolbox.ai/introducing-responsible-ai-dashboard/#dashboard-components