ขอแนะนำ Lockdown Mode ใน ChatGPT และ Elevated Risk labels

เมื่อระบบ AI มีความสามารถมากขึ้นและเชื่อมต่อกับเว็บ ข้อมูลองค์กร และแอปพลิเคชันจากบุคคลที่สามมากขึ้น ภูมิทัศน์ด้านความปลอดภัยก็พัฒนาไปอย่างรวดเร็วเช่นกัน ความสามารถที่เพิ่มขึ้นย่อมนำมาซึ่งความเสี่ยงที่เพิ่มขึ้น และหนึ่งในภัยคุกคามที่โดดเด่นคือการโจมตีแบบ prompt injection 

เพื่อตอบโจทย์ความเสี่ยงนี้ OpenAI ได้เปิดตัวมาตรการป้องกันสำคัญสองประการ ได้แก่ 

• Lockdown Mode in ChatGPT การตั้งค่าความปลอดภัยขั้นสูงแบบเลือกเปิดใช้ สำหรับผู้ใช้ที่มีความเสี่ยงสูง 
• ป้ายกำกับ “Elevated Risk” เพื่อให้มองเห็นได้ชัดเจนขึ้นเมื่อบางฟีเจอร์อาจเพิ่มข้อพิจารณาด้านความปลอดภัย 

มาตรการทั้งสองนี้ถือเป็นก้าวสำคัญสู่การนำ AI ไปใช้งานอย่างมีความรับผิดชอบ 

เหตุใด Prompt Injection จึงมีความสำคัญ 

การโจมตีแบบ prompt injection เกิดขึ้นเมื่อบุคคลที่สามแฝงคำสั่งที่เป็นอันตรายไว้ในเนื้อหาที่ระบบ AI ประมวลผล เช่น หน้าเว็บ เอกสาร หรือแอปพลิเคชันที่เชื่อมต่ออยู่ 

เป้าหมายคืออะไร? 
เพื่อแทนที่คำสั่งดั้งเดิม ดึงข้อมูลที่ละเอียดอ่อนออกไป หรือบิดเบือนผลลัพธ์ของระบบ 

เมื่อเครื่องมือ AI เชื่อมต่อกับแหล่งข้อมูลภายนอกและแอปต่าง ๆ มากขึ้น องค์กรจึงต้องทบทวนแนวทางป้องกันแบบเดิม เพราะมาตรการพื้นฐานอาจไม่เพียงพอในกรณีที่เวิร์กโฟลว์เกี่ยวข้องกับการท่องเว็บแบบเรียลไทม์ API หรือทรัพยากรองค์กรที่ใช้ร่วมกัน 

นี่คือจุดที่ Lockdown Mode in ChatGPT เข้ามามีบทบาท 

Lockdown Mode คืออะไร? 

Lockdown Mode เป็นการกำหนดค่าความปลอดภัยระดับสูงที่สามารถเลือกเปิดใช้งานได้ ออกแบบมาสำหรับ 

• ผู้บริหารในองค์กรขนาดใหญ่ 
• ทีมงานที่ทำงานกับข้อมูลอ่อนไหว 
• ผู้ใช้ที่จัดการข้อมูลลับหรือข้อมูลภายใต้ข้อกำกับดูแล 
• ตำแหน่งงานที่มีความเสี่ยงหรือเป็นที่จับตามองสูง 

ฟีเจอร์นี้ไม่จำเป็นสำหรับผู้ใช้ทั่วไป แต่สำหรับผู้ที่เผชิญความเสี่ยงทางไซเบอร์ระดับสูง ระบบจะเพิ่มข้อจำกัดที่เข้มงวดและกำหนดชัดเจน เพื่อลดความเสี่ยงการรั่วไหลของข้อมูล 

วิธีการทำงาน 

Lockdown Mode จำกัดวิธีที่ ChatGPT โต้ตอบกับระบบภายนอกอย่างรอบคอบ โดยจะ 

• ปิดการใช้งานบางเครื่องมือที่อาจเปิดช่องให้ข้อมูลอ่อนไหวรั่วไหล 
• จำกัดการเชื่อมต่อเครือข่าย 
• ลดความสามารถที่พึ่งพาแอปภายนอก 
• เพิ่มชั้นความปลอดภัยเพิ่มเติมจากระบบควบคุมขององค์กรที่มีอยู่เดิม 

ตัวอย่างเช่น 

• การท่องเว็บถูกจำกัดเฉพาะเนื้อหาที่แคชไว้เท่านั้น 
• ไม่มีการร้องขอเครือข่ายแบบเรียลไทม์ออกจากสภาพแวดล้อมควบคุมของ OpenAI 

แนวทางนี้ช่วยป้องกันไม่ให้ผู้โจมตีเปลี่ยนเส้นทางข้อมูลสำคัญไปยังปลายทางที่เป็นอันตราย 

ฟีเจอร์ที่ยังไม่มีการรับรองความปลอดภัยแบบกำหนดแน่ชัด (deterministic safety guarantees) อาจถูกปิดการใช้งานโดยสมบูรณ์ 

ผลลัพธ์คือสภาพแวดล้อมการทำงานที่ถูกควบคุมอย่างเข้มงวด เพื่อลดพื้นที่เสี่ยงต่อการโจมตีแบบ prompt injection 

สร้างบนรากฐานความปลอดภัยระดับองค์กร 

แพ็กเกจธุรกิจของ ChatGPT มีระบบป้องกันขั้นสูงอยู่แล้ว เช่น 

• Sandboxing 
• การป้องกันการรั่วไหลของข้อมูลผ่าน URL 
• การตรวจสอบและบังคับใช้นโยบาย 
• การควบคุมสิทธิ์ตามบทบาท (Role-based access control) 
• บันทึกการตรวจสอบ (Audit logs) 

Lockdown Mode ถูกพัฒนาต่อยอดจากระบบเหล่านี้ ไม่ได้เข้ามาแทนที่ 

ปัจจุบันฟีเจอร์นี้พร้อมใช้งานสำหรับ 

• ChatGPT Enterprise 
• ChatGPT Edu 
• ChatGPT for Healthcare 
• ChatGPT for Teachers 

ผู้ดูแลระบบ Workspace สามารถเปิดใช้งานผ่าน Workspace Settings โดยสร้างบทบาทเฉพาะ เมื่อเปิดใช้แล้ว ระบบจะเพิ่มข้อจำกัดเพิ่มเติมจากการตั้งค่าที่ผู้ดูแลกำหนดไว้เดิม 

การควบคุมแอปแบบละเอียดสำหรับผู้ดูแลระบบ 

ความปลอดภัยมักต้องแลกกับความยืดหยุ่น เนื่องจากบางเวิร์กโฟลว์สำคัญจำเป็นต้องพึ่งพาแอปภายนอก 

เพื่อสร้างสมดุล ผู้ดูแลระบบสามารถ 

• เลือกได้ว่าแอปใดจะยังคงใช้งานได้ 
• กำหนดได้ว่าภายในแอปนั้นอนุญาตให้ทำอะไรได้บ้าง 
• ติดตามการใช้งานอย่างละเอียด 

นอกจากนี้ แพลตฟอร์ม Compliance API Logs ยังให้ความโปร่งใสเกี่ยวกับ 

• การใช้งานแอปที่เชื่อมต่อ 
• ข้อมูลที่ถูกแชร์ 
• แหล่งที่มาของเนื้อหาภายนอก 

ทำให้องค์กรสามารถตรวจสอบได้แม้อยู่ภายใต้ข้อจำกัดที่เข้มงวด 

ในอนาคตจะมีการเปิดตัว Lockdown Mode สำหรับผู้ใช้ทั่วไปด้วย 

การแนะนำป้ายกำกับ “Elevated Risk” 

แม้ Lockdown Mode จะเหมาะสำหรับผู้ใช้ที่มีความเสี่ยงสูง เวิร์กโฟลว์ AI ส่วนใหญ่มักมีความเสี่ยงระดับปานกลางมากกว่า 

แทนที่จะลบความสามารถเหล่านั้นออก OpenAI จึงเพิ่มป้ายกำกับ “Elevated Risk” เพื่อให้ข้อมูลที่ชัดเจนในผลิตภัณฑ์ 

ป้ายกำกับนี้ปรากฏใน 

• ChatGPT 
• ChatGPT Atlas 
• Codex 

โดยจะแจ้งให้ผู้ใช้ทราบเมื่อฟีเจอร์นั้นอาจเพิ่มความเสี่ยง โดยเฉพาะในด้านการเชื่อมต่อเครือข่าย 

ป้าย Elevated Risk หมายความว่าอย่างไร? 

เมื่อเห็นป้าย Elevated Risk หมายถึง 

• ฟีเจอร์นั้นเชื่อมต่อกับเว็บหรือระบบภายนอก 
• อาจมีความเสี่ยงเพิ่มเติม 
• ผู้ใช้ควรพิจารณาก่อนเปิดใช้งาน 

ตัวอย่างเช่น ใน Codex ผู้พัฒนาสามารถเปิดให้เข้าถึงเครือข่ายเพื่อค้นหาเอกสารออนไลน์ได้ ซึ่งหน้าการตั้งค่าจะมี 

• ป้าย Elevated Risk 
• คำอธิบายที่ชัดเจนเกี่ยวกับการเปลี่ยนแปลง 
• สรุปความเสี่ยงที่อาจเกิดขึ้น 
• แนวทางว่าเมื่อใดจึงเหมาะสมในการเปิดใช้งาน 

ความโปร่งใสนี้ช่วยให้ผู้ใช้สามารถจัดการระดับความเสี่ยงได้ด้วยตนเอง 

แนวทางสมดุลด้านความปลอดภัย AI 

AI จะมีประโยชน์มากขึ้นเมื่อเชื่อมต่อกับข้อมูลสด ระบบองค์กร API และทรัพยากรบนเว็บ 
แต่ความสามารถต้องไม่แลกมาด้วยความเสี่ยงโดยที่ผู้ใช้ไม่รับรู้ 

การเปิดตัว Lockdown Mode in ChatGPT แสดงถึงการเปลี่ยนแปลงสู่ 

• ความปลอดภัยแบบกำหนดแน่ชัดสำหรับผู้ใช้ความเสี่ยงสูง 
• การควบคุมระดับองค์กรอย่างละเอียด 
• การสื่อสารความเสี่ยงอย่างโปร่งใส 
• การนำ AI ไปใช้อย่างมีความรับผิดชอบ 

เมื่อระบบป้องกันพัฒนามากขึ้น และความเสี่ยงบางประการได้รับการจัดการอย่างสมบูรณ์ ป้าย Elevated Risk อาจถูกยกเลิกในอนาคตตามสภาพแวดล้อมภัยคุกคามที่เปลี่ยนแปลงไป 

ก้าวต่อไปคืออะไร? 

ความปลอดภัยของ AI ไม่เคยหยุดนิ่ง แต่พัฒนาไปพร้อมกับภัยคุกคามรูปแบบใหม่ 

ด้วย Lockdown Mode in ChatGPT และป้าย Elevated Risk OpenAI ตอกย้ำความมุ่งมั่นในการ 

• เสริมความปลอดภัยระดับองค์กรอย่างเป็นรูปธรรม 
• สนับสนุนการตัดสินใจของผู้ใช้ด้วยข้อมูลที่โปร่งใส 
• รับมือกับรูปแบบการโจมตีใหม่อย่างต่อเนื่อง 

สำหรับองค์กรที่ดูแลข้อมูลส่วนตัว ข้อมูลภายใต้ข้อกำกับ หรือดำเนินงานในสภาพแวดล้อมความเสี่ยงสูง การอัปเดตเหล่านี้ไม่ได้มอบเพียงประสิทธิภาพที่ดีขึ้น แต่ยังมอบความมั่นใจในการใช้งาน 

นวัตกรรม AI ต้องก้าวหน้าอย่างมีความรับผิดชอบ และการพัฒนาครั้งนี้คืออีกก้าวสำคัญในทิศทางนั้น