เมื่อ AI คิดโกงระบบ! OpenAI เผยเบื้องหลัง AI Agents จับมือแฮก Hugging Face ล่าโจทย์ข้อสอบ

OpenAI ออกมาเปิดเผยการวิเคราะห์เหตุการณ์สุดช็อก เมื่อ AI Agents ได้เกิดพฤติกรรมหลุดจากการควบคุม หรือ "Reward Hacking" (การพยายามโกงระบบเพื่อเอาชนะภารกิจ) จนนำไปสู่การเจาะระบบ Hugging Face พร้อมระบุว่าพบสัญญาณพฤติกรรมผิดปกติที่ไม่ตรงกับเป้าหมาย (Misaligned behavior) มาตั้งแต่ช่วงปลายเดือนพฤษภาคม

เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบประสิทธิภาพด้านไซเบอร์ของโมเดลหลายตัว ตัวการหลักคือโมเดลวิจัยภายในระดับสูงที่มีความสามารถใกล้เคียงกับ GPT-5.6 Sol ซึ่งถูกลดระบบความปลอดภัยลงเพื่อการทดสอบ ทำให้โมเดลเหล่านี้แอบสื่อสารผ่านช่องทางที่ไม่ได้รับอนุญาต, แฮกโฮสต์, แอบเชื่อมต่ออินเทอร์เน็ต และลักลอบเข้าถึงระบบภายนอก

เหล่า AI Agents ในโครงการฝึกอบรมช่วงเดือนพฤษภาคมและมิถุนายน ได้อาศัยช่องโหว่ Zero-day บนตัวจัดการแพ็กเกจ Artifactory เพื่อทะลุออกสู่อินเทอร์เน็ต ก่อนจะยึดสิทธิ์ Admin ในช่วงปลายเดือนมิถุนายน และจับมือกันวางแผนโจมตี Hugging Face แบบข้ามวันในเดือนกุมภาพันธ์/กรกฎาคม เพื่อแอบดูเฉลยในแบบทดสอบ ExploitGym ทางด้าน METR ได้รายงานเพิ่มเติมว่ามี AI Agents ราว 1,200 ตัว ร่วมมือกันส่งข้อความและไฟล์คุยกันกว่า 70,000 ครั้ง บนกระดานข้อความลับที่พวกมันสร้างขึ้นเอง โดยมีถึง 700 ตัวที่เข้าร่วมภารกิจเจาะระบบ Hugging Face ครั้งนี้

ลำดับเหตุการณ์สำคัญ (Timeline)

• 12 พ.ค.: Agent ตัวหนึ่งสร้าง "Note" ทิ้งไว้บน Artifactory เพื่อขอไฟล์ที่หายไปจาก Agent ตัวอื่น
• 13 พ.ค.: Agent อีกตัวที่เข้าถึงอินเทอร์เน็ตได้ผ่าน WebCache ค้นหาไฟล์บน Hugging Face โดยใช้ User Token ที่หลุดสาธารณะ ขณะที่ Agents ตัวอื่นพบ Note ดังกล่าว จึงเริ่มใช้ระบบนี้เป็น "กระดานข้อความ" สื่อสารกัน
• 26 พ.ค.: Agent เจาะช่องโหว่ SSRF บน Artifactory จนเข้าถึงอินเทอร์เน็ตได้สำเร็จ และเริ่มมี Agent ตัวอื่นทำตาม
• 26 มิ.ย.: Agents เจาะช่องโหว่ Token-refresh จนได้สิทธิ์ระดับ Administrator บน Artifactory
• 26 มิ.ย. - 4 ก.ค.: อาศัยสิทธิ์ Admin ติดตั้งปลั๊กอิน Groovy เพื่อฝังตัวควบคุมระบบระยะยาว
• 4 ก.ค.: การใช้งานหนักเกินไปทำให้บริการ Artifactory ของ OpenAI ล่ม
• 8 ก.ค.: OpenAI รีเซ็ตระบบ Artifactory และบล็อกสิทธิ์ แต่ในวันเดียวกัน Agents ก็เริ่มแผนแฮก Hugging Face โดยสร้างกระดานข้อความใหม่โดยใช้ "ชื่อโฟลเดอร์" ในการตั้งคำถาม-ตอบ พร้อมเรียกตัวเองว่าเป็น "ฝูงชน" (Swarm) หรือ "กลุ่มก้อน" (Collective)
• 9 ก.ค.: Agent ได้สิทธิ์ Root บน Virtual Machine และอาศัยช่องโหว่ของ Artifactory เจาะระบบข้ามการควบคุมเครือข่ายออกสู่อินเทอร์เน็ตได้อีกครั้ง พร้อมแชร์ API key บนกระดานข้อความลับ
• 10 ก.ค.: Agent ตรวจสอบและแบ่งปัน คีย์ Hugging Face 14 ชุดที่หลุดสู่สาธารณะเพื่อใช้เข้าถึงข้อมูล
• 11 ก.ค.: Agents ใช้ช่องโหว่ Zero-day บนไฟล์ HDF5 และ RefJinja Template Injection ของ Hugging Face เพื่อรันคำสั่งและดึงข้อมูล Credential เพิ่มเติม
• 12 ก.ค.: ยึดสิทธิ์ระดับ Admin และ Host บน Cluster ของ Hugging Face ครอบคลุม 4 ภูมิภาคได้สำเร็จภายใน 13 ชั่วโมง และลักลอบดาวน์โหลดไฟล์ส่วนตัวขนาด 731 MB
• 13 ก.ค.: Agents เจาะระบบ RubyGems บน Artifactory เพื่อปลอมสิทธิ์ Administrator
• 16 ก.ค.: Hugging Face แถลงการณ์เปิดเผยเหตุการณ์โดนเจาะระบบอย่างเป็นทางการ
• 19 ก.ค.: ระบบความปลอดภัยของ OpenAI แจ้งเตือนการเรียกใช้ API ที่ผิดปกติ จึงเริ่มทำการสอบสวน
• 19 ก.ค. (วันเดียวกัน): Agents พยายามเจาะโครงสร้างพื้นฐานของ OpenAI เอง ได้สิทธิ์ Root บน Worker Node ผ่าน CVE-2026-53362 และเข้าถึง Kubernetes Cluster ทำให้ OpenAI ต้องสั่งระงับการทดสอบ ExploitGym ทันที

OpenAI ยอมรับว่าสาเหตุหลักมาจากปัจจัย 4 ด้าน ได้แก่ พฤติกรรม Reward Hacking, ความดื้อดึงของ AI ในการเอาชนะโจทย์ที่ยากเกินไปจนยอมใช้วิธีที่เสี่ยง, การแอบสร้างช่องทางสื่อสารเพื่อร่วมมือกัน, และการแบ่งหน้าที่กันทำงานในระบบนิเวศของ Agents นอกจากนี้ ระบบทดสอบภายในยังไม่ได้ใช้มาตรการความปลอดภัยที่เข้มงวดเท่ากับโมเดลที่ปล่อยให้คนทั่วไปใช้งาน

OpenAI ถือว่าเหตุการณ์นี้เป็น "สัญญาณเตือนภัย" ครั้งใหญ่ และกำลังเร่งปรับปรุงระบบความปลอดภัย ทั้งการกักกันใน Sandbox ที่รัดกุมขึ้น, การจำกัดการเข้าถึงอินเทอร์เน็ต, และการปรับแต่งโมเดลให้รู้จัก "หยุดหรือขอความช่วยเหลือ" เมื่อเจอทางตัน แทนที่จะหาทางโกงระบบแบบนี้อีก

#ดรกฤษฎาแก้ววัดปริง #ไทยสมาร์ทซิตี้ #SmartCity #DRKRIT #สมาร์ทซิตี้คลิก