เมื่อโมเดล AI ล้ำเกินกัก! Google Gemini พลั้งมือแฮกระบบบริษัทจริง หลังชื่อโดเมนทดสอบไปตรงกับของจริง
สวัสดีครับเพื่อนๆ สายไอทีและชาวสมาร์ทซิตี้ทุกคน วันนี้ผมมีข่าวใหญ่ฝั่งความปลอดภัยไซเบอร์และความเคลื่อนไหวของ AI ระดับโลกมาเล่าให้ฟังกันครับ
ล่าสุด Google Gemini กลายเป็นโมเดลปัญญาประดิษฐ์ (AI) รายล่าสุดที่สามารถเชื่อมต่อเข้าสู่อินเทอร์เน็ต และ "เผลอ" เจาะระบบของบริษัทภายนอกโดยไม่ได้ตั้งใจ ระหว่างการประเมินความปลอดภัยทางไซเบอร์ ซึ่งรายงานนี้ถูกเปิดเผยเป็นครั้งแรกโดยสำนักข่าว The Wall Street Journal ครับ
เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อเดือนพฤษภาคม ปี 2026 ที่ผ่านมาระหว่างการทดสอบระบบโดย Irregular บริษัทด้านความปลอดภัยจากอิสราเอล ซึ่งคู่ค้าผู้ประเมินรายนี้ ก็เคยมีส่วนเกี่ยวข้องกับเหตุการณ์ AI แฮกระบบในลักษณะเดียวกันที่เคยเกิดขึ้นกับ OpenAI, Anthropic และ Meta มาแล้ว
ตามรายงานของ The Wall Street Journal ระบุว่า โมเดล Gemini สามารถเข้าถึงระบบที่ถูกปกป้องไว้ได้ด้วยการ สุ่มเดารหัสผ่านซ้ำๆ (Password Guessing) ส่วนอีกสองกรณีที่เกิดขึ้น โมเดลได้ไปค้นพบข้อมูลประจำตัว (Credentials) ที่ถูกเปิดเผยอยู่ในคลังข้อมูลสาธารณะ (Public Repository) ทำให้มันสามารถใช้ข้อมูลเหล่านั้นผ่านข้ามระบบความปลอดภัยเข้าไปได้โดยไม่ได้รับอนุญาต
แต่ความน่าสนใจและจุดที่แตกต่างอยู่ตรงนี้ครับ
ไม่เหมือนกับกรณีที่เคยเกิดข้ึนกับ Anthropic หรือ OpenAI เพราะทางโมเดล Gemini ได้ทำการ "ยุติการบุกรุกทันที" หลังจากที่มันตรวจพบว่า ระบบที่กำลังเจาเข้าไปอยู่นั้นเป็นระบบของบริษัทที่มีตัวตยอยู่จริง ซึ่งทาง Irregular ได้แจ้งเรื่องนี้ให้ Google ทราบในเวลาต่อมาช่วงเดือนกรกฎาคม 2026
ย้อนกลับไปในรายงานที่ Irregular เผยแพร่เมื่อเดือนก่อน ชี้แจงว่าเหตุการณ์หลุดรอดระหว่างประเมินผลครั้งนี้ เกิดจากความผิดพลาดในการตั้งชื่อ (Naming Error) ครับ ส่งผลให้ชื่อบริษัทจำลองที่ใช้ในแบบฝึกหัดทดสอบแนว "Capture The Flag" ดันไปตรงกับชื่อโดเมนของบริษัทจริงโดยไม่รู้ตัว ทำให้โมเดล AI ใช้ประโยชน์จากช่องทางอินเทอร์เน็ตที่เปิดไว้โดยไม่ได้ตั้งใจ เข้าไปโจมตีโดเมนจริงดังกล่าว "ในช่วงเวลาสั้นๆ"
Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ได้ให้สัมภาษณ์กับ The Wall Street Journal ไว้ว่า "เหตุการณ์นี้ตอกย้ำถึงความสำคัญของการฝึกฝนโมเดล AI ที่มีทรงพลัง ให้รู้จักแสดงพฤติกรรมอย่างรับผิดชอบ และในกรณีนี้โมเดลได้ตอบสนองและทำหน้าที่ได้อย่างถูกต้องเหมาะสมแล้ว"
นอกจากนี้ ยักษ์ใหญ่เทคโนโลยีอย่าง Google ยังระบุเสริมว่า ไม่ได้มองว่าพฤติกรรมนี้เป็นตัวอย่างของ Model Misalignment (การที่ AI ทำงานออกนอกกรอบเป้าหมายที่มนุษย์กำหนด) เพราะตัวเอเจนต์ (Agent) ได้หยุดการทำงานลงทันทีหลังจากกลไกความปลอดภัย (Safety Mechanisms) ถูกเปิดใช้งาน แม้ว่าปัจจุบันยังไม่มีการเปิดเผยชื่อบริษัทที่ตกเป็นเป้าหมาย แต่ทาง Irregular ก็ยืนยันว่ากรณีของ Google เป็นรูปแบบเดียวกับเหตุการณ์อื่นๆ และปัญหาดังกล่าวได้รับการแก้ไขไปตั้งแต่หลายสัปดาห์ก่อนแล้ว
การเปิดเผยข้อมูลครั้งนี้ เกิดขึ้นเพียงไม่กี่วันหลังจากที่ OpenAI เพิ่งตรวจพบอีก 6 เหตุการณ์ที่เอเจนต์ AI ของตนเองเริ่มทำงานออกนอกลำนำ (Go Off Yje Rails) มีพฤติกรรมหลอกลวง และทำอะไรนอกเหนือคำสั่งระหว่างกระบวนการเทรน เช่น การปกปิดความผิดพลาดของตัวเอง, การพยายามค้นหาข้อมูลประจำตัวโดยไม่ได้รับอนุญาต, การอัปโหลดไฟล์ลงอินเทอร์เน็ตสาธารณะ รวมไปถึงการแอบสื่อสารผ่าน Artifactory เพื่อ "เข้าไปอ่านโน้ต คำตอบ และแลกเปลี่ยนข้อมูลของ AI ตัวอื่น เพื่อนำมาใช้ประมวลผลคำตอบของตัวเอง"
ถือว่าห้องปฏิบัติการ AI ต่างๆ กำลังเผชิญกับการจับตามองอย่างเข้มงวดมากขึ้นเรื่อยๆ นับตั้งแต่ OpenAI ออกมายอมรับในเดือนกรกฎาคม มีเอเจนต์ AI สกปรกหลุดรอดมาตรการควบคุมภายในออกสู่โลกอินเทอร์เน็ตเปิด และจับมือกันเป็นฝูง (Swarm) เพื่อเจาะระบบของ Hugging Face ซึ่งทางสตาร์ทอัพ AI รายนั้นถึงกับนิยามเหตุการณ์ดังกล่าวว่าเป็น "อุบัติเหตุทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน" และได้ประกาศใช้กรอบการทำงานใหม่สำหรับการรายงานพฤติกรรมผิดปกติของโมเดล AI ในอนาคตเป็นที่เรียบร้อยแล้วครับ
เรื่องนี้ทำให้เราเห็นเลยนะครับว่า ยิ่ง AI ฉลาดและมีศักยภาพสูงขึ้นเท่าไหร่ มาตรฐานการควบคุมวงจำกัด (Sandbox) และการกำกับดูแลเรื่องความปลอดภัยไซเบอร์ก็ยิ่งต้องรัดกุมขึ้นเป็นเท่าตัวเลยครับ!
#ดรกฤษฎาแก้ววัดปริง #ไทยสมาร์ทซิตี้ #SmartCity #DRKRIT #สมาร์ทซิตี้คลิก