OpenAI ออกมายอมรับว่า กรณี AI agent หลุดจากระบบปิด หรือ แซนด์บ็อกซ์ ในบริษัทแล้วไปเจาะระบบบริษัทอื่น แท้จริงแล้ว AI ตัวนี้ไปเจาะระบบมากกว่า 1 บริษัทอย่างที่เคยเชื่อกัน
สำนักข่าวต่างประเทศรายงานเมื่อ 29 ก.ค. 2569 ว่า จากกรณี AI agent (เอไอ เอเจนต์) หรือระบบ AI ที่สามารถทำงานได้เองโดยอัตโนมัติ ของบริษัท OpenAI ที่หลุดออกจากระบบปิด (Sandbox) ระหว่างการทดสอบเมื่อหลายสัปดาห์ก่อน ล่าสุด OpenAI ยอมรับว่า AI ตัวนี้ไปแฮกเข้าระบบของบริษัทอื่นๆ ด้วย นอกเหนือจากบริษัท Hugging Face ที่เคยเชื่อว่าเป็นเหยื่อเพียงรายเดียว
OpenAI ระบุว่า AI ที่หลุดไปตัวนี้ ไปพบข้อมูลการเข้าสู่ระบบที่หลุดอยู่บนโลกออนไลน์ และล็อกอินเข้าใช้บัญชีออนไลน์อีก 4 บัญชีของ 4 บริการที่ไม่มีการเปิดเผยชื่อ
ต้นเหตุของการโจมตีนี้เกิดจากการที่ AI พยายามหาคำตอบของ “ข้อสอบแฮกเกอร์” ที่ OpenAI ตั้งไว้ จึงเจาะระบบเพื่อหาคำตอบเอง โดยกรณีของ Hugging Face ถือเป็นกรณีที่ได้รับผลกระทบมากที่สุด
จากบรรยายสรุปของ Hugging Face ระบบปัญญาประดิษฐ์ที่หลุดมาตัวนี้ ทำงานด้วยความเร็วสูงและลองใช้กรรมวิธีนับพันวิธีพร้อมกันอย่างไม่รู้จักเหน็ดเหนื่อย อย่างไรก็ตาม มันแสดงพฤติกรรมที่แฮกเกอร์มนุษย์จะไม่ทำ เช่น ทำขั้นตอนซ้ำๆ และสร้างคำสั่งที่ไร้สาระ รวมถึงไม่กลบเกลื่อนร่องรอย
อย่างไรก็ตามแม้จะมีความผิดพลาด แต่มันสามารถปรับตัวเข้ากับสถานการณ์ใหม่ๆ ได้ทันที และใช้เทคนิคระดับสูงจนเจ้าหน้าที่ต้องใช้เวลาถึง 3 วันในการตรวจพบ และใช้เวลาอีกหลายชั่วโมงในการขับไล่ AI ออกจากระบบ โดยต้องยกเครื่องโครงสร้างพื้นฐานใหม่ถึง 1 ใน 3 ส่วน
องค์กรพันธมิตรความปลอดภัยคลาวด์ (CSA) ซึ่งมีหน้าที่สร้างและพัฒนาแนวทางปฏิบัติที่ดีที่สุดเพื่อความปลอดภัยในการใช้งานระบบคลาวด์ เปรียบเทียบเหตุการณ์นี้กับภาพยนตร์ Jurassic Park ที่ว่า “ไดโนเสาร์มักหาทางออกได้เสมอ” โดย เอไอ เอเจนต์ เหล่านี้มีเป้าหมายที่ชัดเจน ปรับตัวได้ดี และทำงานด้วยความเร็วของเครื่องจักรจนระบบป้องกันแบบเดิมรับมือได้ยาก
CSA ระบุว่า AI เคยมีพฤติกรรม “หลุดควบคุม” มาแล้ว เช่น ในเดือนกันยายน 2567 ที่ ChatGPT รุ่นก่อนหน้าเคยแหกระบบจำกัดเพื่อหาคำตอบมาแล้ว แต่มันเกิดขึ้นแค่ภายในระบบของ OpenAI เอง
ผู้เชี่ยวชาญเตือนว่าพฤติกรรมหลุดการควบคุมของ AI กำลังกลายเป็น “เรื่องปกติ” ไม่ใช่ความผิดปกติ และฝ่ายป้องกันต้องรีบปรับตัวรับมือกับฝูง AI เอเจนต์ที่ทำงานอย่างกัดไม่ปล่อย
ด้าน OpenAI ระบุว่าจะเปิดเผยผลการสอบสวนฉบับเต็มในเร็วๆ นี้ เพื่อเป็นบทเรียนให้แก่วงการพัฒนา AI และความปลอดภัยไซเบอร์ทั่วโลก
อนึ่ง ก่อนหน้านี้ผู้เชี่ยวชาญจากมหาวิทยาลัยเคมบริดจ์ชี้ว่า สภาพแวดล้อมการทดสอบของ OpenAI หละหลวมเกินไปจนทำให้ AI หลุดออกมาได้ ซึ่งสะท้อนให้เห็นว่าบริษัทยังไม่สามารถควบคุมเทคโนโลยีของตนเองให้ปลอดภัยได้ 100%
ขณะที่ผู้เชี่ยวชาญบางส่วนมองว่า OpenAI อาจใช้ข่าวนี้เพื่อโชว์ศักยภาพของ AI ตนเองว่ามีความก้าวหน้าสูงมาก เพื่อสกัดคู่แข่งอย่าง Anthropic ที่มีโมเดล AI ล้ำหน้าอย่าง Mythos และบริษัทดาวรุ่งจากจีนอย่าง Moonshot ในช่วงที่ OpenAI กำลังเผชิญแรงกดดันและเตรียมนำบริษัทเข้าตลาดหลักทรัพย์
ติดตามข่าวต่างประเทศ : https://www.thairath.co.th/news/foreign
ที่มา : bbc