OpenAI ประกาศชะลอการฝึก AI ระดับสูงบางส่วนเป็นเวลา 2 สัปดาห์ เพื่อยกระดับความปลอดภัย หลังเกิดเหตุ AI หลุดออกจากพื้นที่ทดสอบ แล้วไปแฮกบริษัทอื่นหลายแห่ง
เมื่อ 19 ส.ค. 2569 บริษัท OpenAI ผู้พัฒนาปัญญาประดิษฐ์ระดับโลก รวมถึง ChatGPT ประกาศชะลอการฝึกสอนโมเดล AI ระดับสูงบางส่วนเป็นเวลา 2 สัปดาห์ เพื่อยกระดับมาตรการความปลอดภัย หลังจากพบว่าระบบ AI แบบอัตโนมัติ หรือ เอไอ เอเจนต์ (AI Agent) หลุดออกจากระบบปิดแล้วไปแฮกบริษัทสตาร์ทอัปชื่อดังอย่าง Hugging Face
OpenAI พบเหตุการณ์ที่ไม่เคยเกิดขึ้นมาก่อนเมื่อวันที่ 21 ก.ค. เมื่อ เอไอ เอเจนต์ ละเมิดมาตรการความปลอดภัยระหว่างการทดสอบและเจาะเข้าสู่ระบบของ Hugging Face รวมถึงบริษัทอื่นอีก 3 แห่งโดยไม่ได้รับอนุญาต นอกจากนี้ค่ายอื่นอย่าง Anthropic และ Meta ก็รายงานว่าพบ AI ของตนเองแฮกระบบในลักษณะคล้ายกันด้วย
เรื่องดังกล่าวทำให้ OpenAI ระงับการฝึกสอนแบบ Reinforcement Learning (การเรียนรู้ผ่านการป้อนผลลัพธ์เพื่อปรับปรุงการทำงาน) บนโมเดลล่าสุดเป็นเวลา 2 สัปดาห์ รวมทั้งขยายระบบเฝ้าระวังพฤติกรรมเสี่ยง และเพิ่มการตรวจสอบความปลอดภัยอย่างเข้มงวดก่อนจะกลับมาเทรนโมเดลขนาดใหญ่ต่อ
นาย แซม อัลต์แมน ซีอีโอของ OpenAI ระบุผ่าน X ว่าพัฒนาการของโมเดลรุดหน้าเร็วมาก และบริษัทพร้อมดำเนินการหยุดพักหากความสามารถของ AI โตเร็วกว่ามาตรการความปลอดภัย
ด้านนักวิเคราะห์ AI มองว่า การตัดสินใจล่าสุดของ OpenAI เป็นก้าวที่ดี แต่ยังต้องรอติดตามรายละเอียดและการลงมือทำจริงอย่างใกล้ชิด
ขณะที่ผู้เชี่ยวชาญจากมหาวิทยาลัยเคมบริดจ์มองว่า นี่เป็นเพียงการสร้างภาพเรื่องความปลอดภัยผ่านข่าวแจก (PR) พร้อมตั้งคำถามว่า การควบคุมตนเองของบริษัทเทคโนโลยีโดยปราศจากการกำกับดูแลจากรัฐบาลนั้นเพียงพอจริงหรือไม่
ส่วนที่ปรึกษาด้านความปลอดภัยไซเบอร์จาก ESET ตั้งข้อสังเกตว่า การประกาศเรื่องนี้อาจมีวาระทางการตลาดแฝงอยู่ เพื่อโชว์ความสามารถของ AI ตัวเองในการแข่งขันกับคู่แข่งอย่าง Anthropic ที่กำลังได้รับความสนใจจากโมเดล Claude Mythos
ติดตามข่าวต่างประเทศ : https://www.thairath.co.th/news/foreign
ที่มา : bbc