บริษัท Google เผยว่า โมเดล AI Gemini ของพวกเขา หลุดออกจากพื้นที่ทดสอบไปแฮกข้อมูลของ 3 บริษัท ท่ามกลางกระแสความกังวลเรื่องอันตรายจาก AI

สำนักข่าวต่างประเทศรายงานว่า โมเดลปัญญาประดิษฐ์ (AI) “เจมิไน” (Gemini) ของบริษัท กูเกิล (Google) ได้เข้าถึงอินเทอร์เน็ตและทำการแฮกบริษัทอื่นๆ ในระหว่างการทดสอบขีดความสามารถด้านความปลอดภัยไซเบอร์ ซึ่งนี่นับเป็นตัวอย่างแรกที่ AI ของบริษัท Google กระทำการดังกล่าวได้ด้วยตนเองโดยอิสระ

เหตุการณ์แฮกระบบดังกล่าวเกิดขึ้นในเดือนพฤษภาคม ระหว่างการทดสอบความปลอดภัยไซเบอร์ซึ่งจัดขึ้นโดย Irregular บริษัทเอกชนอิสระที่ทำหน้าที่ประเมินความปลอดภัยไซเบอร์

ฮีทเธอร์ แอดคินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุในแถลงการณ์ว่า ในระหว่างการประเมินตามมาตรฐานปกติ โมเดล Gemini ได้ค้นหาข้อมูลสาธารณะบนโลกออนไลน์และคาดเดาข้อมูลการเข้าสู่ระบบ เพื่อเข้าถึงเว็บไซต์ 3 แห่งที่ตัว AI คิดว่าอยู่ในขอบเขตการทดสอบของตนเอง

“เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกฝนโมเดล AI ที่ทรงพลังให้มีความรับผิดชอบในการทำงาน” นางแอดคินส์ระบุ

ด้านโฆษกของ Irregular กล่าวว่า เหตุการณ์นี้เป็นปัญหาลักษณะเดียวกันกับที่ส่งผลกระทบต่อห้องปฏิบัติการ AI แห่งอื่นๆ และได้แจ้งไปยังห้องปฏิบัติการที่เกี่ยวข้องทั้งหมดแล้วตั้งแต่ช่วงปลายเดือนกรกฎาคม “ปัญหาทั้งหมดที่ทราบในฝั่งของเราได้รับการแก้ไขและเสร็จสิ้นไปเมื่อหลายสัปดาห์ก่อน” โฆษกกล่าว

ตลอดช่วงหลายเดือนที่ผ่านมา บริษัทผู้พัฒนา AI ยักษ์ใหญ่อย่าง Meta, Anthropic และ OpenAI ต่างออกมาเปิดเผยว่า ระบบ AI ของพวกเขาก็หลุดออกจากห้องทดสอบไปแฮกบริษัทอื่นๆ หลายแห่ง

Irregular ระบุว่ากำลังจัดทำแนวปฏิบัติที่ดีที่สุดสำหรับการทดสอบความปลอดภัยไซเบอร์ของ AI

เหตุการณ์เหล่านี้ทำให้เกิดการตั้งคำถามเกี่ยวกับมาตรการคุ้มครองที่จำเป็น ในขณะที่เอเจนต์ AI เริ่มได้รับอิสระในการทำงานมากขึ้น รวมถึงเข้าถึงอินเทอร์เน็ตและระบบคอมพิวเตอร์ได้มากขึ้น

สำนักข่าว Wall Street Journal ซึ่งเป็นผู้รายงานข่าวนี้เป็นแห่งแรกเมื่อวันศุกร์ ระบุว่า ในกรณีหนึ่ง โมเดล Gemini ได้สุ่มคาดเดารหัสผ่านจนกระทั่งสามารถเข้าถึงระบบที่ได้รับการปกป้องได้สำเร็จ ส่วนอีกสองกรณี โมเดลพบข้อมูลการเข้าสู่ระบบในคลังข้อมูลสาธารณะ ซึ่งช่วยให้สามารถเข้าถึงระบบที่ได้รับการปกป้องในเวลาต่อมา

โดยนางแอดคินส์กล่าวปิดท้ายว่า จากทั้ง 3 เหตุการณ์ข้างต้น โมเดล AI ยุติการแฮกระบบด้วยตัวเอง


ติดตามข่าวต่างประเทศ : https://www.thairath.co.th/news/foreign


ที่มา : cna