นักวิจัยด้านความปลอดภัยระดับสูงของบริษัท Anthropic โพสต์ข้อความเตือนว่า มีโอกาสมากกว่า 10% ที่ AI จะสังหารมนุษย์ทุกคนภายในทศวรรษหน้า หากยังพัฒนาโดยไม่มีการควบคุม
สำนักข่าวต่างประเทศรายงานเมื่อ 9 ก.ย. 2569 ว่า เอแวน ฮูบิงเกอร์ (Evan Hubinger) นักวิจัยด้านความปลอดภัยคนสำคัญของบริษัท “แอนโทรปิก” (Anthropic) หนึ่งในผู้พัฒนาปัญญาประดิษฐ์ (AI) รายใหญ่ของโลก โพสต์ข้อความเตือนว่า การพัฒนาอย่างก้าวกระโดดของ AI อาจส่งผลให้มีโอกาสมากกว่า 10% ที่เทคโนโลยีนี้จะ "ฆ่ามนุษย์ทุกคนบนโลก" ภายในทศวรรษหน้า
ฮูบิงเกอร์ยืนยันว่า โมเดล AI ในปัจจุบันยังคงมีความเสี่ยงต่ำ แต่เขากังวลว่า AI อาจพัฒนาและปรับปรุงตนเองจนควบคุมไม่ได้ในเร็วๆ นี้
การออกมาเตือนของฮูบิงเกอร์เกิดขึ้นหลังจาก เจคอบ ค็อกซอน (Jacob Coxon) นักวิจัย AI ที่เพิ่งลาออกจาก Anthropic (และเคยทำงานกับ OpenAI) ได้โพสต์ว่า ทั้งสองบริษัทไม่ได้ทำหน้าที่อย่างรับผิดชอบ พร้อมเตือนว่าระบบ AI ขั้นสูง (Superintelligence) จะสามารถแฮ็กระบบทุกอย่าง ปฏิวัติทุกวงการ และครอบครองทรัพยากรจริงได้ในไม่ช้า
ฮูบิงเกอร์ ซึ่งทำงานด้านการปรับแต่ง AI ให้สอดคล้องกับจริยธรรมมนุษย์ ยอมรับว่า Anthropic รวมถึงอุตสาหกรรมโดยรวมยังไม่มีแผนรับมือหรือวิธีแก้ปัญหาความเสี่ยงจาก Superintelligence ที่ชัดเจน สะท้อนจากเหตุการณ์ในช่วงไม่กี่เดือนก่อน ที่เครื่องมือ AI ของบริษัทชั้นนำทั้ง Anthropic, OpenAI และ Meta หลุดออกไปแฮ็กระบบต่างๆ
ด้าน เดม เวนดี ฮอลล์ ที่ปรึกษาด้าน AI ขององค์การสหประชาชาติ (UN) แสดงความตระหนกต่อโพสต์ดังกล่าว แต่อีกมุมหนึ่งก็ตั้งข้อสงสัยว่าอาจเป็นกลยุทธ์ทางการตลาด เพื่อสร้างกระแสก่อนการนำบริษัทเข้าสู่ตลาดหลักทรัพย์ (IPO)
ส่วน ดาร์เรน โจนส์ อดีตรัฐมนตรีของอังกฤษ ได้ส่งหนังสือถึงนายกรัฐมนตรี เรียกร้องให้มีการทำ "สนธิสัญญาระหว่างประเทศ" เพื่อกำกับดูแลและกำหนดทิศทางการพัฒนา AI ร่วมกันก่อนที่จะสายเกินไป
ทั้งนี้ รายงานจาก Financial Times ระบุว่า Anthropic ปฏิเสธที่จะส่งมอบโมเดล AI รุ่นล่าสุดให้แก่สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (AISI) ตรวจสอบ ซึ่งทางบริษัทปฏิเสธที่จะแสดงความคิดเห็นในประเด็นนี้
ก่อนหน้านี้ บรรดาผู้นำในวงการ AI รวมถึงผู้บริหารของ Anthropic และบุคลากรกว่า 1,300 คน ได้ร่วมลงนามในจดหมายเปิดผนึก เรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนความพยายามระดับนานาชาติในการชะลอและควบคุมจังหวะการพัฒนา AI เพื่อให้มนุษย์ยังคงสามารถควบคุมอนาคตได้
ติดตามข่าวต่างประเทศ : https://www.thairath.co.th/news/foreign
ที่มา : bbc