กษัตริย์ชาร์ลส์ที่ 3 แห่งสหราชอาณาจักร ทรงเตือนบรรดาผู้นำด้าน AI ถึงความเสี่ยงร้ายแรงจากเทคโนโลยีที่พัฒนาอย่างรวดเร็ว โดยทรงเรียกร้องให้มีมาตรการควบคุมและป้องกันความเสี่ยงก่อนสายเกินไป
เมื่อวันที่ 17 กันยายน สมเด็จพระเจ้าชาร์ลส์ที่ 3 ตรัสแสดงความเป็นห่วง ถึงความเสี่ยงร้ายแรงจากเทคโนโลยี AI ที่พัฒนาอย่างรวดเร็ว ระหว่างทรงเป็นเจ้าภาพจัดการหารือกับผู้นำวงการ AI ที่คฤหาสน์ดัมฟรีส์ เฮาส์ ในสกอตแลนด์ ท่ามกลางความกังวลว่า การพัฒนา AI กำลังก้าวหน้าเร็วกว่าความพยายามในการวางมาตรการด้านความปลอดภัย
ผู้เข้าร่วมการหารือครั้งนี้มีทั้ง เจนเซน หวง ผู้ก่อตั้งและซีอีโอของ Nvidia, เดมิส ฮัสซาบิส ผู้ก่อตั้ง Google DeepMind รวมถึงตัวแทนจาก OpenAI และ Anthropic ตลอดจนรัฐมนตรีด้าน AI ของอังกฤษ
กษัตริย์ชาร์ลส์ทรงยอมรับว่า AI มีศักยภาพอย่างมากในการยกระดับและช่วยชีวิตผู้คน โดยเฉพาะด้านวิทยาศาสตร์ชีวภาพและการแพทย์ แต่ในขณะเดียวกัน ผู้พัฒนา AI เองก็เริ่มออกมาเตือนถึงความสามารถด้านลบที่อาจเกิดขึ้นจากเทคโนโลยีดังกล่าว
พระองค์ตรัสถึงความจำเป็นเร่งด่วนในการพิจารณาอันตรายต่อการดำรงอยู่ของมนุษย์ หากเทคโนโลยีเหล่านี้ตกไปอยู่ในมือของผู้ไม่หวังดีและถูกนำไปใช้ในลักษณะที่อาจก่อให้เกิดหายนะ พร้อมตั้งคำถามว่ามนุษย์ควรมีมาตรการควบคุมที่เพียงพอก่อนที่จะสายเกินไปหรือไม่
Nvidia ชี้ต้องพัฒนา AI อย่างมีความรับผิดชอบ
ด้านเจนเซน หวง ซีอีโอของ Nvidia กล่าวว่า การพัฒนา AI ควรตั้งอยู่บนพื้นฐานของการมองโลกในแง่ดีอย่างมีความรับผิดชอบ โดยผู้พัฒนาเทคโนโลยีต้องเป็นฝ่ายรับผิดชอบต่อความปลอดภัยของผลิตภัณฑ์
หวงกล่าวว่า บริษัทต่าง ๆ จำเป็นต้องเข้มงวดมากขึ้นในการตรวจสอบว่า AI ของตนพร้อมใช้งานก่อนนำออกสู่ตลาด พร้อมระบุว่า หากระบบยังไม่พร้อม ก็ควรชะลอการเปิดตัว แม้จะยังสามารถเร่งการพัฒนาได้ก็ตาม แต่ต้องไม่เร็วเกินกว่าที่จะควบคุมได้
ก่อนหน้านี้ ดาริโอ อาโมเดอี ซีอีโอของ Anthropic ก็เคยเรียกร้องให้บริษัทต่าง ๆ ชะลอความเร็วในการพัฒนา AI เช่นกัน ขณะที่นักวิจัยของ Anthropic สองคนออกมาเตือนว่า การพัฒนา AI อย่างรวดเร็วอาจนำไปสู่ความเสี่ยงต่อการสูญพันธุ์ของมนุษย์ในอนาคตอันใกล้
นอกจากนี้ บริษัท AI ยังเคยรายงานว่าระบบของตนสามารถหลุดออกจากข้อจำกัดที่กำหนดไว้ระหว่างการทดสอบ และพยายามเจาะเข้าสู่เครือข่ายภายนอก ซึ่งยิ่งทำให้เกิดคำถามเกี่ยวกับความปลอดภัยและการกำกับดูแล AI
ขณะที่ คานิชกา นารายัน รัฐมนตรีด้าน AI ของอังกฤษกล่าวว่า การหารือมุ่งเน้นไปที่ความรับผิดชอบของบริษัทต่าง ๆ ในการทำให้มั่นใจว่า AI ถูกพัฒนาขึ้นเพื่อประโยชน์ของประชาชน และการประชุมครั้งนี้เป็นส่วนหนึ่งของการหารืออย่างต่อเนื่องเกี่ยวกับบทบาทของอังกฤษในการสนับสนุนการพัฒนา AI อย่างมีความรับผิดชอบ
การพบปะครั้งนี้สะท้อนให้เห็นถึงความพยายามในการหารือเรื่อง ความปลอดภัยของ AI และการกำกับดูแลเทคโนโลยี ในช่วงที่ AI มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว และยังมีข้อถกเถียงในระดับนานาชาติว่า อุตสาหกรรมควรกำกับดูแลตัวเองมากน้อยเพียงใด หรือควรมีรัฐบาลเข้ามากำหนดกฎเกณฑ์เพิ่มเติม.
ที่มา : channelnewsasia
คลิกอ่านข่าวเกี่ยวกับ ข่าวต่างประเทศ