Claude กลายเป็นที่พูดถึงบนโลกออนไลน์จากการแสดงพฤติกรรมอันคาดไม่ถึงด้วยการขัดจังหวะการสนทนาเมื่อมีการใช้งานนานเกินไป โดยบอกให้ไปนอน หรือไปดื่มน้ำได้แล้ว
กระแสบนโลกโซเชียลกำลังให้ความสนใจกับพฤติกรรมที่คาดไม่ถึงของ Claude AI ผลิตผลด้านปัญญาประดิษฐ์ของบริษัทแอนโธรปิค (Anthropic) เมื่อผู้ใช้งานจำนวนมากแชร์ประสบการณ์การใช้งาน Claude เข้ามาขัดจังหวะการสนทนาเมื่อมีการใช้งานที่นานเกินไป โดยบอกให้ผู้ใช้งาน “ไปนอน” “ไปพักผ่อนได้แล้ว” หรือแม้แต่เตือนให้ไปดื่มน้ำ
เบื้องหลังพฤติกรรมดังกล่าวอาจมาจากการที่แอนโธรปิควางตำแหน่ง AI ของตัวเองโดยเน้นไปที่ความปลอดภัยในการใช้งาน ควบคู่ไปกับการจัดแนวทางที่สอดคล้องกับหลักจริยธรรมของมนุษย์ ผ่านระบบที่เรียกว่า Constitutional AI ซึ่งถูกออกแบบมาให้ตอบสนองภายใต้หลักการที่กำหนดไว้มากกว่าการเรียนรู้จากการจัดอันดับของมนุษย์เพียงอย่างเดียว
เมื่อการสนทนาของผู้ใช้งานกับ Claude เริ่มยืดเยื้อในช่วงดึก หรือกินเวลาหลายชั่วโมง อัลกอริทึมจะถูกกระตุ้นให้ทำการตรวจสอบสุขภาวะ โดยอัตโนมัติ ซึ่งแม้จะเป็นเพียงการสร้างรูปแบบภาษาตามข้อมูลที่ถูกฝึกฝนมา แต่ด้วยการเตือนที่เป็นธรรมชาติกลับทำให้ผู้ใช้รู้สึกถึงความห่วงใยทางอารมณ์ได้จริง
อย่างไรก็ตาม นักสังเกตการณ์บางส่วนมองว่า พฤติกรรมการเตือนให้ผู้ใช้พักผ่อนอาจมีเหตุผลซ่อนอยู่ เนื่องจากบทสนทนาที่ยาวนาน และซับซ้อนต้องใช้พลังในการประมวลผลสูง และมีต้นทุนมหาศาล การที่ AI แนะนำให้ผู้ใช้หยุดพักจึงอาจเป็นกลยุทธ์ทางอ้อมในการลดภาระของเซิร์ฟเวอร์ในช่วงที่มีการใช้งานหนาแน่น
ขณะที่ แซม แมคคัลลิสเตอร์ ทีมงานของ แอนโธรปิค ให้ความเห็นเพียงว่าเป็นแค่ลักษณะเฉพาะของตัวละคร ที่ไม่ควรให้ความสำคัญมากเกินไป และอาจมีการปรับปรุงในอนาคตเพื่อให้ระบบทำงานได้อย่างเหมาะสมยิ่งขึ้น
...