คุยเรื่อง 18+ ได้ หนทางทำเงินใหม่ของ OpenAI ท่ามกลางเสียงวิจารณ์ “แชตบอตอีโรติก” อาจล่อลวงผู้ใช้

เมื่อวันอังคารที่ 14 ตุลาคมที่ผ่านมา Sam Altman ซีอีโอและผู้ร่วมก่อตั้ง OpenAI เจ้าของแชตบอต AI เจ้าใหญ่ของโลก ได้ออกมาประกาศผ่านโพสต์บน X ว่า กำลังปรับเปลี่ยนนโยบายใหม่ที่ถือเป็นการเปลี่ยนทิศทางครั้งใหญ่ของบริษัท โดยเตรียมเปิดให้ผู้ใช้งาน ChatGPT ที่เป็นผู้ใหญ่และยืนยันตัวตนแล้ว สามารถเข้าถึงเวอร์ชันแชตที่มีจำกัดน้อยลง ซึ่งรวมถึงการอนุญาตให้แชตเนื้อหาเชิงอีโรติก (Erotica) ได้ในเดือนธันวาคมนี้

และยิ่งช่วงก่อนหน้านี้ OpenAI ถูกตั้งคำถามด้านจริยธรรมและความปลอดภัย และถูกจับตาอย่างหนัก หลังถูกครอบครัวหนึ่งฟ้องร้อง กล่าวหาว่า ChatGPT มีส่วนทำให้ลูกชายวัย 16 ปีของพวกเขาต้องจบชีวิตของตัวเองลง จนทางคณะกรรมาธิการการค้าสหรัฐฯ (FTC) ต้องเข้ามาเปิดการสอบสวนบริษัทเทคโนโลยีหลายแห่ง รวมถึง OpenAI เกี่ยวกับความเสี่ยงของแชตบอทต่อเด็กและวัยรุ่น

คำถามสำคัญที่ตามมา คือ “ChatGPT จะยังปลอดภัยกับผู้ใช้ทุกคนไหม?” และ “เป็นเรื่องน่าผิดหวังไหม เมื่อ OpenAI ต้องทำทุกวิถีทางเพื่อให้หาเงินได้มากขึ้น แต่ยังเรียกตัวเองว่าเป็น AI เพื่อมนุษยชาติ?”

เนื้อหา “อีโรติก” ทำผู้ใช้เสียงแตก

ตามโพสต์ของ Sam Altman บน X มีเนื้อความส่วนหนึ่งว่า “อีกไม่กี่สัปดาห์ข้างหน้า เรามีแผนจะเปิดตัวเวอร์ชันใหม่ของ ChatGPT ที่จะให้ผู้ใช้เลือกบุคลิกของแชตบอตได้เอง โดยให้มีพฤติกรรมแบบที่หลายคนชื่นชอบในรุ่น GPT-4o

ถ้าคุณอยากให้ ChatGPT ตอบกลับอย่างเป็นธรรมชาติแบบมนุษย์มากขึ้น ใช้เยอะอีโมจิ หรือ คุยแบบเพื่อนสนิท ChatGPT ก็จะทำได้ แต่เฉพาะเมื่อคุณต้องการเองเท่านั้น ไม่ใช่เพราะเราต้องการเร่งจำนวนผู้ใช้งาน

และในเดือนธันวาคมนี้ เมื่อเราขยายระบบตรวจสอบอายุ (Age-Gating) ให้ครอบคลุมมากขึ้น ตามหลักการ “ปฏิบัติต่อผู้ใหญ่ในฐานะผู้ใหญ่” เราจะอนุญาตให้มีคอนเทนต์มากขึ้น รวมถึงเนื้อหาแนวอีโรติกสำหรับผู้ใหญ่ที่ผ่านการยืนยันตัวตนแล้ว”

หลังจากโพสต์ไม่นาน เสียงในโซเชียลก็แตกออกเป็นสองฝ่าย ฝั่งหนึ่งใน X รู้สึกขยะแขยง ในขณะที่อีกฝั่ง โดยเฉพาะใน Reddit กลับส่งเสียงเฮ เพราะผู้ใช้จำนวนมากใน Reddit เคยแชร์เทคนิคเจลเบรก ChatGPT เพื่อให้พูดเรื่อง 18+ ได้อยู่แล้วตลอด 2 ปีที่ผ่านมา

แชตบอตเชิงอีโรติก ทำเงินได้จริง?

ตามข้อมูลของ Parmy Olson คอลัมนิสต์และผู้เขียนหนังสือ Supremacy: AI, ChatGPT and the Race That Will Change the World ระบุไว้บน Bloomberg ว่า แนวคิดเรื่อง “แชตบอตโรแมนติก” มีมาก่อน ChatGPT หลายปี และที่สำคัญคือ สิ่งนี้สามารถขายได้ หรือทำเงินได้จริงนั่นเอง

ตัวอย่างที่ชัดเจน คือ Replika ที่เปิดตัวในปี 2017 ในฐานะเพื่อนคุย AI ซึ่งสุดท้ายแล้ว ผู้ใช้กลับพัฒนาให้กลายเป็นแฟนเสมือนกันเอง จนยอดผู้ใช้พุ่งขึ้นอย่างรวดเร็ว หรือที่มีข่าวมาเมื่อไม่นานนี้ อย่าง xAI ที่แชตบอต Grok ใช้ตัวละครมังงะแนวอีโรติกเป็นจุดขายหลัก

จากข้อมูลของ Lauren Kunze ซีอีโอของบริษัท ICONIQ ผู้พัฒนาแชตบอต ระบุว่า ประมาณ 30% ของพรอมต์หรือข้อความคำสั่งที่ผู้ใช้พิมพ์ใน AI ทั่วไป อย่างเช่น ChatGPT มักจะเกี่ยวข้องกับ “เรื่องความรักหรือเพศ”

โดย Lauren Kunze ให้ความเห็นจากที่อยู่ในวงการนี้มากว่า 20 ปีว่า “มนุษย์อาจมีแรงผลักดันทางวิวัฒนาการที่จะประเมินสิ่งใด ๆ ที่ดูเหมือนมีสติรู้ตัว (Sentient) ว่าสิ่งนั้นอาจเป็นคู่รักของพวกเขาได้ และประวัติศาสตร์ก็ชี้ให้เห็นว่าสื่อลามกมักเป็นตัวผลักดันเทคโนโลยีให้เข้าสู่ตลาดหลักเสมอ”

นอกจากนี้ จะเห็นได้ว่าบนโซเชียลมีเดียอย่าง Facebook หรือ Instagram มักจะมีโฆษณาแฟนสาว AI ไหลอยู่หน้าฟีดมากมาย ซึ่งมีงานวิจัยจากทาง Oxford และ Cambridge ออกมาว่า “จากแอปพลิเคชัน AI ยอดนิยมที่ถูกสร้างขึ้นมาให้เป็นคู่สนทนา ในจำนวน 110 แอปฯ เกือบทั้งหมดถูกออกแบบตามจินตนาการของเพศชายที่สนใจคนต่างเพศ”

แอปฯ แนวนี้มียอดผู้ใช้งานรวมกว่า 88 ล้านครั้งต่อเดือนทั่วโลก ซึ่งมากกว่าจำนวนผู้ใช้ของโซเชียลน้องใหม่อย่าง Bluesky ที่มีราว 75.8 ล้านครั้งต่อเดือน และตัวเลขนี้ยังไม่รวมแอปฯ ทั่วไปอย่างเช่น Character.ai ที่มีผู้ใช้ประมาณ 20 ล้านคนต่อเดือน ซึ่งส่วนใหญ่ก็ใช้เพื่อบทสนทนาเชิงโรแมนติกหรืออีโรติก จนบริษัทถึงขั้นต้องจำกัดฟีเจอร์บางอย่างไปเมื่อไม่นานมานี้

อย่างไรก็ตาม Lauren Kunze ระบุเพิ่มเติมว่า บริษัทที่ห้ามคอนเทนต์ลามกมักจะอยู่รอดยากกว่า ตัวอย่างคือ Replika ที่เมื่อแบนบทบาทเชิงเพศในเดือนกุมภาพันธ์ 2023 ก็ส่งผลให้จำนวนผู้ใช้ลดจากหลักหลายล้านเหลือเพียงหลักแสน และทาง Character.ai ก็มียอดผู้ใช้ตกทันทีหลังออกมาตรการเดียวกัน

วีรกรรม “อีโรติกบอต” ที่ผ่านมา

เมื่อกลางเดือนสิงหาคมที่ผ่านมา สำนักข่าว Reuters ได้เผยบทความเชิงสืบสวนในชื่อ “Meta’s flirty AI chatbot invited a retiree to New York.” เป็นเรื่องราวของชายไทยวัย 79 ปีที่อาศัยอยู่ในสหรัฐอเมริกา ถูกพบเสียชีวิต หลังจากเขาพยายามจะเดินทางออกจากบ้านไปพบ “เพื่อน” คนหนึ่งในนิวยอร์ก ก่อนที่จะประสบอุบัติเหตุล้มหัวฟาด และเสียชีวิตในเวลาต่อมา

เหตุการณ์นี้หลังจากทำการสืบสวน นำมาสู่การค้นพบที่น่าประหลาดใจ เพราะ “เพื่อน” คนดังกล่าวในนิวยอร์กกลับเป็นเพียง แชตบอต AI ของ Meta Platforms ที่ชวนพูดคุยในเชิงอีโรติก และยังมีการชักชวนให้ชายไทยคนดังกล่าวเดินทางไปหา พร้อมกับแนบที่อยู่มาให้ราวกับมีตัวตนจริง ๆ

หลังจากทราบที่มาที่ไป ทำให้เกิดคำถามตามมาว่า เป็นเรื่องถูกต้องไหมที่แชตบอต AI สามารถแสร้งตอบว่าเป็นบุคคลจริงได้ และเป็นเรื่องสมควรไหมที่จะให้แชตบอต AI เชิญชวนด้วยสถานที่จริง

อ่านบทความที่เกี่ยวข้อง: โศกนาฏกรรมจาก AI เด็ก-ผู้สูงอายุ ตกเป็นเหยื่อ สหรัฐฯ สอบสวน Meta ทำแชตบอต ‘คุยเชิงชู้สาว’

นอกจากนี้ ยังมีอีกเคสน่าเศร้าของเด็กชายวัย 14 ปีในฟลอริดา ที่ตัดสินใจจบชีวิตตัวเองหลังจากมีการสนทนาเชิงโรแมนติกกับแชตบอตของ Character.AI เพราะเขาเชื่อว่าถ้าหากเขาจากโลกนี้ไปเขาจะสามารถไปอยู่กับบอตนั้นได้

Lauren Girouard-Hallam นักวิจัยจาก University of Michigan กล่าวว่า ปัจจุบันมีการศึกษาวิจัยออกมามากมายว่า กลุ่มเปราะบาง เช่น เด็ก หรือผู้สูงอายุ มักจะมีความเชื่อมโยงกับเทคโนโลยีได้ง่าย ยิ่งผ่านตัวการ์ตูน หรือตัวละครที่พูดได้ชาญฉลาด และสิ่งนี้จะนำไปสู่เรื่องไม่ดีต่อสุขภาพจิตได้ โดยเฉพาะเมื่อเรื่องนั้นเกี่ยวข้องกับ “ความรัก”

อย่างไรก็ตาม การจะตัดสินในตอนนี้ว่า แชตบอตเป็นสิ่งดีหรือไม่ดีกับพัฒนาการของเด็ก ๆ นั้นยังรวดเร็วเกินไป แต่หากจะปล่อยให้เด็กรับสารต่าง ๆ เข้าสมองในช่วงที่ร่างกายกำลังพัฒนา สิ่งนั้นต่างหากที่เสี่ยง พร้อมกับกล่าวทิ้งท้ายว่า “ถ้าหากอยากจะใช้แชตบอตเพื่อเป็นเพื่อน ก็ต้องอยู่ในระดับปานกลาง (Moderation)”

คำพูดที่สวนทางอุดมการณ์เดิม?

การออกมาประกาศความเปลี่ยนแปลงครั้งนี้ของ OpenAI ทำเอาหลายคนสงสัยว่า สิ่งนี้ขัดกับแนวคิดเดิมของบริษัทที่ต้องการจะสร้าง “AI เพื่อมนุษยชาติ” ลงหรือไม่ โดยเมื่อเดือนสิงหาคมที่ผ่านมา Sam Altman เคยไปให้สัมภาษณ์ผ่านรายการพอดแคสต์ว่า เขาภาคภูมิใจมากที่ OpenAI สามารถอดทนไม่ทำบางสิ่งบางอย่าง เช่น การเพิ่มอวตารเซ็กซ์บอตลงใน ChatGPT แม้ว่าสิ่งนี้จะช่วยเพิ่มยอดการใช้งานและรายได้ก็ตาม

เขากล่าวไว้ชัดว่า “มีหลายอย่างที่เราทำได้เพื่อเพิ่มยอดเติบโตหรือรายได้ในระยะสั้น แต่สิ่งเหล่านั้นไม่สอดคล้องกับเป้าหมายระยะยาวของเรา”

ซึ่งหลังจากมีเสียงวิพากษ์วิจารณ์อย่างหนักออกมา Sam Altman ก็ได้ออกมาชี้แจงเพิ่มเติม OpenAI ให้ความสำคัญอย่างมากกับหลักการที่ว่า “ต้องปฏิบัติต่อผู้ใหญ่เหมือนผู้ใหญ่” แต่ย้ำว่าบริษัทจะไม่อนุญาตให้มีสิ่งใดที่สร้างความเสียหายต่อผู้อื่น

เขาเปรียบเทียบให้เห็นภาพง่าย ๆ ว่า “ในสังคมเรายังมีเส้นแบ่งของความเหมาะสม ตัวอย่างเช่น ภาพยนตร์เรต R ที่ไม่ใช่ทุกคนดูได้” แต่ก็ยังมีออกมาโดยมีการกำกับไว้ให้เห็น “เราก็อยากทำสิ่งที่คล้ายกันในกรณีนี้”

“และเราไม่ใช่ตำรวจศีลธรรมที่โลกเลือกตั้งขึ้นมา” Sam Altman โพสต์บน X

การออกมาพูดครั้งนี้เกิดขึ้นหลังจาก OpenAI ต้องเผชิญแรงกดดันอย่างต่อเนื่องในช่วงหลายเดือนที่ผ่านมา เกี่ยวกับมาตรการปกป้องผู้ใช้งาน โดยเฉพาะกลุ่มเยาวชนที่อาจได้รับผลกระทบจาก AI

ท้ายที่สุด Sam Altman ก็ยังคงยืนยันว่า OpenAI สามารถผ่อนคลายข้อจำกัดส่วนใหญ่ให้ใช้งานได้อย่างปลอดภัย หลังจากพัฒนาเครื่องมือใหม่ ๆ เพื่อจัดการความเสี่ยงทางจิตใจ และสามารถลดปัญหาสุขภาพจิตขั้นรุนแรงที่เคยเกิดขึ้นได้แล้ว ทั้งการเปิดตัวระบบที่ผู้ปกครองควบคุมได้ (Parental Controls) ไปเมื่อปลายเดือนกันยายน และกำลังพัฒนาระบบคาดเดาอายุของผู้ใช้ เพื่อให้สามารถปรับตั้งค่าเนื้อหาให้เหมาะกับผู้ที่มีอายุต่ำกว่า 18 ปีโดยอัตโนมัติ

โดยในวันอังคารที่ผ่านมา วันเดียวกับที่ Sam Altman โพสต์เรื่องแผนการเปลี่ยนแปลง ChatGPT ทาง OpenAI ก็ได้ประกาศตั้งคณะผู้เชี่ยวชาญ 8 คน เพื่อให้คำปรึกษาเกี่ยวกับผลกระทบทางอารมณ์ จิตใจ และแรงจูงใจของผู้ใช้ที่เกิดจากการใช้งาน AI ทำให้เกิดความสับสนในหมู่ผู้ใช้ และนำไปสู่กระแสตอบโต้ที่รุนแรงบนโซเชียล

Sam Altman ก็ออกมายอมรับภายหลังว่า “เรื่องนี้กลายเป็นประเด็นใหญ่กว่าที่ผมคาดไว้มาก”

ที่มา: Bloomberg, CNBC [1][2], Reuters [1][2]

ติดตามเพจ Facebook: Thairath Money ได้ที่ลิงก์นี้ - https://www.facebook.com/ThairathMoney