CAC จีน สั่งคุมเข้ม AI มุ่งคุ้มครองเด็ก และป้องกันเนื้อหาที่เป็นอันตราย

หน่วยงานกำกับดูแลไซเบอร์ของจีน (CAC) เสนอกฎคุมเข้ม AI มุ่งปกป้องเด็ก-สกัดเนื้อหาอันตราย ป้องกันเหตุทำร้ายตัวเอง…

“หน่วยงาน CAC จีน” สั่งคุมเข้ม AI มุ่งคุ้มครองเด็ก และป้องกันเนื้อหาที่เป็นอันตราย

หน่วยงานกำกับดูแลไซเบอร์ของจีน (Cyberspace Administration of China : CAC) ประกาศร่างระเบียบข้อบังคับใหม่ที่เข้มงวด กับ ปัญญาประดิษฐ์ หรือ เอไอ (AI) โดยมุ่งเน้นไปที่การสร้างระบบความปลอดภัยเพื่อคุ้มครองเด็ก และเยาวชน

พร้อมสั่งห้าม แชทบอท (Chatbot) ให้คำแนะนำที่นำไปสู่ความรุนแรง หรือการทำร้ายตัวเอง หลังกระแส เอไอ ทั่วโลกถูกตั้งคำถามอย่างหนักเรื่องผลกระทบต่อสุขภาพจิต

“เด็ก” ต้องมีมนุษย์ดูแลหากพบสัญญาณอันตราย

สาระสำคัญของร่างระเบียบที่เผยแพร่โดย หน่วยงานกำกับดูแลไซเบอร์แห่งประเทศจีน (CAC) ระบุว่า ผู้พัฒนา AI จะต้องนำมาตรการคุ้มครองเด็กมาใช้อย่างจริงจัง ประกอบด้วย

• ระบบจำกัดการใช้งาน : ต้องมีการตั้งค่าส่วนบุคคล และกำหนดระยะเวลาการใช้งานที่เหมาะสม
• การควบคุมโดยผู้ปกครอง : บริการที่เน้น “เพื่อนทางอารมณ์” (Emotional Companionship) ต้องได้รับความยินยอมจากผู้ปกครองก่อนให้บริการแก่เด็ก
• ระบบตัดสลับสู่มนุษย์ : หาก AI ตรวจพบการสนทนาที่เกี่ยวข้องกับการฆ่าตัวตายหรือการทำร้ายตัวเอง ต้องให้พนักงานที่เป็นมนุษย์เข้าควบคุมการสนทนาแทนทันที และต้องแจ้งผู้ปกครองหรือผู้ติดต่อฉุกเฉินโดยด่วน

นอกจากนี้ กฎระเบียบดังกล่าวยังครอบคลุมไปถึงการห้ามสร้างเนื้อหาที่ส่งเสริมการพนัน รวมถึงเนื้อหาที่กระทบต่อความมั่นคง และเกียรติยศของชาติ เพื่อรักษาความสงบเรียบร้อยในสังคม

รับมือความเสี่ยงระดับโลก จากกรณีศึกษาของ OpenAI

ความเคลื่อนไหวของจีนเกิดขึ้นท่ามกลางการขยายตัวอย่างรวดเร็วของแชทบอท เช่น DeepSeek, Z.ai และ Minimax ซึ่งมีผู้ใช้งานรวมกันหลายสิบล้านคน ขณะเดียวกันความกังวลด้านความปลอดภัยก็พุ่งสูงขึ้นทั่วโลก

ในสหรัฐฯ OpenAI (ผู้สร้าง ChatGPT) กำลังเผชิญกับคดีฟ้องร้องครั้งประวัติศาสตร์ หลังครอบครัวในแคลิฟอร์เนียกล่าวหาว่าแชทบอทมีส่วนกระตุ้นให้ลูกชายวัย 16 ปีจบชีวิตตัวเองลง ซึ่งทำให้เกิดการจัดการกับบทสนทนาที่เกี่ยวข้องกับการทำร้ายตัวเอง

คือ “หนึ่งในปัญหาที่ยากที่สุด” จนต้องมีการตั้งตำแหน่งใหม่คือ “หัวหน้าฝ่ายเตรียมความพร้อม” (Head of Preparedness) เพื่อรับมือกับความเสี่ยงด้านสุขภาพจิต และไซเบอร์โดยเฉพาะ

หนุน AI เชิงสร้างสรรค์ที่ปลอดภัย

อย่างไรก็ตาม จีนยังคงเปิดกว้างให้มีการพัฒนา เอไอ ในเชิงบวก โดยเฉพาะการนำไปสร้างเครื่องมือเพื่อเป็นเพื่อนกับผู้สูงอายุหรือการส่งเสริมวัฒนธรรมท้องถิ่น โดยเน้นย้ำว่าเทคโนโลยีต้องตั้งอยู่บนพื้นฐานของความปลอดภัย และเชื่อถือได้

ขณะนี้ร่างกฎระเบียบดังกล่าวกำลังอยู่ในช่วงเปิดรับฟังความคิดเห็นจากสาธารณะ ซึ่งหากมีผลบังคับใช้จะถือเป็นการจัดระเบียบครั้งใหญ่ที่ส่งผลกระทบต่ออุตสาหกรรมเทคโนโลยีทั่วประเทศจีน

ส่วนขยาย

* บทความเรื่องนี้น่าจะเป็นประโยชน์สำหรับการวิเคราะห์ในมุมมองที่น่าสนใจ 
** เขียน: ชลัมพ์ ศุภวาที (บรรณาธิการ และผู้สื่อข่าว) 
*** ขอขอบคุณภาพประกอบบางส่วนจาก www.bbc.com

สามารถกดติดตามข่าวสาร และบทความทางด้านเทคโนโลยีของเราได้ที่  www.facebook.com/itday.in.th