Red Hat ชี้ AI Security ไม่ใช่แค่เรื่อง “โมเดล” แนะใช้ Open Source และ SAFE Framework เสริมความปลอดภัย

เร้ดแฮท (Red Hat) เผยมุมมอง AI Security ย้ำความปลอดภัยไม่ได้อยู่แค่ที่ตัวโมเดล แต่คือโจทย์วิศวกรรมซอฟต์แวร์…

Red Hat ชี้ AI Security ไม่ใช่แค่เรื่อง “โมเดล” แนะใช้ Open Source และ SAFE Framework เสริมความปลอดภัย

คริส ไรท์ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี และรองประธานบริหาร ฝ่ายวิศวกรรมระดับโลก ของ เร้ดแฮท ให้ความเห็นต่อประเด็นดังกล่าวว่า การถกเถียงในวงกว้างเกี่ยวกับ AI และผลกระทบต่อความปลอดภัยทางไซเบอร์ มักกระจุกตัวอยู่แค่เรื่องของตัวโมเดล

จนเกิดกระแสเรียกร้องให้มีหน่วยงานกลางคอยควบคุมดูแลโมเดลรุ่นใหม่ล่าสุดอย่างลับ ๆ ถึงขั้นเสนอให้กำกับดูแลอย่างเข้มงวดหรือสั่งห้ามใช้โมเดลแบบเปิดเผยค่าน้ำหนัก (open weights models) โดยเด็ดขาด เพื่อเหตุผลด้านความปลอดภัย

แต่ในขณะที่หน่วยงานกำกับดูแลทั่วโลกกำลังชั่งน้ำหนักเรื่องอนาคตของโมเดล AI แบบเปิด ประเด็นหลักที่สำคัญที่สุดกลับถูกมองข้ามไป นั่นคือ เราจะคุ้มครอง และสร้างความปลอดภัยอย่างแท้จริงให้ AI ได้อย่างไร

ความปลอดภัยของ AI คือ ความท้าทายด้านซอฟต์แวร์ ไม่ใช่แค่เรื่องของโมเดล 

AI agent ไม่ใช่แค่ตัวโมเดลเดี่ยว ๆ แต่คือ ระบบซอฟต์แวร์ที่ประกอบกันแบบครบวงจร (software stack) ดังนั้น การสร้างความปลอดภัยให้ระบบนี้จึงต้องมองให้ครอบคลุมตั้งแต่การวิเคราะห์โมเดลหลัก (core model) ส่วนเชื่อมต่อสั่งการ (agentic harness)

เทคนิคการจำกัด พื้นที่ความเสี่ยง หรือพื้นที่จำลองการทำงาน (sandbox) เกราะคุมความปลอดภัยขณะทำงาน (runtime guardrails) การกำกับดูแลข้อมูล ไปจนถึงโครงสร้างพื้นฐานอีกหลายเลเยอร์ที่ทำหน้าที่รองรับระบบต่าง ๆ

สิ่งสำคัญคือ 3 ใน 4 ขององค์ประกอบเหล่านี้ คือ harnesses, sandbox และเลเยอร์ที่เป็นแอปพลิเคชันแบบดั้งเดิม ล้วนมีรากฐาน และยึดโยงอยู่กับวิศวกรรมซอฟต์แวร์โดยแท้จริง ไม่ใช่เรื่องของตัวโมเดล

ความพยายามในการสร้างความปลอดภัยให้ AI ด้วยการแยกส่วนซอฟต์แวร์ และกักไว้ในระบบปิดที่เป็นกรรมสิทธิ์ เป็นเพียงการย้ายความเสี่ยง ไม่ใช่การแก้ปัญหาที่แท้จริง หากย้อนกลับไปเมื่อหลายทศวรรษก่อน ตอนที่มีการเปิดตัว Linux ครั้งแรก เคยเกิดความลังเล และข้อสงสัยว่าโอเพ่นซอร์สจะเสถียรและปลอดภัยพอสำหรับการใช้งาน

ในระดับองค์กรหรือไม่ โดยฝ่ายที่ไม่เห็นด้วยมองว่ามีเพียงการพัฒนาแบบปิดเท่านั้นที่จะให้ความน่าเชื่อถือในระดับองค์กรได้ อย่างไรก็ตาม เวลาได้พิสูจน์แล้วว่าซอฟต์แวร์โอเพ่นซอร์สกลายเป็นขุมพลังสำคัญในการขับเคลื่อนการใช้ไอทีขององค์กรส่วนใหญ่ทั่วโลก ซึ่งเรื่องของการปรับขนาดการทำงานและความปลอดภัยเป็นเรื่องที่ไม่สามารถเจรจาต่อรองได้

เรากำลังเห็นแรงต้านแบบเดียวกันในปัจจุบัน โมเดล AI แบบโอเพ่นซอร์ส เครื่องมือควบคุมจัดการ agent แบบโอเพ่นซอร์ส และระบบจำลองการทำงานที่ตรวจสอบได้ จะพิสูจน์ให้เห็นว่าเป็นโครงสร้างพื้นฐานที่ปลอดภัยที่สุดของอนาคตแห่งการประมวลผล เช่นเดียวกับที่ Linux เคยพิสูจน์แล้วว่าความโปร่งใสและการร่วมมือกันในชุมชนช่วยสร้างระบบปฏิบัติการที่แข็งแกร่งมากขึ้น

ทำไมโมเดลแบบเปิด และความโปร่งใสจึงจำเป็นอย่างยิ่งในการป้องกันตัว 

ในโลกไซเบอร์ซีเคียวริตี ความโปร่งใส คือ หัวใจของการสร้างระบบให้ปลอดภัย เหมือนหลักการไอทีที่มีมานานว่า ความปลอดภัยที่เน้นแค่การปิดเป็นความลับ ไม่ใช่ความปลอดภัยที่แท้จริง การจำกัดการทำงานวิจัยด้านไซเบอร์และการรับมือภัยคุกคามไว้กับโมเดลจากผู้ให้บริการระบบปิดเพียงไม่กี่ราย นำมาซึ่งความเสี่ยงที่ร้ายแรง

เพราะทีมที่ทำหน้าที่ป้องกันไม่สามารถไปกำหนดได้ว่าผู้โจมตีจะใช้เครื่องมืออะไร หากนักวิจัย และทีมซีเคียวริตี้ขององค์กรไม่สามารถเข้าถึงหรือสำรวจดูโมเดลที่ใช้ในการป้องกันที่เป็นระบบเปิดได้ ก็เสี่ยงที่จะมองไม่เห็นเครื่องมือและรูปแบบการโจมตีที่แฮกเกอร์นำมาใช้ ยิ่งไปกว่านั้น การพึ่งพาผู้ให้บริการระบบปิดแค่ไม่กี่ราย ยังเป็นการสร้างความเสี่ยงเชิงระบบที่กระจุกตัวอยู่อีกด้วย

การเข้าถึงโมเดลแบบ Open-Weights ได้อย่างทั่วถึง จะช่วยให้ผู้ทำหน้าที่ป้องกันมีเครื่องมือที่จำเป็นในการสร้างกลยุทธ์เพื่อรับมือภัยคุกคามได้อย่างมีประสิทธิภาพ โมเดลแบบเปิดยังช่วยกระตุ้นให้เกิดการตรวจสอบวิเคราะห์เชิงวิทยาศาสตร์ในวงกว้าง ซึ่งเป็นสิ่งสำคัญต่อการค้นหา และแก้ไขช่องโหว่ซ่อนเร้นที่มักถูกแฝงไว้ในระบบปิดที่เป็นกรรมสิทธิ์ (black box)

เราได้เห็นตัวอย่างที่ชัดเจนของเรื่องนี้จากเหตุการณ์ความปลอดภัยของ Hugging Face ที่เพิ่งเกิดขึ้น แม้ต้นตอของช่องโหว่จะมาจากโมเดลระบบปิด (ระบบที่เรามักถูกบอกให้เชื่อมั่นว่าปลอดภัยในตัวของมันเองอยู่แล้ว) แต่การบรรเทาความเสียหา ยและการปกป้องระบบจริงกลับต้องพึ่งพาโมเดลแบบ open weights

ซึ่งมีบทบาทสำคัญอย่างยิ่งในการคลี่คลายภัยคุกคามในครั้งนี้ ด้วยเหตุนี้เร้ดแฮทจึงร่วมลงนามใน Microsoft‘s letter on Open Weights and American AI Leadership เพราะการเปิดให้เข้าถึงเครื่องมือฝั่งป้องกันได้อย่างกว้างขวาง จะช่วยกระจายความปลอดภัยได้อย่างครอบคลุมตลอดทุกขั้นตอนของวงจรการพัฒนาซอฟต์แวร์

ยกระดับมาตรการป้องกันที่ล้ำสมัยที่สุดในปัจจุบัน ด้วยการแบ่งปัน และเรียนรู้ร่วมกัน 

เร้ดแฮทนำจุดแข็งที่สุดของบริษัทฯ มาใช้ตอบโจทย์ความต้องการ AI ที่ปลอดภัย นั่นคือการทำงานร่วมกับชุมชน โดยล่าสุด ในฐานะที่เป็นส่วนหนึ่งของ Open Secure AI Alliance เร้ดแฮทได้ร่วมมือกับ NVIDIA, Linux Foundation และสมาชิกในกลุ่ม จัดทำ Request for Comments (RFC) for the Shared AI Findings Exchange (SAFE) Working Group ขึ้นมา

ทีมไอทีมักตรวจสอบ และแก้ปัญหาเหตุการณ์ละเมิดความปลอดภัยในการใช้ AI กันเองภายในองค์กร ทำให้องค์ความรู้และข้อมูลเชิงลึกในการดำเนินการถูกบล็อกไว้แค่ในองค์กรนั้น ๆ กรอบแนวทางของ SAFE เข้ามาเปลี่ยนวิถีเดิม ๆ นี้ ด้วยการสร้างเฟรมเวิร์กที่เป็นกลางขึ้นมา เพื่อรวบรวม วิเคราะห์ และแชร์ข้อมูลความผิดพลาดจากการใช้ AI อย่างเป็นความลับ และไม่มุ่งจับผิดใคร

การสนับสนุนให้รายงานเหตุความปลอดภัย และแลกเปลี่ยนข้อมูลภัยคุกคามอย่างเปิดเผย คือหัวใจสำคัญที่จะช่วยให้เกิดการยกระดับขีดความสามารถด้านการป้องกันไปด้วยกัน ความร่วมมือแบบเปิดนี้ช่วยให้ทั้งวงการได้ประโยชน์ร่วมกันเต็ม ๆ ตั้งแต่การพัฒนาเครื่องมือได้รวดเร็วขึ้น เสริมเกราะป้องกันให้แข็งแกร่งมากขึ้น ไปจนถึงการปกป้องโครงสร้างพื้นฐานสำคัญให้รอดพ้นจากการโจมตีในสถานการณ์จริงได้อย่างรัดกุม

ก้าวไปข้างหน้าพร้อมกัน

เครื่องมือ AI ต่าง ๆ กำลังพัฒนาไปข้างหน้าด้วยความเร็วอย่างที่ไม่เคยมีมาก่อน ไม่ว่าจะเป็นงานปฏิบัติการพื้นฐาน งานวิศวกรรมซอฟต์แวร์ หรือการให้บริการแอปพลิเคชันระดับองค์กร ความแข็งแกร่งของระบบขึ้นอยู่กับการผสมผสานระหว่างโมเดลหลัก และเครื่องมือโอเพ่นซอร์สที่ห่อหุ้มอยู่รอบ ๆ เพื่อกำกับพฤติกรรมของ AI ให้เป็นไปตามวัตถุประสงค์และผลลัพธ์ที่ต้องการได้อย่างปลอดภัย

เร้ดแฮท เชื่อว่าความร่วมมือแบบเปิด และความโปร่งใสยังคงเป็นแนวทางที่ดีที่สุด เร็วที่สุด และปลอดภัยที่สุดในการพัฒนาเทคโนโลยี ทุกฝ่ายสามารถยกระดับความปลอดภัย และศักยภาพของเทคโนโลยีให้เติบโตควบคู่กันได้ ด้วยการชูจุดแข็งด้านการคิดวิเคราะห์ของมนุษย์ และการผลักดันระบบนิเวศแบบเปิดต่าง ๆ ทั้งกับซอฟต์แวร์โอเพ่นซอร์ส โมเดลแบบ open weights และกลไกควบคุมเอเจนต์แบบเปิด

ปัจจุบัน ข้อเสนอ SAFE RFC ฉบับเต็มได้เปิดให้เข้าถึงแล้วบน GitHub เพื่อให้ชุมชนผู้ใช้งานได้ร่วมอ่าน ตรวจสอบ แลกเปลี่ยนความคิดเห็น และร่วมพัฒนาไปด้วยกัน 

ส่วนขยาย

* บทความเรื่องนี้น่าจะเป็นประโยชน์สำหรับการวิเคราะห์ในมุมมองที่น่าสนใจ 
** เขียน: ชลัมพ์ ศุภวาที (บรรณาธิการ และผู้สื่อข่าว) 
*** ขอขอบคุณภาพประกอบบางส่วนจาก N/A

สามารถกดติดตามข่าวสาร และบทความทางด้านเทคโนโลยีของเราได้ที่  www.facebook.com/itday.in.th