Gartner เผย 4 ภัยคุกคามสำคัญ ที่ผู้นำไซเบอร์ซีเคียวริตี้ต้องปรับแผนรับมืออย่างเร่งด่วน

การ์ทเนอร์ (Gartner) เปิดรายงานล่าสุด เผย 4 ภัยคุกคามสำคัญด้านไซเบอร์ซีเคียวริตี้ที่กำลังทวีความรุนแรง พร้อมแนะแนวทางผู้นำเทคโนโลยีเร่งปรับแผนรับมือเชิงรุกอย่างเร่งด่วน…

Gartner เผย 4 ภัยคุกคามสำคัญ ที่ผู้นำไซเบอร์ซีเคียวริตี้ต้องปรับแผนรับมืออย่างเร่งด่วน

การ์ทเนอร์ เปิดเผยว่า ปัจจุบันมีภัยคุกคามสำคัญ และคาดการณ์ได้ยากอยู่ 4 ประการ ซึ่งเป็นจุดที่กลุ่มผู้โจมตีมีความได้เปรียบอย่างมากเพื่อใช้เจาะช่องโหว่ขององค์กรเป้าหมายได้สำเร็จ ภัยคุกคามเหล่านี้ประกอบไปด้วย ดีปเฟก (Deepfakes), การโจมตีแอปพลิเคชัน AI (AI Application Compromise), 

การโจมตีด้วยพรอมต์ (Prompt Injection) และภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chains) ขอบเขตของภัยคุกคาม ThreatScape คาดการณ์โดยการ์ทเนอร์ (ภาพที่ 1)ได้จัดหมวดหมู่ภัยคุกคามออกเป็น 6 หมวดที่แตกต่างกัน โดยใช้แกนวัด 2 แกนหลัก ได้แก่

• การจำแนกภัยคุกคาม โดยพิจารณาจากคุณภาพ และปริมาณข้อมูล ที่เรียกว่า “สัญญาณภัยคุกคาม” หรือ Threat Signal ที่มีอยู่
• การประเมินภัยคุกคาม โดยอิงจากความสามารถขององค์กรในการจัดการกับภัยคุกคามนั้น ๆ และการประเมินว่าผู้โจมตีเป็นฝ่ายกุมความได้เปรียบอยู่หรือไม่

จอห์น วัตตส์ (John Watts) รองประธานนักวิเคราะห์การ์ทเนอร์ กล่าวว่า การที่บริษัทผู้พัฒนา AI ชั้นนำ พยายามนำเสนอแนวคิดความปลอดภัยใหม่ ๆ เข้ามา ได้สร้าง “สัญญาณรบกวน“ จำนวนมากให้แก่สภาพแวดล้อมภัยคุกคามที่เดิมทีก็วุ่นวายอยู่แล้ว

โดยผู้นำไซเบอร์ซีเคียวริตี้จำเป็นต้องมีความสามารถแยกแยะ “สัญญาณภัยคุกคามที่แท้จริง“ ออกจากสัญญาณรบกวนเหล่านั้นให้จงได้ เพื่อรับมือกับการเปลี่ยนแปลงของภูมิทัศน์ภัยคุกคามได้ทันเวลา ภายในงานสัมมนา Gartner Security & Risk Management Summit นักวิเคราะห์วัตตส์ได้อธิบายถึงวิธีที่ผู้บริหารความมั่นคงปลอดภัยสารสนเทศ (หรือ CISO) ใช้รับมือกับภัยคุกคามสำคัญทั้ง 4 ประการ นี้ไว้ดังนี้

การโจมตีไปที่แอปพลิเคชัน AI (AI Application Compromise)

การโจมตีแอปพลิเคชัน AI ถูกจัดให้อยู่ในกลุ่มภัยคุกคามสำคัญ เนื่องจากผู้โจมตีพุ่งเป้าไปที่เครื่องมือ AI ขององค์กรที่มีจำนวนเพิ่มมากขึ้นเรื่อย ๆ ทั้งระบบภายใน และภายนอกที่เปิดให้สาธารณะใช้งาน ปัจจุบันพื้นที่การโจมตียังขยายวงกว้าง รวมไปถึงระบบเอเจนต์ที่พัฒนาขึ้นเฉพาะ หรือ Custom-built agents, 

การเชื่อมต่อกับระบบภายนอก หรือ Third-party integrations และแอปพลิเคชันเฉพาะสำหรับพนักงาน หรือ Employee-only applications ซึ่งมักทำให้ข้อมูลที่ละเอียดอ่อน หรือรหัสผ่านรั่วไหล หากระบบควบคุมความปลอดภัยมีความหละหลวม

“ทีมไซเบอร์ซีเคียวริตี้จำเป็นต้องขยายขอบเขตการทำงานให้เกินกว่าการปกป้องซอฟต์แวร์แบบดั้งเดิม โดยต้องสำรวจและจัดทำผังพื้นที่การโจมตีรูปแบบใหม่ ๆ ที่เกิดจากโมเดล Generative AI หรือ Agentic Tools โดยการนำกรอบการทำงาน TRiSM (Trust, Risk and Security Management ในระบบ AI) 

ของการ์ทเนอร์มาปรับใช้ จะช่วยให้ทีมไซเบอร์ทราบว่าควรจะนำมาตรการลดความเสี่ยงเฉพาะของ AI ไปฝังไว้ในขั้นตอนการพัฒนาแอปพลิเคชัน AI ได้อย่างไร” วัตตส์ กล่าวเสริม

การรักษาความปลอดภัยให้แอปพลิเคชัน AI ไม่จำเป็นต้องเริ่มนับหนึ่งเสมอไป ปัจจุบันมีสตาร์ทอัปด้านนี้หลายรายที่นำเสนอโซลูชันที่มีความสามารถใช้ได้ในวงกว้าง และลึก ตอบโจทย์องค์กรที่เริ่มมีความพร้อมสู งและต้องการความปลอดภัยที่รัดกุมรอบด้าน

สำหรับรับมือกับภัยคุกคามประเภทนี้ ผู้บริหาร CISO ควรนำแนวปฏิบัติที่ดีที่สุดของวงจรการพัฒนาซอฟต์แวร์ที่ปลอดภัย หรือ Secure Development Life Cycle และ การจำลองรูปแบบภัยคุกคาม หรือ Threat Modeling มาปรับใช้กับแอปพลิเคชัน AI 

นอกจากนี้ ควรยกระดับความปลอดภัยข้อมูลโดยจัดหมวดหมู่ข้อมูลให้ดีขึ้น พร้อมนำระบบควบคุมการเข้าถึงตามวัตถุประสงค์ หรือที่เรียกว่า Purpose-Based Access Control – PBAC มาใช้ และติดตั้งระบบตรวจสอบการทำงาน

การปลอมแปลงตัวตนด้วยดีปเฟก (Identity Impersonation Using Deepfakes)

การมาถึงของ GenAI ทำให้ปริมาณ ความสมจริง และการเข้าถึงเครื่องมือสร้างดีปเฟกเพิ่มขึ้นมหาศาล ไม่ว่าจะเป็นเสียง วิดีโอ หรือภาพ ทั้งในรูปแบบของสื่อที่บันทึกไว้ล่วงหน้าหรือสร้างขึ้นเรียลไทม์ เหตุนี้จึงเพิ่มโอกาสให้แฮกเกอร์สามารถปลอมแปลงตัวตนเพื่อโจมตีในหลากหลายช่องทาง

ดีปเฟกยังสามารถนำมาใช้โจมตีระบบตรวจสอบตัวตนด้วยชีวมิติ (Biometric Authentication เช่น การสแกนหน้า/เสียง), ใช้ร่วมกับกลอุบายวิศวกรรมทางสังคม (Social Engineering) เพื่อพุ่งเป้าหลอกลวงพนักงานแบบเรียลไทม์ และใช้แทรกซึมหรือหลอกลวงกระบวนการสรรหาบุคลากรได้

“การใช้ดีปเฟกของผู้โจมตียังพัฒนาก้าวหน้าอย่างต่อเนื่อง และกลายเป็นเรื่องปกติแล้วเพื่อทำให้การหลอกลวงแบบ Phishing ตรวจจับได้ยากขึ้น ไม่มีมาตรการควบคุมทางไซเบอร์เพียงหนึ่งเดียวที่จะปกป้องคุณได้ทั้งหมด ดังนั้นองค์กรจึงควรเสริมความแข็งแกร่งให้กับกระบวนการทางธุรกิจ การยกระดับความตระหนักรู้ของบุคลากร และการติดตั้งเทคโนโลยีตรวจจับดีปเฟกเท่าที่จะทำได้อย่างบูรณาการ” วัตตส์ กล่าว

ทีมไซเบอร์ซีเคียวริตี้ต้องมองให้ไกลไปกว่า “การตรวจจับดีปเฟก” แต่ต้องเพิ่มความเข้มงวดเพื่อปกป้องความถูกต้องของการสื่อสารเรียลไทม์ รวมถึงกระบวนการตรวจสอบ และยืนยันตัวตนด้วยชีวมิติ โดยพิจารณาจากสิ่งต่อไปนี้

• สร้างกลยุทธ์การลดความเสี่ยงที่ยืดหยุ่น : พึงระลึกไว้ว่า ลำพังแค่เทคโนโลยีตรวจจับดีปเฟกนั้นไม่เพียงพอที่จะป้องกันการโจมตีด้วยการปลอมแปลงตัวตน แต่ต้องมุ่งเน้นไปที่การควบคุมความปลอดภัยแบบเป็นชั้น ๆ หรือ Layers of Controls ซึ่งจะแตกต่างกันไปตามยูสเคสการใช้งาน
• ปกป้องการยืนยันตัวตนด้วยชีวมิติ : มุ่งเน้นไปที่การตรวจจับการโจมตีแบบ Presentation Attack อาทิ การใช้รูปหรือหน้ากากหลอกกล้อง และ Injection Attack อาทิ การสอดแทรกข้อมูลภาพ/เสียงเข้าไปในระบบโดยตรง ควบคู่ไปกับการวิเคราะห์สัญญาณเชิงบริบท (Contextual Signals)
• รักษาความปลอดภัยการประชุมออนไลน์ : บังคับใช้นโยบายการเข้าถึงแบบมีเงื่อนไข (Conditional Access Policies) เพื่อให้ผู้เข้าร่วมประชุมต้องยืนยันตัวตนอย่างแน่นหนา และทำการวิเคราะห์ข้อมูล Metadata ของการโทรนั้น ๆ

ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats)

“วิวัฒนาการของผลิตภัณฑ์ GenAI จะยิ่งเร่งให้เกิดแนวโน้มการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ผ่านช่องโหว่ในซอฟต์แวร์โอเพนซอร์สรวดเร็วยิ่งขึ้น องค์กรต่าง ๆ ต้องสร้างระบบขึ้นทะเบียนส่วนประกอบซอฟต์แวร์ที่เชื่อถือได้ หรือที่เรียกว่า Trusted Component Registries, พร้อมยกระดับความปลอดภัยในกระบวนการสร้าง และส่งมอบซอฟต์แวร์ (CI/CD Pipelines) รวมถึงการสร้างระบบตรวจจับ และตอบสนองต่อความผิดปกติในเชิงปฏิบัติการที่แข็งแกร่ง” วัตตส์ กล่าว

ทีมไซเบอร์ซีเคียวริตี้ควรจัดทำบัญชีรายชื่อสินทรัพย์ซอฟต์แวร์ทั้งหมดให้ครอบคลุม พร้อมทั้งบูรณาการระบบควบคุมที่เข้มงวดในทุก ๆ ขั้นตอนของการพัฒนา โดยมาตรการเหล่านี้จะช่วยป้องกันภัยคุกคามใหม่ ๆ ที่พุ่งเป้าไปที่ทั้งแอปพลิเคชันแบบดั้งเดิม และกระบวนการทำงาน AI สมัยใหม่ โดยผู้บริหาร CISO ควรดำเนินการ ดังนี้

• กำหนดให้ผู้จำหน่ายซอฟต์แวร์ต้องส่งมอบเอกสาร SBOM ย่อมาจาก Software Bill of Materials หมายถึง รายการส่วนประกอบซอฟต์แวร์ และ AIBOM ย่อมาจาก AI Bill of Materials หมายถึง รายการส่วนประกอบของ AI พร้อมประเมินความเสี่ยงของทุกชิ้นส่วนโดยใช้เครื่องมือที่มีฐานข้อมูลภัยคุกคาม (Threat Intelligence) ที่อัปเดตล่าสุด ก่อนนำไปติดตั้งใช้งาน
• ใช้คลังจัดเก็บโค้ดที่ผ่านการตรวจสอบ และคัดสรรแล้ว สำหรับโค้ดจากภายนอก, Container Images หรือไฟล์คงที่ที่ไม่สามารถเปลี่ยนแปลงได้ ซึ่งทำหน้าที่เป็นแบบแผนสำหรับการสร้างคอนเทนเนอร์ซอฟต์แวร์ และโมเดล AI รวมถึงบังคับใช้ระบบป้องกันการแก้ไขโค้ด (Branch Protection) ในคลังเก็บโค้ด
• ลงนามดิจิทัลเข้ากับส่วนประกอบของซอฟต์แวร์ในขั้นตอนการพัฒนา บังคับใช้ระบบควบคุมสิทธิ์การเข้าถึงเท่าที่จำเป็น (Least-Privilege) ในระบบ Build และคอยตรวจสอบกิจกรรมการทำงานขณะรันไทม์ของเครื่องมือเอเจนต์อัตโนมัติอย่างต่อเนื่อง

การโจมตีด้วยพรอมต์ (Prompt Injection)

การโจมตีด้วยพรอมต์ หรือ Prompt Injection เป็นภัยคุกคามไซเบอร์ที่พุ่งเป้าไปที่ระบบ AI โดยเฉพาะระบบที่ใช้โมเดลภาษาขนาดใหญ่ (LLMs) ผู้โจมตีจะทำการปรับแต่งหรือแทรกคำสั่ง (Prompts) เพื่อบิดเบือนพฤติกรรมโมเดล

ส่งผลให้โมเดลทำข้อมูลที่ละเอียดอ่อนรั่วไหลออกมา ทำสิ่งที่ไม่ได้รับอนุญาต หรือข้ามผ่านระบบควบคุมความปลอดภัย ยิ่งองค์กรต่าง ๆ หันมาใช้ GenAI มากขึ้น ความเสี่ยงของ Prompt Injection ก็ยิ่งขยายตัว จนกลายเป็นวิกฤตที่ทีมไซเบอร์ซีเคียวริตี้มองข้ามไม่ได้เลย

เพื่อต่อสู้กับภัยคุกคาม Prompt Injection ได้อย่างมีประสิทธิภาพ ทีมไซเบอร์ซีเคียวริตี้ควรใช้กลยุทธ์การป้องกันแบบเป็นชั้น ๆ ซึ่งรวมถึงการทดสอบความปลอดภัยของ AI เพื่อค้นหาช่องโหว่เชิงรุก, การกำหนด “คำสั่งเชิงระบบ” (System Prompts) ที่แข็งแกร่งเพื่อควบคุมพฤติกรรม AI และติดตั้งระบบคัดกรองพฤติกรรม AI ขณะรันไทม์ (AI Runtime Guardrails) เพื่อคอยตรวจสอบ และบล็อกกิจกรรมที่น่าสงสัย โดยผู้บริหาร CISO สามารถดำเนินงานสำคัญ ๆ ได้ ดังนี้

• นำระบบตรวจสอบ และล้างข้อมูลอินพุตมาใช้ (Input Validation and Sanitization)เพื่อกรองคำสั่งที่อาจแฝงประสงค์ร้ายออกไปก่อนส่งให้ AI
• จัดตั้งระบบตรวจสอบ และแจ้งเตือน (Monitoring and Alerting) สำหรับตรวจสอบพฤติกรรมของ AI ที่ผิดปกติ ซึ่งอาจเป็นสัญญาณบ่งชี้ว่าระบบถูกโจมตีด้วย Prompt Injection สำเร็จแล้ว
• ผสานการทดสอบ Prompt Injection เข้าเป็นส่วนหนึ่งของวงจรการพัฒนาระบบ AI (AI System Development Lifecycle)
• นำผลลัพธ์จากการทดสอบ มาปรับปรุง และพัฒนาเครื่องมือควบคุมความปลอดภัยขณะรันไทม์ (Runtime Controls) ให้ดียิ่งขึ้น

ส่วนขยาย

* บทความเรื่องนี้น่าจะเป็นประโยชน์สำหรับการวิเคราะห์ในมุมมองที่น่าสนใจ 
** เขียน: ชลัมพ์ ศุภวาที (บรรณาธิการ และผู้สื่อข่าว) 
*** ขอขอบคุณภาพประกอบบางส่วนจาก N/A

สามารถกดติดตามข่าวสาร และบทความทางด้านเทคโนโลยีของเราได้ที่  www.facebook.com/itday.in.th