ตั้งหลักก่อน — มองพนักงานคนนี้ว่า “อาจทำพังตรงไหน”#

ทั้งซีรีส์นี้ผมชวนมองว่า AI = พนักงานใหม่เก่งสุดๆ คนหนึ่งที่เราต้องกำกับ ไม่ใช่กล่องวิเศษที่เปิดแล้วลืมได้

ตอนก่อนๆ เราคุยกันเรื่อง “จ้างเขามาทำอะไร ตั้งกฎอะไรให้เขา” มาถึงตอนนี้ หมวกที่เราต้องสวมเปลี่ยนไปอีกแบบ — เราต้องมองพนักงานคนนี้ด้วยสายตาของเจ้าของที่คิดเผื่อ ว่า “งานที่เขาทำ มีจุดไหนที่จะพังได้บ้าง? เขาจะถูกหลอกได้ยังไง? มีใครจ้องจะใช้เขาเป็นเครื่องมือทำร้ายเราไหม? แล้วถ้าเขาทำพัง ผลกระทบจะลามไปถึงไหน?”

ขอเน้นจุดสำคัญที่สุดของตอนนี้ไว้ตั้งแต่ต้นเลยครับ — เราในฐานะเจ้าของกิจการคือ “เจ้าของความเสี่ยง” (risk owner) ไม่ใช่ผู้ตรวจ (auditor) ความต่างมันสำคัญมาก:

• ผู้ตรวจ มองภัยเพื่อ “ตรวจว่ามีช่องโหว่ตรงไหน แล้วเขียนรายงานส่ง” — จบที่การชี้ปัญหา
• เจ้าของความเสี่ยง (เรา) มองภัยเพื่อ “ตัดสินใจ” — ภัยตัวนี้เรายอมรับได้ไหม? ต้องลงทุนป้องกันแค่ไหน? คุ้มไหม? ถ้าไม่คุ้มจะเลิกใช้ AI ตัวนั้นเลยหรือเปล่า? — จบที่การ ลงมือจัดการ (treat) ด้วยเงินและคนของเราเอง

เพราะฉะนั้นตลอดตอนนี้ เวลาผมพูดถึงภัยแต่ละหมวด อย่าเพิ่งกังวลว่า “ต้องไปไล่แก้ทุกข้อ” — สิ่งที่เราต้องได้กลับไปคือ “ความเข้าใจว่าภัยมีกี่แบบ เพื่อจะตัดสินใจได้ว่าแบบไหนเกี่ยวกับธุรกิจเรา แบบไหนไม่เกี่ยว” การจัดหมวดภัยให้เป็น คือก้าวแรกของการเป็นเจ้าของความเสี่ยงที่ดี

มุมผู้บริหาร: ก่อนลงรายละเอียด ลองถามตัวเองข้อเดียว — “ตอนนี้ถ้ามีคนพยายามหลอกหรือเจาะ AI ที่เราใช้อยู่ บริษัทเราจะรู้ตัวภายในกี่นาที กี่วัน หรือไม่รู้เลย?” ถ้าตอบว่า “ไม่รู้เลย” นั่นไม่ใช่เรื่องของฝ่ายไอที — นั่นคือความเสี่ยงที่ “เราในฐานะเจ้าของ” กำลังแบกไว้โดยไม่รู้ตัว

ทำไมสนามรบ AI ถึงไม่เหมือนสนามรบไอทีเดิม#

ก่อนจะแยกหมวดภัย ขอปูภาพใหญ่ก่อนว่าทำไมเราต้องมาเรียนเรื่องนี้ใหม่ ทั้งที่ก็มีเรื่องภัยไซเบอร์อยู่แล้ว

ตลอดหลายสิบปี คนทำงานความปลอดภัยห่วงอยู่ 4 เรื่องหลัก — ข้อมูล ลับ ไหม (confidentiality), ข้อมูล ถูกต้องครบถ้วน ไหม (integrity), ระบบ ใช้งานได้ ไหม (availability), และ ความเป็นส่วนตัว (privacy) ของคน เรื่องพวกนี้ยังสำคัญอยู่ครับ แต่พอ AI เข้ามา มันเพิ่ม “มิติใหม่” ที่ของเดิมไม่ครอบคลุม

ความต่างที่สำคัญที่สุดคือ AI เอา ช่องโหว่ทางเทคนิค (เจาะระบบ ขโมยข้อมูล) มาผสมกับ ช่องโหว่ที่เกี่ยวกับคนและการตัดสินใจ (หลอกให้ตัดสินใจผิด ทำให้เอนเอียง สร้างข้อมูลมั่ว) แล้วภัยพวกนี้ไม่ได้เกิดแค่ “ตอนใช้งาน” — มันเกิดได้ตั้งแต่ ตอนสร้าง AI (เอาข้อมูลอะไรมาสอน), ตอน AI คุยกับระบบอื่น, ไปจนถึง ตอน AI ส่งผลกระทบต่อโลกจริง (เช่น ปฏิเสธสินเชื่อใครคนหนึ่ง)

เทียบให้เห็นภาพ — ภัยไอทีเดิมเหมือน “มีโจรพยายามงัดเข้าบ้าน” เราล็อกประตู ติดกล้อง ก็พอ แต่ภัย AI เหมือน “พนักงานที่เราจ้างมาอาจถูกหลอกให้ทำผิด, อาจถูกป้อนข้อมูลเท็จจนเข้าใจผิด, หรืออาจตัดสินใจพลาดเองโดยไม่มีใครงัดบ้านเลยด้วยซ้ำ” — ภัยมันอยู่ในตัวงานและการตัดสินใจ ไม่ใช่แค่ที่ประตูบ้าน

นั่นทำให้ภัย AI ทุกแบบลงเอยที่ผลกระทบทางธุรกิจ กฎหมาย และชื่อเสียงเสมอ ซึ่งเป็นเรื่องที่เจ้าของกิจการต้องเป็นคนรับผิดชอบโดยตรง ไม่ใช่ปัญหาเทคนิคที่โยนให้ฝ่ายไอทีจบในตัวมันเองได้

หมวดที่ 1 — ภัยทางเทคนิค (Technical Threats)#

เอาล่ะครับ เริ่มจัดหมวดจริงจัง หมวดแรกคือภัยที่ “จับต้องได้ทางเทคนิค” — คนร้ายลงมือทำอะไรบางอย่างกับตัว AI ข้อมูล หรือระบบโดยตรง

หลักคิดที่ช่วยให้ไม่หลงทาง — AI ก็เป็นซอฟต์แวร์ตัวหนึ่ง เพราะฉะนั้นภัยไอทีเดิมๆ (โดนเจาะ โดนมัลแวร์ โดนขโมยรหัสผ่าน) ยังใช้ได้กับ AI หมด แต่ AI มีของพิเศษเพิ่มมาคือ “โมเดล + อัลกอริทึม + ข้อมูลที่ใช้สอน” ซึ่งเปิดช่องโหว่แบบที่ซอฟต์แวร์ธรรมดาไม่มี

ลองดูตารางนี้ที่ผมจัดให้เห็นว่า “ภัยเดิมที่เราคุ้น” กับ “ภัยที่ AI เพิ่มเข้ามา” มันคู่กันยังไง

เยอะใช่ไหมครับ 555+ ไม่ต้องท่องนะครับ — เอาแค่จับหลักว่า “คอลัมน์ซ้ายเรามีระบบป้องกันเดิมอยู่แล้ว คอลัมน์ขวาคือสิ่งที่ต้องมาคิดเพิ่ม” ทีนี้ผมจะหยิบ “ของขวา” ที่สำคัญและเจอบ่อยมาเล่าให้เห็นหน้าตาจริงทีละตัว เพราะนี่คือภัยที่เจ้าของต้องเข้าใจพอจะตัดสินใจได้

1
   ช่วงที่ 1: ตอนสร้าง          ช่วงที่ 2: ตอนรันระบบ        ช่วงที่ 3: ตอนใช้งาน
2
   (Development-time)          (Runtime)                  (Through use)
3
        │                          │                          │
4
   เอาข้อมูลอะไรมาสอน?         ระบบที่ห่อ AI ไว้           คนป้อนอะไรเข้าไป
5
   สภาพแวดล้อมที่เทรน          ปลอดภัยไหม?               AI ตอบอะไรออกมา?
6
   ห่วงโซ่ข้อมูล/โมเดล         (ช่องโหว่ไอทีทั่วไป)        (อินพุต-เอาต์พุต)

หมวดที่ 2 — ภัยที่ไม่ใช่เทคนิค (Nontechnical Threats)#

หมวดนี้คือจุดที่เจ้าของกิจการต้องตื่นตัวเป็นพิเศษ เพราะมันเป็นภัยที่ “แพตช์ไม่ได้” — ไม่มีโปรแกรมอัปเดตไหนแก้ได้ ไม่มีฮอตฟิกซ์สำหรับ “การตัดสินใจที่เอนเอียง” หรือ “ปัญหาจริยธรรม”

ที่ผ่านมาคนทำงานความปลอดภัยถูกฝึกมาให้คิดเรื่อง “ระบบ ฮาร์ดแวร์ ซอฟต์แวร์” แต่ภัย AI ที่ไม่ใช่เทคนิคมันลามไปถึงเรื่องสังคม จริยธรรม ชื่อเสียง และคน ซึ่งกระบวนการประเมินความเสี่ยงแบบเดิมมักไม่ครอบคลุม — และนี่แหละคือเรื่องที่ “เจ้าของ” ต้องเป็นคนคิด เพราะมันกระทบแบรนด์และความอยู่รอดของธุรกิจโดยตรง

ภัยกลุ่มนี้มีเยอะมาก ผมจัดเป็นกลุ่มย่อยให้จับง่ายขึ้น พร้อมตัวอย่างสมมติ

กลุ่ม A — ภัยที่กระทบความน่าเชื่อถือของผลลัพธ์ AI

กลุ่ม B — ภัยที่กระทบคน สังคม และชื่อเสียง

กลุ่ม C — ภัยที่กระทบกฎหมาย ต้นทุน และกลยุทธ์

ผมตัดมาให้พอเห็นภาพนะครับ ของจริงในคู่มือมีมากกว่านี้อีก แต่จุดที่อยากให้จับคือ — ภัยกลุ่มนี้ส่วนใหญ่ “เจ้าของกิจการ” ต้องเป็นคนตัดสิน ไม่ใช่ฝ่ายไอที เช่น “เราจะใช้ AI ตัดสินเรื่องที่กระทบคนไหม”, “เราเห่อ AI เกินจำเป็นหรือเปล่า”, “เรารับความเสี่ยงเรื่องคนตกงานในทีมยังไง” — คำถามพวกนี้ไม่มีปุ่มให้ฝ่ายไอทีกด มันคือการตัดสินใจเชิงธุรกิจและจริยธรรมล้วนๆ

มุมผู้บริหาร: ภัยไม่ใช่เทคนิคมีกับดักหนึ่งที่อันตราย — มันมักไม่ทำให้ “ระบบล่ม” ทุกอย่างดูทำงานปกติดี แต่ค่อยๆ กัดกินความเชื่อใจของลูกค้าและพนักงานทีละนิด กว่าจะรู้ตัวก็เป็นข่าวแล้ว คำถามที่เจ้าของควรถามทุกไตรมาส — “AI ที่เราใช้ตัดสินใจอะไรที่กระทบ ‘คน’ บ้าง (ลูกค้า พนักงาน ผู้สมัครงาน) และถ้ามันตัดสินผิด เราอธิบายและรับผิดชอบได้ไหม”

หมวดที่ 3 — ภัยที่ AI เป็น “อาวุธ” (AI-Enabled Threats)#

สองหมวดแรกคือ “ภัยที่เกิดกับ AI ของเรา” หมวดนี้พลิกมุมตรงข้าม — AI กลายเป็นอาวุธในมือคนร้าย มาเล่นงานเราและโลกภายนอก

นี่คือเรื่องที่เจ้าของกิจการประเมินต่ำเกินไปบ่อยที่สุด เพราะมันไม่เกี่ยวว่า “เราใช้ AI หรือเปล่า” — ต่อให้บริษัทเราไม่แตะ AI เลย คนร้ายก็เอา AI มาโจมตีเราได้ ภัยกลุ่มนี้มี 3 แบบหลัก:

• โมเดลที่สร้างมาเพื่อก่ออาชญากรรมโดยเฉพาะ — มีโมเดลบางตัวถูกออกแบบมาเพื่อใช้ก่ออาชญากรรมและโจมตีโดยตรง พูดง่ายๆ คือเป็น “AI ฝั่งมืด” ที่ไม่มีกรอบจริยธรรมคอยห้าม
• ของปลอมเสมือนจริง (deepfake) — AI สร้างเสียงและวิดีโอปลอมที่เนียนขึ้นเรื่อยๆ จนการฝึกอบรมพนักงานให้ “ระวังอีเมลหลอก” แบบเดิมเริ่มเอาไม่อยู่ เพราะตอนนี้คนร้ายโทรมาด้วยเสียงที่เหมือนเจ้านายเป๊ะได้แล้ว
• AI เร่งทุกขั้นของการโจมตี — คนร้ายใช้ AI ช่วยเขียนมัลแวร์ที่ฉลาดขึ้น, ทำอีเมลหลอกที่เนียนขึ้น, เร่งทุกขั้นของแผนการโจมตี (ตรงนี้แหละที่เชื่อมกับ Kill Chain ใน CyberSec EP.39 — AI ไม่ได้เปลี่ยนว่าคนร้ายเดินเกมกี่ขั้น แต่มันทำให้ทุกขั้น “เร็วขึ้น เนียนขึ้น ถูกลง”)

ลองนึกภาพให้ชัด (สมมติ) — เจ้าของกิจการได้รับสายโทรศัพท์ เสียงเหมือนลูกชายเป๊ะ บอกว่าเกิดอุบัติเหตุต้องโอนเงินด่วน ทั้งที่จริงเป็นเสียงโคลนจาก AI ที่คนร้ายดูดมาจากคลิปในโซเชียล — นี่คือภัยที่ “ไม่เกี่ยวกับว่าบริษัทใช้ AI หรือไม่” เลย แต่กระทบเราตรงๆ

มุมผู้บริหาร: ภัยหมวดนี้บังคับให้เราอัปเดต “การฝึกอบรมพนักงาน” ใหม่ — เดิมสอนว่า “ระวังอีเมลสะกดผิดๆ” แต่ตอนนี้ AI ทำอีเมลที่สะกดถูกเป๊ะ ภาษาสวย น่าเชื่อกว่าของจริง คำถามคือ “กระบวนการยืนยันตัวตนของเรา (เช่น การโอนเงินก้อนใหญ่) ยังพึ่ง ‘เสียง’ หรือ ‘หน้า’ อยู่ไหม” ถ้าใช่ ต้องเพิ่มขั้นยืนยันที่ AI ปลอมไม่ได้ เช่น รหัสลับที่ตกลงกันไว้ล่วงหน้า

ใครคือ “คนร้าย”? — รู้จักหน้าตัวจริงของ Threat Actors#

จัดหมวดภัยไปแล้ว ทีนี้มาดูว่า ใคร เป็นคนก่อภัยพวกนี้ เพราะการรู้จัก “คนร้าย” ช่วยให้เราตัดสินใจได้ตรงจุดว่าต้องระวังใครเป็นพิเศษ

ปูพื้นเรื่อง “ประเภทคนร้ายในโลกไซเบอร์” ไว้แล้วที่ CyberSec EP.6 นะครับ ตรงนี้ผมจะหยิบเฉพาะ มุมที่เกี่ยวกับ AI — ว่าคนร้ายแต่ละแบบเอา AI มาเล่นงานยังไง ผมจัดตารางให้เห็นภาพ

จุดที่ผมอยากให้เจ้าของกิจการสังเกตเป็นพิเศษ 2 ข้อ:

ข้อแรก — “คนวงใน” คือคนร้ายที่เรามักมองข้าม แต่เจอบ่อยที่สุดในเรื่อง AI. ไม่ใช่เพราะพนักงานเราเลว แต่เพราะ AI สาธารณะใช้ง่ายมาก พนักงานที่หวังดีอยากทำงานเร็วขึ้น เลยก๊อปข้อมูลลูกค้าหรือเอกสารลับไปแปะถาม AI ภายนอก — นั่นคือข้อมูลรั่วทันที โดยไม่มีใครคิดร้ายเลยสักคน ภัยแบบนี้แก้ด้วยไฟร์วอลล์ไม่ได้ ต้องแก้ด้วย “นโยบายการใช้ AI ที่ชัดเจน + การอบรม”

ข้อสอง — “ผู้พัฒนา AI” ก็เป็นแหล่งภัยได้ ทั้งที่ไม่ได้ตั้งใจร้าย. ถ้าเราซื้อหรือใช้ AI ของเจ้าอื่น แล้วผู้พัฒนาเจ้านั้นออกแบบอัลกอริทึมมาเอนเอียง เราที่เอามาใช้คือคนรับผิดชอบต่อหน้าลูกค้าและกฎหมาย ไม่ใช่เขา — นี่คือเหตุผลที่การเลือก vendor AI ต้องดูเรื่องจริยธรรมและความโปร่งใส ไม่ใช่ดูแค่ราคากับความสามารถ

มุมผู้บริหาร: เวลาประเมินว่าต้องระวังคนร้ายแบบไหน อย่าเริ่มจาก “คนร้ายที่น่ากลัวที่สุด” (รัฐชาติ) — เริ่มจาก “คนร้ายที่มีโอกาสเจอจริงที่สุดสำหรับธุรกิจขนาดเรา” สำหรับ SME ส่วนใหญ่ คำตอบคือ “คนวงในที่เผลอ” และ “อาชญากรไซเบอร์ที่หวังเงิน” — สองตัวนี้คุ้มที่จะลงทุนป้องกันก่อน ส่วนรัฐชาติเก็บไว้กังวลทีหลังถ้าธุรกิจไม่ได้แตะเรื่องอ่อนไหวระดับชาติ

แผนที่สนามรบฉบับ AI — MITRE ATLAS#

มาถึงพระเอกของตอนครับ — MITRE ATLAS

ถ้าใครอ่าน CyberSec EP.39 มาแล้ว จะคุ้นกับ MITRE ATT&CK — แผนที่ใหญ่ที่รวบรวมว่า “คนร้ายในโลกไซเบอร์ใช้กลยุทธ์และเทคนิคอะไรบ้าง” จัดเป็นตารางให้ทีมความปลอดภัยใช้อ้างอิง

ATLAS ก็คือ ATT&CK เวอร์ชันสำหรับ AI โดยเฉพาะ — ชื่อเต็มคือ Adversarial Threat Landscape for Artificial-Intelligence Systems เป็นคลังความรู้ที่ MITRE ทำขึ้นเพื่อรวบรวมว่า “คนร้ายโจมตีระบบ AI ด้วยกลยุทธ์และเทคนิคอะไรบ้าง” (อ้างอิงสาธารณะ: MITRE, “ATLAS Matrix”, atlas.mitre.org)

เชื่อมสามหมวดเข้าด้วยกัน — ภาพรวมที่เจ้าของต้องถือไว้ในหัว#

เดินมาครบสามหมวดแล้ว ขอสรุปภาพใหญ่ให้ถือกลับไป — ภัย AI แบ่งเป็น 3 หมวดที่ต้องคิดต่างกัน:

1
        ┌─────────────────────────────────────────────┐
2
        │            สนามรบของ AI (3 หมวด)             │
3
        └─────────────────────────────────────────────┘
4
                            │
5
       ┌────────────────────┼────────────────────┐
6
       ▼                    ▼                    ▼
7
  1. ภัยเทคนิค         2. ภัยไม่ใช่เทคนิค     3. AI เป็นอาวุธ
8
  (ภัยกับ AI เรา)      (ภัยกับ AI เรา)        (ภัยจากภายนอก)
9
       │                    │                    │
10
  วางยาข้อมูล          AI มโน / เอนเอียง       deepfake
11
  ป้อนคำสั่งแฝง        กล่องดำ                 AI ฝั่งมืด
12
  ขโมย/ล้วงโมเดล       เชื่อ AI เกินไป          AI เร่งโจมตี
13
       │                    │                    │
14
  → ทีมเทคนิคดู        → เจ้าของตัดสิน        → อบรมคน + ยืนยันตัวตน
15
    (มี ATLAS ช่วย)      (จริยธรรม/แบรนด์)       (ไม่เกี่ยวว่าใช้ AI ไหม)

ความเข้าใจผิดที่อยากเตือนเป็นข้อสุดท้าย — เจ้าของกิจการหลายคนโฟกัสแค่หมวด 1 (ภัยเทคนิค) เพราะมันจับต้องได้และโยนให้ฝ่ายไอทีง่าย แต่หมวด 2 (ไม่ใช่เทคนิค) คือหมวดที่ทำลายแบรนด์เร็วที่สุดและแก้ยากที่สุด ส่วนหมวด 3 (AI เป็นอาวุธ) คือหมวดที่ “หนีไม่ได้แม้ไม่ใช้ AI” — ทั้งสามหมวดต้องอยู่ในหัวเจ้าของพร้อมกัน

ย้ำหลักเดิมที่เปิดตอน — เราคือเจ้าของความเสี่ยง ไม่ใช่ผู้ตรวจ การจัดหมวดภัยทั้งหมดในตอนนี้ไม่ได้มีไว้ให้เรา “ไล่ตรวจให้ครบ” แต่มีไว้ให้เรา “ตัดสินใจเป็น” ว่าภัยไหนเกี่ยวกับเรา ภัยไหนคุ้มที่จะป้องกัน ภัยไหนยอมรับได้ และภัยไหนโยนให้ vendor รับไป

มุมผู้บริหาร: ถ้าจะถือคำถามเดียวกลับจากตอนนี้ ให้ถือข้อนี้ — “AI แต่ละตัวที่เราใช้อยู่ ถ้าถูกหลอก ถูกวางยา หรือถูกใช้เป็นอาวุธ ผลกระทบที่เลวร้ายที่สุดต่อ ‘ธุรกิจ-ลูกค้า-ชื่อเสียง’ ของเราคืออะไร และตอนนี้เรารับความเสี่ยงนั้นไว้แบบ ‘รู้ตัว’ หรือ ‘ไม่รู้ตัว’” — ความต่างระหว่างสองคำนี้แหละครับ คือเส้นแบ่งระหว่างเจ้าของที่คุม AI อยู่ กับเจ้าของที่ AI คุมอยู่

เราเดินสำรวจสนามรบของ AI กันครบแล้ว — รู้แล้วว่าภัยมีกี่หมวด หน้าตายังไง ใครคือคนร้าย และมีแผนที่ ATLAS ช่วยให้มองภาพรวมได้ แต่การ “รู้ว่ามีภัยอะไรบ้าง” เป็นแค่ครึ่งแรกของเกม

ครึ่งหลังคือคำถามที่เจ้าของทุกคนอยากได้คำตอบจริงๆ — “แล้วเราจะรับมือ ป้องกัน และลดภัยพวกนี้ยังไงบ้าง?” ตอนหน้าเราจะลงรายละเอียดเรื่องกลยุทธ์การรับมือ (mitigation) — ว่าภัยแต่ละหมวดที่เราจัดไว้วันนี้ มีวิธีจัดการแบบไหนที่คุ้มค่าและทำได้จริงสำหรับธุรกิจขนาดกลาง ไว้เจอกันตอนหน้าครับ

อ้างอิงแนวคิดจาก: NIST AI Risk Management Framework (AI RMF 1.0), EU AI Act, MITRE ATLAS (atlas.mitre.org), OWASP Top 10 for LLM Applications และ OWASP AI Exchange — เป็นเอกสารสาธารณะที่เปิดให้ศึกษาได้โดยตรง

AAISM — Domain 2: Section 2.7 The AI Threat Landscape