ตั้งหลักก่อน — ทำไม “ความเสี่ยงของ AI” ถึงปวดหัวกว่าเดิม#

ก่อนจะลงรายละเอียด ผมอยากให้เห็นภาพก่อนว่าทำไมความเสี่ยงของ AI ถึงต้องมีโดเมนเป็นของตัวเอง ทั้งที่เราก็บริหารความเสี่ยงด้านการเงิน การปฏิบัติงาน และไซเบอร์กันมานานแล้ว

คำตอบอยู่ที่ธรรมชาติของ AI เองครับ AI ถูกออกแบบมาให้เรียนรู้ ปรับตัว และเปลี่ยนไปได้เรื่อยๆ บ่อยครั้งในแบบที่เราคาดเดาไม่ได้ ลองนึกถึงซอฟต์แวร์ทั่วไปครับ เราเขียนโค้ดยังไง มันก็ทำงานตามนั้นเป๊ะ ป้อนข้อมูลแบบเดิม ได้ผลแบบเดิมทุกครั้ง แต่ AI ไม่ใช่แบบนั้น มันเรียนรู้จากข้อมูล ตัดสินใจบนความน่าจะเป็น และเปลี่ยนพฤติกรรมไปตามข้อมูลที่มันเจอ

ผลที่ตามมาคือสามเรื่องที่ทำให้ความเสี่ยงของ AI ต่างจากความเสี่ยงไอทีเดิม:

• มันเปลี่ยนเร็วกว่าระบบไอทีปกติมาก โมเดล AI พัฒนาและเปลี่ยนแปลงเร็วกว่าระบบเดิมหลายเท่า ความเสี่ยงเลยไม่ใช่ของที่ประเมินครั้งเดียวจบ ต้องเฝ้าดูต่อเนื่อง
• ความเสี่ยงไม่ได้มีแค่เรื่องเทคนิค เพราะเป้าหมายของ AI คือเลียนแบบการตัดสินใจของคนในบริบทสังคมที่ซับซ้อน ความเสี่ยงเลยลามไปถึงเรื่อง จริยธรรม อคติ สิทธิมนุษยชน และชื่อเสียง ไม่ใช่แค่ “ระบบล่ม/ข้อมูลรั่ว” แบบเดิม
• มันตัดสินใจได้เอง และการตัดสินใจนั้นอาจมีอคติติดมาจากข้อมูล หรือมั่วออกมาอย่างหน้าตาเฉย โดยที่ไม่มีไฟแดงเตือน

ข่าวดีก็มีครับ การมองหา จัดประเภท และรับมือความเสี่ยง AI ไม่จำเป็นต้องซับซ้อนเกินไป เราใช้วิธีและเครื่องมือที่วงการบริหารความเสี่ยงมีอยู่แล้วมาปรับใช้ได้ ขอแค่ปรับให้รับกับลักษณะเฉพาะของ AI เท่านั้น และนี่คือสิ่งที่ Domain 2 จะค่อยๆ พาไปทำครับ

มุมผู้บริหาร: มีคำถามข้อสอบเรื่องนี้แบบหนึ่งที่สรุปหัวใจของทั้งโดเมนได้ดีมาก เวลาจะเอาความเสี่ยง AI เข้าไปอยู่ในระบบบริหารความเสี่ยงรวมขององค์กร ทางที่ดีที่สุด ไม่ใช่ การสร้างกระบวนการใหม่แยกต่างหาก และ ไม่ใช่ แค่อัปเดตทะเบียนความเสี่ยง (risk register) ให้ทันสมัย แต่คือ “เอาลักษณะเฉพาะของ AI ไปฝังในกระบวนการบริหารความเสี่ยงที่เรามีอยู่แล้ว” มองง่ายๆ ว่าเราไม่ได้สร้างบ้านใหม่ เราแค่ต่อเติมห้องให้รับกับผู้เช่าคนใหม่ที่นิสัยไม่เหมือนใคร

ภาพรวม — ความเสี่ยง AI มาจากกี่ทิศ#

ก่อนจะเจาะเรื่องความน่าเชื่อถือ ผมอยากวางภาพให้เห็นก่อนว่า “ความเสี่ยงของ AI” จริงๆ มันมาจากหลายทิศมาก ไม่ใช่แค่เรื่องโดนแฮก ลองดูตารางนี้ครับ ผมจัดกลุ่มความเสี่ยงที่เจ้าของกิจการควรรู้ออกเป็น 6 หมวด:

จุดที่อยากให้สังเกตคือ ใน 6 หมวดนี้ มีแค่หมวดเดียว (“การโจมตี”) ที่เป็นเรื่อง “ภัยจากคนร้าย” แบบที่เราคุ้นในโลกไซเบอร์ อีก 5 หมวดที่เหลือเป็นความเสี่ยงที่ เกิดได้แม้ไม่มีใครมาโจมตีเราเลย แค่เราเลือกข้อมูลผิด ปล่อยให้ AI ตัดสินใจมากไป หรือไม่ตรวจอคติให้ดี ก็เจ็บได้แล้ว นี่คือเหตุผลที่ความเสี่ยง AI ต้องมองให้กว้างกว่าแค่ “กันแฮกเกอร์”

เรื่องที่ 1 — AI Trust: เราจะ “ไว้ใจ” พนักงาน AI ได้ด้วยอะไรบ้าง#

มาเริ่มที่คำถามพื้นฐานที่สุดของทั้งโดเมนกันครับ เราจะ “ไว้ใจ” AI ได้ยังไง?

ลองคิดเทียบกับพนักงานจริงอีกครั้ง สมมติมีพนักงานใหม่เก่งๆ เข้ามา เราจะ “ไว้ใจ” ให้เขาทำงานสำคัญได้ ก็ต่อเมื่อเขามีคุณสมบัติบางอย่างใช่ไหมครับ คือทำงานไม่สร้างความเสียหาย, เก็บความลับได้, อธิบายได้ว่าทำไมตัดสินใจแบบนั้น, ไม่เลือกปฏิบัติกับใคร และพร้อมรับผิดชอบเมื่อพลาด AI ก็เหมือนกันเป๊ะครับ

หลักคิดสำคัญที่อยากให้จำคือ AI ที่ดีต้อง “ไว้ใจได้” ตั้งแต่แกนกลาง (trustworthy at its core) ไม่ใช่เอาความน่าเชื่อถือมาแปะทีหลัง แอปพลิเคชันที่ใช้ AI ควรส่งเสริมและสนับสนุนความเป็นอยู่ที่ดีของผู้ใช้ ไม่ว่าจะเป็นบุคคลหรือองค์กร และถ้าเราไม่บริหารมันให้ดี AI สามารถสร้างอคติที่เป็นอันตรายและกัดกร่อนความเชื่อใจได้อย่างรวดเร็ว

เรื่องที่ 2 — พีระมิดความเสี่ยงองค์กร: AI วางอยู่ตรงไหนในภาพใหญ่#

ทีนี้มาดูภาพใหญ่ขึ้นครับ เจ้าของกิจการคนหนึ่งมักจะมีคำถามในใจว่า “ความเสี่ยงเรื่อง AI มันไปซ้อนทับกับความเสี่ยงอื่นที่ฉันบริหารอยู่แล้วยังไง?” เพราะเราไม่ได้บริหารแค่ความเสี่ยง AI เรามีทั้งความเสี่ยงธุรกิจ ความเสี่ยงไอที ความเสี่ยงไซเบอร์อยู่ก่อนแล้ว

วิธีมองที่ผมชอบคือมองเป็น พีระมิด 4 ชั้น ครับ ชั้นล่างกว้างที่สุดคือความเสี่ยงพื้นฐานที่สุด ไล่ขึ้นไปยอดบนคือความเสี่ยงที่เฉพาะเจาะจงและใหม่ที่สุด:

1
            ┌─────────────────┐
2
            │       AI        │  ← ใหม่สุด เฉพาะที่สุด
3
          ┌─┴─────────────────┴─┐
4
          │   Cybersecurity     │  ← ความเสี่ยงไซเบอร์
5
        ┌─┴─────────────────────┴─┐
6
        │          IT             │  ← ความเสี่ยงไอที
7
      ┌─┴─────────────────────────┴─┐
8
      │        Enterprise           │  ← ความเสี่ยงระดับองค์กร (ฐานราก)
9
      └─────────────────────────────┘

มาดูทีละชั้นว่าแต่ละชั้นห่วงเรื่องอะไร:

ความหมายของพีระมิดนี้สำคัญมากครับ มันบอกว่าความเสี่ยง AI “ตั้งอยู่บนยอด” ของความเสี่ยงทุกชั้นที่เรามีอยู่แล้ว ไม่ได้มาแทนที่ใคร AI ที่เราใช้ก็ยังมีความเสี่ยงไซเบอร์ (โดนแฮกได้), ยังมีความเสี่ยงไอที (ระบบล่ม คนไม่พอ), ยังมีความเสี่ยงองค์กร (ลงทุนผิดทาง) แต่มันเพิ่ม “ชั้นบนสุด” ที่ชั้นล่างไม่เคยมี เช่น จริยธรรม อคติ ความสามารถในการอธิบาย และผลกระทบต่อสังคม

สังเกตไหมครับว่าชั้น AI มีรายการยาวที่สุด และครึ่งหนึ่งของรายการนั้นเป็นเรื่องที่ “วัดเป็นตัวเงินตรงๆ ไม่ได้” อย่างจริยธรรม ชื่อเสียง ความเป็นธรรม นี่แหละคือสาเหตุที่บริหารความเสี่ยง AI ยากกว่าเดิม เพราะของบางอย่างมันจับต้องเป็นตัวเลขได้ลำบาก

มุมผู้บริหาร: พีระมิดนี้ช่วยกันความผิดพลาดที่เจ้าของกิจการมักทำ 2 อย่าง อย่างแรกคือ “เห่อของใหม่จนลืมของเก่า” เอาแต่กังวลเรื่องอคติของ AI จนลืมว่า AI ตัวเดียวกันก็โดนแฮกแบบระบบทั่วไปได้ อย่างที่สองคือตรงข้าม “เอา AI ไปยัดในกล่องไซเบอร์เดิม” คิดว่า AI ก็แค่ซอฟต์แวร์อีกตัว จัดการแบบเดิมก็พอ ทั้งสองอย่างพลาดครับ ที่ถูกคือ “ของเดิมทุกชั้นยังต้องดูแล + เพิ่มชั้นบนสุดที่เป็นของ AI โดยเฉพาะ”

เรื่องที่ 3 — วงจรจัดการความเสี่ยง: ของเดิมใช้ได้ ไม่ต้องคิดใหม่#

ข่าวดีของเจ้าของกิจการที่เคยทำเรื่องความเสี่ยงมาก่อนคือ กระบวนการจัดการความเสี่ยงที่คุณคุ้นอยู่แล้ว ใช้กับ AI ได้เลย ไม่ต้องคิดใหม่ทั้งหมด เพราะความเสี่ยงไม่ได้ลอยอยู่โดดๆ มันขึ้นกับบริบทเสมอ และวงจรจัดการความเสี่ยงที่มีอยู่ก็ยืดหยุ่นพอจะรับเรื่อง AI ได้

วงจรนี้หมุนเป็น 4 ขั้นต่อเนื่องครับ:

1
   ① มองหาความเสี่ยง (Risk Identification)
2
              ↓
3
   ② ประเมินความเสี่ยง (Risk Assessment)
4
              ↓
5
   ③ รับมือและลดความเสี่ยง (Risk Response & Mitigation)
6
              ↓
7
   ④ เฝ้าระวังและรายงานผล (Monitoring & Reporting)
8
              ↓
9
       (วนกลับไปมองหาความเสี่ยงรอบใหม่)

จุดที่อยากเน้นคือ มันเป็นวงกลม ไม่ใช่เส้นตรงที่ทำครั้งเดียวจบ โดยเฉพาะกับ AI ที่เปลี่ยนเร็ว เราต้องวนกลับมามองใหม่เรื่อยๆ ความเสี่ยงที่ไม่มีเมื่อเดือนก่อนอาจโผล่มาเดือนนี้เพราะโมเดลเรียนรู้ข้อมูลใหม่ หรือเพราะคนร้ายหาช่องโหว่ใหม่เจอ

ในตอนเปิดโดเมนนี้ เราจะโฟกัสที่ขั้นแรกสุดเป็นพิเศษ คือ การมองหาความเสี่ยง (Risk Identification) เพราะถ้ามองไม่เห็น ก็จัดการอะไรไม่ได้ ส่วนขั้นที่ 2-4 (ประเมิน รับมือ เฝ้าระวัง) เราจะลงรายละเอียดในตอนถัดๆ ไปของโดเมนนี้ครับ

เรื่องที่ 4 — มองหาความเสี่ยง AI เริ่มจากตรงไหน#

มาถึงหัวใจของตอนนี้ครับ “แล้วจะเริ่มมองหาความเสี่ยงของ AI จากตรงไหนดี?”

คำตอบที่อาจฟังดูน่าเบื่อแต่จริงที่สุดคือ เริ่มจากการรู้ก่อนว่าเรามี AI อะไรอยู่บ้าง (ทำบัญชีรายชื่อ AI หรือ AI inventory) ฟังดูพื้นๆ แต่นี่คือจุดที่บริษัทส่วนใหญ่พลาด เพราะปัญหาใหญ่ของ AI คือ พนักงานมักไม่รู้ตัวด้วยซ้ำว่ากำลังใช้ AI อยู่ มันฝังมาในเครื่องมือ ในอุปกรณ์ ในซอฟต์แวร์ที่ใช้ทุกวัน โดยไม่มีป้ายบอกว่า “ฉันคือ AI นะ”

เรื่องที่ 5 — 10 ภัยยอดฮิตของ AI ที่เจ้าของควรรู้จักหน้าตา#

ปิดตอนเปิดโดเมนด้วยเรื่องที่เจ้าของกิจการชอบถามที่สุด “แล้วภัยของ AI หน้าตาเป็นยังไงบ้าง?”

ตรงนี้มีของดีให้ใช้ฟรีครับ เพราะแก่นของ AI ก็คือ “ซอฟต์แวร์ตัวหนึ่ง” องค์กรกลางที่ดูแลความปลอดภัยซอฟต์แวร์ระดับโลกชื่อ OWASP (Open Worldwide Application Security Project) จึงได้รวบรวม “10 ภัยยอดฮิตของแอป LLM” (LLM = Large Language Model — โมเดลภาษาขนาดใหญ่ คือ AI แบบที่อยู่เบื้องหลัง ChatGPT และเพื่อนๆ) ออกมาเป็นรายการสาธารณะที่ใครก็เข้าไปอ่านได้ฟรี

ข่าวดีคือ ภัยหลายอย่างในนี้หน้าตาคล้ายภัยไอที/ไซเบอร์ที่เราคุ้นอยู่แล้ว เพียงแต่มาในร่างของ AI ผมขอเรียบเรียงทั้ง 10 เป็นภาษาคนแบบนี้ครับ:

(หมายเหตุ: ในรายการนี้มีคำว่า RAG — Retrieval Augmented Generation ซึ่งเป็นเทคนิคให้ AI ไปดึงความรู้จากแหล่งข้อมูลภายนอกมาประกอบคำตอบ แทนที่จะตอบจากความจำในตัวอย่างเดียว เรื่องห่วงโซ่อุปทานของ AI ผมจะลงรายละเอียดในตอนท้ายๆ ของ Domain 2 ครับ)

อยากให้สังเกต 2 อย่างจากรายการนี้ครับ:

อย่างแรก ภัยหลายตัวเป็นเรื่อง “คนแต่งข้อมูลมาหลอก AI” (prompt injection, data poisoning, adversarial) ไม่ใช่ “เจาะระบบ” แบบเดิม นั่นแปลว่าเครื่องมือกันแฮกที่เรามีอาจไม่พอ ต้องเพิ่มการกรอง/ตรวจ “ข้อมูลที่ป้อนเข้า AI” และ “ผลที่ AI ตอบออกมา” ด้วย

อย่างที่สอง ภัยบางตัว เช่น “มโน” (misinformation) และ “มีอำนาจมากเกินไป” (excessive agency) ไม่ต้องมีคนร้ายเลยก็เกิดได้ มันเป็นธรรมชาติของ AI เองที่ผิดพลาดได้ นี่ตอกย้ำว่าความเสี่ยง AI กว้างกว่าแค่ “กันคนไม่ดี”

มุมผู้บริหาร: อย่าเอารายการ 10 ข้อนี้ไปท่องจำครับ ให้เอาไปใช้เป็น “แว่นส่องความเสี่ยง” คือหยิบ AI แต่ละตัวที่บริษัทใช้อยู่ขึ้นมา แล้วลองส่องผ่าน 10 ข้อนี้ทีละข้อว่า “ตัวนี้เสี่ยงข้อไหนบ้าง?” แชตบอตหน้าเว็บอาจเสี่ยง prompt injection กับ unbounded consumption สูง ส่วน AI คัดใบสมัครอาจเสี่ยง misinformation กับอคติมากกว่า แต่ละตัวเสี่ยงไม่เท่ากัน หน้าที่ของเราคือรู้ว่าตัวไหนเสี่ยงเรื่องอะไร แล้วเอาทรัพยากรไปลงตรงที่เสี่ยงจริง ไม่ใช่กลัวทุกอย่างเท่ากันจนไม่ได้ทำอะไรเลย

สรุปสั้นๆ ให้ตัวเองจำได้#

อ่านมาถึงตรงนี้ ขอจดกันลืมไว้ห้าอย่างครับ

อย่างแรก ความเสี่ยง AI ไม่เหมือนความเสี่ยงไอทีเดิม เพราะ AI เปลี่ยนเร็ว ตัดสินใจเอง และความเสี่ยงลามไปถึงจริยธรรม อคติ และสิทธิคน ไม่ใช่แค่ “ระบบล่ม/ข้อมูลรั่ว” แต่ข่าวดีคือเราเอาวิธีบริหารความเสี่ยงเดิมมาปรับใช้ได้ ไม่ต้องสร้างใหม่ทั้งหมด

อย่างที่สอง ความน่าเชื่อถือของ AI วัดได้ด้วย 7 คุณสมบัติ โดยมี “ถูกต้องและเชื่อถือได้” เป็นฐานราก เอามาทำเป็นเช็กลิสต์ก่อนไว้ใจ AI ตัวใหม่ได้เลย

อย่างที่สาม AI วางอยู่บนยอดพีระมิดความเสี่ยง ไม่ได้แทนที่ความเสี่ยงชั้นล่าง (องค์กร/ไอที/ไซเบอร์) แต่เพิ่มชั้นบนสุดที่เป็นของ AI โดยเฉพาะ ของเดิมยังต้องดูแล + เพิ่มของใหม่

อย่างที่สี่ การมองหาความเสี่ยงเริ่มที่ “รู้ก่อนว่ามี AI อะไรบ้าง” ทำบัญชีรายชื่อให้ครบ แล้วลากเส้นจากเป้าหมายธุรกิจลงมาหาจุดที่ AI อาจพัง ของที่มองไม่เห็น เราจัดการมันไม่ได้

อย่างที่ห้า 10 ภัยยอดฮิตของ LLM ใช้เป็นแว่นส่องความเสี่ยงได้ ส่อง AI แต่ละตัวว่าเสี่ยงเรื่องไหน แล้วลงแรงตรงที่เสี่ยงจริง ไม่ใช่กลัวทุกอย่างเท่ากัน

ถ้าจะสรุปแบบที่เจ้าของกิจการน่าจะพยักหน้าตาม “พนักงานที่เก่งที่สุด มักเป็นคนที่ถ้าทำพลาด พลาดแรงที่สุดด้วย หน้าที่ของเจ้านายไม่ใช่กลัวจนไม่กล้าใช้เขา แต่คือรู้ให้ทันว่าเขาจะพังตรงไหนได้ แล้วเตรียมรับมือไว้ก่อน” นั่นแหละครับคือหัวใจของการเป็น “เจ้าของความเสี่ยง AI” ไม่ใช่คนตรวจ แต่เป็นคนที่ตัดสินใจและรับมือเอง

ตอนหน้าเราจะเดินต่อในวงจรจัดการความเสี่ยง จากการ “มองหา” ความเสี่ยงในตอนนี้ ไปสู่การ “จัดประเภทและตั้งเส้นว่ายอมรับได้แค่ไหน” พร้อมทำความรู้จักกรอบบริหารความเสี่ยง AI ตัวจริงอย่าง NIST AI RMF และกฎหมาย AI ของยุโรป (EU AI Act) ว่าเจ้าของกิจการเอามาใช้ตัดสินใจได้ยังไง ไว้เจอกันครับ

อ้างอิงเนื้อหา: AAISM — Domain 2: Section 2.1 (AI Trust), 2.2 (AI Risk Identification) แหล่งสาธารณะที่อ้างถึงโดยตรง: National Institute of Standards and Technology (NIST), AI Risk Management Framework (AI RMF 1.0), USA, 2023 (ที่มาของ 7 คุณสมบัติความน่าเชื่อถือ) · OWASP Top 10 for Large Language Model Applications (รายการ 10 ภัยยอดฮิตของแอป LLM) · กรอบวงจรจัดการความเสี่ยงอ้างอิงจากแนวปฏิบัติบริหารความเสี่ยงไอทีที่เป็นมาตรฐานทั่วไป