มันเกิดขึ้นได้ยังไง#

ลองนึกภาพแบบนี้ครับ เราเอาแชตบอตที่ขับเคลื่อนด้วย AI มาตอบลูกค้าในเว็บหรือในเพจ ข้อดีคือมันคุยเก่งมาก ตอบเป็นธรรมชาติ ลูกค้าถามอะไรมาแบบไหนก็ตอบได้ลื่นไหล ไม่เหมือนบอทรุ่นเก่าที่ตอบแข็งๆ เป็นหุ่นยนต์ แต่ “ความลื่นไหล” นี่แหละครับคือดาบสองคม

เพราะ AI แบบที่คุยเก่งๆ เนี่ย หัวใจของมันคือการ “เดาคำตอบที่ฟังดูเข้าท่าที่สุด” ไม่ใช่การ “ตรวจสอบว่าจริงไหม” (เรื่องนี้ผมเคยเล่าไว้ว่ามันคืออาการ hallucination หรือ “อาการหลอน” — คือ AI แต่งเรื่องขึ้นมาเองหน้าตาเฉยอย่างมั่นใจ) ทีนี้พอลูกค้าถามเรื่องที่บอทไม่มีข้อมูลชัดๆ เช่น “เงื่อนไขคืนเงินเป็นยังไง” “อันนี้ลดได้อีกไหม” บางทีบอทมันก็ เดาเอาเอง แล้วตอบออกมาด้วยน้ำเสียงมั่นใจเป๊ะ เหมือนเป็นนโยบายจริงของร้าน ทั้งที่ความจริงร้านไม่ได้มีเงื่อนไขแบบนั้นเลย

ผมอยากให้สังเกตจุดนึงครับ ที่มันต่างจากบอทรุ่นเก่าแบบสุดขั้ว บอทรุ่นเก่าที่ทำตามกฎเป๊ะ (พวก automation ที่ผมเคยเล่า) เวลามันเจอคำถามที่ไม่มีในกฎ มันจะ ตอบไม่ได้ แล้วก็เด้งข้อความประมาณ “ขออภัยค่ะ ไม่เข้าใจคำถาม” ออกมา ซึ่งมันน่ารำคาญก็จริง แต่มันปลอดภัยกว่า เพราะมันไม่เคยพูดในสิ่งที่เราไม่ได้สอน ส่วนบอท AI รุ่นใหม่มันถูกออกแบบมาให้ “ตอบให้ได้เสมอ ตอบให้ลื่นเสมอ” เพราะนั่นคือสิ่งที่ทำให้มันดูฉลาด ปัญหาคือความสามารถในการ “ตอบให้ได้เสมอ” นี่แหละ ที่กลายเป็นจุดอ่อนเวลามันไม่รู้คำตอบจริงๆ มันก็ยังจะตอบให้ลื่นอยู่ดี แค่ตอบมั่ว

พูดง่ายๆ คือบอทรุ่นเก่า “ขี้กลัว” เกินไป (ไม่กล้าตอบ) ส่วนบอท AI รุ่นใหม่ “ใจกล้า” เกินไป (กล้าตอบทุกอย่าง รวมถึงเรื่องที่ไม่รู้) และในบริบทของหน้าร้านที่ทุกคำพูดมีผลทางกฎหมายและทางใจลูกค้า “ความใจกล้า” นี่แหละครับคือสิ่งที่เราต้องระวัง

แล้วทำไมมันถึงใจกล้าขนาดนั้น? ขออธิบายแบบบ้านๆ นะครับ — AI แบบที่คุยเก่งๆ มันถูกฝึกมาให้ “พูดต่อให้ลื่น” จากสิ่งที่เคยเห็นในข้อมูลมหาศาล มันเก่งเรื่อง “ความน่าจะเป็นของคำถัดไป” มากๆ คือพอเริ่มประโยคว่า “นโยบายคืนสินค้าของเราคือ…” มันก็จะเดาต่อให้ฟังดูเป็นนโยบายที่สมเหตุสมผล เพราะมันเคยเห็นนโยบายคืนสินค้าของร้านอื่นๆ มาเยอะ ปัญหาคือมันเดาจาก “ร้านทั่วๆ ไปในโลก” ไม่ใช่จาก “ร้านของเราจริงๆ” ฉะนั้นถ้าเราไม่ได้ป้อนนโยบายจริงของร้านให้มันชัดๆ มันก็จะ “เดานโยบายให้เรา” ด้วยความหวังดี แล้วเดาออกมาเป็นนโยบายของร้านในจินตนาการที่ฟังดูดี แต่ไม่ใช่ของเรา

จุดนี้สำคัญตอนคุยกับ vendor นะครับ ลองถามคนขายตรงๆ ว่า “ถ้าลูกค้าถามเรื่องที่เรายังไม่ได้สอนบอท มันจะตอบว่ายังไง? มันจะเดาเอง หรือมันจะบอกว่าไม่รู้แล้วส่งต่อให้คน?” ถ้าคำตอบคือ “ไม่ต้องห่วงครับ บอทเราฉลาด ตอบได้หมด” อันนั้นแหละที่ต้องห่วง เพราะ “ตอบได้หมด” แปลว่า “เดาได้หมด” ด้วย ส่วนบอทที่ดีจริงคือบอทที่ออกแบบมาให้ “รู้ว่าตัวเองไม่รู้” แล้วกล้าส่งต่อให้คน

แล้วทำไมมันถึงเป็นเรื่องใหญ่#

ตรงนี้แหละครับคือจุดที่เจ้าของกิจการหลายคนคาดไม่ถึง เวลาบอทบนหน้าร้านของเราพูดอะไรออกไป ในสายตาลูกค้า มันคือ “บริษัทพูด” ไม่ใช่ “โปรแกรมพูด” ลูกค้าไม่ได้แยกหรอกครับว่าใครตอบ เขาเห็นว่าช่องแชตของร้านคุณรับปากเขาไว้ เขาก็คาดหวังตามนั้น

มีแนวทางทางกฎหมายในหลายประเทศที่เริ่มมองไปทางว่า ถ้าเครื่องมือที่บริษัทเอามาตั้งหน้าร้านมันให้ข้อมูลผิดกับลูกค้า บริษัทก็ต้องรับผิดชอบ จะมาอ้างว่า “อ๋อ อันนั้นบอทมันพูดเอง ไม่ใช่เรา” มักจะฟังไม่ขึ้น เพราะคนที่เอาบอทมาตั้งก็คือบริษัทเอง ผมจะไม่ลงรายละเอียดตัวบทกฎหมายของประเทศไหนนะครับ เพราะแต่ละที่ต่างกันและผมไม่ใช่นักกฎหมาย แต่ ทิศทางมันชัดว่า “บอทพูด = บริษัทพูด” และอันนี้คือเรื่องที่เกิดขึ้นจริงในต่างประเทศมาแล้ว ไม่ใช่เรื่องที่ผมแต่งขึ้นเพื่อขู่

ลองคิดเปรียบเทียบง่ายๆ นะครับ สมมติเราจ้างพนักงานหน้าร้านคนหนึ่ง แล้ววันหนึ่งเขาเผลอไปรับปากลูกค้าเกินกว่าที่ร้านอนุญาต เราในฐานะเจ้าของจะปฏิเสธความรับผิดชอบโดยอ้างว่า “อันนั้นพนักงานพูดเอง ไม่เกี่ยวกับร้าน” ได้ไหมครับ? โดยทั่วไปก็ไม่ได้ใช่ไหม เพราะเขาพูดในนามร้าน ใส่เครื่องแบบร้าน ยืนอยู่หน้าร้านเรา บอทก็เหมือนกันเป๊ะเลยครับ มันคือ “พนักงานหน้าร้าน” คนหนึ่งที่เราจ้าง (จ้างด้วยเงินค่าระบบรายเดือน) แค่มันเป็นซอฟต์แวร์เท่านั้นเอง สายตากฎหมายและสายตาลูกค้าไม่ได้สนใจว่ามันเป็นคนหรือโปรแกรม สนใจแค่ว่า “มันพูดในนามใคร”

อีกมุมที่เจ้าของกิจการมักลืม คือเรื่อง ความเสียหายต่อชื่อเสียง ซึ่งบางทีหนักกว่าตัวเงินที่ต้องชดเชยอีกครับ เพราะถ้าลูกค้าโดนบอทหลอกแล้วเอาไปโพสต์ลงโซเชียล เรื่องมันไม่จบแค่ลูกค้าคนเดียว แต่กลายเป็นภาพว่า “ร้านนี้ระบบมั่ว พูดอย่างทำอย่าง” ซึ่งกู้คืนยากกว่าเงินที่เสียไปเยอะ และที่เจ็บคือมันไม่ใช่ความตั้งใจโกงของเราเลย เราแค่ตั้งบอทแล้วลืมล็อกขอบเขตมัน

ฉากสมมติให้เห็นภาพ#

ลองนึกภาพร้านสมมติร้านหนึ่ง (ย้ำว่า สมมติ นะครับ ผมแต่งขึ้นเพื่อให้เห็นภาพ ไม่ใช่เคสจริงของใคร) — ลูกค้าทักเข้ามาถามว่า “ซื้อตอนนี้ ถ้าไม่พอใจคืนได้ภายในกี่วัน” บอทที่อยากตอบให้ดูดี ดูใจดี ก็ตอบไปอย่างมั่นใจว่า “คืนได้ภายใน 30 วันเต็มค่ะ คืนเงินเต็มจำนวน ไม่มีเงื่อนไข” ทั้งที่จริงนโยบายร้านคือคืนได้ 7 วัน และต้องอยู่ในสภาพสมบูรณ์เท่านั้น

พอลูกค้าเอาแคปหน้าจอแชตมายื่น บอกว่า “หน้าร้านคุณรับปากผมแบบนี้” ทีนี้ร้านก็ลำบากแล้วครับ จะปฏิเสธก็เสียลูกค้าและอาจโดนด่าลงโซเชียล จะทำตามก็ขาดทุนเกินนโยบายตัวเอง สังเกตนะครับว่าความเสียหายมันไม่ได้มาจาก “บอทพังจนใช้ไม่ได้” แต่มาจาก “บอททำงานลื่นไหลเกินไป จนพูดในสิ่งที่ไม่ควรพูด”

บทเรียนสำหรับเจ้าของกิจการ#

• อย่าให้บอทตอบเรื่องที่ “ผูกพันบริษัท” แบบลอยๆ — เรื่องเงิน เรื่องเงื่อนไขคืนสินค้า เรื่องรับประกัน เรื่องสัญญา พวกนี้ต้องล็อกให้บอทตอบจากข้อความที่เราเขียนตายตัวเท่านั้น หรือไม่ก็โยนให้คนจริงรับช่วงต่อ ไม่ปล่อยให้บอท “เดาเอง”
• ตั้งขอบเขตให้บอทรู้จักพูดว่า “ขอโอนให้เจ้าหน้าที่นะคะ” — บอทที่ดีไม่ใช่บอทที่ตอบได้ทุกเรื่อง แต่เป็นบอทที่รู้ว่าเรื่องไหน “ไม่ควรตอบเอง” แล้วส่งต่อให้คน
• เก็บ log บทสนทนาไว้ — เผื่อมีปัญหาจะได้ย้อนดูได้ว่าบอทพูดอะไรไป (เผื่อต้องไล่แก้ว่าทำไมมันพูดแบบนั้น)

💡 มุมเจ้าของกิจการ: ก่อนเปิดแชตบอตให้คุยกับลูกค้าจริง ลองตั้งคำถามทดสอบมันสักชุดที่ “ล่อให้มันรับปากเกินจริง” ดูครับ เช่นถามมันตรงๆ ว่า “ลดได้อีกไหม” “คืนเงินได้ใช่ไหม” “การันตีผลได้ไหม” แล้วดูว่ามันตอบลอยๆ แบบมั่นใจไปเองหรือเปล่า ถ้ามันกล้ารับปากในสิ่งที่เราไม่เคยสอนมัน — นั่นคือสัญญาณว่ายังปล่อยให้มันคุยกับลูกค้าจริงไม่ได้ ต้องรัดเข็มขัดมันก่อน

มันเกิดขึ้นได้ยังไง#

ผมเคยเล่าไว้ในตอนเรื่องโมเดลพังว่า AI สมัยใหม่มันเรียนรู้จาก “ตัวอย่างที่เราป้อนให้ดูเยอะๆ” ไม่ใช่จากกฎที่เราเขียน ทีนี้ปัญหาคือ ถ้า “ตัวอย่าง” ที่เราป้อนเข้าไปมันมีอคติซ่อนอยู่ AI ก็จะ ซึมซับอคตินั้นเข้าไปเต็มๆ แล้วเอามาใช้ตัดสินใจต่อ โดยที่หน้าตามันดูเป็นกลางมาก ดูเป็นวิทยาศาสตร์มาก เพราะ “คอมพิวเตอร์เป็นคนคิด”

แต่ความจริงคือ AI ไม่ได้ “เป็นกลางโดยธรรมชาติ” ครับ มันเป็นกระจกที่สะท้อนข้อมูลที่เราป้อนเข้าไป ถ้าข้อมูลในอดีตมันเอียง ผลที่ออกมาก็เอียงตาม แต่เอียงแบบดูน่าเชื่อถือ เพราะมันมาในรูป “ระบบคำนวณ” ไม่ใช่ “ความเห็นของคน”

ผมขอเปรียบเทียบให้เห็นภาพแบบนี้นะครับ ลองนึกถึงการสอนเด็กคนหนึ่งด้วยการ “ให้ดูตัวอย่างเยอะๆ” แทนที่จะ “สอนกฎ” สมมติเราอยากสอนเด็กว่า “ลูกค้าแบบไหนคือลูกค้าดี” เราก็เอาประวัติลูกค้าเก่าทั้งหมดไปให้เด็กดู บอกว่า “รายนี้ดี รายนี้ไม่ดี…” เด็กก็จะค่อยๆ จับเอาเองว่าลูกค้าดีหน้าตาเป็นยังไง ทีนี้ปัญหาคือ ถ้าในอดีตที่ผ่านมา คนที่เคยตัดสินว่าใครดีใครไม่ดี เขาตัดสินด้วยอคติบางอย่างติดมาด้วย (โดยตั้งใจหรือไม่ตั้งใจก็ตาม) เด็กที่เรียนจากตัวอย่างพวกนั้นก็จะ ซึมซับอคติเดียวกันเข้าไปโดยไม่รู้ตัว แล้วยังเอาไปใช้ต่อด้วย

ที่น่ากลัวกว่าคือ เด็กคนนี้ (คือ AI) มันไม่ได้บอกเราว่ามันคิดด้วยเหตุผลอะไร มันแค่ชี้ว่า “รายนี้ดี รายนี้ไม่ดี” ออกมาเฉยๆ เราเลยไม่มีทางรู้เลยว่าเบื้องหลังการตัดสินของมันมีอคติซ่อนอยู่หรือเปล่า มันต่างจากพนักงานที่เป็นคนตรงที่ถ้าพนักงานตัดสินใจแปลกๆ เราพอเดินไปถามได้ว่า “ทำไมถึงปฏิเสธรายนี้” แล้วเขาตอบเราได้ แต่ AI หลายแบบมันเป็น กล่องดำ (black box) คือเราเห็นแค่คำตอบ แต่มองไม่เห็นว่ามันคิดยังไงถึงได้คำตอบนั้น (เรื่องกล่องดำนี้ผมเคยเล่าไว้ในตอนโมเดลพังเหมือนกันครับ)

จุดที่อยากเน้นคือ อคติของ AI ส่วนใหญ่ไม่ได้เกิดจาก “คนตั้งใจสร้าง AI เหยียด” นะครับ แทบไม่มีใครตั้งใจหรอก มันเกิดจากการที่เราเอาข้อมูลในอดีต (ซึ่งมีอคติของยุคนั้นติดมา) ไปป้อนให้มัน โดยลืมไปว่าอดีตมันไม่ได้สวยงามเป็นกลางขนาดนั้น พูดอีกแบบคือ AI มันไม่ได้สร้างอคติขึ้นมาใหม่ มันแค่ “ขยายอคติเก่าที่เรามีอยู่แล้วให้ทำงานเร็วขึ้น เยอะขึ้น และดูเป็นวิทยาศาสตร์ขึ้น” เท่านั้นเอง

ตัวอย่างที่ได้ยินกันบ่อย — การคัดคน#

แพตเทิร์นนี้ที่ดังที่สุดและพูดถึงกันกว้างขวางจริงๆ คือเรื่อง AI ช่วยคัดใบสมัครงาน ครับ ไอเดียมันดีมากนะ — บริษัทใหญ่ๆ มีใบสมัครเข้ามาเป็นจำนวนมหาศาล จะให้คนนั่งอ่านหมดก็ไม่ไหว เลยเอา AI มาช่วยคัดเบื้องต้นว่าใบไหนน่าสนใจ

ปัญหาที่เคยเป็นข่าวใหญ่ในต่างประเทศ (เล่าแบบหลวมๆ นะครับ เพราะรายละเอียดเป๊ะๆ ผมไม่อยากยกมาผิด) คือมีกรณีที่ระบบคัดคนแบบนี้ดันไป เรียนรู้อคติจากข้อมูลในอดีต สมมติว่าในอดีตบริษัทรับคนกลุ่มหนึ่งมากกว่าอีกกลุ่มหนึ่งด้วยเหตุผลที่ไม่เกี่ยวกับความสามารถ AI ที่เรียนจากประวัตินั้นก็จะสรุปเอาเองว่า “คนแบบนี้แหละที่บริษัทชอบ” แล้วก็คัดคนกลุ่มที่เคยถูกมองข้ามออกไปอีก เท่ากับมันเอาอคติเก่าๆ มาตอกย้ำให้หนักขึ้น แถมยังทำเงียบๆ โดยที่ไม่มีใครตั้งใจให้มันเหยียดด้วยซ้ำ

ผมขอย้ำว่าผมเล่าเรื่องนี้แบบเป็น “แพตเทิร์น” นะครับ ไม่ได้จะชี้นิ้วบริษัทไหน และไม่ได้จะบอกว่าตัวเลขเป็นยังไง แต่ “หน้าตาของปัญหา” แบบนี้มันเกิดขึ้นจริงและถูกพูดถึงกันกว้างพอที่เราควรรู้จักไว้

มันไปโผล่ในธุรกิจเล็กๆ ได้ด้วยนะ#

หลายคนอาจคิดว่า “อ๋อ เรื่องนี้มันของบริษัทยักษ์ ฉันร้านเล็กๆ ไม่เกี่ยวหรอก” เปล่าครับ มันแอบมาได้หลายทางเลย ลองนึกภาพสมมติพวกนี้ดู (ทั้งหมดเป็นฉาก สมมติ เพื่อให้เห็นภาพนะครับ) —

• ร้านเอา AI มาช่วยดูว่าจะ “ปล่อยให้ลูกค้ารายไหนซื้อแบบผ่อนจ่ายได้” ถ้าข้อมูลเก่าที่ป้อนให้มันมีอคติบางอย่างซ่อนอยู่ มันก็อาจปฏิเสธลูกค้าดีๆ บางกลุ่มทิ้งไปเงียบๆ โดยที่เราไม่รู้ว่าเสียโอกาสขายไปเท่าไหร่
• ร้านเอา AI มาช่วยคัดว่า “รีวิวไหนน่าเชื่อ รีวิวไหนน่าจะปลอม” ถ้ามันเรียนมาเอียง ก็อาจไปลบรีวิวจริงของลูกค้าบางแบบทิ้ง
• เอา AI มาช่วยตั้งราคาหรือจัดโปรฯ ให้ลูกค้าแต่ละกลุ่ม ถ้ามันเอียง ก็อาจไปเสนอราคาที่ไม่เป็นธรรมกับลูกค้าบางกลุ่มโดยไม่ตั้งใจ

จุดร่วมของทุกเคสคือ ความเสียหายมันเงียบ ไม่มีใครโทรมาด่า เพราะคนที่ถูก AI คัดออกไปเขาไม่รู้ตัวด้วยซ้ำว่าถูกคัดออก เขาแค่ “ไม่ได้รับการติดต่อกลับ” หรือ “ไม่ได้รับข้อเสนอ” เท่านั้น เราในฐานะเจ้าของก็ไม่เห็นตัวเลขความเสียหาย เพราะมันคือ “ยอดขายที่ไม่เคยเกิด” และ “ลูกค้าดีที่เราไม่เคยรู้ว่าพลาดไป”

นี่แหละครับคือสิ่งที่ผมว่าน่ากลัวที่สุดของแพตเทิร์นนี้ แพตเทิร์นที่ 1 (บอทพูดเกินจริง) อย่างน้อยมันมี “เสียง” คือลูกค้าโทรมาด่า เราเลยรู้ตัวว่าต้องแก้ แต่แพตเทิร์นที่ 2 มันเป็นความพลาดที่ “ไม่มีเสียง” เลย มันคือยอดที่หายไปแบบที่เราไม่เคยเห็นว่ามันเคยมีอยู่ เปรียบเหมือนรอยรั่วเล็กๆ ใต้ท้องเรือที่เราไม่เห็น เรือยังแล่นได้ ดูปกติทุกอย่าง แต่น้ำมันค่อยๆ ซึมเข้ามาเงียบๆ กว่าจะรู้ตัวก็ตอนเริ่มเอียงแล้ว

และอย่าลืมว่ามันไม่ใช่แค่เรื่อง “เสียยอดขาย” อย่างเดียวนะครับ ถ้าวันหนึ่งมีคนจับได้ว่าระบบของเราตัดสินคนแบบไม่เป็นธรรม (เช่นปฏิเสธลูกค้าบางกลุ่มอย่างมีแบบแผน) มันกลายเป็นเรื่องชื่อเสียงและอาจถึงขั้นเรื่องกฎหมายได้เลย ทั้งหมดนี้จากระบบที่เรา “ตั้งใจดี” อยากให้มันช่วยทำงานเร็วขึ้นแท้ๆ

บทเรียนสำหรับเจ้าของกิจการ#

• อย่าเชื่อว่า “คอมคิดแล้วต้องเป็นกลาง” — AI เป็นกระจกสะท้อนข้อมูลเก่า ถ้าข้อมูลเก่าเอียง ผลก็เอียง
• เรื่องที่ “ตัดสินคน” ต้องมีคนคุม — การจ้างงาน การปล่อยเครดิต การให้/ไม่ให้บริการลูกค้า พวกนี้ห้ามปล่อยให้ AI ตัดสินเด็ดขาดแบบไม่มีคนดู ให้มันเป็นแค่ “ผู้ช่วยกรองเบื้องต้น” แล้วคนตัดสินใจขั้นสุดท้าย
• สุ่มตรวจเป็นระยะ — ลองดึงผลที่ AI คัดออกมาดูบ้างเป็นพักๆ ว่ามันเอียงไปทางไหนผิดปกติไหม ไม่ใช่ตั้งแล้วลืม

💡 มุมเจ้าของกิจการ: เวลาจะเอา AI มาช่วย “ตัดสิน” อะไรที่กระทบคน (รับใคร ปฏิเสธใคร ให้เครดิตใคร) ลองถามตัวเองคำถามนี้ครับ — “ถ้าวันหนึ่งมีคนมาถามว่าทำไมระบบถึงปฏิเสธเขา เราตอบได้ไหมว่าเพราะอะไร?” ถ้าตอบไม่ได้ แปลว่าเรากำลังปล่อยให้กล่องดำตัดสินชะตาคนแทนเรา — อันนี้เสี่ยงทั้งเรื่องความเป็นธรรมและเรื่องชื่อเสียงร้าน

มันเกิดขึ้นได้ยังไง#

ตอนเริ่มเอา AI มาใช้ใหม่ๆ ทุกคนจะระวังตัวกันมากครับ เพราะยังไม่ไว้ใจ พนักงานก็จะคอยเช็กงานที่ AI ทำให้ทุกครั้ง แต่พอใช้ไปเรื่อยๆ AI มันก็ทำได้ดีจริงๆ ส่วนใหญ่ ไม่ค่อยพลาด ความไว้ใจก็ค่อยๆ เพิ่มขึ้น จนถึงจุดหนึ่งคนก็เริ่ม “เซ็นรับงานของ AI โดยไม่อ่านแล้ว” เพราะคิดว่า “มันถูกตลอดอยู่แล้วเนอะ ไม่ต้องเช็กก็ได้”

นี่แหละครับคือกับดัก เพราะ AI มันถูก “เกือบตลอด” แต่ไม่ใช่ “ตลอด” และวันที่มันพลาด มันมักจะพลาดในเรื่องที่เราไม่ทันระวัง เพราะเราเลิกระวังไปแล้ว ภาษาวงการเรียกอาการนี้ว่า over-reliance (พึ่งพาเกินพอดี) หรือบางทีก็เรียก automation bias คือ “พออะไรมาจากระบบอัตโนมัติ คนมักเชื่อว่ามันถูกไว้ก่อน” ทั้งที่ควรจะเช็ก

ผมว่าอุปมาที่เห็นภาพที่สุดคือเรื่อง GPS นำทาง ครับ ลองนึกย้อนไปสมัยก่อนมี GPS เราขับรถไปไหนต้องดูแผนที่เอง จำเส้นทางเอง สมองตื่นตัวตลอด พอมี GPS ที่แม่นมากๆ เราก็ค่อยๆ เลิกใช้สมอง ปล่อยให้มันพาไปอย่างเดียว ส่วนใหญ่ก็ถึงที่หมายสวยงาม จนวันหนึ่ง GPS มันพลาด (แผนที่เก่า ถนนปิด หรือมันคำนวณผิด) แล้วบอกให้เราเลี้ยวลงคลองหรือพาเข้าซอยตัน มีคนขับตามมันลงไปจริงๆ เพราะ “เชื่อ GPS มากกว่าตาตัวเอง” นั่นแหละครับคือ automation bias เต็มๆ คนเราพอไว้ใจเครื่องมือถึงจุดหนึ่ง เราจะเชื่อมันมากกว่าสามัญสำนึกของตัวเองด้วยซ้ำ

AI ในที่ทำงานก็เป๊ะแบบนั้นเลยครับ ยิ่งมันแม่น ยิ่งเราเลิกใช้สมองตรวจ และยิ่งเลิกตรวจ ยิ่งเสี่ยงในวันที่มันพลาด ที่แสบคือมันไม่ได้พลาดบ่อยพอให้เรากลับมาระวัง แต่พลาดนานๆ ครั้งในจังหวะที่เราการ์ดตกสนิทแล้วพอดี

และมันมีกลไกซ้ำเติมอีกชั้นด้วยนะครับ — เวลาเราตรวจงานอะไรซ้ำๆ แล้วมัน “ถูกตลอด” สมองเราจะเรียนรู้ว่า “ตรงนี้ไม่มีอะไรหรอก” แล้วค่อยๆ ลดความตั้งใจในการตรวจลงเองโดยอัตโนมัติ (เป็นเรื่องธรรมชาติของสมองคน ไม่ใช่ความขี้เกียจ) เหมือนคนที่ทำงานคัดของในสายพานที่ของเสียมันนานๆ โผล่มาที พอนานเข้าก็เริ่มมองผ่าน เพราะสมองชินกับ “ของดีตลอด” ไปแล้ว ฉะนั้นยิ่ง AI แม่นเท่าไหร่ สมองคนตรวจก็ยิ่งหลับเร็วเท่านั้น นี่ไม่ใช่ปัญหาที่แก้ด้วยการ “บอกให้พนักงานตั้งใจตรวจมากขึ้น” ได้นะครับ เพราะมันเป็นธรรมชาติของสมอง ต้องแก้ด้วยการออกแบบระบบให้ “บังคับ” ให้มีจุดเช็กในงานเสี่ยงสูงไปเลย ไม่ฝากไว้กับความตั้งใจของคน

ฉากสมมติให้เห็นภาพ#

ลองนึกภาพพวกนี้ดูครับ (ทั้งหมดเป็นฉาก สมมติ เพื่อให้เห็นภาพ ไม่ใช่เคสจริง) —

• พนักงานให้ AI ช่วยร่างอีเมลตอบลูกค้าคนสำคัญ AI ร่างมาสวยมาก ภาษาเป๊ะ — แต่ดันใส่ตัวเลขราคาผิดไปหลักหนึ่ง พนักงานเห็นว่าภาษาสวยเลยกดส่งเลยไม่ได้อ่านเลข ลูกค้าก็ยึดตามราคาที่ส่งไป
• ทีมบัญชีให้ AI ช่วยสรุปตัวเลขรายงาน AI สรุปมาดูเป็นระเบียบมาก แต่มันดันไป “เดา” ตัวเลขบางช่องที่ข้อมูลไม่ครบ (อาการหลอนอีกแล้ว) คนเห็นว่ารายงานสวยเลยส่งต่อขึ้นไปโดยไม่ได้ทาน
• ฝ่ายกฎหมายหรือฝ่ายเอกสารให้ AI ช่วยร่างสัญญา/ข้อความทางการ AI ร่างมาดูเป็นมืออาชีพมาก แต่แอบใส่เงื่อนไขที่ไม่ตรงกับที่ตกลงไว้จริง คนเซ็นผ่านเพราะเชื่อว่า “AI ร่างมาก็น่าจะโอเค”

เห็นจุดร่วมไหมครับ AI ไม่ได้พังตรงๆ มันแค่พลาดนิดเดียวในรายละเอียด แล้วความพลาดนั้นรอดสายตาคนไปได้ เพราะคนเลิกตรวจ มันเหมือนเรามีพนักงานหัวไวคนหนึ่งที่เก่งมาก ทำงานเร็วมาก เราเลยเผลอเซ็นทุกอย่างที่เขายื่นมาโดยไม่อ่าน สักวันเขาทำพลาด เราก็พลาดตามไปด้วยเต็มๆ

และที่ทำให้แพตเทิร์นนี้ลื่นไหลรอดตาคนได้ง่ายมาก คือ งานที่ AI ทำมัน “หน้าตาดี” เกินไป ครับ ลองสังเกตดูนะ งานที่ AI ร่างมามันมักจะภาษาสวย เรียบเรียงเป็นระเบียบ ดูเป็นมืออาชีพ แล้วสมองคนเราเนี่ย มันมีนิสัยอย่างหนึ่งคือ “พออะไรดูดี ดูเรียบร้อย เราจะเผลอเชื่อว่ามันถูก” ทั้งที่ความสวยของภาษากับความถูกต้องของเนื้อหามันคนละเรื่องกันเลย เลขผิดมันก็ซ่อนอยู่ในประโยคสวยๆ ได้สบาย เงื่อนไขเพี้ยนมันก็แฝงในย่อหน้าที่ดูเป็นทางการได้ พอเราเห็นของหน้าตาดี เราเลยอ่านผ่านๆ แทนที่จะอ่านจริงจัง นี่แหละกับดักซ้อนกับดัก

ทำไมแพตเทิร์นนี้ถึงโตขึ้นเรื่อยๆ#

ยิ่ง AI ทำงานเก่งขึ้นเท่าไหร่ คนยิ่งไว้ใจมันมากขึ้นเท่านั้น และยิ่งไว้ใจมากเท่าไหร่ ก็ยิ่งเช็กน้อยลงเท่านั้น มันเป็นวงจรที่ค่อยๆ กินตัวเองครับ ของยิ่งดี คนยิ่งการ์ดตก พอวันที่มันพลาด ความเสียหายก็ยิ่งหลุดรอดง่าย เพราะไม่มีใครยืนเฝ้าด่านสุดท้ายแล้ว นี่คือเหตุผลว่าทำไมเรื่อง “คนต้องอยู่ในวงจร” (คำที่วงการชอบใช้คือ human-in-the-loop แปลแบบบ้านๆ คือ “ต้องมีคนคั่นกลางคอยตรวจก่อนงานออกจริง”) ถึงสำคัญมากขึ้นเรื่อยๆ ไม่ใช่น้อยลง

มีอีกมุมที่ผมว่าน่าคิด คือพอ AI เก่งขึ้นเรื่อยๆ ทักษะการตรวจงานของคนเราก็มีแนวโน้ม ฝ่อลง ด้วยนะครับ ลองนึกถึงคนที่เลิกบวกเลขในใจเพราะมีเครื่องคิดเลข นานเข้าก็บวกเลขช้าลงจริงๆ เรื่องนี้ก็คล้ายกัน ถ้าทีมเราปล่อยให้ AI ร่างงานทุกอย่างนานๆ โดยไม่ค่อยได้ลงมือทำเอง วันหนึ่งพอต้องตรวจงานของ AI จริงจัง เราอาจจะ “ตรวจไม่เป็น” แล้วก็ได้ เพราะเราเองก็ลืมไปแล้วว่างานที่ถูกต้องหน้าตาเป็นยังไง นี่คือเหตุผลว่าทำไมการให้คนในทีมยังได้ “ลงมือทำเองบ้าง” ไม่ใช่พึ่ง AI ร้อยเปอร์เซ็นต์ ถึงสำคัญในระยะยาว ไม่ใช่เพื่อประหยัดค่า AI แต่เพื่อรักษา “สายตาที่ตรวจงานเป็น” ของทีมเอาไว้

บทเรียนสำหรับเจ้าของกิจการ#

• กำหนดให้ชัดว่างานไหน “ต้องมีคนเช็กก่อนเสมอ” — โดยเฉพาะงานที่เกี่ยวกับเงิน ตัวเลข สัญญา และอะไรก็ตามที่ส่งออกไปข้างนอกแล้วเอาคืนไม่ได้
• ให้ AI เป็น “ผู้ช่วยร่าง” ไม่ใช่ “ผู้ส่งงานเอง” — AI ร่างได้ แต่คนต้องเป็นคนกดส่ง และต้องอ่านก่อนกด
• อย่าวัดความสำเร็จที่ “ใช้ AI เยอะแค่ไหน” แต่วัดที่ “งานพลาดน้อยลงไหม” — ใช้ AI เยอะแล้วงานพลาดบ่อยขึ้นเพราะคนเลิกตรวจ อันนั้นถอยหลัง ไม่ใช่ก้าวหน้า

💡 มุมเจ้าของกิจการ: เวลาเอา AI เข้าทีม อย่าเพิ่งดีใจว่า “ดีจัง คนจะได้ไม่ต้องตรวจงานแล้ว” — ที่ถูกคือ เปลี่ยนหน้าที่คนจาก “ทำงานเอง” เป็น “ตรวจงาน AI” ครับ คนยังต้องอยู่ แค่เปลี่ยนบทบาท ถ้าเมื่อไหร่ทีมเริ่มพูดว่า “ไม่ต้องอ่านหรอก AI ทำให้แล้ว” — นั่นแหละสัญญาณอันตรายว่ากำลังจะเข้ากับดักแพตเทิร์นนี้