Explainable AI คืออะไร? ทำไม SME ต้องอธิบายการตัดสินใจของ AI ได้

Explainable AI (XAI) คือกลุ่มแนวทาง เครื่องมือ และสถาปัตยกรรมที่ทำให้ระบบ AI ตอบคำถาม “ทำไม” กับคนใช้งานได้จริง ไม่ใช่แค่แสดงผลลัพธ์ สำหรับ SME ไทยที่กำลังใช้ AI อนุมัติสินเชื่อ คัดกรองพนักงาน หรือพิจารณาเคลมสินค้า XAI หมายถึงความสามารถในการบอกลูกค้า หน่วยงานกำกับดูแล หรือพนักงานภายในว่า AI เห็นอะไรในข้อมูล และเหตุใดจึงตัดสินใจแบบนั้น เมื่อลูกค้าถามว่า “ทำไมถูกปฏิเสธ” ถ้าระบบตอบไม่ได้ เจ้าของธุรกิจจะต้องแบกรับทั้งความเสี่ยงด้านกฎหมาย ภาพลักษณ์ และความเชื่อมั่นที่เสียไป โดยไม่ต้องมีทีมเทคโนโลยีใหญ่ SME ก็เริ่มใช้ XAI ได้ด้วยการเลือกโมเดลที่โปร่งใส บันทึกค่า features ใช้เครื่องมือ SHAP/LIME และจัดให้ LLM อ้างอิงแหล่งข้อมูลที่ใช้ตอบ

XAI คืออะไร? ครอบคลุมตั้งแต่การออกแบบโมเดลจนถึงการทำงานรายวัน

XAI ไม่ใช่ AI อีกประเภทหนึ่ง แต่เป็นคุณสมบัติของระบบ AI ที่ทำให้มนุษย์ตรวจสอบได้ว่าการตัดสินใจเกิดขึ้นได้อย่างไร การ “อธิบายได้” ในการทำงานจริงมีหลายระดับ ระดับแรกคือการอธิบายภาพรวมของโมเดล เช่น “โมเดลนี้น้ำหนักให้ประวัติการชำระเงินมากกว่ารายได้รวม” ระดับที่สองคือการอธิบายเป็นรายบุคคล เช่น “ลูกค้าคนนี้ถูกปฏิเสธเพราะยอดขาย 6 เดือนล่าสุดลดลง 18% และมีภาระหนี้สูงกว่าเกณฑ์ที่กำหนด” ระดับที่สามคือการตรวจสอบย้อนกลับว่าในการตัดสินใจแต่ละครั้ง ระบบใช้ข้อมูลเวอร์ชันใด ใช้สมมติฐานอะไร และมีใครเป็นผู้อนุมัติให้ใช้ระบบนั้น

สำหรับ SME ระดับแรกช่วยให้ทีมเข้าใจหลักการทำงานของ AI ส่วนระดับที่สองสำคัญที่สุดเวลาต้องตอบลูกค้าหรือทบทวนคำตัดสิน ระดับที่สามสำคัญเมื่อมีข้อร้องเรียนและต้องใช้หลักฐานประกอบการชี้แจง การทำ XAI จึงไม่ใช่แค่ติดตั้งไลบรารีเพื่อวาดกราฟ แต่ต้องออกแบบกระบวนการให้ทุกการตัดสินใจของ AI มีร่องรอยที่พร้อมอธิบาย ลองนึกถึงพนักงานขายที่ใช้ระบบแนะนำวงเงินสินเชื่อ หากระบบแค่บอก “อนุมัติ 50,000 บาท” โดยไม่มีเหตุผล พนักงานจะไม่สามารถดูแลลูกค้าได้ แต่ถ้าระบบบันทึกไว้ว่า “ระยะเวลาเปิดร้าน 2 ปี และยอดขายเฉลี่ยต่อเดือน 120,000 บาท ทำให้ได้วงเงินระดับนี้” พนักงานจะสื่อสารกับลูกค้าได้อย่างมั่นใจ

ทำไม SME ไทยต้องสนใจ XAI ตั้งแต่วันนี้

หลายธุรกิจเข้าใจว่า AI ที่แม่นยำมากพอแล้วคือเรื่องจบ แต่ในโลกความจริง AI ที่มีผลต่อสิทธิของคนต้องอธิบายได้ กฎหมายคุ้มครองข้อมูลส่วนบุคคล PDPA ของไทยมีหลักการเกี่ยวกับการประมวลผลข้อมูลอย่างเป็นธรรม แม้ AI ที่ใช้ข้อมูลส่วนบุคคลเพื่อปฏิเสธสินเชื่อหรือประเมินพนักงานอาจยังไม่มีบทบัญญัติ “สิทธิขอคำอธิบาย” ครอบคลุมทุกกรณีอย่างชัดเจน แต่เมื่อเกิดข้อพิพาท ผู้ประกอบการต้องพร้อมพิสูจน์ว่าระบบไม่ได้เลือกปฏิบัติโดยไม่มีเหตุผลอันควร และต้องแสดงให้เห็นว่ามีการทบทวนโดยมนุษย์เมื่อลูกค้าขอ

ตัวอย่างใกล้ตัวคือร้านค้าออนไลน์ที่ใช้ AI ตรวจสอบคำขอเคลมสินค้า AI เห็นรูปสินค้าที่มีรอยขีดข่วนและสั่งปฏิเสธการเปลี่ยนสินค้าอัตโนมัติ ถ้าลูกค้าสงสัยว่ารอยนั้นเกิดขึ้นตอนขนส่งหรือตอนใช้งานแล้ว ระบบควรสร้าง “คำอธิบายภาพ” ชี้ไปที่ตำแหน่งของรอย เพื่อให้พนักงานตรวจสอบได้ว่า AI ตัดสินใจถูกหรือผิด อีกตัวอย่างคือโรงงานผลิตชิ้นส่วนที่ใช้ AI ตรวจจับตำหนิบนชิ้นงาน หาก AI ปฏิเสธชิ้นงานโดยไม่บอกว่าจุดไหนบกพร่อง พนักงานควบคุมเครื่องจักรก็ไม่รู้ว่าจะปรับกระบวนการอย่างไร ผลลัพธ์คือเสียของเสียโดยไม่เกิดการเรียนรู้

ธนาคารและบริษัทประกันขนาดใหญ่ใช้ XAI มานานเพราะถูกกำกับดูแล แต่ SME ที่เป็นคู่ค้า ธุรกิจแฟรนไชส์ หรือผู้ให้บริการบนแพลตฟอร์มก็ต้องเริ่มคิดเช่นกัน เพราะเมื่อ AI เริ่มตัดสินใจเรื่องเงินและสิทธิของคน ลูกค้าจะถามหาความยุติธรรม ไม่ใช่ถามหาความแม่นยำของฟังก์ชัน loss function

White-box vs Black-box: ไม่ต้องเลือกอย่างใดอย่างหนึ่งเสมอไป

หัวใจของ XAI คือการเข้าใจสมดุลระหว่างความแม่นยำและความสามารถอธิบายผลลัพธ์ โมเดล white-box เช่น การถดถอยโลจิสติก ต้นไม้ตัดสินใจ หรือกฏเกณฑ์แบบ if-then มีความโปร่งใสสูง มนุษย์เห็นกติกาชัดเจน เช่น “ถ้ารายได้รวมน้อยกว่า 15,000 บาทและมีประวัติค้างชำระเกิน 3 ครั้ง ปฏิเสธ” แต่โมเดลกลุ่มนี้อาจมีความแม่นยำต่ำกว่า deep learning หรือ ensemble models ที่เป็น black-box เพราะมันซับซ้อนจนยากจะรู้ว่าเหตุใดคำตอบจึงออกมาแบบนั้น

สำหรับงานที่ผลกระทบจากการตัดสินใจผิดพลาดสูง เช่น อนุมัติสินเชื่อหรือคัดกรองพนักงาน คุณไม่จำเป็นต้องทิ้ง black-box เสมอไป แต่ต้องเพิ่มชั้นอธิบายด้วยเทคนิค XAI เช่น ใช้โมเดลต้นไม้ช่วยเลียนแบบพฤติกรรมของโมเดลซับซ้อน หรือใช้ SHAP เพื่อหาว่า features ใดมีส่วนทำให้คำตอบเปลี่ยนจากค่าฐานอย่างไร หากทีมเริ่มต้นโดยไม่มีนักวิทยาศาสตร์ข้อมูล แนะนำให้เริ่มจาก white-box ก่อน เพราะการตั้งค่าข้อมูลและทำความเข้าใจผลลัพธ์ทำได้ง่าย เมื่อธุรกิจโตขึ้นแล้วเก็บข้อมูลได้มากพอ จึงค่อยย้ายไปยังโมเดลที่ซับซ้อนพร้อมระบบอธิบายที่แข็งแรง

การเลือกสมดุลต้องดูบริบทของธุรกิจด้วย หากความผิดพลาดของ AI แค่แนะนำสินค้าที่ไม่ตรงใจ การอธิบายอาจไม่จำเป็นมาก แต่ถ้า AI ตัดสินว่าใครได้งาน ใครได้สินเชื่อ หรือใครได้รับเงินชดเชย ต้องให้ความสำคัญกับความโปร่งใสสูง พร้อมเปิดช่องให้มนุษย์ทบทวนและคัดค้านได้เสมอ

เครื่องมือ XAI ที่ SME ใช้จริงได้: SHAP, LIME และการบันทึกค่า features

เครื่องมือ XAI ที่รู้จักกันดีและใช้งานได้จริงในระดับ SME คือ feature importance, LIME และ SHAP Feature importance ช่วยตอบคำถามระดับภาพรวมว่า features ใดสำคัญที่สุด เช่น “จำนวนวันค้างชำระ” มีผลต่อการอนุมัติมากกว่า “อายุของลูกค้า” แต่ไม่ได้บอกว่าในรายที่ถูกปฏิเสธ features ใดผลักดันคำตอบมากกว่ากัน

LIME หรือ Local Interpretable Model-agnostic Explanations ทำงานโดยการสุ่มปรับข้อมูล input เล็กน้อยรอบๆ จุดที่ต้องการอธิบาย แล้วสร้างโมเดลง่ายๆ ที่ใกล้เคียงกับโมเดลจริงเฉพาะบริเวณนั้น ผลลัพธ์คือรายการเหตุผลที่มนุษย์อ่านเข้าใจ เช่น “เมื่อปรับรายได้เพิ่มขึ้น 5% โมเดลเปลี่ยนจากการปฏิเสธเป็นอนุมัติ” ทำให้เห็นว่ารายได้มีผลแรงเพียงใด คล้ายกับการทดลองกับระบบเพื่อดูว่าเงื่อนไขใดเปลี่ยนผลลัพธ์

SHAP หรือ SHapley Additive exPlanations ให้ค่าการมีส่วนร่วมของแต่ละ feature ต่อผลต่างระหว่างคำตอบของโมเดลกับค่าเฉลี่ยของทุกคำตอบ ค่า SHAP จะเป็นบวกหรือลบ เช่น “ยอดขายย้อนหลังทำให้คะแนนเพิ่มขึ้น 0.12” และ “อัตราส่วนหนี้สินต่อรายได้ทำให้คะแนนลดลง 0.18” ผลรวมของค่า SHAP ทุกตัวจะนำไปสู่การตัดสินใจสุดท้ายของโมเดล ทำให้ทีมสอบทานได้ว่าโมเดลใช้เหตุผลสอดคล้องกับหลักธุรกิจหรือไม่

สำหรับ SME ยังมีสิ่งที่สำคัญกว่าเครื่องมือคือการบันทึกค่า features ในทุก workflow ตั้งแต่วันแรกที่ระบบ online ข้อมูลที่ควรบันทึกประกอบด้วย user ID, timestamp, model version, ค่า features ต้นทาง, ค่า probability, threshold ที่ใช้ตัดสินใจ และผล output ของ SHAP/LIME ถ้าไม่มีข้อมูลเหล่านี้ แม้ติดตั้งเครื่องมืออธิบายได้ก็ไม่อาจย้อนรอยเหตุการณ์ที่เกิดขึ้นจริงในอดีตได้ ควรกำหนดไว้ในสัญญากับผู้พัฒนา AI หรือผู้ให้บริการซอฟต์แวร์ว่า ต้องมี API หรือตาราง log ที่ส่งออกข้อมูลดังกล่าวได้ เพราะ “อธิบายได้เฉพาะตอนนี้” ไม่พอ ต้อง “อธิบายย้อนหลังได้” ด้วย

อธิบาย AI Agent และ LLM ได้ด้วย RAG และ citations

SME จำนวนมากเริ่มใช้ AI Agent หรือ LLM ในการตอบคำถามลูกค้า โดยเฉพาะ chatbot ที่ต้องให้ข้อมูลเกี่ยวกับนโยบายการคืนเงิน การรับประกันสินค้า หรือขั้นตอนการสมัครสินเชื่อ LLM เป็นโมเดลภาษาขนาดใหญ่ที่เก่งในการสร้างประโยคธรรมชาติ แต่ก็มีโอกาสสร้างเนื้อหาที่ไม่ตรงจริงได้ถ้าไม่มีแหล่งอ้างอิง การแก้ปัญหาด้วย XAI ในระดับนี้ไม่เหมือนกับการใช้ SHAP กับโมเดล tabular แต่ใช้หลักการเดียวกันคือต้องให้คำตอบมีหลักฐานตรวจสอบได้

วิธีที่ใช้ได้ผลคือ RAG หรือ Retrieval-Augmented Generation โดยก่อนที่ AI จะตอบ ระบบจะค้นเอกสารจากฐานข้อมูลภายในของธุรกิจ เช่น คู่มือนโยบาย หรือเงื่อนไขการให้บริการ แล้วให้ LLM สรุปคำตอบจากเอกสารที่ค้นเจอเท่านั้น พร้อมใส่ citation หรือลิงก์ไปยังหัวข้อและเอกสารต้นทาง เช่น “ตามเงื่อนไขการเคลมข้อ 4.2 สินค้าที่ซีลเปิดแล้วไม่เข้าข่ายเปลี่ยนสินค้าใหม่” ถ้าลูกค้าสงสัย พนักงานหรือลูกค้าสามารถเปิดเอกสารนั้นเพื่อตรวจสอบได้

นอกจากนี้ควรให้ LLM แสดงระดับความมั่นใจ เช่น “คำตอบนี้มาจากเอกสาร 2 ฉบับ” และถ้าคะแนนความมั่นใจต่ำกว่าค่าที่กำหนด ระบบควรส่งต่อไปให้พนักงานมนุษย์ตอบแทน ไม่ใช่พยายามเดาคำตอบ การบันทึก log ของทุกการสนทนาก็จำเป็นเช่นกัน โดยเก็บ prompt ที่ผู้ใช้ส่ง เอกสารที่ RAG ค้นพบ และคำตอบสุดท้ายของ AI เพื่อให้เมื่อมีข้อร้องเรียน ทีมสามารถวิเคราะห์ได้ว่า AI ตอบถูกต้องหรือไม่ และควรปรับปรุงที่จุดใด การใช้ LLM โดยไม่มีกลไกอ้างอิงและไม่มี log เสี่ยงต่อการให้ข้อมูลผิดที่ส่งผลต่อเงินและความเชื่อมั่นระยะยาวของแบรนด์

วิธีเริ่มต้น XAI สำหรับ SME ไทยใน 6 ขั้นตอน

ขั้นแรก เลือกงานเดียวที่มีผลกระทบสูงและต้องตอบคำถามลูกค้าบ่อย เช่น ระบบให้วงเงินสินค้า หรือระบบพิจารณาเคลม แล้วกำหนดว่าใครคือผู้ใช้คำอธิบาย พนักงานหน้าร้าน ลูกค้า หรือผู้ตรวจสอบภายนอก เพราะระดับภาษาที่ใช้ต่างกัน ขั้นที่สอง ตรวจสอบข้อมูลย้อนหลังอย่างน้อยหนึ่งปีเพื่อใช้เป็น baseline และต้องแน่ใจว่าระบบบันทึก features ครบถ้วน ถ้าข้อมูลขาดว่าลูกค้าคนนั้นมียอดสั่งซื้อเท่าไรตอนระบบตัดสินใจ ก็ไม่สามารถอธิบายได้

ขั้นที่สาม เริ่มจากโมเดลอธิบายง่าย เช่น logistic regression หรือ decision tree แล้วเปรียบเทียบ accuracy กับโมเดล black-box หากความแม่นยำไม่ต่างกันมาก ให้ใช้โมเดลโปร่งใสเป็นค่าเริ่มต้น ขั้นที่สี่ ถ้าจำเป็นต้องใช้โมเดลซับซ้อน ให้ติดตั้ง SHAP หรือ LIME และสร้างหน้าจอสำหรับพนักงานที่แสดงเหตุผล 3-5 อันดับแรกของแต่ละรายการ พร้อมปุ่ม “ให้มนุษย์ทบทวน” สำหรับกรณีที่ลูกค้าไม่ยอมรับคำอธิบาย ขั้นที่ห้า กำหนด KPI ด้านการอธิบายได้ เช่น เปอร์เซ็นต์ของคำอธิบายที่ผู้ตรวจสอบยอมรับ หรือระยะเวลาที่พนักงานใช้ทำความเข้าใจคำตอบของ AI แล้วจึงค่อยปล่อยระบบสู่การใช้งานจริง

ขั้นสุดท้าย เมื่องานแรกผ่านเกณฑ์ ให้นำกระบวนการเดียวกันไปใช้กับงานอื่น โดยสร้าง feedback loop ระหว่างผลลัพธ์จริง คำอธิบายของโมเดล และการตัดสินใจของมนุษย์ ถ้าอัตราการทบทวนแล้วกลับคำตัดสินสูง อาจหมายถึงโมเดลยังไม่ได้เรียนรู้บริบทบางอย่าง SME ไม่จำเป็นต้องสร้างทีมวิจัยขนาดใหญ่ แค่เริ่มจากกระบวนการเล็กๆ ที่มีคุณภาพ แล้วขยายผลจากบทเรียนจริง

สรุป: ความแม่นยำของ AI จะมีคุณค่าก็ต่อเมื่อมนุษย์อธิบายได้

SME ไทยที่นำ AI มาใช้เพื่อตัดสินใจเรื่องสำคัญจะพบว่า “ความแม่นยำ” ไม่ใช่คำตอบเดียวของความสำเร็จ ลูกค้าที่ถูกปฏิเสธสินเชื่อ ผู้สมัครงานที่ไม่ได้รับเลือก หรือเจ้าของสินค้าที่เคลมไม่ผ่าน ล้วนต้องการเหตุผลที่เข้าใจได้ XAI ช่วยเปลี่ยน AI จากกล่องดำที่อาจสร้างความไม่ไว้วางใจ ให้เป็นเครื่องมือที่ทำงานภายใต้การกำกับของมนุษย์ สำหรับผู้ประกอบการที่เพิ่งเริ่ม ควรเลือกงานหนึ่งงานที่มีผลกระทบสูง ใช้ข้อมูลคุณภาพ บันทึกค่า features ทุกครั้ง และเริ่มจากโมเดลที่โปร่งใสก่อน จากนั้นเพิ่มเครื่องมือ SHAP/LIME และ RAG สำหรับระบบ LLM ท้ายที่สุด AI จะไม่ใช่แค่เทคโนโลยีที่ “ฉลาด” แต่ต้องเป็นเทคโนโลยีที่ “พร้อมอธิบาย” และเมื่อเป็นเช่นนั้น ธุรกิจ SME จะได้ทั้งความเสี่ยงที่ลดลง ประสิทธิภาพที่เพิ่มขึ้น และความเชื่อมั่นที่ยั่งยืนจากลูกค้าและคู่ค้า