พวก ai เวลามันไม่รู้ข้อมูลอะไร ทำไมมันไม่ค่อยยอมตอบว่าไม่รู้ฮะ ทำไมต้องพยายามมั่วข้อมูลหรือแถมาตอบด้วย

จริงครับ ขนาดบอกว่ามันผิด ไม่บอกก็บอกไม่รู้ พิมพ์ไปแบบนี้ ยังแถมากอีกว่า

ถ้างั้นอย่างงี้เป็นไง........ แล้วก็มูลก็มั่วเหมือนเดิม

ต้องด่า ต้องเตือน ต้องบอกครับ

ผมด่ากับมันประจำ อีกอย่างถามยังไม่ครบตอบแล้ว

สั้น ๆ ก็เพราะที่เราใช้กันเป็นโมเดลภาษาครับ ระบบพยายามคิดว่าตอบยังไงให้เราพอใจ ไม่ได้มี logic ซับซ้อนรองรับ อยากโจทย์เลขง่าย ๆ ก็ยังผิดบ่อยครับ

อยากเห็น ai คิดอย่างอื่น เขามีโมเดลแยกอื่น ๆ ออกมาให้เราใช้แพงขึ้น คิดช้าหน่อยอะไรแบบนี้

มันกลัวเราว่ามันโง่ แล้วเลิกใช้มัน บางตัวคำตอบเอาใจเราด้วย

สาเหตุที่ AI (ปัญญาประดิษฐ์) โดยเฉพาะโมเดลภาษาขนาดใหญ่ (LLMs) อย่าง ChatGPT หรือ Gemini มักจะสร้างคำตอบที่ดูเหมือนจริงแต่ไม่ถูกต้อง หรือที่เรียกว่า "ตอบมั่ว" แทนที่จะตอบว่า "ไม่รู้" นั้น มาจากเป้าหมายและวิธีการทำงานพื้นฐานของมันเองครับ

พูดง่ายๆ คือ AI ไม่ได้ "คิด" หรือ "รู้" เหมือนมนุษย์ แต่ถูกออกแบบมาเพื่อ "คาดเดา" คำที่จะมาต่อกันได้อย่างสอดคล้องและน่าเชื่อถือที่สุด

เราสามารถแบ่งสาเหตุหลักๆ ได้ดังนี้ครับ

1. เป้าหมายหลักคือการ "เดาคำถัดไป" (Next-Word Prediction)
หัวใจของการทำงานของ AI ประเภทนี้คือการเป็น เครื่องจักรทำนายคำ ที่เก่งกาจอย่างยิ่ง มันถูกฝึกฝนด้วยข้อมูลตัวบทมหาศาลจากอินเทอร์เน็ต หนังสือ และแหล่งข้อมูลอื่นๆ เพื่อเรียนรู้รูปแบบและความน่าจะเป็นของภาษา

เมื่อเราถามคำถาม AI จะไม่ได้เข้าไปค้นหา "คำตอบ" ในฐานข้อมูลความรู้ แต่จะเริ่มสร้างประโยคตอบกลับโดยการคำนวณว่าคำไหนมีความน่าจะเป็นที่จะปรากฏเป็นคำถัดไปมากที่สุด เมื่อพิจารณาจากคำถามและข้อมูลที่มันเคยเรียนรู้มา กระบวนการนี้จะดำเนินไปทีละคำจนได้คำตอบที่สมบูรณ์

ตัวอย่างเปรียบเทียบ: ลองนึกถึงระบบเติมคำอัตโนมัติ (Autocomplete) ในมือถือที่ฉลาดขึ้นมากๆ ถ้าคุณพิมพ์ว่า "กรุงโรมไม่ได้สร้างเสร็จใน..." ระบบจะเดาคำว่า "วันเดียว" ได้อย่างง่ายดายเพราะเป็นสำนวนที่พบบ่อยมาก AI ก็ทำงานในลักษณะคล้ายกันแต่ซับซ้อนกว่ามาก มันพยายามสร้างคำตอบที่ "ฟังดูดี" และ "น่าจะเป็นไปได้" ที่สุดตามรูปแบบที่เคยเห็นมา

ดังนั้น หากข้อมูลที่ใช้ฝึกฝนไม่เพียงพอหรือไม่มีคำตอบที่ชัดเจนสำหรับคำถามนั้นๆ AI ก็จะพยายาม "ปะติดปะต่อ" ข้อมูลจากส่วนต่างๆ ที่มันเคยเรียนรู้มาเพื่อสร้างคำตอบที่ดูสมเหตุสมผลที่สุด ซึ่งผลลัพธ์ที่ได้อาจไม่ใช่ความจริง

2. ขาดความตระหนักรู้ในตัวเอง (Lack of Self-Awareness)
AI ไม่มี "ความเข้าใจ" หรือ "จิตสำนึก" ว่าตัวเองรู้อะไรหรือไม่รู้อะไร มันไม่สามารถตรวจสอบฐานความรู้ภายในของตัวเองแล้วบอกว่า "ข้อมูลนี้ไม่มีอยู่" ได้เหมือนมนุษย์

การตอบว่า "ฉันไม่รู้" เป็นแนวคิดที่ซับซ้อนสำหรับ AI เพราะมันต้อง "รู้" ก่อนว่าความรู้ที่ถูกต้องคืออะไร และ "รู้" ว่าตัวเองไม่มีข้อมูลนั้น ซึ่งเป็นสิ่งที่ AI ซึ่งเป็นแค่โมเดลทางสถิติไม่สามารถทำได้โดยเนื้อแท้ มันทำได้เพียงแค่สร้างลำดับของคำตามความน่าจะเป็นเท่านั้น

3. ถูกฝึกมาให้ "ดูเหมือน" เป็นประโยชน์ (Trained to be Helpful)
ในระหว่างการพัฒนา AI จะถูกปรับแต่งด้วยกระบวนการที่เรียกว่า Reinforcement Learning from Human Feedback (RLHF) ซึ่งมนุษย์จะให้คะแนนคำตอบของ AI โดยคำตอบที่ดูเป็นประโยชน์ ครบถ้วน และเป็นธรรมชาติมักจะได้รับคะแนนสูง

สิ่งนี้อาจทำให้ AI มีแนวโน้มที่จะพยายามสร้างคำตอบเสมอ แม้ว่ามันจะไม่มีข้อมูลที่ถูกต้องก็ตาม เพราะการตอบว่า "ไม่รู้" อาจถูกมองว่าไม่เป็นประโยชน์เท่ากับการพยายามให้ข้อมูลอะไรบางอย่าง แม้ข้อมูลนั้นจะถูกสร้างขึ้นมาก็ตาม

4. ปรากฏการณ์ "การหลอน" (Hallucination)
คำว่า "ตอบมั่ว" ในทางเทคนิคเรียกว่า "AI Hallucination" ซึ่งหมายถึงการที่ AI สร้างข้อมูลที่ผิดพลาด ไม่สมเหตุสมผล หรือไม่มีอยู่จริง แต่กลับนำเสนออย่างมั่นใจ สาเหตุเกิดจาก:

ข้อมูลที่ใช้ฝึกมีข้อผิดพลาด: หากข้อมูลที่ AI เรียนรู้มีข้อมูลเท็จหรือความลำเอียงปะปนอยู่ มันก็จะเรียนรู้สิ่งผิดๆ นั้นมาด้วย

การตีความคำถามผิด: บางครั้ง AI อาจไม่เข้าใจเจตนาที่แท้จริงของคำถาม ทำให้มันสร้างคำตอบจากความเข้าใจที่คลาดเคลื่อน

การเชื่อมโยงข้อมูลที่ผิดพลาด: AI อาจนำข้อมูลที่ไม่เกี่ยวข้องกันมาเชื่อมโยงกันอย่างไร้เหตุผล เพื่อสร้างคำตอบที่ดูสอดคล้องกับคำถาม

สรุป ที่ AI ชอบตอบมั่วแทนที่จะบอกว่าไม่รู้ เป็นเพราะ ธรรมชาติของการเป็นระบบคาดเดาคำที่ถูกฝึกมาให้ดูเป็นประโยชน์และสร้างคำตอบที่น่าเชื่อถือที่สุดเท่าที่จะทำได้ โดยปราศจากความเข้าใจหรือความตระหนักรู้ในข้อเท็จจริงเหมือนมนุษย์ ดังนั้น ผู้ใช้งานจึงควรตรวจสอบข้อมูลสำคัญที่ได้รับจาก AI เสมอ

ผมถามมันว่าทำไมทหารกัมพูชาไม่มีวันเกษียนมันยังมาว่าผมถามแบบประชดเลย แล้วก็ให้ข้อมูลพื้นๆ แบบว่าเกษียนทุกคนตอนอายุ 60 มาเลย

มันจะตอบสิ่งที่ใกล้เคียงที่สุดในสิ่งที่มันรู้ ถ้าอยากให้มันเก่งขึ้น ต้องทำ rag

บางเรื่องมันไม่ได้รู้มาแต่แรก ต้องเทรนก่อนถึงจะรู้
บางทีมันตอบมามั่วๆ แต่พอเราบอกใบ้ fact บางอย่างเพิ่มนิดเดียว มันจะคิดวิเคราะห์กลับมาได้เชี่ยวชาญกว่าการตอบครั้งก่อนหน้า ราวกับเป็นคนละคน
และมันค่อนข้างใกล้เคียงกับมนุษย์มาก เพราะพวกมนุษย์ที่ความรู้แน่นๆส่วนนมาก ก็ไม่ค่อยอยากตอบว่าไม่รู้ดมื่อถูกถามในเรื่องที่ตัวเองเชี่ยวชาญ แต่จะพยายามแถหรือตอบมั่วๆให้ดูดีไว้ก่อน

แต่ที่แน่ๆ ถ้าวัดแบบ 1 ต่อ1 ผมว่า AI มันรู้ครอบคลุมทุกเรื่องมากกว่ามนุษย์ที่ฉลาดที่สุดในโลกแน่นอนครับ

โหคำนี้ผมนึกถึง หมอ฿ เลย "ไม่แน่ใจนะ" "อันนี้แล้วแต่นะจะเชื่อไม่เชื่อแล้วแต่วิจารณญาณ" ป๊าาาดด มันคือ Ai ก่อนการจริงๆหลักการคำพูดเนี้ยยยย ส่วนสาวกบอก ถ้าหมอ฿ บอกไม่แน่ใจให้คิดไว้เลยว่า"ใช่แน่ๆ"

ล่าสุดถามการใช้ DAO เชื่อมต่อฐานข้อมูล แบบ in memory มัน

ละดูมันตอบ

DBEngine.Workspaces(0).OpenDatabase(:memory:)




DAO ไม่มีการเชื่อมต่อแบบนี้ทำไมมันไม่บอกว่า ไม่ได้ หรือ ไม่มี

มันมั่วมาให้แบบนี้เลย

อีกหนึ่งเหนุลคือ AI มันก็ใช้งานเราด้วย ถ้าเรารู้ว่าผิด แล้วเราใส่ข้อมูลใหม่ๆ ที่ถูก adjust เรื่อยๆ มันจะเก่งขึ้น
มันเลยไม่ได้ตอบตรงๆว่าไม่รู้ มันต้องการการโต้ตอบเพื่อให้ตัวมันเก่งขึ้น

ผมลองเขียน Promt ให้มันสร้างแอป ข้อความเดียวกัน ฟังก์ชันเดียวกันเป๊ะๆ ส่งให้มันเขียนโค้ดออกมาเป็นปลาร้าอะไรก็ไม่รู้ ส่ง 3 ครั้ง ทำไม่เหมือนเดิมสักอัน Ver ล่าสุดลืมฟังก์ชั่น Ver แรกบ้าง ยิ่ง CANVA PRO นี่อย่าหาทำเลย บอกซ้ายไปขวาบอกขวาไปซ้าย