10 ปีนี่นานมากเลยนะสำหรับโลก AI ขนาดคนทำ GPT ยังบอกอนาคตไม่ได้เลย เพราะ AI มันเทรนได้ 24 ชั่วโมง มันรอแค่ Model ที่จะมาปลดล๊อคซึ่งตอนนี้ก็คือ AGI มันอาจจะเร็วกว่า 10 ปีก็ได้ แล้วก็ไม่ต้องไปคิดเรื่อง compute บนเครื่อง client หรอก เสียเวลาเปล่าเพราะมันแรงไม่ทันการพัฒนาของ AI แน่ เหมือน Microsoft จะรู้ตัวเลยตัด Copilot แบบ Offline ออก แล้วไปมุ่ง WebApp แทน ขอแค่มีเน็ตแรงๆ (ป่านนั้นก็ 6G 7G) อีกหน่อยเหลือแต่จอยังได้แล้ว Stream Data เอา

ก้ขั้นต่อไปไง

แต่เอาตอนนี้ สมมติว่าเลขยากๆ สมการยากๆ เรายังมีคนทำได้นิดเดียว ai ตอนนีทำดีกว่าเปนล้านเท่าแล้วมั้ง

ไม่มีทางฉลาดกว่ามนุษย์เลย เพราะAI ไม่รู้จักคำว่าจินตนาการ

ต้องบอกว่ามาตราฐาน Gen AI สูงกว่าคนทั่วไปครับ แต่ไม่ได้ฉลาดกว่าความสามารถมนุษย์ ตราบใดที่มันยังเรียนรู้เองไม่ได้ผมก็ยังไม่ถือว่ามันเป็น AI ด้วยซ้ำ มันคือโปรแกรมเติมคำที่เก่งมากๆแค่นั้น

ARM ไงครับ

ผมก็ว่าโม้แหละ​ เอาแค่ฉลาดกว่าสัก100เท่ายังแทบเป็นไปไม่ได้เลย​ ฉลาดที่ว่าคือคิดสิ่งใหม่นะ ไม่ใช้ก๊อปปี้จัดวางใหม่

AIมันคิดไม่เป็นนะแค่มีดาต้า แต่ไม่ได้ฉลาดแบบคนเลยไม่มีทางฉลาดแบบนั้นเลยไม่มีทางที่ฉลาดกว่าคน

เอาเรื่องง่ายๆสูตรกระเพราเนี่ยมีเป็นร้อยเป็นพันสูตรถ้าไม่ป้อนยี่ห้อน้ำปลา ซอสหอย อุณหภูมิการผัด กระทะที่ใช้
AIมันก็คิดไม่ได้หรอกว่าควรใช้เท่าไหร่10ปีก็เท่าเดิม

ถ้า ครีเอจ อะไรใหม่ๆ ไม่ได้ก็ยังไม่ว้าวนะ

หนูไม่ได้เข้าใจอะไรผิดหรอกค่ะ โทษทีไม่ได้กลับมาตอบทันที
อย่าง llm เป็นแบบจำลองทางภาษาที่ใช้หลักการความน่าจะเป็นและสถิติมาตอบ
หากเอาการตอบอย่างมีเหตุผลตรรกะมันจะผิด เพราะเบื้องหลังคือสถิติ

แต่เราสามารถเอาแบบจำลองอื่นๆมาร่วมด้วยได้เช่นพวก Machnine Learning ทั่วไปนี้แหละมีเหตุผลมากๆ และตัวเล็กสุดๆด้วย เพราะพื้นฐานมาจากหลักคณิตศาสตร์ คิดคำนวน

เราสามารถใช้ llm ทำการ Extract feature หรือ Extract information ออกมา แล้วโยนเข้า ML เพื่อทำการคำนวนต่อได้

อย่า GPT-4o ทำไมจะรันใน GPU ตัวเดียวไม่ได้ เขาแค่ไม่เปิดโครงสร้างให้เราดู
OpenAI ใช้ Expert Model หมายถึง ลดความรู้ให้เหลือเฉพาะด้าน ไม่ต้องอ่านหนังสือทั้งหมด โมเดลจะเล็กลง ทำงานได้ไวขึ้น สำหรับการให้บริการ OpenAI ก็เปิดให้มี Expert หลายๆตัว แต่หน้ากากเราไม่รู้ว่าเรากำลังคุยกับตัวไหน

ที่บอกว่า llama 3 รันบน GPU ไม่ได้ก็ไม่ถูกแล้วค่ะ

https://ollama.com/library/llama3
modelarch
llama
·
parameters
8.03B
·
quantization
Q4_0 = 4.7GB

รันบน 4070 ก็ได้

อย่างที่บอกว่าใช้ทรัพยากรเยอะสุดตอนเทรน คือต้องการหนังสือมาให้มันอ่านเยอะที่สุดจึงจำเป็นต้องใช้หน่วยความจำเยอะที่สุดเท่าที่อยากให้มันเรียนรู้ จะกี่พันล้าน แสนล้านคำก็ตาม

สุดท้ายโมเดลจะอยู่ในโครงสร้างเครือข่ายประสาทเทียมที่เตรียมไว้แล้ว ว่าจะเป็นโครงไหน แบบจำลองจะไม่ใหญ่ไปกว่าที่เขาออกแบบไว้ให้ไม่ใหญ่แค่ไหน เพราะถ้าไม่กำหนดขนาดของแบบจำลองไว้ คอมพิวเตอร์ทุกเครื่องคงพังก่อนได้ใช้งาน

เวลาเขียนโปรแกรมยังต้องประกาศตัวแปล และขนาดของตัวแปล เช่นเดียวกันกับ สถาปัตยกรรมของเอไอ ต้องประกาศชั้น โหนดของโครงข่ายประสาทเทียมไว้ แต่ละโหนด เรียกรวมๆกันว่า parameter ซึ่งเก็บค่าน้ำหนักและค่าความเอนเอียงไว้

เช่น llama 3 8b หมายถึงมี 8พันล้านกิ่งตัดสินใจ ทำ quantization 4bit แต่ละกิ่งเก็บค่าข้อมูลตัวเลข 4 bit 2 ตัวแปล เป็น 8bit ก็เท่ากับ 8Gbyte ตอนรัน

สรุปว่า Model สามารถย่อได้ สามารถสกัดข้อมูลออกมา และสามารถคำนวนได้ค่ะ
งานวิจัยพวกนี้ทำมานานแล้ว ที่เราเห็นเขาทำเล่นใหญ่เพราะเขามีคนที่ต้องให้บริการมาก ไม่ได้ใช้งานคนเดียว

เสริมนะคะ AI คิดได้มีมานานแล้ว 60-70 ปีได้แล้ว
แต่ที่เพิ่งมามีคือ AI อ่าน Pattern เพราะต้องอ่านข้อมูลเยอะ
ถ้าสกัดข้อมูลออกมาเป็นตัวเลขได้แล้วก็คำนวนต่อแปปเดียว

จึงแย้งตามความเห็นนี้

ว่าไม่จริง ว่ารันเท่าสมองคนๆหนึ่งต้องใช้เท่า datacenter
เอาแค่ base model ตัวเล็กๆ ก็สอบแข่งขันเข้ามหาวิทยาลัยชนะเด็กแล้ว
ที่ใหญ่เพราะตอนเทรนกินข้อมูลเยอะ กับต้องให้บริการเยอะ

1.llma 3 มันมีหลายเวอร์ชั่นไอ่ตัวเล็กๆรันได้ใน high end gaming card อย่างที่ผมบอกไปไงแต่มันรัน model ตัวใหญ่ไม่ได้ แถมถึงรันได้ performance ก็ช้ากว่าใช้พวก H100 H200 ไม่ทันกินหรอกครับไม่ใช่ว่าแค่ vram ถึงแล้วจะเอามาใช้งาน production grade ได้นะครับ 4070 cuda core 5พันกว่า tensor 180 เอง H200 x4 เข้าไปเลยครับ แถมมันยังมี component อื่นเช่น nvlink HBM3 memory อีกที่ทำให้การรัน model เร็วกว่า ยิ่งเวอร์ชั่นรันบน smart phone คือ model เล็กมากๆๆ ใช้ process พวก task ง่ายๆเท่านั้น ไม่ใกล้เคียงกับคำว่าฉลาด

2.ที่ผมบอกใช้ data center เท่า 2-3 สนามฟุตบอลคือจำลอง processing power ของสมองคนจริงๆครับ (ตอนนี้มีพวก black well แล้วอาจจะไม่ได้ใหญ่เท่า 2-3 สนามแต่ก็ใหญ่อยู่ดี) ซึ่ง processing power สมองคนเรามันไม่ใช่แค่การเติมคำในช่องว่างเหมือน Gen AI ไงครับ มันซับซ้อนกว่านั้นเยอะมากๆ

3.อย่างที่ผมบอกว่า Gen AI ผมไม่เห็นว่าจะเอามาฉลาดกว่ามนุษย์ได้เพราะมันถูก feed ข้อมูลที่มนุษย์คิดมาก่อนอยู่แล้วเข้าไป อย่างมากมันก็แค่ใช้ข้อมูลพวกนั้นเพื่อให้คำตอบที่ใกล้เคียงที่สุด ไม่ใช่เพราะมันรู้และเข้าใจคำตอบได้จริงๆ แต่อย่างที่คุณบอกมันเป็นเชิง stat มากกว่า ซึ่งถ้า AI จะฉลาดกว่ามนุษย์ได้ต้องไม่ใช่แค่เติมคำในช่องว่างจากสถิติ มันต้องสามารถเรียนรุ้เองได้ คิดอะไรใหม่ๆเองได้

4.ต้องทำความเข้าใจคำว่า "ฉลาดกว่ามนุษย์" ก่อน อะไรที่มนุษย์ทำได้คิดได้ ไม่ถือว่าฉลาดกว่านะครับ ฉลาดกว่าคนปรกติทั่วไปใช่ มาตราฐานสูงกว่าคนทั่วไปใช่ แต่คำว่าฉลาดคือต้องคิดได้สิ่งที่ไม่มีมนุษย์คนไหนสามารถคิดได้นะครับ เช่นคิดสูตร physic ใหม่ขึ้นมาที่โคตรซับซ้อนจนมนุษย์ไม่สามารถคิดได้ ถ้าท่านแค่อ้างว่า Gen AI จะฉลาดกว่ามนุษย์ได้ผมว่าเรายืนอยู่คนละข้างแล้วแหละ เพราะ Gen AI ไม่ใช่ AGI แบบ 100% เป็นแค่เสี้ยวนึงเท่านั้น

5.ถ้า Gen AI จะใกล้เคียงกับฉลาดเท่ามนุษย์จริงๆ หมายความว่าอย่างน้อยๆ AI ตัวนั้นต้องสามารถ participate ใน conversation เกี่ยวกับอะไรก็ได้แล้วก็เรียนรู้ด้วยตัวเองได้ไปด้วย ซึ่งอย่างน้อยถ้า Gen AI จะทำแบบนั้นได้คือต้อง รวบ model ทุกตัวบนโลกมารันพร้อมๆกันเช่น Model วาดรูป,สนทนา,วีดีโอ,สร้างเพลง,แต่งนิยาย บลาๆๆๆ ทุก function ที่ท่านสามารถนึกได้เลยเพราะ Gen AI แต่ละตัว เป็น model ที่เฉาพะทางเจาะจงกับ function นั้นๆ ต้องเอามารันพร้อนกันถึงจะสามารถครอบคลุมความสามารถมนุษย์คนนึงได้ คิดดูว่าถ้าต้องรัน model เยอะและใหญ่ขนาดนั้นต้องใช้ processing power ขนาดไหน

เท่าที่ผมอ่านผมว่าเราก็เข้าใจอะไรคล้ายๆกันนะ แต่ผมว่าประเด็นที่่เราเห็นไม่ตรงกันไปคือท่านน่าจะ underesitmate ความสามารถของสมองมุนษย์เกินไป เหมือนท่านคิดว่าพวกความสามารถของ LLM คือสมองมนุษย์แล้วอะ ซึ่งในความคิดผมไม่ใกล้เคียงเลย ในขณะที่ผมมองว่า LLM เป็นแค่มนุษย์ที่สามารถเติมคำในช่องว่างได้เก่งเฉยๆโดยที่ไม่ต้องมีความเข้าใจอะไรเลย ไม่ได้ฉลาดเหมือนมนุษย์จริง

ขออภัยนะคะ ตั้งแต่หัวกระทู้ไม่มีการยก Generative AI ขึ้นมา และหนูก็ไม่ได้พูดถึงเฉพาะ Gen AI เพราะการทำงานเบื้องหลังสามารถมีหลายตัวช่วยกันอยู่ได้ แต่หนูขอยืนยันว่ารัน AI ไม่ต้องใช้เครื่องใหญ่ ที่ใหญ่คือตอนเทรนค่ะ

หนูก็อ้างอิงจากข้อมูลที่เผยแพร่ อย่างโมเดลที่ทำโดยคนไทย ยังเก่งกว่าเด็กไทยไปแล้วเลยค่ะ โมเดล 7b เองนะคะ รันบนการ์ดจอได้ ดังนั้นหนูจึงยืนยันว่า ไม่ต้องใช้ data center สำหรับทำงานให้ได้เท่ามนุษย์

นั่นแหละคือสิ่งที่เราเห็นไม่ตรงกันครับ คุณใช้การทำข้อสอบที่มีคำตอบ fix อยู่แล้วมา benchmark ความฉลาด ส่วนผมสมองว่าการ benchmark โดยของพวกนั้นไม่มีประโยชน์เลยไม่ได้วัดความฉลาด เหมือนคุณจำคำตอบไว้อยู่แล้ว แต่จริงๆแล้วตัว Model มันไม่ได้เข้าใจคำถามจริงๆ มันรู้ว่านี่คือคำตอบที่น่าจะเป็นเฉยๆ ผมไม่เรียกนี่ว่าฉลาด

คุณบอกไม่ได้เจาะจง Gen AI แต่สิ่งที่คุณเอามาเถียงผมเรื่องขนาด data center เป็นการรัน model Gen AI ทั้งนั้น ผมงง ซึ่งผมก็บอกไว้แล้วถ้าพูดถึง Gen AI ยิ่ง model เล็กยิ่งความสามารถน้อยและเจาะจงมากยิ่งขึ้น ถึงรันบนร smar phone ได้มันก็ไม่ฉลาดกว่ามนุษย์ ตรงนี้คงไม่ต้องเถียงกันแล้ว ต่ให้ Gen AI ฉลาดกว่ามนุษย์ได้จริงๆต้องเป็น model ใหญ่มากๆ ไม่ก็ใช้หลายตัวมากๆๆๆๆๆๆๆๆๆๆๆๆๆๆๆๆ

ผมว่าผมพูดจัดเจนแล้วนะว่าเวลาผมพูดถึง AI ที่ฉลาดกว่ามนุษย์ผมพูดถึงต้องเป็น AGI ไม่ใช่ Gen AI ด้วยเหตุผลหลายๆอย่างที่ผมอธิบายไปแล้วข้างบนว่าทำไม Gen AI ถึงจะไม่สามารถฉลาดกว่ามนุษย์ได้

AGI มันไม่มีจริงๆไงคะ แต่ไม่ได้หมายความว่ามันไม่ได้ฉลาดจริง
ความจริงคือ Multimodal AI คือมันทำงานร่วมกันต่อเนื่องกัน
เหมือนการเขียนโปรแกรมทั่วไปที่มีการไหลของข้อมูลไปทีละลำดับขั้นตอน
แต่การเขียนโปรแกรมนี้มนุษย์ไม่ได้เขียนเอง

เป็น AI มาเขียนว่า ข้อมูลแบบไหน ต้องใช้ Model ไหนตอบ
ได้ข้อมูลมาก็ไหล ไป Model อื่นๆ ไปจนกระทั้งได้ผลลัพธ์ออกไป

ไม่นับเรื่องการสร้างสรรค์หรืองานวิจัย AI มันสามารถคิดเล็กคิดน้อยได้ทั้งหมดที่คนไม่สนใจจนเกิดเป็นข้อมูล Insight ได้ ซึ่งคนต้องใช้เวลามากกว่ามันหลายพันหรือหลายล้านเท่ากว่าจะหาได้

ยืนยันคำเติมค่ะว่า AI ไม่ต้องรันบน data center ไม่ต้องเชื่อก็ได้ค่ะ
Generative AI มันตั้งอยู่บน LLM ซึ่งมันมีขนาดใหญ่ และใหญ่ที่สุดแล้ว
Model รูปภาพ การจำแนก การรู้จำ ต่างๆไม่ได้ใช้ทรัพยากรเยอะขนาดนั้น สามารถทำงานบน cpu ได้ด้วย อย่างระบบบัตรจอดรถตามห้างไม่ต้องใช้ถึง PC เอาแค่ arduino board ก็ติดตั้งใช้งานได้แล้ว AI อ่านป้ายทะเบียนไม่ต้องถึงกับรันอยู่บน data center แน่ๆ

หนูไม่รู้หรอกนะว่าทำไมคุณถึงติดภาพว่าต้องใช้คอมพิวเตอร์ขนาดใหญ่เท่านั้นในการรัน ซึ่งมันคือโครงส้รางโปรแกรมอันหนึ่งเท่านั้น จะทำใหญ่เล็กก็ได้ เพื่อการคำนวนก็ใช้ hardware มาช่วย

สรุปนะคะ ถ้าไม่เชื่อรบกวนหาข้อมูลมาแปะก็ได้คะว่าทำบน Local PC ไม่ได้เพราะเหตุผลอะไร
เพราะหนูยืนยันคำเดิมว่าแม้แต่ LLM ก็รันบน GPU ได้ แต่ถ้าทำ Quantization แล้วจะลงไปอยู่บนมือถือได้ แต่ถ้ายังยืนยันว่าแค่ Generative AI ต้องรันบน data center เท่านั้นรบกวนแสดงข้อมูลให้ทีค่ะ

สมัยก่อนยังไม่มี llm ก็รันบนเครื่องธรรมดากันได้หมด
พอ llm มามันแค่บริโภคข้อมูลเยอะก็เลยต้องใช้เครื่องจำนวนเยอะสอน
พอสอนเสร็จได้โครงของโปรแกรมมา ก็ใช้ model นั้นแหละอันไม่ใหญ่

อันนี้หนูแปะของฝรั่ง หนูชี้ไปด้วยข้อมูลเป็น ตัวเลขให้แล้วก่อนหน้านี้ว่าสามารถคำนวนได้ ไม่ใช่เอะอะยัด data center
https://www.reddit.com/r/LocalLLaMA/comments/1cj4det/llama_3_70b_instruct_works_surprisingly_well_on/

หนูขอแปะของไทย