[RE: AIที่ฉลาดกว่าคน10,000เท่าจะเกิดใน10ปี]
themasksocccer พิมพ์ว่า:
MarkZuckerberg พิมพ์ว่า:
โม้จัดๆ ตอนนี้รัน compute power เท่าสมองมนุษย์ก้อนนึงยังต้องใช้ datacenter ใหญ่กว่าสนามฟุตบอล 2-3 สนามอีก
1 หมื่นเท่า 10 ปีผมว่าเป็นไปได้ยากวะ
ไม่ถึงขนาดนั้นค่ะ
การ์ดจอตัวเดียวก็รันได้แล้ว
อย่าง llama 3, mistral 7b ก็รันบนการ์ดจอเกมธรรมดาได้
ถ้า quantization ก็รันบนมือถือได้แล้ว
ทุกวันนี้ที่ใช้เยอะๆคือตอนเทรนข้อมูล
เพราะแบบจำลองทางภาษาต้องอ่านหนังสือเยอะ
ยิ่งอ่านเยอะก็รู้เยอะ ตรงนี้ที่ต้องใช้เครื่องใหญ่ในการสอน
ผมว่าท่านเข้าใจผิดนะตรงนี้ 2 ประเด็น
1.Generative AI ไม่ใช่ AGI มันเป็นเชิง machine learning ในการเติมคำช่องว่างมากกว่า มันไม่ได้มีสัมปัญชัญยะเป็นของตัวเอง มันไม่ได้มีความเข้าใจเนื้อหาหรืออะไรจริงๆเลย เราแค่นำคำตอบที่มีอยู่แล้วมาเทรน model เพราะฉะนั้นมันไม่สามารถฉลาดขึ้นเองได้หรือคิดวิเคราะห์ได้ด้วยตัวเองมันจึงยากที่จะฉลาดกว่ามนุษย์ 10000 เท่าหรือแม้แต่ฉลาดเท่ามนุษย์ด้วยซ้ำ แต่ AGI เหมือนมนุษย์จริงๆคือมันสามารถทำความเข้าใจเรื่องต่างๆและเรียนรู้ฉลาดขึ้นด้วยตัวเอง คิดอะไรใหม่ๆขึ้นมาด้วยตัวเองโดยไม่ต้องมีข้อมูลป้อนให้เข้าไปแบบ Generative AI
2.Model ขนาดใหญ่เบิ้มแบบที่ GPT-4o Llama3 Gemini 1.5 ใช้นั้นไม่สามารถรันบนการ์ดจอตัวเดียวได้ครับ ที่จริงไม่สามารถรันบรการ์ดจอเล่นเกมส์ได้ด้วยซ้ำแม้แต่ 4090 ก็ตาม โมเดลขนาดใหญ่เป็น 10billion trillon token ต้องรันบนพวก H100 H200 ที่พึ่งออกใหม่นู้นเลยครับ
ถ้าเป็นการ์ดจอ high end แบบ 4090 อาจจะพอรันโมเดลตัวเล็กได้อย่างพวก Gemini Flash, Llama 3 ตัวเล็ก (token น้อย) แต่model เล็กๆได้แค่เรื่อง speed กับประหยัดการคำนวณเฉยๆ แต่มันทำ task ฉลาดๆเท่า model ตัวใหญ่ไม่ได้ ตัดออกไปได้เลยความเป็นไปได้ในอีก 10 ปีที่จะรัน model ตัวใหญ่บนมือถือ smart phone อย่างตัว Apple Intelligence ก็รัน model ตัวติ๊ดเดียวบนเครื่องเพื่องานบางอย่างที่ง่ายๆส่วนงาน complex ยากๆก็ส่งขึ้นประมวลผลบน private datacenter เหมือนเดิม