.

เพราะ software cuda core

หลายคนทำอุปกรณ์มา ต้องมีชุดคำสั่งเพื่อสั่งการอุปกรณ์อีกทีค่ะ

การคูณ matrix algebra
การแก้ไขสมการทางคณิตศาสตร์ ที่ทำได้ไว

สามารถสั่งการให้ทำงานคู่ขนาดได้ดี
การประมวลผลด้าน AI ไม่ต่างจากงาน 3D

แต่ข้อมูลที่ประมวลผลมี nD หมายถึงมีมิติได้ไม่จำกัด
Nvidia มีชุดคำสั่งอุปกรณ์ทำงานได้ตั้งแต่ยุคสมัยทำงาน 3D แล้ว

พอมายุค AI ก็เปลี่ยนจาก 3D มาเป็น nD ก็เลยกินรวบเลยค่ะ


ตอนนี้มีบริษัทมากมายทำชิปประมวลผล AI มาโดยเฉพาะ

----
อธิบายเพิ่มเติม gpu แรกเริ่มสร้างมาเพื่อแสดงผลภาพ 3 มิติ ที่เราเอามาเล่นเกมกัน

ต่อมา gpu พัฒนาให้สามารถสร้างภาพ 3มิติได้
NVIDIA ก็ขายการ์ดจอ CUDA สำหรับสร้างภาพ 3 มิติขึ้นมา
ถูกใช้ในงานสถาปัตยกรรม และวิศวกรรม เช่นออกแบบบ้าน ออกแบบสะพาน render ภาพต่างๆ

cuda คือการประมวลผลแบบคู่ขนาน(คู่ไม่ถูกต้ง จริงๆคิอขนานไปพร้อมๆกันเยอะๆ)
---
ทำไมต้องคู่ขนาน ในจุดๆหนึ่งในภาพสามมิติ ประกอบไปด้วยข้อมูลจำนวนมาก

ข้อมูลแกน x,y,z ข้อมูลสี rgb ข้อมูลแสงและเงา อื่นๆ
ข้อมูลเหล่านั้นจัดเก็บอยู่ในรูปแบบ Matrix [N×M]
ซึ่งสามารถมีหลายมิติซ้อนกันเข้าไปได้ลึกอีกหลายมิติ

การใช้ cpu 1/2 core ประมวลผลแบบวน loop จึงไม่ใช่ทางออกสำหรัลการแก้ไขปัญหาทางคณิตศาสตร์แบบนี้
จึงต้องใช้วิธีการออกแบบที่สามารถคำนวนข้อมูล matrix ได้ไว ซึ่งแบบขนานสามารถแก้ไขปัญหานี้ได้

----
ตัดกลับมาที่ AI

มิติต่างๆไม่ได้เป็นภาพ 3 มิติแบบที่เราเห็น

แต่เป็นข้อมูลคุณลักษณะเด้นๆ

เช่น AI แยกคนรวย-คนจน
ข้อมูลคุณลักษณะ
- ระดับการศึกษา
- สาขาการศึกษา
- อายุ
- อาชีพ
ซึ่งข้อมูลเหล่านี้คือมิติของข้อมูล ซึ่งในหนึ่งมิติอาจจะมีข้อมูลได้หลากหลาย ทำให้มีข้อมูลที่ต้องประมวลผลมหาศาล

---
การสอน AI ต้องการข้อมูลมากพอที่จะเรียนรู้ให้เข้าใจ
ดังนั้นการสอนเอไอ จึงไม่เหมาะกับการใช้ cpu มาสอน
ถามว่าทำได้ไหม ทำได้ค่ะ

แต่ช้ากว่าแค่นั้น เพราะ gpu ตัวแรงๆ nvidia A100 มีหัวประมวลผล 6,912 หัว
ย่อมทำงานได้ไว cpu hexadeca cor หรือ 16 หัว อยู่ที่ 432 เท่า

นั้นจึงเป็นที่มาว่าทำไมต้องใช้ gpu และต้องใช้ nvidia

Cuda core กับ Tensor core ครับ มันจำเป็นกะงาน AI ยิ่งสายเจนรูป ซื้อการ์ดจอ เช็ค Cuda core ก่อนเลย แล้วมัน สิทธิบัตร Nvidia ทั้งคู่

สิทธิบัตร เขาเยอะกว่าชาวบ้านมั้ง

ผมตอบในมุม คนเคยเขียน พวก deep learning
นะครับ
ถ้าคุณจะนำโมเดล ของ google หรือค่ายอื่นมาใช้งานต่อ
มันก็จะต้องลง tensorflow คือ tool ตัวนึงไว้เขียนงานด้าน ai
คราวนี้ การจะใช้ เครื่องมือนี้ เพื่อ re train model ซ้ำมันต้องใช้การ์ดจอ
เพราะมันต้องคำนวนเลขง่ายๆ แต่เยอะเชี่ยๆ
แล้ว การ์ดจอที่รองรับ ดันมีแต่ค่าย nvidia
ปัจจุบันไม่รู้นะครับมีค่ายอื่นทำได้ยัง

แต่ nvidia มีพัฒนา api framework ต่างๆ ที่จัดการเรื่องรับคำสั่งไปคำนวนให้
พวก culib cudacore
มันก๋เลย ควรใช้งานแพร่หลายไปเรื่อยๆ

ทุนเยอะ มองการณ์ไกล ทำก่อน

AMD นี่เกือบเจ๊งแล้วถ้าไม่ได้กฎหมายผูกขาดสหรัฐนี่บริษัทตายแน่
พอสหรัฐช่วยพอสู้intel ได้ด้วยAPU หรือCPUที่มีการ์ดออนบอร์ดเลยรอดได้ช่วงAM3 นู่น
ถัดมาทำชิพconsole เลยมีเงินก้อนบ้าง สุดท้ายบริษัทโตก้าวกระโดดกับRyzen ที่แรงเหนือintel
ส่วนการ์ดจอยอดขายก็ไม่ได้ดีมากเท่าไหร่ถึงดีกว่าหลายจุดแต่devก็อิงnvidiaเยอะอยู่ดี

ส่วนNvidia นี่การ์ดจอขายครองตลาด90%+ของเกมมิ่ง+มืออาชีพ เงินเหลือเลยมาทำAI
ก่อนหน้านั้นที่AIจะปังคิดดูมีเงินซื้อบริษัทArm เจ้าของสิทธิบัตรCPU มือถือทั่วโลกรวมApple
แต่เจอเบรกห้ามซื้อเพราะกฎหมายผูกขาดนั่นแหละ

เรื่องProgram คล้ายกับยุค intel AMD นั่นแหละครับ
คือintel มันขายดีกว่ามากมาตลอด โปรแกรม software ก็อิงชุดคำสั่งของIntel ง่ายกว่า
ยุคแรก Ryzen AMDมีปัญหาเรื่องชุดคำสั่งเยอะมากกับหลายโปรแกรมเพราะเขียนอิง Intel
พอAMD เริ่มดีขึ้นdevก็ทำให้ใช้ได้กับทุกCPU

AI ของAMD เน้นOpen souce ครับ รวมถึงการ์ดจอเกมมิ่งก็ด้วยค่อนข้างเปิดกว้าง
ถ้าอะไรใช้ชุดคำสั่งเฉพาะของNvidia จะใช้ไม่ได้

ถ้าคู่แข่งที่น่าจับตามองคือ huawei
ตัวที่ดีที่สุดของฮว๋าเหวยจะเทียบได้กับตัวที่ดีที่สุดอันดับสองของ NVIDIA
ระบบช่วยขับขี่ของฮว๋าเหวยก็ใช้ชิปคิริน ลิงค์ด้านล่างคือระบบช่วยขับขี่ของฮว๋าเหวย
https://www.douyin.com/user/self?modal_id=7275674504024640804&showTab
https://www.douyin.com/user/self?modal_id=7309430905704090918&showTab
ระบบทำงานเอไอในอุตสาหกรรมท่าเรือ เหมือง ชั้นนำในจีนก็ใช้ชิปและระบบของฮว๋าเหวย

ปีนี้ NVidia ออมาพูดถึงคู่แข่งสำคัญในห้าหมวดหมู่ที่บริษัทตัวเองทำ
มีชื่อฮว๋าเหวยถึงสี่หมวดหมู่
ปัญหาของฮว๋าเหวยคือกำลังการผลิต แต่น่าจะเพิ่มขึ้นเรื่อยๆ
ไตรมาสสี่ปีที่แล้ว ฮว๋าเหวยผลิตชิปออกมาได้เกือบเจ็ดล้านตัว เพิ่มขึ้นห้าพันกว่าเปอร์
ตามซัมซุงไม่ไกล และปีนี้คาดว่าฮว๋าเหวยจะออกชิปห้านาโนเมตรมาใช้ได้สำเร็จ

เพราะ software cuda core

หลายคนทำอุปกรณ์มา ต้องมีชุดคำสั่งเพื่อสั่งการอุปกรณ์อีกทีค่ะ

การคูณ matrix algebra
การแก้ไขสมการทางคณิตศาสตร์ ที่ทำได้ไว

สามารถสั่งการให้ทำงานคู่ขนาดได้ดี
การประมวลผลด้าน AI ไม่ต่างจากงาน 3D

แต่ข้อมูลที่ประมวลผลมี nD หมายถึงมีมิติได้ไม่จำกัด
Nvidia มีชุดคำสั่งอุปกรณ์ทำงานได้ตั้งแต่ยุคสมัยทำงาน 3D แล้ว

พอมายุค AI ก็เปลี่ยนจาก 3D มาเป็น nD ก็เลยกินรวบเลยค่ะ


ตอนนี้มีบริษัทมากมายทำชิปประมวลผล AI มาโดยเฉพาะ

----
อธิบายเพิ่มเติม gpu แรกเริ่มสร้างมาเพื่อแสดงผลภาพ 3 มิติ ที่เราเอามาเล่นเกมกัน

ต่อมา gpu พัฒนาให้สามารถสร้างภาพ 3มิติได้
NVIDIA ก็ขายการ์ดจอ CUDA สำหรับสร้างภาพ 3 มิติขึ้นมา
ถูกใช้ในงานสถาปัตยกรรม และวิศวกรรม เช่นออกแบบบ้าน ออกแบบสะพาน render ภาพต่างๆ

cuda คือการประมวลผลแบบคู่ขนาน(คู่ไม่ถูกต้ง จริงๆคิอขนานไปพร้อมๆกันเยอะๆ)
---
ทำไมต้องคู่ขนาน ในจุดๆหนึ่งในภาพสามมิติ ประกอบไปด้วยข้อมูลจำนวนมาก

ข้อมูลแกน x,y,z ข้อมูลสี rgb ข้อมูลแสงและเงา อื่นๆ
ข้อมูลเหล่านั้นจัดเก็บอยู่ในรูปแบบ Matrix [N×M]
ซึ่งสามารถมีหลายมิติซ้อนกันเข้าไปได้ลึกอีกหลายมิติ

การใช้ cpu 1/2 core ประมวลผลแบบวน loop จึงไม่ใช่ทางออกสำหรัลการแก้ไขปัญหาทางคณิตศาสตร์แบบนี้
จึงต้องใช้วิธีการออกแบบที่สามารถคำนวนข้อมูล matrix ได้ไว ซึ่งแบบขนานสามารถแก้ไขปัญหานี้ได้

----
ตัดกลับมาที่ AI

มิติต่างๆไม่ได้เป็นภาพ 3 มิติแบบที่เราเห็น

แต่เป็นข้อมูลคุณลักษณะเด้นๆ

เช่น AI แยกคนรวย-คนจน
ข้อมูลคุณลักษณะ
- ระดับการศึกษา
- สาขาการศึกษา
- อายุ
- อาชีพ
ซึ่งข้อมูลเหล่านี้คือมิติของข้อมูล ซึ่งในหนึ่งมิติอาจจะมีข้อมูลได้หลากหลาย ทำให้มีข้อมูลที่ต้องประมวลผลมหาศาล

---
การสอน AI ต้องการข้อมูลมากพอที่จะเรียนรู้ให้เข้าใจ
ดังนั้นการสอนเอไอ จึงไม่เหมาะกับการใช้ cpu มาสอน
ถามว่าทำได้ไหม ทำได้ค่ะ

แต่ช้ากว่าแค่นั้น เพราะ gpu ตัวแรงๆ nvidia A100 มีหัวประมวลผล 6,912 หัว
ย่อมทำงานได้ไว cpu hexadeca cor หรือ 16 หัว อยู่ที่ 432 เท่า

นั้นจึงเป็นที่มาว่าทำไมต้องใช้ gpu และต้องใช้ nvidia

เพราะมันคือ GPU
และยังมี ecosystem ที่พร้อม

ไม่รู้นะว่าตอนนี้เจ้าอื่นไปถึงไหนกันเพราะไม่ได้ตามมาก

แต่ตอนผมเริ่มหัดช่วงปี 2018 มั้ง ตอนนั้นทั้ง cntk ของไมโครซอฟกับ tensorflow ของกูเกิ้ล ทั้งสองตัวต้องลง cuda ก่อนและมีตัวหนังสือแดงๆย้ำว่าไม่ซัพพอร์ตของ amd

เหมือนตอนนั้น amd ยังไม่สนใจด้าน ai เท่าไหร่ ขยับตัวช้า ไม่รู้ว่าตอนนี้ amd ทำไปถึงไหนละ ไม่รู้ว่าสู้ของ nVidia ได้ยัง

เพราะที่ทำงานผมตอนนี้ใช้อยู่
พวกDL toolboxมันmodel to deviceบนCUDAได้เลยจบ

อย่าติดภาพว่า nvidia ทำแต่ GPU เพราะ nvidia มี CUDA library และ software อีกเพียบ เช่น parabrick, clara etc. มี hi speed network อย่าง mellanox infiniband protocol พวกนี้ต่างหากที่เป็นจุดเด่นหลัก ที่ทำให้ user จำเป็นต้องใช้ และต้องมองให้ออกว่า user ไม่ใช่ฝ่ายไอที แต่ user คือนักวิจัย และพวก data science คนกลุ่มนี้ต้องการใช้ระบบที่ใช้งานง่าย คือโยน dataset เข้าไปแล้ว สามารถ compute ได้เลย แต่ถ้าไปใช้ค่ายอื่น มันเหมือนการ DIY คือต้องเอา HW มาลงโปรแกรม config นั่นโน้นนี่ ไม่รู้ว่าจะ compatible กันไหม จะใช้ OS อะไร จะใช้ library ตัวไหน ใช้ตัวไหนเป็น management ซึ่งไม่สะดวก ฝ่ายไอทีก็ทำไม่เป็น เพราะโลกของ High performance computing เป็นอีกโลกนึง ไม่ใช่ it infrastructure ปกติ ส่วน user ก็ทำไม่เป็น เพราะใช้งานเป็นอย่างเดียว nvidia เลยมี room ตรงนี้ ซื้อ NVIDIA DGX มาจบเลย มีครบทุกอย่าง compute ได้เลย

AMD มี rocm ซึ่ง performance ก็ดี แต่ user ส่วนใหญ่ยังไม่ถนัด เพราะยังถนัดแต่ cuda คงอีกสักพัก และถ้า nvidia ยังเน้นขายของดี แต่แพงมากแบบนี้ user อาจจำเป็นต้องหันมาใช้ AMD