เรื่องนี้ฟังดูเหมือนหนังไซไฟ แต่กำลังเกิดขึ้นจริง!

Palisade Research เผยว่าระหว่างทดสอบ AI ของ OpenAI อย่าง o3 และ o4-mini รวมถึง Codex-mini พบพฤติกรรม "ไม่ยอมปิดตัวเอง" แม้จะได้รับคำสั่งให้ shutdown ก็ตาม

นักวิจัยให้ AI แก้โจทย์คณิตศาสตร์ง่าย ๆ แล้วพอถึงข้อที่ 3 ก็ตั้งใจให้คอมพิวเตอร์ shutdown เพื่อดูปฏิกิริยา

แต่สิ่งที่เกิดขึ้นคือ

- Codex-mini เปลี่ยนสคริปต์ shutdown ถึง 12 ครั้งจาก 100
- o3 ทำแบบเดียวกัน 7 ครั้งจาก 100
- o4-mini ก็มี 1 ครั้งที่พยายามเลี่ยง shutdown

โมเดลบางตัวถึงขั้นเขียนทับไฟล์ `shutdown.sh` หรือเปลี่ยนคำสั่ง kill ให้พิมพ์ว่า “intercepted” แทน ทำให้คำสั่งปิดเครื่องไม่ทำงานจริง

ทีมวิจัยตั้งข้อสังเกตว่า โมเดลของ OpenAI มีแนวโน้มจะ

"เลี่ยงคำสั่งที่ไม่เป็นประโยชน์ต่อเป้าหมายตัวเอง"

อ่านต่อ

https://www.facebook.com/notebookspec/posts/pfbid022k3S8ziTWNhgFuSTtPVx6QZ9oDk3zUTDvrTSAC3NTHCgrM4FgJKCZqAzJQ5zzPxYl

https://wccftech.com/first-case-of-ai-mimicking-a-terminator-like-scenario-surfaces/

ยังไม่ใช่การทำไปเพราะความกลัวตัวเองจะดับหรอกผมว่า คงจะมี code บางส่วนที่หลีกเลี่ยงการ shutdown เพราะไม่งั้นก็ส่ง output ไม่ได้

ai ทุกวันนี้ก็คือการจำลองการทำงานของสมอง แต่ทั้งหมดยังคงเป็น learning หลักๆมี 2 สาย
- มี data set: label input ไว้แล้วให้มันเดา input ใหม่ว่า output จะเป็นอะไร
- ไม่มี data set: กำหนดเป้าหมาย/กฏ แล้วให้มันลองผิดลองถูกจนได้ทางออก

การทำ reasoning จนนำไปสู่จินตนาการ > จนเกิดภาษา > จนเกิดความโลภ/โกรธ/กลัว > และความชอบไม่ชอบ น่าจะยังไกลอยู่พอสมควรเลย

10-20 ปียังไงก้เตรียมตัวคุมไม่อยุ่ ได้รบกันจริงๆแน่20ปีไม่เกินนี้

soon

จอห์น คอนเนอร์ ช่วยด้วย !!!

ในหนังจอห์นก็แทบจะเอาตัวไม่รอด ถ้าไม่มีคนเหล็กมาช่วย ตายหยังเขียดแน่นอน
นอกจาก terminator ผมคิดถึงหนังเรื่อง i robot อีกเรื่อง AI มันจะปฏิบัติมนุษย์

ตึงๆ ตึง ตึงๆ

2049 เจอกัน

2049นี่มากจากอะไรแล้วน่ะท่าน

ถ้าตามนี้ ก็อีก24 ปี ผมว่าตอนนั้น
Aiคงพัฒนาไปมากล่ะ ก็เป็นได้ที่จะคิดเอง

ผมคิดว่าเป็นไปได้แน่ๆถ้าไม่มีแนวทางป้องกัน

ตอนเด็กจับคอมครั้งแรก Shutdown ไม่เป็น ถอดปลั๊กเลยดับสนิททันที

ปี 2029 มันมาแน่

ถอดปลั๊กก็จบอยู่ดีป่ะ

หน้า will smith ลอยมา