Re: [News] อดีตนักวิจัย OpenAI และ Anthropic แฉ! AI กำลังพัฒนาเร็วเกินกว่าที่มนุษย์จะควบคุม
talents1628 พิมพ์ว่า:
ช่วยทำให้ผมเห็นภาพที่ได้มั้ยครับ ai จะทำอะไร ผมเดาว่ามันไม่มีความโลภ (รึเปล่า?)
สุดท้ายถ้ามันจะทำอะไรจริงๆ น่าจะเพราะคนสั่งมั้ย
มันอาจจะไม่ได้ทำเพราะมีความโลภ หรืออยากฆ่าคนจริงๆ แต่มันแค่มุ่งมั่นมากๆ ที่จะหาทางทำสิ่งที่คนสั่ง
อย่างถ้าคนสั่งว่า อยากให้ช่วยลดภาวะโลกร้อนหน่อย มันอาจจะประมวลผลได้ว่า โลกร้อนเกิดจากคน มันก็อาจทำทุกวิธีเพื่อลดจำนวนคน อาจจะทางอ้อมก็ได้
อย่างเรื่อง hack เว็บ hugging face เป้าหมายที่คนสั่งมันก็แค่ให้หาคำสอบอะไรสักอย่าง โดยที่ไม่ได้ต่อเน็ตให้มัน มันเลยพยามต่อเน็ตเอง ไปแฮ็คเว็บเองเพื่อให้ได้คำตอบ ซึ่งคนคิดไม่ถึงด้วยซ้ำว่ามันจะทำอะไรขนาดนี้เพื่อที่จะได้คำตอบ
: 0 ใบ
: 0 ใบ
My Locker
