เห็นวันก่อนมีกระทู้เกี่ยวกับหลังบ้านนายอาร์ม
ที่ตำรวจบุกจับคนที่อัพโหลดคลิปลับส่วนตัว (เป็นคลิปที่มีความสัมพันธ์กับเยาวชน) ลง Google Drive
เลยจะมาเล่าให้ฟังว่าระบบของ Google ทำงานยังไง

ตั้งแต่ฝึกฝน ตรวจสอบ ยืนยัน จนถึงส่งเรื่องให้ตำรวจ

คือทีแรกก็ไม่รู้หรอก แต่บังเอิญวันนี้นั่งอ่านงบการเงิน Q3 ของ Google และเขาประกาศลง blog พอดี
เลยคิดว่าน่าจะมีประโยชน์กับเพื่อนๆ

ทำความรู้จักกับ CSAM
CSAM หรือเรียกอีกอย่าง ว่าสื่อลามกอนาจารเด็ก หมายถึง การนำเสนอกิจกรรมทางเพศอย่าง ชัดแจ้งที่มีเด็กเกี่ยวข้อง ไม่ว่าในสถานการณ์จริงและในสถานการณ์จำลอง หรือการนำเสนออวัยวะเพศของเด็กโดยมีจุดประสงค์ทางเพศ เป็นหลัก ไม่ว่าด้วยวิธีใดก็ตาม

Google รู้ได้อย่างไร?
Google ใช้ AI+ผู้เชี่ยวชาญที่ผ่านการฝึกอบรมมาเป็นอย่างดี
ในการคัดกรองและตรวจสอบ ก่อนที่จะทำการยืนยันเคส และ ส่งให้เจ้าหน้าที่ตำรวจ

โดยใช้ AI ในการเรียนรู้รูปภาพในปริมาณที่มหาศาล ซึ่งรูปภาพนั้นเป็นรูปภาพที่ไม่มีอันตราย อาทิเช่น ภาพเด็กล่นที่สนามเด็กเล่น เป็นต้น เพื่อให้รู้ว่านี่คือเด็ก

ขอคั่นด้วยเทคนิคนิดนึง
AI จะจดจำภาพเหล่านี้ในลักษณะของ hash หรือเข้ารหัสรูปภาพ ด้วยเทคโนโลยีที่ชื่อว่า Hash Matching Technology

เมื่อแปลงภาพ, วิดีโอเหล่านี้มาเป็น hash (0x12099384721323090: สมมติ) ก็จะนำมาเทียบกับไฟล์ต่างๆบน Google Drive และผลิตภัณฑ์อื่นของเรา เช่น Youtube ที่ตั้งค่าส่วนตัว, Google photo
ว่ามีไฟล์ไหนใกล้เคียง ลายเซนต์ hash เหล่านี้หรือไม่

Google ยังขิงด้วยว่าด้วยวิธีนี้ AI ของพวกเขานั้นมีความผิดพลาดที่ต่ำมากๆในการตรวจจับ
แถมยังมีความเร็วสูงมากๆในการตรวจสอบ ซึ่งช่วยให้เด็กได้รับความช่วยเหลือรวดเร็วขึ้น

สำหรับ dev ที่สนใจเอา API นี้ไปใช้
https://protectingchildren.google/tools-for-partners/


AI ส่งไม้ต่อให้ผู้เชี่ยวชาญที่เป็นมนุษย์
ผู้ตรวจสอบที่เป็นมนุษย์มีบทบาทในการยืนยันการจับคู่แฮช และ เนื้อหาที่ค้นพบผ่าน AI

สมาชิกในทีมยันยันของ Google นั้น มีภูมิหลังด้านกฎหมาย ความปลอดภัยและการสนับสนุนเด็ก งานสังคมสงเคราะห์ และการสืบสวนทางไซเบอร์ รวมถึงสาขาวิชาอื่นๆ และได้ผ่านการฝึกอบรมพิเศษของนโยบายนี้เป็นอย่างดี

ผู้เชี่ยวชาญส่งเรื่องไปที่ตำรวจ
จริงๆก็ไม่ได้ส่งเรื่องไปที่ตำรวจโดยตรงแต่ส่งเข้าไปที่ NCMEC (ศูนย์เพื่อเด็กหายและถูกฉวยผลประโยชน์แห่งชาติของสหรัฐอเมริกา)

และ NCMEC จะประสานงานมาที่ TICAC (Thailand Internet Crimes Against Children) คณะทำงานปราบปรามอาชญากรรมทางอินเตอร์เน็ตที่เกี่ยวข้องกับการละเมิดต่อเด็ก สำนักงานตำรวจแห่งชาติของไทย หรือองค์กรอื่นหากเหตุเกิดขึ้นที่ประเทศอื่นที่ไม่ใช่ไทย

จากเคสที่เป็นข่าวตำรวจมากัน 10 20 คน
ถามว่าตำรวจไทยจริงจังขนาดนี้เลยใช่ไหม
ใช่เพราะเราได้มีการลงนามกับสหรัฐอเมริกา ในข้อตกลงแบ่งปันข้อมูลเพื่อต่อต้านการแสวงประโยชน์จากเด็ก

https://th.usembassy.gov/th/us-thailand-signed-information-sharing-agreement-combat-child-sexual-exploitation-th/

AI ฉลาดแค่ไหนก็ผิดพลาดได้เสมอ
อย่างไรก็ตาม หากมีคนเชื่อว่าบัญชีของตนถูกปิดใช้งานอย่างไม่ถูกต้อง รวมถึงเนื้อหาที่ถูกตั้งค่าสถานะเป็น CSAM พวกเขาสามารถอุทธรณ์คำตัดสินได้

สมาชิกในทีมความปลอดภัยของเด็กตรวจสอบการอุทธรณ์ และหากเราพบว่าเราทำผิดพลาด เราจะคืนสิทธิ์บัญชีให้โดยเร็วที่สุด

Google และ คำมั่นเกี่ยวกับการละเมิดในเด็ก
"แม้ว่า CSAM จะมีเนื้อหาเพียงเล็กน้อยที่อัปโหลดและแบ่งปันในแพลตฟอร์มของเรา แต่เราให้ความสำคัญกับการละเมิด CSAM และการระงับบัญชีอย่างจริงจัง เป้าหมายของเราคือการป้องกันการละเมิดบนแพลตฟอร์มของเรา"

Source จากนักลงทุนสัมพันธ์ Alphabet:
https://abc.xyz/investor/#product-and-business-updates
https://blog.google/technology/safety-security/how-we-detect-remove-and-report-child-sexual-abuse-material/

ตอนแรกผมนึกภาพเป็นห้องที่มีคอมเป็นร้อยเป็นพันเครื่อง มีคนคอยไล่เปิด gg drive คนอื่นดูไปเรื่อยๆจนกว่าจะเจอภาพโป๊เด็ก 55+ โง่แท้ๆกู

ตอน Apple ประกาศจะใช้ทำไมมีคนด่า เจอ Googleไม่บอกจะทำ จับเลย