ธนาคารกับสัญญาณอันตราย
การล่มสลายอย่างเงียบ ๆ ของความไว้วางใจ
เมื่อวันอังคารที่ผ่านมา ขณะตรวจสอบโค้ดวิเคราะห์บล็อกเชน ฉันพบแฟ้มคดีเก่า: การฟ้องร้องของไมเคิล ซิดเดลต่อซิตี้กรุ๊ป เหตุการณ์ฉ้อโกงคริปโตมูลค่า 20 ล้านดอลลาร์ มีการทำธุรกรรมถึง 43 รายการ และคำพูดเดียวที่วนเวียนอยู่ในหัว: “ระบบพลาดสิ่งที่ชัดเจนเกินไป”
ไม่ใช่เพราะซับซ้อน…แต่เพราะมันชัดเจนเกินไป
ไม่ใช่วงจรเข้ารหัสหรือช่องโหว่อัจฉริยะ มันเป็นเพียงธุรกรรมจำนวนหนึ่ง ส่งผ่านบัญชีบริษัทของ Citigroup โดยใช้ชื่อ Guju Inc — เหมือนชื่อปลอมสร้างโดย AI และยังไงก็ตาม ก็ไม่มีสัญญาณเตือนใด ๆ เกิดขึ้นเลย
อัลกอริธึมที่ไม่มีใครฟัง
ในอดีตตอนทำงานที่ CoinMetrics ผมเคยพัฒนาโมเดลดักจับพฤติกรรมผิดปกติก่อนเกิดวิกฤต เช่น การโอนเงินจำนวนมากเป็นจำนวนเต็ม, การใช้กระเป๋าเงินต่างประเทศแบบคงที่, และเหยื่อเปลี่ยนจากลงทุนระมัดระวังเป็นเสพติด NFT โดยพลัน
กรณีนี้มีสามประเด็นเหล่านี้ครบถ้วน แต่อัลกอริธึม AML (ป้องกันการฟอกเงิน) ของซิตี้กรุ๊ปกลับไม่มีการเตือนแม้แต่ครั้งเดียว ทำไม? บางทีเพราะจำนวนเงิน ‘สะอาด’ เกินไป — \(150K, \)275K เป็นเลขจำนวนเต็มไร้เศษส่วน มันดูเหมือนธุรกิจมากกว่าการโจรกรรม แต่มนุษย์ควรเข้ามาแทรกแซงตรงจุดนี้
คนหญิงคนหนึ่งที่ไม่มีอยู่จริง
เรื่องเริ่มจากข้อความบน Facebook จากหญิงคนหนึ่งนามว่าคาโรไลน์ พาร์กเกอร์ — เสนอบริการเข้าถึง NFT พื้นฐานสำหรับกลุ่มนักลงทุนครั้งแรก เธอไม่มีอยู่จริง…แต่น้ำเสียงและบทสนทนาก็ดูสมจริงพอให้คนกำลังโดดเดี่ยวทางอารมณ์เชื่อมโยงได้อย่างแรง digital loneliness (ความเหงามาจากโลกออนไลน์) เป็นพื้นดินสำคัญให้มะเร็ง ‘pig butchering’ เคลื่อนไหว — โดยแปลความใกล้ชิดกลายเป็นภัยคุกคาม case สุดยอดแห่งความเสียหายทางอารมณ์มากกว่าทางการเงิน ฉันเองเคยหลุดไปสามเดือนของการประหยัด เพื่อลงทุนคราวใหญ่นึง เพราะไว้วางใจ ‘คาโรไลน์’ ในแบบของตนเอง ข้อแตกต่าง? ธ. ก. กับผม แจ้งเตือน — เมื่อสายไปสำหรับศักดิศรียังไง ก็ปลอดภัยพอสำหรับพอร์ตโฟลโญ่อยู่แล้ว
เราทำไมถึงหลอกตัวเองโดยเลขปรุงแต่ง?
ส่วนหนึ่งเราแทบจะไม่พูดถึงเลย: ธ. ก. มีหน้าที่ตรวจสอบพฤติกรรมแปลกๆ — แต่มองหาผลตอบแทนจากการหยุดเฉพาะเหตุการณ์เท่านั้นมักจะขาดแรงจูงใจในการหยุด ‘แผลเล็ก’ ค่าใช้จ่ายจากการแจ้งเตือนผิด (False Positive) สูงมาก; ในขณะที่ราคาจากการพลาดการฉ้อโกງอาจถูกฝังไว้นานในรายงานประเมินความเสี่ยงโดยเน้นขนาดมากกว่า ‘หัวใจ’ กฎหมายบอกให้มองหา ‘แดง’ เมื่อมันปรากฏ…แต่อยากถามว่า หากสัญญาณเหล่านั้นมองไม่เห็นเพราะระบบทำงานบนสมมติฐานโบราณเล่า? pig butchering เป็นเรื่องใหม่อย่างแน่นอน — มันเปลี่ยนมือมาจากแผนชวนรวยเร็ว มาเป็นเกมสร้างอารมณ์ผ่านโปรไฟล์ปลอมและประวัติตระการตา โดยอาศัยแพลตฟอร์มออกแบบมาเพื่อเชื่อมโยง…แล้วเปลี่ยนมุมมองแห่งความอบอุ่นมายกระดับกลายเป็นอาชญากรรม tragedy? เมื่อเหยื่อรู้ว่าโดนหลอกแล้ว จะโทษตนเอง…หรือโทษ ระบบ? และพวกเขาทำได้อย่างถูกต้อง
