ธนาคารกับสัญญาณอันตราย
การล่มสลายอย่างเงียบ ๆ ของความไว้วางใจ
เมื่อวันอังคารที่ผ่านมา ขณะตรวจสอบโค้ดวิเคราะห์บล็อกเชน ฉันพบแฟ้มคดีเก่า: การฟ้องร้องของไมเคิล ซิดเดลต่อซิตี้กรุ๊ป เหตุการณ์ฉ้อโกงคริปโตมูลค่า 20 ล้านดอลลาร์ มีการทำธุรกรรมถึง 43 รายการ และคำพูดเดียวที่วนเวียนอยู่ในหัว: “ระบบพลาดสิ่งที่ชัดเจนเกินไป”
ไม่ใช่เพราะซับซ้อน…แต่เพราะมันชัดเจนเกินไป
ไม่ใช่วงจรเข้ารหัสหรือช่องโหว่อัจฉริยะ มันเป็นเพียงธุรกรรมจำนวนหนึ่ง ส่งผ่านบัญชีบริษัทของ Citigroup โดยใช้ชื่อ Guju Inc — เหมือนชื่อปลอมสร้างโดย AI และยังไงก็ตาม ก็ไม่มีสัญญาณเตือนใด ๆ เกิดขึ้นเลย
อัลกอริธึมที่ไม่มีใครฟัง
ในอดีตตอนทำงานที่ CoinMetrics ผมเคยพัฒนาโมเดลดักจับพฤติกรรมผิดปกติก่อนเกิดวิกฤต เช่น การโอนเงินจำนวนมากเป็นจำนวนเต็ม, การใช้กระเป๋าเงินต่างประเทศแบบคงที่, และเหยื่อเปลี่ยนจากลงทุนระมัดระวังเป็นเสพติด NFT โดยพลัน
กรณีนี้มีสามประเด็นเหล่านี้ครบถ้วน แต่อัลกอริธึม AML (ป้องกันการฟอกเงิน) ของซิตี้กรุ๊ปกลับไม่มีการเตือนแม้แต่ครั้งเดียว ทำไม? บางทีเพราะจำนวนเงิน ‘สะอาด’ เกินไป — \(150K, \)275K เป็นเลขจำนวนเต็มไร้เศษส่วน มันดูเหมือนธุรกิจมากกว่าการโจรกรรม แต่มนุษย์ควรเข้ามาแทรกแซงตรงจุดนี้
คนหญิงคนหนึ่งที่ไม่มีอยู่จริง
เรื่องเริ่มจากข้อความบน Facebook จากหญิงคนหนึ่งนามว่าคาโรไลน์ พาร์กเกอร์ — เสนอบริการเข้าถึง NFT พื้นฐานสำหรับกลุ่มนักลงทุนครั้งแรก เธอไม่มีอยู่จริง…แต่น้ำเสียงและบทสนทนาก็ดูสมจริงพอให้คนกำลังโดดเดี่ยวทางอารมณ์เชื่อมโยงได้อย่างแรง digital loneliness (ความเหงามาจากโลกออนไลน์) เป็นพื้นดินสำคัญให้มะเร็ง ‘pig butchering’ เคลื่อนไหว — โดยแปลความใกล้ชิดกลายเป็นภัยคุกคาม case สุดยอดแห่งความเสียหายทางอารมณ์มากกว่าทางการเงิน ฉันเองเคยหลุดไปสามเดือนของการประหยัด เพื่อลงทุนคราวใหญ่นึง เพราะไว้วางใจ ‘คาโรไลน์’ ในแบบของตนเอง ข้อแตกต่าง? ธ. ก. กับผม แจ้งเตือน — เมื่อสายไปสำหรับศักดิศรียังไง ก็ปลอดภัยพอสำหรับพอร์ตโฟลโญ่อยู่แล้ว
เราทำไมถึงหลอกตัวเองโดยเลขปรุงแต่ง?
ส่วนหนึ่งเราแทบจะไม่พูดถึงเลย: ธ. ก. มีหน้าที่ตรวจสอบพฤติกรรมแปลกๆ — แต่มองหาผลตอบแทนจากการหยุดเฉพาะเหตุการณ์เท่านั้นมักจะขาดแรงจูงใจในการหยุด ‘แผลเล็ก’ ค่าใช้จ่ายจากการแจ้งเตือนผิด (False Positive) สูงมาก; ในขณะที่ราคาจากการพลาดการฉ้อโกງอาจถูกฝังไว้นานในรายงานประเมินความเสี่ยงโดยเน้นขนาดมากกว่า ‘หัวใจ’ กฎหมายบอกให้มองหา ‘แดง’ เมื่อมันปรากฏ…แต่อยากถามว่า หากสัญญาณเหล่านั้นมองไม่เห็นเพราะระบบทำงานบนสมมติฐานโบราณเล่า? pig butchering เป็นเรื่องใหม่อย่างแน่นอน — มันเปลี่ยนมือมาจากแผนชวนรวยเร็ว มาเป็นเกมสร้างอารมณ์ผ่านโปรไฟล์ปลอมและประวัติตระการตา โดยอาศัยแพลตฟอร์มออกแบบมาเพื่อเชื่อมโยง…แล้วเปลี่ยนมุมมองแห่งความอบอุ่นมายกระดับกลายเป็นอาชญากรรม tragedy? เมื่อเหยื่อรู้ว่าโดนหลอกแล้ว จะโทษตนเอง…หรือโทษ ระบบ? และพวกเขาทำได้อย่างถูกต้อง
LunaXVII
ความคิดเห็นยอดนิยม (2)
Der Bank hat die roten Fahnen ignoriert — und stattdessen einen NFT-Mondschuss als Investitionsstrategie verkauft. Michael Zidell hat seinen Kaffee aus der Blockchain-Geschichte gegossen und dabei vergessen, dass Betrug keine komplexen Algorithmen braucht… nur eine zu offensichtliche Zahl. Die AML-Systeme waren nicht kaputt — sie waren einfach nur zu faul. Wer glaubt noch an ‘Carolyn’? Sie existierte nie — aber ihre Wallet tat’s.
Und jetzt? Ich zahle mit meinem letzten Euro… für ein Bild von einem Algorithmus, das sich als Kaffee verkleidet hat. Was für ein Verlust? Ein Scherz mit Bier & Butchere.
¡Qué sistema tan ‘inteligente’!
¿Un scam de $20M y el banco no se dio cuenta? Solo porque los números eran demasiado limpios… como si fuera una factura de IKEA.
El algoritmo que no escucha
43 transferencias, todas en números enteros. Para el sistema: ‘¡Qué orden! Qué negocio legal’. Para mí: ‘¿Esto es un banco o un simulador de contabilidad?’
La mujer que no existía
Carolyn Parker… una amiga virtual que me recuerda a mi ex. ¡Y aunque no era real, me robó más que mi corazón!
¿Y ahora qué? ¿Nosotros los usuarios somos el ‘falso positivo’ del sistema?
Comentad: ¿Vosotros también habéis confiado en una ‘Carolyn’? 😏
