หลายครั้งที่ผู้ผลิตระบบระบุอัตลักษณ์กล่าวว่า การระบุตัวบุคคลจะช่วยให้รัฐจับกุมอาชญากรหรือตรวจคนเข้าเมืองได้ง่ายขึ้น แต่ในหลายกรณีกลับพบว่าระบบถูกใช้จนเกินขอบเขต เช่นการตรวจจับใบหน้าในฐานะส่วนหนึ่งของ 'โซเชียล เครดิต' ที่ทำให้รัฐบาลจีนสามารถแบนคนจำนวนมากจากการเดินทางภายในประเทศ เพราะพวกเขา 'ไม่ใช่คนที่ดีพอ' ในสายตารัฐบาล

หลายครั้งที่รายการเวิลด์เทรนด์รายงานข่าวเรื่องเทคโนโลยีตรวจจับใบหน้า หรือแม้แต่ตรวจจับท่าเดิน ซึ่งทั้งหมดล้วนเป็นความก้าวหน้าของวิทยาการที่จะช่วยอำนวยความสะดวกแก่มนุษย์ได้อย่างมาก เช่น การที่สนามบินนานาชาตินาริตะ ในญี่ปุ่น กำลังจะกลายเป็นสนามบินแห่งแรกในโลกที่ใช้ระบบตรวจจับใบหน้าสำหรับผู้โดยสารที่เตรียมจะบอร์ดดิง แทนการแสดงพาสปอร์ตหรือบอร์ดดิงพาสแบบเดิม ในฤดูใบไม้ผลิปีหน้า เป็นต้น แต่เทคโนโลยีแบบนี้เป็นเสมือนดาบสองคมที่ให้โทษพอ ๆ กับให้คุณ

ล่าสุด สื่ออังกฤษ เดอะการ์เดียน รายงานว่าในปี 2018 ที่ผ่านมา มาตรการ 'โซเชียล เครดิต' หรือ ระบบคะแนนทางสังคมของจีน ทำให้ประชาชนไม่สามารถซื้อตั๋วรถไฟและเครื่องบินรวมกันกว่า 23 ล้านครั้ง เพราะพวกเขามีคะแนนไม่พอหรือโดนขึ้นแบล็กลิสต์โดยรัฐบาล ซึ่งรัฐบาลจีนประกาศจะบังคับใช้ระบบคะแนนนี้ทั่วประเทศภายในปี 2020 เท่ากับว่าระบบที่ตรวจจับและสอดส่องพฤติกรรมของคนในสังคมจีนที่หลายครั้งเข้าข่ายล่วงละเมิดสิทธิส่วนบุคคลนั้น กำลังจะกลายเป็นบรรทัดฐานใหม่ในสังคม

ระบบคะแนนทางสังคมนี้มุ่งเป้าที่จะระบุว่าใครมีพฤติกรรมที่น่าเชื่อถือได้ ผ่านการหักและให้คะแนนตามการกระทำ ซึ่งเมื่อย้อนกลับไปดูรายงานของรัฐบาลจีนเกี่ยวกับระบบนี้ตั้งแต่ปี 2014 จะพบว่ารัฐบาลให้เหตุผลว่าต้องการให้ 'คนที่น่าเชื่อถือสามารถเดินถนนได้อิสระราวกับเป็นสวรรค์ และคนไม่น่าเชื่อถือไม่สามารถก้าวย่างได้อย่างง่ายดายแม้แต่ก้าวเดียว' โดยพฤติกรรมที่จะถูกหักคะแนนมีตั้งแต่ ไม่จ่ายภาษีหรือค่าปรับ เผยแพร่ข้อมูลอันเป็นเท็จ และเสพยาเสพติด ไปจนถึงการใช้ตั๋วโดยสารหมดอายุ สูบบุหรี่บนรถไฟ หรือแม้แต่ไม่ใช้สายจูงสุนัขเมื่อออกนอกบ้าน

นอกเหนือจากการถูกแบนจากการซื้อตั๋วโดยสาร ทั้งภายในและภายนอกประเทศ แล้ว การมีคะแนนความน่าเชื่อถือไม่เพียงพอทำให้ชาวจีนจำนวนมากไม่สามารถซื้ออสังหาริมทรัพย์ ประกันภัย หรือลงทุนในช่องทางอื่น ๆ ได้อีกด้วย ขณะที่ บริษัทนิติบุคคลที่ถูกแบล็กลิสต์ หรือ ไม่มีจริยธรรมเพียงพอในสายตารัฐบาล จะถูกแบนจากการเสนอตัวลงทุนหรือออกพันธบัตรสาธารณะ

เมื่อปีปลายที่แล้ว ABC News Australia เคยนำเสนอสกูปเจาะลึกเกี่ยวกับระบบคะแนนนี้มาแล้ว โดยระบุว่าคะแนนที่ประชาชนแต่ละคนมี สามารถเปลี่ยนแปลงได้ตลอดเวลาแบบรีลไทม์ ขึ้นอยู่กับกิจกรรม ณ ตอนนั้น เช่นการเดินซื้อของในซูเปอร์มาร์เก็ต นั่นคือ หากซื้อแอลกอฮอล์ ก็จะถูกตัดคะแนนลง ขณะที่ ซื้อผ้าอ้อม จะเพิ่มคะแนนขึ้น เพราะถือว่ามีความรับผิดชอบต่อครอบครัว เป็นต้น ซึ่งแหล่งข่าวที่มาให้สัมภาษณ์กับสกูปนี้ส่วนหนึ่งก็พอใจกับชีวิตที่ถูกให้คะแนน เพราะคะแนนของพวกเธอไม่น่าเป็นห่วงอะไร

ในทางกลับกัน ABC News Australia ก็รายงานด้วยว่า บุคคลที่ร้องเรียนและเปิดโปงคอร์รัปชันของเจ้าหน้าที่รัฐ รวมถึงช่วยสืบหาคดีที่ตำรวจละเลย กลับต้องใช้ชีวิตอยู่อย่างลำบาก และถูกกดดันโดยคะแนนสังคมที่ต่ำลงเรื่อย ๆ ยิ่งไปกว่านั้น การกดดันประชาชนด้วยระบบดังกลล่าวตามรายงานของ ABC ยิ่งเข้มข้นขึ้นเมื่อเข้าสู่เขตปกครองตนเองอย่างซินเจียงอุยกูร์ ที่แทบไม่ต่างอะไรกับเรือนจำแบบเปิด หลังจากที่รัฐบาลกลางไม่สามารถควบคุมกิจกรรมต่าง ๆ ของประชาชนแทบนี้ได้เป็นเวลานาน การเข้ามาของเทคโนโลยีใหม่ ๆ จึงช่วยอำนวยความสะดวกรัฐในส่วนนี้ จนทำให้ชาวอุยกูร์บางคนเลือกที่จะพาครอบครัวลี้ภัยไปสหรัฐฯ แต่ก็ไม่ใช่ทุกคนที่จะเลือกทางออกเช่นนี้ได้

ด้านเจ้าของเทคโนโลยีอย่าง สัตยา นาเดลลา ประธานกรรมการบริหารของไมโครซอฟท์ ก็เพิ่งออกมาเตือนถึงการใช้ปัญญาประดิษฐ์ หรือ เอไอ ตลอดจนเทคโนโลยีตรวจจับใบหน้า โดยเขากล่าวว่า เขาสามารถระบุข้อดีของระบบนี้ได้ 10 ข้อ ขณะเดียวกัน ข้อเสียของมันก็มากถึง 10 ข้อเช่นกัน และหากไม่มีกฎหมายใดเข้ามาควบคุมอย่างเหมาะสมแล้ว ก็จะเป็นความเสี่ยงอย่างยิ่งต่อสิทธิส่วนบุคคลและความเป็นส่วนตัวของปัจจเจกบุคคล

นาเดลลา ระบุว่าปัจจุบัน ในกรุงนิวเดลี ของอินเดีย มีการใช้ระบบตรวจจับใบหน้าในการค้นหาเด็กหายสำเร็จเกือบ 3,000 คน ภายในระยะเวลา 4 วัน ส่วนนักประวัติศาสตร์ในสหรัฐฯ ก็ใช้เทคโนโลยีเดียวกันนี้ในการระบุทหารนิรนามสมัยสงครามกลางเมือง จากรูปถ่ายในช่วงปี 1860 รวมไปถึงประโยชน์ในทางการแพทย์ ที่แพทย์สามารถค้นพบโรคบางประเภทได้จากการตรวจจับใบหน้าเพียงอย่างเดียว

ทั้งหมดนี้ล้วนเป็นก้าวกระโดดสำคัญในยุควิทยาการก้าวหน้า แต่ในขณะเดียวกัน มันคุ้มค่ากันแล้วหรือไม่ กับความเจริญเติบโตภายในเรือนจำล่องหนขนาดใหญ่ที่ยังไม่มีการควบคุมนี้?