รัฐบาลสหราชอาณาจักรกำลังพัฒนาเครื่องมือ ‘การทำนายการฆ่าตัวเอง’ ที่เป็นประเด็นการโต้แย้งด้วย AI

รัฐบาลของสหราชอาณาจักรกำลังดำเนินโครงการที่มีการโต้แย้งอย่างมาก ซึ่งใช้ AI เพื่อทำนายว่าใครจะเป็นคนสังหารในอนาคต

การมีอยู่ของโปรแกรมนี้ถูกเปิดเผยผ่านการร้องขอข้อมูลเสรีที่ได้รับจากกลุ่มผู้ตรวจสอบ Statewatch.

ผลการค้นคว้าของพวกเขาแนะนำว่าข้อมูลส่วนบุคคลที่ละเอียดอ่อนกำลังถูกใช้งาน ซึ่งรวมถึงบันทึกสุขภาพ, ข้อมูลสุขภาพจิต, ประวัติการติดยาเสพติด, และข้อมูลเกี่ยวกับคนที่ยังไม่เคยถูกลงโทษในคดีอาญาใด ๆ

รายงานจาก Statewatch ระบุว่ากระทรวงยุติธรรม (MoJ) นำทีมนี้ที่จะศึกษาบันทึกอำนาจที่มีอยู่ของคนเพื่อหยุดการเกิดคดีอาญาที่ร้ายแรง

เริ่มต้นแรกนี้เรียกว่า “โครงการทำนายการฆาตกรรม” ตอนนี้มีชื่อว่า “การแบ่งปันข้อมูลเพื่อปรับปรุงการประเมินความเสี่ยง” โครงการนี้อยู่ในระยะของการวิจัย แต่มีผู้สนับสนุนและผู้ที่สนใจในความเป็นส่วนตัวที่เริ่มเป็นห่วง ดังที่รายงานโดย Statewatch.

อย่างไรก็ตาม ผู้อำนวยการปฏิเสธเรื่องนี้ The Guardian รายงานว่าโฆษกกระทรวงยุติธรรมกล่าวว่า: “โครงการนี้ทำขึ้นเพื่อวัตถุประสงค์ในการวิจัยเท่านั้น มันถูกออกแบบโดยใช้ข้อมูลที่มีอยู่ในการถือครองของ HM คุกและบริการทดลองและกำลังตำรวจที่ถูกตัดสินความผิดเพื่อช่วยให้เราเข้าใจอย่างดีขึ้นเกี่ยวกับความเสี่ยงของผู้ที่อยู่ในช่วงทดลองไปสู่การกระทำความรุนแรงที่รุนแรง จะมีรายงานที่จะเผยแพร่ในภายหลัง”

ตามที่ Statewatch รายงาน ตำรวจใน Greater Manchester ได้แบ่งปันข้อมูลถึงครึ่งล้านคน ซึ่งรวมถึงผู้เสียหาย ผู้ต้องสงสัย และคนที่อยู่ในสถานการณ์ที่อ่อนแอ

Sofia Lyall นักวิจัยที่ Statewatch ได้วิจารณ์โครงการนี้อย่างรุนแรง โดยกล่าวว่า “ความพยายามของกระทรวงยุติธรรมในการสร้างระบบการทำนายการฆ่าฆ่านี้ เป็นตัวอย่างที่น่าหวั่นไหวและดัสตี้นปลายล่าสุดของความตั้งใจของรัฐบาลในการพัฒนาระบบที่ทำนายอาชญากรรมที่เรียกว่า”

เธอเตือนว่าระบบนี้จะทำให้การเลือกปฏิบัติตามเชื้อชาติและชั้นชาติเศรษฐกิจลึกซึ้งขึ้น: “โมเดลล่าสุดนี้ที่ใช้ข้อมูลจากตำรวจและสำนักงานภายในของเราที่มีความเหยียดหยามแบบสถาบันจะเสริมและขยายการเลือกปฏิบัติทางโครงสร้างที่อยู่เบื้องหลังระบบกฎหมายอาญา”

“การใช้ข้อมูลที่ละเอียดอ่อนเกี่ยวกับสุขภาพจิต, การติดเชื้อและความพิการมากเกินไปและน่าเป็นห่วง,” เธอเพิ่มเติม

รัฐบาลอ้างว่าเครื่องมือแบบนี้อาจช่วยปรับปรุงวิธีการที่บริการคุมประพฤติประเมินความเสี่ยงและป้องกันอาชญากรรมที่รุนแรง แต่นักวิจารณ์คิดว่าระบบนี้อาจนำไปสู่การสร้างภาพลักษณ์ให้ผู้คนเป็นฆาตกรเป็นศักดิ์ศรีเนื่องจากข้อมูลที่ไม่ถูกต้องและเอนเอียง

รัฐบาลอ้างว่าเครื่องมือเหล่านี้จะช่วยเพิ่มความสามารถของบริการคุมประพฤติในการประเมินความเสี่ยงและหยุดการเกิดอาชญากรรมที่รุนแรง แต่อย่างไรก็ตาม, นักวิจารณ์เตือนว่าระบบนี้มีความเสี่ยงที่จะสร้างภาพลักษณ์ให้ผู้คนเป็นฆาตกรเป็นศักดิ์ศรีผ่านข้อมูลที่ไม่ดีและเอนเอียง

ในขณะที่ยังอยู่ในระหว่างการพัฒนา, Statewatch รายงานว่าเอกสารที่พบกล่าวถึง “การนำไปใช้งานในอนาคต” ของระบบนี้ ซึ่งทำให้เกิดความกังวลว่าอาจจะถูกนำมาใช้ในการตัดสินใจด้านการบังคับกฎหมายในชีวิตจริงเร็วๆนี้