เครื่องมือแมชชีนวิชั่น เช่น การจดจำใบหน้ากำลังถูกนำมาใช้เพื่อการบังคับใช้กฎหมาย การโฆษณา และวัตถุประสงค์อื่นๆ เพิ่มมากขึ้น เมื่อเร็ว ๆ นี้ Pew Research Center ได้ใช้ระบบวิชันซิสเต็มเพื่อวัดความชุกของผู้ชายและผู้หญิงในผลการค้นหารูปภาพ ออนไลน์. ระบบประเภทนี้พัฒนากฎของตัวเองสำหรับการระบุชายและหญิงหลังจากเห็นภาพตัวอย่างนับพัน แต่กฎเหล่านี้อาจเป็นเรื่องยากสำหรับมนุษย์ที่จะแยกแยะ เพื่อทำความเข้าใจวิธีการทำงานนี้ให้ดียิ่งขึ้น เราได้แสดงภาพเจ้าหน้าที่ของศูนย์ไปยังระบบวิชันซิสเต็มที่ได้รับการฝึกอบรมคล้ายกับระบบที่เราใช้ในการจำแนกการค้นหาภาพ จากนั้นเราบดบังส่วนต่างๆ ของภาพแต่ละภาพอย่างเป็นระบบเพื่อดูว่าส่วนใดของใบหน้าทำให้ระบบเปลี่ยนการตัดสินใจเกี่ยวกับเพศของบุคคลในภาพ ผลลัพธ์บางอย่างดูเหมือนง่าย บางอย่างทำให้งุนงง ในความท้าทายแบบอินเทอร์แอคทีฟนี้ ดูว่าคุณสามารถเดาได้หรือไม่ว่าอะไรทำให้ระบบเปลี่ยนการตัดสินใจ
นี่คือวิธีการทำงาน:
ขั้นแรก คุณจะเห็นภาพใบหน้าของบุคคลที่ระบุว่าเป็นชายหรือหญิง
ระบบจะคาดเดาได้ดีที่สุดว่าภาพนี้แสดงถึงผู้หญิงหรือผู้ชาย บางครั้งการเดาเริ่มต้นก็ผิด
ต่อไป คุณจะได้รับตัวเลือกในการปกปิดส่วนต่างๆ ของรูปภาพ ทำให้ระบบมองไม่เห็น พื้นที่เหล่านี้ เลือกสิ่งที่คุณคิดว่าเกี่ยวข้องกับวิธีการที่ระบบตัดสินใจมากที่สุดว่าจะแสดงภาพผู้ชายหรือผู้หญิง
ภาพที่มีส่วนใดส่วนหนึ่งถูกบดบังอาจดูไม่ต่างไปจากคุณมากนัก แต่การซ่อนส่วนนั้นทำให้ระบบเปลี่ยนการตัดสินใจเกี่ยวกับเพศของบุคคลในภาพ
เมื่อคุณพบส่วนแรกที่ทำให้ระบบเปลี่ยนใจแล้ว คุณจะเห็นส่วนอื่นๆ ที่ไฮไลต์ซึ่งจะทำให้ระบบเปลี่ยนการตัดสินใจด้วย
ลองด้วยตัวคุณเอง
เมื่อได้รับแจ้ง ให้คลิกหรือแตะสี่เหลี่ยมที่ไฮไลต์เพื่อปิดส่วนนั้นของรูปภาพ หนึ่งในบล็อกที่ไฮ ไลต์จะทำให้ระบบแมชชีนเลิร์นนิงเปลี่ยนการตัดสินใจว่ากำลังดูผู้หญิงหรือผู้ชาย
เมื่อคุณดำเนินการต่อ สิ่งสำคัญคือต้องจำไว้ว่าโมเดลที่เราใช้ที่นี่ค่อนข้างเรียบง่าย และการติดป้ายกำกับรูปภาพนั้นมีเพียงสองหมวดหมู่ (“ผู้ชาย” และ “ผู้หญิง”) ซึ่งกำหนดโดยลักษณะทางกายภาพภายนอกเท่านั้น นอกจากนี้ยังไม่มีความเข้าใจโดยกำเนิดเกี่ยวกับแนวคิดเรื่องเพศหรืออัตลักษณ์ทางเพศ
คุณสามารถทำให้ระบบวิชันซิสเต็มสับสนได้หรือไม่?
ต่อไป
ผลลัพธ์เหล่านี้สามารถบอกอะไรเราได้บ้างเกี่ยวกับการมองเห็นด้วยเครื่อง
นี่คือภาพบางส่วนจากความท้าทายแบบโต้ตอบ เพื่อเป็นการเตือนความจำ หากพื้นที่สีเหลืองหรือสีม่วงถูกบัง แบบจำลองจะเปลี่ยนการตัดสินใจเริ่มต้นว่าภาพนั้นแสดงเป็นผู้ชายหรือผู้หญิง
คุณเห็นอะไรเมื่อคุณดูภาพเหล่านี้? บางทีคุณอาจสังเกตเห็นว่าบางครั้งส่วนต่างๆ ของใบหน้าที่ทำให้นางแบบเปลี่ยนใจเกี่ยวกับเพศของบุคคลนั้นไม่ได้เป็นไปตามที่คุณคาดไว้ บางครั้งการปิดกึ่งกลางใบหน้าทำให้ระบบเปลี่ยนการตัดสินใจ แต่บางครั้งสิ่งเดียวกันนี้จะเกิดขึ้นหากเราปกปิดส่วนหนึ่งของใบหน้าที่ดูเหมือนไม่สำคัญสำหรับมนุษย์ในการพิจารณาเพศ เช่น หูหรือส่วนหนึ่งของหน้าผาก .
นอกจากนี้ คุณยังอาจสังเกตเห็นว่าส่วนต่างๆ
ของใบหน้าผู้คนไม่มีรูปแบบที่ชัดเจนหรือสอดคล้องกันซึ่งทำให้ตัวแบบเปลี่ยนใจ การปกปิดบางส่วนของใบหน้าของบุคคลหนึ่งอาจเปลี่ยนการตัดสินใจสำหรับภาพนั้น แต่การปกปิดส่วนเดียวกันของใบหน้าของบุคคลอื่นอาจไม่ทำให้เกิดการเปลี่ยนแปลงนั้น
เครื่องมือแมชชีนเลิร์นนิงสามารถเพิ่มประสิทธิภาพอย่างมากในการวิเคราะห์ข้อมูลจำนวนมาก ซึ่งเป็นเหตุผลที่เราใช้ระบบประเภทนี้เพื่อตรวจสอบผลการค้นหารูปภาพหลายพันรายการในการศึกษาของเราเอง แต่ไม่เหมือนกับโปรแกรมคอมพิวเตอร์ทั่วไป ซึ่งปฏิบัติตามขั้นตอนที่กำหนดไว้อย่างเข้มงวดเพื่อให้ได้ข้อสรุป ระบบเหล่านี้ทำการตัดสินใจในรูปแบบที่ซ่อนเร้นจากสายตาสาธารณะเป็นส่วนใหญ่ และขึ้นอยู่กับข้อมูลที่ใช้ในการฝึกอบรมเป็นอย่างมาก ด้วยเหตุนี้ พวกเขาจึงมีแนวโน้มที่จะมีอคติอย่างเป็นระบบและอาจล้มเหลวในลักษณะที่เข้าใจยากและคาดการณ์ล่วงหน้าได้ยาก
เทคนิคที่ใช้ในการโต้ตอบนี้เป็นวิธีหนึ่งที่จะช่วยให้เข้าใจคุณลักษณะที่อัลกอริทึมเหล่านี้ใช้ในการตัดสินใจ ในทำนอง เดียวกันเรียงความข้อมูลของเราเกี่ยวกับวิชันซิสเต็มจะพิจารณาเชิงลึกว่าข้อมูลที่ใช้ในการฝึกอบรมระบบเหล่านี้สามารถแนะนำอคติที่ซ่อนอยู่และแหล่งที่มาของข้อผิดพลาดที่ไม่คาดคิดในผลลัพธ์ได้อย่างไร
เครื่องมือแมชชีนเลิร์นนิงของเราค่อนข้างเรียบง่ายและออกแบบมาเพื่อวัตถุประสงค์เฉพาะในการระบุเพศในภาพดิจิทัล ดังนั้นระบบขั้นสูงหรือผู้ที่ได้รับการฝึกอบรมให้ทำงานต่างๆ กันอาจได้ผลลัพธ์ที่แตกต่างกัน แต่แบบฝึกหัดนี้สามารถให้ข้อมูลเชิงลึกที่สำคัญเกี่ยวกับวิธีการตัดสินใจของระบบเหล่านี้ ที่สำคัญกว่านั้น มันสามารถให้ข้อมูลเชิงลึกว่ากระบวนการเหล่านี้ไม่ชัดเจนหรือใช้งานง่ายได้อย่างไร เนื่องจากการตัดสินใจด้วยอัลกอริธึมมีมากขึ้นเรื่อย ๆ ในการตัดสินใจที่มีผลกระทบอย่างลึกซึ้งต่อมนุษย์ในโลกแห่งความเป็นจริง สิ่งสำคัญคือต้องเข้าใจข้อจำกัดของพวกเขา รวมถึงวิธีการที่ผลลัพธ์อาจมีอคติหรือไม่ถูกต้อง
