Geek Monday EP91 : Coded Bias เมื่ออัลกอริธึม AI มีอคติและไม่ได้เป็นกลางอย่างที่เราคิด

ต้องบอกว่าเป็นอีกหนึ่ง Documentary ที่ถ่ายทอดออกมาได้น่าสนใจอีกเรื่องนึงเลยทีเดียวสำหรับ Coded Bias จาก Netflix เรื่องราวที่เกี่ยวปัญหา Bias ความอคติจาก Code ของเทคโนโลยีทางด้าน AI ที่เป็นปัญหาสั่งสมมานานแสนนาน และยังไม่มีทีท่าว่าจะแก้ปัญหาเหล่านี้ได้เลย

เป็นเรื่องราวที่ถ่ายทอดเรื่องราวผ่าน Joy Buolamwini ที่เป็นนักศึกษาผิวสี PhD Candidate ที่ MIT Media Lab ที่มีความฝันในการสร้างสรรค์นวัตกรรมใหม่ผ่านเทคโนโลยีอย่าง Computer Vision

ซึ่งต้นตอปัญหาที่เธอพบเจอคือ เทคโนโลยีอย่าง Facial Recognition ที่พบว่า เทคโนโลยีที่มีอยู่ในปัจจุบัน นั้นไม่สามารถจดจำหน้าเธอได้ แต่เมื่อเธอใส่หน้ากากสีขาวครอบไปที่ใบหน้าของเธอ มันกลับทำงานได้ซะอย่างงั้น

เลือกฟังกันได้เลยนะครับ อย่าลืมกด Follow ติดตาม PodCast ช่อง Geek Forever’s Podcast ของผมกันด้วยนะครับ

🎧 ฟังผ่าน Podbean : 
https://bit.ly/3iRxQY9

🎧 ฟังผ่าน Apple Podcast :
https://apple.co/2lEqPPg

🎧 ฟังผ่าน Google Podcast : 
http://bit.ly/2kxHtQ3

🎧 ฟังผ่าน Spotify : 
https://spoti.fi/2m0PTzR

🎧 ฟังผ่าน Youtube 
https://youtu.be/g9EE_-HE800

Coded Bias เมื่ออัลกอริธึม AI มีอคติและไม่ได้เป็นกลางอย่างที่เราคิด

ต้องบอกว่าเป็นอีกหนึ่ง Documentary ที่ถ่ายทอดออกมาได้น่าสนใจอีกเรื่องนึงเลยทีเดียวสำหรับ Coded Bias จาก Netflix

เรื่องราวที่เกี่ยวปัญหา Bias ความอคติจาก Code ของเทคโนโลยีทางด้าน AI ที่เป็นปัญหาสั่งสมมานานแสนนาน และยังไม่มีทีท่าว่าจะแก้ปัญหาเหล่านี้ได้เลย

เป็นเรื่องราวที่ถ่ายทอดเรื่องราวผ่าน Joy Buolamwini ที่เป็นนักศึกษาผิวสี PhD Candidate ที่ MIT Media Lab ที่มีความฝันในการสร้างสรรค์นวัตกรรมใหม่ผ่านเทคโนโลยีอย่าง Computer Vision

ซึ่งต้นตอปัญหาที่เธอพบเจอคือ เทคโนโลยีอย่าง Facial Recognition ที่พบว่า เทคโนโลยีที่มีอยู่ในปัจจุบัน นั้นไม่สามารถจดจำหน้าเธอได้ แต่เมื่อเธอใส่หน้ากากสีขาวครอบไปที่ใบหน้าของเธอ มันกลับทำงานได้ซะอย่างงั้น

เธอจึงได้เริ่มขุดลึกเข้าไปถึง Data Set ที่นำมาใช้ Training ให้กับ AI ได้เรียนรู้ผ่านเทคโนโลยีอย่าง Facial Recognition ซึ่งเธอพบว่า ชุดข้อมูลจำนวนมากส่วนใหญ่จะเป็นภาพผู้ชาย และส่วนใหญ่จะเป็นคนผิวสีอ่อน

เธอได้ตัดสินใจลองกับระบบอื่น ๆ ที่ใช้กันอย่างกว้างขวางในปัจจุบัน ว่ามันจะเป็นอย่างที่เธอคิดหรือไม่

ซึ่งเธอได้ทดลองกับเทคโนโลยี AI ของ IBM, Microsoft , Google หรือ Facebook เองก็ตามที ปรากฏว่า Algorithm เหล่านี้ สามารถจับภาพใบหน้าผู้ชายได้ดีกว่าผู้หญิงจริง ๆ และที่สำคัญ สามารถจับภาพใบหน้าคนผิวสีอ่อนได้มากกว่าใบหน้าของคนผิวสีเข้มได้แตกต่างอย่างมีนัยยะสำคัญ

นั่นเลยทำให้ข้อตอบข้อสงสัยของเธอเกี่ยวกับ Algorithm เหล่านี้ ว่า มันคงไม่คุ้นเคยกับใบหน้าแบบเธอ ซึ่งเป็นคนผิวสี เธอจึงได้เริ่มศึกษาเรื่องของปัญหาความอคติที่แทรกซึมเข้าไปในโลกเทคโนโลยีได้อย่างไม่น่าเชื่อ

Joy Buolamwini ที่เข้ามาศึกษาคว้าคว้าเรื่องอคติของ AI อย่างจริงจัง (CR:WXXI.org)
Joy Buolamwini ที่เข้ามาศึกษาคว้าคว้าเรื่องอคติของ AI อย่างจริงจัง (CR:WXXI.org)

AI ได้ก่อกำเนิดขึ้นครั้งแรกจากการประชุมที่คณะคณิตศาสตร์ในมหาวิทยาลัยดาร์ตมัธ ในปี 1956 ซึ่งต้องบอกว่า กลุ่มคนในรุ่นนั้น มีเพียงแค่ 100 คนจากประชากรทั้งโลกที่เข้าไปมีบทบาทกับ AI ในยุคเริ่มต้น

ซึ่งคนกลุ่มหนึ่งในยุคนั้น ได้ตัดสินใจว่า เทคโนโลยีใหม่อย่าง AI จะมีการโชว์ให้โลกเห็นผ่านทางทักษะการเล่นเกม โดยเฉพาะอย่างยิ่งในเกมหมากรุก

นั่นเองได้เป็นที่มาให้เกิดการประชันหน้าครั้งแรกระหว่าง AI กับมนุษย์ในเกมหมากรุก ซึ่ง คาสปารอฟ แชมป์หมากรุกโลกชาวรัสเซีย ได้พ่ายแพ้ให้กับ Deep Blue ซุปเปอร์คอมพิวเตอร์ของ IBM

และมันส่งผ่านถึงยุคปัจจุบันโดยตรง กับแนวคิดเกี่ยวกับเทคโนโลยี AI ในปัจจุบันที่เราคิดว่ามันปรกติ แต่ที่จริงแล้ว มันเป็นแนวคิดที่มาจากกลุ่มคนที่เล็กมาก และไม่มีความหลากหลายเอาเสียเลย

ซึ่งแน่นอนว่า กลุ่มคนกลุ่ม ๆ แรกก็เป็นมนุษย์ ซึ่งมีอคติในเรื่องราวต่าง ๆ ในจิตใจเป็นทุนเดิมอยู่แล้ว และคนเหล่านี้ก็นำมาใส่มันลงไปในเทคโนโลยีอย่าง AI

ซึ่งนั่นเองมันได้นำไปสู่การพัฒนาเทคโนโลยีอย่าง Machine Learning ที่มีการใช้งานกันอย่างแพร่หลายในทุก ๆ อุตสาหกรรมในปัจจุบัน

Machine Learning เป็นระบบการให้คะแนนความน่าจะเป็นของสิ่งที่เราจะกระทำในอนาคต เราจะชดใช้หนี้หรือไม่ เราจะถูกไล่ออกจากงานหรือไม่ ฯลฯ

ซึ่งแน่นอนว่า Machine Learning มันได้หยั่งรากลึกไปยังทุก ๆ ส่วนของการดำรงชีวิตของมนุษย์เรา ซึ่งทำให้ในตอนนี้น้อยคนนักที่จะรู้ว่า มันมีอำนาจมากกว่า สิ่งใด ๆ ที่มนุษย์เคยสร้างขึ้นมาในประวัติศาสตร์มนุษยชาติ

ซึ่งต้องบอกว่าโครงสร้างทางคณิตศาสตร์ของอัลกอริธึมที่อยู่เบื้องหลังสิ่งเหล่านี้ มันไม่ได้เหยียดผิว หรือ เหยียดเพศด้วยตัวมันเอง แต่ข้อมูลมันแฝงด้วยข้อมูลในอดีต ซึ่งเราไม่ควรที่จะเชื่อมั่นใน Big Data เหล่านี้แบบ 100% เราต้องคอยตรวจสอบกระบวนการทั้งหมด อยู่เรื่อย ๆ ว่า มันมีอคติหรือไม่

ตัวอย่างที่น่าสนใจที่กำลังนำไปใช้แพร่หลายทั่วโลกในขณะนี้ ก็คือ ระบบกล้องวงจรปิดที่ กำลังรุกล้ำเสรีภาพของประชาชน ซึ่งระบบเหล่านี้ จะแจ้งตำรวจเมื่อเจอคนที่คิดว่าตรงกับผู้ร้ายในฐานข้อมูล

ซึ่งตัวอย่างในประเทศอังกฤษที่เริ่มนำเอาเทคโนโลยีนี้มาใช้ พบว่าการตรวจสอบใบหน้าที่ตรงกับรายชื่อในฐานข้อมูลนั้น มีถึง 98% ที่ตีตราคนบริสุทธิ์ให้กลายเป็นคนร้ายอย่างไม่ถูกต้อง

และที่สำคัญก็คือ การเดินผ่านกล้องเหล่านี้เมื่อมันจับภาพได้ ก็จะทำให้ภาพของเราไปอยู่ในฐานข้อมูลของตำรวจ ซึ่งก็ไม่ต่างจากการมีลายนิ้วมือ หรือ DNA อยู่ในฐานข้อมูลของตำรวจนั่นเอง

และแน่นอนว่า ตำรวจไม่สามารถที่จะเก็บลายนิ้วมือหรือ DNA แบบสุ่มสี่สุ่มห้าได้ มันมีกฏหมายรองรับในเรื่องนี้อยู่ แต่ตอนนี้ ข้อมูลจากภาพวงจรปิด ทำให้พวกเขาสามารถเก็บข้อมูลภาพใครก็ได้ แล้วนำไปใส่ในฐานข้อมูลได้ทันที

หรือแม้กระทั่งในปัจจุบันที่มีข้อมูลมหาศาลอยู่บนโลกออนไลน์ ซึ่งบริษัทใหญ่ ๆ ไม่ว่าจะเป็น Facebook , Google หรือ Microsoft นำมาใช้ในการเรียนรู้ผ่านเทคโนโลยีอย่าง Machine Learning ซึ่งมันได้ผลที่ดีมาก

แต่สิ่งที่ตกใจก็คือ ส่วนใหญ่จะมีแต่คนที่ใช้มัน โดยไม่ได้เข้าใจมันจริง ๆ ว่ามันทำงานยังไง และทำไมมันถึงได้ผล หรือแม้กระทั่งข้อผิดพลาดต่าง ๆ ที่เกิดขึ้น ซึ่งน้อยคนนักจะเข้าใจมัน แม้กระทั่งวิศวกรระดับอาวุโสของบริษัทใหญ่ ๆ เหล่านี้ก็ตามที

มีข้อมูลที่น่าสนใจก็คือ มีประชากรกว่า 117 ล้านคนในสหรัฐอเมริกา ที่มีใบหน้าอยู่ในเครือข่ายระบบตรวจจับใบหน้า ที่ตำรวจสามารถค้นดูได้ โดยใช้อัลกอริธึม ที่อาจจะไม่แม่นยำ 100% โดยที่แทบจะไม่มีความคุ้มครองหรือข้อบังคับใด ๆ

แน่นอนว่ามันเปรียบเสมือนการสร้างรัฐสอดแนมมวลชนได้อย่างง่ายดาย เหมือนที่ประเทศจีนทำ แต่ตอนนี้มันกำลังเกิดขึ้นในดินแดนเสรีภาพ ที่มีประชาธิปไตยที่เปี่ยมล้นอย่างประเทศสหรัฐอเมริกาแล้ว

และสิ่งที่น่ากลัวที่สุดอีกอย่างก็คือ AI มันอยู่ใน Social Media แพล็ตฟอร์มที่คนทั่วโลกเสพกันอย่างหนัก ติดกันอย่างบ้าคลั่ง อัลกอริธึม AI เหล่านี้ พยายามทุกวิถีทางที่จะให้เราอยู่ในแพล็ตฟอร์มให้นานที่สุด และทำเงินจากเราให้ได้มากที่สุด และที่สำคัญ มันส่งผลทุกอย่างต่อมุมมองที่เรามีต่อโลกใบนี้ผ่านน้ำมือของอัลกอริธึมเหล่านี้นั่นเอง

ซึ่งรวมถึงเรื่องการโฆษณาบนอินเทอร์เน็ต จาก Brand ยักษ์ใหญ่ต่าง ๆ ใน บริการแพล็ตฟอร์มทาง Social Media ที่ต้องแย่งความสนใจจากผู้คน แต่ไม่ใช่ทุกคน พวกเขาอยากให้โฆษณาไปปรากฏ เตะตา ให้กับคนรวยมากกว่า

ส่วนกลุ่มคนจนรายได้น้อย มักจะเป็นเหยื่อของการโฆษณาในธุรกิจที่จ้องแต่จะเอาเปรียบ เช่น การปล่อยกู้นอกระบบ เจ้ามือพนัน ซึ่งเป็นพวกที่ล้วนจ้องที่จะเอาเปรียบแบบสุด ๆ ซึ่งนั่นทำให้เกิดความเหลื่อมล้ำในโลกเราเพิ่มมากขึ้น แต่ด้วยการที่ไม่มีใครคอยควบคุมมันได้ มันจึงทำงานได้แบบอัตโนมัติจนกลายเป็นเรื่องปรกติของสังคมนั่นเอง

ต้องบอกว่า ในยุคปัจจุบันนั้น สิ่งต่าง ๆ ที่เรากระทำบนโลกออนไลน์ ล้วนถูกจับจ้อง ถูกตามรอย ถูกประเมิน ทุก ๆ การกระทำที่เราได้ทำไป ล้วนถูกจับตาดูด้วยความระมัดระวัง และบันทึกไว้

ไม่ว่าจะเป็นภาพใดบ้าง ที่เราหยุดมอง และมองมันนานแค่ไหน ข้อมูลเหล่านี้ทำให้บริษัทเทคยักษ์ใหญ่รู้ถึงขนาดที่ว่า ตอนไหนที่ใครเหงา พวกเขาสามารถรู้ได้ว่าตอนไหนที่ใครซึมเศร้า เป็นคนชอบเก็บตัว หรือ เข้าสังคม มีอาการทางประสาทชนิดใด ซึ่งพวกเขามีข้อมูลเกี่ยวกับเรามากยิ่งกว่า ที่ใครจะเคยคาดคิดในประวัติศาสตร์มนุษยชาติ

และที่สำคัญข้อมูลเหล่านี้นั้น ได้ถูกนำไปวิเคราะห์อยู่แทบจะตลอดเวลา โดยจะถูกนำป้อนเข้าสู่ระบบ ซึ่งแทบจะไม่มีมนุษย์คอยควบคุมมันอยู่เลยด้วยซ้ำ ซึ่งพลังของเทคโนโลยี AI Machine Learning ที่อยู่เบื้องหลังระบบเหล่านี้ ทำให้มันคาดการณ์ได้แม่นยำมาขึ้นเรื่อย ๆ ว่าเราจะทำอะไร และ เราเป็นใคร

มีเรื่องที่น่าตลกอย่างนึง ถึงความอคติทางด้านการเหยียดเพศของ อัลกอริธึมทางด้าน AI Steve Wozniak ผู้ร่วมก่อตั้ง Apple พบว่า วงเงินที่เขาได้รับจากบัตรเครดิตนั้นสูงเป็นสิบเท่าของภรรยาของเขาแม้ทั้งคู่จะไม่ได้แยกบัญชีธนาคารหรือสิทธิครอบครองทรัพย์สินใด ๆ ก็ตาม

หรือ Case ที่เกิดขึ้นกับ Amazon ที่ได้รับบทเรียนที่เจ็บปวดจากอัลกอริธึม AI ที่ได้นำ AI มาช่วยในการจ้างงาน ซึ่งภายหลังพบว่ามันมีอคติต่อผู้หญิง

โมเดล AI ที่ Amazon ใช้นั้น ปฏิเสธใบสมัครงานทั้งหมดที่มาจากผู้หญิง ซึ่งใครก็ตามที่มีวิทยาลัยสำหรับสตรีในใบสมัครงาน ใครก็ตามที่เล่นกีฬาผู้หญิง อย่างเช่น โปโลน้ำหญิง จะถูกโมเดลนี้ปฏิเสธทันที

ผลกระทบที่เกี่ยวข้องกับอัลกอริธึม AI อีกวงการหนึ่งที่สำคัญมาก ๆ คือ วงการการเงิน Wall Street มีการวางเดิมพันกับชาวอเมริกัน มีบริษัทการเงินใช้อัลกอริธึมในการคัดเลือกการปล่อยเงินกู้ แต่กลับมองที่คนที่มีโอกาสล้มเหลวในชีวิตมากที่สุด

นั่นเป็นการเฟ้นหากลุ่มคนที่สามารถที่จะขอสินเชื่อซับไพรม์ได้ และเหล่าสถาบันทางการเงินก็พนันว่า พวกเขาเหล่านี้ จะไม่มีปัญญาจ่าย จากนั้นค่อยยึดทรัพย์สินที่จำนองไว้ ทำให้พวกเขาหมดตัว

ต้องบอกว่ามันเป็นอัลกอริธึมที่น่ากลัวมากที่ Wall Street คิดค้นขึ้น ที่ทำให้ชาวอเมริกันเกือบ 4 ล้านคนสูญเสียบ้านในวิกฤติทางการเงินในปี 2008 และในกลุ่มดังกล่าวเป็นคนผิวสีมากที่สุด ในประวัติศาสตร์ของประเทศสหรัฐอเมริกา

ชาวอเมริกันเกือบ 4 ล้านคนสูญเสียบ้านในวิกฤติทางการเงินในปี 2008 (CR:DW.com)
ชาวอเมริกันเกือบ 4 ล้านคนสูญเสียบ้านในวิกฤติทางการเงินในปี 2008 (CR:DW.com)

แม้กระทั่งเรื่องความยุติธรรมในการตัดสินของศาล ความ Bias ของอัลกอริธึมก็ยังเข้าไปแทรกซึมได้

มีการใช้เครื่องมืออย่าง Risk Assessment Tools ให้ผู้พิพากษารัฐเพนซิลเวเนียใช้ตัดสินโทษ ซึ่งเครื่องมือเหล่านี้ใช้อัลกอริธึมในการคำนวณความเสี่ยงที่จะกระทำผิดซ้ำของผู้ต้องหา โดยคำนึงถึง อายุ เพศ ความผิดก่อนหน้า และประวัติอาชญากรรมอื่น ๆ

นั่นทำให้เกิดข้อสงสัยว่า ระบบให้คะแนนเหล่านี้ ถูกสร้างขึ้นมาได้อย่างไร มันเกี่ยวข้องกับเชื้อชาติ หรือ ชนชั้นหรือไม่ ซึ่งมีรายงานการสอบสวนในประเด็นดังกล่าว แล้วพบว่า อัลกอริธึมเหล่านี้ มีความอคติทางเชื้อชาติ

ผลวิจัยพบว่าคนผิวสี จะได้รับคะแนนสูงเกินจริง ส่วนคนผิวขาวนั้นมีโอกาสได้รับคะแนนต่ำเกินจริงมากกว่า ซึ่งต้องบอกว่าเป็นเรื่องที่ซีเรียสมาก ๆ ที่มันกำลังรุกล้ำเข้ามาสู่วงการยุติธรรม และมีแนวโน้มที่จะถูกนำไปใช้มากขึ้นเรื่อย ๆ

ซึงจากตัวอย่างทั้งหมดจะเห็นได้ว่า Bias อัลกอริธึมเหล่านี้ กำลังส่งผลกระทบต่อชีวิตมนุษย์เรามากขึ้นเรื่อย ๆ แน่นอนว่า ทุกการดำเนินชีวิตของเราในอนาคต การเกิด การเรียน การศึกษา การหาชีวิตคู่ การกู้เงิน การสมัครงาน การโดนลงโทษทางด้านกฏหมาย Bias อัลกอริธึมเหล่านี้ กำลังคอยควบคุมชีวิตเราอยู่ในโลกแห่งความเป็นจริง

ซึ่งเทคโนโลยีด้าน AI เหล่านี้ มีความคิดเป็นของตนเอง ถึงแม้ว่าจะมีมนุษย์เป็นผู้เขียน Code ให้กับมันก็ตามที ดังนั้นมันคือจุดเปลี่ยนครั้งสำคัญที่ตอนนี้เราอาจจะอยู่ในโลกที่ มนุษย์เราเองนั้น ไม่สามารถที่จะไปควบคุมระบบเหล่านี้ได้อีกต่อไปแล้ว เพราะเป็นฝ่าย AI ต่างหากที่ควบคุมข้อมูลของพวกเราอยู่

แล้วคำถามที่ว่า AI จะมาทำงานแทนเรา และจะฉลาดกว่ามนุษย์ได้เมื่อไหร่? แต่ก่อนจะถึงจุดนั้น ต้องบอกว่าในตอนนี้เทคโนโลยีได้ก้าวข้ามและพิชิตจุดอ่อนของมนุษย์ไปได้แล้วนั่นเองครับผม

References : https://www.netflix.com/title/81328723