Coded Bias เมื่ออัลกอริธึม AI มีอคติและไม่ได้เป็นกลางอย่างที่เราคิด

ต้องบอกว่าเป็นอีกหนึ่ง Documentary ที่ถ่ายทอดออกมาได้น่าสนใจอีกเรื่องนึงเลยทีเดียวสำหรับ Coded Bias จาก Netflix

เรื่องราวที่เกี่ยวปัญหา Bias ความอคติจาก Code ของเทคโนโลยีทางด้าน AI ที่เป็นปัญหาสั่งสมมานานแสนนาน และยังไม่มีทีท่าว่าจะแก้ปัญหาเหล่านี้ได้เลย

เป็นเรื่องราวที่ถ่ายทอดเรื่องราวผ่าน Joy Buolamwini ที่เป็นนักศึกษาผิวสี PhD Candidate ที่ MIT Media Lab ที่มีความฝันในการสร้างสรรค์นวัตกรรมใหม่ผ่านเทคโนโลยีอย่าง Computer Vision

ซึ่งต้นตอปัญหาที่เธอพบเจอคือ เทคโนโลยีอย่าง Facial Recognition ที่พบว่า เทคโนโลยีที่มีอยู่ในปัจจุบัน นั้นไม่สามารถจดจำหน้าเธอได้ แต่เมื่อเธอใส่หน้ากากสีขาวครอบไปที่ใบหน้าของเธอ มันกลับทำงานได้ซะอย่างงั้น

เธอจึงได้เริ่มขุดลึกเข้าไปถึง Data Set ที่นำมาใช้ Training ให้กับ AI ได้เรียนรู้ผ่านเทคโนโลยีอย่าง Facial Recognition ซึ่งเธอพบว่า ชุดข้อมูลจำนวนมากส่วนใหญ่จะเป็นภาพผู้ชาย และส่วนใหญ่จะเป็นคนผิวสีอ่อน

เธอได้ตัดสินใจลองกับระบบอื่น ๆ ที่ใช้กันอย่างกว้างขวางในปัจจุบัน ว่ามันจะเป็นอย่างที่เธอคิดหรือไม่

ซึ่งเธอได้ทดลองกับเทคโนโลยี AI ของ IBM, Microsoft , Google หรือ Facebook เองก็ตามที ปรากฏว่า Algorithm เหล่านี้ สามารถจับภาพใบหน้าผู้ชายได้ดีกว่าผู้หญิงจริง ๆ และที่สำคัญ สามารถจับภาพใบหน้าคนผิวสีอ่อนได้มากกว่าใบหน้าของคนผิวสีเข้มได้แตกต่างอย่างมีนัยยะสำคัญ

นั่นเลยทำให้ข้อตอบข้อสงสัยของเธอเกี่ยวกับ Algorithm เหล่านี้ ว่า มันคงไม่คุ้นเคยกับใบหน้าแบบเธอ ซึ่งเป็นคนผิวสี เธอจึงได้เริ่มศึกษาเรื่องของปัญหาความอคติที่แทรกซึมเข้าไปในโลกเทคโนโลยีได้อย่างไม่น่าเชื่อ

Joy Buolamwini ที่เข้ามาศึกษาคว้าคว้าเรื่องอคติของ AI อย่างจริงจัง (CR:WXXI.org)
Joy Buolamwini ที่เข้ามาศึกษาคว้าคว้าเรื่องอคติของ AI อย่างจริงจัง (CR:WXXI.org)

AI ได้ก่อกำเนิดขึ้นครั้งแรกจากการประชุมที่คณะคณิตศาสตร์ในมหาวิทยาลัยดาร์ตมัธ ในปี 1956 ซึ่งต้องบอกว่า กลุ่มคนในรุ่นนั้น มีเพียงแค่ 100 คนจากประชากรทั้งโลกที่เข้าไปมีบทบาทกับ AI ในยุคเริ่มต้น

ซึ่งคนกลุ่มหนึ่งในยุคนั้น ได้ตัดสินใจว่า เทคโนโลยีใหม่อย่าง AI จะมีการโชว์ให้โลกเห็นผ่านทางทักษะการเล่นเกม โดยเฉพาะอย่างยิ่งในเกมหมากรุก

นั่นเองได้เป็นที่มาให้เกิดการประชันหน้าครั้งแรกระหว่าง AI กับมนุษย์ในเกมหมากรุก ซึ่ง คาสปารอฟ แชมป์หมากรุกโลกชาวรัสเซีย ได้พ่ายแพ้ให้กับ Deep Blue ซุปเปอร์คอมพิวเตอร์ของ IBM

และมันส่งผ่านถึงยุคปัจจุบันโดยตรง กับแนวคิดเกี่ยวกับเทคโนโลยี AI ในปัจจุบันที่เราคิดว่ามันปรกติ แต่ที่จริงแล้ว มันเป็นแนวคิดที่มาจากกลุ่มคนที่เล็กมาก และไม่มีความหลากหลายเอาเสียเลย

ซึ่งแน่นอนว่า กลุ่มคนกลุ่ม ๆ แรกก็เป็นมนุษย์ ซึ่งมีอคติในเรื่องราวต่าง ๆ ในจิตใจเป็นทุนเดิมอยู่แล้ว และคนเหล่านี้ก็นำมาใส่มันลงไปในเทคโนโลยีอย่าง AI

ซึ่งนั่นเองมันได้นำไปสู่การพัฒนาเทคโนโลยีอย่าง Machine Learning ที่มีการใช้งานกันอย่างแพร่หลายในทุก ๆ อุตสาหกรรมในปัจจุบัน

Machine Learning เป็นระบบการให้คะแนนความน่าจะเป็นของสิ่งที่เราจะกระทำในอนาคต เราจะชดใช้หนี้หรือไม่ เราจะถูกไล่ออกจากงานหรือไม่ ฯลฯ

ซึ่งแน่นอนว่า Machine Learning มันได้หยั่งรากลึกไปยังทุก ๆ ส่วนของการดำรงชีวิตของมนุษย์เรา ซึ่งทำให้ในตอนนี้น้อยคนนักที่จะรู้ว่า มันมีอำนาจมากกว่า สิ่งใด ๆ ที่มนุษย์เคยสร้างขึ้นมาในประวัติศาสตร์มนุษยชาติ

ซึ่งต้องบอกว่าโครงสร้างทางคณิตศาสตร์ของอัลกอริธึมที่อยู่เบื้องหลังสิ่งเหล่านี้ มันไม่ได้เหยียดผิว หรือ เหยียดเพศด้วยตัวมันเอง แต่ข้อมูลมันแฝงด้วยข้อมูลในอดีต ซึ่งเราไม่ควรที่จะเชื่อมั่นใน Big Data เหล่านี้แบบ 100% เราต้องคอยตรวจสอบกระบวนการทั้งหมด อยู่เรื่อย ๆ ว่า มันมีอคติหรือไม่

ตัวอย่างที่น่าสนใจที่กำลังนำไปใช้แพร่หลายทั่วโลกในขณะนี้ ก็คือ ระบบกล้องวงจรปิดที่ กำลังรุกล้ำเสรีภาพของประชาชน ซึ่งระบบเหล่านี้ จะแจ้งตำรวจเมื่อเจอคนที่คิดว่าตรงกับผู้ร้ายในฐานข้อมูล

ซึ่งตัวอย่างในประเทศอังกฤษที่เริ่มนำเอาเทคโนโลยีนี้มาใช้ พบว่าการตรวจสอบใบหน้าที่ตรงกับรายชื่อในฐานข้อมูลนั้น มีถึง 98% ที่ตีตราคนบริสุทธิ์ให้กลายเป็นคนร้ายอย่างไม่ถูกต้อง

และที่สำคัญก็คือ การเดินผ่านกล้องเหล่านี้เมื่อมันจับภาพได้ ก็จะทำให้ภาพของเราไปอยู่ในฐานข้อมูลของตำรวจ ซึ่งก็ไม่ต่างจากการมีลายนิ้วมือ หรือ DNA อยู่ในฐานข้อมูลของตำรวจนั่นเอง

และแน่นอนว่า ตำรวจไม่สามารถที่จะเก็บลายนิ้วมือหรือ DNA แบบสุ่มสี่สุ่มห้าได้ มันมีกฏหมายรองรับในเรื่องนี้อยู่ แต่ตอนนี้ ข้อมูลจากภาพวงจรปิด ทำให้พวกเขาสามารถเก็บข้อมูลภาพใครก็ได้ แล้วนำไปใส่ในฐานข้อมูลได้ทันที

หรือแม้กระทั่งในปัจจุบันที่มีข้อมูลมหาศาลอยู่บนโลกออนไลน์ ซึ่งบริษัทใหญ่ ๆ ไม่ว่าจะเป็น Facebook , Google หรือ Microsoft นำมาใช้ในการเรียนรู้ผ่านเทคโนโลยีอย่าง Machine Learning ซึ่งมันได้ผลที่ดีมาก

แต่สิ่งที่ตกใจก็คือ ส่วนใหญ่จะมีแต่คนที่ใช้มัน โดยไม่ได้เข้าใจมันจริง ๆ ว่ามันทำงานยังไง และทำไมมันถึงได้ผล หรือแม้กระทั่งข้อผิดพลาดต่าง ๆ ที่เกิดขึ้น ซึ่งน้อยคนนักจะเข้าใจมัน แม้กระทั่งวิศวกรระดับอาวุโสของบริษัทใหญ่ ๆ เหล่านี้ก็ตามที

มีข้อมูลที่น่าสนใจก็คือ มีประชากรกว่า 117 ล้านคนในสหรัฐอเมริกา ที่มีใบหน้าอยู่ในเครือข่ายระบบตรวจจับใบหน้า ที่ตำรวจสามารถค้นดูได้ โดยใช้อัลกอริธึม ที่อาจจะไม่แม่นยำ 100% โดยที่แทบจะไม่มีความคุ้มครองหรือข้อบังคับใด ๆ

แน่นอนว่ามันเปรียบเสมือนการสร้างรัฐสอดแนมมวลชนได้อย่างง่ายดาย เหมือนที่ประเทศจีนทำ แต่ตอนนี้มันกำลังเกิดขึ้นในดินแดนเสรีภาพ ที่มีประชาธิปไตยที่เปี่ยมล้นอย่างประเทศสหรัฐอเมริกาแล้ว

และสิ่งที่น่ากลัวที่สุดอีกอย่างก็คือ AI มันอยู่ใน Social Media แพล็ตฟอร์มที่คนทั่วโลกเสพกันอย่างหนัก ติดกันอย่างบ้าคลั่ง อัลกอริธึม AI เหล่านี้ พยายามทุกวิถีทางที่จะให้เราอยู่ในแพล็ตฟอร์มให้นานที่สุด และทำเงินจากเราให้ได้มากที่สุด และที่สำคัญ มันส่งผลทุกอย่างต่อมุมมองที่เรามีต่อโลกใบนี้ผ่านน้ำมือของอัลกอริธึมเหล่านี้นั่นเอง

ซึ่งรวมถึงเรื่องการโฆษณาบนอินเทอร์เน็ต จาก Brand ยักษ์ใหญ่ต่าง ๆ ใน บริการแพล็ตฟอร์มทาง Social Media ที่ต้องแย่งความสนใจจากผู้คน แต่ไม่ใช่ทุกคน พวกเขาอยากให้โฆษณาไปปรากฏ เตะตา ให้กับคนรวยมากกว่า

ส่วนกลุ่มคนจนรายได้น้อย มักจะเป็นเหยื่อของการโฆษณาในธุรกิจที่จ้องแต่จะเอาเปรียบ เช่น การปล่อยกู้นอกระบบ เจ้ามือพนัน ซึ่งเป็นพวกที่ล้วนจ้องที่จะเอาเปรียบแบบสุด ๆ ซึ่งนั่นทำให้เกิดความเหลื่อมล้ำในโลกเราเพิ่มมากขึ้น แต่ด้วยการที่ไม่มีใครคอยควบคุมมันได้ มันจึงทำงานได้แบบอัตโนมัติจนกลายเป็นเรื่องปรกติของสังคมนั่นเอง

ต้องบอกว่า ในยุคปัจจุบันนั้น สิ่งต่าง ๆ ที่เรากระทำบนโลกออนไลน์ ล้วนถูกจับจ้อง ถูกตามรอย ถูกประเมิน ทุก ๆ การกระทำที่เราได้ทำไป ล้วนถูกจับตาดูด้วยความระมัดระวัง และบันทึกไว้

ไม่ว่าจะเป็นภาพใดบ้าง ที่เราหยุดมอง และมองมันนานแค่ไหน ข้อมูลเหล่านี้ทำให้บริษัทเทคยักษ์ใหญ่รู้ถึงขนาดที่ว่า ตอนไหนที่ใครเหงา พวกเขาสามารถรู้ได้ว่าตอนไหนที่ใครซึมเศร้า เป็นคนชอบเก็บตัว หรือ เข้าสังคม มีอาการทางประสาทชนิดใด ซึ่งพวกเขามีข้อมูลเกี่ยวกับเรามากยิ่งกว่า ที่ใครจะเคยคาดคิดในประวัติศาสตร์มนุษยชาติ

และที่สำคัญข้อมูลเหล่านี้นั้น ได้ถูกนำไปวิเคราะห์อยู่แทบจะตลอดเวลา โดยจะถูกนำป้อนเข้าสู่ระบบ ซึ่งแทบจะไม่มีมนุษย์คอยควบคุมมันอยู่เลยด้วยซ้ำ ซึ่งพลังของเทคโนโลยี AI Machine Learning ที่อยู่เบื้องหลังระบบเหล่านี้ ทำให้มันคาดการณ์ได้แม่นยำมาขึ้นเรื่อย ๆ ว่าเราจะทำอะไร และ เราเป็นใคร

มีเรื่องที่น่าตลกอย่างนึง ถึงความอคติทางด้านการเหยียดเพศของ อัลกอริธึมทางด้าน AI Steve Wozniak ผู้ร่วมก่อตั้ง Apple พบว่า วงเงินที่เขาได้รับจากบัตรเครดิตนั้นสูงเป็นสิบเท่าของภรรยาของเขาแม้ทั้งคู่จะไม่ได้แยกบัญชีธนาคารหรือสิทธิครอบครองทรัพย์สินใด ๆ ก็ตาม

หรือ Case ที่เกิดขึ้นกับ Amazon ที่ได้รับบทเรียนที่เจ็บปวดจากอัลกอริธึม AI ที่ได้นำ AI มาช่วยในการจ้างงาน ซึ่งภายหลังพบว่ามันมีอคติต่อผู้หญิง

โมเดล AI ที่ Amazon ใช้นั้น ปฏิเสธใบสมัครงานทั้งหมดที่มาจากผู้หญิง ซึ่งใครก็ตามที่มีวิทยาลัยสำหรับสตรีในใบสมัครงาน ใครก็ตามที่เล่นกีฬาผู้หญิง อย่างเช่น โปโลน้ำหญิง จะถูกโมเดลนี้ปฏิเสธทันที

ผลกระทบที่เกี่ยวข้องกับอัลกอริธึม AI อีกวงการหนึ่งที่สำคัญมาก ๆ คือ วงการการเงิน Wall Street มีการวางเดิมพันกับชาวอเมริกัน มีบริษัทการเงินใช้อัลกอริธึมในการคัดเลือกการปล่อยเงินกู้ แต่กลับมองที่คนที่มีโอกาสล้มเหลวในชีวิตมากที่สุด

นั่นเป็นการเฟ้นหากลุ่มคนที่สามารถที่จะขอสินเชื่อซับไพรม์ได้ และเหล่าสถาบันทางการเงินก็พนันว่า พวกเขาเหล่านี้ จะไม่มีปัญญาจ่าย จากนั้นค่อยยึดทรัพย์สินที่จำนองไว้ ทำให้พวกเขาหมดตัว

ต้องบอกว่ามันเป็นอัลกอริธึมที่น่ากลัวมากที่ Wall Street คิดค้นขึ้น ที่ทำให้ชาวอเมริกันเกือบ 4 ล้านคนสูญเสียบ้านในวิกฤติทางการเงินในปี 2008 และในกลุ่มดังกล่าวเป็นคนผิวสีมากที่สุด ในประวัติศาสตร์ของประเทศสหรัฐอเมริกา

ชาวอเมริกันเกือบ 4 ล้านคนสูญเสียบ้านในวิกฤติทางการเงินในปี 2008 (CR:DW.com)
ชาวอเมริกันเกือบ 4 ล้านคนสูญเสียบ้านในวิกฤติทางการเงินในปี 2008 (CR:DW.com)

แม้กระทั่งเรื่องความยุติธรรมในการตัดสินของศาล ความ Bias ของอัลกอริธึมก็ยังเข้าไปแทรกซึมได้

มีการใช้เครื่องมืออย่าง Risk Assessment Tools ให้ผู้พิพากษารัฐเพนซิลเวเนียใช้ตัดสินโทษ ซึ่งเครื่องมือเหล่านี้ใช้อัลกอริธึมในการคำนวณความเสี่ยงที่จะกระทำผิดซ้ำของผู้ต้องหา โดยคำนึงถึง อายุ เพศ ความผิดก่อนหน้า และประวัติอาชญากรรมอื่น ๆ

นั่นทำให้เกิดข้อสงสัยว่า ระบบให้คะแนนเหล่านี้ ถูกสร้างขึ้นมาได้อย่างไร มันเกี่ยวข้องกับเชื้อชาติ หรือ ชนชั้นหรือไม่ ซึ่งมีรายงานการสอบสวนในประเด็นดังกล่าว แล้วพบว่า อัลกอริธึมเหล่านี้ มีความอคติทางเชื้อชาติ

ผลวิจัยพบว่าคนผิวสี จะได้รับคะแนนสูงเกินจริง ส่วนคนผิวขาวนั้นมีโอกาสได้รับคะแนนต่ำเกินจริงมากกว่า ซึ่งต้องบอกว่าเป็นเรื่องที่ซีเรียสมาก ๆ ที่มันกำลังรุกล้ำเข้ามาสู่วงการยุติธรรม และมีแนวโน้มที่จะถูกนำไปใช้มากขึ้นเรื่อย ๆ

ซึงจากตัวอย่างทั้งหมดจะเห็นได้ว่า Bias อัลกอริธึมเหล่านี้ กำลังส่งผลกระทบต่อชีวิตมนุษย์เรามากขึ้นเรื่อย ๆ แน่นอนว่า ทุกการดำเนินชีวิตของเราในอนาคต การเกิด การเรียน การศึกษา การหาชีวิตคู่ การกู้เงิน การสมัครงาน การโดนลงโทษทางด้านกฏหมาย Bias อัลกอริธึมเหล่านี้ กำลังคอยควบคุมชีวิตเราอยู่ในโลกแห่งความเป็นจริง

ซึ่งเทคโนโลยีด้าน AI เหล่านี้ มีความคิดเป็นของตนเอง ถึงแม้ว่าจะมีมนุษย์เป็นผู้เขียน Code ให้กับมันก็ตามที ดังนั้นมันคือจุดเปลี่ยนครั้งสำคัญที่ตอนนี้เราอาจจะอยู่ในโลกที่ มนุษย์เราเองนั้น ไม่สามารถที่จะไปควบคุมระบบเหล่านี้ได้อีกต่อไปแล้ว เพราะเป็นฝ่าย AI ต่างหากที่ควบคุมข้อมูลของพวกเราอยู่

แล้วคำถามที่ว่า AI จะมาทำงานแทนเรา และจะฉลาดกว่ามนุษย์ได้เมื่อไหร่? แต่ก่อนจะถึงจุดนั้น ต้องบอกว่าในตอนนี้เทคโนโลยีได้ก้าวข้ามและพิชิตจุดอ่อนของมนุษย์ไปได้แล้วนั่นเองครับผม

References : https://www.netflix.com/title/81328723


 


ติดตามสาระดี ๆ อัพเดททุกวันผ่าน Line OA


Line OA


Geek Forever’s Podcast


“Open Your World With Technology


AI , Blockchain และเทคโนโลยีใหม่ ๆ กำลังเข้ามามีบทบาทสำคัญในหลายธุรกิจ ทั้ง แวดวงการเงิน สุขภาพ หรือ งานด้านบริการต่าง ๆ ผมเป็นคนหนึ่งที่สนใจเกี่ยวกับ AI หรือ Machine Learning

Podcast ของผมจะเล่าเรื่องราวต่าง รวมถึงเรื่องที่ผมสนใจอื่น ๆ เช่น startup หนังสือ หนัง หรือ กีฬาฟุตบอล อยากชวนคนที่สนใจให้ลองมาติดตาม podcast ของผมกันด้วยนะครับ

ฟังผ่าน podbean
ฟังผ่าน podbean
ฟังผ่าน Apple Podcasts
ฟังผ่าน Apple Podcasts
ฟังผ่าน Google Podcasts
ฟังผ่าน Google Podcasts
ฟังผ่าน Spotify
ฟังผ่าน Spotify
ฟังผ่าน Youtube
ฟังผ่าน Youtube


ติดตาม ด.ดล Blog เพิ่มเติมได้ที่

Fanpage : www.facebook.com/tharadhol.blog
Blockdit : www.blockdit.com/tharadhol.blog
Twitter : www.twitter.com/tharadhol
Instragram : instragram.com/tharadhol
TikTok : tiktok.com/@geek.forever
Youtube : www.youtube.com/c/mrtharadhol
Linkedin : www.linkedin.com/in/tharadhol
Website : www.tharadhol.com