The Dark Side of SIRI

ถ้าคุณใช้ Apple และใช้บริการผู้ช่วยส่วนตัวอย่าง SIRI  หรือเป็นเจ้าของอุปกรณ์ที่ใช้ SIRI  ตอนนี้มีความเป็นไปได้ว่า จะมีบุคคลอื่นสามารถฟังเสียงของคุณได้ แม้จะเป็นเรื่องลับ  ๆ อย่าง เรื่องบนเตียงของคุณนั่นเอง

ซึ่ง พวกเขาอาจได้ยินการสนทนาที่คุณมีกับเจ้านายของคุณเกี่ยวกับกลยุทธ์การตลาดใหม่ หรือการแลกเปลี่ยนความคิดเห็นกับแพทย์ของคุณเกี่ยวกับปัญหาทางการแพทย์ที่เป็นส่วนตัวของคุณที่ไม่อยากให้มีใครรับรู้

และนั่นเป็นเรื่องราวที่เกิดขึ้นได้จากการรายงานของสำนักข่าวใหญ่อย่าง The Guardian ซึ่ง Apple whistleblower ได้ให้รายละเอียดว่า มีบริษัท Sub Contract ที่สามารถตรวจสอบเสียงของคำสั่ง SIRI ของผู้ใช้ได้ รวมถึงการบันทึกที่ไม่ได้มีไว้สำหรับฟังก์ชันการทำงานแบบปรกติของ SIRI

แม้ว่าทาง Apple จะรับรู้ถึงกระบวนการดังกล่าวแต่ทาง Apple  บอกว่ากระบวนการตรวจสอบทั้งหมดโดยบริษัท Sub Contract เหล่านี้ดูเหมือนจะไม่เป็นอันตรายสำหรับผู้ใช้งานทั่วไป

โดย Apple ได้บอกกับ The Guardian ว่าจะมีการส่งข้อมูลการเปิดใช้งานของ SIRI เพื่อที่ผู้ตรวจสอบจะมีการฟังคลิป ซึ่งโดยปกติจะใช้เวลาเพียงไม่กี่วินาทีและจะมีการถอด ID และชื่อผู้ใช้ของ Apple ออกไปนั่นเองเพื่อไม่ให้ระบุตัวตนถึงผู้ใช้งานได้

ซึ่งมีจำนวนน้อยกว่า 1 เปอร์เซ็นต์ของการเปิดใช้งาน SIRI ทั้งหมด ที่จะมีการอยู่ภายใต้กระบวนการนี้ Apple กล่างถึงเป้าหมายคือ เพื่อปรับปรุงความสามารถของ SIRI ในการทำความเข้าใจและช่วยเหลือผู้ใช้มีประสิทธิภาพมากยิ่งขึ้น

แต่ Apple ไม่ได้ระบุอย่างชัดเจนในเอกสารข้อมูลส่วนบุคคลที่ต้องมีกระบวนการดังกล่าวเข้ามาเกี่ยวข้อง ซึ่งอาจจะมีบริษัท หรือ ใครบางคนที่อาจจะฟังเสียงของคุณเมื่อมีการพูดคุยกับ SIRI

นอกจากนี้ Apple ยังไม่ได้ใช้ความพยายามในการว่าจ้าง Sub Contract ที่น่าเชื่อถือ หรือตรวจสอบให้แน่ใจว่าคลิปเสียงจาก SIRI นั้นไม่สามารถสืบหาไปยังตัวตนของผู้ใช้งานจริงได้ ซึ่งเป็นการละเมิดสิทธิส่วนบุคคลอย่างชัดเจน

“ มีคนไม่มากนักที่ทำงานอยู่ที่นั่นและจำนวนข้อมูลเสียงที่เรามีอิสระที่จะตรวจสอบดูค่อนข้างเป็นข้อมูลที่กว้างมาก” พวกเขากล่าวเสริมในภายหลังว่า“ มันดูไม่เหมือน Apple จะถูกกระตุ้นให้พิจารณาความเป็นส่วนตัวของผู้ใช้  ซึ่งหากมีใครบางคนที่มีเจตนาชั่วร้ายมันคงไม่ยากที่จะระบุไปยังคนผู้ใช้จริงได้ ” ข้อมูลจากแหล่งข่าวกล่าว

“ มีการบันทึกตัวอย่างจำนวนนับไม่ถ้วนที่มีการพูดคุยอย่างเป็นส่วนตัวระหว่างแพทย์และผู้ป่วย หรือแม้กระทั่งข้อตกลงทางธุรกิจ การติดต่อเรื่องคดีความที่ดูเหมือนจะเกิดขึ้น การเผชิญหน้าในเรื่องทางเพศและอื่น ๆ ” ผู้แจ้งเบาะแสกล่าว “ การบันทึกเหล่านี้มาพร้อมกับข้อมูลผู้ใช้ที่แสดงตำแหน่งรายละเอียดการติดต่อและข้อมูลแอพทั้งหมด”

ซึ่งการบันทึกข้อมูลเหล่านี้อาจใช้เวลานานกว่า 2-3 วินาที ตามที่ Apple ได้อธิบายออกมา แต่ผู้แจ้งเบาะแสกลับแจ้งว่า บางรายการมีการบันทึกในเวลาที่เกิน 30 วินาทีด้วยซ้ำ

ไม่น่าแปลกใจเลยที่ Apple อนุญาตให้มีมนุษย์มาคอยทบทวนเสียงที่บันทึกโดยผู้ช่วย AI อย่าง SIRI  เนื่องจากเรารู้แล้วว่า Amazon และ Google ก็ทำในสิ่งเดียวกันนั่นเอง

และดูเหมือนว่าผู้ช่วยดิจิทัลจะแพร่หลายมากขึ้นในอนาคต ซึ่งหมายความว่า บริษัทเหล่านี้อาจจะไม่หยุดที่จะพยายามทำให้เทคโนโลยีเหล่านี้สมบูรณ์แบบในเวลาอีกไม่นาน

ดังนั้นหาก Apple, Google, Amazon และยักษ์ใหญ่ด้านเทคโนโลยีอื่น ๆ มุ่งมั่นที่จะให้มนุษย์มาคอยตรวจสอบเสียงที่บันทึกโดยผู้ช่วย AI ของพวกเขา ซึ่งพวกเขาควรมุ่งเน้นไปที่การทำให้ระบบนี้สมบูรณ์แบบโดยไม่ละเมิดสิทธิส่วนบุคคลเสียก่อน เพราะข้อมูลเหล่านี้ที่ถูกเผยแพร่ออกไปนั้น บางส่วนเป็นข้อมูล Sensitive ซึ่งเหล่าผู้ใช้คงไม่อยากให้ถูกเผยแพร่ออกไปให้คนอื่นรู้นั่นเอง

References : 
https://www.theguardian.com/technology/2019/jul/26/apple-contractors-regularly-hear-confidential-details-on-siri-recordings


 


ติดตามสาระดี ๆ อัพเดททุกวันผ่าน Line OA


Line OA


Geek Forever’s Podcast


“Open Your World With Technology


AI , Blockchain และเทคโนโลยีใหม่ ๆ กำลังเข้ามามีบทบาทสำคัญในหลายธุรกิจ ทั้ง แวดวงการเงิน สุขภาพ หรือ งานด้านบริการต่าง ๆ ผมเป็นคนหนึ่งที่สนใจเกี่ยวกับ AI หรือ Machine Learning

Podcast ของผมจะเล่าเรื่องราวต่าง รวมถึงเรื่องที่ผมสนใจอื่น ๆ เช่น startup หนังสือ หนัง หรือ กีฬาฟุตบอล อยากชวนคนที่สนใจให้ลองมาติดตาม podcast ของผมกันด้วยนะครับ

ฟังผ่าน podbean
ฟังผ่าน podbean
ฟังผ่าน Apple Podcasts
ฟังผ่าน Apple Podcasts
ฟังผ่าน Google Podcasts
ฟังผ่าน Google Podcasts
ฟังผ่าน Spotify
ฟังผ่าน Spotify
ฟังผ่าน Youtube
ฟังผ่าน Youtube


ติดตาม ด.ดล Blog เพิ่มเติมได้ที่

Fanpage : www.facebook.com/tharadhol.blog
Blockdit : www.blockdit.com/tharadhol.blog
Twitter : www.twitter.com/tharadhol
Instragram : instragram.com/tharadhol
TikTok : tiktok.com/@geek.forever
Youtube : www.youtube.com/c/mrtharadhol
Linkedin : www.linkedin.com/in/tharadhol
Website : www.tharadhol.com