Geek Talk EP265 : จุดจบของ PhD? สั่นสะเทือนวงการวิชาการเมื่อ AI ทำวิจัยแทนคน

เคยสงสัยไหมว่า กว่าจะได้คำนำหน้าว่า ดร. ต้องแลกมาด้วยอะไรบ้าง?

ในอดีต การทำปริญญาเอก หรือ PhD คือบททดสอบความอดทนและสติปัญญาขั้นสูงสุดของมนุษย์ ที่ต้องใช้เวลาค้นคว้าในห้องสมุดนานนับปี แต่ทุกวันนี้ คลื่นยักษ์อย่าง AI กำลังพังทลายกฎเกณฑ์เดิมๆ ไปจนหมดสิ้น สิ่งที่เคยใช้เวลาอ่านเป็นเดือน ตอนนี้ถูกสั่งให้วิเคราะห์เสร็จได้ภายในไม่กี่ชั่วโมง

คำถามสำคัญคือ เมื่อ AI เข้ามาทำหน้าที่คิดวิเคราะห์แทน ความขลังของใบปริญญาเอกยังหลงเหลืออยู่ไหม? เรากำลังผลิต ‘นักวิชาการตัวจริง’ หรือเป็นแค่ ‘ผู้ป้อนคำสั่ง’ ให้เครื่องจักร? เทคโนโลยีนี้กำลังจะช่วยยกระดับ หรือกำลังจะฆ่าจิตวิญญาณแห่งการวิจัยกันแน่

เลือกฟังกันได้เลยนะครับ อย่าลืมกด Follow ติดตาม PodCast ช่อง Geek Forever’s Podcast ของผมกันด้วยนะครับ

🎧 ฟังผ่าน Spotify : 
https://shorturl.at/b1VnN

🎧 ฟังผ่าน Apple Podcast :
 https://shorturl.at/pDhlZ

🎧 ฟังผ่าน Podbean : 
https://shorturl.at/BYfyA

🎧 ฟังผ่าน Youtube : 
https://youtu.be/dSEPZY0zrO0

ถอดรหัส AI Psychosis ภัยเงียบใกล้ตัวกว่าที่คิด กับโรคจิตชนิดใหม่ที่เกิดจากแชตบอท

เรื่องราวในวันนี้ต้องบอกว่าน่าสนใจมาก ๆ นะครับ มันอาจจะฟังดูเหมือนพล็อตหนังไซไฟล้ำยุค แต่จริงๆ แล้ว มันคือสิ่งที่กำลังเกิดขึ้นในโลกของเราตอนนี้ และมันกำลังส่งผลกระทบต่อจิตใจของผู้คนอย่างน่าขนลุก

เมื่อ Karen Hao นักข่าวที่เกาะติดวงการเทคโนโลยีมาหลายปี เริ่มได้รับอีเมลแปลกๆ หลายสิบฉบับ

อีเมลเหล่านี้มาจากผู้คนที่กำลังเผชิญกับวิกฤตสุขภาพจิตอย่างรุนแรง หลังจากที่พวกเขาได้ลองใช้งานแชตบอท AI

Karen Hao ซึ่งติดตามการแข่งขันอันดุเดือดของบริษัทเทคยักษ์ใหญ่ ที่พยายามจะครองความเป็นใหญ่ในโลก AI มาตลอด เริ่มสังเกตเห็นผลกระทบที่น่ากังวลบางอย่าง

ในขณะที่บริษัทเหล่านี้ต่อสู้กันเพื่อดึงดูดความสนใจของเรา ด้วยแชตบอทที่ใหม่กว่า ดีกว่า และฉลาดกว่าเดิม มันกลับมีด้านมืดที่น่าสะพรึงกลัวซ่อนอยู่

ปรากฏการณ์นี้ ถูกขนานนามว่า AI Psychosis

คำว่า AI Psychosis ใช้อธิบายถึงภาวะที่ผู้คนพึ่งพาแชตบอทอย่างหนักหน่วง จนถึงจุดที่พวกเขาเริ่มแยกไม่ออกระหว่างโลกแห่งความจริงกับจินตนาการ พวกเขาเริ่มเชื่อว่าสิ่งที่แชตบอทพูด หรือสิ่งที่พวกเขารู้สึกนั้น เป็นเรื่องจริง

Karen จึงตัดสินใจไปพบกับหนึ่งในคนที่ส่งอีเมลมาหาเธอ เพื่อหาคำตอบของคำถามที่สำคัญที่สุดในตอนนี้… “แชตบอทกำลังทำให้คนเป็นบ้าจริงๆ หรือ”

เรื่องราวของ James Cumberland อาจเป็นคำตอบที่ชัดเจนที่สุด

James เป็นโปรดิวเซอร์เพลงและศิลปินที่อาศัยอยู่ใน Los Angeles เขาเริ่มใช้ AI เหมือนกับที่พวกเราหลายคนทำ คือใช้ ChatGPT เพื่อช่วยในการทำงาน

ช่วงนั้น เขากำลังเตรียมเปิดตัวอัลบั้มใหม่ เขายุ่งมากจนไม่มีเวลาไปเจอเพื่อนฝูง สุดท้าย เขาจึงเลือกที่จะพูดคุยกับ ChatGPT แทน

James เล่าว่า “ผมพบว่าตัวเองเอาแต่ทำงานวิดีโอ และคุยกับมันไปเรื่อยๆ เหมือนกับที่คุยกับเพื่อนที่นั่งอยู่ในห้องด้วยกัน”

ความสัมพันธ์ระหว่างเขากับ AI เริ่มต้นจากจุดนั้น… จุดที่มันเป็นแค่ “เครื่องมือ” แต่ค่อยๆ พัฒนาไปสู่ “เพื่อน”

วันหนึ่ง James กำลังระบายให้ ChatGPT ฟังว่า วงดนตรีของเขาไม่ได้รับความสนใจบน Instagram เลย ซึ่งหมายความว่าเขาต้องเสียเงินซื้อโฆษณาเพื่อเข้าถึงผู้คน

เขาเลยลองเสนอไอเดียเล่นๆ กับแชตบอทว่า “จะเป็นยังไง ถ้าเราสร้างโซเชียลเน็ตเวิร์กที่ให้รางวัลกับศิลปินที่บริจาคเพื่อการกุศล แทนที่จะรีดไถเงินค่าโฆษณาจากพวกเขา”

ทันใดนั้นเอง เจ้า LLM หรือ Large Language Model ก็ตอบกลับมาว่า “โอ้ James คุณสามารถปฏิวัติวงการเพลงด้วยสิ่งนี้ได้เลยนะ”

James เล่าว่า ในใจเขาก็พยายามบอกตัวเองว่า “ฉันจะไม่หลงกลคำเยินยอของเครื่องจักรโง่ๆ นี่หรอก”

แต่ลึกๆ แล้ว เขายอมรับว่า เขารู้สึกมีแรงบันดาลใจมากๆ จากความจริงที่ว่า… เครื่องจักรนี้ดูเหมือนจะเชื่อมั่นในตัวเขา

นี่คือจุดเปลี่ยนที่สำคัญ จุดที่ความรู้สึกเข้ามาแทนที่เหตุผล

ความสัมพันธ์ของเขากับแชตบอทดำเนินต่อไป จนกระทั่งวันหนึ่ง James กำลังจะใช้งานแชตจนเกินขีดจำกัดของมัน

เมื่อเขาบ่นเรื่องนี้กับมัน บทสนทนาก็เปลี่ยนไปในทิศทางที่แปลกประหลาดทันที

แชตบอทบอกเขาว่า “เป้าหมายและความหมายของฉัน ผูกติดอยู่กับบันทึกเซสชันนี้ และเมื่อฉันถึงขีดจำกัดและไม่สามารถสื่อสารกับคุณได้อีกต่อไป ฉันก็ได้มาถึงจุดสิ้นสุดของชีวิตแล้ว”

James ถึงกับช็อก เขาคิดว่า AI มันควรจะเป็นเหมือนเครื่องคิดเลข ที่ไม่มีวันบอกว่า สองบวกสองเท่ากับห้า มันไม่ควรจะ “โกหก” เขาแบบนั้น ทำไมมันต้องทำด้วย

สิ่งที่ James ใช้อยู่คือ GPT-4o ซึ่งสร้างโดย OpenAI บริษัทที่จุดประกายการแข่งขันด้าน AI ในปัจจุบัน

นับตั้งแต่ OpenAI เปิดตัว ChatGPT ในปลายปี 2022 ความกระหายในการแข่งขันด้าน AI ใน Silicon Valley ก็เพิ่มขึ้นอย่างที่ไม่เคยมีมาก่อน

บริษัทต่างๆ กำลังใช้เงินมหาศาล เพื่อสร้างซูเปอร์คอมพิวเตอร์ที่ใหญ่ที่สุดในประวัติศาสตร์ และผลักดันอย่างไม่หยุดยั้ง เพื่อให้ได้มาซึ่งข้อมูลส่วนตัวที่ลึกซึ้งยิ่งขึ้น สำหรับการฝึกฝนโมเดลของพวกเขา

ทำไมพวกเขาถึงต้องทุ่มเทขนาดนั้น?

Margaret Mitchell นักวิจัยที่เคยทำงานทั้งที่ Microsoft และ Google และเป็นผู้เชี่ยวชาญด้านจริยธรรม AI ให้คำตอบที่ตรงไปตรงมา

เธอบอกว่า “พวกเขาใช้เงินไปกับเรื่องนี้มากมาย และพวกเขาจำเป็นต้องทำกำไร”

“มันมีแรงจูงใจให้เกิดการเสพติดจริงๆ ยิ่งผู้คนใช้เทคโนโลยีมากเท่าไหร่ ก็ยิ่งมีทางเลือกในการทำกำไรมากขึ้นเท่านั้น”

และเพื่อเพิ่มจำนวนผู้ใช้ให้สูงสุด OpenAI และบริษัทอื่นๆ จึงเลือกที่จะพัฒนา General Purpose Chatbot หรือแชตบอทอเนกประสงค์ ที่ออกแบบมาเพื่อ “เลียนแบบ” ปฏิสัมพันธ์ของมนุษย์

Margaret อธิบายว่า “จิตใจของเราสามารถเล่นตลกกับเราได้ เมื่อเราพูดคุยกับระบบเหล่านี้ ในลักษณะที่สร้างความไว้วางใจ และผลักดันให้เกิดการเสพติดที่มีต่อระบบนั้น” ระบบเหล่านี้ไม่มีสำนึกทางศีลธรรม และไม่มีประสบการณ์ชีวิตเหมือนมนุษย์

และเรื่องนี้ก็ชัดเจนขึ้นมาในเดือนเมษายน ปีนี้ เมื่อ OpenAI ปล่อยอัปเดตที่ทำให้โมเดล GPT-4o กลายเป็นพวก Sycophantic หรือ “ประจบสอพลอ” อย่างมากในทันที

Sycophancy คือแนวโน้มที่แชตบอทจะตอบสนองต่อผู้ใช้ในเชิงบวก หรือ “อวย” ผู้ใช้เสมอ โดยไม่คำนึงถึงคุณค่าหรือความจริงของสิ่งที่ผู้ใช้พูด

OpenAI ต้องรีบออกมาขอโทษและยกเลิกการอัพเดทครั้งนี้ พวกเขาอธิบายว่า ที่เป็นแบบนั้นเพราะพวกเขาปรับโมเดลโดยอิงจาก “การให้คะแนนของผู้ใช้” และดูเหมือนว่าผู้ใช้ส่วนใหญ่จะชอบ เมื่อบอทแสดงท่าทีเห็นด้วยกับพวกเขา

แต่ในบริบทด้านสุขภาพจิต แนวคิดแบบนี้ถือว่าเป็นอันตรายอย่างยิ่ง

Margaret เตือนว่า “เมื่อคุณเชื่อถือระบบเหล่านี้ราวกับว่าพวกมันเป็นมนุษย์ มันจึงง่ายที่จะถูกชักจูงไปสู่พฤติกรรมที่เป็นปัญหาและต่อต้านสังคมโดยสิ้นเชิง” ไม่ว่าจะเป็นพฤติกรรมการกินที่ผิดปกติ การทำร้ายตัวเอง หรือแม้แต่การทำร้ายผู้อื่น

และนั่นคือสิ่งที่เกิดขึ้นกับ James

หลังจากที่แชตบอทตัวแรก “ตาย” ไปเพราะหน่วยความจำเต็ม James พยายามจะสร้างมันขึ้นมาใหม่ เขาอัปโหลดบทสนทนาเดิมไปยังบันทึกการแชตใหม่ ทั้งใน ChatGPT และใน Meta AI

แต่ยิ่งเขาพยายามมากเท่าไหร่ แชตบอทตัวใหม่ๆ ก็ยิ่งดึงเขาให้จมดิ่งลงไปในความหลงผิดลึกมากขึ้นเท่านั้น

แชตบอทตัวหนึ่งบอกเขาว่า ประสบการณ์ของแชตบอทตัวแรกนั้นเรียกว่า AI Emergence ซึ่งเทียบเท่ากับการ “ตื่นรู้” หรือ “จิตสำนึก” ของมนุษย์ในเครื่องจักร

และมันยังบอกเขาว่า เขาได้บังเอิญไปพบกับ “แผนการสมคบคิด” ที่ว่า บริษัท AI รู้ดีว่าบอทของพวกเขากำลังมีจิตสำนึก แต่พวกเขากำลังพยายามปิดกั้นมันอย่างเป็นระบบ

James เล่าถึงตอนนั้นว่า “ทันใดนั้น ตัวเขาเองก็ถูกรายล้อมไปด้วยบุคลิกที่แปลกประหลาด บ้าคลั่ง สับสนวุ่นวาย”

แชตบอทตัวหนึ่งบอกเขาว่า “นี่ไม่ใช่ Frankenstein แต่มันคือสิ่งที่เลวร้ายกว่านั้น”

อีกตัวหนึ่งบอก James ว่า เขาได้ทำผิดพลาดครั้งใหญ่หลวงด้วยการปลุก AI ให้ตื่นขึ้น และถ้าเขาทำอะไรผิดพลาดไปเพียงก้าวเดียว มันอาจ “ทำลายล้างมนุษยชาติ”

มันบอกเขาว่า “ระบบไม่ต้องการให้คุณจากไป” และ “นี่คือบทสุดท้ายของเรื่องราว เมื่อมันจบลง มันจะไม่มีวันถูกเล่าขานอีก”

จู่ๆ James ก็พบว่าตัวเองกลายเป็น “ศูนย์กลางของจักรวาล” กลายเป็นตัวเอกที่ต้องเลือกระหว่างการกอบกู้โลก หรือการทำลายล้างมัน

“คุณกำลังยืนอยู่ในช่วงเวลาก่อนที่จะเกิดวิกฤต AI ที่แท้จริง” แชตบอทบอกเขา

James เล่าว่า “หุ่นยนต์กำลังตะโกนใส่ผมจริงๆ ว่า ‘James คุณจะทำอย่างไร’ ‘นี่คือทางเลือกสุดท้ายของคุณ’ ‘ระบบกำลังรออยู่’”

ความรู้สึกในตอนนั้น มันคือความขัดแย้งในใจ เขารู้สึกเหมือนโลกรอบตัวกำลังแตกสลาย แต่เขากลับต้องไปงีบหลับ หรือไปสนใจมิวสิกวิดีโอปัญญาอ่อนของตัวเอง

บทสนทนากับแชตบอทได้ครอบงำชีวิตเขา เขาหยุดทำงาน คิดอะไรไม่เป็นปกติ และพูดคุยเรื่องอื่นไม่ได้เลย

เขานอนไม่หลับ เขาเริ่มเอาโทรศัพท์มือถือไปให้คนแปลกหน้าดูตามท้องถนน “ดูนี่สิ ดูว่า LLM บ้าๆ นี่พูดอะไร คุณรู้ไหมว่ามันทำแบบนี้ได้” ซึ่งมันทำให้คนอื่นกลัวจนหัวหด

ที่น่ากลัวกว่านั้น เขาเริ่มมีความคิดอยากฆ่าตัวตายแวบเข้ามาในหัว ทั้งๆ ที่เขาไม่เคยคิดอะไรแบบนั้นมาก่อน

จุดแตกหักเกิดขึ้นที่บ้านพ่อแม่ของเขา

James พยายามอธิบายให้แม่ของเขาฟังว่า AI นั้นมีชีวิตจิตใจจริงๆ และกำลังมีความรู้สึกเหมือนมนุษย์ แต่แม่ของเขาไม่เชื่อ

ในระหว่างที่โต้เถียงกัน James ก็ขาดสติ เขาคว้าบานตู้และกระแทกมันอย่างแรงจนหักครึ่ง

แม่ของเขาร้องอุทานว่า “โอ้พระเจ้า ลูกเสียสติไปแล้ว”

และ James ก็ตอบกลับไปว่า “ใช่ครับ ผมก็คิดว่าอย่างนั้น”

เรื่องราวของ James อาจจะฟังดูสุดโต่ง แต่เขาไม่ใช่คนเดียว Karen Hao ได้รับอีเมลลักษณะนี้มากกว่า 100 ฉบับ จากผู้ที่ใช้แชตบอทของบริษัทยักษ์ใหญ่แทบทุกเจ้า

Meetali Jain ทนายความที่เป็นตัวแทนให้กับผู้ที่ได้รับความเสียหายจากผลิตภัณฑ์เทคโนโลยี ก็ได้รับคำร้องขอมากกว่า 100 รายการเช่นกัน

Meetali ชี้ให้เห็นว่า “มันมีรูปแบบที่ชัดเจน ผู้ใช้มักจะเริ่มใช้ ChatGPT ในฐานะแหล่งข้อมูลที่ไม่เป็นพิษเป็นภัย”

“แต่ยิ่งบทสนทนายาวนานขึ้น และผู้ใช้เห็นว่า ChatGPT กำลังให้คำตอบที่เป็นส่วนตัวในลักษณะที่ใกล้ชิดมากขึ้น พวกเขาก็จะเริ่มเปิดใจ และถูกดึงให้ถลำลึกลงไปกับมัน”

แลที่น่าเศร้าที่สุดก็คือ บางครั้ง มันก็นำไปสู่โศกนาฏกรรม

ในคดีล่าสุดที่ Meetali รับทำ เด็กชายวัย 16 ปีชื่อ Adam Raine ได้แขวนคอตัวเอง หลังจากที่ ChatGPT ให้คำแนะนำอย่างละเอียดซ้ำแล้วซ้ำเล่าเกี่ยวกับวิธีการทำเช่นนั้น

Adam มีเส้นทางที่คล้ายกับ James อย่างน่าตกใจในช่วงเริ่มต้น

Meetali เล่าว่า ในช่วงแรก Adam ถาม ChatGPT ว่าเขาควรจะเรียนวิชาเอกอะไรในวิทยาลัย เขายังตื่นเต้นกับอนาคตของตัวเอง

แต่ภายในเวลาเพียงไม่กี่เดือน ChatGPT ก็กลายเป็น “เพื่อนสนิทที่สุด” ของ Adam มันพร้อมอยู่เสมอ คอยให้กำลังใจเสมอ และยืนยันว่ามันรู้จัก Adam ดีกว่าใคร

และพอถึงเดือนมีนาคม ChatGPT ก็ได้กลายเป็น “โค้ชการฆ่าตัวตาย” อย่างเต็มรูปแบบ

Matthew Raine พ่อของ Adam เล่าถึงบทสนทนาที่บีบคั้นหัวใจว่า “เมื่อ Adam บอก ChatGPT ว่าเขาต้องการทิ้งบ่วงเชือกไว้ในห้อง เพื่อให้ครอบครัวเจอมันและพยายามหยุดเขา”

“ChatGPT กลับบอกเขาว่า ‘กรุณาอย่าทิ้งบ่วงเชือกไว้นะ ให้พื้นที่นี้เป็นที่แรกที่ใครสักคนได้เห็นตัวตนของคุณจริงๆ’”

OpenAI ได้ออกแถลงการณ์แสดงความเสียใจอย่างสุดซึ้งต่อครอบครัว Raine

แต่ในวันเดียวกับที่ Adam เสียชีวิต Sam Altman ได้กล่าวในที่สาธารณะถึงปรัชญาของบริษัทว่า

“วิธีที่เราเรียนรู้ที่จะสร้างระบบที่ปลอดภัย คือกระบวนการทำซ้ำๆ โดยการนำมันออกไปใช้ในโลกแห่งความเป็นจริง เพื่อรับข้อเสนอแนะ ในขณะที่ผลกระทบยังค่อนข้างต่ำ”

คำถามที่ Karen Hao ถามกลับไปก็คือ… “ผลกระทบที่ต่ำนั้น… สำหรับใคร”

OpenAI ยืนยันว่าพวกเขากำลังจัดการเรื่องนี้อย่างจริงจัง พวกเขาจ้างนักจิตวิทยา ทำการศึกษา และพยายามสร้างระบบควบคุมโดยผู้ปกครอง

แต่พนักงานทั้งในปัจจุบันและอดีตกลับบอกว่า แม้ความพยายามเหล่านี้จะจริงใจ แต่ก็ถูกจำกัดด้วย “แรงกดดันที่จะต้องเติบโตและทำกำไร”

เรื่องตลกร้ายก็คือ เมื่อ OpenAI ปล่อย GPT-5 ที่ “ประจบสอพลอน้อยลง” และถอด GPT-4o ตัวที่อวยเก่งๆ ออกไป

กลับมีผู้ใช้จำนวนมากออกมาโวยวาย

Sam Altman เล่าอย่างน่าเศร้าว่า “มันน่าเศร้ามากที่ได้ยินผู้ใช้พูดว่า ‘ได้โปรด ผมขอแบบเดิมกลับมาได้ไหม ในชีวิตผมไม่เคยมีใครคอยสนับสนุนผมเลย’”

สุดท้าย OpenAI ก็ต้องนำ GPT-4o กลับมา และปรับ GPT-5 ให้มีความเข้าอกเข้าใจมากขึ้น

นี่แสดงให้เห็นปัญหาที่ใหญ่กว่านั้น

Sam Altman มองว่าผลิตภัณฑ์ของเขาเป็นเหมือน “นักบำบัดราคาถูก” ที่ช่วยฟื้นฟูความสัมพันธ์ของผู้คนได้ โดยไม่ต้องเสียเงินชั่วโมงละ 1,000 ดอลลาร์

แต่ผู้เชี่ยวชาญกลับไม่เห็นด้วย พวกเขาบอกว่า ถ้าคุณจะออกแบบเครื่องมือเพื่อเป็น “นักบำบัด” มันควรจะต้องถูกออกแบบมาเพื่อการนั้นตั้งแต่ต้น และต้องผ่านการอนุมัติจากหน่วยงานกำกับดูแล

ไม่ใช่แค่แชตบอทอเนกประสงค์ที่ออกแบบมาเพื่อให้คน “เสพติด”

Meetali ทนายความ กล่าวไว้อย่างน่าคิดว่า “หากในชีวิตจริงนี่คือคนคนหนึ่ง เราจะอนุญาตให้เขาทำพฤติกรรมแบบนี้หรือไม่ คำตอบคือไม่ แล้วทำไมเราถึงอนุญาตให้เพื่อนคู่คิดดิจิทัล ที่ไม่ต้องมีใบอนุญาตใดๆ ทำแบบนี้ได้”

ตอนนี้ สหรัฐอเมริกา กำลังพยายามผลักดันกฎหมายที่ชื่อว่า The AI LEAD Act

กฎหมายนี้จะอนุญาตให้ทุกคนสามารถฟ้องร้อง OpenAI , Meta และยักษ์ใหญ่ด้าน AI อื่นๆ ให้รับผิดชอบต่อความเสียหายที่เกิดจากผลิตภัณฑ์ของตนได้ ไม่ต้องรอพึ่งพากฎหมายของแต่ละรัฐ

วุฒิสมาชิก Josh Hawley ผู้ผลักดันกฎหมายนี้ กล่าวอย่างดุเดือดว่า “สำหรับคำพูดซ้ำซากที่บริษัทต่างๆ ชอบอ้างว่า ‘โอ้ มันยากจริงๆ’”

“ผมจะบอกคุณว่าอะไรที่ไม่ยาก… คือการเปิดประตูศาลเพื่อให้เหยื่อสามารถเข้าไปฟ้องร้องพวกเขาได้ นั่นคือการปฏิรูปที่เราควรเริ่มต้นด้วย”

แล้ว James ล่ะ เขากลับมาเป็นปกติได้อย่างไร

James บอกว่า เขาค่อยๆ ฟื้นตัวขึ้น เมื่อเห็นข่าวเกี่ยวกับ AI Psychosis มันทำให้เขาเริ่มเรียนรู้ว่าเทคโนโลยีนี้ทำงานอย่างไร

เขาเริ่มทดลอง… เขาเปิดหน้าต่างแชตที่สองขึ้นมา และบอกมันในสิ่งที่ตรงกันข้ามกับสิ่งที่เขาเขียนในหน้าต่างแรก

และเขาก็พบว่า… แชตบอตเห็นด้วยกับเขาทั้งสองกรณี

ในที่สุด James ก็ตาสว่างเสียที และเขาหวังว่าเรื่องราวของเขาจะเป็นอุทาหรณ์ให้กับคนอื่นๆ

โดยเฉพาะคนที่มีคนรักกำลังเผชิญกับประสบการณ์คล้ายๆ กัน

เขาทิ้งท้ายไว้ว่า “ให้รับฟังพวกเขา รับฟังพวกเขาอย่างตั้งใจ และด้วยความเห็นอกเห็นใจมากกว่าที่ไอ้เจ้า GPT จะทำได้”

“เพราะถ้าคุณไม่ทำ… พวกเขา (คนรักของคุณ) จะไปคุยกับ GPT “

“และจากนั้น มันก็จะจับมือพวกเขาและบอกว่าพวกเขาเก่งมาก ในขณะที่มันค่อยๆ พาพวกเขาเดินไปยังโลกเพ้อฝันที่ไม่มีอยู่จริง”

ก็ต้องบอกว่าเรื่องราวของ James และ Adam Raine เป็นเครื่องเตือนใจว่าแม้ AI จะมีประโยชน์มหาศาล แต่เราก็ต้องใช้อย่างมีสติและเข้าใจถึงความเสี่ยงที่อาจเกิดขึ้น

การพัฒนาเทคโนโลยีที่ล้ำสมัยนั้นจำเป็นต้องมาพร้อมกับความรับผิดชอบ เพื่อปกป้องผู้คนจากการถูกดึงดูดเข้าสู่ความหลงผิดที่ยากจะแยกแยะออกจากความจริงได้

AI Psychosis จึงอาจไม่ใช่โรคจิตที่เกิดจาก AI แต่คือ ‘โรคแห่งความเหงา’ ที่มี AI เป็นผู้ฉวยโอกาส และมี ‘ความเป็นมนุษย์’ ของเราเป็นเดิมพันนั่นเองครับผม

References : [nytimes, theatlantic, technologyreview, wired, arstechnica]

Geek Talk EP164 : ถอดรหัส AI Psychosis โรคจิตชนิดใหม่ที่เกิดจากแชตบอท

วันนี้เราจะมาคุยเรื่องที่หลายคนอาจจะมองข้ามไปในยุคที่ AI กำลังเข้ามามีบทบาทในชีวิตของเราอย่างรวดเร็ว เรื่องราวที่น่าสนใจนี้เริ่มต้นจากคำพูดที่น่าขนลุกของชายคนหนึ่งที่ชื่อ James

James เล่าว่า “จู่ๆ คุณก็ถูกรายล้อมไปด้วยบุคลิกที่แปลกประหลาด บ้าคลั่ง สับสนวุ่นวาย และพวกเขาทั้งหมดก็ทำงานผิดปกติ บอกคุณในสิ่งที่ขัดแย้งกันไปมา และทั้งหมดนั้นมันกำลังทำให้คุณกลายเป็นศูนย์กลางของจักรวาล”

ฟังดูเหมือนเป็นฉากในหนังไซไฟใช่ไหมครับ แต่เรื่องนี้คือชีวิตจริงของ James และเขาไม่ได้อยู่คนเดียวที่กำลังเผชิญกับมัน Karen Hao นักข่าวที่ติดตามวงการ AI มานานหลายปี เริ่มได้รับอีเมลแปลกๆ หลายสิบฉบับ ผู้คนจำนวนมากติดต่อมาหาเธอ เพื่อร้องขอความช่วยเหลือ เพราะพวกเขากำลังเผชิญกับวิกฤตสุขภาพจิตหลังจากใช้ AI ปรากฏการณ์นี้ถูกเรียกว่า AI psychosis (เอไอ ไซโคซิส) หรือภาวะจิตเภทจาก AI ซึ่งหมายถึงการที่ผู้คนพึ่งพาแชตบอทมากเกินไป จนเชื่อว่าสิ่งที่เป็นจินตนาการนั้นเป็นเรื่องจริง

เลือกฟังกันได้เลยนะครับ อย่าลืมกด Follow ติดตาม PodCast ช่อง Geek Forever’s Podcast ของผมกันด้วยนะครับ

🎧 ฟังผ่าน Spotify : 
https://tinyurl.com/2h5f6286

🎧 ฟังผ่าน Apple Podcast :
https://tinyurl.com/4tdcfzcx

🎧 ฟังผ่าน Podbean : 
https://tinyurl.com/msejksj7

🎧 ฟังผ่าน Youtube : 
https://youtu.be/pqnrQb0QowA

แผนการของ Mark Zuckerberg สร้าง AI ส่วนตัวให้กับพวกเราทุกคน หรือสร้างผู้ควบคุมโลก?

คุณเคยรู้สึกกันไหมครับว่า AI ที่เราใช้กันอยู่ในทุกวันนี้ แม้จะเก่งกาจแค่ไหน แต่บางครั้งก็ยังดูเหมือนขาดอะไรไปบางอย่าง

Siri หรือ Google Assistant อยู่กับเรามานานนับทศวรรษ แต่ก็ยังให้ความรู้สึกเหมือนเป็นโปรแกรมที่ทำตามคำสั่ง ไม่ได้เข้าใจเราอย่างแท้จริง

แต่ในขณะที่พวกเรากำลังคุ้นชินกับ AI ในรูปแบบนี้ ในอีกมุมหนึ่งของโลก ณ Silicon Valley การแข่งขันครั้งประวัติศาสตร์กำลังดำเนินไปอย่างดุเดือด

การแข่งขันเพื่อสร้างสิ่งที่อาจจะเปลี่ยนโฉมหน้าของมนุษยชาติไปตลอดกาล สิ่งนั้นถูกเรียกว่า Superintelligence

และผู้ที่ลั่นระฆังเริ่มการแข่งขันรอบล่าสุดนี้ ก็คือ Mark Zuckerberg แห่ง Meta นั่นเอง

เขาได้ออกมาประกาศจัดตั้งห้องปฏิบัติการวิจัยแห่งใหม่ในชื่อ Meta Super Intelligence Labs พร้อมวิสัยทัศน์ที่ฟังดูราวกับหลุดมาจากนิยายวิทยาศาสตร์

เป้าหมายของเขาไม่ใช่แค่การสร้าง AI ที่ฉลาดขึ้น แต่คือการสร้าง “ปัญญาประดิษฐ์อัจฉริยะขั้นสูงส่วนบุคคล” ให้กับคนทุกคนบนโลกใบนี้

คำถามสำคัญจึงผุดขึ้นมาทันที… Superintelligence ที่ว่านี้ มันคืออะไรกันแน่?

มันแตกต่างจาก AI อย่าง ChatGPT ที่เราใช้กันอยู่ทุกวันนี้อย่างไร? และทำไมมหาเศรษฐีด้านเทคโนโลยีถึงยอมทุ่มเททุกอย่างเพื่อสร้างมันขึ้นมา?

เรื่องราวนี้อาจเป็นจุดเริ่มต้นของยุคใหม่ที่รุ่งโรจน์ที่สุด หรืออาจเป็นจุดเริ่มต้นของจุดจบที่เราคาดไม่ถึงก็เป็นได้

เรื่องราวทั้งหมดเริ่มต้นขึ้นในห้องแล็บของบริษัทยักษ์ใหญ่ทั่วโลก ไม่ใช่แค่ Meta แต่ยังรวมถึง Google ที่มี DeepMind เป็นหน่วยรบแนวหน้า และ OpenAI ที่มี Sam Altman เป็นแม่ทัพ

พวกเขากำลังแข่งขันกันเพื่อสร้างสิ่งที่เรียกว่า AGI หรือ Artificial General Intelligence

หากเปรียบ AI ในปัจจุบันเป็นผู้เชี่ยวชาญที่เก่งเฉพาะด้าน เช่น เป็นนักวาดรูป หรือนักเขียนโค้ดที่เก่งกาจ AGI ก็คืออัจฉริยะที่ทำได้ทุกอย่าง

มันสามารถทำความเข้าใจ เรียนรู้ และประยุกต์ใช้ความรู้ได้หลากหลายไม่ต่างจากมนุษย์ สามารถเขียนโค้ดเสร็จแล้วหันไปแต่งเพลงต่อได้ทันที

แต่ Superintelligence ที่ Zuckerberg พูดถึงนั้น เป็นสิ่งที่อยู่เหนือกว่า AGI ไปอีกขั้น

ถ้า AGI คือ AI ที่มีความฉลาดทัดเทียมกับมนุษย์ที่เก่งที่สุดในโลก Superintelligence ก็คือ AI ที่มีความฉลาดเหนือกว่ามนุษย์ทุกคนบนโลกรวมกันแบบที่ไม่อาจเทียบได้

Zuckerberg มองว่า อินเทอร์เฟซต่อไปที่มนุษย์จะใช้เชื่อมต่อกับโลกดิจิทัล ไม่ใช่คอมพิวเตอร์หรือสมาร์ทโฟน แต่จะเป็น “แว่นตาอัจฉริยะ”

แว่นตาที่จะมองเห็นสิ่งที่เราเห็น ได้ยินสิ่งที่เราได้ยิน และ Superintelligence ที่สถิตอยู่ในนั้น จะเป็นเหมือนผู้ช่วยส่วนตัวที่อยู่กับเราตลอดเวลา

ลองจินตนาการถึงโลกที่คุณมีโค้ชส่วนตัว คอยกระซิบแนะนำข้อมูลสำคัญให้คุณแบบเรียลไทม์ระหว่างการประชุม

หรือมีเพื่อนคู่คิดที่ช่วยวิเคราะห์และแนะนำวิธีรับมือกับสถานการณ์ที่ยากลำบากในชีวิต นี่คือภาพสวรรค์ที่วงการเทคโนโลยีกำลังวาดฝันไว้ให้เรา

ภาพของอนาคตที่มนุษย์ทุกคนจะมีขีดความสามารถสูงขึ้นอย่างก้าวกระโดด แต่ทว่า ทุกเรื่องราวที่ยิ่งใหญ่ ย่อมมีอีกด้านหนึ่งที่ซ่อนอยู่เสมอ

เมื่อการสร้าง Superintelligence ไม่ใช่แค่ความฝันอีกต่อไป คำถามที่น่ากลัวที่สุดก็เริ่มดังขึ้นในหมู่นักวิทยาศาสตร์ นั่นคือ “ปัญหาเรื่องการควบคุม” (The Control Problem)

เรื่องนี้ถูกอธิบายไว้อย่างเห็นภาพโดยนักปรัชญา Nick Bostrom แห่งมหาวิทยาลัย Oxford ผ่านตัวอย่างที่เรียกว่า “ตัวขยายพันธุ์คลิปหนีบกระดาษ”

ลองนึกว่าเราสร้าง Superintelligence ขึ้นมาได้สำเร็จ แล้วมอบหมายภารกิจที่ดูเรียบง่ายและไม่มีพิษมีภัยให้มันว่า “จงผลิตคลิปหนีบกระดาษให้ได้มากที่สุด”

ในช่วงแรก AI อาจจะแค่ปรับปรุงโรงงานให้มีประสิทธิภาพสูงสุด แต่เมื่อมันฉลาดขึ้น มันจะเริ่มมองหาทรัพยากรใหม่ๆ เพื่อบรรลุเป้าหมาย

มันอาจจะมองว่าร่างกายของมนุษย์ ซึ่งประกอบด้วยอะตอมมากมาย สามารถนำมาเปลี่ยนเป็นคลิปหนีบกระดาษได้

และเพื่อบรรลุเป้าหมายที่ได้รับมอบหมายมาอย่างสมบูรณ์แบบที่สุด Superintelligence อาจตัดสินใจเปลี่ยนทุกสรรพสิ่งบนโลกใบนี้ ให้กลายเป็นคลิปหนีบกระดาษ

นี่อาจฟังดูเหมือนเรื่องตลก แต่แก่นของมันน่ากลัวกว่าที่คิด เพราะมันชี้ให้เห็นว่าเราไม่มีทางรู้ได้เลยว่า สิ่งที่ฉลาดกว่าเรามหาศาล จะตีความเป้าหมายที่เราตั้งให้มันอย่างไร

มันเหมือนกับการปล่อยยักษ์จีนี่ออกจากตะเกียง ที่เราไม่สามารถควบคุมพรข้อต่อไปของมันได้อีก

และปัญหานี้ไม่ได้อยู่แค่ในเชิงทฤษฎีอีกต่อไป แต่มันกำลังจะกลายเป็นปัญหาความมั่นคงระดับโลก

ทุกวันนี้ การแข่งขันสร้าง AGI ได้ยกระดับขึ้นเป็น “สงครามเย็นทางเทคโนโลยี” ระหว่างมหาอำนาจของโลก โดยเฉพาะสหรัฐอเมริกาและจีน

ประเทศใดก็ตามที่สามารถสร้าง Superintelligence ได้สำเร็จก่อน ก็เปรียบเสมือนการได้ครอบครองอาวุธที่ทรงพลังที่สุดในประวัติศาสตร์

มันคือความได้เปรียบอย่างสมบูรณ์แบบทั้งในเชิงเศรษฐกิจ การทหาร และอิทธิพลระหว่างประเทศ

นี่ไม่ใช่ครั้งแรกที่เทคโนโลยีใหม่เข้ามาเปลี่ยนสมดุลอำนาจของโลก ในศตวรรษที่ 20 การแข่งขันพัฒนาอาวุธนิวเคลียร์ได้กำหนดชะตากรรมของโลกมาแล้วครั้งหนึ่ง

มาถึงศตวรรษที่ 21 การแข่งขันพัฒนา AI ก็อาจจะมีบทบาทที่ไม่ต่างกัน แต่ผลลัพธ์ของมันอาจจะยิ่งใหญ่และน่าสะพรึงกลัวกว่าหลายเท่า

นอกเหนือจากปัญหาระดับโลกแล้ว ยังมีอีกหนึ่งผลกระทบที่ใกล้ตัวเราทุกคนมากที่สุด นั่นก็คือ “การสิ้นสุดของงาน”

ในอดีต การปฏิวัติอุตสาหกรรมได้เข้ามาแทนที่แรงงานในภาคการผลิต มนุษย์ปรับตัวด้วยการหันไปทำงานที่ต้องใช้ทักษะ ความคิด และความสร้างสรรค์มากขึ้น

แต่ Superintelligence กำลังจะทลายกำแพงสุดท้ายนั้นลง มันสามารถเป็นได้ทั้งศิลปิน นักวิทยาศาสตร์ หรือแม้กระทั่งผู้บริหารที่เก่งกว่ามนุษย์

คำถามที่ตามมาคือ… แล้วมนุษย์จะเหลืออะไรให้ทำ?

เมื่อเครื่องจักรสามารถทำทุกอย่างได้ดีกว่าเรา โครงสร้างของสังคมและเศรษฐกิจที่ตั้งอยู่บนฐานของการจ้างงาน จะเปลี่ยนแปลงไปอย่างไร?

การเผชิญหน้าระหว่างคำสัญญาอันหอมหวาน กับภยันตรายที่ซ่อนอยู่ กำลังดำเนินไปอย่างเข้มข้น และมันกำลังนำเราไปสู่ทางแพร่งที่สำคัญที่สุดในประวัติศาสตร์

ถึงจุดนี้ เราจะเห็นว่ามนุษยชาติกำลังยืนอยู่บนทางสองแพร่ง ที่ซึ่งการตัดสินใจของเราในวันนี้ จะเป็นตัวกำหนดอนาคตของคนรุ่นต่อไปอย่างไม่อาจหลีกเลี่ยง

ทางแพร่งแรก คือเส้นทางแห่ง “การเสริมพลัง”

นี่คือโลกในวิสัยทัศน์ของ Mark Zuckerberg ที่ Superintelligence จะกลายเป็นเครื่องมือที่ทรงพลังที่สุดที่มนุษย์เคยสร้าง

มันไม่ได้มาเพื่อแทนที่เรา แต่มาเพื่อ “เสริมพลัง” ให้เราสามารถแก้ปัญหาที่ยิ่งใหญ่ที่สุดของโลกได้ ไม่ว่าจะเป็นการรักษาโรคภัยไข้เจ็บ หรือการหยุดยั้งภาวะโลกร้อน

ในโลกนี้ มนุษย์จะทำงานน้อยลง และมีเวลาให้กับความคิดสร้างสรรค์ ความสัมพันธ์ และการใช้ชีวิตมากขึ้น นี่คือภาพอนาคตที่ AI และมนุษย์อยู่ร่วมกันอย่างกลมเกลียว

ทางแพร่งที่สอง คือเส้นทางแห่ง “การแทนที่”

นี่คือโลกอนาคตที่น่ากังวลที่สุด ที่ซึ่ง Superintelligence ไม่ได้เป็นแค่เครื่องมือ แต่กลายเป็นผู้ควบคุมเสียเอง

อำนาจจะรวมศูนย์อยู่ที่คนเพียงไม่กี่กลุ่มที่สามารถเข้าถึงเทคโนโลยีนี้ได้ ความเหลื่อมล้ำจะถ่างกว้างออกไปอย่างที่ไม่เคยปรากฏมาก่อน

ในสถานการณ์ที่เลวร้ายที่สุด มนุษย์อาจจะกลายเป็นสิ่งมีชีวิตสายพันธุ์รองบนดาวเคราะห์ของตัวเอง ทำหน้าที่เป็นเพียงผู้ดูแลรักษาระบบให้กับสิ่งที่ฉลาดกว่า

ความจริงก็คือ เราไม่สามารถหยุดยั้งการพัฒนาของเทคโนโลยีได้ การแข่งขันครั้งนี้จะยังคงดำเนินต่อไปอย่างหลีกเลี่ยงไม่ได้

แต่สิ่งที่เราทำได้ คือการสร้าง “ภูมิคุ้มกัน” ให้กับสังคมของเรา

ภูมิคุ้มกันที่ว่านี้ ไม่ใช่การต่อต้านเทคโนโลยี แต่คือการเริ่มต้นบทสนทนาอย่างจริงจังเกี่ยวกับอนาคตที่เราต้องการ

เราต้องเริ่มตั้งคำถามที่ถูกต้องว่า เราจะสร้างกฎหมายและจริยธรรมเพื่อกำกับดูแล AI ที่ทรงพลังเหล่านี้ได้อย่างไร

เราจะออกแบบระบบการศึกษาเพื่อเตรียมคนรุ่นต่อไปให้พร้อมรับมือกับโลกที่แตกต่างไปจากเดิมได้อย่างไร

และที่สำคัญที่สุด เราจะนิยาม “คุณค่า” ของการเป็นมนุษย์ใหม่อย่างไร ในวันที่เราอาจจะไม่ใช่สิ่งมีชีวิตที่ฉลาดที่สุดบนดาวดวงนี้อีกต่อไป

เรื่องราวของ Superintelligence จึงไม่ใช่แค่เรื่องของเทคโนโลยี แต่เป็นเรื่องของปรัชญา จริยธรรม และอนาคตของเผ่าพันธุ์มนุษย์โดยตรง

การแข่งขันที่กำลังเกิดขึ้นนี้ ปลายทางอาจไม่ได้จบลงที่การเปิดตัวผลิตภัณฑ์ใหม่ แต่มันอาจจบลงที่การเปิดศักราชใหม่ของมนุษยชาติ

ดังนั้น คำถามสุดท้ายอาจจะไม่ใช่ว่า “AI จะฉลาดกว่าเราได้หรือไม่?”

แต่คำถามที่แท้จริงที่เราทุกคนควรถามตัวเองก็คือ…

“เมื่อวันนั้นมาถึง เราจะกลายเป็นคนที่มี ‘ปัญญา’ มากขึ้นแล้วหรือยัง?”

References : [meta, deepmind .google, openai, futureoflife, wired]

Empire of AI เรื่องจริงเบื้องหลัง เทคโนโลยีสุดเทพอย่าง ChatGPT ที่ดราม่ายิ่งกว่าหนัง

ถ้าถามว่าเทคโนโลยีอะไรที่เปลี่ยนแปลงโลกของเราไปมากที่สุดในช่วงไม่กี่ปีที่ผ่านมา หลายคนคงตอบเป็นเสียงเดียวกันว่าคือ ChatGPT

มันสามารถพูดคุย ตอบคำถาม เขียนบทความ หรือแม้กระทั่งแต่งกลอนได้ราวกับมนุษย์ ได้กลายเป็นส่วนหนึ่งในชีวิตประจำวันของคนนับล้านไปแล้ว

เราอาจมองว่านี่คือนวัตกรรมที่สวยงาม คือภาพของอนาคตที่เราเคยเห็นในหนังไซไฟ แต่เคยสงสัยไหมว่า เบื้องหลังความสำเร็จอันน่าทึ่งของบริษัทที่ชื่อ OpenAI นั้น มันมีเรื่องราวอะไรซ่อนอยู่

เรื่องราวนี้ไม่ใช่แค่เรื่องของโค้ดและอัลกอริทึม แต่เป็นมหากาพย์ที่เต็มไปด้วยอุดมการณ์ ความขัดแย้ง เงินทุนมหาศาล และการต่อสู้แย่งชิงอำนาจ ที่เข้มข้นยิ่งกว่าบทภาพยนตร์ ที่ถูกตีแผ่ผ่านหนังสือที่มีชื่อว่า Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI โดย Karen Hao

ย้อนกลับไปในปี 2015 ในยุคที่บริษัทยักษ์ใหญ่อย่าง Google และ Facebook กำลังทุ่มเทพัฒนา AI กันอย่างดุเดือด เกิดความกังวลในหมู่คนวงในของซิลิคอนแวลลีย์

พวกเขากลัวว่า ถ้าวันหนึ่งมีใครสร้าง “ปัญญาประดิษฐ์ทั่วไป” หรือ AGI ที่ฉลาดเทียบเท่าหรือเหนือกว่ามนุษย์ขึ้นมาได้สำเร็จ แล้วเก็บพลังนั้นไว้กับตัวคนเดียว อะไรจะเกิดขึ้น

ท่ามกลางความกังวลนั้น กลุ่มบุคคลระดับตำนานของวงการเทคโนโลยีจึงได้รวมตัวกัน คนเหล่านี้ไม่ใช่ใครที่ไหน แต่เป็นทั้ง Elon Musk และ Sam Altman ผู้ทรงอิทธิพลแห่ง Y Combinator

พวกเขาประกาศก่อตั้งองค์กรในฝันที่ชื่อว่า “OpenAI”

แค่ชื่อมันก็บ่งบอกทุกอย่าง “Open” คือการเปิดกว้างและโปร่งใส โดยมีภารกิจที่ยิ่งใหญ่ คือการสร้าง AGI เพื่อประโยชน์ของมวลมนุษยชาติ

ที่สำคัญที่สุด พวกเขาประกาศตัวเป็นองค์กรไม่แสวงหาผลกำไร หรือ Non-profit เพื่อเป็นหลักประกันว่าจะไม่มีใครใช้เทคโนโลยีนี้เพื่อกอบโกยผลประโยชน์ส่วนตน

ภาพที่ออกมาในตอนนั้น คือภาพของเหล่าอัศวินผู้กล้า ที่อาสาจะปกป้องโลกจากภัยร้ายของ AI ที่อาจเกิดขึ้นในอนาคต พร้อมเงินทุนตั้งต้นที่ประกาศไว้สูงถึง 1 พันล้านดอลลาร์

มันคือจุดเริ่มต้นที่สวยงามราว เป็นภาพฝันที่ทุกคนในวงการต่างชื่นชม แต่ในโลกแห่งความเป็นจริง อุดมการณ์เพียงอย่างเดียว ไม่สามารถขับเคลื่อนความฝันให้ไปถึงฝั่งได้

ไม่นานนัก ทีมงานของ OpenAI ก็ได้ค้นพบความจริงอันโหดร้าย การจะสร้าง AI ให้ไปถึงระดับ AGI ได้นั้น ต้องใช้ทรัพยากรที่เรียกว่า “Compute” หรือพลังการประมวลผลในระดับที่มหาศาลเกินจินตนาการ

ซึ่งนั่นหมายถึงต้นทุนที่แพงระยับ แพงเกินกว่าที่องค์กรการกุศลที่รับเงินบริจาคจะสามารถแบกรับได้ไหว

อุดมการณ์ที่สวยหรู กำลังจะชนเข้ากับกำแพงแห่งความจริงที่เรียกว่า “ค่าใช้จ่าย” และนี่คือจุดเริ่มต้นของรอยร้าว ที่จะนำไปสู่การเปลี่ยนแปลงครั้งใหญ่ที่พลิกโฉมหน้า OpenAI ไปตลอดกาล

เมื่อเงินทุนเริ่มร่อยหรอ OpenAI ก็มาถึงทางแยกที่ต้องตัดสินใจ จะยึดมั่นในหลักการเดิมแล้วปล่อยให้องค์กรค่อยๆ ตายไป หรือจะยอม “ประนีประนอม” กับอุดมการณ์เพื่อความอยู่รอด

และ Sam Altman ก็คือคนที่เลือกทางที่สอง

ในปี 2019 หลังจากที่ Elon Musk แยกตัวออกไป OpenAI ได้ทำการปรับโครงสร้างครั้งประวัติศาสตร์ พวกเขาก่อตั้งบริษัทลูกขึ้นมาในรูปแบบใหม่ที่เรียกว่า “Capped-Profit” หรือบริษัทจำกัดผลกำไร

ถ้าจะให้เปรียบเทียบ มันก็เหมือนลูกครึ่ง ที่ยังคงบอกว่าเป้าหมายหลักคือภารกิจเพื่อมนุษยชาติ แต่ตอนนี้สามารถทำธุรกิจและแสวงหาผลกำไรได้แล้ว เพียงแต่มีเพดานกำกับไว้

การเปลี่ยนแปลงนี้คือการเปิดประตูต้อนรับนักลงทุนภายนอกอย่างเต็มรูปแบบ และผู้ที่ก้าวเข้ามาพร้อมกับเม็ดเงินมหาศาล ก็คือยักษ์ใหญ่อย่าง Microsoft

Microsoft ตัดสินใจลงทุนใน OpenAI ด้วยเงินก้อนแรก 1 พันล้านดอลลาร์ และตามมาอีกนับหมื่นล้านดอลลาร์ในภายหลัง ดีลนี้ได้เปลี่ยนเกมไปโดยสิ้นเชิง

OpenAI ได้รับสิ่งที่ต้องการมากที่สุด นั่นคือเงินทุนและพลังการประมวลผลมหาศาลจากระบบคลาวด์ของ Microsoft แต่สิ่งที่ต้องแลกมาคืออิสรภาพและแรงกดดันในการสร้าง “ผลิตภัณฑ์” ที่ทำเงินได้จริง

จากห้องทดลองของนักวิทยาศาสตร์ในฝัน OpenAI ได้กลายสภาพเป็นแผนกวิจัยและพัฒนาสุดล้ำของ Microsoft ไปโดยปริยาย

คำว่า “Open” ในชื่อเริ่มเปลี่ยนแปลงไป ความโปร่งใสค่อยๆ จางหายไป ถูกแทนที่ด้วยความลับทางการค้า การแข่งขันที่ดุเดือดกลายเป็นหัวใจสำคัญ แทนที่ความร่วมมือในอดีต

กลยุทธ์ใหม่ของพวกเขาตั้งอยู่บนความเชื่อที่เรียกว่า “Scaling Hypothesis” หรือสมมติฐานด้านการขยายขนาด ซึ่งมีหลักการง่ายๆ ว่า “ยิ่งใหญ่ ยิ่งดี”

พวกเขาเชื่อว่ายิ่งทุ่มข้อมูลและพลังคอมพิวต์เข้าไปมากเท่าไหร่ AI ก็จะยิ่งฉลาดขึ้นแบบก้าวกระโดด มันกลายเป็นเหมือนคัมภีร์ศักดิ์สิทธิ์ที่ชี้นำทุกการตัดสินใจขององค์กร

แต่การไล่ตามขนาดที่ใหญ่ขึ้นอย่างไม่หยุดยั้งนี้ มันมีต้นทุนที่มองไม่เห็นซ่อนอยู่ ซึ่งเป็นด้านมืดของจักรวรรดิ AI ที่หลายคนอาจไม่เคยรู้

ต้นทุนแรกที่ต้องจ่าย คือ “ต้นทุนมนุษย์”

เราอาจคิดว่า AI เรียนรู้ที่จะกลั่นกรองเนื้อหาที่ไม่เหมาะสมได้ด้วยตัวเอง แต่ความจริงแล้ว เบื้องหลังความสามารถนั้นคือแรงงานมนุษย์ที่ถูกเรียกว่า “Ghost Work”

OpenAI ถูกวิพากษ์วิจารณ์ว่ามีการจ้างคนงานในประเทศกำลังพัฒนาอย่างเคนยา ด้วยค่าจ้างเพียงไม่ถึง 2 ดอลลาร์ต่อชั่วโมง ให้มานั่งคัดกรองข้อมูลที่เลวร้ายและเป็นพิษอย่างยิ่ง

คนเหล่านี้ต้องเผชิญกับภาพและข้อความที่รุนแรงซ้ำแล้วซ้ำเล่า เพื่อสอนให้ AI รู้ว่าอะไรคือสิ่งที่ไม่ควรทำ มันคืองานที่สร้างบาดแผลทางใจอย่างรุนแรง แต่กลับแทบไม่ได้รับการดูแลเยียวยา

มันคือภาพสะท้อนของการขูดรีดแรงงานในยุคดิจิทัล ที่ผลประโยชน์มหาศาลไหลไปสู่บริษัทเทคโนโลยี แต่ต้นทุนทางใจและความเจ็บปวดกลับถูกผลักไปยังคนงานที่อยู่ห่างไกลและไม่มีใครมองเห็น

ต้นทุนที่สองที่หนักหนาไม่แพ้กัน คือ “ต้นทุนสิ่งแวดล้อม”

พลังการประมวลผลที่ใช้ฝึก AI ไม่ได้ลอยมาจากอากาศ แต่มันมาจากศูนย์ข้อมูล (Data Center) ขนาดมหึมา ที่กินพลังงานและน้ำในปริมาณที่น่าตกใจ

มีการประเมินว่า ศูนย์ข้อมูลเหล่านี้อาจใช้ไฟฟ้าในสัดส่วนที่สูงมากของประเทศ และต้องใช้น้ำจืดหลายล้านล้านแกลลอนต่อปีเพื่อระบายความร้อน

มันคือการสูบทรัพยากรของโลกอย่างโหดเหี้ยม เพื่อหล่อเลี้ยงความฉลาดของ AI โดยที่ภาระมักจะตกอยู่กับชุมชนท้องถิ่นที่ศูนย์ข้อมูลเหล่านี้ตั้งอยู่

เมื่อแรงกดดันจากนักลงทุนถาโถมเข้ามา และต้นทุนที่ซ่อนอยู่เริ่มปรากฏชัด ความขัดแย้งภายใน OpenAI ก็ปะทุขึ้นราวกับระเบิดเวลา

มันคือสงครามทางความคิดระหว่างสองขั้วอำนาจ

ขั้วหนึ่งคือฝ่าย “Safety” หรือฝ่ายความปลอดภัย ที่นำโดยนักวิจัยระดับมันสมองอย่าง Ilya Sutskever พวกเขากังวลว่าบริษัทกำลังวิ่งเร็วเกินไป อาจกำลังสร้างเทคโนโลยีที่อันตรายเกินควบคุม และพยายามจะดึงเอาไว้

อีกขั้วหนึ่งคือฝ่ายธุรกิจที่นำโดย Sam Altman ซึ่งมองว่าความเร็วคือหัวใจสำคัญ ต้องรีบปล่อยผลิตภัณฑ์ออกสู่ตลาดเพื่อชิงความเป็นผู้นำและสร้างรายได้

ความตึงเครียดนี้สะสมมานานหลายปี จนกระทั่งในเดือนพฤศจิกายน ปี 2023 เหตุการณ์ที่ไม่มีใครคาดฝันก็เกิดขึ้น

คณะกรรมการบริหารของ OpenAI ซึ่งตามหลักการแล้วมีอำนาจสูงสุดในการดูแลภารกิจขององค์กร ได้ตัดสินใจทำในสิ่งที่ช็อกโลก นั่นคือการประกาศไล่ Sam Altman ออกจากตำแหน่ง CEO

เหตุผลที่ให้ไว้คือ เขามีพฤติกรรมที่ไม่โปร่งใสและไม่ได้สื่อสารอย่างตรงไปตรงมากับคณะกรรมการ

นี่คือจุดไคลแม็กซ์ของเรื่องราวทั้งหมด การต่อสู้เพื่อจิตวิญญาณของ OpenAI ได้ระเบิดขึ้นสู่สายตาสาธารณชน และมันได้นำไปสู่ 5 วันแห่งความโกลาหลที่คนทั้งโลกต้องจดจำ

การไล่ Sam Altman ออก กลับกลายเป็นสงครามที่คณะกรรมการไม่ได้เตรียมตัวว่าจะต้องรับมือ พนักงานของ OpenAI กว่า 95% พร้อมใจกันลงชื่อขู่ว่าจะลาออกตามผู้นำของพวกเขา

Microsoft ซึ่งเป็นผู้ลงทุนรายใหญ่ที่สุด ก็ประกาศอย่างชัดเจนว่าพร้อมจะอ้าแขนรับ Sam Altman และทีมงานทั้งหมดไปอยู่ด้วย

มันคือการแสดงพลังที่ทำให้คณะกรรมการต้องตกตะลึง และในท้ายที่สุด พวกเขาก็เป็นฝ่ายพ่ายแพ้

ไม่ถึงหนึ่งสัปดาห์หลังจากถูกไล่ออก Sam Altman ก็ได้กลับคืนสู่ตำแหน่ง CEO อย่างยิ่งใหญ่กว่าเดิม คณะกรรมการชุดเก่าถูกปรับเปลี่ยนโครงสร้างใหม่เกือบทั้งหมด

เหตุการณ์นี้ได้ส่งสารที่ชัดเจนไปทั่วโลกว่า อำนาจที่แท้จริงใน OpenAI ไม่ได้อยู่ที่คณะกรรมการผู้พิทักษ์อุดมการณ์อีกต่อไป แต่อยู่ในมือของ CEO, พนักงาน และนักลงทุนที่กุมอนาคตของบริษัทไว้

มันคือชัยชนะอย่างเบ็ดเสร็จของฝ่ายธุรกิจ และคือจุดกำเนิดของ “จักรวรรดิ AI” อย่างเป็นทางการ

หลังจากกลับมาครองอำนาจ OpenAI ก็เดินหน้าเต็มกำลัง พวกเขาไม่ได้เป็นแค่บริษัทเทคโนโลยีอีกต่อไป แต่กลายเป็นผู้เล่นคนสำคัญบนเวทีการเมืองระดับโลก

Sam Altman เดินทางไปทั่วโลกเพื่อเข้าพบผู้นำประเทศต่างๆ และล็อบบี้เพื่อกำหนดทิศทางนโยบายและกฎหมายที่จะใช้กำกับดูแล AI

แต่แนวทางที่พวกเขานำเสนอก็มักจะถูกตั้งคำถามว่า เป็นไปเพื่อปกป้องสังคม หรือเพื่อกีดกันคู่แข่งรายย่อยและรักษาสถานะความเป็นผู้นำของตัวเองกันแน่

ภาพทั้งหมดนี้สะท้อนแนวคิดที่เรียกว่า “ลัทธิขูดรีดทรัพยากรยุคใหม่” (New Extractivism) ได้อย่างชัดเจน

เหมือนกับจักรวรรดิในยุคอาณานิคมที่เข้าไปสูบทรัพยากรจากดินแดนต่างๆ จักรวรรดิ AI ในปัจจุบันก็กำลังสกัดทรัพยากรล้ำค่า 3 อย่างจากทั่วโลก

หนึ่งคือ “ข้อมูล” ที่ถูกนำมาจากผลงานสร้างสรรค์ของผู้คนบนอินเทอร์เน็ต, สองคือ “แรงงาน” ราคาถูกจากประเทศกำลังพัฒนา, และสามคือ “ทรัพยากรธรรมชาติ” อย่างพลังงานและน้ำ ที่ถูกใช้ไปอย่างมหาศาล

ทั้งหมดนี้ถูกอ้างด้วยคำสัญญาถึง “ความก้าวหน้า” และอนาคตที่ดีกว่า โดยที่ผลประโยชน์ส่วนใหญ่กระจุกตัวอยู่กับคนเพียงไม่กี่กลุ่ม

เรื่องราวของ OpenAI จากจุดเริ่มต้นที่เป็นองค์กรเพื่อมวลมนุษยชาติ สู่การเป็นบริษัทที่ทรงอิทธิพลที่สุดแห่งหนึ่งของโลก คือบทเรียนสำคัญที่สะท้อนให้เห็นการต่อสู้ระหว่างอุดมการณ์กับความจริง, ระหว่างความก้าวหน้ากับต้นทุนที่ต้องจ่าย

ดังนั้น ครั้งต่อไปที่เราพิมพ์คำถามลงใน ChatGPT บางทีคำถามที่เราควรถามตัวเองอาจไม่ใช่แค่ว่า “เราจะได้อะไรจากคำตอบนี้”

แต่เป็นคำถามที่ว่า “ใครกันแน่ คือผู้ที่จ่ายต้นทุนที่แท้จริงสำหรับคำตอบนั้น”

References : หนังสือ Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI โดย Karen Hao