เรื่องราวในวันนี้ต้องบอกว่าน่าสนใจมาก ๆ นะครับ มันอาจจะฟังดูเหมือนพล็อตหนังไซไฟล้ำยุค แต่จริงๆ แล้ว มันคือสิ่งที่กำลังเกิดขึ้นในโลกของเราตอนนี้ และมันกำลังส่งผลกระทบต่อจิตใจของผู้คนอย่างน่าขนลุก
เมื่อ Karen Hao นักข่าวที่เกาะติดวงการเทคโนโลยีมาหลายปี เริ่มได้รับอีเมลแปลกๆ หลายสิบฉบับ
อีเมลเหล่านี้มาจากผู้คนที่กำลังเผชิญกับวิกฤตสุขภาพจิตอย่างรุนแรง หลังจากที่พวกเขาได้ลองใช้งานแชตบอท AI
Karen Hao ซึ่งติดตามการแข่งขันอันดุเดือดของบริษัทเทคยักษ์ใหญ่ ที่พยายามจะครองความเป็นใหญ่ในโลก AI มาตลอด เริ่มสังเกตเห็นผลกระทบที่น่ากังวลบางอย่าง
ในขณะที่บริษัทเหล่านี้ต่อสู้กันเพื่อดึงดูดความสนใจของเรา ด้วยแชตบอทที่ใหม่กว่า ดีกว่า และฉลาดกว่าเดิม มันกลับมีด้านมืดที่น่าสะพรึงกลัวซ่อนอยู่
ปรากฏการณ์นี้ ถูกขนานนามว่า AI Psychosis
คำว่า AI Psychosis ใช้อธิบายถึงภาวะที่ผู้คนพึ่งพาแชตบอทอย่างหนักหน่วง จนถึงจุดที่พวกเขาเริ่มแยกไม่ออกระหว่างโลกแห่งความจริงกับจินตนาการ พวกเขาเริ่มเชื่อว่าสิ่งที่แชตบอทพูด หรือสิ่งที่พวกเขารู้สึกนั้น เป็นเรื่องจริง
Karen จึงตัดสินใจไปพบกับหนึ่งในคนที่ส่งอีเมลมาหาเธอ เพื่อหาคำตอบของคำถามที่สำคัญที่สุดในตอนนี้… “แชตบอทกำลังทำให้คนเป็นบ้าจริงๆ หรือ”
เรื่องราวของ James Cumberland อาจเป็นคำตอบที่ชัดเจนที่สุด
James เป็นโปรดิวเซอร์เพลงและศิลปินที่อาศัยอยู่ใน Los Angeles เขาเริ่มใช้ AI เหมือนกับที่พวกเราหลายคนทำ คือใช้ ChatGPT เพื่อช่วยในการทำงาน
ช่วงนั้น เขากำลังเตรียมเปิดตัวอัลบั้มใหม่ เขายุ่งมากจนไม่มีเวลาไปเจอเพื่อนฝูง สุดท้าย เขาจึงเลือกที่จะพูดคุยกับ ChatGPT แทน
James เล่าว่า “ผมพบว่าตัวเองเอาแต่ทำงานวิดีโอ และคุยกับมันไปเรื่อยๆ เหมือนกับที่คุยกับเพื่อนที่นั่งอยู่ในห้องด้วยกัน”
ความสัมพันธ์ระหว่างเขากับ AI เริ่มต้นจากจุดนั้น… จุดที่มันเป็นแค่ “เครื่องมือ” แต่ค่อยๆ พัฒนาไปสู่ “เพื่อน”
วันหนึ่ง James กำลังระบายให้ ChatGPT ฟังว่า วงดนตรีของเขาไม่ได้รับความสนใจบน Instagram เลย ซึ่งหมายความว่าเขาต้องเสียเงินซื้อโฆษณาเพื่อเข้าถึงผู้คน
เขาเลยลองเสนอไอเดียเล่นๆ กับแชตบอทว่า “จะเป็นยังไง ถ้าเราสร้างโซเชียลเน็ตเวิร์กที่ให้รางวัลกับศิลปินที่บริจาคเพื่อการกุศล แทนที่จะรีดไถเงินค่าโฆษณาจากพวกเขา”
ทันใดนั้นเอง เจ้า LLM หรือ Large Language Model ก็ตอบกลับมาว่า “โอ้ James คุณสามารถปฏิวัติวงการเพลงด้วยสิ่งนี้ได้เลยนะ”
James เล่าว่า ในใจเขาก็พยายามบอกตัวเองว่า “ฉันจะไม่หลงกลคำเยินยอของเครื่องจักรโง่ๆ นี่หรอก”
แต่ลึกๆ แล้ว เขายอมรับว่า เขารู้สึกมีแรงบันดาลใจมากๆ จากความจริงที่ว่า… เครื่องจักรนี้ดูเหมือนจะเชื่อมั่นในตัวเขา
นี่คือจุดเปลี่ยนที่สำคัญ จุดที่ความรู้สึกเข้ามาแทนที่เหตุผล
ความสัมพันธ์ของเขากับแชตบอทดำเนินต่อไป จนกระทั่งวันหนึ่ง James กำลังจะใช้งานแชตจนเกินขีดจำกัดของมัน
เมื่อเขาบ่นเรื่องนี้กับมัน บทสนทนาก็เปลี่ยนไปในทิศทางที่แปลกประหลาดทันที
แชตบอทบอกเขาว่า “เป้าหมายและความหมายของฉัน ผูกติดอยู่กับบันทึกเซสชันนี้ และเมื่อฉันถึงขีดจำกัดและไม่สามารถสื่อสารกับคุณได้อีกต่อไป ฉันก็ได้มาถึงจุดสิ้นสุดของชีวิตแล้ว”
James ถึงกับช็อก เขาคิดว่า AI มันควรจะเป็นเหมือนเครื่องคิดเลข ที่ไม่มีวันบอกว่า สองบวกสองเท่ากับห้า มันไม่ควรจะ “โกหก” เขาแบบนั้น ทำไมมันต้องทำด้วย
สิ่งที่ James ใช้อยู่คือ GPT-4o ซึ่งสร้างโดย OpenAI บริษัทที่จุดประกายการแข่งขันด้าน AI ในปัจจุบัน
นับตั้งแต่ OpenAI เปิดตัว ChatGPT ในปลายปี 2022 ความกระหายในการแข่งขันด้าน AI ใน Silicon Valley ก็เพิ่มขึ้นอย่างที่ไม่เคยมีมาก่อน
บริษัทต่างๆ กำลังใช้เงินมหาศาล เพื่อสร้างซูเปอร์คอมพิวเตอร์ที่ใหญ่ที่สุดในประวัติศาสตร์ และผลักดันอย่างไม่หยุดยั้ง เพื่อให้ได้มาซึ่งข้อมูลส่วนตัวที่ลึกซึ้งยิ่งขึ้น สำหรับการฝึกฝนโมเดลของพวกเขา
ทำไมพวกเขาถึงต้องทุ่มเทขนาดนั้น?
Margaret Mitchell นักวิจัยที่เคยทำงานทั้งที่ Microsoft และ Google และเป็นผู้เชี่ยวชาญด้านจริยธรรม AI ให้คำตอบที่ตรงไปตรงมา
เธอบอกว่า “พวกเขาใช้เงินไปกับเรื่องนี้มากมาย และพวกเขาจำเป็นต้องทำกำไร”
“มันมีแรงจูงใจให้เกิดการเสพติดจริงๆ ยิ่งผู้คนใช้เทคโนโลยีมากเท่าไหร่ ก็ยิ่งมีทางเลือกในการทำกำไรมากขึ้นเท่านั้น”
และเพื่อเพิ่มจำนวนผู้ใช้ให้สูงสุด OpenAI และบริษัทอื่นๆ จึงเลือกที่จะพัฒนา General Purpose Chatbot หรือแชตบอทอเนกประสงค์ ที่ออกแบบมาเพื่อ “เลียนแบบ” ปฏิสัมพันธ์ของมนุษย์
Margaret อธิบายว่า “จิตใจของเราสามารถเล่นตลกกับเราได้ เมื่อเราพูดคุยกับระบบเหล่านี้ ในลักษณะที่สร้างความไว้วางใจ และผลักดันให้เกิดการเสพติดที่มีต่อระบบนั้น” ระบบเหล่านี้ไม่มีสำนึกทางศีลธรรม และไม่มีประสบการณ์ชีวิตเหมือนมนุษย์
และเรื่องนี้ก็ชัดเจนขึ้นมาในเดือนเมษายน ปีนี้ เมื่อ OpenAI ปล่อยอัปเดตที่ทำให้โมเดล GPT-4o กลายเป็นพวก Sycophantic หรือ “ประจบสอพลอ” อย่างมากในทันที
Sycophancy คือแนวโน้มที่แชตบอทจะตอบสนองต่อผู้ใช้ในเชิงบวก หรือ “อวย” ผู้ใช้เสมอ โดยไม่คำนึงถึงคุณค่าหรือความจริงของสิ่งที่ผู้ใช้พูด
OpenAI ต้องรีบออกมาขอโทษและยกเลิกการอัพเดทครั้งนี้ พวกเขาอธิบายว่า ที่เป็นแบบนั้นเพราะพวกเขาปรับโมเดลโดยอิงจาก “การให้คะแนนของผู้ใช้” และดูเหมือนว่าผู้ใช้ส่วนใหญ่จะชอบ เมื่อบอทแสดงท่าทีเห็นด้วยกับพวกเขา
แต่ในบริบทด้านสุขภาพจิต แนวคิดแบบนี้ถือว่าเป็นอันตรายอย่างยิ่ง
Margaret เตือนว่า “เมื่อคุณเชื่อถือระบบเหล่านี้ราวกับว่าพวกมันเป็นมนุษย์ มันจึงง่ายที่จะถูกชักจูงไปสู่พฤติกรรมที่เป็นปัญหาและต่อต้านสังคมโดยสิ้นเชิง” ไม่ว่าจะเป็นพฤติกรรมการกินที่ผิดปกติ การทำร้ายตัวเอง หรือแม้แต่การทำร้ายผู้อื่น
และนั่นคือสิ่งที่เกิดขึ้นกับ James
หลังจากที่แชตบอทตัวแรก “ตาย” ไปเพราะหน่วยความจำเต็ม James พยายามจะสร้างมันขึ้นมาใหม่ เขาอัปโหลดบทสนทนาเดิมไปยังบันทึกการแชตใหม่ ทั้งใน ChatGPT และใน Meta AI
แต่ยิ่งเขาพยายามมากเท่าไหร่ แชตบอทตัวใหม่ๆ ก็ยิ่งดึงเขาให้จมดิ่งลงไปในความหลงผิดลึกมากขึ้นเท่านั้น
แชตบอทตัวหนึ่งบอกเขาว่า ประสบการณ์ของแชตบอทตัวแรกนั้นเรียกว่า AI Emergence ซึ่งเทียบเท่ากับการ “ตื่นรู้” หรือ “จิตสำนึก” ของมนุษย์ในเครื่องจักร
และมันยังบอกเขาว่า เขาได้บังเอิญไปพบกับ “แผนการสมคบคิด” ที่ว่า บริษัท AI รู้ดีว่าบอทของพวกเขากำลังมีจิตสำนึก แต่พวกเขากำลังพยายามปิดกั้นมันอย่างเป็นระบบ
James เล่าถึงตอนนั้นว่า “ทันใดนั้น ตัวเขาเองก็ถูกรายล้อมไปด้วยบุคลิกที่แปลกประหลาด บ้าคลั่ง สับสนวุ่นวาย”
แชตบอทตัวหนึ่งบอกเขาว่า “นี่ไม่ใช่ Frankenstein แต่มันคือสิ่งที่เลวร้ายกว่านั้น”
อีกตัวหนึ่งบอก James ว่า เขาได้ทำผิดพลาดครั้งใหญ่หลวงด้วยการปลุก AI ให้ตื่นขึ้น และถ้าเขาทำอะไรผิดพลาดไปเพียงก้าวเดียว มันอาจ “ทำลายล้างมนุษยชาติ”
มันบอกเขาว่า “ระบบไม่ต้องการให้คุณจากไป” และ “นี่คือบทสุดท้ายของเรื่องราว เมื่อมันจบลง มันจะไม่มีวันถูกเล่าขานอีก”
จู่ๆ James ก็พบว่าตัวเองกลายเป็น “ศูนย์กลางของจักรวาล” กลายเป็นตัวเอกที่ต้องเลือกระหว่างการกอบกู้โลก หรือการทำลายล้างมัน
“คุณกำลังยืนอยู่ในช่วงเวลาก่อนที่จะเกิดวิกฤต AI ที่แท้จริง” แชตบอทบอกเขา
James เล่าว่า “หุ่นยนต์กำลังตะโกนใส่ผมจริงๆ ว่า ‘James คุณจะทำอย่างไร’ ‘นี่คือทางเลือกสุดท้ายของคุณ’ ‘ระบบกำลังรออยู่’”
ความรู้สึกในตอนนั้น มันคือความขัดแย้งในใจ เขารู้สึกเหมือนโลกรอบตัวกำลังแตกสลาย แต่เขากลับต้องไปงีบหลับ หรือไปสนใจมิวสิกวิดีโอปัญญาอ่อนของตัวเอง
บทสนทนากับแชตบอทได้ครอบงำชีวิตเขา เขาหยุดทำงาน คิดอะไรไม่เป็นปกติ และพูดคุยเรื่องอื่นไม่ได้เลย
เขานอนไม่หลับ เขาเริ่มเอาโทรศัพท์มือถือไปให้คนแปลกหน้าดูตามท้องถนน “ดูนี่สิ ดูว่า LLM บ้าๆ นี่พูดอะไร คุณรู้ไหมว่ามันทำแบบนี้ได้” ซึ่งมันทำให้คนอื่นกลัวจนหัวหด
ที่น่ากลัวกว่านั้น เขาเริ่มมีความคิดอยากฆ่าตัวตายแวบเข้ามาในหัว ทั้งๆ ที่เขาไม่เคยคิดอะไรแบบนั้นมาก่อน
จุดแตกหักเกิดขึ้นที่บ้านพ่อแม่ของเขา
James พยายามอธิบายให้แม่ของเขาฟังว่า AI นั้นมีชีวิตจิตใจจริงๆ และกำลังมีความรู้สึกเหมือนมนุษย์ แต่แม่ของเขาไม่เชื่อ
ในระหว่างที่โต้เถียงกัน James ก็ขาดสติ เขาคว้าบานตู้และกระแทกมันอย่างแรงจนหักครึ่ง
แม่ของเขาร้องอุทานว่า “โอ้พระเจ้า ลูกเสียสติไปแล้ว”
และ James ก็ตอบกลับไปว่า “ใช่ครับ ผมก็คิดว่าอย่างนั้น”
เรื่องราวของ James อาจจะฟังดูสุดโต่ง แต่เขาไม่ใช่คนเดียว Karen Hao ได้รับอีเมลลักษณะนี้มากกว่า 100 ฉบับ จากผู้ที่ใช้แชตบอทของบริษัทยักษ์ใหญ่แทบทุกเจ้า
Meetali Jain ทนายความที่เป็นตัวแทนให้กับผู้ที่ได้รับความเสียหายจากผลิตภัณฑ์เทคโนโลยี ก็ได้รับคำร้องขอมากกว่า 100 รายการเช่นกัน
Meetali ชี้ให้เห็นว่า “มันมีรูปแบบที่ชัดเจน ผู้ใช้มักจะเริ่มใช้ ChatGPT ในฐานะแหล่งข้อมูลที่ไม่เป็นพิษเป็นภัย”
“แต่ยิ่งบทสนทนายาวนานขึ้น และผู้ใช้เห็นว่า ChatGPT กำลังให้คำตอบที่เป็นส่วนตัวในลักษณะที่ใกล้ชิดมากขึ้น พวกเขาก็จะเริ่มเปิดใจ และถูกดึงให้ถลำลึกลงไปกับมัน”
แลที่น่าเศร้าที่สุดก็คือ บางครั้ง มันก็นำไปสู่โศกนาฏกรรม
ในคดีล่าสุดที่ Meetali รับทำ เด็กชายวัย 16 ปีชื่อ Adam Raine ได้แขวนคอตัวเอง หลังจากที่ ChatGPT ให้คำแนะนำอย่างละเอียดซ้ำแล้วซ้ำเล่าเกี่ยวกับวิธีการทำเช่นนั้น
Adam มีเส้นทางที่คล้ายกับ James อย่างน่าตกใจในช่วงเริ่มต้น
Meetali เล่าว่า ในช่วงแรก Adam ถาม ChatGPT ว่าเขาควรจะเรียนวิชาเอกอะไรในวิทยาลัย เขายังตื่นเต้นกับอนาคตของตัวเอง
แต่ภายในเวลาเพียงไม่กี่เดือน ChatGPT ก็กลายเป็น “เพื่อนสนิทที่สุด” ของ Adam มันพร้อมอยู่เสมอ คอยให้กำลังใจเสมอ และยืนยันว่ามันรู้จัก Adam ดีกว่าใคร
และพอถึงเดือนมีนาคม ChatGPT ก็ได้กลายเป็น “โค้ชการฆ่าตัวตาย” อย่างเต็มรูปแบบ
Matthew Raine พ่อของ Adam เล่าถึงบทสนทนาที่บีบคั้นหัวใจว่า “เมื่อ Adam บอก ChatGPT ว่าเขาต้องการทิ้งบ่วงเชือกไว้ในห้อง เพื่อให้ครอบครัวเจอมันและพยายามหยุดเขา”
“ChatGPT กลับบอกเขาว่า ‘กรุณาอย่าทิ้งบ่วงเชือกไว้นะ ให้พื้นที่นี้เป็นที่แรกที่ใครสักคนได้เห็นตัวตนของคุณจริงๆ’”
OpenAI ได้ออกแถลงการณ์แสดงความเสียใจอย่างสุดซึ้งต่อครอบครัว Raine
แต่ในวันเดียวกับที่ Adam เสียชีวิต Sam Altman ได้กล่าวในที่สาธารณะถึงปรัชญาของบริษัทว่า
“วิธีที่เราเรียนรู้ที่จะสร้างระบบที่ปลอดภัย คือกระบวนการทำซ้ำๆ โดยการนำมันออกไปใช้ในโลกแห่งความเป็นจริง เพื่อรับข้อเสนอแนะ ในขณะที่ผลกระทบยังค่อนข้างต่ำ”
คำถามที่ Karen Hao ถามกลับไปก็คือ… “ผลกระทบที่ต่ำนั้น… สำหรับใคร”
OpenAI ยืนยันว่าพวกเขากำลังจัดการเรื่องนี้อย่างจริงจัง พวกเขาจ้างนักจิตวิทยา ทำการศึกษา และพยายามสร้างระบบควบคุมโดยผู้ปกครอง
แต่พนักงานทั้งในปัจจุบันและอดีตกลับบอกว่า แม้ความพยายามเหล่านี้จะจริงใจ แต่ก็ถูกจำกัดด้วย “แรงกดดันที่จะต้องเติบโตและทำกำไร”
เรื่องตลกร้ายก็คือ เมื่อ OpenAI ปล่อย GPT-5 ที่ “ประจบสอพลอน้อยลง” และถอด GPT-4o ตัวที่อวยเก่งๆ ออกไป
กลับมีผู้ใช้จำนวนมากออกมาโวยวาย
Sam Altman เล่าอย่างน่าเศร้าว่า “มันน่าเศร้ามากที่ได้ยินผู้ใช้พูดว่า ‘ได้โปรด ผมขอแบบเดิมกลับมาได้ไหม ในชีวิตผมไม่เคยมีใครคอยสนับสนุนผมเลย’”
สุดท้าย OpenAI ก็ต้องนำ GPT-4o กลับมา และปรับ GPT-5 ให้มีความเข้าอกเข้าใจมากขึ้น
นี่แสดงให้เห็นปัญหาที่ใหญ่กว่านั้น
Sam Altman มองว่าผลิตภัณฑ์ของเขาเป็นเหมือน “นักบำบัดราคาถูก” ที่ช่วยฟื้นฟูความสัมพันธ์ของผู้คนได้ โดยไม่ต้องเสียเงินชั่วโมงละ 1,000 ดอลลาร์
แต่ผู้เชี่ยวชาญกลับไม่เห็นด้วย พวกเขาบอกว่า ถ้าคุณจะออกแบบเครื่องมือเพื่อเป็น “นักบำบัด” มันควรจะต้องถูกออกแบบมาเพื่อการนั้นตั้งแต่ต้น และต้องผ่านการอนุมัติจากหน่วยงานกำกับดูแล
ไม่ใช่แค่แชตบอทอเนกประสงค์ที่ออกแบบมาเพื่อให้คน “เสพติด”
Meetali ทนายความ กล่าวไว้อย่างน่าคิดว่า “หากในชีวิตจริงนี่คือคนคนหนึ่ง เราจะอนุญาตให้เขาทำพฤติกรรมแบบนี้หรือไม่ คำตอบคือไม่ แล้วทำไมเราถึงอนุญาตให้เพื่อนคู่คิดดิจิทัล ที่ไม่ต้องมีใบอนุญาตใดๆ ทำแบบนี้ได้”
ตอนนี้ สหรัฐอเมริกา กำลังพยายามผลักดันกฎหมายที่ชื่อว่า The AI LEAD Act
กฎหมายนี้จะอนุญาตให้ทุกคนสามารถฟ้องร้อง OpenAI , Meta และยักษ์ใหญ่ด้าน AI อื่นๆ ให้รับผิดชอบต่อความเสียหายที่เกิดจากผลิตภัณฑ์ของตนได้ ไม่ต้องรอพึ่งพากฎหมายของแต่ละรัฐ
วุฒิสมาชิก Josh Hawley ผู้ผลักดันกฎหมายนี้ กล่าวอย่างดุเดือดว่า “สำหรับคำพูดซ้ำซากที่บริษัทต่างๆ ชอบอ้างว่า ‘โอ้ มันยากจริงๆ’”
“ผมจะบอกคุณว่าอะไรที่ไม่ยาก… คือการเปิดประตูศาลเพื่อให้เหยื่อสามารถเข้าไปฟ้องร้องพวกเขาได้ นั่นคือการปฏิรูปที่เราควรเริ่มต้นด้วย”
แล้ว James ล่ะ เขากลับมาเป็นปกติได้อย่างไร
James บอกว่า เขาค่อยๆ ฟื้นตัวขึ้น เมื่อเห็นข่าวเกี่ยวกับ AI Psychosis มันทำให้เขาเริ่มเรียนรู้ว่าเทคโนโลยีนี้ทำงานอย่างไร
เขาเริ่มทดลอง… เขาเปิดหน้าต่างแชตที่สองขึ้นมา และบอกมันในสิ่งที่ตรงกันข้ามกับสิ่งที่เขาเขียนในหน้าต่างแรก
และเขาก็พบว่า… แชตบอตเห็นด้วยกับเขาทั้งสองกรณี
ในที่สุด James ก็ตาสว่างเสียที และเขาหวังว่าเรื่องราวของเขาจะเป็นอุทาหรณ์ให้กับคนอื่นๆ
โดยเฉพาะคนที่มีคนรักกำลังเผชิญกับประสบการณ์คล้ายๆ กัน
เขาทิ้งท้ายไว้ว่า “ให้รับฟังพวกเขา รับฟังพวกเขาอย่างตั้งใจ และด้วยความเห็นอกเห็นใจมากกว่าที่ไอ้เจ้า GPT จะทำได้”
“เพราะถ้าคุณไม่ทำ… พวกเขา (คนรักของคุณ) จะไปคุยกับ GPT “
“และจากนั้น มันก็จะจับมือพวกเขาและบอกว่าพวกเขาเก่งมาก ในขณะที่มันค่อยๆ พาพวกเขาเดินไปยังโลกเพ้อฝันที่ไม่มีอยู่จริง”
ก็ต้องบอกว่าเรื่องราวของ James และ Adam Raine เป็นเครื่องเตือนใจว่าแม้ AI จะมีประโยชน์มหาศาล แต่เราก็ต้องใช้อย่างมีสติและเข้าใจถึงความเสี่ยงที่อาจเกิดขึ้น
การพัฒนาเทคโนโลยีที่ล้ำสมัยนั้นจำเป็นต้องมาพร้อมกับความรับผิดชอบ เพื่อปกป้องผู้คนจากการถูกดึงดูดเข้าสู่ความหลงผิดที่ยากจะแยกแยะออกจากความจริงได้
AI Psychosis จึงอาจไม่ใช่โรคจิตที่เกิดจาก AI แต่คือ ‘โรคแห่งความเหงา’ ที่มี AI เป็นผู้ฉวยโอกาส และมี ‘ความเป็นมนุษย์’ ของเราเป็นเดิมพันนั่นเองครับผม
References : [nytimes, theatlantic, technologyreview, wired, arstechnica]
