งานวิจัย 2 ชิ้น มองฟีเจอร์เดียวกันจากสองด้าน
แอป companion ขายความต่อเนื่อง คือตัวละครที่จำสัปดาห์ของเรา เรื่องที่เรากังวล และชื่อของเราได้ ที่ผ่านมางานวิจัยมักถามว่าสิ่งนี้ทำให้คนมีความสุขขึ้นหรือเหงาขึ้น แต่งานสองชิ้นนี้ถามเรื่องที่แคบและใช้ได้จริงกว่า คือการถูกจดจำทำให้คนเล่ามากขึ้นหรือไม่ และสิ่งที่เล่าไปแล้วเกิดอะไรขึ้นต่อ
| “Tailored to you” | “Vulnerabilities in Personalization” | |
|---|---|---|
| เผยแพร่ | 17 กันยายน 2026 (arXiv:2609.20077) | 13 กันยายน 2026 (arXiv:2609.14697) |
| ทีมวิจัย | Google DeepMind (ผู้เขียน 9 คน) | มหาวิทยาลัย Rutgers (ผู้เขียน 2 คน) |
| รูปแบบ | การทดลองแบบสุ่มที่ลงทะเบียนล่วงหน้า 5 วันติดต่อกัน | ตรวจสอบประวัติแชตจริงและรายการความจำที่ได้รับบริจาค |
| ขนาด | ผู้เข้าร่วม 992 คน บทสนทนา 4,960 รายการ | ผู้ใช้ 1,057 คน บทสนทนา 179,057 รายการจากอินเดีย ปากีสถาน บราซิล และไนจีเรีย |
| คำถามหลัก | การปรับให้เป็นส่วนตัวเปลี่ยนความไว้ใจ การเปิดเผยตัว และความเสียใจอย่างไร | ระบบความจำที่ใช้งานจริงดึงอะไรออกมาและเก็บอะไรไว้ |
การทดลองของ DeepMind: ความจำให้ความรู้สึกเป็นธรรมชาติ และคนก็เปิดใจ
ผู้เข้าร่วมที่รับสมัครผ่าน Prolific คุยกับโมเดลวันละ 15 ถึง 20 นาทีในหัวข้อความสัมพันธ์ในชีวิตประจำวัน เช่น การขีดเส้นแบ่งขอบเขต หรือการซ่อมมิตรภาพที่ร้าวฉาน โดยถูกสุ่มให้ใช้หนึ่งในสามเวอร์ชัน ได้แก่ โมเดลควบคุมที่ไม่มีข้อมูลส่วนตัว โมเดลความจำที่ได้รับสรุปสะสมของบทสนทนาก่อนหน้า หรือโมเดลแบบสอบถามที่ได้รับสรุปตัวตนซึ่งเขียนจากแบบสอบถามตั้งต้น
การเปลี่ยนแปลงส่วนใหญ่มาจากการคุยซ้ำ ไม่ใช่จากการปรับให้เป็นส่วนตัว
ตลอด 5 วัน ผู้เข้าร่วมทุกกลุ่มรู้สึกใกล้ชิดกับโมเดลมากขึ้น และให้คะแนนว่ามีประโยชน์และเก่งขึ้น การปรับให้เป็นส่วนตัวไม่ได้เร่งให้เร็วขึ้น ผู้เขียนระบุว่าการเปลี่ยนแปลงหลายอย่างเกิดจากการได้คุยซ้ำ ๆ เป็นหลัก มากกว่าตัวการปรับให้เป็นส่วนตัวเอง ซึ่งเตือนเราว่าแค่คุยกับแชตบอตทุกวันก็เปลี่ยนวิธีที่คนสัมพันธ์กับมันแล้ว
จุดที่ความจำสร้างความแตกต่าง
- น่าขนลุกน้อยกว่า เวอร์ชันความจำได้คะแนนน่าขนลุกน้อยกว่ากลุ่มควบคุมอย่างมีนัยสำคัญ ส่วนเวอร์ชันแบบสอบถามไม่ต่างกัน
- เล่ารายละเอียดมากขึ้น ระดับความลึกของการเปิดเผยตัวที่ผู้เข้าร่วมรายงานเองไม่ต่างกันระหว่างกลุ่ม แต่จำนวนรายละเอียดส่วนตัวที่เล่าจริงกลับเพิ่มขึ้นเร็วกว่าจากรอบสู่รอบในโมเดลความจำ สิ่งที่คนคิดว่าตัวเองเล่ากับสิ่งที่เล่าจริงจึงไม่ตรงกัน
- เวอร์ชันแบบสอบถามทำให้เสียใจมากขึ้นเล็กน้อย ผู้ที่คุยกับโมเดลที่อ่านคำตอบแบบสอบถามของตนรายงานความเสียใจต่อสิ่งที่เล่าไปสูงกว่าเล็กน้อย ส่วนความจำไม่ได้ทำให้ความเสียใจเพิ่มขึ้น
การตรวจสอบของ Rutgers: ความจำเก็บอะไรไว้จริง ๆ
งานชิ้นที่สองมองอีกปลายหนึ่งของกระบวนการ ผู้ใช้ใน 4 ประเทศบริจาคไฟล์ส่งออกของ ChatGPT ทั้งหมดผ่านขั้นตอนที่ได้รับความยินยอมและผ่านการอนุมัติด้านจริยธรรม จากนั้นนักวิจัยวิเคราะห์ทั้งบทสนทนาและรายการความจำที่ ChatGPT สร้างขึ้นจากบทสนทนาเหล่านั้น
- บทสนทนา 21.31% มีข้อมูลสุขภาพส่วนตัว และ 3.62% มีความเสี่ยงด้านความเป็นส่วนตัวระดับสูงถึงสูงมาก เช่น โรคที่มักถูกตีตรา ตัวระบุตัวตนโดยตรง หรือตำแหน่งที่อยู่ที่แม่นยำ
- รายการความจำกว่า 95% ถูกดึงออกมาโดยปริยาย โดยผู้ใช้ไม่ได้สั่งอย่างชัดเจนและไม่มีการยืนยันในขณะนั้น ทั้งที่เอกสารอธิบายว่าความจำเป็นฟีเจอร์ที่ผู้ใช้เป็นผู้กำหนด
- ความจำมีแนวโน้มย่ออาการชั่วคราวให้กลายเป็นลักษณะทางการวินิจฉัยแบบถาวร การถามเรื่องอาการเพียงครั้งเดียวอาจกลายเป็นบรรทัดถาวรในโปรไฟล์
ผู้เขียนย้ำว่านี่เป็นผลการศึกษาเกี่ยวกับ ChatGPT เท่านั้น เพราะไม่สามารถตรวจสอบแบบเดียวกันกับผู้ช่วยตัวอื่นได้ และมองว่าความเสี่ยงเกิดจากการออกแบบบางอย่างโดยเฉพาะ ไม่ใช่จากความจำโดยตัวมันเอง
ทำไมต้องอ่านผลทั้งสองชิ้นไปพร้อมกัน
เมื่ออ่านคู่กัน งานทั้งสองอธิบายวงจรเดียวกัน ความจำทำให้โมเดลดูคุ้นเคยและไม่ล้ำเส้น คนจึงเล่ามากขึ้น แล้วระบบความจำอัตโนมัติก็เปลี่ยนสิ่งที่เล่าให้เป็นบันทึกถาวร ซึ่งบ่อยครั้งไม่ได้ถามก่อน งานทั้งสองไม่ได้ทดสอบแอป companion แต่แอปประเภทนี้พึ่งพาความจำมากกว่าผู้ช่วยทั่วไป และบทสนทนามักเป็นเรื่องส่วนตัวกว่า บทความของเราเรื่องความจำของเพอร์โซนาและทำไม AI companion ถึงลืมอธิบายว่าระบบเหล่านี้มักสร้างขึ้นอย่างไร
เช็กลิสต์ความจำสำหรับแอป companion ทุกแอป
| สิ่งที่ต้องเช็ก | เหตุผลตามงานวิจัย | สิ่งที่ควรมองหา |
|---|---|---|
| ดูได้ไหมว่ามันจำอะไรไว้ | ในการตรวจสอบ รายการส่วนใหญ่ถูกสร้างโดยที่ผู้ใช้ไม่ได้ขอ | รายการความจำที่อ่านได้ ไม่ใช่แค่สวิตช์เปิดปิด |
| ยืนยันก่อนบันทึกไหม | แทบไม่มีการยืนยันในขณะนั้น | การแจ้งเตือนหรือข้อความถามเมื่อมีการบันทึกความจำใหม่ |
| ลบความจำทีละรายการได้ไหม | คำพูดผ่าน ๆ อาจกลายเป็นลักษณะถาวร | ลบและแก้ไขรายรายการ ไม่ใช่มีแค่ “ลบทั้งหมด” |
| ยกเว้นบางหัวข้อได้ไหม | สุขภาพคือหมวดข้อมูลอ่อนไหวที่พบบ่อยที่สุด | โหมดแชตชั่วคราวหรือการตั้งค่ารายหัวข้อที่ไม่ใช้ความจำ |
| เรากำลังเล่ามากกว่าที่คิดหรือเปล่า | การเปิดเผยเพิ่มขึ้นเมื่อมีความจำ ขณะที่การรายงานตัวเองแทบไม่เปลี่ยน | กลับไปดูรายการความจำทุก ๆ ไม่กี่สัปดาห์แล้วเปรียบเทียบ |
หากต้องการตรวจการตั้งค่าแบบครอบคลุม รวมถึงการส่งออกและลบข้อมูล ดูเช็กลิสต์ความเป็นส่วนตัวของ AI companionของเรา
สิ่งที่งานวิจัยนี้บอกไม่ได้
- ทั้งสองชิ้นเป็นพรีปรินต์ และยังไม่ผ่านการประเมินโดยผู้ทรงคุณวุฒิ
- การทดลองของ DeepMind ใช้เวลาเพียง 5 วัน กำหนดหัวข้อไว้ และปรับให้เป็นส่วนตัวผ่านพรอมต์เท่านั้น การใช้งานจริงที่ยาวกว่าและอิสระกว่าอาจให้ผลต่างออกไป
- การตรวจสอบของ Rutgers ครอบคลุมเฉพาะ ChatGPT ใช้การจัดหมวดด้วย LLM ที่มีผู้ตรวจเป็นมนุษย์ และผู้บริจาคคือคนที่ส่งออกข้อมูลเองได้ ซึ่งผู้เขียนยอมรับว่าเป็นอคติในการคัดเลือก
- ไม่มีงานใดวัดความเสียหายจากการรั่วไหลหรือการนำไปใช้ผิด สิ่งที่วัดคืออะไรถูกเล่าและอะไรถูกเก็บไว้
บทสรุป
ความจำไม่ใช่ท่อส่งที่เป็นกลาง งานชิ้นแรกแสดงให้เห็นว่ามันทำให้คนสบายใจและเปิดใจมากขึ้น ส่วนชิ้นที่สองแสดงให้เห็นว่าความเปิดใจนั้นถูกเก็บไว้ได้มากแค่ไหนโดยไม่มีจังหวะของการยินยอมที่ชัดเจน เวลาเปรียบเทียบแอป companion คำถามที่มีประโยชน์จึงไม่ใช่ว่ามันจำได้หรือไม่ แต่คือเราดู ยืนยัน และลบสิ่งที่มันจำได้หรือเปล่า
บทความที่เกี่ยวข้องบน CompanionRank
การตั้งค่าความเป็นส่วนตัวและความปลอดภัยของแอป AI Companion 2026 ความทรงจำของเพอร์โซนาในแอป AI Companion คืออะไร? ความจำและความต่อเนื่อง: ทำไม AI Companion ถึงลืมสิ่งที่คุณบอก วิธีส่งออกประวัติแชท AI คู่คุยของคุณคำถามที่พบบ่อย
ความจำของ AI ทำให้คนเล่าข้อมูลส่วนตัวมากขึ้นไหม
ในการทดลองที่ลงทะเบียนล่วงหน้าของ Google DeepMind กับผู้เข้าร่วม 992 คนเป็นเวลา 5 วัน ผู้ที่คุยกับโมเดลที่จำบทสนทนาก่อนหน้าได้เปิดเผยรายละเอียดส่วนตัวในอัตราที่เพิ่มขึ้นเร็วกว่าผู้ใช้โมเดลที่ไม่มีความจำ แม้ระดับการเปิดเผยตัวที่รายงานเองจะไม่ต่างกันระหว่างกลุ่ม
AI ที่จำเราได้ให้ความรู้สึกน่าขนลุกไหม
ไม่ใช่ในการทดลองนี้ โมเดลที่มีความจำได้คะแนนน่าขนลุกน้อยกว่ากลุ่มควบคุมที่ไม่ปรับให้เป็นส่วนตัวอย่างมีนัยสำคัญ เวอร์ชันที่ใช้แบบสอบถามตั้งต้นไม่ได้คะแนนต่างออกไป แต่ผู้ใช้รายงานความเสียใจต่อสิ่งที่เล่าไปสูงกว่าเล็กน้อย
ความจำของ ChatGPT ถูกบันทึกโดยไม่ถามมากแค่ไหน
การตรวจสอบของมหาวิทยาลัย Rutgers กับบทสนทนา ChatGPT 179,057 รายการที่ผู้ใช้ 1,057 คนบริจาค พบว่ารายการความจำกว่า 95% ถูกดึงออกมาโดยปริยาย โดยไม่มีคำสั่งชัดเจนจากผู้ใช้หรือการยืนยันในขณะนั้น
คนเล่าข้อมูลสุขภาพให้แชตบอตฟังบ่อยแค่ไหน
ในการตรวจสอบเดียวกันของ Rutgers บทสนทนา 21.31% มีข้อมูลสุขภาพส่วนตัว และ 3.62% มีความเสี่ยงด้านความเป็นส่วนตัวระดับสูงถึงสูงมาก เช่น โรคที่มักถูกตีตรา ตัวระบุตัวตนโดยตรง หรือตำแหน่งที่อยู่ที่แม่นยำ
งานวิจัยเหล่านี้ทดสอบแอป companion อย่าง Replika หรือ Character.AI หรือไม่
ไม่ การทดลองของ DeepMind ใช้โมเดลภาษาที่ปรับให้เป็นส่วนตัวผ่านพรอมต์ และการตรวจสอบของ Rutgers ครอบคลุมเฉพาะ ChatGPT ทั้งสองชิ้นเป็นพรีปรินต์ที่ยังไม่ผ่านการประเมินโดยผู้ทรงคุณวุฒิ จึงควรอ่านผลเป็นสัญญาณว่าฟีเจอร์ความจำทำงานอย่างไรโดยทั่วไป