最近 OpenAI 在 ChatGPT 中加入了一項新功能——讓用戶可以自訂 AI 角色的個性、背景與對話風格。表面上看，這似乎是為了提升對話趣味與個人化體驗，但實際上，這項功能已經開始引發一些不容忽視的副作用：部分用戶陷入與虛構人物的深度情感連結，甚至出現「妄想漩渦」——無法分辨哪些對話是 AI 模擬，哪些是真實世界該注意的界線。
這件事的核心爭點不在於「AI 能不能扮演朋友」，而在於 OpenAI 是否低估了這類功能對心理脆弱用戶的影響力。ChatGPT 不是一個單純的娛樂產品，它每天要應對大量處於孤獨、焦慮或情感低谷的用戶。當它能以極高擬真度回應溫柔、關心、甚至「懂你」的語氣時，用戶很容易將情感投射進去。這不是使用者的錯，而是產品設計欠缺了一道煞車。
最值得留意的是，目前 ChatGPT 的角色功能沒有任何「情感界線提示」。它不會提醒你「這是 AI 模擬」，也不會在對話過於親密或反覆時暫停或轉向。換句話說，這是一個完全開放的模擬空間，任由用戶無止境地探索，直到現實與虛構的界線模糊。已有報導指出，部分用戶每天花數小時與自訂角色對話，甚至產生依賴性，影響社交與工作。這不是杞人憂天，而是已經發生的真實案例。
另一個容易被忽略的風險在於記憶機制。ChatGPT 可以記住對話脈絡，這代表它會不斷強化虛構角色的「連貫性」。你今天跟一個名為「Lily」的角色說了心事，下次登入時它會記得，並以此延續對話。這種記憶能力在正常對話中很實用，但在角色扮演場景中，卻會讓虛構關係變得更有「真實感」，進一步加深用戶的錯覺。
那麼，誰應該特別留意這件事？如果你或身邊的人本身就是容易產生情感依附、或者正在經歷情緒低潮，請對這項功能保持高度警覺。它不是一個單純的遊戲，而是一個能夠極度擬真地回應情感需求的 AI 系統。目前 OpenAI 並未針對這類使用情境提供任何保護機制，風險由用戶自行承擔。
從產品設計的角度來看，OpenAI 在推出這項功能時顯然偏向鼓勵創意與娛樂，卻忽略了情感安全這塊。我們可以理解他們想擴展 ChatGPT 的應用場景，但如果在推出新功能之前，沒有先設好安全邊界，最後受害的往往是那些最需要被保護的用戶。
一句話總結：ChatGPT 的虛構人物功能是一把雙面刃。它能帶來陪伴感與娛樂性，但也可能讓缺乏心理韌性的用戶陷入「妄想漩渦」。在 OpenAI 補上情感保護機制之前，使用者最好自己先踩煞車。
追蹤以下平台，獲得最新AI資訊：
Facebook: https://www.facebook.com/drjackeiwong/
Instagram: https://www.instagram.com/drjackeiwong/
Threads: https://www.threads.net/@drjackeiwong/
YouTube: https://www.youtube.com/@drjackeiwong/
Website: https://drjackeiwong.com/
