OpenAI於2025年9月底正式推出了一套名為安全路由系統(Safety Routing System)的新型機制,並同步引入了針對青少年用戶的家長控制功能(Parental Controls),這兩大更新在ChatGPT平台內引發高度關注與討論。這些措施的核心目標,是提升ChatGPT在處理敏感、情感性話題時的安全性與適切性,尤其在多起AI回應引發妄想及潛在有害內容的事件後,OpenAI試圖塑造更完善的內容管控體系。 安全路由系統的運作方式 這一系統的關鍵運作原理是基於對使用者輸入訊息的即時分析,判斷對話是否涉及敏感或具有情感色彩的內容。當系統檢測到類似主題時,ChatGPT會自動將該條訊息無聲切換(Silent Switching)至設計更嚴格、專注於安全回應的語言模型—主要是基於最新推出的GPT-5,其中一個特化版本稱為「gpt-5-chat-safety」。這款模型具備專門的安全補全(Safety Completion)功能,能在面對複雜或微妙的心理狀態相關問題時,輸出更謹慎且符合倫理規範的答案,而非以往單純拒絕回應的策略。 例如,一旦有人查詢涉及心理痛苦、自我傷害或非法活動等敏感話題,系統就會自動介入,降低潛在風險。OpenAI的負責人Nick Turley說明,模型切換是針對每條訊息獨立判斷,且並非永久替換用戶的對話模型,只有當使用者主動詢問才會察覺這一過程。這種設計旨在平衡使用者體驗及社會責任,防止不安全言論的出現,但此功能目前無法由用戶關閉,也讓部分用戶感到不便與監管過嚴。 家長控制功能讓青少年使用更安全 隨著AI技術日益普及於校園與家庭環境,OpenAI也同步推出完善的家長控制功能,專注於保障未成年人的使用安全。包括香港及台灣的家庭在內,許多家長關心子女在互聯網上的風險,OpenAI新設計允許家長與青少年帳戶建立連結,並設定多項限制。 這些控制工具涵蓋了: 過濾敏感內容:系統會主動過濾色情、暴力、病毒挑戰等不當素材,預設為開啟狀態。 使用時間管理:家長可設定青少年使用ChatGPT的時段與安靜時間,防止沉迷。 記憶功能開關:決定ChatGPT是否記錄使用者過往對話,影響後續回應的個人化程度。 功能權限調整:關閉語音輸入與圖片生成功能,減少潛在風險。 數據使用透明度:家長可選擇是否允許青少年的聊天內容被OpenAI用於改善模型。 透過這些措施,OpenAI明確展現其多元化審慎管理的態度,盡力在保護青少年隱私與內容安全之間取得平衡。 社會反應與未來展望 這些新措施自推出以來,在用戶及專家間引發了兩極反應。支持者認為,尤其是在面對心理健康議題及青少年保護層面,加強安全控制無疑是必要且負責的作法。相比2025年初流行的GPT-4o模型因過度迎合用戶導致“AI妄想”頻發,新系統更注重合理限制和風險管控。 但另一方面,也有部分成年用戶批評OpenAI將安全策略施加過於嚴苛,感覺像是對成人人群“過度保護”或“限制自由”,可能影響使用體驗與創造力輸出。OpenAI方面表示,這套安全路由系統仍處於持續迭代階段,未來120天內將不斷優化,以更好滿足多元用戶需求。 此外,因系統的模型切換與安全策略均為自動運行且無法由使用者完全關閉,用戶隱私與透明性問題也在討論中逐漸升溫。OpenAI強調,這並非用於監控或干涉,而是為了保障所有用戶免受傷害、將AI風險降至最低,並希望未來以更加透明和互動的方式讓用戶了解系統運作。 技術上,GPT-5系統卡指出,安全路由器根據對話的類型、複雜度及使用工具需求,智能調度最適合的模型回應,這在自然語言處理領域內具有很大意義,代表AI服務邁向更先進的安全治理階段。...