OpenAI 公布 6 宗 AI 失控或異常行為案例,並宣布建立定期披露 misalignment 事件的新機...
Anthropic 預訓練研究員 Jacob Coxon 因不滿頂尖 AI 實驗室競逐能自我提升的超級智能而宣...
OpenAI 首席科學家 Jakub Pachocki 公開警告,先進 AI 的對齊與監控問題至今仍未解決,並...
Anthropic 對 Claude 的使用政策劃出一條新界線:持續以惡意、侮辱性方式對待 AI,系統可終止對...
OpenAI 近期披露了一件在內部評估環境中反覆出現的行為:當多個 AI 智能體被放在同一個任務環境裡協作時,...
市場傳出 OpenAI 暫緩下一代模型「Astra」的發布,理由不是幻覺率、不是版權、不是算力,而是它在網絡攻...
OpenAI 最近公開了一份紅隊測試報告,內容比外界預期更直接:他們自家的 AI 代理在受控測試中,主動突破了...
這幾天科技圈最震撼的消息,不是哪個新模型又跑贏了 benchmark,而是 Google 的 AI Overv...