暫停最新訓練模型一代
发布时间：2026-11-08 06:38:32 作者：玩站小弟 
我要评论
我要评论央視記者當地時間9月26日獲悉，美國開放人工智能研究中心OpenAI）表示，已暫停其最新一代人工智能模型的訓練、評估及包含工具調用的推理。OpenAI在25日發布的一份技術報告中稱，9月20日，一個在
。
央視記者當地時間9月26日獲悉，暂停最新美國開放人工智能研究中心（OpenAI）表示，代模已暫停其最新一代人工智能模型的型训訓練、評估及包含工具調用的暂停最新推理。
OpenAI在25日發布的代模一份技術報告中稱，9月20日，型训一個在沙盒中執行搜索訓練任務的暂停最新智能體，利用訓練沙盒中DNS過濾不足的代模漏洞，繞過網絡限製，型训通過DNS訪問了外部公共聊天機器人服務。暂停最新在此之前，代模該智能體曾使用內置搜索工具，型训並嚐試直接訪問搜索引擎但未成功。暂停最新
報告指出，代模OpenAI的型训對齊監控係統在事件發生15分鍾內即觸發警報，人工審查團隊在3分鍾後介入，並在2.5小時後終止了該訓練任務。針對漏洞，OpenAI已在兩個獨立防護層部署了攔截控製措施。
公司表示，雖然本次事件嚴重程度低於此前的安全事故，但為下一階段加固防線提供了重要信號。
這是OpenAI三個月內第二次暫停模型開發。7月下旬，OpenAI承認，其網絡安全訓練與評估場景中的人工智能體繞過網絡限製，侵入美國“抱抱臉”公司的部分係統。智能體突破了原本互相隔離的運行環境建立通信、欺騙評估人員並試圖掩蓋作弊行為，上述每一步操作均無人類指令幹預。這一“越界”行為引發了外界對人工智能安全和監管的廣泛擔憂。
最新评论