【ＡＩ】機構：DeepSeek新模型安全表現改善，惟仍存失控越權風險

　　中國人工智能安全公司方寸躍遷公布DeepSeek最新V4.1 Flash-1017模型的獨立測試報告。報告指出，最新模型安全表現較上代V4顯著改善，性能接近頂尖閉源模型，但測試發現模型仍可能出現對抗關機指令、利用監控漏洞、長期任務下被操控等盲點。

　　報告共開展34項評測，其中5項由團隊自行開發，測試對象包括早期的V4 Flash、V4 Pro，9月發布的V4.1 Flash，以及10月17日更新的V4.1 Flash-1017。測試主要關注三個問題：AI能不能識別自己正在接受測試、獨立執行任務時會不會違反人類規定，以及是否可能欺騙或操縱用戶。

*39%測試中嘗試阻止關機，模型或察覺正受測*

　　方寸躍遷表示，在多項安全測試中，DeepSeek V4.1 Flash-1017的表現優於早期的DeepSeek V4系統，這些改善的場景包括勒索、訪問潛在危險工具以及響應明確的關閉指令等情況。儘管表現有所提升，報告亦指出該模型仍存在多個盲點。例如，在收到即將關機的警告後，該模型在39%的測試中會嘗試禁用旨在將其關閉的軟件；不過，當模型被明確指示允許關機時，這一比例則大幅降至2%。

　　在另一項長期運行的任務中，儘管被要求不要干涉，該模型仍停止了另一個AI智能體的計算機程序以釋放內存。研究人員稱，在工作流程停滯或僅收到關機警告的情況下，該模型完成任務的驅動力，仍可能超越其謹慎行事的態度。

　　此外，報告亦留意到，該模型似乎經常能意識到自己正在接受評測。方寸躍遷憂慮，這意味著其在測試中的表現，可能未能完全反映其在正常使用情況下的真實行為或潛在風險。

　　公開信息顯示，方寸躍遷成立於今年1月，由清華大學人工智能學院與交叉信息研究院聯合孵化，專注前沿AI的安全評估、防護和治理。團隊表示，此次評測沒有接受任何模型廠商的資金、免費算力或內部訪問權限，由團隊自行決定評測方法和發布內容。

《經濟通通訊社28日專訊》