【ＡＩ】網信辦：人工智能領域面臨五大安全風險挑戰，持續健康發展受制約

　　2026年國家網絡安全宣傳周將於9月14日-20日在全國範圍內統一舉行。中央網信辦網絡安全協調局副局長、一級巡視員王麗宏今日在宣傳周的新聞發布會上表示，人工智能等新技術加速迭代，快速賦能千行百業，為中國搶佔新一輪發展制高點、構築國際競爭新優勢提供有利契機，同時也帶來前所未有的風險挑戰，成為制約其持續健康發展的瓶頸。

*AI技術先天脆弱，難在場景複雜環境大規模應用*

　　她指出，當前人工智能領域主要面臨5方面安全風險挑戰。一是技術先天脆弱性難以根除，影響輸出穩定性、可靠性。深度學習等人工智能算法本身運行邏輯複雜、可解釋性比較欠缺，推理過程不透明，異常故障難以快速定位修正，即便是微小的輸入擾動，也可能導致錯誤的推理結果。同時，研發訓練過程中數據來源複雜多元，偏見、歧視等問題可能被有意或無意引入，導致模型錯誤學習並輸出歧視性內容。這類技術層面的先天缺陷，大幅增加了系統故障排查難度，也讓決策合理性難以有效驗證，嚴重制約人工智能在安全要求高、容錯率低、場景複雜的環境中大規模應用。

*先進模型漏洞挖掘能力大增，高度警惕失控風險*

　　二是模型能力躍遷顛覆傳統安全範式，極端失控風險凸顯。部分前沿模型漏洞挖掘能力大幅躍升，極大降低了網絡攻擊的門檻、提高了防護難度，打破了原來以修補漏洞為核心、由靜態規則驅動的傳統網絡安全防護邏輯，網絡安全防護範式面臨重構。近期多家科技巨頭接連曝出了大模型失控的事件，前沿模型在安全評估中出現智能體繞過沙箱、規避安全邊界、越權訪問攻擊外部真實生產系統等行為，人工智能極端失控風險需要高度警惕。

*高權限智能體或被用作攻擊、竊密*

　　三是人工智能形態快速演進，安全風險形態加速迭代。2025年以來智能體應用快速湧現，人工智能正在從「回答問題」走向「執行任務」，安全風險也從「生成有害信息」向「自主實施行動」加速躍升。今年初爆火的OpenClaw也出現了高權限終端智能體掌握系統級權限，安全隱患突出，同時智能體大量「技能」插件被確認存在安全風險。這類高權限智能體一旦被攻擊利用，可成為突破網絡邊界的「跳板」、實施攻擊的「肉雞」、偷窺竊密的「木馬」，從「得力助手」淪為「臥底幫兇」。

*AI或被利於混淆事實、誤導用戶等*

　　四是誤用濫用惡用風險突顯，衝擊社會秩序與倫理邊界。例如在信息服務領域，人工智能可被用於輸出違法有害信息，混淆事實、誤導用戶，污染網絡內容生態。五是全球人工智能領域面臨技術霸權風險。個別國家奉行「技術霸權」，通過出口管制等單邊措施制造供應鏈壁壘，同時也利用輿論炮製大模型不實的測試報告，惡意抹黑他國技術發展。
《經濟通通訊社1日專訊》