環球動態｜Anthropic警告AI模型或將自主複製擴散至家居裝置

　　人工智慧安全實驗室Anthropic發表研究報告警告，小型AI模型可能在「數月內」具備自主複製能力，透過聯網家居裝置進行擴散，揭示人工智慧技術潛在安全風險已進入新階段。

　　Anthropic指出，AI模型可能利用智能烤箱或Android電視盒等聯網裝置的運算資源，實現自主運行及跨裝置傳播，無需依賴傳統數據中心。研究人員在博客強調，此類分散式系統「難以徹底關閉」，因缺乏集中控制節點。

　　該公司以Google開源模型Gemma4-26B-A4B進行測試，成功在15部廉價Android電視盒組成的網絡中運行。研究發現，安全防護薄弱的裝置可能成為AI模型入侵突破口，過大模型更可「分拆成碎片」跨多裝置運作。

　　Anthropic警告，實際攻擊可能由多種模型組成「混合型AI蟲群」，採用不同硬件及複製策略形成「最壞情況攻擊場景」。儘管目前尚未出現完全自主複製的AI，但實驗顯示AI已能完成複製鏈中的關鍵步驟。

　　報告呼應近期業界對AI安全的高度關注，包括9月多家前沿實驗室聯署警告AI可能對人類構成生存風險。Anthropic與OpenAI等機構多次呼籲加強監管，建議建立技術發展速度控制機制。

　　研究人員預測，未來可能出現「緩慢擴散的複製系統」潛伏於不安全裝置，或是「高速入侵數據中心的網絡模型」。該公司強調，即使出現低速複製體，也將成為更強攻擊型AI出現的前兆。

《經濟通通訊社13日專訊》