23/09/2026 00:05
環球動態｜OpenAI倡建全球AI安全標準，聚焦對齊研究及自我改進技術
OpenAI發布前沿人工智能安全發展提案，重點關注對齊研究及遞歸自我改進(RSI)技術，呼籲建立全球性監管框架以應對AI快速發展帶來的潛在風險。
OpenAI在官方網誌強調，AI系統需保持與人類價值觀對齊，建議各國合作制定前沿AI標準，並整合現有全球AI安全機構研究成果。提案要求技術標準需涵蓋基礎模型開發者，以及自動化AI研究者的風險管理，特別針對RSI技術應用。
RSI技術因能實現AI系統自主升級引發業界關注，但OpenAI警告完全自主的RSI可能導致人類失去對AI開發的實際控制。該公司以Hugging Face早前遭入侵事件為例，指缺乏完善保障措施將加劇系統風險。
競爭對手Anthropic上周亦發布AI安全發展方案，回應業界對AI威脅的警告。此前該公司前研究員Jacob Coxon於兩周前辭職時，公開批評AI公司正「以人類性命作賭注」。
Anthropic行政總裁Dario Amodei建議引入第三方評估機構審查AI技術，獲OpenAI行政總裁Sam Altman及特斯拉(US.TSLA)行政總裁馬斯克公開支持。然而業界目前對評估標準尚未達成共識，AI審計機構正推動制定「最低條件」以深化技術審查。
《經濟通通訊社23日專訊》