【ＡＩ】OpenAI前員工：AI公司應採取核電站級數防護機制，防AI失控

　　OpenAI專注於人工智能安全的前員工David Robinson表示，頂尖AI公司在降低風險方面做得不夠，應像核電站那樣運營，設置多重冗餘機制，謹慎規劃，以免偶發且不可避免的人為錯誤打開通往災難的大門。

　　David Robinson在《大西洋月刊》撰文表示，OpenAI一直透過反覆試錯發展壯大，但這方式難免會有失敗的時候。隨著AI技術的能力不斷提升，這些失敗造成的風險亦加大。

　　他稱：「隨著公司從一個產品發布衝向下一個產品，公司並沒有達到我認為所需要的謹慎程度。真正需要的是第一次就做到更接近完美。」

　　OpenAI發言人表示，該公司正擴大與第三方評估人員的合作，改進實時監控以發現模型令人擔憂的行為。公司亦正確保其AI模型能力不會增強到超出OpenAI安全管理的程度。
《經濟通通訊社5日專訊》