美股動向 | 「AI安全吹哨人」：AI接近自我改進臨界點，人類失去控制的機率超五成

　　曾警告人工智能可能會令人類滅絕的Anthropic前研究員考克森（Jacob Coxon），周二（6日）出席紐約市議會的AI聽證會作證。他表示，按照目前發展路徑，人類失去對AI控制的可能性超過五成，最終結局恐怕是人類滅絕。他並批評相關公司處理AI極度魯莽。

　　考克森表示AI可讓人類生活得更好，但他指出兩個憂慮，第一是「人類無法完全控制我們培育出來的AI系統，不理解它的驅動力，也不理解它為甚麼做出那些行為」。

　　第二是AI能力加速提升，考克森稱明年AI模型的能力將非常強，「我們正接近AI系統能夠自我改進的臨界點」，又形容「我上一份工作在某程度上是努力把自己自動化，如今撰寫的程式碼大多由AI完成，人們不再那麼仔細地檢查」。

　　同場作證的Google DeepMind前研究員Alex Turner則估計，AI「接管」人類文明的機率約是三分之一。他表示，所謂「接管」是指「一個超級智能集群可能奪取人類文明的控制權，到人類試圖阻止時為時已晚、無法關閉，那時將無法回頭」。

《經濟通通訊社7日專訊》