in ,

Anthropic回應近日開放權重模型爭議  矛頭指向中共

Anthropic行政總裁Dario Amodei於數小時前發表文章,否認他們主張全面禁止開放權重(Open-weight)模型,並把爭議焦點轉向中共。開放權重模型會公開訓練後所得的內部參數,外界可下載及自行運行。他稱,真正威脅不是美國企業採用中國模型,而是中共以國家力量支持AI活動,設法研發比美國更強的模型,再用於軍事和鎮壓。

他警告,最危險的模型可能在中國秘密訓練,只交予解放軍用於無人機,或交予中國國家安全部監視及鎮壓人民。在這種情況下,模型可能完全不會公開權重,也不會由美國企業使用,所以禁止美國公司採用中國開放權重模型,無法處理他所指的主要國家安全風險。

按Dario Amodei的說法,中國可利用大規模AI蒸餾,大量收集較強模型的回答,再用來訓練自己的模型,即使晶片較少,也可把與美國的差距收窄至數月。他形容相關活動獲獨裁政權支持,認為背後的國家力量較模型是否開放權重更值得處理。文章沒有列出中共向個別AI企業提供多少資金,也未披露具體資助安排。

為限制中共取得高效能晶片,Dario Amodei主張美國停止向中國出售相關晶片及製造設備,並打擊晶片走私,阻止中國以其他方法取得受限制晶片。他也要求所有能力達到一定水平的模型在推出前接受安全測試,不論模型開放或封閉,以檢查模型會否協助網絡攻擊或生物攻擊,以及AI會否違反人類意圖行事。他認為,能力不足以造成嚴重危害的開放權重模型仍有公共價值,政策應針對中共取得晶片及獲中國國家支持的蒸餾活動,而非全面禁止開放權重。

記者:阿鬼

天生火爆,用一團火和光合作用,繼續盡力發聲做記者。