in ,

Anthropic新措施防中國AI照抄  可抄資料降至最低1%?

Anthropic今日公布一系列新措施對付「蒸餾攻擊」,聲稱偷師者或抄襲者能從Claude抽走的資料已大減約90%至99%,並點名中國AI公司智譜(Zhipu)和月之暗面(Moonshot)偷師照抄美國模型。

蒸餾攻擊其實就是走捷徑偷師,美國公司花巨資研發出強勁的AI模型,中國公司未經同意便開大批帳戶不停向它提問,再把答案當教材訓練自家模型,照抄別人的能力。偷師者只花一小部分時間和成本便追上頂尖水平,難怪中國推出的模型可以賣得咁平,甚至開放權重(open-weight)讓任何人免費下載。Anthropic指最有價值的是Claude回答前寫出的推理過程,因為它能教細模型如何得出答案,所以新防線幾乎全部集中保護這部分。

Anthropic點名智譜在開發GLM-5.3時蒸餾美國頂尖模型的網絡攻擊能力,對方原本想抽取Claude Fable 5,發現其網絡安全防護削弱攻擊效果後,便轉用較舊的Claude模型和另一間AI公司的模型。美國評估機構CAISSI其後評定GLM-5.3是至今網絡攻擊能力最強的開放權重模型,Anthropic自己的研究亦發現它的安全防護很容易被繞過,而且願意全程自行編寫利用保安漏洞的攻擊程式,等於把偷回來的網絡攻擊能力放進一個任何人都可以下載的模型。

國家安全是Anthropic另一個擔憂,它指偷師的公司正把蒸餾得來的能力放進外國軍事、情報及監控系統,而它舉出的例子直指中國軍方。Anthropic早前揭發月之暗面的Kimi模型把用戶請求暗中轉發到Claude偷師,其中一個請求來自Anthropic相信屬中國人民解放軍的用戶,要求分析某個人的閉路電視監控片段,Anthropic直言這正是偷師者想發展的能力。

Anthropic起初只把Claude的推理過程先摘要才顯示,偷師者便轉而用各種方法引誘Claude吐出完整推理,由直接叫它逐字重寫,到有一間AI公司測試12,000種不同請求逐一試探。這些人再建立代理網絡,以假身份和盜用的付款資料開設數十萬個假帳戶,被封一個便換另一個,其中一個網絡同時操控超過20,000個帳戶,還在Claude沒有提供服務的地區轉售使用權。

今次的新防線從三方面同時堵截,8月31日或之後開設的API帳戶不能再修改Claude之前的對話內容,較舊而防護較弱的模型亦不能讀取新模型的推理。Anthropic另外以兩階段過濾系統攔截抽取推理的請求,聲稱防護程度與阻止Claude協助製造生物武器相若,並會對不斷嘗試抽取推理的帳戶收緊用量上限及封號,至今已封鎖數以萬計相關帳戶,很多在對方開始偷師後兩小時內便被封。

不滿中國AI偷師的並非只有Anthropic,OpenAI在2月12日已向美國國會指DeepSeek利用蒸餾照抄,彭博社4月亦報道OpenAI、Anthropic和Google同意互相分享蒸餾攻擊的資料。美國執法及情報官員9月9日更發表聲明,指DeepSeek、月之暗面及阿里巴巴等六間中國公司以工業規模偷師美國模型,很可能在中國政府知情下進行。

Anthropic承認堵截偷師要付出代價,它已推走可觀收入和以萬億計的付費流量,部分正當開發者亦要修改程式,過濾系統更有少於0.1%機會誤攔正常請求,但它認為這些代價值得承受,不能任由對方照抄。偷師者同樣是付費客戶,業界很容易為了收入而不作為,Anthropic因此公開做法,要求其他模型開發者和雲端平台盡快清走假帳戶,

記者:阿鬼

天生火爆,用一團火和光合作用,繼續盡力發聲做記者。