微軟今日宣布由明年起大量採用自家設計的Azure Maia AI晶片,總用電量達數吉瓦,旗下產品及服務的AI功能日後主要改由Maia處理。
微軟第二代晶片Maia 200已在美國、歐洲及澳洲投入使用,現時負責Microsoft Copilot的AI功能,GitHub Copilot及開發者平台Microsoft Foundry亦會在年底前開始使用。微軟雲端及AI業務執行副總裁Scott Guthrie在官方網誌表示,Maia 200可執行OpenAI模型、微軟自家MAI模型及開源模型,處理Teams、Copilot及Cowork的內置AI功能時,每瓦電可處理的文字量最多是市面主要GPU的1.7倍。
第三代晶片Maia 300專為分析長篇內容、需要即時回應的對話,以及要連續完成多個步驟的AI助理工作而設,微軟預計它每兆瓦電可處理的文字量比市面主要GPU多40%。一個Maia 300機櫃可裝96枚晶片,處理量最多是Maia 200機櫃的7倍,2027年開始投入使用。
Maia 300的設計重點是減少搬動資料,微軟指大型AI系統現時最大的樽頸是傳送資料,而不是運算速度。新晶片把運算、記憶體控制和資料進出分成幾塊小晶片,負責運算的部分由台積電以N2P製程生產,並改用較低精度的數字格式,減少處理長篇內容時要用的記憶體。
