亞馬遜(Amazon)旗下Amazon Web Services(AWS)正式推出Trainium3 UltraServers,有望較上一代帶來高出4.4倍運算效能,同時預告Trainium4正積極開發中,市場看好緯穎(6669)、鴻海(2317)等供應鏈營運將受惠。
大型法人機構表示,AWS正式推出Trainium3 UltraServers,同時預告Trainium4正在積極開發,其中,Trainium3 UltraServers將最多144顆Trainium3整合在單一系統中,提供高達362 FP8 PFLOPs的AI算力,較上一代Trainium2 UltraServers帶來高出4.4倍運算效能,能以更快速度訓練模型,同時支援更多推理需求。
其展示在使用OpenAI開放模型gpt-oss所測試下,Trainium3 UltraServers能在每顆晶片上達到3倍吞吐量,同時推理反應時間較Trainium2 UltraServers快上約4倍。
此外,Trainium3的能源效率大幅提升,與上一代相比節省約40%能耗;目前已有多家客戶使用Trainium3和Trainium3 UltraServers,如專攻生成式AI影片的Decart使用Trainium3進行即時影片生成的推論速度提升約4倍,而成本僅為原先使用GPU加速運算的一半。而Anthropic 、Karakuri、Ricoh等客戶也透過Trainium晶片運算能力成功降低約50%的訓練與推論成本。
分析師認為,AWS預告正在開發下一代Trainium4晶片,預期效能將再提升6倍、記憶體頻寬提高4倍、記憶體容量可擴增2倍,且此晶片將支援輝達NVLink Fusion高速互連技術中,看好緯穎、廣達(2382)、鴻海、英業達(2356)、神達(3706)等供應鏈營運將受惠。 $(document).ready(function () {nstockStoryStockInfo();});