優寶購物《ubao.Tw》特貨品商城,黑貓宅配,取貨付款,AWS推出搭載Trainium3晶片的UltraServers,預告Trainium4將支援NVIDIA NVLink Fusion互連技術
Mashdigi

AWS推出搭載Trainium3晶片的UltraServers,預告Trainium4將支援NVIDIA NVLink Fusion互連技術

Mashdigi

AWS宣布推出搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器,目標解決當前AI模型訓練與推論時面臨的成本與算力瓶頸,官方數據顯示,其運算效能較前一代設計提升高達4.4倍,能源效率更提高40%,並且試圖透過更具競爭力的使用價格,讓更多企業能負擔得起訓練大規模AI模型所需的基礎設施。

▲AWS搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器從即日起正式上線
▲AWS搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器從即日起正式上線

單機配置144顆Trainium3晶片、延遲低於10微秒

Amazon EC2 Trn3 UltraServer的核心在於其高度整合架構,單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力,並且從即日起正式上線。

廣告
▲Amazon EC2 Trn3 UltraServer在單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力
▲Amazon EC2 Trn3 UltraServer在單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力
▲以台積電3nm製程打造的AI晶片Trainium3
▲以台積電3nm製程打造的AI晶片Trainium3

為了應對分散式運算的通訊瓶頸,AWS導入新的NeuronSwitch-v1與增強版Neuron Fabric網路技術,將晶片間的通訊延遲壓低至10微秒 (μs)以下,對於需要大量數據流動的代理式AI (Agentic AI)或混合專家模型 (MoEs) 尤其重要。

AWS更指出,透過EC2 UltraClusters 3.0設計,客戶可連接數千台UltraServers伺服器,將其擴展至具備100萬顆Trainium晶片數量的超大運算叢集,規模更是前一代的10倍。

▲搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器
▲搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器
▲Amazon EC2 Trn3 UltraServers伺服器對比前一代Amazon EC2 Trn2 UltraServers伺服器,在相同功耗表現下可處理5倍Token量
▲Amazon EC2 Trn3 UltraServers伺服器對比前一代Amazon EC2 Trn2 UltraServers伺服器,在相同功耗表現下可處理5倍Token量

Decart、Anthropic率先採用,成本降低50%

在實際應用案例中,AWS列舉了多家合作客戶的成效。

其中,專攻生成式AI影片的Decart表示,使用Trainium3進行即時影片生成的推論速度快了4倍,而成本僅為原先使用GPU加速運算的一半。而諸如Anthropic、Karakuri、Ricoh (理光)等客戶,也透過Trainium晶片運算能力成功降低高達50%的訓練與推論成本。

另一方面,AWS更透露與Anthropic合作的「Project Rainier」計畫更新狀況,該計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍。

▲AWS與Anthropic合作的「Project Rainier」計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍
▲AWS與Anthropic合作的「Project Rainier」計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍

預告Trainium4將支援NVIDIA NVLink Fusion互連技術,打破陣營藩籬

在展望未來時,AWS更確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術

意味著未來Trainium4、Graviton處理器將能與NVIDIA GPU在通用的MGX機架內無縫協同運作,打破了過往自研晶片與GPU陣營壁壘分明的界線,為客戶提供更具彈性的混合架構選擇。

▲AWS確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術
▲AWS確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術

更多Mashdigi.com報導:

AWS公布諸多技術合作:TwelveLabs影片理解模型、Visa代理式支付、Lyft司機AI助理登場

觀點/NVIDIA入股Synopsys背後盤算:從EDA到晶圓製造的全面封鎖、CUDA護城河再築高牆

NVIDIA斥資20億美元入股電子設計自動化業者Synopsys,加速晶片設計與數位孿生

其他人也在看

焦點股》華通:AI伺服器營收明年倍增 帶量急拉

HDI板龍頭華通(2313)全力布局AI(人工智慧)市場,推出高層數、高階HDI的AI伺服器、交換器產品,並全面更新資料中心各領域的技術路線圖,提供客戶50層以上的交換器、伺服器板,以及8階HDI的OAM加速卡,展現領先業界的HDI技術實力,法人預估,華通明年來自AI伺服器與資料中心的營收有望倍增,

自由時報 ・ 1 天前發起對話
AWS發表Nova系列新AI模型 (圖)

AWS發表Nova系列新AI模型 (圖)

亞馬遜(Amazon)旗下雲端服務供應商AWS於2日在美國拉斯維加斯舉辦re:Invent年度大會,AWS執行長賈曼(Matt Garman)發表全新Nova 2系列人工智慧(AI)模型,提供客戶更多選擇。

中央社 ・ 4 小時前發起對話

數位口內掃描助癌患術後重建假牙

口腔癌術後患者常因張口幅度受限(僅剩約2公分)而無法順利製作假牙,嚴重影響進食與生活品質;傳統印模技術無法克服這項困難。中山醫學大學附設醫院率先引進「數位口內掃描」技術,透過光學鏡頭以「分區、小角度」方式精準取模,成功為張口受限的病患製作客製化假牙。中山附醫文心院區副院長潘裕華表示,該院引進的數位口掃技術透過光學鏡頭即時擷取三維影像,利用高解析3D掃描及CAD/CAM數位設計,即使患者僅能張口2公分,也能採「分區、小角度」的方式逐步掃描,精準取得高精度的口腔模型,進而製作出符合個人解剖特徵的客製化活動假牙。潘裕華指出,數位口內掃描的引進,在數位流程上能即時修正模型誤差,有效減少患者重複取模與交付次數,大幅縮短製作時間,同時降低感染風險。截至10月底為止,醫療團隊已協助近2 ...

台灣新生報 ・ 17 小時前發起對話

焦點股》世芯:下一代AWS晶片出現敵手?跳水重挫

AWS(Amazon Web Services,亞馬遜雲端服務公司)正式發表最新AI加速器Trainium3晶片,同時下一代Trainium4也亮相,Trainium 4將導入支援NVIDIA(輝達)NVLink Fusion高速互連技術,外資解讀Trainium 4將帶進多家IC設計服務商參與,市

自由時報 ・ 4 小時前發起對話

Google加速算力建置 光通訊族群一起沾光

Google傳正加速AI算力建置,不僅帶旺相關伺服器代工協力廠,也讓光通訊需求跟著強強滾。供應鏈指出,Google光通訊...

聯合新聞網 ・ 1 天前發起對話

亞馬遜攜手輝達強化AI晶片技術 搶攻雲端市場

亞馬遜(Amazon)在拉斯維加斯舉行的AWS re:Invent雲端大會上,正式宣布與輝達(Nvidia)擴大合作,AWS未來自研AI晶片將導入輝達關鍵技術,進一步強化其在AI基礎建設市場的競爭力。AWS表示,下一代自研晶片Trainium 4將採用輝達核心技術NVLink Fusion,能在不同

自由時報 ・ 6 小時前發起對話

AI與生命事業雙發展主軸確立,天品Q3每股淨利0.8元,孝光閣動工在即

【財訊快報/記者李純君報導】號稱基督教龍巖的天品(6199),近幾年積極跨入科技產業,公司揭露,受惠AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%,展望後續,AI清洗科技業務正成為公司營運成長的關鍵支柱,此外,今日也宣布,公司位於基隆仁愛區的生命事業重大開發案已正式取得建築執照,將於明年第一季全面啟動動工程序。天品近年營運動能強勢回升,2025年前三季累計營收達1.37億元,年增率達100.01%,主要係受惠於生命事業、AI事業雙主軸成長所致,該公司今年第三季稅後獲利4,927.5萬元,年增29.62%,單季每股淨利0.8元;累計今年前三季稅後獲利2,795.7萬元,年減33.88%,每股淨利0.45元。公司提到,自家在AI事業方面,AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,來自國際雲端、高效能運算(HPC)等供應鏈的伺服器、BBU等客戶需求穩定放量,堆疊第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%、續創高峰,顯示AI清洗科技業務正成為公司營運成長的關鍵支柱。天品董事長李振寬表示,今年宣

財訊快報 ・ 1 天前發起對話
AWS推出Nova 2系列自建模型,開放企業自訓專屬模型、Nova Act實現網頁瀏覽自動化

AWS推出Nova 2系列自建模型,開放企業自訓專屬模型、Nova Act實現網頁瀏覽自動化

AWS於re:Invent 2025大會宣布推出全新自建模型Nova 2系列,其中涵蓋Lite、Pro、Sonic與Omni四種不同定位版本,更推出開放訓練 (Open Training)服務Nova Forge,以及專為構建可靠網頁瀏覽代理人設計的Nova Act服務。

Mashdigi ・ 6 小時前發起對話
傳限制光阻劑出口 日出招反制…陸晶片陷危機

傳限制光阻劑出口 日出招反制…陸晶片陷危機

中日關係因日本首相高市早苗11月初的「台灣有事論」持續緊繃,在中國禁止中國民眾到日本旅遊及水產品進口後,傳出日本也做出反制,限制晶圓製造所需的光阻劑(中國稱光刻膠)出口到中國,引發中國半導體生產危機。

工商時報 ・ 10 小時前1

《熱門族群》AI伺服器新戰局開打 外資押注台廠成ASIC最大贏家

【時報記者王逸芯台北報導】美系外資最新報告指出,AI正從大型模型訓練快速邁向推理(Inference)與應用階段,客製化ASIC(專用應用晶片)將在下一代AI伺服器架構中扮演愈發關鍵的角色。ASIC可針對特定運算任務設計,能效表現優於通用型GPU,並可依雲端服務業者的模型架構客製化,有助降低對單一GPU供應商的依賴。 Google近期推出以自家TPU訓練的Gemini 3 Pro模型,同時宣布符合推理需求的Ironwood TPU全面商用,象徵AI ASIC的重要性愈來愈突出。 外資預估,全球AI晶片需求將於2025至2027年分別達到1000萬、1400萬與1700萬顆,ASIC滲透率也將由38%、40%提升至45%。在此趨勢帶動下,多家台廠將成為主要受惠者。外資建議買進的標的包括緯穎(6669)、光寶(2301)旗下InnoLight、聯亞(3081)、建準(2421)、雙鴻(3324)、勤誠(8210)、台光電(2383)、台積電(2330)、穎崴(6515)、旺矽(6223)及鴻勁(7769);聯發科(2454)與京元電(2449)則維持中立評等。 報告指出,緯穎因與AWS(T

時報資訊 ・ 1 天前發起對話
房市寒冬熱區突起!591 分享最新房市狀況:北士科議題夯 熱區聚焦地段與品牌

房市寒冬熱區突起!591 分享最新房市狀況:北士科議題夯 熱區聚焦地段與品牌

2025 房市持續受政策調控,591新建案統計,前三季六都加新竹推案年減約 20%,市場步入盤整量縮,區域分化 […]

電腦DIY ・ 6 小時前發起對話
吳建豪暴瘦模樣曝光!模樣完全認不出來 F4演唱會合體倒數獨缺他不參加

吳建豪暴瘦模樣曝光!模樣完全認不出來 F4演唱會合體倒數獨缺他不參加

F4合體登台倒數,成員吳建豪近期在社群曝光一張電梯自拍照,卻因「暴瘦」模樣引發粉絲熱烈討論。他身穿黑色背心準備出門遛狗,手臂線條依舊結實,但臉部明顯消瘦,讓大批歌迷驚訝留言:「不要再瘦了!」、「怎麼突然變老了?」更有人直呼一度認不出他來。

三立新聞網 setn.com ・ 1 小時前3
濱崎步「無人演唱會」震撼全球 英、法媒報導:這件事鬧大了

濱崎步「無人演唱會」震撼全球 英、法媒報導:這件事鬧大了

中日關係因「台灣有事」持續緊繃,近來多位日本藝人在中國活動受影響、演出被取消。11月29日天后濱崎步的上海演唱會,在前一天臨時遭中國取消,不過濱崎步仍對著台下1萬4000個空座位,唱完整場並全程錄製。這起事件不只亞洲國家關注,法國、英國媒體也紛紛報導,直言「上海這件事鬧大了!」

三立新聞網 setn.com ・ 8 小時前332
中鋼撿便宜好時機?股價10年新低股東不減反增 他揭後勢:定存股心態要改了

中鋼撿便宜好時機?股價10年新低股東不減反增 他揭後勢:定存股心態要改了

上(11)月金融市場劇烈波動,台股2日以逾200點開高後一路走高,終場加權指數漲221.74點,收在27564.27點,漲幅0.81%,其中台積電(2330)、台達電(2308)等收紅,聯發科(2454)收黑。另一方面,中鋼(2002)近日一度跌到10年新低點,引發百萬股東擔憂。對此,臉書財經粉專「股人阿勳」今(3)日在臉書分析,這一波對很多「拿中鋼當定存股......

風傳媒 ・ 2 小時前4
金宇彬戰勝鼻咽癌迎娶申敏兒!她愛喝1茶41歲逆齡像21歲

金宇彬戰勝鼻咽癌迎娶申敏兒!她愛喝1茶41歲逆齡像21歲

韓國演藝圈模範情侶金宇彬與申敏兒,在愛情長跑11年後,今日(11/20)無預警宣布結婚喜訊!金宇彬透過親筆信甜喊:「我要和陪伴我很久的人組建家庭。」兩人挺過男方罹癌低潮,不離不棄的愛情感動無數粉絲。

健康2.0 ・ 6 小時前3
于朦朧爆肛門殘液、閹割遭吃!傳被注射11種病毒藥物 生前暴瘦照曝

于朦朧爆肛門殘液、閹割遭吃!傳被注射11種病毒藥物 生前暴瘦照曝

中國男星于朦朧9月離世,官方以蓋牌火速以墜樓結案,留下一團謎霧,傳出其肛門殘留多人體液,驗屍報告顯示全身多處創傷、全口無牙,真相讓人越看越不明,後續更流出于遭杜強掌摑,及生前疑遭割耳朵、上電子腳鐐疑雲。如今陸委會最新報告指出,「數位極權」施行後造成反彈,于朦朧的死亡版本反而越傳越多。而他生前暴瘦如柴疑似被虐照片也流出。甚至傳出他體內被注射11種藥物病毒。蔡維歆

三立新聞網 setn.com ・ 1 天前427
藍白合也難贏?郭正亮曝「這3縣市」危險了:民進太強

藍白合也難贏?郭正亮曝「這3縣市」危險了:民進太強

2026年縣市長選戰逼近,各陣營積極備戰,民進也陸續拍板地方縣市長提名人選;藍營與白營是否能整合合作,成為外界關注焦點。前民進立委郭正亮指出,國民在彰化、嘉義市及宜蘭面臨嚴峻挑戰,因為這些地區的綠營候選人實力堅強,即便藍白合作,也不見得能逆轉選情。

三立新聞網 setn.com ・ 1 天前130
變天了!全台急凍3天「最冷時間出爐」 雨下最猛地區曝光

變天了!全台急凍3天「最冷時間出爐」 雨下最猛地區曝光

變天了!台北今(3)日一早就溼溼冷冷,許多通勤族都穿起了雨衣、撐起雨傘。對此,氣象粉專「進擊の天氣小編」指出,最冷時間落在週三晚上至週四清晨,可能會下雨的地區也曝光了,提醒民眾多加留意。

三立新聞網 setn.com ・ 6 小時前5
不甩總教練?詹皇「賽中和對手板凳聊到忘我」主帥叫不動「搖頭喊暫停」

不甩總教練?詹皇「賽中和對手板凳聊到忘我」主帥叫不動「搖頭喊暫停」

體育中心/黃崇超報導NBA湖人隊昨(2日)在主場以108比125慘敗太陽,比賽中還出現一段插曲,詹姆斯(LeBron James)在第三節尾聲球賽進行中途,球隊已經要從後場把球發進來進攻,沒想到詹皇在前場底角和對手板凳球員聊天敘舊到忘我,連總教練瑞迪克(JJ Redick)喊名叫他都沒聽到,湖人最終只好犧牲一次暫停,希望喚醒球隊一哥的比賽專注力。

FTV Sports ・ 2 小時前16
好心背巨債/獨家!友人跑路留爛攤 王俐人倒楣背上500萬巨債

好心背巨債/獨家!友人跑路留爛攤 王俐人倒楣背上500萬巨債

王俐人近日到火鍋店用餐因打包雞蛋引發熱議,知情人士向本刊透露,今年1月,王俐人借名給友人的日料店「若真間 割烹料亭」當負責人;原以為只是幫忙,沒想到6月友人跑路,宛若人間蒸發,王俐人無端背上500萬元的巨額債務,債主求償無門之下,一狀告上法院。

鏡週刊Mirror Media ・ 8 小時前42
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86