AWS推出搭載Trainium3晶片的UltraServers,預告Trainium4將支援NVIDIA NVLink Fusion互連技術
AWS宣布推出搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器,目標解決當前AI模型訓練與推論時面臨的成本與算力瓶頸,官方數據顯示,其運算效能較前一代設計提升高達4.4倍,能源效率更提高40%,並且試圖透過更具競爭力的使用價格,讓更多企業能負擔得起訓練大規模AI模型所需的基礎設施。
單機配置144顆Trainium3晶片、延遲低於10微秒
Amazon EC2 Trn3 UltraServer的核心在於其高度整合架構,單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力,並且從即日起正式上線。
為了應對分散式運算的通訊瓶頸,AWS導入新的NeuronSwitch-v1與增強版Neuron Fabric網路技術,將晶片間的通訊延遲壓低至10微秒 (μs)以下,對於需要大量數據流動的代理式AI (Agentic AI)或混合專家模型 (MoEs) 尤其重要。
AWS更指出,透過EC2 UltraClusters 3.0設計,客戶可連接數千台UltraServers伺服器,將其擴展至具備100萬顆Trainium晶片數量的超大運算叢集,規模更是前一代的10倍。
Decart、Anthropic率先採用,成本降低50%
在實際應用案例中,AWS列舉了多家合作客戶的成效。
其中,專攻生成式AI影片的Decart表示,使用Trainium3進行即時影片生成的推論速度快了4倍,而成本僅為原先使用GPU加速運算的一半。而諸如Anthropic、Karakuri、Ricoh (理光)等客戶,也透過Trainium晶片運算能力成功降低高達50%的訓練與推論成本。
另一方面,AWS更透露與Anthropic合作的「Project Rainier」計畫更新狀況,該計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍。
預告Trainium4將支援NVIDIA NVLink Fusion互連技術,打破陣營藩籬
在展望未來時,AWS更確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術。
意味著未來Trainium4、Graviton處理器將能與NVIDIA GPU在通用的MGX機架內無縫協同運作,打破了過往自研晶片與GPU陣營壁壘分明的界線,為客戶提供更具彈性的混合架構選擇。
更多Mashdigi.com報導:
AWS公布諸多技術合作:TwelveLabs影片理解模型、Visa代理式支付、Lyft司機AI助理登場
其他人也在看
焦點股》華通:AI伺服器營收明年倍增 帶量急拉
HDI板龍頭華通(2313)全力布局AI(人工智慧)市場,推出高層數、高階HDI的AI伺服器、交換器產品,並全面更新資料中心各領域的技術路線圖,提供客戶50層以上的交換器、伺服器板,以及8階HDI的OAM加速卡,展現領先業界的HDI技術實力,法人預估,華通明年來自AI伺服器與資料中心的營收有望倍增,
自由時報 ・ 1 天前 ・ 發起對話
AWS發表Nova系列新AI模型 (圖)
亞馬遜(Amazon)旗下雲端服務供應商AWS於2日在美國拉斯維加斯舉辦re:Invent年度大會,AWS執行長賈曼(Matt Garman)發表全新Nova 2系列人工智慧(AI)模型,提供客戶更多選擇。
中央社 ・ 4 小時前 ・ 發起對話數位口內掃描助癌患術後重建假牙
口腔癌術後患者常因張口幅度受限(僅剩約2公分)而無法順利製作假牙,嚴重影響進食與生活品質;傳統印模技術無法克服這項困難。中山醫學大學附設醫院率先引進「數位口內掃描」技術,透過光學鏡頭以「分區、小角度」方式精準取模,成功為張口受限的病患製作客製化假牙。中山附醫文心院區副院長潘裕華表示,該院引進的數位口掃技術透過光學鏡頭即時擷取三維影像,利用高解析3D掃描及CAD/CAM數位設計,即使患者僅能張口2公分,也能採「分區、小角度」的方式逐步掃描,精準取得高精度的口腔模型,進而製作出符合個人解剖特徵的客製化活動假牙。潘裕華指出,數位口內掃描的引進,在數位流程上能即時修正模型誤差,有效減少患者重複取模與交付次數,大幅縮短製作時間,同時降低感染風險。截至10月底為止,醫療團隊已協助近2 ...
台灣新生報 ・ 17 小時前 ・ 發起對話焦點股》世芯:下一代AWS晶片出現敵手?跳水重挫
AWS(Amazon Web Services,亞馬遜雲端服務公司)正式發表最新AI加速器Trainium3晶片,同時下一代Trainium4也亮相,Trainium 4將導入支援NVIDIA(輝達)NVLink Fusion高速互連技術,外資解讀Trainium 4將帶進多家IC設計服務商參與,市
自由時報 ・ 4 小時前 ・ 發起對話Google加速算力建置 光通訊族群一起沾光
Google傳正加速AI算力建置,不僅帶旺相關伺服器代工協力廠,也讓光通訊需求跟著強強滾。供應鏈指出,Google光通訊...
聯合新聞網 ・ 1 天前 ・ 發起對話亞馬遜攜手輝達強化AI晶片技術 搶攻雲端市場
亞馬遜(Amazon)在拉斯維加斯舉行的AWS re:Invent雲端大會上,正式宣布與輝達(Nvidia)擴大合作,AWS未來自研AI晶片將導入輝達關鍵技術,進一步強化其在AI基礎建設市場的競爭力。AWS表示,下一代自研晶片Trainium 4將採用輝達核心技術NVLink Fusion,能在不同
自由時報 ・ 6 小時前 ・ 發起對話AI與生命事業雙發展主軸確立,天品Q3每股淨利0.8元,孝光閣動工在即
【財訊快報/記者李純君報導】號稱基督教龍巖的天品(6199),近幾年積極跨入科技產業,公司揭露,受惠AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%,展望後續,AI清洗科技業務正成為公司營運成長的關鍵支柱,此外,今日也宣布,公司位於基隆仁愛區的生命事業重大開發案已正式取得建築執照,將於明年第一季全面啟動動工程序。天品近年營運動能強勢回升,2025年前三季累計營收達1.37億元,年增率達100.01%,主要係受惠於生命事業、AI事業雙主軸成長所致,該公司今年第三季稅後獲利4,927.5萬元,年增29.62%,單季每股淨利0.8元;累計今年前三季稅後獲利2,795.7萬元,年減33.88%,每股淨利0.45元。公司提到,自家在AI事業方面,AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,來自國際雲端、高效能運算(HPC)等供應鏈的伺服器、BBU等客戶需求穩定放量,堆疊第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%、續創高峰,顯示AI清洗科技業務正成為公司營運成長的關鍵支柱。天品董事長李振寬表示,今年宣
財訊快報 ・ 1 天前 ・ 發起對話
AWS推出Nova 2系列自建模型,開放企業自訓專屬模型、Nova Act實現網頁瀏覽自動化
AWS於re:Invent 2025大會宣布推出全新自建模型Nova 2系列,其中涵蓋Lite、Pro、Sonic與Omni四種不同定位版本,更推出開放訓練 (Open Training)服務Nova Forge,以及專為構建可靠網頁瀏覽代理人設計的Nova Act服務。
Mashdigi ・ 6 小時前 ・ 發起對話
傳限制光阻劑出口 日出招反制…陸晶片陷危機
中日關係因日本首相高市早苗11月初的「台灣有事論」持續緊繃,在中國禁止中國民眾到日本旅遊及水產品進口後,傳出日本也做出反制,限制晶圓製造所需的光阻劑(中國稱光刻膠)出口到中國,引發中國半導體生產危機。
工商時報 ・ 10 小時前 ・ 1《熱門族群》AI伺服器新戰局開打 外資押注台廠成ASIC最大贏家
【時報記者王逸芯台北報導】美系外資最新報告指出,AI正從大型模型訓練快速邁向推理(Inference)與應用階段,客製化ASIC(專用應用晶片)將在下一代AI伺服器架構中扮演愈發關鍵的角色。ASIC可針對特定運算任務設計,能效表現優於通用型GPU,並可依雲端服務業者的模型架構客製化,有助降低對單一GPU供應商的依賴。 Google近期推出以自家TPU訓練的Gemini 3 Pro模型,同時宣布符合推理需求的Ironwood TPU全面商用,象徵AI ASIC的重要性愈來愈突出。 外資預估,全球AI晶片需求將於2025至2027年分別達到1000萬、1400萬與1700萬顆,ASIC滲透率也將由38%、40%提升至45%。在此趨勢帶動下,多家台廠將成為主要受惠者。外資建議買進的標的包括緯穎(6669)、光寶(2301)旗下InnoLight、聯亞(3081)、建準(2421)、雙鴻(3324)、勤誠(8210)、台光電(2383)、台積電(2330)、穎崴(6515)、旺矽(6223)及鴻勁(7769);聯發科(2454)與京元電(2449)則維持中立評等。 報告指出,緯穎因與AWS(T
時報資訊 ・ 1 天前 ・ 發起對話
房市寒冬熱區突起!591 分享最新房市狀況:北士科議題夯 熱區聚焦地段與品牌
2025 房市持續受政策調控,591新建案統計,前三季六都加新竹推案年減約 20%,市場步入盤整量縮,區域分化 […]
電腦DIY ・ 6 小時前 ・ 發起對話
吳建豪暴瘦模樣曝光!模樣完全認不出來 F4演唱會合體倒數獨缺他不參加
F4合體登台倒數,成員吳建豪近期在社群曝光一張電梯自拍照,卻因「暴瘦」模樣引發粉絲熱烈討論。他身穿黑色背心準備出門遛狗,手臂線條依舊結實,但臉部明顯消瘦,讓大批歌迷驚訝留言:「不要再瘦了!」、「怎麼突然變老了?」更有人直呼一度認不出他來。
三立新聞網 setn.com ・ 1 小時前 ・ 3
濱崎步「無人演唱會」震撼全球 英、法媒報導:這件事鬧大了
中日關係因「台灣有事」持續緊繃,近來多位日本藝人在中國活動受影響、演出被取消。11月29日天后濱崎步的上海演唱會,在前一天臨時遭中國取消,不過濱崎步仍對著台下1萬4000個空座位,唱完整場並全程錄製。這起事件不只亞洲國家關注,法國、英國媒體也紛紛報導,直言「上海這件事鬧大了!」
三立新聞網 setn.com ・ 8 小時前 ・ 332
中鋼撿便宜好時機?股價10年新低股東不減反增 他揭後勢:定存股心態要改了
上(11)月金融市場劇烈波動,台股2日以逾200點開高後一路走高,終場加權指數漲221.74點,收在27564.27點,漲幅0.81%,其中台積電(2330)、台達電(2308)等收紅,聯發科(2454)收黑。另一方面,中鋼(2002)近日一度跌到10年新低點,引發百萬股東擔憂。對此,臉書財經粉專「股人阿勳」今(3)日在臉書分析,這一波對很多「拿中鋼當定存股......
風傳媒 ・ 2 小時前 ・ 4
金宇彬戰勝鼻咽癌迎娶申敏兒!她愛喝1茶41歲逆齡像21歲
韓國演藝圈模範情侶金宇彬與申敏兒,在愛情長跑11年後,今日(11/20)無預警宣布結婚喜訊!金宇彬透過親筆信甜喊:「我要和陪伴我很久的人組建家庭。」兩人挺過男方罹癌低潮,不離不棄的愛情感動無數粉絲。
健康2.0 ・ 6 小時前 ・ 3
于朦朧爆肛門殘液、閹割遭吃!傳被注射11種病毒藥物 生前暴瘦照曝
中國男星于朦朧9月離世,官方以蓋牌火速以墜樓結案,留下一團謎霧,傳出其肛門殘留多人體液,驗屍報告顯示全身多處創傷、全口無牙,真相讓人越看越不明,後續更流出于遭杜強掌摑,及生前疑遭割耳朵、上電子腳鐐疑雲。如今陸委會最新報告指出,「數位極權」施行後造成反彈,于朦朧的死亡版本反而越傳越多。而他生前暴瘦如柴疑似被虐照片也流出。甚至傳出他體內被注射11種藥物病毒。蔡維歆
三立新聞網 setn.com ・ 1 天前 ・ 427
藍白合也難贏?郭正亮曝「這3縣市」危險了:民進太強
2026年縣市長選戰逼近,各陣營積極備戰,民進也陸續拍板地方縣市長提名人選;藍營與白營是否能整合合作,成為外界關注焦點。前民進立委郭正亮指出,國民在彰化、嘉義市及宜蘭面臨嚴峻挑戰,因為這些地區的綠營候選人實力堅強,即便藍白合作,也不見得能逆轉選情。
三立新聞網 setn.com ・ 1 天前 ・ 130
變天了!全台急凍3天「最冷時間出爐」 雨下最猛地區曝光
變天了!台北今(3)日一早就溼溼冷冷,許多通勤族都穿起了雨衣、撐起雨傘。對此,氣象粉專「進擊の天氣小編」指出,最冷時間落在週三晚上至週四清晨,可能會下雨的地區也曝光了,提醒民眾多加留意。
三立新聞網 setn.com ・ 6 小時前 ・ 5
不甩總教練?詹皇「賽中和對手板凳聊到忘我」主帥叫不動「搖頭喊暫停」
體育中心/黃崇超報導NBA湖人隊昨(2日)在主場以108比125慘敗太陽,比賽中還出現一段插曲,詹姆斯(LeBron James)在第三節尾聲球賽進行中途,球隊已經要從後場把球發進來進攻,沒想到詹皇在前場底角和對手板凳球員聊天敘舊到忘我,連總教練瑞迪克(JJ Redick)喊名叫他都沒聽到,湖人最終只好犧牲一次暫停,希望喚醒球隊一哥的比賽專注力。
FTV Sports ・ 2 小時前 ・ 16
好心背巨債/獨家!友人跑路留爛攤 王俐人倒楣背上500萬巨債
王俐人近日到火鍋店用餐因打包雞蛋引發熱議,知情人士向本刊透露,今年1月,王俐人借名給友人的日料店「若真間 割烹料亭」當負責人;原以為只是幫忙,沒想到6月友人跑路,宛若人間蒸發,王俐人無端背上500萬元的巨額債務,債主求償無門之下,一狀告上法院。
鏡週刊Mirror Media ・ 8 小時前 ・ 42