優寶購物《ubao.Tw》特貨品商城,黑貓宅配,取貨付款,可少買82%輝達H20晶片!阿里雲提方案解決GPU浪費
聯合新聞網

可少買82%輝達H20晶片!阿里雲提方案解決GPU浪費

記者黃雅慧/即時報導

AI模型發展過程不光仰賴算力增長,算力浪費問題也日益突出。大陸科技巨頭阿里巴巴旗下阿里雲提出計算池化解決方案「Aegaeon」,成功入選頂級學術會議SOSP 2025。該方案可解決AI模型服務中普遍存在的GPU資源浪費問題,大幅提升GPU資源利用率,目前其核心技術已應用在阿里雲百鍊平台。換算下來,可幫助廠商少採購82%的輝達H20晶片。

SOSP(操作系統原理研討會)由ACM SIGOPS主辦,被譽為計算機操作系統界的「奧斯卡」,為計算機系統領域頂級學術會議,平均每年收錄的論文數量僅有數十篇,本屆SOSP大會上,系統軟體與AI大模型技術的融合成為新的趨勢。

廣告

科創板日報報導,數據顯示,在阿里雲模型市場為期逾三個月的Beta測試中,Aegaeon系統在服務數十個參數量高達720億的大模型時,所需的輝達H20 GPU數量從1,192個減至213個,削減比例高達82%。GPU用量削減82%代表企業硬體採購成本將顯著降低,這對於動輒須使用成千上萬顆GPU的大型模型服務商而言至關重要。

少數熱門模型(如阿里的Qwen)承載了絕大多數用戶請求,而大量不常被調用的「長尾」模型卻各自獨佔著GPU資源。數據顯示,在阿里雲模型市場中,曾有17.7%的GPU算力僅用於處理1.35%的請求,資源閒置嚴重。而Aegaeon系統通過GPU資源池化,打破了「一個模型綁定一個GPU」的低效模式。

報導稱,未來AI的發展將不僅依賴於硬體算力的單純增長,更需要通過系統級的軟體創新來深度挖掘現有硬體的潛力。

百度智能雲AI計算部負責人王雁鵬在去年9月曾表示,2024年大模型市場發展迅速,很多企業加大了在大模型領域的投入,在大模型訓練時遇到了一個共性問題,那就是算力利用率很低。他說,有50%算力被浪費的說法一點都不誇張,如何提升算力的有效利用率,正在成為業界共同的努力方向。

【看原文連結】

更多udn報導
台男新加坡遭竊7萬!飯店「要他翻垃圾桶」 警竟搜出1物
失蹤逾2年…陸前外長秦剛疑現身!北京活動亮相「微發福」
54歲存款百萬簡單生活 她遇1事驚覺:什麼都沒有最可怕
改走夢幻風?火辣女星穿「蕾絲透視禮服」翻車 網:糟透了

其他人也在看

輝達首批美國製AI晶片台積電AZ廠打造! 郭明錤:仍要送台灣封裝啦

輝達首批美國製AI晶片台積電AZ廠打造! 郭明錤:仍要送台灣封裝啦

美國晶片製造在地化來了!輝達執行長黃仁勳17日赴台積電位於亞利桑那州的晶圓廠,與台積電營運副總王英郎共同簽署首片在美國本土生產的Blackwell晶圓,象徵Blackwell架構的AI晶片正式進入量產階段。不過,知名分析師郭明錤表示,美國生產Blackwell晶圓後,還是需要運送到台灣做CoWoS封裝才算完成,兩年後的今天,如果能在美國開始先進封裝,進度已算超預期。

太報 ・ 12 小時前
中美交鋒川普掀關稅風暴 這2檔避險潮湧!

中美交鋒川普掀關稅風暴 這2檔避險潮湧!

中國商務部宣布將加強稀土管控,以維護國家安全與利益,美國總統川普隨即威脅11月起將對中國加徵100%新關稅,並擴大關鍵軟體出口管制,全球市場陷入恐慌。目前市場持續動盪、短期不確定性升溫,建議投資人留意既有資產配置。由於震盪期間債息有望為資產提供下檔保護,當市場不確定性越高,在挑選標的時,更要重視違約風險,目前10年期公債殖利率回落至4%上下,因殖利率與債價呈反向關係,美債、投等債的受惠力度相對較大,此時會是比較優先布局的選擇。

三立新聞網 setn.com ・ 8 小時前

Anduril創辦人:台灣需自信能贏 籲晶片應用於軍事

(中央社記者鍾佑貞華盛頓19日專電)美國防公司Anduril創辦人拉奇8月訪台,期間演說強調「捍衛家園」。他近日談到這場活動時表示,台灣須相信自己能贏,因為一旦認為一切成定局,就是中國勝利的時刻。晶片不應只出口,應投入製造飛彈導引頭等軍事應用。

中央社 ・ 4 小時前
通話川普!普丁要求烏克蘭交出頓內茨克 願放棄部分已占領地區

通話川普!普丁要求烏克蘭交出頓內茨克 願放棄部分已占領地區

根據《華盛頓郵報》報導,普丁在過去11年間多次試圖掌控頓內茨克地區,但烏克蘭軍隊多次成功防守,阻止其完全控制該地。直到2022年2月,俄羅斯對烏克蘭發動全面入侵,目前俄方實際控制的烏克蘭土地約佔總面積的五分之一,戰線在過去一年幾乎陷入膠著,雙方均未取得明顯戰略優...

CTWANT ・ 1 天前

關稅效應 川普提台灣晶片回美生產

美國總統川普十九日提到台灣,指除非藥廠或晶片廠在美國生產製造,否則企業會被課徵高額的藥品、晶片關稅,企業因此從全世界都回...

聯合新聞網 ・ 7 小時前
川普成「傳聲筒」!普丁開條件換和平 烏克蘭痛批「等同自殺」

川普成「傳聲筒」!普丁開條件換和平 烏克蘭痛批「等同自殺」

根據《CNBC》報導,兩名知情人士稱,川普不僅拒絕提供長程「戰斧」(Tomahawk)巡弋飛彈,還拋出同時對烏克蘭與俄羅斯提供安全保證的構想,令烏克蘭代表團困惑。另有歐洲官員向《金融時報》(Financial Times)轉述,川普在白宮的談話與近期把莫斯科形容為「紙老虎」的評估互...

CTWANT ・ 5 小時前

權證市場焦點-仁寶 輝達、蘋果力挺

電子代工大廠仁寶(2324)好消息不斷,釋出為輝達代工的RTX PRO伺服器,蘋果更臨時推出新一代iPad Pro、14吋 MacBook Pro及Vision Pro,搭載最新M5晶片,使得主力供應商仁寶股價一早大漲超過半根漲停板。

工商時報 ・ 8 小時前

防對等關稅敗訴 川普提前鬆綁

美國最高法院於11月初將就「對等關稅」舉行聽證會,最近幾周,美國總統川普已將數十種產品從對等關稅中豁免,另外,在美國和他國達成的貿易協議中,也豁免了數百種產品的關稅,範圍從農產品到飛機零件等。《華爾街日報》指,此舉旨在對沖最高法院可能否決「對等關稅」所帶來的法律風險,因為一旦最高法院判決政府敗訴,白宮可能被迫退還大量已徵收的關稅。

中時新聞網 ・ 8 小時前

川普鬆手 關稅豁免大放水

美國總統川普近幾周已豁免數十項產品的對等關稅,並宣布其他國家若與美國達成貿易協議,可再享有農產品與飛機零件等數百項商品免關稅待遇。顯示川普政府悄悄調整貿易政策,為最高法院關稅官司可能敗訴預作準備。

工商時報 ・ 8 小時前

匯率期貨趨勢專欄-日相選舉 日圓風向球

日本現任首相石破茂於9月7日宣布辭去執政自民總裁一職,等同卸任首相,在位僅約1年便準備下台。高市早苗4日於自民內選舉勝出,擔任新任自民總裁,且即將於21日(本周二)舉行的臨時國會中,角逐下任日本首相。

工商時報 ・ 8 小時前

權證市場焦點-萬海 中美緊張運價漲

在中美貿易壁壘重新開戰下,SCFI指數大漲,萬海(2615)等貨櫃三雄股價再度上揚。萬海將於10月底與長榮、陽明共同開通「華北—印尼直航線」,進一步擴大東南亞市場。

工商時報 ・ 8 小時前
大盤短線漲多、美股回跌,驅使資金轉向...台股中小型基金 利基不變

大盤短線漲多、美股回跌,驅使資金轉向...台股中小型基金 利基不變

台股新高行情轉趨震盪,投信法人表示,大盤短線漲多、美股回跌,上檔空間受壓抑,驅使資金轉向較不占權值、具成長潛力的業績題材中小型股,增添台股中小型基金利基及表現機會。

工商時報 ・ 8 小時前

黃仁勳傳赴APEC 談HBM合作

輝達執行長黃仁勳傳將出席月底在韓國舉行的亞太經濟合作會議(APEC)企業領袖峰會,與全球領袖及韓國主要企業高層會面,聚焦與SK海力士及三星電子的高頻寬記憶體(HBM)合作動向。OpenAI執行長奧特曼、蘋果執行長庫克、谷歌執行長皮查伊等美國科技巨頭,也將出席此次APEC企業領袖峰會。

工商時報 ・ 8 小時前
《歐股》美地區銀行踩雷引發疑慮 歐股下挫

《歐股》美地區銀行踩雷引發疑慮 歐股下挫

MoneyDJ新聞 2025-10-20 06:15:19 黃智勤 發佈受美國地區銀行信貸風波影響,歐洲股市上週五(10月17日)走低,銀行類股跌幅尤深,資金湧入黃金等避險資產。 泛歐STOXX 600指數10月17日下挫0.95%(5.42點)、收566.24點,當週仍微幅上漲0.4%。產業方面,銀行類股重挫2.5%。 歐洲主要指數17日全線下跌,德國DAX指數下挫1.82%(441.20點)、收23,830.99點;英國FTSE指數下挫0.86%(81.52點),收9,354.57點;法國CAC指數下挫0.18%(14.39點)、收8,174.20點。 由於美國政府持續停擺導致關鍵經濟數據延遲發佈,加上中美緊張局勢加劇和科技業估值過高等疑慮,上週股市行情受到壓抑。 美國次級汽車貸款機構Tricolor和零件製造商First Brands近期聲請破產保護,美國投資銀行Jefferies、錫安銀行(Zions Bancorporation)和西聯銀行(Western Alliance)揭露信貸損失,引發市場不安。歐洲金融股18日普遍下跌,避險情緒轉濃,也推升金價升至歷史新高。 法國興業

Moneydj理財網 ・ 6 小時前
歐洲航線成亮點!關稅波動影響預期 中國出口貨櫃運輸市場持續反彈

歐洲航線成亮點!關稅波動影響預期 中國出口貨櫃運輸市場持續反彈

中國出口貨櫃運輸市場近期延續反彈行情,美西、美東航線運價領漲。上海航運交易所上周五 (17 日) 發布數據顯示,上海出口貨櫃綜合運價指數報 1310.32 點,較上期上漲 12.9%,其中,美西、美東基本港市場運價分別達 1936 美元 / FEU、2,853 美元 / FEU,周漲幅高達 3

鉅亨網 ・ 6 小時前
輝達進駐倒數 新壽盼三方會談

輝達進駐倒數 新壽盼三方會談

距輝達的「最後通牒」倒數計時,北士科T17、T18土地卡關,據了解很多私人地主願意提供土地予輝達開發。新壽則認為,北市府、輝達與新壽應盡快坐上談判桌,談出皆大歡喜的商業協議,只要北市府、新壽有共識,補償金由輝達承擔,歧見應已拉近。但是北市府表示,輝達希望的對口是北市府,唯一的解方是新壽與市府合意終止契約,市府再設定專案地上權給輝達。

中時新聞網 ・ 8 小時前
《美股》市場擔憂有所緩解 道瓊指數上漲0.52%

《美股》市場擔憂有所緩解 道瓊指數上漲0.52%

MoneyDJ新聞 2025-10-20 06:16:11 黃文章 發佈美股三大指數週五上漲,因市場對信貸風險以及中美貿易緊張的擔憂有所緩解。川普表示,他所提議對中國商品徵收的100%關稅將「不可持續」,但他將當前貿易談判陷入僵局的責任歸咎於北京,原因是中國當局加強了對稀土出口的管控。 道瓊工業平均指數10月17日終場上漲0.52%(238.37點)、收46,190.61點。標準普爾500指數上漲0.53%(34.94點)、收6,664.01點。那斯達克指數上漲0.52%(117.44點)、收22,679.97點。費城半導體指數下跌0.32%(22.04點)、收6,777.98點。上週,三大指數分別上漲1.7%、1.7%、2.2%。 道瓊指數前5大權重股當中,高盛(權重10.14%)下跌0.97%,開拓重工(權重7.24%)下跌2.57%,微軟(權重6.84%)上漲0.39%,家得寶(權重5.18%)上漲1.16%,聯合健康集團 (權重4.77%)下跌0.02%。 美國財政部長貝森特表示,他將於週五晚間與中國貿易官員舉行會談;美國總統川普亦在白宮確認,月底中美兩國元首的會晤「仍有望如期

Moneydj理財網 ・ 6 小時前

傳北京介入 螞蟻京東穩定幣喊停

近期傳出在大陸官方介入下,原要推進穩定幣業務的阿里巴巴旗下的螞蟻集團與大陸電商巨頭京東,暫停了穩定幣計畫。顯示北京當局對...

聯合新聞網 ・ 7 小時前

太扯了!周杰倫整員工 張立東裝方順吉他也信

《綜藝OK啦》今(20日)晚9點播出「演藝圈人人都懂的潛規則,當藝人沒點演技還真混不下去」,藝人張立東自爆曾配合周杰倫一起整員工。張立東說:「那時候我才剛出道,吃飯時他說『我有看你模仿,蠻好笑的,不然等一下來騙我設計部門員工』,話還沒講完,那個人就走進來。」他還來不及反應,周杰倫就滔滔不絕地講個不停

自由時報 ・ 2 小時前

輝達光通訊邁大步!獲甲骨文、Meta等導入 聯鈞、波若威等協力廠吃補

輝達在官網宣布,旗下首款以共同封裝光學(CPO)技術打造的矽光子網路交換器Spectrum-X獲甲骨文、Meta等兩大巨...

聯合新聞網 ・ 6 小時前
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86