可少買82%輝達H20晶片!阿里雲提方案解決GPU浪費
AI模型發展過程不光仰賴算力增長,算力浪費問題也日益突出。大陸科技巨頭阿里巴巴旗下阿里雲提出計算池化解決方案「Aegaeon」,成功入選頂級學術會議SOSP 2025。該方案可解決AI模型服務中普遍存在的GPU資源浪費問題,大幅提升GPU資源利用率,目前其核心技術已應用在阿里雲百鍊平台。換算下來,可幫助廠商少採購82%的輝達H20晶片。
SOSP(操作系統原理研討會)由ACM SIGOPS主辦,被譽為計算機操作系統界的「奧斯卡」,為計算機系統領域頂級學術會議,平均每年收錄的論文數量僅有數十篇,本屆SOSP大會上,系統軟體與AI大模型技術的融合成為新的趨勢。
科創板日報報導,數據顯示,在阿里雲模型市場為期逾三個月的Beta測試中,Aegaeon系統在服務數十個參數量高達720億的大模型時,所需的輝達H20 GPU數量從1,192個減至213個,削減比例高達82%。GPU用量削減82%代表企業硬體採購成本將顯著降低,這對於動輒須使用成千上萬顆GPU的大型模型服務商而言至關重要。
少數熱門模型(如阿里的Qwen)承載了絕大多數用戶請求,而大量不常被調用的「長尾」模型卻各自獨佔著GPU資源。數據顯示,在阿里雲模型市場中,曾有17.7%的GPU算力僅用於處理1.35%的請求,資源閒置嚴重。而Aegaeon系統通過GPU資源池化,打破了「一個模型綁定一個GPU」的低效模式。
報導稱,未來AI的發展將不僅依賴於硬體算力的單純增長,更需要通過系統級的軟體創新來深度挖掘現有硬體的潛力。
百度智能雲AI計算部負責人王雁鵬在去年9月曾表示,2024年大模型市場發展迅速,很多企業加大了在大模型領域的投入,在大模型訓練時遇到了一個共性問題,那就是算力利用率很低。他說,有50%算力被浪費的說法一點都不誇張,如何提升算力的有效利用率,正在成為業界共同的努力方向。
更多udn報導
台男新加坡遭竊7萬!飯店「要他翻垃圾桶」 警竟搜出1物
失蹤逾2年…陸前外長秦剛疑現身!北京活動亮相「微發福」
54歲存款百萬簡單生活 她遇1事驚覺:什麼都沒有最可怕
改走夢幻風?火辣女星穿「蕾絲透視禮服」翻車 網:糟透了
其他人也在看

輝達首批美國製AI晶片台積電AZ廠打造! 郭明錤:仍要送台灣封裝啦
美國晶片製造在地化來了!輝達執行長黃仁勳17日赴台積電位於亞利桑那州的晶圓廠,與台積電營運副總王英郎共同簽署首片在美國本土生產的Blackwell晶圓,象徵Blackwell架構的AI晶片正式進入量產階段。不過,知名分析師郭明錤表示,美國生產Blackwell晶圓後,還是需要運送到台灣做CoWoS封裝才算完成,兩年後的今天,如果能在美國開始先進封裝,進度已算超預期。
太報 ・ 12 小時前
中美交鋒川普掀關稅風暴 這2檔避險潮湧!
中國商務部宣布將加強稀土管控,以維護國家安全與利益,美國總統川普隨即威脅11月起將對中國加徵100%新關稅,並擴大關鍵軟體出口管制,全球市場陷入恐慌。目前市場持續動盪、短期不確定性升溫,建議投資人留意既有資產配置。由於震盪期間債息有望為資產提供下檔保護,當市場不確定性越高,在挑選標的時,更要重視違約風險,目前10年期公債殖利率回落至4%上下,因殖利率與債價呈反向關係,美債、投等債的受惠力度相對較大,此時會是比較優先布局的選擇。
三立新聞網 setn.com ・ 8 小時前Anduril創辦人:台灣需自信能贏 籲晶片應用於軍事
(中央社記者鍾佑貞華盛頓19日專電)美國防公司Anduril創辦人拉奇8月訪台,期間演說強調「捍衛家園」。他近日談到這場活動時表示,台灣須相信自己能贏,因為一旦認為一切成定局,就是中國勝利的時刻。晶片不應只出口,應投入製造飛彈導引頭等軍事應用。
中央社 ・ 4 小時前
通話川普!普丁要求烏克蘭交出頓內茨克 願放棄部分已占領地區
根據《華盛頓郵報》報導,普丁在過去11年間多次試圖掌控頓內茨克地區,但烏克蘭軍隊多次成功防守,阻止其完全控制該地。直到2022年2月,俄羅斯對烏克蘭發動全面入侵,目前俄方實際控制的烏克蘭土地約佔總面積的五分之一,戰線在過去一年幾乎陷入膠著,雙方均未取得明顯戰略優...
CTWANT ・ 1 天前
川普成「傳聲筒」!普丁開條件換和平 烏克蘭痛批「等同自殺」
根據《CNBC》報導,兩名知情人士稱,川普不僅拒絕提供長程「戰斧」(Tomahawk)巡弋飛彈,還拋出同時對烏克蘭與俄羅斯提供安全保證的構想,令烏克蘭代表團困惑。另有歐洲官員向《金融時報》(Financial Times)轉述,川普在白宮的談話與近期把莫斯科形容為「紙老虎」的評估互...
CTWANT ・ 5 小時前權證市場焦點-仁寶 輝達、蘋果力挺
電子代工大廠仁寶(2324)好消息不斷,釋出為輝達代工的RTX PRO伺服器,蘋果更臨時推出新一代iPad Pro、14吋 MacBook Pro及Vision Pro,搭載最新M5晶片,使得主力供應商仁寶股價一早大漲超過半根漲停板。
工商時報 ・ 8 小時前防對等關稅敗訴 川普提前鬆綁
美國最高法院於11月初將就「對等關稅」舉行聽證會,最近幾周,美國總統川普已將數十種產品從對等關稅中豁免,另外,在美國和他國達成的貿易協議中,也豁免了數百種產品的關稅,範圍從農產品到飛機零件等。《華爾街日報》指,此舉旨在對沖最高法院可能否決「對等關稅」所帶來的法律風險,因為一旦最高法院判決政府敗訴,白宮可能被迫退還大量已徵收的關稅。
中時新聞網 ・ 8 小時前川普鬆手 關稅豁免大放水
美國總統川普近幾周已豁免數十項產品的對等關稅,並宣布其他國家若與美國達成貿易協議,可再享有農產品與飛機零件等數百項商品免關稅待遇。顯示川普政府悄悄調整貿易政策,為最高法院關稅官司可能敗訴預作準備。
工商時報 ・ 8 小時前匯率期貨趨勢專欄-日相選舉 日圓風向球
日本現任首相石破茂於9月7日宣布辭去執政自民總裁一職,等同卸任首相,在位僅約1年便準備下台。高市早苗4日於自民內選舉勝出,擔任新任自民總裁,且即將於21日(本周二)舉行的臨時國會中,角逐下任日本首相。
工商時報 ・ 8 小時前權證市場焦點-萬海 中美緊張運價漲
在中美貿易壁壘重新開戰下,SCFI指數大漲,萬海(2615)等貨櫃三雄股價再度上揚。萬海將於10月底與長榮、陽明共同開通「華北—印尼直航線」,進一步擴大東南亞市場。
工商時報 ・ 8 小時前
大盤短線漲多、美股回跌,驅使資金轉向...台股中小型基金 利基不變
台股新高行情轉趨震盪,投信法人表示,大盤短線漲多、美股回跌,上檔空間受壓抑,驅使資金轉向較不占權值、具成長潛力的業績題材中小型股,增添台股中小型基金利基及表現機會。
工商時報 ・ 8 小時前黃仁勳傳赴APEC 談HBM合作
輝達執行長黃仁勳傳將出席月底在韓國舉行的亞太經濟合作會議(APEC)企業領袖峰會,與全球領袖及韓國主要企業高層會面,聚焦與SK海力士及三星電子的高頻寬記憶體(HBM)合作動向。OpenAI執行長奧特曼、蘋果執行長庫克、谷歌執行長皮查伊等美國科技巨頭,也將出席此次APEC企業領袖峰會。
工商時報 ・ 8 小時前
《歐股》美地區銀行踩雷引發疑慮 歐股下挫
MoneyDJ新聞 2025-10-20 06:15:19 黃智勤 發佈受美國地區銀行信貸風波影響,歐洲股市上週五(10月17日)走低,銀行類股跌幅尤深,資金湧入黃金等避險資產。 泛歐STOXX 600指數10月17日下挫0.95%(5.42點)、收566.24點,當週仍微幅上漲0.4%。產業方面,銀行類股重挫2.5%。 歐洲主要指數17日全線下跌,德國DAX指數下挫1.82%(441.20點)、收23,830.99點;英國FTSE指數下挫0.86%(81.52點),收9,354.57點;法國CAC指數下挫0.18%(14.39點)、收8,174.20點。 由於美國政府持續停擺導致關鍵經濟數據延遲發佈,加上中美緊張局勢加劇和科技業估值過高等疑慮,上週股市行情受到壓抑。 美國次級汽車貸款機構Tricolor和零件製造商First Brands近期聲請破產保護,美國投資銀行Jefferies、錫安銀行(Zions Bancorporation)和西聯銀行(Western Alliance)揭露信貸損失,引發市場不安。歐洲金融股18日普遍下跌,避險情緒轉濃,也推升金價升至歷史新高。 法國興業
Moneydj理財網 ・ 6 小時前
歐洲航線成亮點!關稅波動影響預期 中國出口貨櫃運輸市場持續反彈
中國出口貨櫃運輸市場近期延續反彈行情,美西、美東航線運價領漲。上海航運交易所上周五 (17 日) 發布數據顯示,上海出口貨櫃綜合運價指數報 1310.32 點,較上期上漲 12.9%,其中,美西、美東基本港市場運價分別達 1936 美元 / FEU、2,853 美元 / FEU,周漲幅高達 3
鉅亨網 ・ 6 小時前
輝達進駐倒數 新壽盼三方會談
距輝達的「最後通牒」倒數計時,北士科T17、T18土地卡關,據了解很多私人地主願意提供土地予輝達開發。新壽則認為,北市府、輝達與新壽應盡快坐上談判桌,談出皆大歡喜的商業協議,只要北市府、新壽有共識,補償金由輝達承擔,歧見應已拉近。但是北市府表示,輝達希望的對口是北市府,唯一的解方是新壽與市府合意終止契約,市府再設定專案地上權給輝達。
中時新聞網 ・ 8 小時前
《美股》市場擔憂有所緩解 道瓊指數上漲0.52%
MoneyDJ新聞 2025-10-20 06:16:11 黃文章 發佈美股三大指數週五上漲,因市場對信貸風險以及中美貿易緊張的擔憂有所緩解。川普表示,他所提議對中國商品徵收的100%關稅將「不可持續」,但他將當前貿易談判陷入僵局的責任歸咎於北京,原因是中國當局加強了對稀土出口的管控。 道瓊工業平均指數10月17日終場上漲0.52%(238.37點)、收46,190.61點。標準普爾500指數上漲0.53%(34.94點)、收6,664.01點。那斯達克指數上漲0.52%(117.44點)、收22,679.97點。費城半導體指數下跌0.32%(22.04點)、收6,777.98點。上週,三大指數分別上漲1.7%、1.7%、2.2%。 道瓊指數前5大權重股當中,高盛(權重10.14%)下跌0.97%,開拓重工(權重7.24%)下跌2.57%,微軟(權重6.84%)上漲0.39%,家得寶(權重5.18%)上漲1.16%,聯合健康集團 (權重4.77%)下跌0.02%。 美國財政部長貝森特表示,他將於週五晚間與中國貿易官員舉行會談;美國總統川普亦在白宮確認,月底中美兩國元首的會晤「仍有望如期
Moneydj理財網 ・ 6 小時前太扯了!周杰倫整員工 張立東裝方順吉他也信
《綜藝OK啦》今(20日)晚9點播出「演藝圈人人都懂的潛規則,當藝人沒點演技還真混不下去」,藝人張立東自爆曾配合周杰倫一起整員工。張立東說:「那時候我才剛出道,吃飯時他說『我有看你模仿,蠻好笑的,不然等一下來騙我設計部門員工』,話還沒講完,那個人就走進來。」他還來不及反應,周杰倫就滔滔不絕地講個不停
自由時報 ・ 2 小時前輝達光通訊邁大步!獲甲骨文、Meta等導入 聯鈞、波若威等協力廠吃補
輝達在官網宣布,旗下首款以共同封裝光學(CPO)技術打造的矽光子網路交換器Spectrum-X獲甲骨文、Meta等兩大巨...
聯合新聞網 ・ 6 小時前