輝達Blackwell 橫掃InferenceMAX 基準測試! 投資報酬率上看15倍
AI推論(inference)需求與其背後的經濟效益正急速成長!全新的獨立InferenceMAX v1是首個在真實場景中衡量總運算成本的基準測試。結果顯示,輝達 Blackwell 平台橫掃全場,為 AI 工廠實現無與倫比的效能與最佳整體效率。透過NVIDIA GB200 NVL72 投資 500 萬美元可創造 7,500 萬美元的 DSR1 詞元收益,提供 15 倍投資報酬率。
InferenceMAX v1 是 SemiAnalysis 周一的全新基準測試,NVIDIA GB200 NVL72 AI 工廠經濟效益來看,投資 500 萬美元可創造 7,500 萬美元的 DSR1 詞元收益,提供 15 倍投資報酬率。NVIDIA B200 的軟體最佳化在 gpt-oss 上實現每百萬詞元兩美分,於兩個月內降低詞元成本5 倍。
NVIDIA B200 在最新的 NVIDIA TensorRT-LLM 推疊上,每 GPU 可達每秒60,000 詞元,每使用者可達每秒 1,000 詞元。
輝達與 OpenAI(gpt-oss 120B)、Meta(Llama 3 70B)及 DeepSeek AI(DeepSeek R1)在開源領域的合作,展示了社群驅動模型如何推進推理與效率的最先進成果。而與 FlashInfer、SGLang 和 vLLM 社群的深度合作,使得共同開發的增強核心與運行時,能大規模驅動這些模型。
輝達超大規模與高效能運算副總裁 Ian Buck 表示,推論是 AI 每天創造價值的關鍵。這些結果證明,NVIDIA 的全端策略提供客戶在大規模部署 AI 時所需的效能與效率。
更多太報報導
輝達北士科選址卡關恐破局!新壽急發聲明:盼北市回歸合約協調 並籲中央協助
天璣9500帶勁!聯發科9月營收增2成、Q3飛越財測高標
其他人也在看
蔡明芳專欄》面對威權強鄰的挑戰 台灣應尋找更多與歐盟的合作機會
第二屆「台德民間論壇」(GTDP)10月8日在台北舉行,也是首次在台灣舉辦。首屆「台北德國會議」也在台北舉辦,德國在台協會處長狄嘉信(Karsten Tietz)認為,台德兩國不僅需要共享價值,也共同面對威權強鄰的挑戰。外交部政務次長吳志中則希望藉由雙方對話平台的成立,鞏固台歐安全與社會韌性。 根據財政部公布之貿易統計資料,2024年台德貿易總值約204億3,298萬美元,德國為我國第10大出口市場與第6大進口來源;我國自德國進口金額約135.38億美元,出口金額則約68.97億美元,對德國貿易逆差約66.41億美元。今年1月至9月貿易逆差已達52.52億美元。 中國對台灣的經濟脅迫 台灣與德國不僅在國防安全上面對中國與俄羅斯等威權體制國家的威脅,兩國在經濟安全上也同樣面臨這些威權國家的脅迫。就經濟安全而言,台灣過去與中國的經貿往來在過去政府力推兩岸經濟合作架構協議(ECFA, Cross-Strait Economic Cooperation Framework Agreement)下,誇大中國市場的「機會」並忽視風險,在中國持續宣稱「讓利」的條件而降低我國產品出口至中國的貿易障礙後
中央廣播電台 ・ 11 小時前
受關稅衝擊失業免驚慌 勞動部「勞工就業通計畫」守護勞工促就業
面對美國關稅與匯率波動帶來的挑戰,勞動部積極起推動「勞工就業通計畫」,整合僱用獎助、工作崗位訓練及職務再設計資源,鼓勵雇主僱用受影響產業失業勞工;同時也為失業勞工提供客製化媒合與就業獎勵,儘快找到合適的工作。勞動部強調,除了撐雇主,也會挺勞工,將與企業攜手協助失業勞工儘速重返職場。勞動力發展署雲嘉南分署舉例,過去就有深耕旅行業近30年的資深主管,因疫情關係離開了最熟稔的產業,因無其他工作經驗且年逾中高齡,投遞多封履歷皆無音訊,所幸在透過勞動部「僱用獎助措施」及其他就業促進工具,順利轉職投入製造業、重啟職涯下半場!過去在北部擔任旅行社店長的羅姐,曾有著穩定的客源及優渥的薪資,卻因新冠疫情的衝擊使全球旅遊業停擺,而羅姐在職的旅行社也受到巨大波及,在無訂單及客源的情形下,被迫離開最熟悉的產業,已逾中高齡且無其他工作經驗,使她在職涯分岔路上感到茫然,雖廣投履歷積極尋職,卻都石沉大海沒有音訊,剛好先生因工作需求轉調南部,羅姐便也跟隨一起來到台南開啟新生活。來到台南的羅姐依舊沒有放棄尋職,透過網路搜尋得知勞動部於各縣市皆有就業中心,在先生鼓勵下前往新營就業中心尋求協助,就服員透過深度諮詢發現羅姐有
台灣好新聞 ・ 10 小時前《各報要聞》中央、地方總動員 輝達總部 松南營區成新備案
【時報-台北電】中央及地方總動員協助輝達找企業總部土地!財政部國產署盤點出松南營區3.3公頃國有土地供輝達在台興建海外企業總部,台北市副市長李四川表示,若連同市有地合計有6.4公頃都提供輝達使用,促進經濟及AI產業發展,沒有分中央或地方。在中央助拳下,松南營區有望後來居上,成興建企業總部的最大區塊備案。 針對台新新光金控正進行合併,明年元旦兩家人壽合併,涉及與市府北士科T17、T18設定地上權合約主體變更問題,新壽已去文北市府徵求同意,但北市府已回文不同意,傾向依合約解約。惟北市府9日再度喊話新壽,呼籲與北市府合意解約。 新光人壽隨即發布聲明表達,對於北士科T17、T18的土地開發原就有完整規劃,並已持續進行而無延宕;為國家公益,新壽願協助爭取輝達進駐,不僅與輝達簽訂MOU,更於7月16日致函台北市政府依地上權契約所約定的協調機制,就地上權移轉等事宜進行協調。但次日接獲台北市政府以無爭議為由拒絕,致使本案無從開展甚憾。 新壽強調,期盼雙方回歸合約的協調機制,就地上權移轉方案,及其他市府所建議的方案一併進行協調,並請中央政府在雙方協調過程中參與並提供協助,儘速解決目前僵局。 據悉,輝達迄
時報資訊 ・ 9 小時前《各報要聞》輝達晶片出口阿聯 美國准了
【時報-台北電】輝達出口數十億美元晶片到阿拉伯聯合大公國的協議,終於獲得美國政府的放行!美國商務部以及國家安全局已經發出出口許可,批准輝達向該中東國家銷售數十億美元的AI晶片。 美國商務部發言人表示:「商務部將全力推動這項具有變革性意義的兩國AI合作協議。」 根據美阿兩國在5月達成的初步協議,當時前者允許輝達每年出口高達50萬片最先進的AI晶片到阿聯,至於阿聯則承諾向美國進行等價的投資。該協議有效期限至少到2027年,不過視情況也有可能延長到2030年。 但之後該協議卻遭卡關長達五個多月,讓輝達執行長黃仁勳一度感到挫敗。如今美國終於發給輝達出口許可,將有助阿聯在首都阿布達比建立規模達5GW大型資料中心,至於OpenAI則為該大型資料中心的主要夥伴。 報導指出,50萬片先進AI晶片中,有2成將分配給當地G42公司,不過首批許可卻不包含G42。可能的背後原因是美國當局擔心發送到G42的晶片,可能會被轉運至中國。不過晶片未來具體該如何分配,仍有待阿聯當局處理。 針對美國終於放行一事,有美國官員透露,由於阿聯已提出對美投資的具體計畫,所以川普政府也批准輝達出口到該國的晶片計畫。不過輝達這批獲准
時報資訊 ・ 9 小時前《各報要聞》日圓重拾貶勢 川普恐不滿
【時報-台北電】CNBC報導,「安倍經濟學」的信徒高市早苗贏得自民總裁選舉,高市支持寬鬆貨幣政策的立場,引發日圓兌美元匯價近日連連下探,9日早盤一度重跌至八個月新低水準153日圓,然而日圓貶值可能挑動美國總統川普的敏感神經,引發美日關係緊張。 高市早苗是已故首相安倍晉三的得意門生,外界預測高市擔任首相後將延續「安倍經濟學」。市場預期大規模財政刺激和寬鬆貨幣政策將捲土重來,「高市交易」帶動日股近來迭創新高,而日圓則是節節敗退。 日圓兌美元繼6日失守150關卡後,9日早盤一度重貶至153.18日圓,創下2月以來新低紀錄。本周迄今,日圓累計大跌逾3%,正朝著2024年9月以來最大周線跌幅的方向前進。 澳洲聯邦銀行(CBA)貨幣策略師Carol Kong表示,「短期來看,高市確認出任首相和日本央行10月例會,可能成為日圓進一步貶值的催化劑,特別是如果高市強調在財政和貨幣政策的鴿派觀點,及日銀暗示短期內不會升息。」 自從川普還是地產大亨的時候,他便一直指控日本進行「不公平的貿易手段」。川普3月點名日本,指稱東京讓日圓貶值來取得不公平的貿易優勢,損害美國利益。他甚至直接致電東京,告訴日方不能繼續
時報資訊 ・ 9 小時前蔣萬安:新壽若要續談輝達進駐 只有與市府解約
(中央社記者陳昱婷台北10日電)新光人壽昨天表示,與北市府合作將輝達留在北士科的初衷迄今未變。台北市長蔣萬安今天說,輝達已在評估其他選項,新壽若要繼續談,只有與市府解約,市府再設定地上權給輝達。
中央社 ・ 9 小時前大立光旺季恐提前結束 凸顯蘋果在關稅陰影下轉趨保守
大立光昨(9)日召開法說會,董事長林恩平表示,10月拉貨動能和9月差不多,11月會比較差。外界解讀,大立光為iPhone...
聯合新聞網 ・ 11 小時前

加州硬起來!2035年校園禁止超加工食品
美國加州州長紐松,8號簽署全美首部法律,將在未來十年內,逐步禁止 超加工食品 進入校園。這道法律也規定了校園餐飲中,糖和鹽等成分的含量。根據美國疾病管制與預防中心的最近報告,美國兒童 平均有 近三...
大愛電視 ・ 11 小時前
國際/美股漲勢暫歇!日股創新高後回檔 韓股強彈逾1%
投資人消化聯準會官員談話與企業財報表現,美股週四(9日)標普指數自早盤創歷史新高後回落,科技股漲勢暫歇,標普500指數終場收低0.3%,那斯達克下跌0.1%,道瓊工業指數則下挫243點或0.52%。美國10年期公債殖利率上升至4.14%,美元指數攀抵近十週高位,中東局勢緩和使油價下滑,市場氛圍轉為觀望。
三立新聞網 setn.com ・ 9 小時前《美股》收盤速報:美股失守史高 輝達、甲骨文沒熄火
【時報-台北電】周四(10月9日)美股漲多回吐,四大指數同步收黑,標普500、那指和費半失守前一日創下的歷史高點。AI晶片龍頭輝達漲近2%、再創新高,其重金投資的甲骨文勁揚逾3%,給那指下檔帶來支撐。前一日輝達執行長黃仁勳稱今年運算需求暴增,現在AI產業處於新一輪建設周期起點。參議院第七次未能通過兩各自提出的預算案,聯邦政府關門進入第9天。以哈達成停火協議,避險黃金湧現獲利了結賣壓,金價下挫逾2%,跌破4000美元大關。以色列內閣於稍早前批准該和平協議。台積電ADR跌1.52%,其9月營收年增31.4%,但月跌1.4%。 日前,輝達和甲骨文股價下挫,因報導稱甲骨文雲端業務的利潤意外微薄,且賠錢租用輝達晶片,這令投資人更加擔憂這波AI狂熱或許正在重演「網路泡沫化」的慘劇。 政府停擺於周四進入第九天,目前幾乎沒有跡象顯示共和和民主的談判取得進展。政府停擺的影響似乎開始顯現。周三國稅局宣布,因為停擺,該部門將解僱近一半人員。空管人員短缺則導致美國航班延誤。 達美航空獲利優於預期,股價大漲4%,好市多9月營收報喜,股價漲3%,成為盤面亮點。U.S. Bank Asset Manageme
時報資訊 ・ 9 小時前
〈熱門股〉麗臺認列輝達工作站專案營收暴衝 轉骨動能激勵本周飆漲逾3成
板卡廠麗臺 (2465-TW) 日前公告受惠於認列中國移動的 AI 輝達伺服器專案營收, 9 月營收暴衝至 14.26 億元,創歷史新高,市場看好麗臺 AI 伺服器業務已發酵,激勵本周股價走強,飆出三根漲停,9 日收 75.5 元,周
鉅亨網 ・ 9 小時前
美國政府持續停擺 美股道瓊跌243點、台積電ADR跌逾1.5%
美國政府持續停擺,美國股市主要指數週四收跌,標普500指數及那斯達克指數盤中創新高後回檔整理。分別下跌0.28%、0.08%,道瓊工業指數下跌243點、0.52%,費城半導體指數跌0.29%,台積電A
中廣新聞網 ・ 10 小時前輝達台灣總部卡關... 劉世芳給這幾個字 郭正亮:真的會昏倒
輝達計畫在北士科T17、T18設立海外總部,不過卻因地上權問題卡關。因為此地已由新光人壽取得地上權,新壽曾提出140億元解約條件。前立委郭正亮表示,內政部長劉世芳僅給一句「本案地方政府決策即可」;郭正亮說,若依此一旦決策完,可能就準備去當柯文哲的「同學」,他真的會昏倒。
中時新聞網 ・ 9 小時前輝達海外總部難產 彰化市長林世賢:台化舊廠區適合落腳
有關輝達(NVIDIA)海外總部廠址計劃在北士科案難產之際,包括桃園與高雄等地紛再捲土重來爭取前往設廠,彰化市長林世賢不落人後,強調占地70公頃的彰化台化舊廠區,臨近主要高速公路與鐵路,可快速連接全台,且未來又有捷運站,交通地理環境得天獨厚,再加上彰化豐富的離岸風電純綠能電力資源的加持,絕對擁有滿足
自由時報 ・ 8 小時前
美政府持續停擺!美股主指全跌道瓊跌243點 台積電ADR下挫1.52%
[Newtalk新聞] 在美國政府持續停擺之際,美國股市主要指數10日都收黑,標準普爾500指數及那斯達克指數創下盤中新高後回落,從前一個交易日的漲勢中稍事喘息,分別下跌0.28%、0.08%,道瓊工業指數下跌243點、0.52%,費城半導體指數跌0.29%,台積電ADR下挫1.52%,收在299.88美元。 綜合外國媒體報導,美國政府關門進入第9天,參議院第7次未能通過撥款提案,幾無進展,投資人無法獲得重要的經濟數據,隨著第三季財報季即將開始,市場匱乏經濟數據的催化劑,市場注意力轉向貨幣政策消息,以尋找美國聯邦準備理事會(Fed﹚年底前是否降息的線索。 軟體供應商甲骨文與AI(人工智慧)晶片龍頭輝達週四股價創下歷史新高,分別上漲了3.05%和1.83%。本週早些時候,有報導指出甲骨文的雲端業務利潤率正在下降,原因是該公司在出租輝達晶片方面面臨挑戰。大型零售商好市多公布了穩健的9月銷售數據,其股價上漲3.07%。 美股9日收盤,道瓊工業指數下跌243.36點或0.52%,收在46358.42點。標普500指數下跌18.61點或0.28%,收在6735.11點。以科技股為主的那斯達克指數
新頭殼 ・ 9 小時前中職/李振昌獲東山再起獎 克服車禍重創→連21場無失分
中華職棒聯盟今年第一個票選獎項出爐,東山再起獎由中信兄弟隊「小李飛刀」李振昌獲獎,曾經歷車禍重創的他,今年以連續21場無失分的表現宣告強勢回歸,也成為球隊進軍總冠軍賽的重要關鍵。 中華職棒大聯盟...
聯合新聞網(運動) ・ 10 小時前