【台廠AI顯神通】解密輝達稱霸AI運算最關鍵 台廠老將新秀爭當後援神隊友
為坐穩AI龍頭寶座,輝達(NVIDIA)「銷售模式」大轉變從晶片一條龍做到伺服器與雲服務,狠甩英特爾。
圖文/鏡週刊
ChatGPT引爆全球AI算力大戰,最大獲益者就是提供AI運算晶片的輝達(NVIDIA),去年第3季輝達財報顯示,資料中心相關業務年增279%,羨煞伺服器晶片龍頭英特爾,而本刊調查,迥異於英特爾,輝達因「銷售模式」大轉變,從晶片一條龍做到伺服器與雲服務,加上對手超微(AMD)與Google等業者開發AI晶片搶地盤,身為硬體製造大國的台灣,立馬成為最佳助攻手,包括廣達、鴻海、緯創等伺服器老將與華碩、技嘉等新秀都各顯神通,大拓伺服器江山。
廣告 更多內容請繼續往下閱讀
「各位同學,你們手機的3D遊戲能連線互打、女朋友的美妝APP,可是跟AI有關喔,而AI能運作,則是跟伺服器(server)息息相關…」
去年暑假,一群來自香港的高中生特地來台前往新店參訪技嘉,介紹者是從技嘉網通事業分拆出來提供伺服器的技鋼台灣區產品行銷經理王昭力,為了讓大家了解時下超夯的生成式AI如何運作,現場擺了一台搭載輝達8張A100晶片伺服器,只見王昭力指著這款伺服器透露,「這一台要價台幣400多萬,如果要玩ChatGPT,需要一萬台!」簡報一結束,同學們立刻衝上朝聖,一位男同學似乎頗了解市況,知道這顆晶片最近缺貨,還趁機調皮地摸一摸!
廣告 更多內容請繼續往下閱讀
連高中生都知道—「ChatGPT」得靠輝達的繪圖處理晶片(GPU)來幫忙,但這跟以往電腦或傳統伺服器多以中央處理器(CPU)為主要架構似乎不同,究竟為何?
「過去的CPU 用伺服器, 7-8成工作都是儲存或搬運資料,但在AI架構下,有越來越多推論與分析資料的需求,CPU已無法滿足,原本早期只放在CPU下、用來加強圖像顯示的GPU,因為具有平行運算、可一次處理大量資料等特性,正好得以充分發揮。」工研院資通所總監徐銘鴻一邊詳細地說明,一開幽默的說,輝達就像撿到槍,成為這波AI浪潮下的主角,接著更生動地說形容,CPU好比用手指頭算數,GPU是計算機,同樣都能解題數學,手指頭要算來算去,按計算機一下子就能得到答案。
MIC資深分析師朱師右進一步向本刊補充,這次橫空出世的ChatGPT,因為得支援上千億個參數的大語言模型(LLM),要在短時間一次消化大量資料生成需要的回應,GPU的角色更是吃重。
不過,生成式AI帶動伺服器架構從CPU轉為GPU,輝達看似抓到時機,其實是十多年磨一劍結果。
徐銘宏觀察,一般來說,AI包含三大項,分別是算力、算法跟場域(Domain),而輝達早從2007年就推出CUDA平台布建完整的生態圈,「你看Jason Huang(輝達創辦人黃仁勳)每年在辦開發展大會(GTC),跟各大學產學合作,就是在推這件事情(CUDA),無形中,也慢慢地把AI底層到應用所需的基礎建設建置成熟。」他更點出,這也是為何輝達至今拿下AI GPU市場6、7成佔有率的關鍵。
朱師右也補充,包含學校、企業終端這十多年已逐漸習慣用CUDA,儘管近期超微(AMD)也想透過RCOM平台與CUDA比拚,但如今的輝達就像蘋果的iOS,短期難以撼動,話鋒一轉,他仍對超微積極搶市樂觀其成,兩大業者力拱生成式AI,台灣身為伺服器王國,都是贏家。
來自香港的高中生來台參訪技嘉,一睹生成式AI運作背後的伺服器產品。更多鏡週刊報導
【台廠AI顯神通1】輝達自建一條龍AI生態圈 台廠供應鏈受惠名單曝光
【台廠AI顯神通2】廣達林百里慧眼練兵十餘載 擺脫筆電低毛利迎新藍海
同类文章排行
- 投信賣超慘綠一片…「這檔」逆勢崛起卻被砍最多 網一看嘆:沒毛
- 《杀出重围》主角扮演者曾被厂商要求少说两句
- 加拿大港口罢工又有新进展了!(最终协议的第二次迭代)
- 男團始祖「紅孩兒」合體有譜了!53歲王海輪近況曝光 喊話張小
- 「股神」收山!雲南白藥沉迷炒股虧損97億 宣布退出證券市場
- 诺兰想拍一部恐怖片 但目前没有适合的故事
- 世界最大船旗国是哪个国家(海运总吨位方面彻底超越中美洲国家)
- 陈赫为“小漩涡”爆灯 《四平兄弟之头号快递》男主李超龙晋级《
- 美女主播爆被主管性騷!叫進辦公室「捧臉、問三圍」開5萬想包養
- MIH攜手BlackBerry IVY 推電動車平台連網服務
最新资讯文章
- 同心“战疫”第一线丨特别现场:“逆行”的京东快递小哥
- 吉林省南部又要下雪了!时间就在……
- 武汉市部署强对流天气下安全防范工作
- 耒阳潭湖村:一位“退伍不褪色”村支书的致富经
- 天天315丨卖无中文标签葡萄酒 儋州那大一酒吧被立案处罚50
- 北京怀柔全面推进“基本无违建区”创建
- 【地评线】东湖评论:治理网络暴力还须法治亮剑
- 三峡创谷入选省级示范青创园区
- 东安:千余干群义务植树 添绿潇湘源头
- 粤港澳代表委员热议大湾区金融合作
- 四位代表委员热议发展数字经济的湖北机遇—— 打造数字经济高地
- 黄石港区:巡审联动提升巡察监督质效
- 组图丨开学季看同学们的“花式打卡”
- 过去“世世代代都受穷”,如今村级产业齐头唱大戏 这个村在阳新
- 省委党校举行2022年春季学期开学典礼
- 湖北旅游政务微信1月榜:“武汉东湖”跻身第四
- 中国地质大学(武汉)展出350多件学生制作的珠宝首饰作品
- 年轻干部别扣错从政“第一粒扣子”!省纪委监委漫画说廉
- 教育督导“利剑出鞘” 河南将推进全省1.3万名责任督学开展挂
- 北京鼓励首店发展3.0版措施即将出台





