YTGET

YouTube · Facebook · X · TikTok · Instagram · Threads

Google TPU 百萬顆訂單背後,GPU 記憶體瓶頸與台股設計服務怎麼看

YouTube 影片筆記

Google TPU 百萬顆訂單背後,GPU 記憶體瓶頸與台股設計服務怎麼看

原片標題:帶你看懂TPU和GPU:Google自研晶片拿下100萬顆大單,AI大廠離得開輝達嗎?

原片說明
2013 年,Google 算出一個嚇人的數字:只要每個人每天用 3 分鐘語音搜尋,機房就得多蓋一倍。於是 Google 自己做了一顆晶片叫 TPU,十年不對外賣,結果去年 Anthropic 一口氣簽下最多 100 萬顆。這一集用四張圖帶你看懂:GPU 算 AI 的時候時間花在哪裡、TPU 怎麼把這段時間省下來、ASIC 是什麼、為什麼大家還在買輝達,以及黃仁勳離開之後台股供應鏈的變動。 專門介紹 CUDA 的那一集:https://youtu.be/VkKo4eW-3Lc 時間軸 0:00 Google 十年不賣的晶片,一口氣被訂 100 萬顆 1:10 這集要解開的四個問題 1:38 問題一:GPU 算 AI 的時候,時間都花在哪裡? 3:24 問題二:TPU 怎麼把這段時間省下來,ASIC 又是什麼? 5:32 問題三:TPU 又省電又便宜,為什麼大家還在買輝達? 7:18 問題四:黃仁勳離開之後,台股的供應鏈會有什麼變動? 9:25 回到開場的問題:雲端大廠離得開輝達嗎? 資料來源 Google 公開的 TPU 開發經過;Anthropic 與 Google 的合作公告;博通與輝達財報;Dwarkesh Patel 訪談黃仁勳(2026 年 4 月);Google Developers Blog(TorchTPU);聯發科與世芯法說會報導。 照片:Anderseidesvik(CC BY-SA 4.0),Wikimedia Commons。 片中的工人、倉庫、方陣是幫助理解的比喻,節拍的比例為示意。本片為產業解說,不構成投資建議。 #台股 #輝達 #TPU #GPU #ASIC #黃仁勳 #Google #博通 #聯發科 #世芯 #創意 #Anthropic #AI晶片 #半導體 #矽說台灣

Google 十年前自己做出來的晶片,一顆都不賣,結果去年被 Anthropic 一口氣簽走最多 100 萬顆,這什麼劇本。更巧的是黃仁勳這週宣佈辭職,大家馬上開始問雲端大廠會不會趁機跑掉。矽說台灣用四張圖把 GPU 和 TPU 的差別拆給你看,還順便點出台股供應鏈誰在接單。

TPU 把一萬六千個工人排成方陣
TPU 把一萬六千個工人排成方陣03:48

影片時間軸

  1. 01:42從 GPU 原本是畫遊戲畫面用的晶片講起
  2. 02:36工人跑去倉庫領數字,排隊排掉幾百拍
  3. 03:48TPU 把一萬六千多個工人排成方陣,數字往隔壁傳
  4. 04:39定義 ASIC,順便算輝達 74% 毛利率這筆帳
  5. 05:37方陣位置排死,算法一換就得重設計晶片
  6. 07:22黃仁勳走人後,採購主管開始想多留一點給自家晶片
  7. 08:17聯發科、世芯、創意怎麼切進設計服務這一段
  8. 09:25回到開場:短期離不開輝達,但大家都在搬固定工作
方陣只會做一種乘法
方陣只會做一種乘法05:40

倉庫門口那條隊伍

GPU 的比喻很到位:上萬個工人擠在同一座倉庫門口領數字,乘一次加一次只要四拍,跑一趟倉庫卻要好幾百拍,大部分時間都在排隊。更浪費的是隔壁工人要領的常常是同一排數字,明明旁邊剛領過,每個人還是各跑一趟。這段把記憶體瓶頸講得比課本清楚,也解釋了為什麼算 AI 的電大多花在搬資料,真正在算的只佔一小段。

上萬個工人擠向同一個倉庫門口
上萬個工人擠向同一個倉庫門口02:56

省電的代價是彈性

TPU 把工人排成方陣,數字一拍一拍往隔壁傳,整場只進出倉庫兩次,電就省下來了。但位置排死也意味著演算法一換,整顆晶片要重來,一次兩到三年。加上外面工程師大多照 CUDA 寫程式,TPU 的客戶又幾乎集中在 Anthropic 一家,連 Google 自己的雲端都還在租輝達的晶片。所以現階段是分工,不是取代。

值得下載嗎:值得,九分鐘把 GPU 的瓶頸、TPU 的取捨、台股設計服務的邏輯一次講完,想搞懂 AI 晶片在吵什麼的人留著看很划算。

覺得這篇筆記有幫助嗎?
YTGet 編輯室|看完影片整理的筆記,細節以原片為準。

連線中

影片封面

擷取畫面

輸入時間點,例如 3:20、3.20 或 200

影片皆已含音訊。檔案越大準備時間越久,完成前請保持頁面開啟。