YTGET

YouTube · Facebook · X · TikTok · Instagram · Threads

用資料庫查詢比喻 QKV,從 Transformer 架構一路講到 agent 沙箱與硬體加速

YouTube 影片筆記

用資料庫查詢比喻 QKV,從 Transformer 架構一路講到 agent 沙箱與硬體加速

原片標題:10 分鐘速通 AI 論文天花板《Attention is all you need》Transformer 是什麼?架構又是如何?Its Architecture#编程 #程序员

原片說明
這裡是小白debug的官方YouTube頻道。 我是前位元組跳動AI算灋工程師,也是一名熱衷探索的AI極客與科技美學家。 頻道主打AI前沿玩法、智能家居搭建教程(覆蓋HomeAssistant、小米智慧生態等)、数位乾貨分享與程式設計避坑經驗,用工程師視角解鎖科技的實用價值與美學質感。 歡迎訂閱,一起玩轉AI與智慧生活。

十分鐘要講完 Transformer 加上後面那一大串 agent、MCP、沙箱,我原本以為是標題殺人,結果它真的從翻譯問題一路講到 IAA 硬體加速。小白 debug 把 attention 的 QKV 用資料庫查詢來比喻,這招對寫過程式的人來說意外好懂,但後半段根本是另一支影片的內容。

開場先從翻譯問題講起
開場先從翻譯問題講起00:29

影片時間軸

  1. 00:00開場提問什麼是 Transformer
  2. 02:40以多義詞 like 與 Labrador 為例
  3. 05:23並轉換成一組權重
  4. 08:12開始進行翻譯
  5. 11:04和 MCP 記憶有什麼關係
  6. 13:44我們可以用老朋友 Postgresql
  7. 16:36不是技術突破
  8. 19:19很容易有幾輪對話
  9. 22:09它的理解會越來越偏
  10. 24:57縮寫 SDD,本質上是關於
  11. 27:31例如 Firecracker,用這個
  12. 30:14能不能乾脆做成專用硬體
  13. 33:03記得追蹤

用資料庫查詢理解 QKV

小白 debug 把 token 的 q 想成查詢、k 想成鍵、v 想成值,直接對應資料庫的查詢邏輯。Labrador 要判斷是拉不拉多還是拖拉,就讓牠去跟句子裡每個詞算注意力分數,最後發現 Lalamove 和物流平台的分數最高。這段用具體例子把抽象運算講清楚,是整支影片最有價值的地方。

QKV 用資料庫查詢來比喻
QKV 用資料庫查詢來比喻03:15

多頭注意力解決單一視角的不足

單一組注意力只能抓到一種關係,但詞跟詞之間的關聯本來就很多樣。小白 debug 說多頭注意力就是同時用好幾組 qkv 去看同一句話,每組關注的重點不同,最後把結果拼起來。殘差連接和歸一化也在這裡出現,目的是保留原始資訊不讓它被沖掉。

多頭注意力同時關注不同重點
多頭注意力同時關注不同重點06:27

解碼器是一步一步把英文吐出來

編碼器把中文整句的語意壓成向量之後,解碼器從 BOS 開始,每生成一個字就回頭看前面已經寫了什麼。小白 debug 強調 q 是當前要翻譯的位置,kv 則來自編碼器的輸出,這種跨注意力讓模型在寫 freight 的時候會特別去對應貨運相關的中文詞。整個過程就是不斷預測下一個字。

解碼器從 BOS 開始逐字生成
解碼器從 BOS 開始逐字生成08:14

影片後半段直接跳進 agent 與 MCP

從 t=613 開始,主題突然變成 ChatGPT、DeepSeek 這類大模型為什麼只需要解碼器,接著一路講到 RAG、MCP、context engineering、harness engineering,最後還談到沙箱快照和 Intel IAA 硬體加速。資訊量很大,但跟前半段的 Transformer 架構已經是兩個獨立主題,比較像是把好幾支影片的腳本串在一起。

RAG 用向量檢索外部知識
RAG 用向量檢索外部知識13:26

沙箱與快照是 agent 時代的基礎設施

小白 debug 說 agent 會瘋狂試錯,所以需要沙箱把風險隔離起來,而快照能讓訓練過程不用每次從頭跑。他提到 OSDI 那篇論文把快照縮到原本的兩成二,啟動三十二個沙箱的恢復延遲降了將近四成。這段偏硬,但對想理解 agent 背後怎麼跑的人來說是少見的切入角度。

快照讓沙箱不用每次從頭跑
快照讓沙箱不用每次從頭跑28:38

值得下載嗎

如果你只想知道 Transformer 的 QKV 和注意力怎麼運作,前二十分鐘就夠了,後半段可以快轉。但如果你想一次搞懂 agent、MCP、沙箱這條線的關聯,這支影片的資訊密度值得存下來慢慢看。

覺得這篇筆記有幫助嗎?
YTGet 編輯室|看完影片整理的筆記,細節以原片為準。

連線中

影片封面

擷取畫面

輸入時間點,例如 3:20、3.20 或 200

影片皆已含音訊。檔案越大準備時間越久,完成前請保持頁面開啟。