YTGET

YouTube · Facebook · X · TikTok · Instagram · Threads

用切字機與 context 拆解 AI 接字流程,看懂幻覺與變慢變貴的原因

YouTube 影片筆記

用切字機與 context 拆解 AI 接字流程,看懂幻覺與變慢變貴的原因

原片標題:俗說 AI|AI 原理大解析:從 token 到 skill,一次了解 AI 怎麼回答你

原片說明
你打一句話,AI 就一個字一個字吐出答案——它到底在幹嘛?這集用手機打字的「自動選字」當起點,把 AI 回答你的每一步攤開來看:token 怎麼切、context 裡到底裝了什麼、它怎麼一輪一輪接字、什麼時候停、怎麼思考、怎麼讀 skill、怎麼叫工具,context 滿了怎麼辦,以及 Agent 是什麼。 ⏱ 章節 00:00 開場:AI 像超級聯想字? 00:28 Tokenizer:文字先切成 token 01:30 Context:AI 真正看到的那一整段文字 02:44 一輪一輪接字 03:51 思考模式 04:30 Skill 05:10 工具呼叫+MCP 05:59 接到 AI(完) 才停 06:33 Context 滿了:自動摘要 07:17 Agent 08:01 總圖 💬 維維今天的心得 做完這集最大的感想:AI 核心那一步真的「只是」在猜下一個 token,但前面那一整條 context 排得好不好,差很多。思考、skill、工具結果,其實全部都是塞進同一段文字裡,這點懂了,很多 AI 的怪行為就說得通了。有一說一,「每一輪都整條重讀」這件事我第一次知道的時候也是愣了一下。 Music: "Funk AF" – Everet Almond (YouTube Audio Library) #俗說AI #AI原理 #token #context #skill #LLM #AI教學

我打完「明天去台北玩」跳出「好累要去」的時候還想說手機怎麼這麼懂我,結果維維說 AI 根本在做一樣的事,只是規模大很多。這支影片就是把「猜下一個字」這件事從頭拆給你看,拆完你會發現 AI 沒那麼神秘,但也沒那麼簡單。

Tokenizer 把句子切成 token
Tokenizer 把句子切成 token00:44

影片時間軸

  1. 00:28用 OpenAI 切字機實際切「明天去臺北玩幫我排行程」,看 token 怎麼被拆
  2. 01:30把系統提示、skill 目錄、對話、你的話排成一整條 context
  3. 02:46沒開思考模式,一輪一輪接字,每輪都把整條重讀一次
  4. 03:51打開思考模式,先接一段草稿再回答,比較慢也比較貴
  5. 04:30模型讀 skill 目錄,判斷需要行程表就啟動工具把整段疊進 context
  6. 05:10接出查天氣工具,暫停等 App 跑腿,結果貼回尾巴再繼續接
  7. 06:03接到 AI 完標記就停,換你講話
  8. 06:50context 快滿時自動壓成摘要,細節會被濃縮掉
  9. 07:17Agent 就是外層 App 自動跑,不用等你回話,跑到目標完成才停
模型讀 skill 目錄決定要不要用
模型讀 skill 目錄決定要不要用04:30

token 切法跟你想的不一樣

維維拿 OpenAI 切字機實際切一次,大部分中文是一個字一塊,常見詞像「今天」會連成一塊,少見的字像「邦」反而被拆成兩塊,而且它根本不管意思,「排行程」被切成「排行」跟「程」。英文更常是半個字,unbelievable 切成三塊。這也是 AI 以前數不清 strawberry 有幾個 R 的原因,它看到的是一塊一塊,不是一個一個字母。計費也是數這些塊,讀進去跟生出來價錢還不一樣。

每一輪都把整條重讀一次

這段是我覺得整集最值得看的地方。模型不是記得你上一句,是每次都把整條 context 從系統提示到你剛剛那句從頭看一遍。一句二十個字的回答要跑二十幾輪,每生一塊就把整條重新投射一次。所以聊越久越慢越貴,容量表一路往上漲。context 快滿的時候 App 會自動把前面一大串壓成摘要,系統提示跟最近幾句留著,但中間細節會被濃縮掉。Anthropic 自己也說內容越多準確度會往下掉,夾在中間的資料最容易被看漏。

接到 AI 完標記就停下來
接到 AI 完標記就停下來06:03

值得下載嗎:值得,尤其是你一直搞不懂 AI 為什麼會幻覺、為什麼聊久了變慢變貴,這集把整條 context 攤開來給你看,看完很多怪行為就說得通了。

覺得這篇筆記有幫助嗎?
YTGet 編輯室|看完影片整理的筆記,細節以原片為準。

連線中

影片封面

擷取畫面

輸入時間點,例如 3:20、3.20 或 200

影片皆已含音訊。檔案越大準備時間越久,完成前請保持頁面開啟。