YouTube 影片筆記
用 RTX 5090 實測本地 AI 讀報價單、比規格與產出 Excel 簡報
YTGet 編輯室
技之道
觀看 3,584
觀看原片
原片標題:RTX 5090 不只拿來打遊戲!我讓這台電腦幫我辦公|ROG RTX 5090 Agent computer 實測
原片說明
一台搭載 RTX 5090 的頂級 ROG 主機,除了剪片、算圖、打遊戲,還能拿來處理多少工作?
這次實測 Qwen3.5 的 9B、27B、35B-A3B,以及透過 Strata 運行的 125B 大模型。從生成速度、採購報價比較,到一次讀取多份文件、查找新舊版本的規格,看看不同模型實際用起來差多少。
其中 Strata 125B 的 Q2,在這次採購題平均每秒生成 77 個 token,約 19 秒完成回答。不過換成長文件,開始回答前的等待時間就明顯增加。到底該選大模型,還是反應更快的 35B?
後面再接上 Hermes,讓模型操作工具,嘗試把 Word、PDF、Excel 裡的資料整理成比較表與提案簡報。影片也會展示 125B 產出的 Excel,以及七頁可編輯簡報,並分享實際操作、等待時間和後續人工檢查的心得。
最後也會介紹華碩的 Agent Computer,以及「電腦影身術指數計算器」,可以從自己常做的工作出發,看看有哪些工具和電腦配置值得考慮。
本影片與華碩合作,測試主機由華碩提供借測。
相關連結
華碩 Agent Computer:
https://www.asus.com/microsite/agent-computer/tw/
電腦影身術指數計算器:
https://www.asus.com/microsite/agent-computer-sci/tw/?fbclid=IwZXh0bgNhZW0CMTAAcGRvZgFicmlkETFNVjdhR2l3NlBEbnpFRVBHc3J0YwZhcHBfaWQQMjIyMDM5MTc4ODIwMDg5MgABHu4HNiydrMRzwMFfuFjfnWAvciqHfh5MQICJ-b1SkO1hTnWTwsBFNowgM_ut_aem_8EHABlMjiralVaBciVNB7g
影片章節
00:00 ROG RTX 5090 主機與本次實測
01:14 Qwen 9B、27B、35B 速度測試
01:45 Strata 125B:採購報價實測
03:07 Tail Skip 與 Q2、Q3 的差異
03:39 長文件測試:35B 和 125B 怎麼選?
04:47 Hermes:Excel 比較表與七頁簡報
06:27 長時間運行、散熱與整機心得
07:14 Agent Computer 與電腦影身術指數計算器
08:03 Agent Computer 實際能幫忙做什麼?
我本來以為 5090 就是拿來打 3A 遊戲的,結果技之道直接拿它來讀報價單、比規格、做 Excel 跟簡報,也太務實了吧。這支影片就是看他用這台 ROG 主機跑 Qwen3.5 的 9B、27B、35B-A3B,還有透過 Strata 跑的 125B,實測本地 AI 到底能不能接手辦公室裡那些翻檔案、配單、整理表格的雜事。
ROG 5090 主機特寫00:15
影片時間軸
- 01:16測 Qwen3.5 的 9B、27B、35B-A3B,全部 Q4 量化
- 01:45用 Strata 跑 125B 的 Q2,關閉 Tail Skip
- 02:06保溫杯採購題,三個方案比價與預算核對
- 03:07比較 Tail Skip 開關與 Q2、Q3 量化的答題差異
- 03:39長文件測試,16K input 讓模型自己找規格與報價
- 04:53Hermes 搭配 35B 讀 Word、PDF、Excel 做比較表
- 05:34125B 產出含公式的 Excel 與七頁可編輯簡報
- 06:27連跑半小時測散熱,GPU 最高 61 度
- 07:12介紹 Agent Computer 頁面與電腦影身術指數計算器
保溫杯採購題實測02:06
速度不是唯一,答對才算數
9B、27B、35B-A3B 這幾組產字速度都已經快過閱讀速度,35B 用 MoE 每次只啟用 3B,總參數大不一定比較慢。但真正有條件要核對的採購題,125B 的 Q2 平均每秒 77 個 token、19 秒答完,三次核對都過。技之道也試了 Tail Skip,開著三次只過一次,關掉才全過,所以寧可犧牲速度換準確。換成 Q3 量化反而三次都漏算另外兩個方案的預算,最後選 Q2 當甜蜜點。
長文件測試03:39
長文件一丟,等待時間就現形
把客戶需求、產品規格、報價跟舊版本一起丟進去,約 16K input,125B 的 Q2 平均要先等 45 秒才開始回答,35B-A3B 約 1.8 秒就有反應。固定 20 題初步評分,35B 拿 16 分,125B 的 Q2 和 Q3 都是 15 分,所以後面接 Hermes 先用 35B。不過沒答對的部分還是存在,新舊版本跟關鍵數字要直接回覆客戶前,都得先自己過目一次。
值得下載嗎
如果你本來就有高階顯示卡在剪片或打遊戲,想順便試本地 AI 處理報價、整理檔案,這支值得下載留著當參考;但如果你只是想找個理由衝 5090,影片自己也說了,不一定每個人都要照這台組。