YTGET

YouTube · Facebook · X · TikTok · Instagram · Threads

在 AMD P100 開發板 NPU 離線部署 Qwen3-8B 驅動機械臂語音互動實測

YouTube 影片筆記

在 AMD P100 開發板 NPU 離線部署 Qwen3-8B 驅動機械臂語音互動實測

原片標題:我给机械臂装了个本地大模型:几行代码就能干的活,为什么要用AI?

原片說明
给一个机械臂装一个本地大脑,完成一些原本用几行代码就能干的活,到底图什么? 这期视频,我用一块搭载AMD锐龙AI嵌入式P100处理器(2x32GB内存)的工业开发板,在完全断网、无独立显卡的条件下,纯靠芯片内置的XDNA2 NPU跑通了千问3-8B(Qwen3-8B)大模型,驱动机械臂在本地完成语音识别、意图理解、工具调用与动作执行的完整闭环。借这个例子,和大家分享一下物理AI走进真实工业世界的另一条路线。 本期视频的详细资料+代码在这里:https://shilicon.github.io/P100_robotic_arm/ 和本期内容相关的其他往期内容: 嵌入式AI开发:https://youtu.be/0Mf6zKpWm8E 视觉处理:https://youtu.be/66YZCwQS7Hw 机械臂开发:https://youtu.be/qU0LWXyLQn0 本期视频时间线如下: 0:00 本地AI大脑 1:33 新AI+旧机器 5:54 纯NPU推理部署方法 9:50 软件的三层防护 11:33 软件生态的挑战 14:01 物理AI的未来 ------------------------------------------------------------------------------------------------------------------------------------------------ 关于我: 大家好,我是芯片工程师老石,欢迎关注我的频道“老石谈芯”。 欢迎订阅👉https://reurl.cc/8ob9Ej 敲响小铃铛🔔,可以第一时间收到我的频道动态。 我会持续带来更多专注于芯片的科普、硬核知识、以及偶尔极度硬核的技术分析与解读。我也会不断分享高效工作和学习的方法与技巧。更多内容,也欢迎关注我的微信公众号、微博。也欢迎加入我的知识星球,和我进一步交流。 🎵 我使用的音乐/BGM:https://go.shilicon.com/epidemicsound 📚 我写的书:https://go.shilicon.com/book 📝 个人网站:https://www.shilicon.com 📚 公众号:老石谈芯 🏮微博:老石谈芯的老石 🌍知识星球:老石谈芯 - 进阶版 #老石谈芯 #科技

讓機械臂點頭打招呼,寫幾行程式就能搞定,老石偏偏要給它裝一個離線大模型,我一開始也覺得這是吃飽太閒。但看完才懂,他問的是:工廠裡那些跑十幾年的老裝置,能不能不換硬體就長出聽懂人話的能力。這支影片就是他把 Qwen3-8B 塞進 AMD P100 開發板的 NPU,全程斷網跑完整套語音辨識到動作執行的實測。

機械臂裝上本地 AI 大腦
機械臂裝上本地 AI 大腦00:09

影片時間軸

  1. 00:00開場示範斷網狀態下機械臂點頭、左轉
  2. 01:35用開飛機比喻傳統程序只會精準執行指令
  3. 02:29對著機械臂說「小蘇同學」實測語音互動
  4. 03:33大模型自己挑工具組合出酷酷的表情
  5. 04:29解釋為什麼工業場景非得把 AI 留在本地
  6. 05:55拆解 P100 的 CPU、GPU、NPU 三種單元分工
  7. 07:39說明 NPU 架構特殊,不能直接複製 GPU 那套部署方式
  8. 08:07三步流程:Quark 量化、OGA 轉圖、NPU 客製組裝
  9. 09:51三層防護:規則層、模型層、教驗層
  10. 11:33談工業現場不能為加 AI 就換掉整條產線
  11. 14:04收尾談物理 AI 還有讓老機器增量升級這條路
對著機械臂喊小蘇同學
對著機械臂喊小蘇同學02:29

為什麼不寫幾行程式就好

老石自己先把這個質疑丟出來:轉 20 度、點個頭,傳統控制程式響應更快也更精準。差別在於人的表達方式太多,用關鍵詞加規則硬寫,每多一種說法就多一條規則,系統只會越來越臃腫。大模型是把方向反過來,讓機器去適應人,還能自己從工具箱裡挑能力組合,這對產線上那些分散在不同廠家、不同介面的成熟功能特別有用。

工廠數據不能上傳公網
工廠數據不能上傳公網04:29

留在本地不是情懷是帳算得出來

這段是我覺得整支影片最實在的地方。手機電腦用雲端模型很合理,但工廠裡成百上千台裝置的執行狀態、操作指令、監控畫面全是商業機密,根本上不了公網。加上產線要 7x24 運轉,雲端模型一次小升級出問題就拖垮整座工廠。所以本地部署對工業來說往往不是選項之一,是唯一選擇,企業才能自己控制版本和更新節奏。

三層防護擋住失控指令
三層防護擋住失控指令09:51

不讓 AI 碰電機的設計

防止機械臂把左轉 20 度聽成右轉 200 度,老石在軟體上做了三層:規則層處理明確指令,根本不讓大模型出手;模型層處理「打招呼再誠懇一些」這種模糊意圖;教驗層檢查工具存在、參數範圍、設備是否空閒。大模型可以決定調哪個工具填什麼參數,但不能繞過安全檢查,更不能直接接管底層電機。這個分界線畫得很清楚。

值得下載嗎

值得,特別是做嵌入式或工業自動化的話。它把 NPU 部署的坑、量化流程、混合與全融合模式的實測差異都講了,還附完整程式碼,當技術參考留著比看一次划算。

覺得這篇筆記有幫助嗎?
YTGet 編輯室|看完影片整理的筆記,細節以原片為準。

連線中

影片封面

擷取畫面

輸入時間點,例如 3:20、3.20 或 200

影片皆已含音訊。檔案越大準備時間越久,完成前請保持頁面開啟。