YouTube 影片筆記
在 AMD P100 開發板 NPU 離線部署 Qwen3-8B 驅動機械臂語音互動實測
YTGet 編輯室
老石谈芯 Shilicon Talk
觀看 2.7萬
觀看原片
原片標題:我给机械臂装了个本地大模型:几行代码就能干的活,为什么要用AI?
原片說明
给一个机械臂装一个本地大脑,完成一些原本用几行代码就能干的活,到底图什么?
这期视频,我用一块搭载AMD锐龙AI嵌入式P100处理器(2x32GB内存)的工业开发板,在完全断网、无独立显卡的条件下,纯靠芯片内置的XDNA2 NPU跑通了千问3-8B(Qwen3-8B)大模型,驱动机械臂在本地完成语音识别、意图理解、工具调用与动作执行的完整闭环。借这个例子,和大家分享一下物理AI走进真实工业世界的另一条路线。
本期视频的详细资料+代码在这里:https://shilicon.github.io/P100_robotic_arm/
和本期内容相关的其他往期内容:
嵌入式AI开发:https://youtu.be/0Mf6zKpWm8E
视觉处理:https://youtu.be/66YZCwQS7Hw
机械臂开发:https://youtu.be/qU0LWXyLQn0
本期视频时间线如下:
0:00 本地AI大脑
1:33 新AI+旧机器
5:54 纯NPU推理部署方法
9:50 软件的三层防护
11:33 软件生态的挑战
14:01 物理AI的未来
------------------------------------------------------------------------------------------------------------------------------------------------
关于我:
大家好,我是芯片工程师老石,欢迎关注我的频道“老石谈芯”。
欢迎订阅👉https://reurl.cc/8ob9Ej
敲响小铃铛🔔,可以第一时间收到我的频道动态。
我会持续带来更多专注于芯片的科普、硬核知识、以及偶尔极度硬核的技术分析与解读。我也会不断分享高效工作和学习的方法与技巧。更多内容,也欢迎关注我的微信公众号、微博。也欢迎加入我的知识星球,和我进一步交流。
🎵 我使用的音乐/BGM:https://go.shilicon.com/epidemicsound
📚 我写的书:https://go.shilicon.com/book
📝 个人网站:https://www.shilicon.com
📚 公众号:老石谈芯
🏮微博:老石谈芯的老石
🌍知识星球:老石谈芯 - 进阶版
#老石谈芯 #科技
讓機械臂點頭打招呼,寫幾行程式就能搞定,老石偏偏要給它裝一個離線大模型,我一開始也覺得這是吃飽太閒。但看完才懂,他問的是:工廠裡那些跑十幾年的老裝置,能不能不換硬體就長出聽懂人話的能力。這支影片就是他把 Qwen3-8B 塞進 AMD P100 開發板的 NPU,全程斷網跑完整套語音辨識到動作執行的實測。
機械臂裝上本地 AI 大腦00:09
影片時間軸
- 00:00開場示範斷網狀態下機械臂點頭、左轉
- 01:35用開飛機比喻傳統程序只會精準執行指令
- 02:29對著機械臂說「小蘇同學」實測語音互動
- 03:33大模型自己挑工具組合出酷酷的表情
- 04:29解釋為什麼工業場景非得把 AI 留在本地
- 05:55拆解 P100 的 CPU、GPU、NPU 三種單元分工
- 07:39說明 NPU 架構特殊,不能直接複製 GPU 那套部署方式
- 08:07三步流程:Quark 量化、OGA 轉圖、NPU 客製組裝
- 09:51三層防護:規則層、模型層、教驗層
- 11:33談工業現場不能為加 AI 就換掉整條產線
- 14:04收尾談物理 AI 還有讓老機器增量升級這條路
對著機械臂喊小蘇同學02:29
為什麼不寫幾行程式就好
老石自己先把這個質疑丟出來:轉 20 度、點個頭,傳統控制程式響應更快也更精準。差別在於人的表達方式太多,用關鍵詞加規則硬寫,每多一種說法就多一條規則,系統只會越來越臃腫。大模型是把方向反過來,讓機器去適應人,還能自己從工具箱裡挑能力組合,這對產線上那些分散在不同廠家、不同介面的成熟功能特別有用。
工廠數據不能上傳公網04:29
留在本地不是情懷是帳算得出來
這段是我覺得整支影片最實在的地方。手機電腦用雲端模型很合理,但工廠裡成百上千台裝置的執行狀態、操作指令、監控畫面全是商業機密,根本上不了公網。加上產線要 7x24 運轉,雲端模型一次小升級出問題就拖垮整座工廠。所以本地部署對工業來說往往不是選項之一,是唯一選擇,企業才能自己控制版本和更新節奏。
三層防護擋住失控指令09:51
不讓 AI 碰電機的設計
防止機械臂把左轉 20 度聽成右轉 200 度,老石在軟體上做了三層:規則層處理明確指令,根本不讓大模型出手;模型層處理「打招呼再誠懇一些」這種模糊意圖;教驗層檢查工具存在、參數範圍、設備是否空閒。大模型可以決定調哪個工具填什麼參數,但不能繞過安全檢查,更不能直接接管底層電機。這個分界線畫得很清楚。
值得下載嗎
值得,特別是做嵌入式或工業自動化的話。它把 NPU 部署的坑、量化流程、混合與全融合模式的實測差異都講了,還附完整程式碼,當技術參考留著比看一次划算。