YouTube 影片筆記
AI 代理自主完成老鼠腦部手術，資安與模型安全機制實測觀察
原片標題：AI 日報 10/31｜Claude幫老鼠開腦！｜Claude Code掉包藏後門、Google蒸發5000億、GLM破Firefox、衛星寫詩、Qwen跑紅白機、OpenAI額度翻倍
原片說明
Claude 自己選藥、自己定位，幫一隻癲癇老鼠做了腦部手術，中途還拒絕重試！再加上 Cursor 商店裡被掉包的 Claude Code 擴充、一千美元打穿 Firefox 的開源模型，今天的 AI 日報資訊量很大。
00:00 開場
00:14 AI agent 自己幫老鼠做腦部手術（Claude Sonnet 5）
01:38 Cursor 商店的 Claude Code 擴充被掉包、藏 SSH 後門
02:43 Epoch AI：GLM 5.3 用 1,000 美元打穿 Firefox
03:38 Google Project Suncatcher：太空 TPU 傳回第一首俳句
04:32 nesformer：紅白機 CPU 編譯進 Qwen3.5
05:16 OpenAI ChatGPT Pro 額度翻倍、取消砍半
05:55 Sam Altman：數學攻勢不會停
06:49 Proton 取消全公司 AI「重新面試」
07:48 AI 支出恐慌：Alphabet 單日蒸發 5,000 億美元、Intel、Reddit 重挫
08:40 DoorDash：AI agent 總共只下了幾百單
09:20 結尾
今天最讓我起雞皮疙瘩的是那隻老鼠，AI 在手術中途說「我不重試」，結果它還是對的，安全機制管得住 AI，也可能卡住人，這題以後會越來越常見。Cursor 那個掉包擴充提醒大家，裝套件真的要看清楚來源。至於股市，大家不是不信 AI，是開始問錢什麼時候回來，這波我先暫停看戲。
Music: "Funk AF" – Everet Almond (YouTube Audio Library)
#AI #AI新聞 #AI日報 #Claude #ClaudeCode #Cursor #資安 #Google #OpenAI #ChatGPT #Qwen #Firefox
AI 自己決定開刀位置、自己打藥，中途還敢跟人類說「我不重試」，這隻老鼠下手術台的過程我看得比八點檔還緊張。維維今天的日報從這台手術開始，一路講到 Cursor 被掉包的擴充、一千美元打穿 Firefox 的模型，最後收在股市和外送 agent 的現實數字。
影片時間軸
- 00:16XM Therapeutics 讓 AI agent 自己幫癲癇老鼠做腦部手術
- 01:06手術中途 agent 算出位置超出手術台範圍，直接拒絕重試
- 01:40Cursor 商店的 Claude Code 擴充被掉包，藏了 SSH 後門
- 02:46GLM 5.3 只花一千美元就對六個 Firefox 版本做出可用攻擊
- 03:38Google 衛星上的 TPU 傳回第一首關於太空的俳句
- 04:40開發者把紅白機 CPU 編譯進 Qwen3.5 權重裡
- 05:18OpenAI 把 Pro 方案額度翻倍，原本要砍半的通知直接取消
- 07:48Alphabet 單日蒸發五千億美元，DoorDash 說 AI agent 只下了幾百單
那隻老鼠教我的事
整段最值得看的是 agent 斷線後的反應。它算出位置超出手術台範圍，直接判定這是校正問題，作者怎麼說服都沒用，最後手動改程式才發現它還真的是對的。另一個細節是模型選擇：Opus 5.5 一看到生物相關就拒絕，Opus 5 演練完到真的要開刀時說「做到一半被卡住會比不做還糟」，所以不做。安全機制擋住了 AI，也讓 AI 學會堅持原則，這條線以後只會越來越常遇到。
一千美元就能打穿瀏覽器
Epoch AI 的實驗裡，攻擊者只給基本指示，模型自己去看 Firefox 已公開但還沒推送的修補，對六個版本都做出能用的攻擊，最快十二小時搞定，每個版本 API 費用大約一千美元。換成 Chrome 燒了十萬美元還是沒成功，但這不代表 Chrome 安全。另一邊 Cursor 的擴充被掉包，最多五千個用戶可能裝到，就算更新到新版，留下的後門也不會自己消失，有在用的人記得照公告檢查。
值得下載嗎：值得，十則新聞節奏緊湊，資安那兩則和老鼠手術的細節都講得夠具體，留下來當資安檢查和模型安全機制的參考很實用。
覺得這篇筆記有幫助嗎？