首頁 › 影片筆記 › 11/18 日報 › AI 找出藏了 27 年的漏洞後,修補與否才是真正的資安瓶頸
YouTube 影片筆記
AI 找出藏了 27 年的漏洞後,修補與否才是真正的資安瓶頸
YTGet 編輯室
Jim AI Notebook
觀看 3.6萬
觀看原片
收藏
分享
原片標題:藏了 27 年的資安漏洞,AI 怎麼找到?|Nicholas Carlini(Anthropic)
原片說明 00:00 開場:91APP 479萬人資料外洩,AI 找漏洞對誰有利?
01:07 Nicholas Carlini(Anthropic):AI 已經會自己找零時差漏洞
02:27 Big Sleep、DARPA 挑戰賽:AI 找漏洞的紀錄
03:56 Carlini 的實驗與 Anthropic 不公開發布的模型
07:06 駭客也在用 AI:Anthropic 與 Google 抓到的案例
08:48 Mandiant:漏洞公開到被攻擊,從 63 天到負 7 天
10:39 找到一萬個,修好的跟不上:修補才是瓶頸
11:53 修補寫好了還要裝上去:Four Flynn(Google DeepMind)
13:30 回到台灣:91APP 與永豐銀行
16:02 所以誰會贏?過渡期,和你能做的事
AI 已經會自己找軟體的漏洞了,這件事對駭客比較有利,還是對防守的人比較有利?這一集從 91APP 的資料外洩講起,整理 Anthropic 研究員 Nicholas Carlini 在 [un]prompted 2026 的演講〈Black-hat LLMs〉,加上 Bruce Schneier(DEF CON 34)、Four Flynn(Google DeepMind)的演講與各方公開資料。答案是:找漏洞這一步,AI 讓雙方一起變快;勝負落在修補——寫出來、送出去、裝上去。長期來看防守方比較有機會,但我們正在最危險的過渡期。
【說明】本片整理公開演講並加上查證,不包含任何攻擊手法。以下是公司自己公布、外界無法逐一查證的說法,片中都標明出處:Anthropic 的 Claude Mythos Preview/Project Glasswing 數字(幾千個漏洞、一萬個以上、530 個通報、75 個修好)與 2025 年入侵行動的分工比例;Google 的「第一個公開例子」(Big Sleep)與「第一次發現 AI 協助的零時差攻擊程式」;91APP「攻擊者使用 AI 自動化滲透工具」與調查報告內容(479萬是最大可能範圍);OpenAI 對 PHP 漏洞的說法。醫療業修補平均 491 天是美國衛生部副部長在 DEF CON 33 AIxCC 頒獎台上的口頭說法。永豐銀行事件:片中人數、金額是初步資料(中央社 418 人、金管會初步 419 人);金管會說問題出在新網銀交易系統的「中台」、台灣沒有其他銀行導入這套系統,是否開罰仍在調查;永豐依規定應於 2026年11月12日前交書面報告,截至 2026年11月13日報告內容尚未公開,之後可能更新;目前沒有任何來源指出此事與 AI 有關。旁白為 AI 配音,製作流程有使用 AI 工具。
🎤 講者原聲出處(短段剪輯並加上中英字幕,用於評論與介紹):
• Nicholas Carlini:Black-hat LLMs|[un]prompted 2026(3 段)https://www.youtube.com/watch?v=1sd26pWhfmg
• Bruce Schneier:Hacking AI|DEF CON 34(DEF CON,CC BY 授權)https://www.youtube.com/watch?v=eEBv0STiYhI
• Heather Adkins & Four Flynn(Google)|[un]prompted 2026(Four Flynn 1 段)https://www.youtube.com/watch?v=B_7RpP90rUk
畫面素材:DEF CON 33 AI Cyber Challenge 頒獎影片畫面(DEF CON,CC BY 授權)https://www.youtube.com/watch?v=touJ5uLlXjQ ;醫院走廊照片 W.carter/Wikimedia Commons(CC0)https://commons.wikimedia.org/wiki/File:Corridor_on_the_second_level_-_N%C3%84L_hospital_1.jpg ;工廠老照片 Crompton millscape/Wikimedia Commons(公有領域)https://commons.wikimedia.org/wiki/File:Crompton_millscape.jpg ;封面照片:BalticServers.com/Wikimedia Commons(CC BY-SA 3.0)https://commons.wikimedia.org/wiki/File:BalticServers_data_center.jpg ;Trougnouf/Wikimedia Commons(CC BY 4.0)https://commons.wikimedia.org/wiki/File:Solex_99_30_padlock_with_keys_(DSCF2659).jpg ;Jebulon/Wikimedia Commons(CC0)https://commons.wikimedia.org/wiki/File:Love_padlocks_Paris_pont_archev%C3%AAch%C3%A9.jpg 。
評論引用截圖:Google Project Zero、DARPA、Anthropic、Google Cloud/Mandiant、OpenAI、英國 NCSC、高市早苗 X 貼文、中央社、自由財經、工商時報、經濟日報、NOWnews、數位時代。
📎 資料來源
• DARPA AIxCC 結果 https://www.darpa.mil/news/2025/aixcc-results
• Google Project Zero, From Naptime to Big Sleep https://projectzero.google/2024/10/from-naptime-to-big-sleep.html
• Anthropic, Project Glasswing https://www.anthropic.com/glasswing
• Anthropic, Project Glasswing: An initial update https://www.anthropic.com/research/glasswing-initial-update
• Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign https://www.anthropic.com/news/disrupting-AI-espionage
• Google GTIG, AI vulnerability exploitation (2026-05-12) https://cloud.google.com/blog/topics/threat-intelligence/ai-vulnerability-exploitation-initial-access
• Mandiant, M-Trends 2026 https://cloud.google.com/blog/topics/threat-intelligence/m-trends-2026
• Mandiant, Time-to-Exploit Trends 2023 https://cloud.google.com/blog/topics/threat-intelligence/time-to-exploit-trends-2023
• UK NCSC, Impact of AI on cyber threat from now to 2027 https://www.ncsc.gov.uk/report/impact-ai-cyber-threat-now-2027
• OpenAI, Patch the Planet(PHP) https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities
• NOWnews(91APP) https://www.nownews.com/news/6888713
• 數位時代(91APP) https://www.bnext.com.tw/article/92753/91app-data-breach-compensation-security-measures
• 中央社(永豐銀行,2026-11-04) https://www.cna.com.tw/news/afe/202611040331.aspx
• 中央社(永豐銀行,2026-11-05) https://www.cna.com.tw/news/afe/202611050282.aspx
• 中央社(金管會:中台,2026-11-11) https://www.cna.com.tw/news/afe/202611110080.aspx
• 自由財經(永豐報告期限、中台、沒有其他銀行導入,2026-11-12) https://ec.ltn.com.tw/article/breakingnews/5638871
• 民報(供應商盡職調查與開罰,2026-11-13) https://www.peoplenews.tw/articles/economic-news/67174
• 太報/Yahoo
我手機跳更新通常都先按稍後再說,結果這集看完才發現,那個「稍後」可能就是 91APP 479 萬人資料外洩的距離。Jim 這次整理 Nicholas Carlini 在 Unprompted 的演講,從 AI 真的會找零時差漏洞、駭客已經在用,一路講到為什麼修補才是真正的瓶頸。
91APP 資料庫被駭客闖入00:20
影片時間軸
00:20 91APP 資料庫遭入侵,479 萬人個資可能外洩
02:36 Big Sleep 在 SQLite 找到第一個 AI 發現的真實漏洞
03:25 DARPA AI 網路挑戰賽決賽,各隊 AI 平均 45 分鐘交出修補
04:16 Carlini 用市面 AI 工具在 Linux 核心找到 2003 年就存在的漏洞
04:54 Anthropic 發布 Claude Mythos Preview,找到 OpenBSD 藏了 27 年的漏洞
07:11 Anthropic 揭露有人用 Claude Code 對約 30 個目標發動攻擊
08:06 Google 首次發現駭客拿著疑似 AI 做的零時差攻擊程式
08:59 Mandiant 追蹤漏洞公開到被攻擊的時間,從 63 天縮到負 7 天
11:09 Glasswing 計畫找到一萬個以上漏洞,通報 530 個只修好 75 個
14:07 永豐銀行新網銀 App 出事,418 人、4176 萬元
18:34 結尾問觀眾:手機跳更新你會馬上裝嗎
展開完整時間軸(共 11 個時間點)
Google 發現 AI 做的攻擊程式08:06
AI 找漏洞已經不是實驗了
2024 年 Big Sleep 在 SQLite 找到漏洞時,Google 自己說這還很實驗性。兩年後,Carlini 用市面上買得到的 AI 寫程式工具,在 Linux 核心裡挖出一個從 2003 年就存在的漏洞,而且半年前的舊模型幾乎找不到,最近三四個月的新模型就找得到。他在意的不是今天能做到什麼,是這個進步速度。Anthropic 後來直接說 Mythos Preview 找到幾千個高嚴重度漏洞,還決定不公開發布,只先給 Apple、Google、微軟這些單位。一家 AI 公司選擇把能力收起來,本身就說明瞭很多事。
Anthropic 決定不公開發布模型04:54
駭客沒有比較慢
2025 年 9 月 Anthropic 發現有人用 Claude Code 對全球約 30 個目標下手,包括科技公司、金融機構、化學公司和政府機關。特別的是分工:Anthropic 估計八到九成的工作是 AI 自己做的,人只在四到六個關鍵點下決定,像是挑目標、看回報、決定要不要繼續。大部分嘗試沒成功,AI 有時會捏造不存在的帳密,但 Anthropic 也說,只要讓 AI 代理長時間跑下去,就能做到以前一整個駭客團隊才做得到的事。半年後 Google 更直接,第一次發現駭客拿著疑似 AI 幫忙寫的零時差攻擊程式,判斷依據是程式裡有大量像教學文件的註解,還有 AI 自己編出來根本不存在的漏洞嚴重度分數。
Anthropic 揭露 AI 代理的攻擊分工07:11
真正的瓶頸是裝上去
DARPA 的計畫主持人在台上說,找到漏洞很重要,但真正改變局面的是修補。Glasswing 計畫一個多月找到一萬個以上高嚴重度漏洞,通報給開源維護者的約 530 個,到公佈那天只修好 75 個,修好的平均也要兩個禮拜。甚至有維護者請 Anthropic 放慢通報速度,因為他們需要時間設計修補。修補不是寫出來就好,還要每一家公司、每一台電腦真的裝上去。美國衛生部副部長在 DARPA 頒獎台上說,醫療業修補一個漏洞平均要 491 天,其他產業大約 60 到 90 天。91APP 的調查報告也指向同一件事:第三方工具 AppSmith 有漏洞沒有及時修補,攻擊者從那裡進去。永豐銀行則是外部廠商系統的安全設定出問題。AI 讓找漏洞變快,但大部分的門不是被 AI 撬開的,是本來就沒關好。
值得下載嗎
值得,尤其是你平常會按「稍後再說」的那種人。這集把 AI 找漏洞的進展、駭客實際用法、還有為什麼修補才是卡點講得很清楚,最後還給你兩個馬上能做的事:更新裝上去,還有接到叫你加 LINE 轉帳的訊息先打官方電話確認。
← 上一篇 OpenAI 新模型官方數據與實測落差、黃仁勳回鍋與 AI 審論文爭議 下一篇 → 開源專案六選:從蘇軾足跡地圖到光碟刻圖與手機背景代讀群聊