主要心得
- 人工智慧改變了攻擊的經濟模式。過去需要一支資金充裕的團隊才能策劃的攻擊行動，如今單憑一名操作者便能輕易實現。
- 攻擊者現在能夠以比許多防禦機制所設計的反應週期更快的速度，測試、調整並輪替其戰術。
- 人類已不再是唯一的攻擊目標。那些代為閱讀電子郵件的人工智慧系統，本身也已成為一個新的攻擊面。
- 如今的防禦意味著採用多層次控制機制，並持續進行優化，而人工智慧與機器學習則能加速其學習進程。
如今，這項威脅已變得無情且規模龐大
大多數資安主管都已意識到，人工智慧正在改變網路風險的樣貌。更棘手的問題在於，這種變化在運作層面上究竟意味著什麼。人工智慧是否讓攻擊變得更聰明？有時確實如此。但更重要的是，它降低了實驗成本，並縮短了從構思、載荷、發送到迭代之間的時程。這改變了攻擊的經濟模式。
這正是我們目前在市場上所觀察到的現象，也是我們從客戶、合作夥伴及智庫那裡聽到的意見。根據由美國、英國、加拿大、澳洲和紐西蘭組成的情報聯盟「五眼聯盟」（The Five Eyes）指出：「前沿人工智慧模型預計將超越當前業界的預期，從根本上改變網路攻擊與防禦能力。這並非以年為單位，而是以月為單位。」
如果你認為這只是遙遠未來才需要擔心的問題，以下幾項近期統計數據顯示，我們正迅速朝著那個方向前進：
- 目前有 82.6% 的網路釣魚電子郵件以某種形式包含人工智慧（KnowBe4）。
- 人工智慧能在五分鐘內生成一封極具說服力的網路釣魚電子郵件，而人類則需耗費 16 小時才能完成（IBM X-Force）。
- 完全由人工智慧自動生成的網路釣魚電子郵件，其點擊率達 54%，而傳統行銷活動的點擊率則為 12%（獨立研究）。
- 電子犯罪的平均突破時間已降至 29 分鐘，其中最快的案例僅需 27 秒。在一宗有紀錄的入侵事件中，資料外洩是在初始存取後四分鐘便開始的（CrowdStrike《2026 年全球威脅報告》）
這些統計數據描繪出一幅發展速度遠超多數資安治理機制所能應對的局面，而這還是在前沿 AI 模型尚未廣泛普及之前的情況。那麼，資安領導者應從哪些不同角度來審視問題呢？答案首先在於理解 AI 如何改變了攻擊行為本身的經濟邏輯。
工業規模的網路攻擊
在人工智慧問世之前，針對一個防禦嚴密的組織展開高效的攻擊行動，是一項龐大的投資，需要投入時間、人力和基礎設施。
如今，一名能力出眾的攻擊者能夠大幅壓縮攻擊的每個階段。過去需要數天才能完成的偵察工作，現在只需數小時甚至數分鐘即可完成。釣魚誘餌過去需要進行研究並投入大量心力，但現在僅需一個指令即可完成。過去需要中繼環境且耗費大量迭代時間的載荷測試，其速度已提升數個數量級。
隨著人工智慧和機器學習為攻擊工具庫注入強大動力，威脅態勢已淪為攻擊者的遊樂場。微軟記錄到，在該季度期間，駭客每月都會輪換傳遞方式，測試哪些格式能最有效地繞過電子郵件防禦機制：
- HTML 附件曾是傳遞需通過 CAPTCHA 驗證的網路釣魚攻擊最常見的方式（1 月份佔 37%），但在 2 月份因 SVG 檔案的使用率飆升 49%，其地位遂被取代。
- 3 月份，PDF 附件的數量增加了四倍以上，而 DOC/DOCX 載荷則增長了近五倍。
- 嵌入 PDF 檔案中的 QR 碼已成為增長最快的傳播途徑，在本季度內佔 QR 碼式網路釣魚攻擊總量的 70%。
一項於一月校準以偵測 HTML 的防禦機制，對於三月可能出現的威脅幾乎無法提供任何指引。這並非偵測失誤，而是防禦機制在面對某類攻擊者時所產生的結構性後果——該類攻擊者進行測試、評估與變換的速度，遠快於撰寫簽名規則所需的時間。
在人工智慧問世之前，個人化服務的成本高得令人望而卻步。如今，這項成本已接近於零。
電子郵件攻擊已不再僅針對使用者
收件匣過去的設計主要以一位主要讀者為核心：員工。這種情況正在改變。人工智慧助理現在能夠快速地對電子郵件內容進行摘要、分類並採取行動。因此，問題在於：在人類閱讀郵件內容以及機器處理郵件之前，企業是否會先對內容進行審查？
微軟自身的效能測試數據顯示，Defender 平均能在惡意電子郵件送達後（即已進入收件匣後）移除其中 70.8%。在此停留期間：
- 使用者可以開啟附件、轉寄訊息，或點擊連結。
- 人工智慧助理可以對內容進行摘要。
- 副駕駛可以處理嵌入式指令。
2025 年 6 月，研究人員揭露了名為「EchoLeak」的漏洞，這是 Microsoft 365 Copilot 中的「零點擊」漏洞，其嚴重性在 CVSS 評分中為 10 分中的 9.3 分。 攻擊過程如下：攻擊者發送一封含有隱藏指令的特製電子郵件。當收件者要求其 Copilot 彙整收件匣內容時，AI 會讀取該隱藏指令，將其解讀為命令，並在收件者毫不知情的情況下，將敏感文件外洩至外部伺服器。使用者對 AI 助理的操作方式，完全符合其設計初衷。
這改變了電子郵件的威脅模型，而大多數安全架構目前尚未將此納入考量。人工智慧在閱讀郵件時，既沒有人類可能具備的懷疑態度、情境意識或直覺。此外，它還能大規模地進行閱讀，能存取更廣泛的資料，並繼承自使用者的權限，有時甚至具備遠超出「閱讀」範疇的行動能力。
這項安全挑戰還存在第二個層面。 針對人工智慧代理記憶體的研究已證實，經由人工智慧代理處理的經過精心設計的文件，能夠將指令植入該代理的持久記憶體中；這些指令會永久存留，並在日後與原始檔案毫無關聯的互動中悄然觸發。這比提示注入更進一步，被稱為「記憶體中毒」。
那些在電子郵件基礎架構上運行 AI 協同駕駛員、程式碼助理及代理式工作流程的組織，實際上是在原本就難以防禦的攻擊面之上，又增添了一層幾乎毫無防護的第二層面。大多數組織並未據此調整其電子郵件安全態勢。
Adaptive AI 陰影下的防禦
多年來，許多資安計畫都是循著固定週期進行優化：年度審查、季度調整、定期桌面演習，以及預定的政策更新。這種運作節奏至今仍有其價值。但它並非為那些能迅速變換形式且規模不斷擴大的攻擊而設計。
答案在於「適應性防禦」：這是一種能隨著威脅演變而持續學習的安全防護層，透過每次成功攔截的攻擊、每次誤報以及每次事件檢討來不斷優化。若將前沿人工智慧模型用於防禦目的，不僅能縮短從偵測到採取行動的時間間隔，還能揭示人類分析師無法以所需速度處理的模式，並使防護措施的演進速度更貼近攻擊手段的變化節奏。
這項調整還必須將收件匣中的「新讀者」納入考量。員工可以接受培訓以培養批判性思維，但若缺乏防護措施，人工智慧助理便會根據其處理到的任何內容採取行動。無論讀者是人還是機器，訊息和附件都必須被視為不可信，並在任何讀者接觸之前予以中和。
人工智慧防禦必須務實，並發揮其優勢：更快速的分流處理、更早識別可疑檔案、更佳的跨訊號關聯分析，以及縮短從威脅出現到應對措施實施的時間。
未來能夠成功的組織，是那些能將每起事件視為情報來源，而非單純關閉工單的組織。等待合規框架跟上步伐，並非有效的防禦策略。攻擊者早已從每次嘗試中汲取教訓，而防禦方也開始效法此舉，運用人工智慧與機器學習來檢查、偵測並清理電子郵件。
就關鍵基礎設施而言，其肩負著一項僅靠法規無法界定的額外責任。隨著數位化加速發展，這些組織的攻擊面也隨之擴大。安全策略絕不能僅以法規的最低要求為基礎來制定。
「五眼聯盟」的聯合聲明直言不諱地指出：「網路風險已不能再被視為純粹的技術問題。這是核心的業務風險，也是領導階層的責任。」至於緊迫性問題，聲明中提到：「現在就採取行動的領導者，將能降低風險暴露、強化韌性，並贏得客戶、合作夥伴及投資者的信任；而拖延不行動者，則將面臨日益加劇且本可避免的風險。」
更具韌性的應對姿態，始於邊界處的分層防禦、營運模式中由人工智慧輔助的適應能力，以及將持續改進視為標準做法的期望。關鍵在於，您的防禦機制是否能以足夠快的速度演進，以跟上時代的步伐。
這一點在風險最高的領域——即關鍵基礎設施及其核心的物理隔離網路——尤為重要，而下一篇文章也將從此處展開。
