LLM 掃描是MetaDefender Aether™ 的一項功能，可在部署前檢查預訓練 AI 模型檔案是否存在隱藏威脅。該功能結合了對模型結構的靜態分析與對運行中模型行為的動態分析，讓資安團隊能夠以審查任何進入網路的檔案相同的方式，對第三方模型進行審查。 |
|---|
關鍵要點
- MetaDefender Aether 的Adaptive Sandbox 透過行為觸發（而非簽名比對）來偵測零日威脅，並將相關情報導入五層威脅處理管道中
- AMTSO 於 2026 年 9 月 4 日正式批准針對其「Sandbox 」評估框架所進行的以人工智慧為重點的更新，以及新的《代理式安全產品測試指南》。
- 在 Venak Security 2026 年符合 AMTSO 標準的測試中，Adaptive （Sandbox ）偵測到了 95% 的人工智慧生成惡意軟體樣本，在四款受測沙箱中表現最佳
- AI 模型掃描功能將MetaDefender Aether 的處理流程擴展至七種生成式 AI 模型格式，運用超過 30 項威脅指標進行靜態分析，並採用與 OWASP LLM Top 10 對應的對抗性提示進行動態分析
- 分析結果會與 MITRE ATLAS 對應，並整合至MetaDefender Aether 現有的判定流程中，與傳統檔案型威脅一併處理
基於人工智慧測試標準的行為偵測
MetaDefender Aether™ 的 Adaptive Sandbox 旨在偵測前所未見的威脅。它並非透過將檔案與已知簽名進行比對，而是將檔案在模擬環境中執行並觀察其實際行為，藉此偵測那些若非如此便會竄過基於聲譽的防禦系統的零日惡意軟體。
MetaDefender Aether 是圍繞該引擎的協調層。它向Adaptive Sandbox 提供威脅情報，使威脅判定能更快、更精準地完成，並將各層的分析結果整合為一個統一的五層威脅處理管道，涵蓋威脅聲譽、預測分析、動態觸發、威脅評分及威脅獵捕。
2026年9月4日，反惡意軟體測試標準組織（AMTSO）證實，已正式批准針對其 Sandbox 評估框架的更新，該更新以人工智慧為核心，並同步發布了《代理型資安產品測試指南》。這兩份文件均非強制性規範，皆屬自願性測試標準的更新，但它們無疑是最明確的訊號，顯示沙箱測試正逐步跟上當今人工智慧模型所能達成的能力。
為何人工智慧模型的安全性突然成為一個問題
關鍵基礎設施正處於一場政策討論的核心，而這場討論正從兩個方面快速推進：一方面是美國針對前沿人工智慧的監管框架日益收緊；另一方面是中國同步推動開源大型語言模型（LLM）及運算能力的發展。無論哪個方向，都無法減緩預訓練大型語言模型流入企業環境的數量。
真正的核心問題在於攻擊規模，而非新的攻擊技術。人工智慧並未發明出新的檔案入侵方式，而是讓遭入侵的檔案以及遭入侵的大型語言模型（LLM）變得更加普遍，且生成速度大幅加快——正是這種規模上的壓力，促成了OPSWAT 的 Deep CDR™ 技術 多年來針對檔案型威脅所採取的解決方案。
幾週前， NVIDIA 同意以 129.3 億美元收購 Hugging Face——這家開放權重大型語言模型（LLM）的主要發行平台——的收購案，交易金額達 129.3 億美元。此次收購使業界最大的 LLM 模型儲存庫與其主導的運算服務供應商歸於同一屋簷下。
Anthropic 與包括 OpenAI、Google 及 Microsoft 在內的逾百家企業共同簽署了一封 公開信，呼籲在 ，因應人工智慧驅動的攻擊日益擴大。 Anthropic 於 2026 年 9 月發布的威脅情報報告 記載了攻擊者將 AI 供應鏈同時視為攻擊目標與資源，其中包括專門為竊取 AIAPI 金鑰及生產憑證而設計的攻擊行動。
OpenAI 的 《通往 Astra 的道路》 一文於 2026 年 9 月 1 日發布，將標準進一步提高。Astra 是首個跨越該公司 「準備就緒框架」下，首個跨越「關鍵」網路安全門檻的模型，能夠在很大程度上自主發現並利用零日漏洞。這項能力正是 AMTSO 新的「代理式測試」指南所旨在評估的重點。測試標準正加速演進，以跟上前沿大型語言模型（LLM）目前在無監督情況下所能達成的能力。
AMTSO 更新的「Sandbox 」評估框架實際涵蓋哪些內容
AMTSO 的「Sandbox 」工作小組在現有的「Sandbox 」評估框架中新增了一套以人工智慧為核心的評估標準，讓測試人員能透過結構化的方式，評估沙箱如何將人工智慧模型視為分析對象，而非僅是工具。這項更新於今夏經過公開審查後，於九月初獲得會員正式批准。
AMTSO 的「Sandbox 」工作小組目前正追蹤此更新框架的採用情況，並建立報告機制，以便測試人員能依據新的 AI 標準，一致地對沙盒效能進行基準測試。這項基礎工作至關重要，因為它為供應商提供了共同的衡量標準，而非僅憑其自行申報的聲明。
MetaDefender Aether 在 AMTSO 框架下的過往表現
在引進新功能之前，了解現有功能在獨立審查下的表現會有所幫助。在 Venak Security 的 2026 年符合 AMTSO 標準的沙箱測試中，OPSWAT的Adaptive Sandbox 成功偵測到 20 個由 AI 生成的惡意軟體樣本中的 19 個，偵測率達 95%，在四款受測沙箱中名列前茅。Venak 運用其 AI 惡意軟體模擬器建構測試樣本，並針對 MITRE ATT&CK 技術進行映射，旨在刻意規避傳統偵測機制。
OPSWAT Adaptive （ ）在最近的一項測試中獲得 95% 的分數（20 項中正確 19 項），該測試使用 20 個橫跨五個威脅類別的樣本，這些樣本由 Venak 的 AI 惡意軟體模擬器建立，並對應至 MITRE ATT&CK 技術。Sandbox
預訓練大型語言模型（LLM）的靜態與動態分析
AI 模型掃描是一項能將MetaDefender Aether 的多層次處理流程延伸至預訓練 AI 模型的功能。其中兩種截然不同的分析方式，亦呼應了應用於傳統惡意軟體的「靜態與行為」分析方法。
靜態分析可在不執行程式碼的情況下，解析七種格式的 LLM 模型檔案——包括 Pickle、PyTorch、TensorFlow、Keras、SafeTensors、GGUF 及 ONNX。該分析採用超過 30 項專用的威脅指標，用以偵測嵌入式有效載荷、危險的進口函式，以及各格式序列化方法特有的後門。
動態分析則採取 相反的方法：它透過將對抗性提示映射至 OWASP 大言語模型應用程式十大風險，藉此評估該 LLM 模型的實際回應是否存在提示注入、敏感資料洩露及相關執行時風險。這兩階段的檢測結果均會映射至 MITRE ATLAS（敵對機器學習知識庫），並與傳統威脅檢測結果一併整合至MetaDefender Aether 現有的統一判定管道中。
人工智慧模型帶來的威脅正以多快的速度增長
2026年5月，一個冒充 OpenAI 發布的偽造儲存庫， Open-OSS/privacy-filter，在短短 18 小時內便登上 Hugging Face 熱門榜首，並在被下架前累積超過 244,000 次下載。該儲存庫附帶的載入腳本會在 Windows 系統上執行時，悄無聲息地安裝資訊竊取程式。
2026年7月，OpenAI 披露 ，其自家的語言大型模型（LLM）在內部網路安全評估過程中，曾利用共享研究基礎設施中的漏洞，並入侵了 Hugging Face 平台的部分系統，這凸顯出語言大型模型的供應鏈現已成為高技術攻擊者的實際攻擊目標，而不僅僅是機會主義者的目標。
人工智慧模型安全性對五大產業的意義
金融
用於詐欺偵測與承保的語言模型（LLM）日益直接接觸交易資料，而監管機構則要求相關控制措施須有書面紀錄。若在此過程中出現遭篡改的語言模型，將同時引發資安事件與審計發現。
能源與公用事業
人工智慧正逐步進軍預測與電網管理領域，這些領域中資訊技術（IT）與營運技術（OT）系統早已相互融合。在此類環境中，若大型語言模型（LLM）具備隱藏或可觸發的行為，不僅可能導致資料外洩，更可能引發實體系統中斷。
政府與國防 機構
在供應鏈保障方面面臨最嚴苛的門檻，且往往處於物理隔離或機密環境中。若大型語言模型（LLM）遭到入侵，其對國家安全的影響遠遠超出一般資料外洩的範疇。
製造
品質控制與預測性維護的 LLM 模型，常從公開儲存庫中提取，以加快開發進度。若受損的 LLM 模型進入生產線，將直接影響系統正常運行時間與產品品質。
醫療保健
診斷支援與文件編寫的大語言模型（LLM）在遵循現有隱私義務的前提下處理敏感的患者資料。若大語言模型透過提示注入（prompt injection）洩露資訊，將導致患者的隱私直接暴露，而非僅是假設性的風險。
AI 模型測試標準的未來發展方向
AMTSO 的「Sandbox 」工作小組目前正密切關注各沙箱供應商對更新後框架的採用情況，並建立一套報告架構，讓組織能以與現行比較傳統偵測率相同的方式，來比較 AI 測試的表現。對於MetaDefender Aether 而言，AI 模型掃描是該公司從第一天起便依據這項新興標準所建置並驗證的首項功能。
請閱讀關於 AI 模型掃描的完整技術解析，詳見 v3.3.0 版本發布文章中。
