進一步了解班尼·查尼(Benny Czarny)的著作《顛覆性的網路安全》

瞭解更多資訊
我們利用人工智慧進行網站翻譯,雖然我們力求準確性,但它們可能並不總是 100% 精確。感謝您的理解。

OPSWAT AI Content Inspector v2.4.0 版本發布:擴展檔案支援範圍並新增 C2PA 驗證功能

在提交的內容進入審核或付款階段之前,請檢查更多商業檔案格式,並驗證內容憑證。
作者: OPSWAT 發布

OPSWAT AI 內容檢查器 可協助您的組織在批准或支付款項前,針對提交的內容做出更明智的決策。透過離線驗證 C2PA 內容憑證,可區分已驗證的憑證與未驗證的標籤;而編輯歷史紀錄分析則能偵測早期編輯步驟中記錄的 AI 使用痕跡,包括 Office 文件及 PDF 中的圖片。新增的 HTML 支援將檢查範圍擴展至頁面文字與嵌入式圖片,而更快的並行掃描功能則有助於團隊處理更大的提交量。

關鍵要點

  • 涵蓋可能出現詐騙的檔案類型:檢查附有圖片附件的.eml 和 .msg 電子郵件;Word、Excel 和 PowerPoint 檔案(包含現代、舊版及啟用巨集的格式);RTF 和 OpenDocument 檔案;內嵌圖片的 PDF 檔案;以及受支援的圖片格式(包括 WMF 和 EMF)。v2.4.0 版本新增對 HTML 的支援
  • 已驗證的來源:透過與官方 C2PA 信任清單進行離線比對,有助於區分可信的「內容憑證」,以及關於檔案來源的未經驗證或無法驗證的聲明
  • 揭露早期 AI 應用:C2PA 編輯歷史紀錄分析發現,AI 曾參與早期編輯步驟,包括 Office 文件及 PDF 檔案中的圖片編輯
  • 更明智的審核決策:更快速的並行掃描與更清晰的結果,有助於團隊在付款、理賠核准或客戶入駐前,評估可疑的提交內容

為何檔案覆蓋率對 AI 詐欺偵測至關重要

發票可能以 Outlook 郵件的形式送達。損壞照片可能嵌入在 PDF 檔案中。供應商可能提交一個包含生成文字與圖片的 HTML 檔案。每份檔案即使通過惡意軟體檢測,仍可能包含虛假內容,從而誤導審核人員或自動化核准系統。

opswat ai content inspector v2.4.0 版本發布,擴展了檔案支援功能並新增 c2pa 驗證 1
隨保險理賠申請一併提交的車輛損壞照片。

OPSWAT AI Content Inspector v2.4.0 透過擴展檔案支援範圍及加強內容來源驗證,有效應對此風險。此版本在近期針對文件檢查、偵測模型及掃描效能所進行的強化基礎上,為反詐欺、資安及營運團隊提供更多證據,協助其判斷哪些提交資料可直接處理,哪些則需進一步調查。

該引擎結合了 AI 分類器、鑑識訊號、元資料分析及水印偵測技術,用以評估提交的內容。貴組織可在檔案進入企業系統時進行檢查,並在付款、理賠或入職決策推進之前,適用相關審查政策。

檢查貴公司實際收到的檔案

基於內容的詐欺會透過日常的商業格式滲入組織。任何用於檢查上傳照片的工作流程,也必須將那些嵌入文件中或作為電子郵件附件傳送的圖片納入考量。

opswat ai content inspector v2.4.0 版本發布,擴展了檔案支援功能並新增 c2pa 驗證 2
一張作為物業審查佐證提交的車庫狀況報告照片——下文將針對同一張圖片進行測試,包括以原始 JPG 格式、嵌入 Office 及 OpenDocument 檔案中、貼入 HTML 頁面,以及作為電子郵件附件等情況。

2.4.0 版新增了 HTML 支援功能,可檢查 .html 和 .htm 檔案中的頁面文字及嵌入圖片,以偵測人工智慧生成的內容。結合近期版本中新增的文件與電子郵件功能,AI Content Inspector 現已涵蓋:

  • Microsoft Office 文件:Word 文件、Excel 試算表及 PowerPoint 簡報,包括受支援的舊版格式及啟用巨集的格式
  • OpenDocument 檔案:各種替代性辦公室應用程式中使用的文字文件、試算表及簡報
  • 電子郵件訊息檔案:.eml 和 .msg 檔案,包括對附件圖片進行的元資料鑑識分析
  • PDF、文字與圖像:透過對 PDF 中嵌入圖像進行元資料鑑識分析,以及新增對 WMF 和 EMF 等圖像格式的支援,進一步強化了現有的支援範圍

對貴組織而言,這意味著將對理賠文件包、發票提交及相關業務文件進行更廣泛的審查,同時減少對寄件者選擇特定格式的依賴。

在將內容憑證用作證據之前,請先驗證其有效性

C2PA 內容憑證可記錄內容的創作與編輯過程,包括是否使用了人工智慧。其在安全決策中的價值,取決於這些憑證是否值得信賴。

AI Content Inspector v2.4.0 會離線比對 C2PA 憑證與官方 C2PA 信任清單。針對每個攜帶憑證的檔案,該工具會報告其憑證是否已驗證、是否由未經驗證的簽署者簽署、簽名是否已過期,或是無法驗證。分析師藉此能更明確地區分可信來源與無法驗證的標籤。

只有經過驗證的 C2PA 憑證,才能提供基於 C2PA 的證據,藉此提高 AI 分數或識別模型家族。使用測試或遭封鎖憑證簽署的憑證,將不再被視為 AI 證據。此舉有助於防止未經驗證的來源聲明,彷彿已通過驗證一般,影響評估結果。

opswat ai content inspector v2.4.0 版本發布,擴展了檔案支援功能並新增 c2pa 驗證 3
AI Content Inspector 針對該樣本照片的分析詳細檢視畫面:AI 生成影像偵測功能以 99.06% 的機率標記該照片,將其歸類為 OpenAI 模型系列,並顯示一項經核實的 C2PA 憑證,聲明該照片涉及 AI 生成。

掃描結果還會報告憑證中列出的 AI 供應商是否與影像偵測模型所識別的供應商相符,為調查人員提供另一項一致性檢查。這些檢查支援那些在掃描時無需發出線上驗證請求、而需進行本地檢查的敏感工作流程。經驗證的憑證可建立對來源記錄的信任;但這並不代表發票是合法的,也不代表該索賠應予支付。

在編輯歷史中查找較早的 AI 使用記錄

一張提交的圖片在送交審核者之前,可能已經歷了數個編輯步驟。即使在最後的編輯步驟中未標示,人工智慧的介入仍可能出現在該記錄歷程的更早階段。

AI Content Inspector v2.4.0 會讀取 C2PA 編輯歷史紀錄,以找出先前步驟中記錄的 AI 使用痕跡,包括 Office 文件和 PDF 中的圖片。若該歷史紀錄可用,調查人員便能更全面地評估內容的來源,而非僅依賴其最新記錄狀態。 對於審查 PDF 文件中嵌入之損害照片的理賠團隊而言,這能在證據影響理賠估算或理賠金支付之前,提供相關的背景資訊。當缺乏驗證憑證時,該引擎的法證分析與 AI 偵測訊號仍對評估至關重要。

將研究結果轉化為更及時的商業決策

更廣泛的涵蓋範圍與來源驗證功能,強化了數項常見的業務工作流程:

  • 財產與汽車保險理賠:在進行自動化評估或理賠支付之前,應檢視所提交的損壞照片及佐證文件,以查核是否存在人工智慧生成或詐欺跡象。將可疑證據轉交給理賠專員或特別調查小組。
  • 應付帳款與費用管理:在核准付款或核銷前,審核發票、收據及隨附的電子郵件文件。根據審核結果,決定應優先與供應商或員工進行核實的事項。
  • 身分識別與帳戶開通:在支援的身分證件影像及地址證明文件進入身分驗證工作流程之前,先檢查其中是否存在合成內容的跡象,並為「認識你的客戶」(KYC)審核人員提供佐證。
  • 醫療支付完整性:在理賠核准前,針對可疑的佐證圖片及文件標記以供調查,並配合現有的支付完整性管控措施。
opswat ai content inspector v2.4.0 版本發布,擴展了檔案支援功能並新增 c2pa 驗證功能 4
同一份檔案的「詐騙偵測」結果:詐騙機率為 87.87%,被歸類為車禍理賠案件——這是理賠專員在支付理賠金前可作為考量依據的證據。

由人工智慧生成的內容並不一定就是造假的。其價值在於整合檢測結果、來源資訊及商業背景,讓團隊能將審查重點放在最具效益的地方。

將檢查深度與工作流程相匹配

「快速」與「鑑識」模式讓您的組織能在「針對快速回應所優化的分析」與「適合調查工作流程的深入檢查」之間進行選擇。更新後的圖像與文字模型、改良的文件文字擷取功能,以及更快速的 PDF 處理能力,皆強化了這些選擇背後的分析能力。

2.4.0 版進一步提升了掃描速度,特別是在同時處理多個檔案時,同時仍能保留檢測結果。這些改進措施相輔相成,有助於團隊在繁忙的接收工作流程中實施內容檢查,同時為調查工作保留更深入的分析選項。

透過更清晰的掃描結果來做出審查決策

可靠的自動化系統必須能區分「檢查完成」與「結果不確定」或「結果不可用」的情況。近期所做的改進使這些區別更加明確:少於 45 個單字的文字會被標示為「不確定」,而未執行的詐欺分類器則會被標示為「未掃描」。

掃描結果中會包含引擎和資料庫版本資訊,有助於團隊追溯發現的結果至所使用的偵測元件。針對電子郵件、Office 文件及影像元資料的處理機制已獲得改善,從而減少處理失敗的情況。在 2.4.0 版本中,C2PA 解析會在隔離的程序中執行,因此即使遇到格式錯誤且包含憑證的檔案,也不會導致引擎停止運作。這些變更有助於團隊根據實際可用的證據制定審查政策,包括判斷何時需要對提交的資料進行進一步調查。

將「內容真實性」融入您的「MetaDefender ™」 工作流程

OPSWAT AI 內容檢查器將 AI 生成內容及文件造假檢測結果整合至現有的 MetaDefender™ 檔案檢查工作流程中,並與 Metascan™Multiscanning 、Deep CDR™ 技術以及 Proactive DLP™ 技術並行運作。應用程式可依據回傳的判定結果與信心程度資訊,依照組織政策對內容進行允許、標記、封鎖或轉送。

透過 2.4.0 版本,您的組織能夠檢視更多收到的檔案,並在更完整的背景資訊下評估其來源。這有助於理賠、財務、反詐欺及資安團隊在可疑內容導致造成重大損失的決策之前及時介入。

探索OPSWAT 的人工智慧內容檢查器,並聯絡您的OPSWAT 業務代表,討論如何在您的工作流程中新增或升級此引擎。如需已發布更新的技術細節, 請參閱發行說明。

隨時瞭解OPSWAT 的最新資訊!

立即註冊,即可接收最新的公司動態、故事、活動資訊等內容。