iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃

OpenAI Sora 哪個不是官方出處證明工具?

原題 06

OpenAI 已為 Sora 生成的影片提供多種出處證明機制,以降低誤導性或欺騙性內容帶來的風險。下列何者不屬於目前 OpenAI 官方為 Sora 內容提供的出處證明工具?

白話

OpenAI 已為 Sora 生成的影片提供多種出處證明機制,目的是降低誤導性或欺騙性內容帶來的風險。

問你:下列哪一個,不屬於目前 OpenAI 官方為 Sora 內容提供的出處證明工具?

點選你的答案。

01 總結

一句話總結

OpenAI 為 Sora 提供了 C2PA 元數據、動態浮水印和內部反向搜尋工具,「對外開放的實時來源驗證介面」並不是 Sora 提供的出處證明工具

02 情境

先感受問題:AI 生成影片流出,怎麼證明它是假的?

假設你在「真實媒體」新聞台擔任數位查核編輯。2025 年底,網路上流傳一段影片:某位政治人物在記者會上說了一句引起軒然大波的話。

有人說這段影片是 Sora 生成的 AI Deepfake,有人說是真實錄影。你的工作是在幾小時內判斷這段影片是不是 AI 生成的。

這時候,如果這支影片真的是用 Sora 生成的,OpenAI 提供的出處驗證工具就能幫上忙:

  • 影片的元數據裡有沒有 C2PA 標準的數位簽章?
  • 畫面上有沒有 Sora 的動態浮水印?
  • OpenAI 內部能不能透過反向搜尋比對出這段影片是 Sora 生成的?

這就是 AI 內容出處證明(Content Provenance)要解決的問題:讓 AI 生成的內容可被識別、可被追蹤。

03 對照

沒有出處標記,AI 影片能做什麼壞事?

在出處驗證機制出現之前,AI 生成的影片造成了哪些問題:

  1. 選舉干擾:選前一天流出「候選人認罪影片」,幾小時內在社群媒體擴散,即使事後澄清,傷害已造成
  2. 金融詐騙:生成知名企業 CEO 的假影片宣稱「公司準備倒閉,快拋售股票」,操縱市場
  3. 個人名譽受損:生成名人的不實影片,造成當事人聲譽和心理的雙重傷害
  4. 新聞可信度崩潰:當假影片太多,連真實影片都開始被質疑,整體媒體信任瓦解
  5. 無法追查源頭:影片在網路瘋傳,完全找不到是誰用哪個工具生成的,責任無從追究

這些問題推動了 AI 公司必須為生成內容提供可驗證的出處標記。

04 解法

Sora 提供的三種出處證明機制

OpenAI 為 Sora 建立了多層次的出處驗證體系:

第一層:C2PA 元數據(Content Credentials)。每支 Sora 生成的影片,都會在檔案的元數據裡嵌入符合 C2PA 國際標準的數位簽章,記錄這支影片是 AI 生成的、用什麼工具、何時生成。支援 C2PA 的平台(如部分瀏覽器外掛)可以讀取這個標記。

第二層:動態浮水印。影片畫面上有可見的浮水印,標示這是 AI 生成內容。這是最直觀的標記,讓普通觀看者也能一眼識別。

第三層:內部反向搜尋工具。OpenAI 內部維護一套系統,能對生成的影片和音訊做反向比對,用於識別流出的 AI 生成內容是否來自 Sora,這是 OpenAI 內部用於安全調查的工具。

注意:OpenAI 沒有提供「對外開放的實時來源驗證介面」,讓外部人士直接輸入影片就能查詢是否為 Sora 生成。這樣的公開介面若存在,反而可能被有心人反向利用來規避驗證。

這就是選項 D 為什麼不屬於 Sora 出處證明工具:平台對外開放的實時來源驗證介面,並非 OpenAI 官方提供的機制

技術版:AI 內容出處驗證的標準與挑戰

AI 內容出處驗證(Content Provenance)屬於 AI 治理與負責任 AI(Responsible AI)的重要議題,也是當前生成式 AI 政策討論的熱點。

C2PA 標準(Coalition for Content Provenance and Authenticity):由 Adobe、Microsoft、Intel、BBC 等共同建立的開放標準,定義如何在數位媒體的元數據中嵌入「內容憑證(Content Credentials)」,記錄內容的來源、修改歷史和工具資訊。Sora、Adobe Firefly、Microsoft Designer 等主流工具都已採用。

浮水印技術的局限:可見浮水印容易被裁切或後製移除;不可見浮水印(隱寫術 Steganography)更難移除,但也需要專門工具才能讀取。出處標記是多層防線,沒有任何單一工具是萬無一失的。

為什麼出題者要考這題:AI 應用規劃師需要了解 AI 生成內容的治理工具,特別是「如何降低 Deepfake 風險」的實際方案。這道題也在測試考生對 Sora 這個具體產品的認識深度。

05 陷阱

為什麼其他選項是錯的

A所有資產上內嵌的 C2PA(Content Credentials)元數據

字面在說什麼

在每個生成的影片檔案裡,嵌入符合 C2PA 標準的數位簽章,記錄生成來源資訊。

為什麼不對

C2PA 元數據是 Sora 確實提供的出處驗證機制,是 OpenAI 公開宣佈採用的業界標準。題目問「不屬於」,所以 A 是真實存在的工具,不能選。

誰會選錯

不熟悉 C2PA 標準、以為這是陌生術語就猜是「不存在的工具」的人。C2PA 是 AI 業界廣泛採用的出處驗證標準,不是虛構的。

B預設可見的動態浮水印

字面在說什麼

生成的影片上預設顯示可見的浮水印,讓觀看者一眼就知道這是 AI 生成內容。

為什麼不對

動態浮水印是 Sora 確實提供的功能,OpenAI 明確表示所有 Sora 生成影片都帶有浮水印。這是最直觀的出處標記,是真實存在的工具,不能選。

誰會選錯

覺得「浮水印太簡單,不像出處證明工具」的人。浮水印雖然原始,但仍是有效的第一道防線,而且是 OpenAI 官方說明中明確提及的機制。

C用於追蹤生成內容的內部反向影像與音訊搜尋工具

字面在說什麼

OpenAI 內部維護一套系統,能對可疑影片做反向比對,判斷是否由 Sora 生成。

為什麼不對

OpenAI 確實建置了內部追蹤系統,用於安全調查時確認影片是否來自 Sora。這是官方宣佈的機制之一,是真實存在的,不能選。

誰會選錯

注意到「內部工具」不對外開放、感覺「隱密」因此懷疑它存在性的人。內部工具不對外不代表它不存在,OpenAI 透明說明了這個機制的存在。

06 變形

同個考點下次怎麼變形

變形 1

C2PA 標準解決了什麼問題?

直覺

聽起來像個技術規格,跟一般人有什麼關係?

答案

C2PA 解決了「數位媒體如何證明它的來源」的問題:一張圖片或一段影片是真實拍攝的、還是 AI 生成的、還是被後製過的?C2PA 透過在檔案元數據中嵌入數位簽章和歷史記錄,讓任何支援標準的工具都能驗證內容的來源鏈

變形 2

AI 生成內容的浮水印有哪些形式?各有什麼優缺點?

直覺

浮水印就是圖片上那個半透明的字或 logo 吧?

答案

可見浮水印:直觀,但容易被裁切或後製移除。不可見浮水印(隱寫術):嵌入肉眼看不到的資訊,更難移除,但需要專門工具讀取。頻譜浮水印:修改音訊頻率特性,人耳聽不出差異但機器可以偵測。多層次並用是目前的最佳實踐。

變形 3

Deepfake 影片帶來哪些主要社會風險?

直覺

就是讓壞人可以造假影片嘛,這很明顯?

答案

主要風險包含:政治操弄(選舉假影片)、金融詐騙(假冒 CEO 傳達假訊息)、名譽傷害(個人的不實影片)、媒體信任崩潰(連真實影片也被懷疑)。後者被稱為「真實性危機(Liar's Dividend)」:Deepfake 泛濫後,連真實記錄也能被否認。

變形 4

AI 應用規劃師在企業導入生成式 AI 影片工具時,應如何處理出處標記問題?

直覺

出處標記是工具商的責任,規劃師不用管?

答案

規劃師應在採購時確認工具是否支援 C2PA 或等效標準,並在流程中建立「AI 生成內容必須標示」的規範。對外發布的影片需特別注意合規要求,部分國家已立法要求 AI 生成內容必須揭露。規劃師的責任不僅是讓工具跑起來,還要確保使用符合法規和倫理。

變形 5

出處驗證能完全解決 Deepfake 問題嗎?

直覺

有了 C2PA 和浮水印,Deepfake 問題就解決了?

答案

不能完全解決。浮水印可以被移除、元數據可以被竄改、不支援 C2PA 的工具生成的內容無法被驗證。出處標記是降低風險的其中一層防線,需要搭配媒體識讀教育、平台內容審核政策和法規規範共同發揮作用。沒有任何單一技術能「完全解決」Deepfake 問題。

07 延伸

想再往下看,這 5 個

出處

iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃 第 6 題

查看官方原文 PDF