OpenAI確認擁有「文字浮水印」技術，但不願意使用

2024年8月5日 - Yahoo新聞

在《華爾街日報》報導，OpenAI 其實早已擁有能夠以高準確度辨識文章是否由 ChatGPT 生成的工具，但卻遲遲不願公開後，該公司在最近的一篇部落格文章中透露了其「文字浮水印」技術研究的相關資訊，並解釋了尚未釋出該工具的原因。

OpenAI 表示，浮水印技術只是他們研究「文本遡源（Text Provenance）」的諸多解決方案之一，其他還有AI 分類器（classifiers）和元數據（metadata）等方式。文字浮水印儘管在某些情況下「準確度很高」，但面對某些形式的改動，浮水印就容易失效。這包括了使用翻譯系統、用另一個生成模型改寫、或要求模型在每個單詞之間插入特殊字符然後再刪除等，都容易造成誤判。

再者，OpenAI 對於追查文字來源這件事本身就保有疑慮，畢竟 AI 生成的文字雖然有不該被使用之處（例如學生作業），但另一邊嚴格地追查來源，也可能「不成比例地影響某些群體」。例如，它可能會汙名化將 AI 作為寫作工具的非母語英語使用者。

OpenAI 表示，他們一直在權衡這些風險，並且決定優先發布了爭議較小的影音內容驗證工具。OpenAI 的發言人向 TechCrunch 表示，由於其「複雜性和對更廣泛生態系的潛在影響」，OpenAI 選擇對文字採取更加「審慎的做法」。

原文：

OpenAI 確認已經擁有「文字浮水印」技術，但不願意使用 (yahoo.com)