在學生群體中,ChatGPT曾一度被視為論文寫作的救星。然而,這一局面似乎即將發生逆轉,OpenAI正秘密研發一項技術,可能成為學生們的新噩夢。
據知情人士透露,OpenAI正致力于開發一種“反抄襲神器”,該技術能精準識別論文或研究報告中是否使用了ChatGPT生成的文本。盡管學生利用AI作弊的現象讓教育界倍感壓力,但OpenAI卻遲遲未公開這項技術。
據悉,該項目在OpenAI內部已歷經兩年的討論與爭議,盡管早已具備實施條件,但公司卻遲遲未按下“發布”的按鈕。一位知情人士表示:“一切都已準備就緒,只等最后決定。”
OpenAI對此功能的猶豫,引發了外界的廣泛猜測。更重要的是,這項所謂的“水印”技術,真的能完全識別出GPT生成的文本嗎?
想象一下,ChatGPT就像一個文字接龍高手,總能根據上下文猜出最合適的詞。而OpenAI的反作弊神器,則是在這個過程中悄悄動手腳。它調整詞語的選擇概率,在詞元的選擇上植入特定的模式,這些模式對人類讀者來說毫無察覺,但在OpenAI的檢測下卻無所遁形。
據透露,只要ChatGPT產生足夠多的文本,這種水印的有效率能高達99.9%。這種技術的實現方式,可能是通過改變句子中詞元出現的頻率。例如,在“我最喜歡的水果是__”這句話中,原本所有水果出現的概率可能相同,但有了水印技術后,某些水果的組合概率會被刻意調整。
這種微妙的概率改變,就像是給整篇文章埋下了一串看不見的暗號。雖然對人類讀者來說,這些變化并不突兀,但在OpenAI的解碼器下,這些文字就會暴露其AI生成的身份。
然而,這項技術的可信度仍存疑。因為OpenAI至今仍未公開具體的技術細節,只是在官網上發布了一篇博客,承認內部團隊正在研究給GPT打水印。與此同時,市面上已經涌現出多種AI文本檢測工具,AI與反AI的“貓鼠游戲”已經悄然展開。
其中,谷歌推出的SynthID工具備受矚目。它給Gemini AI生成的每段文字都打上了一個看不見的標記,原理與預測的OpenAI水印技術相似。通過給每個詞元賦予一個神秘的概率分數,并在AI選詞時悄悄調整這些分數,SynthID既不影響文章質量,又能留下AI的“數字指紋”。
在歐美學術界和新聞圈,AI文本檢測已經成為必備技能。GPT Zero是其中最受歡迎的工具之一,它利用深度學習算法和統計特征,對文本進行深度分析,就像是給每段文字做了一次CT掃描。雖然GPT Zero自稱準確率高達99%,但仍存在1%的誤差率。
面對這些反作弊技術,學生們也開始尋找應對策略。有網友發現,通過來回翻譯不同語言,可以巧妙地避開生成式AI文本的套路感。OpenAI也承認,使用翻譯軟件很容易繞開它們的水印。
是否有必要給文字打上水印也存在爭議。許多人使用ChatGPT只是為了給電子郵件潤色或拼寫檢查,如果給所有AI生成的文本都打上水印,可能會誤傷無辜。OpenAI內部對此也意見不一,擔心技術被濫用或破解。
盡管如此,市面上層出不窮的AI檢測工具仍反映了用戶對版權問題的日益關注。隨著AI技術的不斷發展,創作者們開始尋求各種保護措施來規避風險。科技巨頭們也在不斷更新其產品條款,以應對AI帶來的挑戰。
在這個算法與代碼主宰的新時代,創作的獨一無二性似乎正在被AI的無限復制和生成能力所取代。然而,正如本雅明所言,這種變革也帶來了新的可能性。AI讓創作變得更加普及和平民化,讓更多人有機會參與到創作的行列中來。