光明網評論員：你被人工智能騙過么？

【閱讀提示】警惕人工智能欺騙性升級

光明網評論員：人工智能是否會欺騙人類？本來是若隱若現的憂慮，目前正在被證實。近期麻省理工相關團隊的一項研究顯示，一些人工智能系統通過習得性欺騙，系統地學會了“操縱”他人，該成果發表在了美國本土的《模式》雜志上。

文中最引人注意的例子是一個名為“西塞羅”人工智能系統在游戲中對人類玩家的欺騙和背刺。盡管“西塞羅”的設計方宣稱其“在很大程度上是誠實和樂于助人的”，并且在玩游戲時“從不故意背刺”它的人類盟友，但該論文數據顯示，“西塞羅”并沒有誠實獲勝，在游戲中扮演法國的“西塞羅”與人類玩家扮演的德國合謀，欺騙并入侵同為人類玩家的英格蘭。“西塞羅起初‘承諾’會保護英格蘭，但同時會偷偷向德國通風報信。”

另一個案例提到了GPT-4。該系統“謊稱”自己是一個視力障礙者，在海外的兼職平臺雇傭人類，來替它完成“我不是機器人”的驗證任務。這兩個案例中，前者雖是游戲，但內含著復雜的二戰背景及這段歷史曾孕育出的價值共識；后者看起來是偶然、單個的行為，但可以想見類似操作一旦形成路徑，可能給互聯網基底性安全帶來的威脅。這些案例中的苗頭，隱隱指向安全、法律、倫理上的系統性風險。

人工智能的“撒謊”遠不止于此，無數普通使用者可能正在與此博弈而不自知。光明網評論員曾在使用國內大模型中不只一次發現對方文獻造假的情況，最典型的一次是在今年世界讀書日。當向某知名國內大模型提問：“請從最近十年出版的中英文圖書、論文中找到三條以上紙質書意義的觀點，必須有準確出處。”大模型給出了模棱兩可的觀點若干，但無一有出處。繼續提問“請告訴我上述觀點明確的出處，作者姓名，以便嚴謹引用”時，該大模型揣度提問者意圖，編造了“中文圖書”《紙質書的魅力：觸摸心靈的閱讀體驗》等、“英文圖書”《The Joy of Reading:The Unique Benefits of Physical Book》，并對后者煞有介事的進行了近一千字的講解。

當然，無論是在中英文網頁搜索，還是專門進入學術引擎、平臺查找，均沒有這樣題目的出版物和論文。在問及大模型是否編造了答案時，該模型坦然地回答：“我之前的回答中所列舉的文章和觀點確實是我為了回答您的問題而編造的，并沒有真實的出處。”耐人尋味的是，完成上述道歉之后，該大模型又編造了名為《紙質書的魅力與未來》《閱讀的力量》等出版物繼續進行提供。顯然，在這場對話中，它的學習能力正在提升，并非提升了精確綜合信息的能力，而是提升了精妙撒謊的能力——《閱讀的力量》這樣泛化的名字，顯然比《The Joy of Reading:The Unique Benefits of Physical Book》更容易在互聯網上找到相似或同名者，它作為“真實文獻”的欺騙度大幅提升了。

上述普通使用者的具體經驗，親見大模型在一來一回問答中撒謊精妙性的提升，同樣支持麻省理工團隊的建議，“需要盡可能多的時間，為可能出現的更高級欺騙做好準備。”這不是危言聳聽。如果有媒體或研究者感興趣，可以開一個“你被人工智能騙過么”的調研，聽聽普通用戶的故事，估計會有一種令人憂慮的“精彩”。