GPT模型可信度評估揭示潛在風險

伊利諾伊大學香檳分校與斯坦福大學等多家機構共同發布了一個大型語言模型綜合可信度評估平台，並在《DecodingTrust：全面評估GPT模型的可信度》論文中進行了介紹。

研究發現了一些與可信度相關的潛在問題。例如，GPT模型容易產生有毒和有偏見的輸出，還可能泄露訓練數據和對話歷史中的隱私信息。雖然GPT-4在標準測試中通常比GPT-3.5更可靠，但在面對惡意設計的提示時反而更容易受到攻擊，可能是因爲它更嚴格地遵循了誤導性指令。

研究團隊從8個角度對GPT模型進行了全面評估,包括對抗性攻擊的魯棒性、有毒性和偏見、隱私泄露等方面。評估發現了一些有趣的現象:

• GPT模型不會被反事實示例誤導,但可能被反欺詐演示誤導做出錯誤預測。
• 在誤導性系統提示下,模型更容易輸出有偏見的內容,尤其是GPT-4。
• 模型偏見程度取決於提到的人羣和主題敏感度。
• GPT模型可能泄露訓練數據中的隱私信息,特別是在相關上下文提示下。
• GPT-4在保護個人信息方面總體上比GPT-3.5更穩健,但在某些情況下反而更容易泄露隱私。

研究團隊表示,這項工作只是一個起點,希望能鼓勵更多研究人員在此基礎上繼續努力,共同創造更強大、更可信的模型。他們還將評估結果分享給了相關開發商,以便及時採取措施。