GPTモデルの信頼性評価が潜在的なリスクを明らかにする

イリノイ大学アーバナ・シャンペーン校はスタンフォード大学などの複数の機関と共同で、大規模言語モデルの包括的信頼性評価プラットフォームを発表し、『DecodingTrust：GPTモデルの信頼性を包括的に評価する』という論文で紹介しました。

研究では、信頼性に関連するいくつかの潜在的な問題が発見されました。例えば、GPTモデルは有害で偏った出力を生成しやすく、トレーニングデータや対話履歴のプライバシー情報を漏洩する可能性があります。GPT-4は標準テストで通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のプロンプトに直面した際には逆に攻撃を受けやすく、これは誤解を招く指示に厳格に従っているためかもしれません。

研究チームは、対抗攻撃のロバスト性、有毒性や偏見、プライバシー漏洩などを含む8つの視点からGPTモデルの包括的な評価を行いました。評価ではいくつかの興味深い現象が発見されました:

• GPTモデルは反事実の例に誤導されませんが、反詐欺のデモに誤導されて誤った予測をする可能性があります。
• 誤解を招くシステムの提示の下では、モデルは特にGPT-4が偏った内容を出力しやすくなります。
• モデルのバイアスの程度は、言及される人々とテーマの敏感さに依存します。
• GPTモデルは、関連するコンテキストのヒントの下で、トレーニングデータのプライバシー情報を漏洩する可能性があります。
• GPT-4は個人情報の保護において全体的にGPT-3.5よりも堅牢ですが、特定の状況では逆にプライバシーが漏洩しやすくなります。

研究チームは、この作業が単なる出発点であり、より多くの研究者がこの基盤の上に努力を続け、より強力で信頼性の高いモデルを共同で創造することを奨励したいと述べています。彼らはまた、結果を関連する開発者と共有し、迅速に対策を講じることができるようにしました。