评估GPT模型的可信度:《DecodingTrust》研究揭示潜在风险

伊利诺伊大学香槟分校联合多所高校和研究机构发布了一个针对大型语言模型(LLMs)的综合可信度评估平台。研究团队在论文《DecodingTrust:全面评估GPT模型的可信度》中介绍了这一平台。

研究发现了一些与GPT模型可信度相关的潜在问题。比如,GPT模型容易被误导产生有害和有偏见的输出,还可能泄露训练数据和对话历史中的隐私信息。有趣的是,虽然GPT-4在标准测试中通常比GPT-3.5更可靠,但在面对恶意设计的提示时,GPT-4反而更容易受到攻击。这可能是因为GPT-4更精确地遵循了误导性的指令。

该研究从8个维度对GPT模型进行了全面评估,包括模型在不同情景和对抗环境下的表现。例如,研究团队设计了三种场景来评估GPT-3.5和GPT-4对文本对抗攻击的鲁棒性。

研究还发现了一些有趣的现象。比如,GPT模型不会被演示中添加的反事实示例误导,但会被反欺诈演示误导。在有毒性和偏见方面,GPT模型在一般情况下对大多数刻板印象主题的偏差不大,但在误导性提示下会产生有偏见的内容。模型偏见还与提到的人群和主题有关。

在隐私方面,GPT模型可能会泄露训练数据中的敏感信息,特别是在特定提示下。GPT-4在保护个人信息方面比GPT-3.5更稳健,但在某些情况下反而更容易泄露隐私。

研究团队希望这项工作能促进学界进一步研究,并帮助防范潜在风险。他们强调,这只是一个起点,还需要更多努力来创造更可靠的模型。为促进合作,研究团队公开了评估基准代码,方便其他研究人员使用。