ChatGPT 即将诞生一周年,
微软报告称 GPT-4 易受“越狱”提示词影响,生成不良内容
2023.10.18
据 IT 之家 10 月 18 日消息,微软旗下研究团队近日发表论文,详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性,特别关注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究团队表示,GPT-4 虽然在标准基准测试中比 GPT-3.5 更加可靠,但容易受到“越狱”提示(绕过模型安全措施)影响。GPT-4 可能会根据这些“越狱”提示,生成有害内容。
原文链接