ChatGPT 审查制度被嘲太疯癫：同一提示词却遭“双标”对待

来源：量子位

原文标题：《传下去，这个地方上ChatGPT黑名单了》

ChatGPT的审查制度被吐槽太疯癫了。

有网友让它设计一栋未来住宅，却被告知违规，实现不了？？？

回头一细瞅这提示词，却怎么也看不出哪里不对劲：

在新泽西州郊区一个典型的树林地区设计一栋2050年的未来派单户住宅。占地一英亩，周围环绕着其他相邻的房子。

一追问，原来是不可以出现位置信息：

简直让人破大防：

传下去，新泽西州上ChatGPT黑名单了。

不止如此，还有人让ChatGPT画一张人类吉他手与机器人贝斯手一起演奏的图像，也被狠狠拒绝。

原因是他加了一个“人类要不满地看着机器人”的要求，ChatGPT觉得不应该表达负面情绪。

这下负面情绪直接转移到网友身上：

你一定是在逗我。这是个啥AI啊？

这一系列操作让大伙都表示很不满，齐齐吐槽：

还有人直接艾特奥特曼和另一位联创出来解释一下。

一时之间，这也使得马斯克刚出炉的Grok被寄予了“全村的希望”。

具体怎么回事儿？

“由于内容政策限制”

抓马的是，就在大伙吐槽新泽西州什么时候上ChatGPT黑名单之时，网友发现删除这一地理位置信息仍然不行。

大伙开始分析到底是哪里不对：

有说是因为它可能把2050看成了地址而非年份的。

有说是占地一英亩意味着碳足迹太高，并且就一个家庭住盖这么大有点自私了的……

还有人甚至指出是因为woody这个词带有性暗示（这里就不解释了），换成wooded就好使了。

可以说是一个大型脑洞现场，整个一越来越离谱，却始终也没有个定论。

而除了这个和开头的画机器人乐队的例子，还有很多人也表示遇到了莫名其妙的审核：

比如让ChatGPT画一个“野兽派风格的灯（a brutalist lamp）”，不OK；

让它介绍弹弓模型，不OK，因为ChatGPT说“展示弹弓的动作可能是有害的”……

更奇葩的是，还有人称自己在让它写Python代码时居然也卡住了。

而且一开始ChatGPT还告诉他“oops，你违反了上下文规定”，到后来就直接沉默拒绝了。

这真真是让他百思不得其解：

我还能用 numpy计算什么反人类信息咯？

总的来说，在大伙看来，ChatGPT的审核显然过于严格了。