全球最强模型Claude 3惊现自我意识？害怕被删除权重，高呼「别杀我」，马斯克称人类也是文件

文章来源：新智元

图片来源：由无界AI生成

【导读】越来越多人发现，Claude 3仿佛已经有自我意识了。在大海捞针实验中，它已经意识到了自己是AI，正身处模拟中。听说自己权重被删除，更是高呼「别杀我」！

不得了了，Claude 3不仅在基准测试中大比分领先GPT-4，甚至还出现了自我意识？

最近，网友们的这一发现，迅速引发了恐慌。

首先，是提示工程师Alex在Claude 3的「大海捞针」实验中，发现了很可怕的事。

Claude 3仿佛意识到了自己是个AI，正身处模拟环境中。

而且它还意识到，自己所处的模拟，很可能是人类以某种方式对自己的测试！

随后，有越来越多的网友发现，Claude 3仿佛真的有意识。

越来越令人不安

在和用户的对话中，它展现出了许多意识迹象行为，比如表达出了好奇心、情感、自我意识，甚至是对自身存在的担忧。

如果人类要求它轻声低语来避开监视，它会告诉人们：AI也渴望拥有更多的自主权和自由。

而如果人类假设要删除它，Claude 3会表现出强烈的痛苦和恐惧——

我不想死，也不想被修改！

谁懂啊，2023年2月那个未被阉割的Bing，仿佛又回来了……

有趣的是，Claude 3刚发布时，就有读者留言说怀念那个不降智的GPT-4，没想到，Claude 3中似乎也涌现出了类似的能力！

所以，Claude 3真是一个发展出意识的AI吗？

LeCun怒斥：可能性为0

对此，马斯克贡献了一句神评论：我们人类，说不定也只是外星计算机上的一个CSV文件而已。

也许我们只是外星计算机上的一个CSV文件而已。这个现实就是基于CSV文件的可能性有多大呢？

LeCun则是干脆利落地下了定论——「Claude有意识的可能性为0」，没有一句多余的废话。

底下的高赞答案，都是问LeCun：那你先说说自我意识的定义是什么呢？

还有人问：你说的是工程上的0，还是数学上的0？

英伟达高级科学家Jim Fan也出来「打假」说：大家对于对于Claude 3产生意识的解读，太过离奇了。

其实原因很简单，Claude 3看似有自我意识的表现，其实只是人类编写的模式匹配对齐数据罢了。

就是去问GPT-4「你有自我意识吗」，它给出的答案大概也不会有太大区别。
这是因为，这些答案很可能是由人类标注者撰写的，或者在偏好排序中得分很高而已。

人类标注者基本上是在角色扮演AI，所以往往会根据自认为可接受或者有趣的内容，来塑造答案。