Yann LeCun:不在乎社会规范,ChatGPT离真正的人还差得远( 三 )


如果不了解有关诚实和体面的规范,也不关心自己的声誉,那么聊天机器人的用处就会受限,依赖它们也会带来真正的危险 。
怪诞的对话因此,聊天机器人并不是以人类的方式对话,并且它们永远不可能仅通过统计学上似乎可信的谈话达到目的 。如果缺少对社会世界的真正了解,这些AI系统就只是无聊的话痨罢了,无论表现得多么机智或雄辩 。
这有助于阐明为什么这些AI系统只是非常有趣的工具以及为什么人类不应该将它们拟人化 。人类不仅仅是冷静的思考者或演说者,在本质上还是遵守规范的生物,通过共同的、强制性的期望在情感上相互建立联系 。人类的思维和言语源于自身的社会性 。
单纯的对话脱离了广泛的世界参与,与人类没有什么共同之处 。聊天机器人不是像我们一样使用语言,即使它们有时说的与我们完全相同 。可归根到底,它们不懂我们为什么这样说话,这是显而易见的 。




推荐阅读