中科院:大模型一被夸智商就爆表!ChatGPT情商98分秒杀人类,Hinton预言成真?( 四 )


但无论如何,聊天机器人敲响了一个警钟,它提醒了我们,什么是人类关怀的真正含义——我们需要什么样的关心,我们该如何关心他人 。
Hinton认为,AI已经或将要有情感
此前,AI教父Geoffrey Hinton在离开谷歌时,曾向全世界警告了AI可能造成的威胁 。
而在伦敦国王学院的一次演讲中,当被问道AI是否有一天会发展出情商和感觉时,Hinton回答:「我认为他们很可能会有感觉 。他们或许不会像人类一样有痛苦,但很可能会感受到沮丧和愤怒 。」

中科院:大模型一被夸智商就爆表!ChatGPT情商98分秒杀人类,Hinton预言成真?

文章插图
Hinton之所以持有这样的观点,其实是基于某种流派对「感觉」的定义,即一个假定的行为可以作为传达情绪的一种方式,比如说「我真想揍他」,就代表「我很愤怒」 。
既然AI能说出这样的话,那我们没有理由不相信,他们有可能已经有了清晰 。
Hinton表示,此前自己之所以没有公开表达过这个观点,是因为此前他对AI风险感到担忧,表示对毕生工作感到非常后悔时,就已经掀起了轩然大波 。
他说,如果自己再说AI已经有了情感,大家会觉得他疯了,再也不会听他说什么了 。
不过,在实践中,Hinton的观点不可能被证实或证伪,因为LLM只能在训练学到的情感话语中表现出「静态」的情绪 。
它们是否作为实体拥有自己的情感?这必须通过意识来测量 。
然而,目前我们还没有一种科学仪器,能够测量AI的意识 。
Hinton的说法,也暂时无法证实了 。
参考资料:
https://arxiv.org/abs/2307.11760
https://www.frontiersin.org/articles/10.3389/fpsyg.2023.1199058/full

【中科院:大模型一被夸智商就爆表!ChatGPT情商98分秒杀人类,Hinton预言成真?】


推荐阅读