新京报何怀宏×宋冰：我们的生存矛盾来自于自控与控物的不平衡( 三 )
本文插图
但是机器不一样 ， 假如机器真的感到了“爱” ， 它是会反过来爱我们 ， 还是利用我们、利用这种从控制的角度看来肯定是弱点的爱呢？
其实当机器似乎也爱我们的时候 ， 我们应该感到恐惧 ， 而不是甜美 。 它们与动物不同 ， 动物没有控制人类的技术能力 ， 在能力上它无法超越人 ， 但机器却有可能 。
就像电影《机械姬》中 ， 一个工程师去测试一个被制造成女性的机器人 ， 他对它产生了同情 ， 可能也有某种爱的意味 。 这个机械姬也隐隐约约感到人比它还多出一点什么 ， 也许它也感到了人对它有一种感情、有一种爱 。 但是最后它还是利用了这种感情 ， 把这个人永远困在地牢 ， 自己走到人类的都市里去了 。
我们无法用人类的道德去批评它的这种行为 ， 说它欺骗感情之类的 ， 因为这本来就跟机器完全不搭界 。 机器可能感受到一种感情 ， 但是它自然而然就利用了这种感情 。 其身体的感受性注定了它与我们是不同的 。
所以 ， 有时候动物乃至凶猛的野兽 ， 都比为我们服务、带来很多方便的智能机器人 ， 离我们更近 ， 离人类更近 。 尽管智能机器是我们制造的 ， 但是人类确实难以把握一旦它有了自我意识 ， 或者说有了某种自己的意识或者精神 ， 它会怎样对待人类？在何怀宏看来 ， 如果有一天机器产生了另外的意识世界 ， 很可能是不同于人类的 。
总之 ， 何怀宏对智能机器是否要发展为超级智能机器 ， 机器是否应该人性化是抱有很大疑虑的 。 他提到 ， 如果我们对自己身体的不断置换器官 ， 乃至置换大脑而最后获得一种新的性质的话 ， 那将是一种“物性”还是“人性”？或者 ， 如果说如果超级智能机器将有“心”的话 ， 那将是一种“机心”还是“人心”？尤其我们听到过一种说法 ， 机器不可能超过人 ， 因为机器不会有人那样的爱 。 但这不是安慰 。 可能恰恰因为机器不会有人那样的爱 ， 不会有人那样的同情 ， 所以 ， 反而更容易超过人 。 在我们与智能机器的控制力的竞争中 ， 爱不是一个优势 ， 倒可能是一个劣势 。
何怀宏问道：“现在一些单一功能的机器人对我们百依百顺 ， 这是不是就够好了？但百依百顺并不是爱 。 我们是否还希望它能力更为强大 ， 变成通用化的超级智能机器？那时 ， 你是不是还希望机器爱你 ， 那会是一种什么样的爱？是像我们爱宠物一样的爱？”
对此 ， 他回答说：“所有这些 ， 不是说我肯定知道什么 ， 而是肯定我不知道什么 。 我不知道如果智能机器获得一种‘意识’的话 ， 那将是一种什么‘意识’？我不知道如果机器具有了一种统一的‘自我’或‘主体’意识的话 ， 那会是一种什么样的‘自我’或‘主体’ 。 我的担心和畏惧不是对我知道的东西的担心和畏惧 ， 而是对我所不知道的东西的担心和畏惧 。 ”
本文插图
我们的生存矛盾
来自于自控能力与控物能力的不平衡
何怀宏表示 ， 人有四个特征 。 第一 ， 人是能够制造和运用工具的动物 ， 也就是控物能力 ， 人有很强大的认知能力、计算能力等 。 第二 ， 人不仅有对外物的理性 ， 比如技术理性、工具理性 ， 也有对自己的理性 ， 比如人文理性或某种平衡的理性 。 第 三个特征就是人有综合的自我意识 ， 有主体意识 ， 可以把上面的能力都统一到自身 ， 形成人格 。 这三点主要是侧重于人禽之别 ， 从人和动物的区别来定义、来说明的 。
而第四个特征 ， 过去不太谈到 ， 但在智能机器出现的今天 ， 尤其之后还有可能出现超级智能机器 ， 这一点就要格外强调 。 这一特点不是人和动物的区别 ， 而是人和动物共有的 ， 就是人是碳基生物 。
推荐阅读
![[支付宝]3月支付宝在线挂号量增长162%，这三个科室最火爆](http://ttbs.guangsuss.com/image/ce55da613d9eea660ec122c051a923eb)
- 湖北将防汛应急响应提升为Ⅲ级，全省千座水库超汛限
- |北京昨日新增报告2例确诊病例，均在丰台
- 因攻击国家机关及中央媒体等，部分微博账号被关闭
- 受降雨影响，北京公交8条线路停驶或甩站
- 新京报贝壳财经安恒信息回应投标作假风波：合作伙伴擅改内容公司不知情
- 雷阵雨加冰雹！北京发布雷电黄色预警
- 北京地区高考期间多雷阵雨 前两日最高气温33℃左右
- 中国气象局提升暴雨四级应急响应为三级
- 醉驾|北京房山两车相撞致2死 肇事司机涉嫌醉驾
- 新京报|创造营未出道练习生：19岁，也有年龄焦虑