影响|人工智能预警：人和机器，谁的偏见更危险( 二 )
布拉德的这本《工具 ， 还是武器？直面人类科技最紧迫的争议性问题》是非常及时的 。 如果借用在最近的新冠病毒疫情中常被提及的一个称谓 ， 我们也可以称他为人工智能领域的“吹哨人” 。 书名准确而清晰地提醒人工智能技术发展和应用的两面性 。 最近几年来 ， 我和我的团队在密切关注人工智能领域的研究报告和著作 ， 这也是我们第一次从书名中就旗帜鲜明地获得对人工智能双重属性的警示 。 同样 ， 这个书名也暗示 ， 工具还是武器 ， 希望还是危险 ， 最终取决于我们的选择 。
文章图片
《工具 ， 还是武器？直面人类科技最紧迫的争议性问题》 ， 布拉德·史密斯、卡罗尔·安·布朗 著 ， 杨静娴、赵磊 译 ， 中信出版集团2020年2月出版
阅读这本书是一个愉快的体验 ， 尽管里面讨论了许多对人类社会来说不那么愉快的挑战 。 阅读上的愉悦部分来自书里内容和分析 。 本书不仅展示了人工智能发展的积极前景和种种令人兴奋的可能性 ， 也涵盖了诸多已经被关注和尚未引起关注的相关主题 ， 社会分化、失业、垄断、武器化、大国科技竞争等等 ， 这些议题在“工具和武器”这个主题下得到了妥善的安排和处理 ， 这种内容上的全面、平衡与恰当的分析深度很好地结合在一起 。
【影响|人工智能预警：人和机器，谁的偏见更危险】作者出色的叙述和严谨平实的风格 ， 也让阅读变得轻松愉快 。 我猜想 ， 这与他作为微软公司首席法务官的职业习惯有关 。 这不是拒人于千里之外的学术和技术著作 ， 也不是架空的科幻灾难小说 。 在书中 ， 大量的思考和分析是个人体验式的 ， 作为微软的总裁兼首席法务官 ， 他不仅参与了微软内部关于人工智能研发战略和规则的制定 ， 还参与了全球范围内各类大型论坛、政府高层磋商会 ， 读者很容易将自己代入这些场景中 ， 理解不同利益方的关切和选择 ， 这使得很多看起来宏大的议题变得真实可感 。
基于本文一开始就提到的理由——企业家和企业在现代社会观念塑造中的重要角色 ， 我特别赞赏布拉德和微软公司在推动公众全面、平衡地认识人工智能所作出的努力 。 借用电影《蜘蛛侠》中的话 ， 能力越大 ， 责任越大 。 作为一家全球领先的高科技公司 ， 有几十万的员工 ， 有数以亿计的用户 ， 在全球人工智能开发版图中具有举足轻重的影响 ， 应该促进行业在人工智能发展中采取审慎和自律 ， 促成社会公众建立正确的认知和观念 ， 这是巨大的责任 。
我不准备过多讨论和评论这本书的内容了 ， 毕竟读者自己从阅读中理解人工智能带来的希望和危险 ， 是更可靠和可取的途径 。 但是 ， 我乐于和读者们分享我在阅读本书以及写这篇书评中获得的两个扩展的思考 。
第一 ， 我们对人工智能开发走向失控要有更多准备 。 靠少数公司和政府的努力建立负责任的开发是困难的 。 企业之间有激烈的市场竞争 ， 国家之间还有更复杂的技术和军事竞争 ， 企业间和政府间的博弈会形成典型的囚徒困境 ， 而且由于验证上困难也无法建立有效的约束机制 ， 最终大家都向底线竞跑 。
第二 ， 人工智能对社会系统性、根本性的影响 ， 还在于我们社会还未曾和智能上远高于我们的物种共生过 。 两年前和微软合作研究的时候 ， 我们讨论和分析了人工智能的已显和未显的挑战 ， 这些挑战都称得上巨大 ， 但总觉得意犹未尽 。 但现在我想可以更清晰准确地表达出更大的风险 。 人类依靠智识形成的合作体系 ， 将猛兽灭绝或赶到自然的角落里 ， 驯化动物作为伙伴或者食物 ， 开发疫苗控制了病毒的袭扰 。 但是人工智能和已知的生物不同 ， 和我们习惯共存的工具不同 ， 在人类需求的推动下 ， 有实体和无实体的人工智能实际上是一个物种 ， 它最终会具备自主性 ， 而且在某些领域的智能和性能上远远超过人类的认知经验 。 所以 ， 在未来 ， 我们与人工智能不是共存 ， 而是共生 。 但是 ， 我们的社会没有准备好 ， 人工智能成为社区的成员 ， 成为伙伴、上级、下级、老师、敌人 。 当人工智能全面地介入人类的生产生活后 ， 当它们从单一功能升级为复合功能 ， 当它们通过网络连接成为社区 ， 现在社会中我们熟知的哪些关系和行为准则可能都需要重新定义 ， 但是我们还没有思考和准备 。 很多人认为这是虚幻的或者是遥远的未来的事 ， 但是由于前面所说的“囚徒困境” ， 实际上这种挑战到来的速度会比想象得快 。
这两个推演结论听起来似乎悲观了些 ， 但是如果不去思考和指出这样的挑战 ， 不去为之做好准备 ， 那么这个挑战有很大的可能变成现实 。 要为这样的挑战作准备 ， 不能只靠少数公司、政府、学者的努力 ， 需要在国际层面、行业之间、学科之间和不同利益群体之间的更广泛协同合作 。 不论正确与否 ， 我乐于和读者分享我的阅读思考 ， 也期待更多的读者能从这本书中获得自己的启迪 。
（作者俞建拖为中国发展研究基金会副秘书长）
(本文来自澎湃新闻 ， 更多原创资讯请下载“澎湃新闻”APP)
推荐阅读
- 疫情|中国玩具产业运行情况报告 ——疫情影响与未来发展
- 影响|分娩后不要放松，产后一周这三种事最好别做，影响自身和宝宝健康
- 香港商务及经济发展局局长：美国制裁行动必然影响港美之间经贸关系
- 宅基地|“一户一宅”下，农民“进城买房”对宅基地有什么影响吗？
- 预报|刚刚！安徽发布暴雨预报！多地预警高挂
- 影响|今年第5号台风即将生成，会对浙江有影响吗？
- 市州|乐山宜宾雅安甘孜凉山5市州亮起暴雨蓝色与地灾黄色双预警
- 张甜甜的未来梦|孩子流口水对说话有影响吗，来看案例，具体分析后有什么方法
- 强雷电+8级以上雷雨大风！江苏省发布暴雨黄色预警界面2020-08-08 17:30:290阅
- 人民日报|内蒙古乌拉特前旗通报一例腺鼠疫死亡病例 发布鼠疫疫情Ⅲ级预警