Suleyman：是的，这是一个很好的观点 。这正是紧张的原因 。
这个想法是人类将永远保持指挥权 。从本质上讲 ， 它是关于设定人工智能无法跨越的边界和限制 。并确保这些边界创造了可证明的安全性，从实际代码到与其他人工智能（或人类）交互的方式 ， 再到创建该技术的公司的动机和激励 。我们应该弄清楚独立机构甚至政府如何直接进入以确保这些界限不被跨越 。
问：谁设定这些界限？我认为它们需要在国家或国际层面上设定 。他们是如何达成一致的？
Suleyman：我的意思是，目前它们正在国际层面上提出，并提出了关于新的监督机构的各种建议 。但边界也会在微观层面发挥作用 。你将给予你的人工智能一些有限的权限来处理你的个人数据，为你提供一些问题的答案，但不能回答其他问题 。
总的来说 ， 我认为在可预见的未来，我们应该对某些能力非常谨慎，甚至排除 。
问：例如？
Suleyman：我猜想是递归自我完善之类的事情 。你不会想让你的小人工智能在没有你监督的情况下启动并更新自己的代码 。也许这甚至应该是一项获得许可的活动——你知道，就像处理炭疽或核材料一样 。
或者 ， 我们不允许无人机出现在任何公共场所，对吗？这是一项获得许可的活动 。你不能把它们带到任何你想去的地方，因为它们对人们的隐私构成威胁 。
我认为每个人都非常恐慌，因为我们无法对此进行监管 。这只是无稽之谈 。我们完全能够对其进行监管 。我们将应用以前成功的相同框架 。
问：但是当无人机在天空中时你可以看到它们 。认为公司只会透露他们正在生产的产品的想法显得很天真 。这难道不会让监管变得棘手吗？
Suleyman：我们在网上监管了很多事情 ， 对吗？网上欺诈和犯罪活动的数量很少 。我们在垃圾邮件方面做得很好 。你知道，总的来说 ， 复仇色情的[问题]已经有所改善 ， 尽管三五年前情况还很糟糕 。在网上找到激进内容或恐怖分子材料非常困难 。在网上购买武器和毒品非常困难 。
推荐阅读
- 秋季养生，儿童体质锻炼，这项运动真的不普通！
- 提高体质：睡前喝杯奶
- 健康饮食十五要
- 身体排毒食品“集中营”
- 闲话餐前吃什么？
- 维生素和蔬菜不能互替
- 海味吃出“男子气”
- 体贴男人身体的12种食品
- 紫外线消毒灯开多久会对人体伤害 紫外线消毒灯开启多久开始计时
- 运动后吃鱼身体会更容易疲劳