江苏龙网

  1. 主页 > 生活百科 > >

人工智能发展太快了吗？听听谷歌AI大咖们怎么说( 二 )

人工智能


皮查伊：人工智能技术将影响每一家公司的每一种产品，这也是我认为它是一项变革性技术原因，尽管我们只是处于早期阶段 。我举个例子，你可能是一名放射科医生 。在五到十年后，你可能会有个人工智能搭档 。早上上班后，假设你有100件事要做 。人工智能搭档会帮你分类，告诉你“这些是你需要首先看的最严重病例” 。或者，当你在看什么东西的时候，它可能会弹出来说“你可能错过了什么重要的东西” 。我们为什么不能利用强大的助手来帮助完成这一切呢？你可能是个想学数学或历史的学生，你同样能从中得到帮助 。
问：哪些工作有可能被颠覆？
皮查伊：知识型员工，比如作家、会计师、建筑师，讽刺的是，还可能包括软件工程师 。人工智能也会编写计算机代码 。
问：许多谷歌员工已经辞职，有些人认为谷歌推出人工智能的速度太慢，另一些人则认为太快，并且存在严重的缺陷 。比如马尼卡曾向Bard询问了通货膨胀的问题 。它立即写了一篇关于经济学的文章，并推荐了五本书 。但几天后，我们发现没有一本书是真实的 。显然，Bard捏造了这些东西 。这种非常人性的特质，犯错时依然相信自己是对的，在业内被称为“幻觉” 。你经常遇到这类幻觉吗?
皮查伊：是的，你知道，这是意料之中的 。在这个领域，还没有人解决过幻觉问题 。所有模型都有这个问题 。
问：这是一个可以解决的问题吗？
皮查伊：这是一个正被激烈辩论的问题 。我想我们会取得进展 。
问：为了帮助应对幻觉问题，Bard提供了一个“谷歌搜索”按钮，可以引导人们进行老式搜索 。谷歌还在Bard中内置了安全过滤器，以屏蔽仇恨言论和偏见等内容 。虚假信息传播的风险有多大？
皮查伊：人工智能将以更深层次的方式挑战这一问题，这个问题的规模将会大得多 。更大的问题是假新闻和假图像 。有了人工智能，我们就可以轻松地创建视频 。在这些视频里，可能是你在说什么，也可能是我在说什么，但实际上我们从来没有说过 。在社会层面上，这可能会造成很多伤害 。
问：Bard对社会安全吗？
皮查伊：以我们今天推出的方式来看，这是一个有限的实验，我认为它是安全的 。但我们都必须对这个过程中的每一步负责 。我们将进行更多的测试，也就是Bard的高级版本 。届时，它可以进行推理、策划并连接到互联网搜索 。
问：你是在慢慢地释放这种技术，这样社会就可以习惯它了？
皮查伊：这是部分原因，其他原因在于我们希望得到用户的反馈 。我们可以在构建和部署更强大的模型之前，开发更强大的安全层 。
问：在我们谈到的AI问题中，最神秘的是所谓的“涌现属性”，即些人工智能系统正在自学它们原本不应该拥有的技能 。这是如何发生的还不是很清楚 。例如，谷歌的一个人工智能程序在被提示使用孟加拉语后自行进行了调整，而它并没有接受过孟加拉语的培训 。
马尼卡：我们发现，只需极少的孟加拉语提示，我们的程序就可以翻译所有的孟加拉语 。所以现在，突然之间，我们现在有了一个研究努力，我们现在正试图让其掌握1000种语言 。
皮查伊：我们这个领域的所有人都把它称为“黑匣子” 。你知道，有很多东西我们并不完全明白 。你也说不清人工智能为什么会得出那样的结论，也不知道它为什么说错了 。我们有些想法，随着时间的推移，我们的理解会越来越多 。这就了解最先进技术的方式 。
问：你们还没有完全了解人工智能是如何工作的，但却将其公开发布了？
皮查伊：是的 。这就像是我们完全理解人类的大脑是如何工作的 。
问：我们想知道，Bard的短篇小说是不是从那个黑匣子里出来的，看起来很有人情味 。它讲述了人类感受到的痛苦，谈到了救赎 。如果它只是试图弄清楚下一个正确的词是什么，它是如何做到这一切的？
皮查伊：我也有过和Bard交谈的经历 。对此有两种看法：有些人认为，这些只是算法，它们只是在重复网上看到的东西 。然后另一些人认为，这些算法正在显示出新的特性，具有创造性，能够进行推理，制定计划，等等，对吗？而且，就我个人而言，我认为我们需要以谦虚的态度对待这件事 。我认为其中某些技术的普及是好事，这样社会就可以应对正在发生的事情 。这促使我们开始对话和辩论，我认为这样做很重要 。
问：人工智能革命是争论的焦点，有人希望它能拯救人类，也有人预测它将引发世界末日 。谷歌对未来持乐观态度，认为我们可以循序渐进地引入人工智能，让人类文明能够习惯它 。我们在谷歌位于伦敦的人工智能实验室DeepMind看到了机器学习的未来 。DeepMind负责研发和机器人业务的副总裁拉亚·哈塞尔展示了工程师如何使用运动捕捉技术来教人工智能程序如何像人类那样移动 。但在足球场上，机器人只被告知目标是得分 。这个自学项目花了大约两周的时间测试不同的动作 。它抛弃了那些不起作用的动作，并依照有小动作建立模型，从而创造了全明星机器人球队 。这样的机器人足球比赛看起来很有趣，但问题是：人类并没有给这些机器人编程来比赛，它们自己学会了这项运动 。


推荐阅读


上一篇：AI十年浮沉，与改变命运的大模型

下一篇：微服务如何彻底改变了企业安全？