我认为我们很关心你是乐观主义者还是悲观主义者 。这是一种完全带有偏见的看待事物的方式 。我也不想成为这样的人 。我想冷眼面对利益和威胁 。从我的立场来看，我们可以非常清楚地看到 ， 随着这些大型语言模型规模的每一步扩大 ， 它们变得更加可控 。
所以两年前，谈话——我当时认为这是错误的——是“哦，他们只会发表有毒的、反胃的、有偏见的、种族主义的长篇大论 。” 我当时想，这是时间的快照 。我认为人们忽视的是年复一年的进步，以及这种进步的轨迹 。
例如，现在我们有了像 Pi 这样的模型 ， 它们的可控性令人难以置信 。你不能让 Pi 产生种族主义、恐同、性别歧视等任何有毒的东西 。你无法让它指导你生产生物或化学武器，或者支持你向邻居的窗户扔一块砖头的愿望 。
问：不挂断 。告诉我你是如何实现这一目标的，因为这通常被认为是一个未解决的问题 。如何确保您的大型语言模型不会说出您不希望它说出的内容？
Suleyman：是的，很明显我不想提出这样的要求——你知道 ， 请尝试这样做！Pi 已上线 ， 您应该尝试所有可能的攻击 。越狱、即时黑客或任何对 Pi 都不起作用的东西 。我不会提出主张 。这是客观事实 。
问：关于如何——我的意思是，我不会透露太多细节，因为它很敏感 。但最重要的是，我们拥有世界上最强大的团队之一，他们创建了过去三四年来所有最大的语言模型 。令人惊叹的人们，在极其勤奋的环境中，进行大量的计算 。我们从一开始就把安全放在第一位，因此 Pi 并不像其他公司的模型那么辣 。
Suleyman：看看Character.ai 。[角色是一个聊天机器人，用户可以为其打造不同的“个性”并在线分享以供其他人聊天 。]它主要用于浪漫的角色扮演，我们从一开始就说过这是不可能的——我们不会”不要这样做 。如果你试图对 Pi 说“嘿，亲爱的”或“嘿，小可爱”之类的话，它会立即拒绝你 。
但这将是令人难以置信的尊重 。如果你开始抱怨你所在社区的移民抢走了你的工作，Pi 不会对你大喊大叫，也不会对你摇手指 。Pi 会询问并提供支持，并尝试了解这些信息从何而来，并温和地鼓励您产生同理心 。你知道，这是我 20 年来一直在思考的价值观 。
问：谈论您的价值观并希望让世界变得更美好，为什么不分享您是如何做到这一点的，以便其他人也可以改进他们的模型呢？
Suleyman：嗯，因为我也是一个实用主义者，我正在努力赚钱 。我正在努力创办一家企业 。我刚刚筹集了 15 亿美元，我需要支付这些筹码的费用 。
看 ， 开源生态系统正在火热进行中，并且做得非常出色，人们正在发现类似的技巧 。我总是假设我只领先六个月 。
问：让我们回到你想要实现的目标 。大型语言模型显然是当前的技术 。但你为什么还要押注于他们呢？
Suleyman：人工智能的第一波浪潮是关于分类的 。深度学习表明，我们可以训练计算机对各种类型的输入数据进行分类：图像、视频、音频、语言 。现在我们正处于生成浪潮中，您可以获取输入数据并生成新数据 。
第三波将是互动阶段 。这就是为什么我长期以来一直坚信对话是未来的界面 。你知道，你将与你的人工智能交谈，而不是仅仅点击按钮和打字 。
这些人工智能将能够采取行动 。你只需给它一个总体的、高层次的目标 ， 它就会使用它所拥有的所有工具来实现这一目标 。他们会与其他人交谈，与其他人工智能交谈 。这就是我们要对 Pi 做的事情 。
这是技术所能实现的巨大转变 。这是技术史上一个非常非常深刻的时刻，我认为很多人都低估了这一时刻 。当今的技术是静态的 。粗略地说，它会执行您告诉它执行的操作 。
但现在技术将变得生动起来 。如果你给予它，它将有潜在的自由来采取行动 。我们正在创造具有这种代理作用的工具，这确实是我们物种历史上的一步变化 。
问：这正是让很多人担心的言论 。你想赋予机器自主权——一种机构——来影响世界，但我们也希望能够控制它们 。你如何平衡这两件事？感觉那里有一种紧张气氛 。
【智能体 DeepMind联合创始人：生成式AI只是一个阶段，接下来是交互式AI可通过调用其他软件和其他人来完成为他们设置的任务】
推荐阅读
- 秋季养生，儿童体质锻炼，这项运动真的不普通！
- 提高体质：睡前喝杯奶
- 健康饮食十五要
- 身体排毒食品“集中营”
- 闲话餐前吃什么？
- 维生素和蔬菜不能互替
- 海味吃出“男子气”
- 体贴男人身体的12种食品
- 紫外线消毒灯开多久会对人体伤害 紫外线消毒灯开启多久开始计时
- 运动后吃鱼身体会更容易疲劳