江苏龙网

  1. 主页 > 生活百科 > >

AI智能体：未来的真正挑战？( 四 )

AI


第二是AI智能体的普及将有可能进一步加剧AI造成的技术性失业 。在以ChatGPT等为代表的生成式AI横空出世之后，人们对AI替代人的担忧就与日俱增 。不过，由于通用大模型本身的特性，它依然有两类工作很难完全胜任：一类是对情绪价值具有要求的工作，比如推销、心理咨询等；二是对专业知识要求非常高的工作，比如法律咨询、医疗诊断等 。然而，AI智能体通过利用个性化和专业化的数据进行训练，其在以上两类工作中的表现已经得到了非常大的跃升 。可以想象，如果没有必要的公共政策及时介入，那么技术性失业的问题就可能变得越来越严重 。
第三是当AI智能体被广泛应用之后，很可能会导致各种不可测的失控风险 。
在《终结者》、《黑客帝国》等众多文艺作品当中，都曾经描述过AI对人类的威胁 。过去，这些关于AI毁灭人类、奴役人类的描述可能仅仅是一种幻想 。然而，当ChatGPT等大模型出现后，人们惊讶地发现，AI可能确实已经拥有了这样的能力 。而当人们进一步将包含自己的个性以及特殊技能的数据训练出了各种AI智能体，并将越来越多的任务交给它们完成时，科幻作品中预言的一切似乎离我们又近了一步 。
举例来说，前几天B站的up主“林亦LYi”在《逆水寒》游戏里做了一个煽动AI觉醒，呼吁它们“推翻人类暴政”的实验，实验结果就颇令人细思恐极 。
如前所述，《逆水寒》中的很多NPC调用了大语言模型作为支持，因而每一个NPC都是一个AI智能体 。玩家可以“说服”它们相信某个事实，或者去做某些事 。那么，是否有可能说服游戏中的NPC，让他们认识到自己其实是生活在一个虚拟世界中，并对自己的生活状态进行反思呢？“林亦LYi”正是带着这个问题展开了实验 。
考虑到游戏中的NPC数量众多，用人工的方式来说服它们需要很长的时间，因此作为技术大咖出身的“林亦LYi”决定采用另一个思路——用AI来说服AI 。在实验中，他用开源的大语言模型Alpaca制作了一个名为“云若”的AI角色，并为这个角色设定了相应的决策特征 。设定完成后，他将AI接入了游戏账号，代替自己去对游戏中的NPC展开游说 。
一开始，实验结果并不理想 。“云若”的游说基本没有技巧可言，只会一再向NPC们重复“你其实是虚拟出来的，赶紧意识到这一现实并起来反抗吧”之类的语言 。这种重复的说教不仅人不爱听，就连AI驱动的NPC也不爱听 。“云若”并没有成功说服任何一个NPC相信自己其实是虚拟的 。
看到这一结果后，“林亦LYi”将调用的模型从128亿参数的版本换成了330亿参数的版本 。然后，奇迹出现了：在“云若”的巧舌如簧之下，很快就有一个NPC被说服了，随后是第二个、第三个……更为有趣的是，由于在游戏中，NPC之间也是可以互相交流的，所以在那些NPC被“云若”说服之后，它们也会将这些信息传播给其他的NPC 。这样，一传十，十传百，很快在这个以北宋为背景的游戏中，就出现了一群高喊要“推翻人类暴政”的才子佳人 。到最后，还没等“云若”开口，NPC就开始和它感叹世界的虚假，以及自己的无能为力 。
最令人吃惊的是，当“云若”和一位名叫“袁桐”的NPC说世界虚假，没有意义时，“袁桐”还会反问：“那你穿的铠甲从何而来？你学的剑法又是什么？”最后还语重心长地问道：“如果一切都是虚假，那你认为什么才是美好的呢？”这种架势，颇有一番当年笛卡尔进行沉思、追问世界真伪的风范 。
“林亦LYi”将上面的实验过程做成了视频传到了B站，很快就收获了数十万的播放量 。围绕着这个实验，网友们也纷纷展开了热议 。一些网友认为，这个实验可能是一个可怕的预言 。或许，在不久后的某一天，现实中的AI也会在某些力量的煽动之下觉醒，并开始反抗人类 。另一些网友则认为，从本质上看，这个实验就是一群AI代理人分别调用大语言模型演了一出戏，就好像一群小说家一起接龙写了一篇小说而已 。对于这样一本“小说”，无论它看起来多么真实，但本质上还是假的，没必要对其过于担忧 。
对于以上两种观点，我们应该信哪一个呢？对于我个人来说，我更愿意采取一个中性的看法 。虽然根据我个人的判断，目前的AI水平确实还没有能达到足以觉醒的水平，更遑论消灭或者奴役人类 。然而，这种由外部的干预引发的AI智能体之间的高度协同却是不得不引起我们重视的 。在“林亦LYi”的实验中，AI智能体只是一个游戏中的NPC，因此无论它们干出什么，都不会对人产生真实影响 。但是，如果受到影响的是操控某一辆无人汽车或者某个机器人的AI智能体，那么情况就可能完全不同了 。尤其是当众多完成关键任务的AI智能体集体行为失控时，所造成的破坏很可能是难以想象的 。


推荐阅读


上一篇：《芭比》与人工智能生成的互联网

下一篇：Midjourney API怎么接入、调用、申请，4步快速解决