江苏龙网

  1. 主页 > 生活百科 > >

《财富》封面：全球爆红的ChatGPT是如何诞生的？( 六 )

ChatGPT


OpenAI表示相比其他人工智能实验室，其会继续公布更多研究成果 。公司还为重心向产品转移的做法进行辩护 。首席技术官穆拉蒂说道：“你不能只在实验室里开发通用人工智能 。”她主张，发布产品是了解人们希望如何使用和滥用技术的唯一途径 。她表示，直到发现人们使用GPT-3进行编程，OpenAI才知道GPT-3最受欢迎的应用是编写软件代码 。同样，OpenAI最担心的问题是人们利用GPT-3生成虚假的政治信息，但事实证明这只是杞人忧天 。她表示，相反，最常见的恶意使用GPT-3的行为是制作垃圾广告邮件 。最后，穆拉蒂表示，OpenAI希望通过公开其技术，“最大程度降低真正强大的技术可能对社会产生的冲击 。”
她表示，如果不让人们预先了解未来可能出现的情形，先进人工智能所引发的社会混乱可能更严重 。
萨茨科尔也认为OpenAI与微软的合作创造了一种全新的“预期，即我们需要利用我们的技术开发一种有用的产品”，但他坚持认为OpenAI文化的核心并未改变 。
他说道，可以使用微软的数据中心，对于OpenAI的发展至关重要 。布洛克曼也表示，与微软的合作使OpenAI能够创造收入，同时不必过多关注商业运营，否则公司可能不得不在商业运营方面投入更多精力 。他说道：“招聘数千名销售人员，可能会改变这家公司，而与一家已经拥有销售团队的公司成为合作伙伴，实际上是非常好的策略 。”
萨茨科尔直截了当地否认了OpenAI不再重视安全性的说法 。“我想说的是，事实恰恰相反 。”萨茨科尔称，在员工离职并成立Anthropic之前，人工智能安全“被委派给一个团队负责”，但现在它变成了所有团队的责任 。“安全性标准不断提高，我们也在开展越来越多安全性方面的工作 。”
“我们在开展越来越多安全性方面的工作 。”
——伊利亚·萨茨科尔，OpenAI首席科学家
然而，批评者表示，OpenAI以产品为导向开发先进人工智能的做法是不负责任的，这相当于向人们发放上膛的枪支，理由是这是确定人们是否真的会相互射击的最佳途径 。
纽约大学（New York University）认知科学专业荣誉退休教授加里·马库斯，对以深度学习为中心的人工智能开发策略持怀疑态度 。他认为，生成式人工智能“将对社会结构产生切实的、迫在眉睫的威胁” 。他表示，GPT-3和ChatGPT等系统将生成虚假信息的成本降低到接近于零，可能会掀起虚假信息泛滥的狂潮 。马库斯表示，我们甚至已经看到了第一批受害者 。程序员发布和回答编程问题的网站Stack Overflow已经不得不禁止用户提交ChatGPT生成的回答，因为这种貌似合理实则错误的回答已经令该网站疲于应付 。科技资讯网站CNET开始使用ChatGPT生成资讯文章，但后来发现，由于许多文章存在事实性错误，不得不对它们进行更正 。
对有些人而言，真正的风险是ChatGPT能够编写准确的代码 。网络安全公司Check Point的研究副总裁玛雅·霍洛维茨表示，她的团队可以用ChatGPT设计每一个阶段的网络攻击，包括杜撰一封令人信服的钓鱼邮件，编写恶意代码，以及逃避常见的网络安全检查等 。她警告称，ChatGPT基本可以让不懂编程的人成为网络罪犯，“我担心未来会发生越来越多网络攻击” 。OpenAI的穆拉蒂表示，公司也有同样的担忧，因此正在研究如何“调整”其人工智能模型，使它们不会编写恶意软件，但这绝非易事 。
有无数批评者和教育工作者痛斥，学生很容易使用ChatGPT作弊 。纽约、巴尔的摩和洛杉矶的校区均禁止学校管理的网络访问聊天机器人，澳大利亚的一些高校表示，将转为通过有专人监考的书面考试评估学生 。（OpenAI正在开发更便于检测人工智能生成文本的方法，包括可能在ChatGPT生成的文本上添加数字“水印” 。）
2022年，ChatGPT最初的开发方式还引发了人们对道德方面的担忧 。《时代》（Time）杂志调查发现，在开发过程中，OpenAI聘请了一家数据标记公司，这家公司雇佣肯尼亚的低薪员工识别包含不良语言、色情图片和暴力内容的段落 。报道称，一些员工因此出现了精神健康问题 。OpenAI在一份声明中对《时代》杂志表示，数据标记工作“是最大程度减少训练数据中的暴力和色情内容以及开发可检测有害内容的工具的必要步骤” 。
4
免费提供ChatGPT使OpenAI能够获取大量反馈，从而帮助其完善未来的版本 。但OpenAI未来能否维持其在语言人工智能领域的主导地位，仍是个未知数 。伦敦人工智能公司Faculty的创始人兼CEO马克·华纳表示：“历史上，对于这种高度通用的算法，我们所看到的是，它们并没有达到足够可靠的程度，能够保证一家公司独占全部回报 。”例如，面部识别和图像识别技术最早的开发者是谷歌和英伟达（Nvidia）等科技巨头，但现在它们已经无处不在 。


推荐阅读


上一篇：ChatGPT带火AI投资 商业模式能否看清？

下一篇：MySQL MaxCompute与AnalyticDB实现数据处理与转换过程