ChatGPT爆火，网络安全再次被摆上台面 _ChatGPT

尽管有许多声音赞扬ChatGPT，但也有些人担心它弊大于利。关于骗子劫持人工智能的新闻此起彼伏，这增加了质疑者的不安情绪，他们甚至认为ChatGPT是一个危险的工具。
众所周知，人工智能聊天机器人并不是完美的，但用户不必对其视若无睹。本文将分享骗子是如何滥用ChatGPT的，以及阻止他们的方法等内容。
ChatGPT会泄露您的个人信息吗？
关于ChatGPT的大多数前端安全问题都源于猜测和未经证实的报告。对于刚刚推出不久的ChatGPT，新用户对其隐私和安全性产生误解是正常的。根据OpenAI的使用条款，以下是ChatGPT处理数据的方式：
个人身份信息
有传言称，ChatGPT出售个人身份信息（PII）。
该平台由OpenAI推出，OpenAI是一家著名的人工智能研究公司，核心宗旨在于“实现安全的通用人工智能（AGI）”，使其有益于人类。OpenAI由微软和埃隆·马斯克（Elon Musk）等科技投资者资助。ChatGPT应该只使用客户数据来提供隐私政策中所述的服务。
此外，ChatGPT要求提供的信息最少。您可以仅使用您的姓名和电子邮件地址创建一个帐户。
对话
OpenAI确保ChatGPT对话的安全，但它保留监控的权利。人工智能培训师不断寻找需要改进的地方。由于该平台包含大量而有限的数据集，因此解决错误、故障和漏洞需要系统范围的更新。
然而，OpenAI只能出于研究目的进行监控对话。如果将对话内容分发或出售给第三方，则违反了其自身的使用条款。
公共信息
据BBC报道，OpenAI对ChaGPT进行了3000亿单词训练。它从公共网页上收集数据，如社交媒体平台、商业网站和评论区。除非您已经离开网络并删除了足迹，否则ChatGPT很可能会获取您的信息。
ChatGPT存在哪些安全风险？
虽然ChatGPT本质上并不危险，但是该平台存在很多安全风险。骗子可以绕过限制来执行各种网络攻击。
1、可信的网络钓鱼邮件

文章插图
骗子无需花几个小时写电子邮件，而是通过使用ChatGPT 。它快速而准确，高级语言模型（如GPT-3.5和GPT-4）可以在几分钟内生成数百封连贯、有说服力的网络钓鱼邮件。ChatGPT甚至可以采用独特的语调和写作风格。
【ChatGPT爆火，网络安全再次被摆上台面】由于ChatGPT使发现黑客攻击变得更加困难，因此在回复电子邮件之前要格外小心，避免泄露信息。请注意，合法公司和组织很少会通过随机电子邮件，来要求提供保密的个人身份信息。
2、数据盗窃
ChatGPT使用开源的LLM，任何人都可以对其修改。精通大型语言模型（LLM）和机器学习的编码员通常会将预先训练好的人工智能模型集成到他们的传统系统中。在新的数据集上训练人工智能会改变其功能。例如，如果您给ChatGPT提供食谱和锻炼程序，它就会成为伪健身专家。
尽管ChatGPT具有协作性和方便性，但开源使技术容易被滥用。熟练的犯罪分子已经利用了ChatGPT 。他们对大量被盗数据进行训练，把平台变成一个用于欺诈的个人数据库。
3、恶意软件生产

文章插图
ChatGPT使用不同的编程语言编写可用的代码片段。大多数示例只需要很少的修改就可以正常运行，特别是如果您构建一个简洁的提示语，就可以利用这个功能来开发应用程序和网站。
由于ChatGPT接受过数十亿个数据集的训练，它也知道非法行为，比如开发恶意软件和病毒。OpenAI禁止聊天机器人编写恶意代码，但是骗子通过重组提示和提出精确的问题绕过了这些限制。
以下照片显示，ChatGPT拒绝为恶意目的编写代码。