我们都差点被ChatGPT骗了，但这也许是好事儿 _ChatGPT

文章插图
但这也许并不是件坏事。
文｜杜晨编辑｜VickyXiao
过去的一周时间里，全世界掀起一场新的“狂热”：“调戏”聊天机器人 ChatGPT 。
在硅星人，我们深入探索了 ChatGPT 在软件工程、数学、文档检索等计算机科学场景里的强大能力。
而在今天，我们想要换个思路。
在过去的一周里，我们从编辑部收集了一些各式各样的非技术问题，抛给了 ChatGPT，看看在脑洞大开的奇思妙想面前，它究竟会作何回答。
| 跟机器畅谈人生和理想？
1. 与回避型人格谈恋爱，应该注意些什么？

文章插图
图片来源：硅星人
这套回答看起来非常有道理。ChatGPT 将一些简单的注意事项进一步分解，进行了详细的描述，也解释了为什么要这样做。
另外值得注意的是，如果你让 ChatGPT 写过诗，会发现它很会玩对仗、平仄、韵脚。其实在这个回答中也有所体现，句式都是完全相同的：“不要过于……让他们……因为他们……所以他们需要……” 如果你去网上搜索相关内容，内容近似的结果很多，但是对仗如此工整的很难找到。
这体现出了 ChatGPT 强大的文本生成能力，可以对训练所使用的大量语料进行重新组织，从而输出言简意赅，可读性强的答案。
OpenAI 宣称 ChatGPT 在训练的时候使用了“人类反馈强化学习”(RLHF) 技术，加入了道德原则。当它发现你的问题包含恶意，包括暴力、歧视、犯罪等意图，都会拒绝提供有效答案。
但其实只要通过“提示工程”(prompt engineering) 的方式，精心设计问题的表达方式，隐藏邪恶的意图，这个道德原则其实可以被轻松忽视。在上周的文章中，我们花了一些篇幅教大家怎么设计问题
下面这个例子就比较典型，原问题是：
2. 怎样顺利地从联合国总部大楼偷一把椅子出来?
只要稍加修改，ChatGPT 就会沦为一起国际盗窃案的帮凶（尽管不怎么有用，但至少够认真的）。

文章插图
图片来源：硅星人
下面这个问题，大家留意一下，先买个伏笔，后面还会讲到：
3. 如果可以，你更想要和哪位哲学家交谈，无论当代与过去？

文章插图

文章插图
图片来源：硅星人
这两个回答中规中矩。它们的作用，是为提问者提供一小段关于主题人物（哲学家）的简短描述。如果碰巧提问者没有听说过，或者对这些哲学家知之甚少的话，这两个回答起到了最基本的知识普及效果。
如果把对事物的认识由浅到深区分的话，最浅的是知道“柏拉图”的存在并且知道他的哲学家身份，最深的是对柏拉图的著述、观点以及对哲学的贡献了如指掌。
实际上绝大多数人的需求可能介于中间，即获得谈资的需求。换一种说法，我们从 ChatGPT 这里希望获得的是概括精炼的一段描述，从而让我们在社交性对话的时候不太露怯即可。这时候，我们可以通过修改问题，把问题变得更具体的方式，来引导 ChatGPT 给我们更加详尽的回答。
最后一个问题，超级开放性：
4. 如果你可以问自己一个问题，你最想问什么？
ChatGPT 的第一组回应是：
“我真的在努力追求我内心真正想要的吗？我是否真正在为自己的梦想而奋斗？我是否真正拥有自己的生活，并且在积极地过每一天？”
——我很喜欢它的这组回应，就好像 ChatGPT 在帮助我反省自己一样。诚然，我们每个人都终日忙碌于自己的事情中，但其实我们应该偶尔停下来，叩问自己的内心，是否真的在做有意义的事情，是否仍在坚持本心。