江苏龙网

  1. 主页 > 生活百科 > >

数据标注员，困在大模型里( 三 )

数据标注员


排序、打分、评估 ， 这些略显复杂的标注环节，正是所谓的RLHF（Reinforcement Learning from Human Feedback，即从人类反馈中强化学习） ， 目的是为了让大模型与人类价值观、思维方式不断对齐，更加可用 。OpenAI训练ChatGPT的过程中采用了RLHF，取得了显著的效果 。
和过去的数据标注相比 ， 大模型的标注规则更加主观 。一位算法工程师在面试标注员时，会问对方这样的问题：“如果你是企业领导，面对孙悟空、猪八戒、唐僧、沙僧这四类员工，你会更倾向于录用谁？”
没有标准答案，他说 。这类问题是为了考察标注员有没有逻辑思维能力 。
行业对人才的需求变得迫切 。一家名叫恺望数据的初创公司，正在与高校合作，培训大批高校学生标注员 。CEO于旭说 ， 公司去年打造了“恺望数据学院”，已培训50所学校，超过1500名学生从事数据标注 。
当小王给大模型的回答打分时，他经常需要做一些事实核查，工作量全凭运气 。有一回碰到一个题目：宝马3系和奔驰C系哪个比较好？大模型分别罗列了两款车的40个参数，每个参数都需要小王查验 。那道题他足足花了半小时 。
做标注有一段时间，小王发现他打的分很少超过3分 ， “AI的回复还没有到能让我觉得很满意或者很出彩的程度” 。他记得有道题是“蓝牙耳机坏了，是去看牙医还是看耳机厂商”，显然是钓鱼问题，但AI的回答让他眼前一亮，“它说是去修理，而不是去医院” 。
小王对这份工作感到满意 。他每月的底薪是1800元，全勤奖200元，房补200元，算上绩效，一个月可以拿到4000元 。他说，在当地这个收入算中上水平 。他还拉上了自己的发小 ， 两人坐在相邻的工位 。
与小王同期培训的大学生大约20多人，没两天就跑得差不多 ， 只剩两三人 。
但我们不必为公司担心，这里永远不缺大学生 。一个CTO向36氪吐露了真相：你去看看现在大学生的就业状况嘛 。
最想淘汰人工标注的，不是AI
必须承认，关于数据标注的报道有很多，人们达成的共识包括，这份工作是“互联网的流水线”，很难长期做下去，以及人工标注最终会被AI取代 。
过去一个月，我们花了大量时间和算法工程师、AI公司交流 。虽然没有刷新上述共识，但能隐隐感到，最想淘汰人工的或许不是AI 。在AI真正动手之前，那些掌握最先进技术的人已经举起镰刀 。
在技术世界，数据的重要性不言而喻 。算法工程师小段说，如果一个AI业务没有标注过的数据 ， 他们写出再好的算法，也会是一盘散沙 。标注数据越多越好 。薅尽标注员羊毛 ， 是一件稳赚不赔的买卖 。
有时，标注员们花四五天做完的数据，算法一小时就能跑完 。小段供职于一家互联网大厂，部门预算充足，养了几名全职标注员 。“我们尽量不想让标注员闲着 。”他说，“领导会看周报，如果觉得任务不多，就让我们多投放一些任务给他们 。”
一位标注员告诉36氪，虽然共事的程序员嘴上会说，每个工种都有存在的价值，但仍会不经意间流露出一丝轻视 。“当然了，这群人本身就是技术至上 。”标注员自我安慰道 。
技术的进步速度远超所有人预期，来到大模型时代，数据质量将直接影响到模型的性能 。弄明白这一点，一些AI公司毫不犹豫地告别了数据标注外包商 。
“拿回来的数据质量太差 ， 基本没法用 。”一家AI公司的CTO说 。他们的核心业务是做AI生成视频，为此自研了一款模型 ， 能够无限量生成电商产品视频 。为了训练模型，他们特意招了50名大学生做数据标注 。
如果涉及医疗、金融、计算机等专业领域，大学生也很难被信任 。国内一家互联网大厂除了自建标注基地，还会花钱请专业人士来标注 。尽管专业人士在标注行业的占比仍然很?。?但作用相当明显 。比如，一个关于社保断缴的问题，交给熟悉政府文件的专业人士，最让人放心 。
一个公开的秘密是，早在ChatGPT走红前，OpenAI就组建十几位博士生来“打标” 。八年时间，OpenAI光是训练模型就花了10亿美元 。
今年五月，美国一家数据公司开始招聘特定领域的专业人士 。这些高级标注员的报酬不再是白菜价 ， 比如法律数据的标注时薪是45美元，诗歌则是25美元 。
不过，做标注的无论是蓝领还是白领，在一些AI公司的眼里 ， 都是想要节省的成本 。和这些公司交流时，36氪频繁听到一个词：降本增效 。


推荐阅读


上一篇：大模型可解释性你能理得清吗？综述已来，一文解你疑惑

下一篇：Python中APScheduler库的奥秘