江苏龙网

  1. 主页 > 生活百科 > >

让AI当你的办公助手，还差几步？( 二 )

AI


就安全问题，虎嗅从某国内大型语言模型（LLM）创业公司处了解到，目前国内已有一些基于大模型的Chatbot（聊天机器人）产品，但多数都受到安全问题限制，正在按要求自查，并等待审批 。
大模型是底座，还需要小模型
不稳定，是生成式AI天生的缺陷，当面对C端用户时，AI只是一个聊天机器人，不稳定的因素在于内容安全性 。在大模型与用户之间添加一个过滤机制即可，很多传统的关键词过滤技术都可以解决这种问题，在AI技术加持下，也可以用一个过滤不安全内容的AI小模型实现更好的过滤效果 。
B端用户的业务壁垒在于其所在领域或行业中的实践经验、技能和知识行业，也就是人们常说的KnowHow，而要让AI大模型在实际业务中发挥作用，则需要利用这些行业型KnowHow对AI进行专门的训练 。在这方面，AI业界和应用产业似乎已经有了一些共识：AI大模是底座，是导航，而要真正把AI能力落地到业务中，还需要专门训练聚焦行业的中、小模型 。
AI大模型在面对B端用户时，生成的内容不仅要安全，还要可靠，要对用户的业务负责，甚至每个字都容不得马虎 。不过，AI大模型的效率提升对于B端用户来说，吸引力很大，在很多垂直行业都已有先驱厂商开始探索了 。
在工业领域，西门子日前刚刚宣布将和微软合作，借助OpenAI的ChatGPT帮助软件开发人员和自动化工程师使用自然语言输入生成PLC（可编程逻辑控制器）代码，从而减少时间成本并降低错误率 。同时，这些能力还有助于维护团队以更快的速度识别错误，并逐步生成解决方案 。
“利用AI编写PLC代码肯定会在流程上减少工程师的工作量 。”上海优也信息科技有限公司首席科学家郭朝晖认为，利用AI编写PLC代码在工业上很有可行性，但从安全角度出发，在代码生成之后，还应该有人类参与检查 。
作为一个电脑程序，ChatGPT发布以来，编程能力就一直受到工程师们的重点关注，微软在Github中也推出了AI编程助手Copilot 。同为“写代码”，在工业领域自然也已经有PLC工程师尝试用ChatGPT编写代码 。一位PLC工程师告诉虎嗅，“目前来看ChatGPT的PLC编码能力不比普通工程师弱，但对于输入prompt（提示词）的理解能力还有优化空间，且生成的最终代码有些需要人工修改 。”
不过，郭朝晖也认为ChatGPT要在工业领域推广，还需要解决工程师使用习惯和数据基础等问题，同时在工业设备中使用ChatGPT的条件也还有需要进一步优化 。
在另一个严肃行业医疗领域中，ChatGPT的应用常被人认为更加马虎不得 。但研发医疗行业大模型的左手医生团队CEO张超认为，虽然医疗行业的内容需要非常严谨，但是不同场景，对于生成式内容的风险接受度也不同 。“我们把医疗行业分成4个象限，对于生产式AI的风险，我们可以从这4个象限的角度来分析 。”
张超介绍说，这4个象限首先是以知识探索为目的的头脑风暴象限，在这个象限中，是允许大胆出错的，这个场景对正确信息的召回更重要 。第二象限是文书处理类，这个场景中，AI需要做的就是归纳总结，按图索骥，出错的概率不大，即使出错也可以以较低成本更正，并且更正结果可以推动模型升级 。第三象限是临床决策类，临床决策任务是一个比较特定的任务，在这个场景中AI是医生的助手，而AI生成的内容，可以由医生去把控风险 。
“真正存在风险的是第四象限，就是在AI给没有鉴别能力的人提供服务的场景中 。”张超认为，虽然这个场景中存在一定的风险，但是可以通过对AI生成内容溯源的方式来规避风险，“我们可以让基于文档嵌入(Document Embedding)等手段，大模型在圈定的知识范围内给出答案，通过缩小服务边界来控制风险 。”
当然，这种形式可能又会使患者陷入“信息获取茧房”，不过张超表示，新技术肯定会存在局限性，但是落地、研发团队的任务就是想办法找更好的场景去避免这种局限性，让技术能够为这个场景产生更大的价值 。
定价难题怎么解
AI办公软件市场化的另一个难题，那就是定价 。
在工作当中，一个生产力相同的同事，和只能帮忙查资料、整理文案的助理，在工资方面肯定是不一样的 。AI在用户业务中的定位自然也直接影响到它的定价问题 。对于用户来说，“AI助理”的价格后续相当于购买SaaS工具，自然是能低就低 。但如果是“AI同事”，那对它投入几何，就要考察它的执行能力了 。


推荐阅读


上一篇：前端和后端哪个工资高

下一篇：“第一批被AI抢走饭碗的人”：我们不该被嘲笑