百度Create AI剧透：“三大开发神器”升级，模型增至77个，三步即可生成应用( 二 ) _Create

文章插图
▲百度智能云千帆大模型平台
王曼透露，截至目前，千帆大模型平台已服务超8.5万客户，累计精调超1.4万模型，开发应用数量超过19万。大模型应用也快速增长，千帆AppBuilder周新增应用突破3000个。
AppBuilder是产业级AI原生应用开发平台，聚焦AI原生应用搭建，面向各类应用场景，提供“代码态”与“零代码态”两种产品形态，分别针对有深度AI原生应用开发需求的用户和“技术小白” 。

文章插图
▲AppBuilder两种产品形态
据王曼介绍， AppBuilder具有三大核心优势：应用创建全流程自动化、工作流编排、开放易用。

文章插图
▲AppBuilder三大核心优势
为进一步提高开发体验和效果，AppBuilder近期进行了产品升级，工具组件扩增至55个，包括数十个大模型能力组件、AI能力组件以及百度自有的搜索组件等。
同时，AppBuilder上线了“三步生成应用”功能，用户仅需用自然语言提出问题，即可自动创建相应应用，无需写复杂的需求和代码。

文章插图
▲三步生成应用功能演示
为了加速应用的快速落地，AppBuilder还新增多渠道应用分发与集成功能，开发者可一键将应用分发到微信公众号、Web端、H5或百度灵境等多渠道，实现应用快速上线。
三、ModelBuilder：模型量增至77个，提供模型精调样板间
百度千帆大模型平台ModelBuilder是企业级全栈式生成式AI大模型开发及应用平台。据王曼介绍，ModelBuilder提供的模型总数目前达到77个，模型数量国内第一。

文章插图
▲ModelBuilder模型矩阵
ModelBuilder近日发布了3款轻量模型，包括ERNIE Speed、ERNIE Lite、ERNIE Tiny，还发布了2款垂直模型，分别是ERNIE Character和ERNIE Functions 。
王曼谈道，在服务客户过程中，团队发现企业客户在应用大模型时主要面临三个主要问题：可定制化、模型性能和模型使用成本。
旗舰模型虽然效果好，但成本较高。相较之下，轻量模型能够满足不同程度的智能、速度和成本的组合需求。
百度智能云发布的三款轻量模型分别适用于不同场景。其中，ERNIE Speed定位于适合微调的基座模型，最高支持128K ，通用能力优异，能更好地处理特定场景问题，同时具备极佳的推理性能，其价格为输入0.004元/千token，输出0.008元/千token 。
ERNIE Lite则更“轻”，兼顾效果与性能，适合低算力加速卡推理使用，价格为输入0.003元/千token，输出0.006元/千token 。
ERNIE Tiny的成本更低，同时低延迟，适用于检索及推荐、意图识别等高并发低延时场景、端侧推理场景，价格为输入0.001元/千token，输出0.001元/千token 。
两款垂直模型中， ERNIE Character适用于游戏NPC、客服对话、对话角色扮演等应用场景，支持微调；ERNIE Functions则适合对话或问答场景中的外部工具使用和业务函数调用，结构化回答合成能力更强、输出格式更稳定。
为了让开发者更高效地开发大模型应用，ModelBuilder还提供高质量具有行业特色的数据集，内置了业内最多的47个数据集，提供119个产业级Prompt模板，提供模型精调样板间，内置作文点评、口语教练等高频场景。

文章插图
▲ModelBuilder提供数据集、Prompt模板等
从数据管理、模型精调、模型评估优化，到推理服务部署、Prompt工程， ModelBuilder提供全流程工具链，并以RESTful API（应用程序接口）形式提供全栈API能力，支持JAVA、Python/ target=_blank class=infotextkey>Python等多语言的SDK，覆盖模型开发和应用开发的20多个的使用案例。

文章插图
▲ModelBuilder提供全流程工具链
此外，通过千帆模型路由方案，多模型组合应用效果可追平旗舰版大模型，成本大幅降低。
王曼分享了一个客户案例：在手机助手对话场景中，通过模型路由方案将用户问题分别识别为简单问题和复杂问题，根据不同情况选择不同的能力模型。测试数据显示，推理成本可降低15%、效果对齐EB3.5 。