百度智能云发布千帆大模型平台2.0:模型数量增至42个

9月5日消息,2023百度云智大会上,百度智能云千帆大模型平台宣布实现2.0全面升级,首次公布月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。

相比过去,千帆平台纳管的国内外主流大模型达到42个,还预置了41个高质量有行业特色的数据集,预装了知识问答、客服对话、代码助手等10个精选应用范式,大幅降低企业使用、训练和推理大模型的门槛。对于除文心大模型之外的第三方大模型,千帆平台不只是简单的接入,还提供中文增强、性能增强、上下文增强等能力。比如,原来要用英文对话效果才好的Llama2等国外大模型,现在用中文也一样好。

百度智能云发布千帆大模型平台2.0:模型数量增至42个

工具链变得更丰富和更全面,也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间,现在基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。值得关注的是,千帆平台的工具链里内置了103套高质量的prompt模版,还有自动化prompt工程能力,用户做起来会更方便、更轻松。

算力服务升级后,万卡集群训练大模型时,有效训练时间达到95%以上,极大的降低了时间成本,加速比可以达到95%,充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统,企业客户的算法可以以最小的修改成本在这些硬件上运行。

千帆平台全面升级模型安全、内容安全和数据安全保障能力。千帆平台为不同模型厂商设计了可信的专用隔离域,重点保护模型资产安全。在内容安全上预置安全模块,可以有效控制输入和输出的安全风险。在数据安全方面,千帆平台提供从模型、数据到日志的全链路加密,为模型厂商和用户提供可信任的执行环境。

“料多、好用、高效、放心”,百度集团执行副总裁、百度智能云事业群总裁沈抖用四个关键词形容百度智能云千帆大模型平台2.0。(一橙)

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注