9月5日,腾讯推出新一代大模型“混元Turbo”,相比前代模型,腾讯混元Turbo性能有显著提升,训练效率提升108%,推理效率提升100%,推理成本降低 50%,解码速度提升20%。另外,腾讯介绍,混元Turbo效果在多个基准测试上对标GPT-4o,第三方测评居国内第一。
腾讯公司副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏表示,腾讯混元Turbo在腾讯云上线,输入和输出价格只有前代模型的一半,企业和开发者可以直接在云上接入使用。
目前,腾讯混元在腾讯云上提供了多种尺寸的模型服务,通过API、专属模型、精调模型等接入和使用方式面向企业及个人开发者全量开放。
据了解,从去年开始,腾讯混元在国内率先采用MoE结构,并在这一技术路线上持续升级,通过自研的万亿级层间异构MoE结构,在模型不同层采用不同的专家个数和不同的激活参数量,同时优化训练数据,使得新一代模型混元Turbo在效果和性能上均实现大幅度的提升。
作为新一代旗舰大模型,混元Turbo在语言理解、文本创作、数学和代码等领域都有较大提升,跟前代模型相比,复杂数学解决能力提升38%,代码能力提升32%。
2023年9月,腾讯全链路自研的大模型“混元”正式亮相。目前腾讯内部近700个业务及场景已接入,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作SaaS(软件即服务)产品全面接入腾讯混元大模型。
文/广州日报新花城记者:文静
图/广州日报新花城记者:文静
广州日报新花城编辑 李光曼